Недавно мы встретились с Петром Величковичем, научным сотрудником DeepMind. Вместе со своими соавторами Петар представляет свою статью The CLRS Algorithmic Reasoning Benchmark на МКМЛ 2022 в Балтиморе, штат Мэриленд, США.
Мое путешествие в DeepMind…
На протяжении всего моего обучения в Кембриджском университете неспособность умело играть в го рассматривалась как явное свидетельство недостатков современных систем глубокого обучения. Мне всегда было интересно, как освоение таких игр может выйти за рамки возможного.
Однако в начале 2016 года, когда я защитил докторскую диссертацию в области машинного обучения, все изменилось. DeepMind сразился с одним из лучших игроков в го в мире в соревновательном матче, за просмотром которого я провел несколько бессонных ночей. Победу одержала DeepMind, создав при этом революционный игровой процесс (например, «Move 37»).
С этого момента я начал думать о DeepMind как о компании, способной осуществить, казалось бы, невозможные вещи. Итак, я сосредоточил свои усилия на том, чтобы однажды присоединиться к компании. Вскоре после защиты докторской степени в начале 2019 года я начал свой путь в качестве научного сотрудника в DeepMind!
Моя роль…
Моя роль – это эффективный цикл обучения, исследований, общения и консультирования. Я всегда активно пытаюсь изучить что-то новое (последний раз — теорию категорий, увлекательный способ изучения вычислительных состав), читать соответствующую литературу, смотреть доклады и семинары.
Затем, используя эти знания, я вместе со своими товарищами по команде провожу мозговой штурм о том, как мы можем расширить этот массив знаний, чтобы положительно повлиять на мир. На этих занятиях рождаются идеи, и мы используем сочетание теоретического анализа и программирования для постановки и проверки наших гипотез. Если наши методы приносят плоды, мы обычно пишем статью, делясь своими мыслями с более широким сообществом.
Исследование результата не будет таким ценным без надлежащего информирования о нем и предоставления другим возможности эффективно его использовать. По этой причине я провожу много времени, представляя нашу работу на таких конференциях, как ICML, выступая с докладами и консультируя студентов. Это часто приводит к формированию новых связей и открытию новых научных результатов для изучения, еще раз запуская благотворный цикл!
В ИКМЛ…
Мы проводим презентацию нашей статьи «Баланс алгоритмического рассуждения CLRS», которая, как мы надеемся, поддержит и обогатит усилия в быстро развивающейся области нейронно-алгоритмического рассуждения. В этом исследовании мы поручаем нейронным сетям на графах выполнить тридцать различных алгоритмов из учебника «Введение в алгоритмы».
Многие недавние исследовательские усилия направлены на создание нейронных сетей, способных выполнять алгоритмические вычисления, в первую очередь для того, чтобы наделить их способностями к рассуждению, которых обычно не хватает нейронным сетям. Важно отметить, что каждая из этих статей генерирует свой собственный набор данных, что затрудняет отслеживание прогресса и повышает барьер входа в эту область.
Тест CLRS с его легко доступными генераторами наборов данных и общедоступным кодом призван решить эти проблемы. Мы уже заметили большой энтузиазм сообщества и надеемся направить его еще дальше во время ICML.
Будущее алгоритмического мышления…
Основная мечта наших исследований алгоритмического мышления — охватить вычисления классических алгоритмов внутри многомерных нейронных исполнителей. Это позволило бы нам развернуть эти исполнители непосредственно над необработанными или зашумленными представлениями данных и, следовательно, «применить классический алгоритм» к входным данным, на которых он никогда не был предназначен для выполнения.
Что интересно, так это то, что этот метод потенциально может обеспечить эффективное обучение с подкреплением данных. Обучение с подкреплением наполнено примерами сильных классических алгоритмов, но большинство из них не могут быть применены в стандартных средах (таких как Atari), поскольку они требуют доступа к огромному количеству конфиденциальной информации. Наш проект сделает возможным применение такого типа приложений, фиксируя вычисления этих алгоритмов внутри нейронных исполнителей, после чего их можно будет напрямую развернуть во внутренних представлениях агента. У нас даже есть рабочий прототип, который был опубликован на NeurIPS 2021. Не могу дождаться, чтобы увидеть, что будет дальше!
Я в предвкушении…
Я с нетерпением жду семинара ICML по сотрудничеству и взаимодействию человека и машины, теме, которая близка моему сердцу. По сути, я считаю, что величайшие применения ИИ станут возможными благодаря синергии с экспертами в области человеческой деятельности. Этот подход также очень соответствует нашей недавней работе по расширению возможностей интуиции чистых математиков с использованием ИИ, которая была опубликована на обложке журнала Nature в конце прошлого года.
Организаторы семинара пригласили меня на панельную дискуссию, чтобы обсудить более широкие последствия этих усилий. Я буду выступать вместе с очаровательной группой участников дискуссии, включая сэра Тима Гауэрса, которым я восхищался во время учебы в Тринити-колледже в Кембридже. Излишне говорить, что я в восторге от этой панели!
Заглядывая вперед…
Для меня крупные конференции, такие как ICML, представляют собой момент, чтобы остановиться и задуматься о разнообразии и инклюзивности в нашей области. Хотя гибридные и виртуальные форматы конференций делают мероприятия доступными для большего числа людей, чем когда-либо прежде, нам нужно сделать гораздо больше, чтобы сделать ИИ разнообразной, справедливой и инклюзивной областью. Вмешательства, связанные с ИИ, повлияют на всех нас, и нам необходимо убедиться, что недостаточно представленные сообщества остаются важной частью разговора.
Именно поэтому я преподаю курс по геометрическому глубокому обучению на программе африканского магистра машинного интеллекта (AMMI) – теме моей недавно написанной в соавторстве прототипа книги. AMMI предлагает первоклассное обучение машинному обучению самым ярким начинающим исследователям Африки, создавая здоровую экосистему практиков ИИ в регионе. Я так рад, что недавно встретил нескольких студентов AMMI, которые присоединились к DeepMind для прохождения стажировки.
Меня также невероятно интересуют возможности информационно-просветительской работы в восточноевропейском регионе, откуда я родом, что дало мне научную подготовку и любопытство, необходимые для освоения концепций искусственного интеллекта. Восточноевропейское сообщество машинного обучения (EEML) особенно впечатляет: благодаря его деятельности начинающие студенты и практики в регионе связываются с исследователями мирового уровня и получают бесценные советы по карьере. В этом году я помог привезти EEML в мой родной город Белград, будучи одним из ведущих организаторов сербского семинара по машинному обучению EEML. Я надеюсь, что это только первое из серии мероприятий, призванных укрепить местное сообщество ИИ и расширить возможности будущих лидеров ИИ в регионе Восточной Европы.