Прокладывая путь к универсальным системам с более эффективным и действенным ИИ
Начиная с этих выходных, тридцать девятая Международная конференция по машинному обучению (ICML 2022) пройдет с 17 по 23 июля 2022 года в Балтиморском конференц-центре в Мэриленде, США, и будет проходить как гибридное мероприятие.
Исследователи, работающие в области искусственного интеллекта, науки о данных, машинного зрения, вычислительной биологии, распознавания речи и т. д., представляют и публикуют свои передовые работы в области машинного обучения.
Помимо спонсирования конференции и поддержки семинаров и социальных мероприятий, проводимых нашими давними партнерами LatinX, Black in AI, Queer in AI и Women in Machine Learning, наши исследовательские группы представили 30 статей, в том числе 17 статей, написанных в сотрудничестве с внешними организациями. Вот краткое введение в наши предстоящие устные и тематические презентации:
Эффективное обучение с подкреплением
Повышение эффективности алгоритмов обучения с подкреплением (RL) является ключом к созданию обобщенных систем искусственного интеллекта. Это включает в себя помощь в повышении точности и скорости работы, улучшении передачи и обучения с нуля, а также сокращении вычислительных затрат.
В одной из наших избранных устных презентаций мы показываем новый способ применения обобщенного улучшения политики (GPI) к совокупности политик, что делает его еще более эффективным для повышения производительности агента. В другом устном докладе был предложен новый обоснованный и масштабируемый способ эффективного обучения без необходимости получения бонусов. Параллельно мы предлагаем метод расширения агента RL с помощью процесса поиска на основе памяти, уменьшая зависимость агента от возможностей его модели и обеспечивая быстрое и гибкое использование прошлого опыта.
Прогресс в языковых моделях
Язык является фундаментальной частью человеческого бытия. Это дает людям возможность передавать мысли и концепции, создавать воспоминания и укреплять взаимопонимание. Изучение аспектов языка является ключом к пониманию того, как работает интеллект как в системах искусственного интеллекта, так и у людей.
Наша устная презентация об унифицированных законах масштабирования и наша статья о поиске исследуют, как мы можем более эффективно строить более крупные языковые модели. Рассматривая способы создания более эффективных языковых моделей, мы представляем новый набор данных и тест с StreamingQA, который оценивает, как модели адаптируются к новым знаниям и забывают их с течением времени, а наша статья о создании повествования показывает, как текущие предварительно обученные языковые модели все еще с трудом справляются с созданием более длинных текстов. из-за ограничений кратковременной памяти.
Алгоритмические рассуждения
Нейронно-алгоритмическое мышление — это искусство создания нейронных сетей, способных выполнять алгоритмические вычисления. Эта растущая область исследований имеет большой потенциал для адаптации известных алгоритмов к реальным проблемам.
Мы представляем тест CLRS для алгоритмического мышления, который оценивает работу нейронных сетей при выполнении разнообразного набора из тридцати классических алгоритмов из учебника «Введение в алгоритмы». Аналогичным образом, мы предлагаем общий алгоритм постепенного обучения, который адаптирует воспроизведение ретроспективного опыта для автоматического доказательства теорем, что является важным инструментом, помогающим математикам доказывать сложные теоремы. Кроме того, мы представляем основу для обучения моделированию на основе ограничений, показывающую, как традиционное моделирование и численные методы могут использоваться в симуляторах машинного обучения – важном новом направлении для решения сложных задач моделирования в науке и технике.
Полный спектр нашей работы на ICML 2022 можно посмотреть здесь.