Выступая на симпозиуме «Генераторный искусственный интеллект: формирование будущего» 28 ноября, на открытии Недели генеративного искусственного интеллекта Массачусетского технологического института, основной докладчик и соучредитель iRobot Родни Брукс предостерег участников от некритической переоценки возможностей этой новой технологии, которая лежит в основе все более мощные инструменты, такие как ChatGPT от OpenAI и Bard от Google.
«Хайп ведет к высокомерию, высокомерие ведет к тщеславию, а тщеславие ведет к неудаче», — предостерег Брукс, который также является почетным профессором Массачусетского технологического института, бывшим директором Лаборатории компьютерных наук и искусственного интеллекта (CSAIL) и основателем Robust. .АИ.
«Ни одна технология никогда не превосходила все остальные», — добавил он.
Симпозиум, собравший сотни из посетителей из академических и промышленных кругов в аудитории Института Кресге, было пронизано сообщениями надежды о возможностях, которые предлагает генеративный ИИ для того, чтобы сделать мир лучше, в том числе посредством искусства и творчества, перемежаясь предостерегающими рассказами о том, что может пойти не так, если эти инструменты ИИ не разрабатываются ответственно.
Генеративный ИИ — это термин, обозначающий модели машинного обучения, которые учатся генерировать новый материал, похожий на данные, на которых они обучались. Эти модели продемонстрировали невероятные возможности, такие как способность создавать творческое письмо, переводить языки, генерировать функциональный компьютерный код или создавать реалистичные изображения из текстовых подсказок.
В своем вступительном слове по случаю открытия симпозиума президент Массачусетского технологического института Салли Корнблут рассказала о нескольких проектах, которые преподаватели и студенты предприняли, чтобы использовать генеративный искусственный интеллект, чтобы оказать положительное влияние на мир. Например, работа Axim Collaborative, инициативы онлайн-образования, запущенной Массачусетским технологическим институтом и Гарвардом, включает изучение образовательных аспектов генеративного искусственного интеллекта, чтобы помочь малообеспеченным студентам.
Институт также недавно объявил о выделении стартовых грантов для 27 междисциплинарных исследовательских проектов факультетов, посвященных тому, как ИИ изменит жизнь людей в обществе.
По словам Корнблут, проводя Неделю генеративного искусственного интеллекта, Массачусетский технологический институт надеется не только продемонстрировать этот тип инноваций, но и спровоцировать «совместные столкновения» среди участников.
Сотрудничество с участием ученых, политиков и промышленности будет иметь решающее значение, если мы хотим безопасно интегрировать быстро развивающуюся технологию, такую как генеративный искусственный интеллект, гуманными способами и помогать людям решать проблемы, сказала она аудитории.
«Честно говоря, я не могу придумать задачу, которая была бы более тесно связана с миссией MIT. Это глубокая ответственность, но я абсолютно уверена, что мы сможем справиться с ней, если мы столкнемся с этим лицом к лицу и если мы столкнемся с этим как сообщество», — сказала она.
Хотя генеративный искусственный интеллект потенциально может помочь решить некоторые из наиболее насущных проблем планеты, появление этих мощных моделей машинного обучения стирает грань между научной фантастикой и реальностью, сказала в своем вступительном слове директор CSAIL Даниэла Рус. По ее словам, вопрос больше не в том, сможем ли мы создавать машины, производящие новый контент, а в том, как мы можем использовать эти инструменты для развития бизнеса и обеспечения устойчивости.
«Сегодня мы обсудим возможность будущего, в котором генеративный ИИ не просто существует как технологическое чудо, но и выступает источником надежды и силы добра», — сказал Рус, который также является профессором Эндрю и Эрны Витерби в Кафедра электротехники и информатики.
Но прежде чем дискуссия углубилась в возможности генеративного искусственного интеллекта, участников сначала попросили задуматься о своей человечности, когда профессор Массачусетского технологического института Джошуа Беннетт прочитал оригинальное стихотворение.
Беннетту, профессору литературной секции Массачусетского технологического института и заслуженному заведующему кафедрой гуманитарных наук, было предложено написать стихотворение о том, что значит быть человеком, и он черпал вдохновение в своей дочери, которая родилась три недели назад.
В стихотворении рассказывается о его переживаниях, когда мальчик смотрел Звездный путь со своим отцом и коснулся важности передачи традиций следующему поколению.
В своем программном выступлении Брукс намеревался раскрыть некоторые глубокие научные вопросы, связанные с генеративным ИИ, а также изучить, что технология может рассказать нам о нас самих.
Для начала он попытался развеять некоторые тайны, окружающие инструменты генеративного искусственного интеллекта, такие как ChatGPT, объяснив основы работы этой большой языковой модели. ChatGPT, например, генерирует текст по одному слову, определяя, каким должно быть следующее слово в контексте уже написанного. В то время как человек может написать историю, думая о целых фразах, ChatGPT фокусируется только на следующем слове, объяснил Брукс.
ChatGPT 3.5 построен на основе модели машинного обучения, которая имеет 175 миллиардов параметров и во время обучения подвергалась воздействию миллиардов страниц текста в сети. (Последняя версия, ChatGPT 4, еще больше.) Он изучает корреляции между словами в этом огромном массиве текста и использует эти знания, чтобы предложить, какое слово может идти следующим при получении подсказки.
Модель продемонстрировала некоторые невероятные возможности, такие как способность написать сонет о роботах в стиле знаменитого 18-го сонета Шекспира. Во время своего выступления Брукс продемонстрировал сонет, который он попросил ChatGPT написать параллельно с его собственным сонетом.
Но хотя исследователи до сих пор не до конца понимают, как именно работают эти модели, Брукс заверил аудиторию, что, казалось бы, невероятные возможности генеративного ИИ не являются волшебством, и это не означает, что эти модели могут делать что-либо.
Его самые большие опасения по поводу генеративного ИИ не связаны с моделями, которые когда-нибудь смогут превзойти человеческий интеллект. Скорее, его больше всего беспокоят исследователи, которые могут выбросить десятилетия превосходной работы, которая была близка к прорыву, просто для того, чтобы воспользоваться новыми блестящими достижениями в области генеративного искусственного интеллекта; фирмы венчурного капитала, которые слепо стремятся к технологиям, которые могут принести самую высокую прибыль; или вероятность того, что целое поколение инженеров забудет о других формах программного обеспечения и искусственного интеллекта.
В конце концов, у тех, кто верит, что генеративный ИИ может решить мировые проблемы, и у тех, кто верит, что он будет лишь порождать новые проблемы, есть по крайней мере одна общая черта: обе группы склонны переоценивать эту технологию, сказал он.
«В чем самомнение с генеративным ИИ? Предполагается, что это каким-то образом приведет к созданию общего искусственного интеллекта. Само по себе это не так», — сказал Брукс.
После презентации Брукса группа преподавателей Массачусетского технологического института рассказала о своей работе с использованием генеративного ИИ и приняла участие в групповой дискуссии о будущих достижениях, важных, но недостаточно изученных темах исследований, а также проблемах регулирования и политики ИИ.
В состав комиссии входили Джейкоб Андреас, доцент кафедры электротехники и информатики Массачусетского технологического института (EECS) и член CSAIL; Антонио Торральба, профессор электроники Delta Electronics EECS и член CSAIL; Ев Федоренко, доцент кафедры мозга и когнитивных наук и исследователь Института исследований мозга Макговерна при Массачусетском технологическом институте; и Армандо Солар-Лезама, заслуженный профессор вычислительной техники и заместитель директора CSAIL. Его модератором выступил Уильям Т. Фриман, профессор EECS Томаса и Герда Перкинсов и член CSAIL.
Участники дискуссии обсудили несколько потенциальных будущих направлений исследований в области генеративного ИИ, включая возможность интеграции систем восприятия, опирающихся на человеческие чувства, такие как осязание и обоняние, вместо того, чтобы сосредотачиваться в первую очередь на языке и изображениях. Исследователи также говорили о важности взаимодействия с политиками и общественностью для обеспечения ответственного производства и внедрения инструментов генеративного искусственного интеллекта.
«Одним из больших рисков, связанных с генеративным искусственным интеллектом сегодня, является риск цифрового змеиного масла. Существует большой риск выхода на рынок множества продуктов, которые утверждают, что творят чудеса, но в долгосрочной перспективе могут оказаться очень вредными», — сказал Солар-Лезама.
Утренняя сессия завершилась отрывком из научно-фантастического романа 1925 года «Метрополис», прочитанным старшей Джой Ма, студенткой факультета физики и театрального искусства, после чего последовала дискуссия за круглым столом о будущем генеративного искусственного интеллекта. В обсуждении приняли участие Джошуа Тененбаум, профессор кафедры мозговых и когнитивных наук и член CSAIL; Дина Катаби, профессор Туана и Николь Фам в EECS и главный исследователь CSAIL и клиники Джамиля Массачусетского технологического института; и Макс Тегмарк, профессор физики; модератором выступила Даниэла Рус.
Одним из направлений обсуждения была возможность разработки генеративных моделей искусственного интеллекта, которые могут выйти за рамки того, что мы можем делать как люди, например, инструментов, которые могут чувствовать чьи-то эмоции с помощью электромагнитных сигналов, чтобы понять, как меняются дыхание и частота сердечных сокращений человека.
Но одним из ключей к безопасной интеграции такого ИИ в реальный мир является уверенность в том, что мы можем ему доверять, сказал Тегмарк. Если мы знаем, что инструмент ИИ будет соответствовать спецификациям, на которых мы настаиваем, тогда «нам больше не придется бояться создавать действительно мощные системы, которые будут действовать за нас по всему миру», — сказал он.