ChatGPT и другие глубокие генеративные модели оказываются поразительным имитатором. Эти супермодели искусственного интеллекта могут сочинять стихи, заканчивать симфонии и создавать новые видеоролики и изображения, автоматически обучаясь на миллионах примеров предыдущих работ. Эти чрезвычайно мощные и универсальные инструменты превосходно подходят для создания нового контента, напоминающего все, что они видели раньше.
Но, как говорят инженеры Массачусетского технологического института в новом исследовании, сходства недостаточно, если вы хотите по-настоящему внедрять инновации в инженерных задачах.
«Модели глубокой генерации (DGM) очень многообещающи, но в то же время по своей сути ошибочны», — говорит автор исследования Лайл Регенветтер, аспирант машиностроения Массачусетского технологического института. «Цель этих моделей — имитировать набор данных. Но как инженеры и дизайнеры мы часто не хотим создавать уже существующий дизайн».
Он и его коллеги утверждают, что если инженеры-механики хотят, чтобы искусственный интеллект помог им генерировать новые идеи и конструкции, им придется сначала переориентировать эти модели за пределы «статистического сходства».
«Работа многих из этих моделей явно связана с тем, насколько статистически похожа сгенерированная выборка на то, что модель уже видела», — говорит соавтор Фаез Ахмед, доцент кафедры машиностроения Массачусетского технологического института. «Но в дизайне быть другим может быть важно, если вы хотите внедрять инновации».
В своем исследовании Ахмед и Регенветтер раскрывают подводные камни глубоких генеративных моделей, когда им приходится решать проблемы инженерного проектирования. В тематическом исследовании конструкции велосипедной рамы команда показывает, что эти модели в конечном итоге создают новые рамы, которые имитируют предыдущие конструкции, но не соответствуют техническим характеристикам и требованиям.
Когда исследователи представили DGM ту же проблему с велосипедной рамой, которую они специально разработали с инженерными целями, а не только со статистическим сходством, эти модели создали более инновационные и более эффективные рамы.
Результаты команды показывают, что модели ИИ, ориентированные на сходство, не совсем применимы применительно к инженерным задачам. Но, как подчеркивают исследователи в своем исследовании, при тщательном планировании метрик, соответствующих задачам, модели ИИ могут стать эффективным «вторым пилотом» дизайна.
«Речь идет о том, как ИИ может помочь инженерам лучше и быстрее создавать инновационные продукты», — говорит Ахмед. «Чтобы сделать это, нам нужно сначала понять требования. Это один шаг в этом направлении».
Новое исследование команды недавно появилось в Интернете и будет опубликовано в декабрьском печатном выпуске журнала. Системы автоматизированного проектирования. Исследование является результатом сотрудничества ученых-компьютерщиков из MIT-IBM Watson AI Lab и инженеров-механиков из лаборатории DeCoDe MIT. Соавторами исследования являются Акаш Шривастава и Дэн Гутреунд из лаборатории MIT-IBM Watson AI Lab.
Формулировка проблемы
Как пишут Ахмед и Регенветтер, DGM — «мощные ученики, обладающие беспрецедентной способностью» обрабатывать огромные объемы данных. DGM — это широкий термин для любой модели машинного обучения, которая обучена изучать распределение данных и затем использовать их для создания нового, статистически похожего контента. Чрезвычайно популярный ChatGPT — это один из типов глубокой генеративной модели, известной как модель большого языка (LLM), которая включает в себя возможности обработки естественного языка, позволяя приложению генерировать реалистичные изображения и речь в ответ на разговорные запросы. Другие популярные модели для генерации изображений включают DALL-E и Stable Diffusion.
Благодаря своей способности учиться на данных и генерировать реалистичные образцы, DGM все чаще применяются во многих инженерных областях. Конструкторы использовали глубокие генеративные модели для разработки новых корпусов самолетов, конструкций из метаматериалов и оптимальной геометрии мостов и автомобилей. Но по большей части модели имитировали существующие конструкции, не улучшая их производительность.
«Проектировщикам, работающим с DGM, как бы не хватает этой вишенки на торте, которая заключается в корректировке цели обучения модели, чтобы сосредоточиться на требованиях дизайна», — говорит Регенветтер. «Итак, люди в конечном итоге создают проекты, которые очень похожи на набор данных».
В новом исследовании он обрисовывает основные ошибки при применении DGM для решения инженерных задач и показывает, что основная цель стандартных DGM не учитывает конкретные требования к проектированию. Чтобы проиллюстрировать это, команда приводит простой пример конструкции рамы велосипеда и демонстрирует, что проблемы могут возникнуть уже на начальном этапе обучения. По мере того, как модель учится на тысячах существующих велосипедных рам различных размеров и форм, она может считать, что две рамы одинаковых размеров имеют одинаковые характеристики, тогда как на самом деле в одной раме есть небольшое отклонение — слишком маленькое, чтобы зарегистрировать значительную разницу в статистическом сходстве. метрики — делает кадр значительно слабее другого, визуально похожего кадра.
За пределами «ванили»
Фото: предоставлено исследователями
Исследователи продолжили рассмотрение примера с велосипедом, чтобы увидеть, какие конструкции на самом деле будет генерировать DGM после изучения существующих конструкций. Сначала они протестировали обычную «ванильную» генеративно-состязательную сеть, или GAN — модель, которая широко используется в синтезе изображений и текста и настроена просто для генерации статистически похожего контента. Они обучили модель на наборе данных из тысяч велосипедных рам, включая коммерческие конструкции и менее традиционные, единичные рамы, разработанные любителями.
Как только модель извлекла уроки из данных, исследователи попросили ее сгенерировать сотни новых велосипедных рам. Модель создавала реалистичный дизайн, напоминающий существующие рамы. Но ни одна из конструкций не продемонстрировала значительного улучшения характеристик, а некоторые даже были немного хуже, с более тяжелыми и менее прочными рамами.
Затем команда провела такое же испытание с двумя другими DGM, специально разработанными для инженерных задач. Первая модель — это та, которую Ахмед ранее разработал для создания высокопроизводительных конструкций аэродинамических профилей. Он построил эту модель, чтобы отдать приоритет статистическому сходству, а также функциональным характеристикам. Применительно к задаче создания рамы велосипеда эта модель создавала реалистичные конструкции, которые к тому же были легче и прочнее существующих моделей. Но он также создавал физически «недействительные» кадры с компонентами, которые не совсем подходили друг другу или перекрывались физически невозможным образом.
«Мы видели проекты, которые были значительно лучше, чем набор данных, а также проекты, которые были геометрически несовместимы, потому что модель не была ориентирована на соответствие конструктивным ограничениям», — говорит Регенветтер.
Последней моделью, которую протестировала команда, была модель, построенная Регенветтером для создания новых геометрических структур. Эта модель была разработана с теми же приоритетами, что и предыдущие модели, с добавлением конструктивных ограничений и приоритетом физически жизнеспособных кадров, например, без каких-либо отключений или перекрывающихся полос. Эта последняя модель позволила создать самые эффективные конструкции, которые к тому же были физически осуществимы.
«Мы обнаружили, что когда модель выходит за рамки статистического сходства, она может создавать конструкции, которые лучше тех, которые уже существуют», — говорит Ахмед. «Это доказательство того, на что способен ИИ, если он специально обучен решению проектной задачи».
Например, если DGM можно будет создавать с другими приоритетами, такими как производительность, конструктивные ограничения и новизна, Ахмед предвидит, что «многочисленные инженерные области, такие как молекулярный дизайн и гражданская инфраструктура, получат большую выгоду. Проливая свет на потенциальные опасности, связанные с опорой исключительно на статистическое сходство, мы надеемся вдохновить на новые пути и стратегии в приложениях генеративного ИИ за пределами мультимедиа».