Быстрое развитие искусственного интеллекта вызвало много шума, некоторые предсказывают, что это приведет к идиллической утопии, а другие предупреждают, что это приведет к концу человечества. Но предположения о том, куда движется технология ИИ, хотя и важны, могут также заглушить важные разговоры о том, как мы должны обращаться с технологиями ИИ, доступными сегодня.
Одной из таких технологий является генеративный ИИ, который может создавать контент, включая текст, изображения, аудио и видео. Популярные генеративные ИИ, такие как чат-бот ChatGPT, генерируют диалоговый текст на основе обучающих данных, взятых из Интернета.
Сегодня группа из 14 исследователей из ряда организаций, включая Массачусетский технологический институт, опубликовала статью-комментарий в Наука это помогает подготовить почву для дискуссий о непосредственном влиянии генеративного ИИ на творческую работу и общество в целом. Среди соавторов статьи, связанных с GPTMain, — постдоктор Media Lab Зив Эпштейн С.М. ’19, доктор философии ’23; Мэтт Грох SM ’19, доктор философии ’23; и аспиранты Роб Махари ’17 и Хоуп Шредер.
Новости Массачусетского технологического института поговорил с Эпштейном, ведущим автором статьи.
В: Почему вы написали эту статью?
А: Инструменты генеративного ИИ делают то, о чем еще несколько лет назад мы и подумать не могли. Это поднимает множество фундаментальных вопросов о творческом процессе и роли человека в творческом производстве. Собираемся ли мы автоматизировать работу? Как мы собираемся сохранить человеческий аспект творчества со всеми этими новыми технологиями?
Сложность систем искусственного интеллекта «черный ящик» может затруднить понимание исследователями и широкой общественностью того, что происходит под капотом, и каковы будут последствия этих инструментов для общества. Многие дискуссии об ИИ антропоморфизируют технологию, неявно предполагая, что эти системы демонстрируют человеческие намерения, свободу действий или самосознание. Даже термин «искусственный интеллект» подкрепляет эти убеждения: в ChatGPT используются местоимения от первого лица, и мы говорим, что ИИ «галлюцинируют». Эти агентские роли, которые мы даем ИИ, могут подорвать доверие к создателям, чей труд лежит в основе выходных данных системы, и могут снять ответственность с разработчиков и лиц, принимающих решения, когда системы причиняют вред.
Мы пытаемся создать коалиции в академических кругах и за их пределами, чтобы помочь подумать о междисциплинарных связях и областях исследований, необходимых для борьбы с непосредственными опасностями для людей, исходящими от развертывания этих инструментов, такими как дезинформация, увольнение и изменения в юридических структурах. и культура.
В: В чем вы видите пробелы в исследованиях генеративного ИИ и искусства сегодня?
А: То, как мы говорим об ИИ, ошибочно во многих отношениях. Нам нужно понять, как восприятие генеративного процесса влияет на отношение к продуктам и авторам, а также разработать интерфейсы и системы таким образом, чтобы процесс генерирования был действительно прозрачным и чтобы избежать некоторых из этих вводящих в заблуждение интерпретаций. Как мы говорим об ИИ и как эти нарративы пересекаются с линиями власти? Как мы подчеркиваем в статье, есть темы, связанные с влиянием ИИ, которые важно учитывать: эстетика и культура; правовые аспекты собственности и кредита; труд; и воздействие на медиа-экосистему. Для каждого из них мы выделяем большие открытые вопросы.
Что касается эстетики и культуры, мы размышляем о том, как прошлые художественные технологии могут повлиять на то, как мы думаем об ИИ. Например, когда была изобретена фотография, некоторые художники говорили, что это «конец искусства». Но вместо этого он стал самостоятельным средством и в конечном итоге освободил живопись от реализма, породив импрессионизм и движение современного искусства. Мы говорим, что генеративный ИИ — это среда со своими возможностями. Вместе с этим будет развиваться и природа искусства. Как художники и создатели будут выражать свои намерения и стиль с помощью этой новой среды?
Вопросы, связанные с правом собственности и кредитом, сложны, потому что нам нужен закон об авторском праве, который приносит пользу создателям, пользователям и обществу в целом. Сегодняшние законы об авторском праве могут неадекватно распределять права между артистами, когда эти системы обучаются их стилям. Когда дело доходит до обучающих данных, что значит копировать? Это юридический вопрос, но также и технический вопрос. Мы пытаемся понять, копируют ли эти системы и когда.
Для экономики труда и творческой работы идея заключается в том, что эти генеративные системы ИИ могут во многих отношениях ускорить творческий процесс, но они также могут устранить процесс формирования идей, который начинается с чистого листа. Иногда на самом деле хорошо начинать с пустой страницы. Мы не знаем, как это повлияет на творчество, и нам нужно лучше понять, как ИИ повлияет на разные этапы творческого процесса. Нам нужно тщательно подумать о том, как мы используем эти инструменты, чтобы дополнять работу людей, а не заменять ее.
С точки зрения генеративного влияния ИИ на медиа-экосистему, с возможностью масштабного производства синтетических медиа, необходимо учитывать риск дезинформации, создаваемой ИИ. Мы должны защитить медиа-экосистему от возможности массового мошенничества, с одной стороны, и потери доверия людей к реальным СМИ, с другой.
В: Как вы надеетесь получить этот документ и кем?
А: Разговор об ИИ был очень фрагментарным и разочаровывающим. Поскольку технологии развиваются так быстро, было трудно глубоко задуматься над этими идеями. Чтобы обеспечить полезное использование этих технологий, нам необходимо создать общий язык и начать понимать, на чем сосредоточить наше внимание. Мы надеемся, что эта статья станет шагом в этом направлении. Мы пытаемся начать разговор, который может помочь нам построить дорожную карту для понимания этой быстро меняющейся ситуации.
Художники много раз находятся в авангарде новых технологий. Они играют с технологией задолго до того, как появятся коммерческие приложения. Они изучают, как это работает, и борются с этикой этого. Искусство искусственного интеллекта существует уже более десяти лет, и все это время эти художники боролись с вопросами, с которыми мы сейчас сталкиваемся как общество. Я думаю, что очень важно поднять голоса художников и других творческих работников, на работу которых эти инструменты повлияют. Искусство — это то, как мы выражаем нашу человечность. Это основная человеческая, эмоциональная часть жизни. Таким образом, мы считаем, что он находится в центре более широких вопросов о влиянии ИИ на общество, и, надеюсь, мы сможем обосновать это обсуждение этим.