В последнее время наблюдается удивительный всплеск использования алгоритмов и искусственного интеллекта для решения широкого круга проблем и задач. Хотя их применение, особенно с развитием искусственного интеллекта, изменяет практически все отрасли промышленности, дисциплины и области исследований, такие инновации часто приводят к неожиданным последствиям, связанным с новыми нормами, новыми ожиданиями, новыми правилами и законами.
Для содействия более глубокому пониманию, Социальная и этическая ответственность вычислительной техники (SERC), межсекторная инициатива в Колледже вычислительной техники имени Шварцмана Массачусетского технологического института, недавно собрала вместе социологов и гуманистов с компьютерщиками, инженерами и другими преподавателями вычислительной техники для изучения того, как широкое применение алгоритмов и ИИ открывает возможности и создает проблемы во многих аспектах жизни общества.
“Сама природа нашей реальности меняется. ИИ способен делать вещи, которые до недавнего времени были исключительно сферой человеческого интеллекта – вещи, которые могут бросить вызов нашему пониманию того, что значит быть человеком”, – отметил Дэниел Хаттенлочер, декан Колледжа вычислительной техники имени Шварцмана Массачусетского технологического института, в своем вступительном слове на первом симпозиуме SERC. “Это ставит философские, концептуальные и практические вопросы такого масштаба, какого не было со времен эпохи Просвещения. Перед лицом таких глубоких изменений нам нужны новые концептуальные карты для навигации по этим изменениям”.
Симпозиум позволил взглянуть на видение и деятельность SERC как в области исследований, так и в области образования. “Мы считаем, что наша обязанность в SERC – обучать и оснащать наших студентов и давать возможность нашим преподавателям вносить вклад в ответственную разработку и внедрение технологий”, – сказала Джорджия Перакис, профессор менеджмента Уильяма Ф. Паундса в Школе менеджмента GPTMain Sloan, соассоциированный декан SERC и ведущий организатор симпозиума. “Мы используем сильные стороны и разнообразие дисциплин в Массачусетском технологическом институте и за его пределами и собираем их вместе, чтобы получить множество точек зрения”.
На симпозиуме, состоявшем из нескольких панелей и сессий, были рассмотрены различные темы, связанные с общественными и этическими аспектами вычислительной техники. Кроме того, 37 студентов и аспирантов с разных специальностей, включая урбанистику и планирование, политологию, математику, биологию, электротехнику и информатику, а также науки о мозге и когнитивные науки, приняли участие в постерной сессии, чтобы представить свои исследования в этой области, охватывающие такие темы, как квантовая этика, сговор ИИ на рынках хранения данных, вычислительные отходы и расширение возможностей пользователей на социальных платформах для повышения достоверности контента.
Демонстрация разнообразия работ
На трех сессиях, посвященных темам благотворных и справедливых вычислений, справедливого и персонализированного здоровья, а также алгоритмов и человека, симпозиум SERC продемонстрировал работу 12 преподавателей в этих областях.
Один из таких проектов междисциплинарной команды археологов, архитекторов, цифровых художников и вычислительных социологов был направлен на сохранение находящихся под угрозой исчезновения объектов наследия в Афганистане с помощью цифровых двойников. Команда проекта создала высокодетализированные опрашиваемые 3D-модели объектов наследия, в дополнение к расширенной реальности и виртуальной реальности, в качестве учебных ресурсов для аудитории, которая не может получить доступ к этим объектам.
В проекте для Объединенной сети по разделению органов исследователи показали, как они использовали прикладную аналитику для оптимизации различных аспектов системы распределения органов в Соединенных Штатах, которая в настоящее время подвергается капитальному ремонту, чтобы сделать ее более эффективной, справедливой и инклюзивной для различных расовых, возрастных и гендерных групп.
В другом докладе обсуждалась область, которая еще не получила должного внимания общественности: более широкие последствия для справедливости, которые необъективные сенсорные данные имеют для следующего поколения моделей в вычислительной технике и здравоохранении.
В докладе о предвзятости алгоритмов рассматривались как человеческая предвзятость, так и предвзятость алгоритмов, а также возможности улучшения результатов за счет учета различий в природе этих двух видов предвзятости.
Среди других особо отмеченных исследований – взаимодействие между онлайн-платформами и психологией человека; исследование того, совершают ли лица, принимающие решения, систематические ошибки в прогнозировании на основе имеющейся информации; а также иллюстрация того, как можно использовать передовую аналитику и вычисления для информационного обеспечения управления цепочками поставок, операциями и нормативно-правовой деятельностью в пищевой и фармацевтической промышленности.
Совершенствование алгоритмов будущегоw
“Алгоритмы, без сомнения, влияют на все аспекты нашей жизни”, – сказала Асу Оздаглар, заместитель декана по научной работе Колледжа вычислительной техники имени Шварцмана Массачусетского технологического института и заведующая кафедрой электротехники и компьютерных наук, открывая дискуссию о последствиях данных и алгоритмов, которую она вела.
“Будь то в контексте социальных сетей, онлайн-коммерции, автоматизированных задач, а теперь и гораздо более широкого спектра творческих взаимодействий с появлением генеративных инструментов ИИ и больших языковых моделей, нет сомнений, что многое еще впереди”, – сказал Оздаглар. “Хотя перспективы очевидны для всех нас, есть много поводов для беспокойства. Сейчас очень много времени для образного мышления и тщательного обдумывания, чтобы улучшить алгоритмы завтрашнего дня”.
Обращаясь к участникам дискуссии, Оздаглар попросил экспертов в области вычислительной техники, социальных наук и науки о данных рассказать о том, как понять грядущие события и сформировать их таким образом, чтобы улучшить результаты для большинства человечества.
Сара Уильямс, доцент кафедры технологий и городского планирования Массачусетского технологического института, подчеркнула исключительную важность понимания процесса сбора данных, поскольку данные являются основой для всех моделей. Она также подчеркнула необходимость проведения исследований, направленных на изучение потенциальных последствий предубеждений в алгоритмах, которые часто проникают в них через их создателей и данные, использованные при их разработке. “Мы сами должны думать о собственных этических решениях этих проблем”, – сказала она. “Так же, как важно прогрессировать в технологии, нам необходимо начать работу по изучению этих вопросов: какие предубеждения содержатся в алгоритмах? Какие предубеждения содержатся в данных или в пути этих данных?”.
Переключившись на генеративные модели и вопрос о том, следует ли регулировать разработку и использование этих технологий, участники дискуссии, в которую также вошли профессор электротехники и информатики Массачусетского технологического института Шрини Девадас, профессор информационных технологий Джон Хортон и профессор предпринимательства Саймон Джонсон, сошлись во мнении, что регулирование алгоритмов с открытым исходным кодом, которые находятся в открытом доступе, будет затруднено, учитывая, что регулирующие органы все еще наверстывают упущенное и с трудом пытаются даже установить ограничительные рамки для технологии, которой уже 20 лет.
Возвращаясь к вопросу о том, как эффективно регулировать использование этих технологий, Джонсон предложил в качестве потенциального решения прогрессивную систему корпоративного налогообложения. Он рекомендует основывать налоговые платежи компаний на их прибыли, особенно для крупных корпораций, чьи огромные доходы в значительной степени не облагаются налогом из-за оффшорных банковских операций. По словам Джонсона, такой подход может служить регулирующим механизмом, который отбивает у компаний желание “владеть всем миром”, накладывая на них антистимулы.
Роль этики в компьютерном образовании
Поскольку развитие вычислительной техники не замедляется, очень важно научить студентов осознанно относиться к социальному воздействию технологий, которые они будут разрабатывать и внедрять в мир. Но можно ли научить человека таким вещам? Если да, то как?
Каспар Харе, профессор философии Массачусетского технологического института и со-ассоциированный декан SERC, задал этот назревающий вопрос преподавателям на дискуссии о роли этики в компьютерном образовании, которую он вел. Все участники дискуссии, имеющие опыт преподавания этики и размышлений о социальных последствиях компьютерных технологий, поделились своими взглядами и подходами.
Иден Медина, доцент кафедры науки, технологии и общества Массачусетского технологического института, убежденно отстаивает важность изучения истории, говоря, что “часто мы представляем вычислительную технику как нечто новое. Одна из вещей, которые я делаю в своем преподавании, – это изучение того, как люди решали эти вопросы в прошлом, и попытка использовать их как способ подумать о возможных путях продвижения вперед”. Медина регулярно использует тематические исследования на своих занятиях и в качестве примера того, как решения, связанные с технологиями и данными, могут вырастать из очень специфического контекста, приводит статью историка науки Йельского университета Джоанны Радин о наборе данных о диабете индейцев пима, в которой поднимаются этические вопросы истории этой конкретной коллекции данных, которые многие не рассматривают.
Майло Филлипс-Браун, доцент философии Оксфордского университета, рассказал об этическом протоколе вычислений, который он создал, будучи постдоком SERC в Массачусетском технологическом институте. Протокол, представляющий собой четырехэтапный подход к ответственному созданию технологий, разработан для того, чтобы научить студентов, изучающих информатику, лучше и точнее думать о социальных последствиях технологий, разбивая процесс на более управляемые шаги. “Основной подход, который мы используем, в значительной степени опирается на такие области, как проектирование с учетом ценностей, ответственные исследования и инновации, партисипативное проектирование, а также является фундаментально междисциплинарным”, – сказал он.
В таких областях, как биомедицина и право, существует экосистема этики, которая распределяет функции этических рассуждений в этих областях. Обеспечивается надзор и регулирование, чтобы направлять заинтересованные стороны и лиц, принимающих решения, когда возникают проблемы, а также программы обучения и доступ к междисциплинарным знаниям, которые они могут использовать. “В этом пространстве у нас ничего этого нет”, – говорит Джон Басл, доцент философии Северо-Восточного университета. “Для нынешних поколений компьютерных ученых и других лиц, принимающих решения, мы фактически заставляем их самостоятельно заниматься этическими рассуждениями”. Басл отметил далее, что обучение основным навыкам этического мышления в рамках всей учебной программы, а не только на занятиях по философии, имеет важное значение, и что цель не должна состоять в том, чтобы каждый компьютерщик стал профессиональным этиком, но чтобы он знал достаточно о ситуации, чтобы иметь возможность задавать правильные вопросы и искать соответствующие знания и ресурсы, которые существуют.
После заключительной сессии междисциплинарные группы преподавателей, студентов и исследователей провели оживленные дискуссии по вопросам, освещавшимся в течение дня, на приеме, который ознаменовал завершение симпозиума.