Представьте себе мир, в котором какое-то важное решение — рекомендация судьи о приговоре, протокол лечения ребенка, какое лицо или предприятие должно получить кредит — стало более надежным, потому что хорошо разработанный алгоритм помог ключевому лицу, принимающему решения, прийти к лучшему выбору. Новый курс экономики Массачусетского технологического института исследует эти интересные возможности.
Класс 14.163 (Алгоритмы и поведенческая наука) — это новый междисциплинарный курс, ориентированный на поведенческую экономику, изучающий когнитивные способности и ограничения людей. Прошлой весной этот курс совместно преподавали доцент кафедры экономики Ашеш Рамбачан и приглашенный лектор Сендхил Муллайнатан.
Рамбачан изучает экономические применения машинного обучения, уделяя особое внимание алгоритмическим инструментам, которые управляют принятием решений в системе уголовного правосудия и на рынках потребительского кредитования. Он также разрабатывает методы определения причинно-следственной связи с использованием перекрестных и динамических данных.
Муллайнатан вскоре присоединится к факультетам электротехники, информатики и экономики Массачусетского технологического института в качестве профессора. Его исследования используют машинное обучение для понимания сложных проблем человеческого поведения, социальной политики и медицины. Муллайнатан стал соучредителем Лаборатории по борьбе с бедностью Абдула Латифа Джамиля (J-PAL) в 2003 году.
Цели нового курса являются как научными (понимать людей), так и политическими (улучшить общество путем улучшения решений). Рамбачан считает, что алгоритмы машинного обучения предоставляют новые инструменты как для научных, так и для прикладных целей поведенческой экономики.
«В рамках курса исследуется применение информатики, искусственного интеллекта (ИИ), экономики и машинного обучения для улучшения результатов и уменьшения случаев предвзятости при принятии решений», — говорит Рамбачан.
По мнению Рамбачана, существуют возможности для постоянного развития цифровых инструментов, таких как искусственный интеллект, машинное обучение и большие языковые модели (LLM), которые помогут изменить все: от дискриминационной практики при вынесении уголовных приговоров до результатов медицинского обслуживания среди малообеспеченных групп населения.
Студенты учатся использовать инструменты машинного обучения с тремя основными целями: понять, что они делают и как они это делают, формализовать идеи поведенческой экономики, чтобы они хорошо сочетались с инструментами машинного обучения, а также понять области и темы, в которых интеграция поведенческой экономики и алгоритмические инструменты могут быть наиболее плодотворными.
Студенты также выдвигают идеи, проводят соответствующие исследования и видят более широкую картину. Их побуждают понять, где подходит это понимание, и увидеть, к чему ведет более широкая программа исследований. Участники могут критически подумать о том, что могут (и не могут) делать контролируемые LLM, понять, как интегрировать эти способности с моделями и знаниями поведенческой экономики, а также определить наиболее плодотворные области применения того, что открывают исследования.
Опасности субъективизма и предвзятости
По словам Рамбачана, поведенческая экономика признает, что предубеждения и ошибки существуют в нашем выборе даже в отсутствие алгоритмов. «Данные, используемые нашими алгоритмами, существуют за пределами информатики и машинного обучения, а вместо этого часто создаются людьми», — продолжает он. «Поэтому понимание поведенческой экономики необходимо для понимания эффектов алгоритмов и того, как их лучше создавать».
Рамбачан стремился сделать курс доступным независимо от академического образования участников. В класс вошли студенты старших курсов различных специальностей.
Предлагая студентам междисциплинарный, основанный на данных подход к исследованию и обнаружению способов, с помощью которых алгоритмы могут улучшить решение проблем и принятие решений, Рамбачан надеется создать основу для перепроектирования существующих систем юриспруденции, здравоохранения, потребительского кредитования. и промышленность, если назвать несколько областей.
«Понимание того, как генерируются данные, может помочь нам понять предвзятость», — говорит Рамбачан. «Мы можем задавать вопросы о том, как добиться лучшего результата, чем тот, который существует сейчас».
Полезные инструменты для переосмысления социальных операций
Докторант экономики Джимми Лин скептически отнесся к заявлениям Рамбачана и Муллайнатана, сделанным в начале занятий, но изменил свое мнение по мере продолжения курса.
«Ашеш и Сендхил начали с двух провокационных заявлений: будущего исследований в области поведенческой науки не будет существовать без ИИ, а будущее исследований ИИ не будет существовать без поведенческой науки», — говорит Лин. «В течение семестра они углубили мое понимание обеих областей и познакомили нас с многочисленными примерами того, как экономика влияет на исследования ИИ, и наоборот».
Лин, который ранее проводил исследования в области вычислительной биологии, похвалил внимание преподавателей к важности «мышления продюсера», думая о следующем десятилетии исследований, а не о предыдущем десятилетии. «Это особенно важно в такой междисциплинарной и быстро развивающейся области, как пересечение искусственного интеллекта и экономики: здесь нет старой устоявшейся литературы, поэтому вы вынуждены задавать новые вопросы, изобретать новые методы и наводить новые мосты», он говорит.
Скорость перемен, на которую намекает Линь, тоже привлекает его. «Мы видим, что методы искусственного интеллекта «черного ящика» способствуют прорывам в математике, биологии, физике и других научных дисциплинах», — говорит Лин. «ИИ может изменить наш подход к интеллектуальным открытиям как исследователи».
Междисциплинарное будущее экономики и социальных систем
Изучение традиционных экономических инструментов и повышение их ценности с помощью ИИ может привести к кардинальным изменениям в том, как учреждения и организации обучают лидеров и дают им возможность делать выбор.
«Мы учимся отслеживать изменения, корректировать структуры и лучше понимать, как использовать инструменты для обслуживания общего языка», — говорит Рамбачан. «Мы должны постоянно исследовать пересечение человеческого суждения, алгоритмов, искусственного интеллекта, машинного обучения и магистратуры».
Лин с энтузиазмом рекомендовал этот курс независимо от происхождения студентов. «Любой, кто широко интересуется алгоритмами в обществе, применением ИИ в академических дисциплинах или ИИ как парадигмой научных открытий, должен пройти этот курс», — говорит он. «Каждая лекция казалась золотой жилой взглядов на исследования, новых областей применения и вдохновения для создания новых, интересных идей».
По словам Рамбачана, этот курс утверждает, что более совершенные алгоритмы могут улучшить процесс принятия решений в разных дисциплинах. «Выстраивая связи между экономикой, информатикой и машинным обучением, возможно, мы сможем автоматизировать лучшие человеческие решения, чтобы улучшить результаты, минимизируя или устраняя худшие», — говорит он.
Лин по-прежнему воодушевлен еще неизведанными возможностями курса. «Это курс, который заставляет вас с нетерпением ждать будущего исследований и вашей собственной роли в нем», — говорит он.