Темные века не были совсем темными. Достижения в области сельского хозяйства и строительных технологий увеличили средневековое богатство и привели к волне строительства соборов в Европе. Однако это было время глубокого неравенства. Элиты захватили практически все экономические выгоды. В Британии, когда Кентерберийский собор взлетел вверх, крестьяне не имели чистого прироста богатства между 1100 и 1300 годами. Ожидаемая продолжительность жизни колебалась около 25 лет. Хроническое недоедание свирепствовало.
«Мы уже давно пытаемся разделить процветание, — говорит профессор Массачусетского технологического института Саймон Джонсон. «Каждый собор, который ваши родители притащили вас посмотреть в Европе, — это символ отчаяния и экспроприации, ставших возможными благодаря более высокой производительности».
На первый взгляд это может показаться неуместным для жизни в 2023 году. Но Джонсон и его коллега из Массачусетского технологического института Дарон Асемоглу, оба экономисты, считают, что это так. Технологии стимулируют экономический прогресс. По мере внедрения инноваций возникает один вечный вопрос: кому это выгодно?
Это относится, по мнению ученых, к автоматизации и искусственному интеллекту, которым посвящена новая книга Асемоглу и Джонсона «Сила и прогресс: наша тысячелетняя борьба за технологии и процветание», опубликованная на этой неделе издательством PublicAffairs. В нем они исследуют, кто пожинал плоды прошлых инноваций и кто может выиграть от ИИ сегодня, в экономическом и политическом плане.
«Эта книга о выборе, который мы делаем с помощью технологий, — говорит Джонсон. «Это тема в стиле GPTMain. Но многие люди чувствуют, что технологии просто обрушиваются на вас, и вам приходится с этим жить».
По словам Джонсона, искусственный интеллект может стать полезной силой. Однако он добавляет: «Многие алгоритмы разрабатываются, чтобы попытаться максимально заменить людей. Мы считаем, что это совершенно неправильно. Мы добиваемся прогресса в технологиях, делая машины полезными для людей, а не вытесняя их. В прошлом у нас была автоматизация, но с новыми задачами для людей и достаточной противодействующей силой в обществе».
По словам Асемоглу и Джонсона, сегодня ИИ является инструментом социального контроля для некоторых правительств, который также создает богатство для небольшого числа людей. «Нынешний путь ИИ не хорош ни для экономики, ни для демократии, и эти две проблемы, к сожалению, усиливают друг друга», — пишут они.
Возвращение к общему процветанию?
Аджемоглу и Джонсон уже сотрудничали; в начале 2000-х вместе с политологом Джеймсом Робинсоном они выпустили влиятельные статьи о политике и экономическом прогрессе. Асемоглу, профессор Массачусетского технологического института, также является соавтором книг Робинсона «Почему нации терпят неудачу» (2012 г.) о политических институтах и росте и «Узкий коридор» (2019 г.), в которой свобода рассматривается как негарантированный результат. социальной борьбы.
Джонсон, профессор предпринимательства им. Рональда А. Курца в Школе менеджмента Слоуна Массачусетского технологического института, написал книгу «13 банкиров» (2010 г.) о финансовой реформе и вместе с экономистом Массачусетского технологического института Джонатаном Грубером «Америку, начавшую рывок» (2019 г.), призывают к увеличению инвестиций в научные исследования.
В книге «Сила и прогресс» авторы подчеркивают, что технологии принесли замечательные долгосрочные преимущества. Как они пишут, «нам намного лучше, чем нашим предкам», и «научный и технический прогресс — жизненно важная часть этой истории».
Тем не менее, много страданий и угнетения произошло, пока разворачивается долгосрочная перспектива, и не только во времена Средневековья.
«Во время промышленной революции рабочие в течение 100 лет боролись за то, чтобы получить какую-либо долю от этого огромного роста производительности в текстильной промышленности и на железных дорогах», — отмечает Джонсон. Более широкий прогресс был достигнут благодаря увеличению рабочей силы и выборному правительству; когда экономика США впечатляюще росла в течение трех десятилетий после Второй мировой войны, доходы были широко распределены, хотя в последнее время это было не так.
«Мы предлагаем вернуться на путь всеобщего процветания, заново использовать технологии для всех и добиться повышения производительности», — говорит Джонсон. «Все это было у нас в послевоенное время. Мы можем вернуть его, но не с нынешней формой нашей одержимости машинным интеллектом. Мы считаем, что это подрывает процветание в США и во всем мире».
Призыв к «полезности машины», а не к «посредственной автоматизации»
Что, по мнению Асемоглу и Джонсон, является недостатком ИИ? Во-первых, они считают, что развитие ИИ слишком сосредоточено на имитации человеческого интеллекта. Ученые скептически относятся к идее о том, что ИИ отражает человеческое мышление во всем — даже в таких вещах, как шахматная программа AlphaZero, которую они считают скорее специализированным набором инструкций.
Или, например, программы распознавания изображений — это хаски или волк? — использовать большие наборы данных прошлых человеческих решений для построения прогностических моделей. Но они часто зависят от корреляции (хаски, скорее всего, будет перед вашим домом) и не могут воспроизвести те же сигналы, на которые полагаются люди. Исследователи, конечно же, знают об этом и продолжают совершенствовать свои инструменты. Но Асемоглу и Робинсон утверждают, что многие программы ИИ менее гибкие, чем человеческий разум, и являются неоптимальной заменой для него, даже несмотря на то, что ИИ предназначен для замены человеческого труда.
Асемоглу, опубликовавший множество работ по автоматизации и роботам, называет эти замещающие инструменты «средними технологиями». Касса самообслуживания в супермаркете не увеличивает существенной экономической производительности; он просто передает работу клиентам и богатство акционерам. Или, среди более сложных инструментов ИИ, например, линия обслуживания клиентов, использующая ИИ, которая не решает данную проблему, может расстраивать людей, заставляя их высказываться, как только они доходят до человека, и делая весь процесс менее эффективным.
В целом, пишут Асемоглу и Джонсон, «ни традиционные цифровые технологии, ни ИИ не могут выполнять важные задачи, связанные с социальным взаимодействием, адаптацией, гибкостью и общением».
Вместо этого экономисты, ориентированные на рост, предпочитают технологии, создающие «предельную производительность», которые вынуждают фирмы нанимать больше работников. Вместо того, чтобы стремиться к устранению медицинских специалистов, таких как рентгенологи, что было предсказано с помощью искусственного интеллекта, которого так и не произошло, Асемоглу и Джонсон предполагают, что инструменты искусственного интеллекта могут расширить возможности домашних медицинских работников и сделать их услуги более ценными, не сокращая работников в этом секторе. .
«Мы думаем, что есть развилка на дороге, и еще не поздно — ИИ — это очень хорошая возможность подтвердить полезность машин как философию дизайна», — говорит Джонсон. «И искать способы передать инструменты в руки рабочих, в том числе низкооплачиваемых».
Определение обсуждения
Другой набор проблем с ИИ, которые беспокоят Асемоглу и Джонсон, распространяется непосредственно на политику: технологии наблюдения, инструменты распознавания лиц, интенсивный сбор данных и распространение дезинформации с помощью ИИ.
Китай использует искусственный интеллект для создания оценок «социального кредита» для граждан, наряду с усиленным наблюдением, при этом жестко ограничивая свободу выражения мнений. В других местах платформы социальных сетей используют алгоритмы, чтобы влиять на то, что видят пользователи; подчеркивая «вовлеченность» выше других приоритетов, они могут распространять вредную дезинформацию.
Действительно, во всей книге «Власть и прогресс» Асемоглу и Джонсон подчеркивают, что использование ИИ может создать самоусиливающуюся динамику, в которой те, кто получает экономическую выгоду, могут получить политическое влияние и власть за счет более широкого демократического участия.
Чтобы изменить эту траекторию, Асемоглу и Джонсон выступают за широкий набор политических мер, включая владение данными для пользователей Интернета (идея технолога Джарона Ланье); налоговая реформа, которая вознаграждает занятость больше, чем автоматизация; государственная поддержка разнообразных высокотехнологичных направлений исследований; отменив раздел 230 Закона о приличии в коммуникациях 1996 года, который защищает онлайн-платформы от регулирования или судебных исков на основе контента, который они размещают; и налог на цифровую рекламу (направленный на ограничение прибыльности дезинформации, основанной на алгоритмах).
Джонсон считает, что у людей всех идеологий есть стимулы для поддержки таких мер: «То, что мы делаем, не является предвзятым», — говорит он.
Другие ученые высоко оценили «Силу и прогресс». Майкл Сэндел, профессор государственного управления Гарвардского университета, профессор государственного управления Энн Т. и Роберта М. Басс, назвал ее «гуманной и обнадеживающей книгой», которая «показывает, как мы можем управлять технологиями для продвижения общественного блага» и «обязательна к прочтению для всем, кому небезразлична судьба демократии в эпоху цифровых технологий».
Со своей стороны, Асемоглу и Джонсон хотят расширить публичное обсуждение ИИ за пределы лидеров отрасли, отказаться от представлений о неизбежности ИИ и снова подумать о человеческой деятельности, социальных приоритетах и экономических возможностях.
«Дебаты о новых технологиях должны быть сосредоточены не только на блестящих качествах новых продуктов и алгоритмов, но и на том, работают ли они на людей или против людей», — пишут они.
«Нам нужны эти обсуждения», — говорит Джонсон. «Нет ничего присущего технологии. Это в нашей власти. Даже если вы считаете, что мы не можем отказаться от новых технологий, вы можете использовать их и получать от них лучшие результаты, если будете говорить об этом».