Как развивается область искусственного интеллекта и что это значит для будущего работы, образования и человечества? Президент MIT Салли Корнблут и генеральный директор OpenAI Сэм Альтман рассказали обо всем этом и многом другом в ходе широкой дискуссии в кампусе MIT 2 мая.
Успех больших языковых моделей ChatGPT от OpenAI помог стимулировать волну инвестиций и инноваций в области искусственного интеллекта. ChatGPT-3.5 стал самым быстрорастущим потребительским программным приложением в истории после его выпуска в конце 2022 года, когда этот инструмент использовали сотни миллионов людей. С тех пор OpenAI также продемонстрировала продукты для создания изображений, аудио и видео на основе искусственного интеллекта и стала партнером Microsoft.
Мероприятие, которое состоялось в переполненном зале Kresge Auditorium, отразило волнение момента вокруг ИИ с прицелом на то, что будет дальше.
«Думаю, большинство из нас помнят, как мы впервые увидели ChatGPT и подумали: «О боже, это так круто!» — сказал Корнблут. «Теперь мы пытаемся выяснить, каким будет следующее поколение всего этого».
Со своей стороны, Альтман приветствует большие надежды на свою компанию и область искусственного интеллекта в целом.
«Я думаю, это здорово, что в течение двух недель все сходили с ума по поводу ChatGPT-4, а на третью неделю все говорили: «Да ладно, а где GPT-5?» — сказал Альтман. «Я думаю, это говорит что-то действительно важное о человеческих ожиданиях и стремлениях, а также о том, почему мы все должны [be working to] сделать вещи лучше».
Проблемы с ИИ
В начале дискуссии Корнблут и Альтман обсудили множество этических дилемм, связанных с ИИ.
«Я думаю, что мы добились удивительно хорошего прогресса в том, как согласовать систему с набором ценностей», — сказал Альтман. «Как бы люди ни любили говорить: «Вы не можете использовать эти штуки, потому что они все время выделяют токсичные отходы», GPT-4 ведет себя так, как вы этого хотите, и мы можем заставить его следовать заданному набору ценностей, не совсем хорошо, но лучше, чем я ожидал к этому моменту».
Альтман также отметил, что люди не согласны с тем, как именно должна вести себя система ИИ во многих ситуациях, что усложняет усилия по созданию универсального кодекса поведения.
«Как мы решаем, какие ценности должна иметь система?» — спросил Альтман. «Как мы решаем, что должна делать система? Насколько общество определяет границы и доверяет пользователю эти инструменты? Не каждый будет использовать их так, как нам нравится, но с инструментами дело обстоит именно так. Я думаю, что важно дать людям большой контроль… но есть некоторые вещи, которые система просто не должна делать, и нам придется коллективно договориться, что именно».
Корнблут согласился, что искоренить предвзятость в системах искусственного интеллекта будет сложно.
«Интересно подумать, сможем ли мы сделать модели менее предвзятыми, чем мы, люди», — сказала она.
Корнблут также поднял вопросы конфиденциальности, связанные с огромными объемами данных, необходимыми для обучения современных больших языковых моделей. Альтман сказал, что общество борется с этими проблемами с момента появления Интернета, но ИИ делает такие соображения более сложными и повышает ставки. Он также видит совершенно новые вопросы, возникающие в связи с перспективой создания мощных систем искусственного интеллекта.
«Как мы собираемся найти компромисс между конфиденциальностью, полезностью и безопасностью?» — спросил Альтман. «То, где мы все индивидуально решаем установить эти компромиссы, и преимущества, которые станут возможными, если кто-то позволит системе обучаться на протяжении всей своей жизни, — это новая вещь для общества, в которой нужно ориентироваться. Я не знаю, какими будут ответы».
Альтман считает, что прогресс в будущих версиях моделей ИИ поможет решить проблемы конфиденциальности и энергопотребления, связанные с ИИ.
«Чего мы хотим от GPT-5 или 6 или чего-то еще, так это чтобы она была лучшей возможной машиной рассуждения», — сказал Альтман. «Это правда, что сейчас единственный способ сделать это — это обучить ее». на тоннах и тоннах данных. В этом процессе он узнает что-то о том, как делать очень, очень ограниченные рассуждения или познания, или как бы вы это ни называли, но тот факт, что он может запоминать данные, или тот факт, что он хранит данные. все в пространстве параметров, думаю, мы оглянемся назад и скажем: «Это была какая-то странная трата ресурсов». Я предполагаю, что в какой-то момент мы придумаем, как отделить механизм рассуждений от необходимости хранить тонны данных или хранить их в [the model]и уметь относиться к ним как к отдельным вещам».
Корнблут также спросил, как ИИ может привести к сокращению рабочих мест.
«Одна из вещей, которые меня больше всего раздражают в людях, которые работают над ИИ, — это когда они встают с невозмутимым выражением лица и говорят: «Это никогда не приведет к сокращению рабочих мест». Это просто добавка. Все будет здорово», — сказал Альтман. «Это приведет к сокращению многих нынешних рабочих мест, изменит способ функционирования многих нынешних рабочих мест и создаст совершенно новые рабочие места. Такое всегда случается с технологиями».
Обещание ИИ
Альтман считает, что прогресс в области искусственного интеллекта сделает решение всех текущих проблем в этой области того стоит.
«Если бы мы потратили 1 процент мировой электроэнергии на обучение мощного ИИ, и этот ИИ помог бы нам понять, как перейти к неуглеродной энергетике или улучшить глубокое улавливание углерода, это было бы огромной победой», — сказал Альтман.
Он также сказал, что применение ИИ, которое его больше всего интересует, — это научные открытия.
“Я считаю [scientific discovery] является основным двигателем человеческого прогресса и что это единственный способ обеспечить устойчивый экономический рост», — сказал Альтман. «Люди недовольны GPT-4. Они хотят, чтобы дела пошли лучше. Каждый хочет, чтобы жизнь была больше, лучше и быстрее, и наука — это то, как мы этого достигаем».
Корнблут также попросил Альтмана дать совет студентам, думающим о своей карьере. Он призвал студентов не ограничивать себя.
«Самый важный урок, который нужно усвоить на ранних этапах вашей карьеры, заключается в том, что вы можете понять что угодно, и ни у кого нет ответов на все вопросы, когда они начинают», — сказал Альтман. «Вы просто спотыкаетесь, имеете высокую скорость итерации и пытаетесь двигаться к наиболее интересным для вас проблемам, находитесь среди самых впечатляющих людей и верите, что вы успешно доберетесь до нужного результата. … Вы можете сделать больше, чем думаете, и быстрее, чем думаете».
Этот совет был частью более широкого послания Альтмана о необходимости сохранять оптимизм и работать над созданием лучшего будущего.
«То, как мы учим наших молодых людей тому, что мир полностью испорчен и что безнадежно пытаться решить проблемы, что все, что мы можем сделать, это сидеть в своей спальне в темноте и думать о том, какие мы ужасные, — это действительно глубокая ошибка. непродуктивная полоса», — сказал Альтман. «Я надеюсь, что MIT отличается от многих других кампусов колледжей. Я предполагаю, что это так. Но вам всем нужно сделать борьбу с этим частью своей жизненной миссии. Процветания, изобилия, лучшей жизни в следующем году, лучшей жизни для наших детей. Это единственный путь вперед. Это единственный способ создать функционирующее общество… и я надеюсь, что вы все будете бороться с антипрогрессивной полосой, анти-настройкой «народ заслуживает великой жизни».