Исследовать
Восстановление, размещение и датировка древних текстов посредством сотрудничества ИИ и историков.
Рождение человеческой письменности ознаменовало начало истории и имеет решающее значение для нашего понимания прошлых цивилизаций и мира, в котором мы живем сегодня. Например, более 2500 лет назад греки начали писать на камне, керамике и металле, чтобы документировать все: от договоров аренды и законов до календарей и оракулов, давая детальное представление о Средиземноморском регионе. К сожалению, это неполная запись. Многие из сохранившихся надписей были повреждены на протяжении веков или перемещены с первоначального места. Кроме того, к этим материалам нельзя использовать современные методы датирования, такие как радиоуглеродное датирование, что затрудняет интерпретацию надписей и отнимает много времени.
В соответствии с миссией DeepMind по решению задач интеллекта для развития науки и человечества, мы сотрудничали с факультетом гуманитарных наук Венецианского университета Ка Фоскари, классическим факультетом Оксфордского университета и факультетом информатики Афинского университета экономики и науки. Бизнес должен изучить, как машинное обучение может помочь историкам лучше интерпретировать эти надписи, давая более глубокое понимание древней истории и раскрывая потенциал сотрудничества между ИИ и историками.
В статье, опубликованной сегодня в Природа, мы совместно представляем Итаку — первую глубокую нейронную сеть, способную восстановить недостающий текст поврежденных надписей, определить их исходное местоположение и помочь установить дату их создания. Итака названа в честь греческого острова в произведении Гомера. Одиссея и развивает и расширяет Pythia, нашу предыдущую систему, ориентированную на восстановление текста. Наши оценки показывают, что Итака достигает 62% точности при восстановлении поврежденных текстов, 71% точности при определении их исходного местоположения и может датировать тексты с точностью до 30 лет от диапазона их достоверных дат. Историки уже использовали этот инструмент для переоценки важных периодов греческой истории.
Чтобы сделать наши исследования широко доступными для исследователей, преподавателей, сотрудников музеев и других лиц, мы в партнерстве с Google Cloud и Google Arts & Culture запустили бесплатную интерактивную версию Ithaca. А чтобы помочь дальнейшим исследованиям, мы также открыли исходный код нашего кода, предварительно обученной модели и интерактивного блокнота для совместной работы.
Рисунок 1. Эта отреставрированная надпись (IG I3 4B) содержит указ об Афинском Акрополе и датируется 485/4 г. до н.э. (CC BY-SA 3.0, WikiMedia).
Рисунок 2. Архитектура Итаки. Поврежденные части текста обозначаются тире «-». Здесь мы искусственно исказили символы «δημ». Получив эти данные, Итака восстанавливает текст и определяет время и место, в котором текст был написан.
Инструменты для совместной работы
Итака обучается на крупнейшем наборе цифровых данных греческих надписей Гуманитарного института Паккарда. Модели обработки естественного языка обычно обучаются с использованием слов, поскольку порядок, в котором они появляются в предложениях, и отношения между ними обеспечивают дополнительный контекст и значение. Например, «однажды» имеет больше значения, чем каждый символ или слово, увиденное отдельно. Однако многие из надписей, которые историки заинтересованы проанализировать с помощью Итаки, повреждены и часто отсутствуют фрагменты текста. Чтобы наша модель по-прежнему работала при наличии одного из них, мы обучили ее, используя в качестве входных данных как слова, так и отдельные символы. Механизм разреженного самообслуживания, лежащий в основе модели, оценивает эти два входных сигнала параллельно, позволяя Итаке оценивать надписи по мере необходимости.
Рисунок 3. Результаты Итаки. (а) Прогнозы восстановления шести недостающих символов (тире) в афинской надписи (IG II2 116). Верхняя реставрация, выделенная зеленым цветом, правильная (συμμαχία, «альянс»). Обратите внимание, что следующие гипотезы (ἐκκλησία, «собрание» и προξενία, «договор между государством и иностранцем»), выделенные красным, обычно встречаются в афинских политических декретах, показывая восприимчивость Итаки к контексту. (б) Географическая атрибуция надписи с Аморгоса (IG XII 7, 2). Верхний прогноз Итаки верен, а ближайшие прогнозы касаются соседних регионов. (в) Распределение дат надписи с Делоса (IG XI 4, 579). Истинный интервал дат 300–250 гг. До н.э. выделен серым цветом; Прогнозируемое распределение Итаки показано желтым цветом, а среднее значение составляет 273 г. до н.э. (зеленым цветом).
Чтобы максимизировать ценность Итаки как исследовательского инструмента, мы также создали ряд наглядных пособий, чтобы историки могли легко интерпретировать результаты Итаки:
- Гипотезы восстановления: Итака генерирует несколько прогнозных гипотез для задачи восстановления текста, чтобы историки могли выбирать из своего опыта.
- Географическая принадлежность: Итака демонстрирует свою неопределенность, предоставляя историкам распределение вероятностей по всем возможным предсказаниям, а не только по одному результату. В результате он возвращает вероятности для 84 различных древних регионов, отражающих уровень достоверности. Он визуализирует эти результаты на карте, чтобы пролить свет на возможные географические связи в древнем мире.
- Хронологическая атрибуция: Датируя текст, Итака производит распределение предсказанных дат по всем десятилетиям от 800 г. до н.э. до 800 г. н.э. Это может позволить историкам визуализировать достоверность модели для конкретных диапазонов дат, что может дать ценную историческую информацию.
- Карты значимости: Чтобы передать результаты историкам, Итака использует метод, обычно используемый в компьютерном зрении, который определяет, какие входные последовательности больше всего способствуют предсказанию. В выводе слова выделяются цветом разной интенсивности, что привело к прогнозам Итаки об отсутствующем тексте, местоположении и датах.
Рисунок 4. Этот текст (IG II2 116, Афины 361/0 до н.э.) описывает союз между народами Афин и Фессалии. Используя карты значимости, мы можем визуализировать Итаку, «сосредотачивающуюся» на контекстуально важных словах «афиняне» и «фессалийцы» при восстановлении искаженного слова «альянс».
Участие в исторических дебатах
Наша экспериментальная оценка показывает, как проектные решения и средства визуализации Итаки облегчают исследователям интерпретацию результатов. Эксперты-историки, с которыми мы работали, достигли точности 25%, работая в одиночку над восстановлением древних текстов. Но при использовании Итаки их производительность увеличивается до 72%, превосходя индивидуальную производительность модели и демонстрируя потенциал сотрудничества человека и машины для продвижения исторической интерпретации, установления относительных датировок исторических событий и даже внесения вклада в текущие методологические дебаты.
Например, историки в настоящее время расходятся во мнениях относительно даты ряда важных афинских указов, изданных в то время, когда жили такие известные личности, как Сократ и Перикл. Долгое время считалось, что указы были написаны до 446/445 г. до н.э., хотя новые данные позволяют предположить, что они датируются 420-ми гг. до н.э. Хотя это может показаться небольшой разницей, эти указы имеют фундаментальное значение для нашего понимания политической истории классических Афин.
Наш набор обучающих данных содержит более раннюю цифру 446/445 г. до н.э. Чтобы проверить предсказания Итаки, мы переобучили его на наборе данных, который не содержал датированных надписей, а затем представили эти отложенные тексты для анализа. Примечательно, что средняя прогнозируемая дата принятия указов в Итаке — 421 г. до н. э., что соответствует последним достижениям в области датирования и показывает, как машинное обучение может способствовать дебатам вокруг одного из самых значительных моментов в греческой истории.
Рисунок 5. Прогнозы Итаки в сравнении с базовыми данными Паккардского гуманитарного института (PHI) в сравнении с недавними историческими переоценками. Метки PHI в среднем отстают от переоценки на 27 лет, тогда как прогнозы Итаки в среднем отстают всего на 5 лет от недавно предложенных основных истин.
Мы считаем, что это только начало таких инструментов, как Итака, и потенциал сотрудничества между машинным обучением и гуманитарными науками. Древняя Греция играет важную роль в нашем понимании средиземноморского мира, но это всего лишь часть обширной глобальной картины цивилизаций. С этой целью в настоящее время мы работаем над версиями Итаки, обученными на других древних языках, и историки уже могут использовать свои наборы данных в текущей архитектуре для изучения других древних систем письменности, от аккадской до демотической, от иврита до майя. Мы надеемся, что такие модели, как Итака, смогут раскрыть потенциал сотрудничества между ИИ и гуманитарными науками, преобразуя то, как мы изучаем и пишем о некоторых из наиболее важных периодов в истории человечества.