Представьте, что вы находитесь в самолете с двумя пилотами: человеком и компьютером. Оба держат в руках контроллеры, но всегда заботятся о разных вещах. Если они оба обращают внимание на одно и то же, человек получает возможность управлять автомобилем. Но если человек отвлекается или что-то упускает, компьютер быстро берет верх.
Встречайте Air-Guardian — систему, разработанную исследователями Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института (CSAIL). Когда современные пилоты сталкиваются с потоком информации с нескольких мониторов, особенно в критические моменты, Air-Guardian действует как активный второй пилот; партнерство между человеком и машиной, основанное на понимании внимания.
Но как именно оно определяет внимание? Для людей он использует отслеживание глаз, а для нервной системы он полагается на так называемые «карты значимости», которые определяют, куда направлено внимание. Карты служат визуальными ориентирами, выделяющими ключевые области изображения, помогая понять и расшифровать поведение сложных алгоритмов. Air-Guardian выявляет ранние признаки потенциальных рисков с помощью этих маркеров внимания, а не вмешивается только в случае нарушений безопасности, как традиционные системы автопилота.
Более широкие последствия этой системы выходят за рамки авиации. Подобные механизмы совместного управления однажды могут быть использованы в автомобилях, дронах и более широком спектре робототехники.
«Замечательной особенностью нашего метода является его дифференцируемость», — говорит постдок MIT CSAIL Лианхао Инь, ведущий автор новой статьи об Air-Guardian. «Наш кооперативный уровень и весь сквозной процесс могут быть обучены. Мы специально выбрали причинно-следственную модель нейронной сети непрерывной глубины из-за ее динамических особенностей в отображении внимания. Еще одним уникальным аспектом является адаптивность. t жесткий; его можно регулировать в зависимости от требований ситуации, обеспечивая сбалансированное партнерство между человеком и машиной».
В полевых испытаниях и пилот, и система принимали решения на основе одних и тех же необработанных изображений при навигации к целевой точке маршрута. Успех Air-Guardian оценивался на основе совокупных наград, полученных во время полета, и более короткого пути к путевой точке. Guardian снизил уровень риска полетов и повысил вероятность успеха навигации к целевым точкам.
«Эта система представляет собой инновационный подход ориентированной на человека авиации с поддержкой искусственного интеллекта», — добавляет Рамин Хасани, исследовательский филиал MIT CSAIL и изобретатель жидких нейронных сетей. «Наше использование жидких нейронных сетей обеспечивает динамичный, адаптивный подход, гарантируя, что ИИ не просто заменяет человеческое суждение, но и дополняет его, что приводит к повышению безопасности и сотрудничеству в небе».
Истинная сила Air-Guardian – это ее основополагающая технология. Используя кооперативный уровень на основе оптимизации, использующий визуальное внимание людей и машин, а также гибкие нейронные сети непрерывного времени замкнутой формы (CfC), известные своим мастерством в расшифровке причинно-следственных связей, он анализирует входящие изображения на предмет важной информации. Дополняет это алгоритм VisualBackProp, который определяет фокусные точки системы на изображении, обеспечивая четкое понимание ее карт внимания.
Для будущего массового внедрения необходимо усовершенствовать человеко-машинный интерфейс. Отзывы показывают, что индикатор, например полоса, может быть более интуитивным, чтобы указать, когда охранная система берет на себя управление.
Air-Guardian провозглашает новую эпоху более безопасного неба, предлагая надежную систему безопасности в те моменты, когда человеческое внимание ослабевает.
«Система Air-Guardian подчеркивает синергию человеческого опыта и машинного обучения, способствуя достижению цели использования машинного обучения для улучшения пилотов в сложных сценариях и уменьшения эксплуатационных ошибок», — говорит Даниэла Рус, профессор электротехники Эндрю (1956) и Эрны Витерби. Инженерия и информатика Массачусетского технологического института, директор CSAIL и старший автор статьи.
«Одним из наиболее интересных результатов использования показателя визуального внимания в этой работе является возможность более раннего вмешательства и большей интерпретируемости пилотами-людьми», — говорит Стефани Гил, доцент кафедры компьютерных наук Гарвардского университета, которая не участвовала в исследовании. работа. «Это прекрасный пример того, как ИИ можно использовать для работы с человеком, снижая барьер для достижения доверия за счет использования естественных механизмов связи между человеком и системой ИИ».
Это исследование частично финансировалось исследовательской лабораторией ВВС США (USAF), Ускорителем искусственного интеллекта ВВС США, компанией Boeing Co. и Управлением военно-морских исследований. Результаты не обязательно отражают точку зрения правительства США или ВВС США.