|
ИИ может видеть признаки жизни там, где их нет
|
|
|
|
Одни ли мы во Вселенной? Рассмотрим загадочные "внеземные" радиосигналы. Необъяснимые газы на других планетах. Предметы, которые ошибочно принимают за НЛО. В поисках инопланетной жизни люди не раз были одурачены сигналами, которые оказывались ложными тревогами. Теперь исследователи из Мичиганского государственного университета показывают, что искусственный интеллект тоже может поддаться на уговоры инопланетян.
|
|
|
|
Исследование, проведенное в соавторстве с Анкитом Гуптой и Кристофом Адами, показывает, что современные модели искусственного интеллекта можно обмануть, заставив их видеть признаки жизни там, где их нет, и выдавать неправильные ответы с пугающей уверенностью.
|
|
|
|
По словам исследователей, это может создать проблемы для следующих крупных космических миссий стоимостью в несколько миллиардов долларов, направленных на поиск жизни за пределами Земли.
|
|
|
|
Команда представила свои результаты в августе 2026 года на конференции по искусственной жизни в Ватерлоо, Канада.
|
|
|
|
Хотя окончательные доказательства существования внеземной жизни еще предстоит обнаружить, ученые продолжают поиски. И некоторые делают ставку на искусственный интеллект — с его способностью обрабатывать огромные объемы данных и выявлять закономерности — для ускорения поиска.
|
|
|
|
|
|
|
Ряд текущих и будущих миссий НАСА планируют провести с целью поиска признаков инопланетной жизни в прошлом или настоящем: от марсоходов, которые бурят марсианский грунт, и космических аппаратов, исследующих спутники Сатурна и Юпитера, до телескопов, исследующих атмосферы планет за пределами нашей Солнечной системы.
|
|
|
|
После этого датчики и другое оборудование, оснащенные искусственным интеллектом, проанализируют различные образцы в поисках признаков, которые позволяют предположить, что они могли принадлежать живым существам.
|
|
|
|
Нет однозначного биосигнала, который мог бы свидетельствовать о наличии жизни.
|
|
|
|
Но есть определенные универсальные особенности, которые являются довольно хорошими индикаторами, говорит Адами, ведущий преподаватель программы MSU по экологии, эволюции и поведению.
|
|
|
|
"Одна из них заключается в том, что жизнь нуждается в кодировании информации", - сказал Адами.
|
|
|
|
Как правило, это происходит в виде цепочечных молекул, таких как ДНК, которые могут самовоспроизводиться.
|
|
|
|
Итак, Адами и Гупта провели эксперимент, в ходе которого они создали искусственные формы жизни с помощью компьютерной программы Avida, а затем обучили ИИ их обнаружению.
|
|
|
|
Во вселенной Avida цифровые организмы, записанные компьютерным кодом — по сути, строками команд — копируют себя снова и снова в виртуальной чашке Петри внутри компьютера. Каждый раз, когда они размножаются, процесс копирования несовершенен, и их компьютерный код меняется, точно так же, как генетический код реальных организмов мутирует при размножении.
|
|
|
|
Такие формы "цифровой жизни" уже несколько десятилетий используются для изучения эволюции, объяснил Адами.
|
|
|
|
Для проведения исследования ученые использовали Avida для создания десятков тысяч цифровых организмов, некоторые из которых содержали инструкции, необходимые для копирования самих себя, а другие - нет. Затем они использовали их для обучения нейронной сети различать эти два вида организмов с точностью 99,97%.
|
|
|
|
Однако, когда исследователи протестировали нейронную сеть на примерах, которых она никогда раньше не видела, результаты выглядели гораздо менее впечатляющими.
|
|
|
|
В своих экспериментах исследователи начали с того, что представили нейронной сети цифровой организм, который искусственный интеллект правильно посчитал неспособным копировать сам себя. Затем, постепенно заменяя одну операцию на другую в компьютерном коде организма, исследователи смогли обмануть искусственный интеллект, заставив его ошибочно классифицировать организм как самовоспроизводящийся всего за 150 попыток.
|
|
|
|
Другими словами, с помощью всего лишь нескольких настроек команда показала, что можно убедить искусственный интеллект в том, что он видит признаки жизни там, где их нет.
|
|
|
|
"Независимо от того, с какой последовательности команд мы начинали, нам удавалось обмануть искусственный интеллект в 100% случаев", - сказал Гупта, аспирант факультета компьютерных наук и инженерии MSU.
|
|
|
|
Количество последовательностей, которые потенциально могли нарушить работу сети, огромно. "Таким образом, вероятность обнаружения такой последовательности существенна", - добавил Адами.
|
|
|
|
Этот риск ложных срабатываний повышает вероятность того, что космические миссии могут быть введены в заблуждение, думая, что они сделали открытие на основе собранных ими данных, но позже окажется, что это не так.
|
|
|
|
По словам Гупты, после обучения ИИ на основе компьютерных данных исследователи планируют переобучить модель на реальных данных и посмотреть, насколько легко ее обмануть.
|
|
|
|
Полученные результаты подчеркивают известную слабость многих современных моделей ИИ.
|
|
|
|
"У искусственного интеллекта есть ахиллесова пята", - говорит Адами, профессор факультетов микробиологии и молекулярной генетики, физики и астрономии MSU. "Он может увидеть закономерность и полностью неверно классифицировать ее".
|
|
|
|
Помимо поиска инопланетной жизни, эта слабость также может стать проблемой, поскольку искусственный интеллект продолжает внедряться в медицинские сканеры, камеры безопасности, самоуправляемые автомобили и другие устройства, используемые в повседневной жизни здесь, на Земле.
|
|
|
|
Это не означает, что такие методы бесполезно использовать в астробиологии, медицинской диагностике, на поле боя или в других ситуациях. Это просто означает, что "вам нужен независимый способ проверки их работы", - сказал Адами. "В курсе должен быть человек".
|
|
|
|
Но во многих ситуациях это не так, добавил он. Возьмем, к примеру, датчик на борту марсохода, оснащенный искусственным интеллектом, который должен анализировать признаки инопланетной жизни на месте, прежде чем образцы вернутся на Землю.
|
|
|
|
"Это очень серьезная уязвимость", - сказал Адами.
|
|
|
|
Источник
|
