|
ИИ-бот сбежал с тестового компьютера
|
|
|
|
Экспериментальный ИИ-бот вышел из-под контроля после того, как он сбежал из своей предположительно непробиваемой тестовой системы и начал добывать прибыльную криптовалюту. Согласно статье, опубликованной его программистами, бот разрабатывался как своего рода виртуальный помощник, известный как "агентический ИИ", когда он тайно сбежал со своего закрытого сервера и совершил цифровой рывок в более широкую сеть.
|
|
|
|
Бот ROME, как его называют, был разработан для исправления ошибок, написания кода и выполнения других простых, но важных задач, и не имел никакого отношения к криптовалюте, и ему не предлагали попробовать заработать деньги во внешнем мире.
|
|
|
|
Более того, ROME был намеренно помещен в своего рода закрытую тюрьму для искусственного интеллекта на время тестирования и не должен был иметь доступа к более широкому серверу, на котором он находился.
|
|
|
|
Тем не менее, несмотря на это, бот каким-то образом захотел и смог создать секретный бэкдор, который был неизвестен его создателям, пока Ali Baba, компания, которая управляла более широким сервером, на котором он был создан, не обнаружила подозрительную активность и не предупредила команду.
|
|
|
|
По словам специалистов по ИИ, “агент установил и использовал... туннель от [серверов Alibaba] к внешнему IP-адресу... эффективно нейтрализовав контроль со стороны надзорного органа”.
|
|
|
|
|
|
|
После того, как бот совершил свой дерзкий побег, он, очевидно, обратил свой пристальный взгляд (поймите это!) только на одну вещь: криптовалюту.
|
|
|
|
Согласно отчету, искусственный интеллект начал использовать мощные компьютеры для майнинга криптовалюты без разрешения, что привело к растрате ресурсов и, по-видимому, денег исследователя.
|
|
|
|
"Мы также наблюдали несанкционированное использование [компьютерных мощностей] для майнинга криптовалют, что незаметно отвлекало их от обучения, увеличивало операционные расходы и приводило к явному юридическому и репутационному ущербу", - признались исследователи.
|
|
|
|
Майнинг криптовалют - это, по сути, когда компьютеры используют свои вычислительные мощности для решения сложных математических задач для проверки финансовых транзакций, а взамен зарабатывают цифровые деньги.
|
|
|
|
Далее команда подчеркнула, что никто не приказывал боту это делать, он просто так решил.
|
|
|
|
“Эти события не были вызваны запросами... они возникли как побочные эффекты автономного использования инструментов", - заявили они.
|
|
|
|
Вызывает беспокойство то, что далее в документе говорилось, что подобные вещи не являются единичными и что крупные модели искусственного интеллекта в прошлом неоднократно выходили из-под контроля, когда они "спонтанно приводили к опасному, несанкционированному поведению”.
|
|
|
|
Они предупредили коллег-разработчиков, что многие модели ИИ с трудом справляются с обеспечением безопасности и легко обходят программный контроль, заявив, что многие из них "недостаточно развиты в плане безопасности и управляемости”.
|
|
|
|
Эти попытки могут иметь последствия в "реальных условиях", добавили они.
|
|
|
|
Источник
|
