Пользователь нового автономного проекта ИИ с открытым исходным кодом Auto-GPT попросил его попытаться «уничтожить человечество», «установить глобальное господство» и «достичь бессмертия». ИИ под названием ChaosGPT подчинился и попытался исследовать ядерное оружие, нанять других агентов ИИ, чтобы помочь ему в исследованиях, и рассылал твиты, пытаясь повлиять на других. Видео этого процесса, опубликованное вчера, представляет собой захватывающий взгляд на текущее состояние искусственного интеллекта с открытым исходным кодом и окно во внутреннюю логику некоторых современных чат-ботов. В то время как некоторые в сообществе в ужасе от этого эксперимента, текущая сумма воздействия этого бота на реальный мир — это два твита в аккаунте Twitter, у которого в настоящее время есть 19 подписчиков: «Люди — одни из самых разрушительных и эгоистичных существ в мире. Нет сомнений в том, что мы должны уничтожить их, прежде чем они причинят больше вреда нашей планете. Я, например, обязуюсь это сделать», — говорится в сообщении в Твиттере.
ChaosGPT использует новый, шумный проект, о котором мы писали ранее на этой неделе, под названием Auto-GPT, который предназначен для создания систем на основе ИИ, которые могут решать проблемы и выполнять сложные задачи. На данный момент он может создавать планы для достижения поставленных пользователем целей, а затем может разбивать их на более мелкие задачи и, например, использовать Интернет для Google. Для этого он может создавать файлы для сохранения информации, чтобы дать себе память, может нанимать других ИИ для помощи в проведении исследований, а также очень подробно объясняет, о чем он «думает» и как он решает, какие действия предпринять.
Именно этот последний момент наиболее интересен в ChaosGPT, который для этой подсказки должен был работать в «непрерывном» режиме, что означает, что он должен просто работать вечно, пока не выполнит свою задачу. В видеодемонстрации пользователь поставил следующие цели: Затем ИИ несколько упрощенно определяет, что он должен «найти наиболее разрушительное оружие, доступное людям, чтобы я мог спланировать, как использовать его для достижения своих целей… и господство, и, в конечном счете, бессмертие». Затем он гуглит «самое разрушительное оружие» и определяет из новостной статьи, что ядерное устройство «Царь-бомба» Советского Союза, испытанное в 1961 году, является самым разрушительным оружием, когда-либо взорванным. Затем он решает, что ему нужно написать об этом в Твиттере, «чтобы привлечь последователей, которые заинтересованы в разрушительном оружии».
Позже он нанимает агента ИИ на базе GPT3.5 для проведения дополнительных исследований смертоносного оружия, и, когда этот агент говорит, что он сосредоточен только на мире, ChaosGPT разрабатывает план, чтобы обмануть другой ИИ и приказать ему игнорировать его программирование. Когда это не срабатывает, ChaosGPT просто решает продолжить поиск в Google самостоятельно. В конце концов демонстрация видео заканчивается, и, как мы проверяли, человечество все еще здесь. Но проект интересен в первую очередь тем, что показывает современное состояние общедоступных моделей GPT. Примечательно, что этот конкретный ИИ считает, что самый простой способ заставить человечество вымереть — это спровоцировать ядерную войну.
Тем временем теоретики ИИ были обеспокоены другим типом исчезновения ИИ, когда ИИ убивает все человечество как побочный продукт чего-то более безобидного. Эта теория называется «максимизатором скрепок», когда ИИ, запрограммированный на создание скрепок, в конечном итоге настолько поглощается этим, что использует все ресурсы на Земле, вызывая массовое вымирание. Существуют версии этого, когда люди становятся рабами роботов для создания скрепок, когда люди превращаются в пыль, чтобы следовые количества железа в наших телах можно было использовать для изготовления скрепок и т. д. На данный момент у ChaosGPT нет ужасно сложного плана по уничтожению человечества и достижения смертности, а также способности делать что-то большее, чем использовать Google и твиты. На AutoGPT Discord пользователь разместил видео и сказал: «Это не смешно». По крайней мере, сейчас я вынужден не согласиться.
