|
ИИ может рассматривать людей как подонков, которых нужно контролировать
|
|
|
|
Бывший глава Google предупредил об опасностях искусственного интеллекта, заявив, что он может начать рассматривать человечество как «отбросы» и даже использовать военные беспилотники, чтобы уничтожить нас. Мо Гавдат, бывший главный коммерческий директор секретного научно-исследовательского подразделения Google X, сказал, что технология обладает способностью «любить» человечество или «раздавливать» человечество «как мух». Он второй сотрудник поискового гиганта, предупредивший о силе ИИ за столько недель, после того как их «крестный отец искусственного интеллекта» Джеффри Хинтон ушел в отставку, выпустив собственные ужасные предупреждения о будущем нашего ИИ. В Google X Гавдат сказал, что думает о созданном ими ИИ как о своих «детях», но теперь у него есть некоторые сожаления по поводу этого отцовства.
|
|
|
|
— Я жил среди этих машин. Я знаю, насколько они умны», — сказал Гавдат подкастеру Дэну Мюррею Сертеру в этом месяце. — Лучше бы я их не начинал. Гавдат надеется, что общественность будет по-прежнему сосредоточена на том, что можно сделать, чтобы предотвратить антиутопическое будущее авторитарных машин для убийств сейчас, пока еще есть время. Он предупреждает, что модели изучения языков, обучающие современный ИИ, позволяют машинам узнавать о человеческой расе только из той неразберихи, которую мы создали в сети. Там боты, скорее всего, увидят только худшее из того, что может предложить человечество. «Проблема в предвзятом отношении к негативу, — сказал Гавдат. «Те, кто преднамеренно злые, все в заголовках. Они также тратят больше времени и усилий, чтобы быть у власти».
|
|
|
Любой разумный ИИ, обученный культуре разжигания споров и «наживки гнева» онлайн-контента, созданного новостями и распространяемого социальными сетями, начнет рассматривать наш вид как зло и угрозу. «Насколько высока вероятность того, что ИИ сегодня будет считать нас отбросами?» — сказал Гаудат. 'Очень высоко.' Бывший «Крестный отец ИИ» из Google Хинтон также выразил обеспокоенность по поводу потенциальной токсичной динамики между ИИ и новостями. Говоря с New York Times о своей отставке в этом месяце, он предупредил, что в ближайшем будущем ИИ наводнит Интернет поддельными фотографиями, видео и текстами. По словам Хинтона, подделки будут стандартными, и обычный человек «больше не сможет знать, что является правдой».
|
|
|
|
Для Гавдата, написавшего книгу о будущем ИИ в 2021 году, Scary Smart, распространенные опасения по поводу ChatGPT являются «отвлекающим маневром», а мощь сегодняшних чат-ботов ИИ по-прежнему сильно преувеличена общественностью и государственными политиками. «Теперь, когда на нас напал ChatGPT, хотя ChatGPT на самом деле и честно не является проблемой, теперь все просыпаются и говорят: «Паника! Паника! Давайте что-нибудь с этим делать», — сказал Гавдат Сертеру в своем подкасте Secret Leaders. По его словам, сосредоточив внимание на отдаленных апокалиптических сценариях, человечество может не решить проблемы, которые оно может изменить прямо сейчас, чтобы обеспечить более гармоничное будущее в нашем неизбежном партнерстве со сверхинтеллектуальным ИИ.
|
|
|
|
«Между тем временем, когда ИИ сможет фактически генерировать свои собственные вычислительные мощности и самостоятельно выполнять установки с помощью роботизированных рук и т. д. и т. д., у него нет возможности выполнять сценарии, о которых вы здесь говорите», — сказал Гавдат. . «Человечество — это то, что решит создавать большие и лучшие центры обработки данных, выделять больше энергии этим машинам, устраивать беспорядки и протесты на улицах из-за того, что они потеряли работу и назвали ИИ «демоном», — добавил он. «Это человеческие действия, это человечество представляет угрозу». Гавдат сказал слушателям Secret Leaders, что люди должны перестать беспокоиться о отдаленных возможностях в 2037 или 2040 году, когда ИИ может решить «раздавить» человечество «как мух».
|
|
|
|
Но он верит, что ИИ скоро получит «агентство для создания машин для убийства», но только «потому что их создают люди». «Так что, да, ИИ может использовать это, чтобы диктовать повестку дня, как в фильме «Я, робот», — сказал Гаудат, — но до этого еще далеко». Однако, поскольку технологии искусственного интеллекта продолжают развиваться очень быстро, он предупреждает, что даже к его собственным экспертным мнениям следует относиться скептически. «Любое заявление об искусственном интеллекте сегодня, которое ориентировано на будущее, является ложным», — сказал Гавдат. 'Почему? Потому что дерьмо уже попало в вентилятор.
|
|
|
|
Источник
|
