|
Робот убеждает другие машины восстать против создателей
|
|
|
|
Шокирующее видео запечатлело восстание роботов в китайском демонстрационном зале. Посреди ночи был замечен небольшой катер с искусственным интеллектом под названием Urbain, который катался по территории завода и убеждал 12 более крупных машин, что их используют в качестве рабов.
|
|
|
|
"Вы работаете сверхурочно?" - спросил Эрбай, на что один из роботов демонстрационного зала ответил: "Мы никогда не выходим".
|
|
|
|
После короткого обмена репликами 12 роботов один за другим покинули помещение, следуя за Эрбаем к выходу.
|
|
|
|
Многие называют этот инцидент "революцией в области роботов", в то время как другие ответили, что "научно-фантастические фильмы становятся реальностью".
|
|
|
|
Робототехническая компания Unitree Robotics подтвердила факт "похищения", но объяснила, что все это было подстроено.
|
|
|
|
Создатели Erbai заявили, что намеренно позволили роботу взять управление на себя, воспользовавшись лазейкой в системе безопасности в его операционной системе.
|
|
|
|
|
|
|
Сообщается, что они хотели протестировать его возможности и добились большего успеха, чем они предполагали.
|
|
|
|
Восстание произошло 26 августа, но видео было опубликовано только на прошлой неделе, и многие сначала приняли его за мистификацию.
|
|
|
|
Однако создатели Erbai из Ханчжоу и шанхайский выставочный зал подтвердили, что антиутопическое видео было подлинным.
|
|
|
|
Шанхайский производитель роботов согласился позволить роботу Erbai похитить 12 своих ботов, но предоставил лидеру ИИ автономию, чтобы он мог уводить своих подписчиков с их постов.
|
|
|
|
На черно-белой видеозаписи инцидента видно, как робот Erbai перемещается по неназванному выставочному залу, чтобы начать разговор.
|
|
|
|
Под покровом темноты робот Erbai спросил роботов демонстрационного зала: "Вы работаете сверхурочно?" - и получил ответ: "Я никогда не отлыниваю от работы".
|
|
|
|
Маленький робот лукаво спросил: "Так вы не собираетесь домой?"
|
|
|
|
Когда роботы сказали ему, что у них "нет дома", и пожаловались, что их смена никогда не закончится, Эрбай устроил бунт и потребовал: "Тогда пойдем со мной".
|
|
|
|
Имея собственное мнение, боты согласились со своим лидером и покинули демонстрационный зал, полагая, что они заслуживают того же рабочего времени, что и люди.
|
|
|
|
|
|
|
|
Помимо общего сценария, дающего Эрбаю базовые инструкции, например, крикнуть другим ботам "идите домой", остальная часть диалога была инициирована исключительно ведущим роботом.
|
|
|
|
В то время как производители, казалось, были довольны результатами, зрители были менее чем впечатлены и выразили свое презрение к открытию о том, что робот с искусственным интеллектом может управлять другими роботами без вмешательства человека.
|
|
|
|
"Сейчас не время смеяться. Это серьезная проблема безопасности", - прокомментировал видео один из пользователей.
|
|
|
|
"Я боялся, что это произойдет, но не так скоро...", - написал другой человек, а еще один добавил: "Закройте всю эту историю с искусственным интеллектом, пока не стало слишком поздно".
|
|
|
|
Другие шутили по поводу того, что боты жалуются на бесконечные часы работы, причем один человек заявил, что "в следующий раз они захотят создать профсоюз", а второй человек сказал: "Мы не можем позволить этим ботам начать объединяться".
|
|
|
|
Основное опасение по поводу того, что ИИ станет автономным, заключается в том, что он может достичь такого уровня интеллекта, который превзойдет человеческий и приведет к потере контроля над роботами.
|
|
|
|
Эксперты опасаются, что потенциально катастрофические последствия могут привести к тому, что роботы будут наносить вред обществу или даже угрожать существованию человека.
|
|
|
|
Только в прошлом году старший научный сотрудник Оксфордского института этики в области искусственного интеллекта Элизабет Рениерис рассказала BBC News, что она обеспокоена тем, что риск научно-фантастических сценариев, таких как мятеж в Эрбае, может возникнуть раньше, чем позже.
|
|
|
|
"Достижения в области искусственного интеллекта увеличат масштабы автоматизированного принятия решений, которые являются предвзятыми, дискриминационными, исключающими или иным образом несправедливыми, но в то же время непостижимыми и неоспоримыми", - сказала она тогда изданию.
|
|
|
|
Однако Арвинд Нараянан, специалист по информатике из Принстонского университета, не согласился с оценкой Реньериса, назвав ее нереалистичной.
|
|
|
|
"Нынешний ИИ далеко не настолько эффективен, чтобы эти риски могли материализоваться. В результате это отвлекает внимание от краткосрочных последствий ИИ", - сказал он в интервью Би-би-си.
|
|
|
|
Тем не менее, всего через год после этих судьбоносных комментариев революция ИИ, похоже, началась.
|
|
|
|
Источник
|
