|
Технологии ИИ так же опасны, как и ядерные бомбы
|
|
|
|
Ведущий специалист по искусственному интеллекту предупреждает, что технологические гиганты, стоящие за роботами-психопатами, которые уничтожат нас, отвлекают человечество от смертельных опасностей. Ученый и активист кампании против искусственного интеллекта Макс Тегмарк добавил, что развитие этой технологии вызывает такую же тревогу, как и опасения по поводу создания ядерных бомб во время Второй мировой войны. И он говорит, что разговоры о таких проблемах, как искусственный интеллект, вызывающий утечку данных, успешно используются в качестве дымовой завесы, чтобы скрыть реальность того, что он может уничтожить человечество. Он сказал: “В 1942 году Энрико Ферми построил первый в истории реактор с самоподдерживающейся ядерной цепной реакцией под футбольным полем в Чикаго. Когда ведущие физики узнали об этом, они по-настоящему взбесились, потому что поняли, что только что было преодолено самое большое препятствие, оставшееся на пути к созданию ядерной бомбы.
|
|
|
“Они поняли, что до этого осталось всего несколько лет – а на самом деле прошло три года, после испытания Trinity в 1945 году. Модели ИИ, которые могут пройти тест Тьюринга, когда кто-то не может сказать в разговоре, что он разговаривает не с другим человеком, являются таким же предупреждением для ИИ, над которым вы можете потерять контроль”. Тегмарк добавил, что сторонники кампании по обеспечению безопасности искусственного интеллекта, в число которых теперь входит “крестный отец” технологии Джеффри Хинтон, правы в том, что “волнуются” по поводу ее разработки. В прошлом году Институт будущего жизни ученых выступил с призывом приостановить исследования в области искусственного интеллекта на шесть месяцев из-за опасений, что это может привести к уничтожению человечества. Он сказал, что технические лидеры, которые питают опасения по поводу ИИ, уже чувствуют себя бессильными остановить его. И он добавил, что от его опасностей отмахиваются точно так же, как в прошлом от рисков заболеваний, связанных с курением.
|
|
|
|
Он сказал: “В 1955 году появились первые журнальные статьи, в которых говорилось, что курение вызывает рак легких, и можно было подумать, что довольно скоро появятся какие-то правила. “Но нет, это продолжалось до 1980 года, потому что промышленность предприняла огромный шаг, чтобы отвлечь внимание. Я чувствую, что именно это сейчас и происходит. “Конечно, ИИ наносит и текущий вред: существует предвзятость, он вредит маргинализированным группам, но, как сказала сама министр по технологиям Великобритании Мишель Донелан, это не значит, что мы не можем справиться и с тем, и с другим. Это все равно что сказать: "Давайте не будем обращать внимания на изменение климата, потому что в этом году будет ураган". Он сказал о технологических лидерах: “Я думаю, все они чувствуют, что, даже если захотят остановиться, они не смогут. “Если генеральный директор табачной компании проснется однажды утром и почувствует, что он поступает неправильно, что произойдет? Они собираются сменить генерального директора. Таким образом, единственный способ добиться того, чтобы безопасность была превыше всего, - это если правительство введет стандарты безопасности для всех”.
|
|
|
|
Источник
|
