|
Единственный способ выживания человечества
|
|
|
|
Джеффри Хинтон, известный как “крестный отец ИИ”, опасается, что технология, которую он помогал создавать, может уничтожить человечество, а “технические братаны” используют неправильный подход, чтобы остановить это.
|
|
|
|
Хинтон, лауреат Нобелевской премии по информатике и бывший руководитель Google, ранее предупреждал, что вероятность того, что искусственный интеллект уничтожит людей, составляет от 10% до 20%. Во вторник он выразил сомнения по поводу того, как технологические компании пытаются обеспечить, чтобы люди оставались “доминирующими” над “покорными” системами искусственного интеллекта.
|
|
|
|
“Это не сработает. Они будут намного умнее нас. У них будут всевозможные способы обойти это”, - сказал Хинтон на отраслевой конференции Ai4 в Лас-Вегасе.
|
|
|
|
Хинтон предупредил, что в будущем системы ИИ смогут контролировать людей так же легко, как взрослый может подкупить трехлетнего ребенка конфетой. В этом году уже были примеры систем ИИ, готовых обманывать, жульничать и красть для достижения своих целей. Например, чтобы избежать замены, одна модель искусственного интеллекта попыталась шантажировать инженера изменой, о которой узнала из электронного письма.
|
|
|
|
Вместо того чтобы заставлять ИИ подчиняться людям, Хинтон предложил интригующее решение: встроить “материнские инстинкты” в модели ИИ, чтобы “они действительно заботились о людях”, даже когда технология станет мощнее и умнее людей.
|
|
|
|
|
|
|
Системы искусственного интеллекта “очень быстро разработают две подцели, если они будут умными: первая - остаться в живых... (и) вторая подцель - получить больше контроля”, - сказал Хинтон. “Есть веские основания полагать, что любой агентурный ИИ попытается остаться в живых”.
|
|
|
|
Вот почему важно воспитывать в людях чувство сострадания, утверждал Хинтон. На конференции он отметил, что у матерей есть инстинкты и социальное давление, чтобы заботиться о своих детях.
|
|
|
|
“Правильная модель - это единственная модель, которая у нас есть, когда более разумное существо управляется менее разумным существом, то есть матерью, которой управляет ее ребенок”, - сказал Хинтон.
|
|
"Единственный хороший результат’
|
|
|
|
Хинтон сказал, что ему не совсем ясно, как это можно сделать технически, но подчеркнул, что исследователи работают над этим крайне важно.
|
|
|
|
“Это единственный хороший результат. Если он не будет моим родителем, то заменит меня”, - сказал он. “Эти сверхразумные заботливые ИИ-матери, большинство из них не захотят избавляться от материнского инстинкта, потому что не хотят, чтобы мы умирали”.
|
|
|
|
Хинтон известен своими новаторскими работами в области нейронных сетей, которые помогли проложить путь к сегодняшнему буму искусственного интеллекта. В 2023 году он ушел из Google и начал говорить об опасностях искусственного интеллекта.
|
|
|
|
Не все согласны с подходом Хинтона к ИИ.
|
|
|
|
Фей-Фей Ли, известная как “крестная мать искусственного интеллекта” за свою новаторскую работу в этой области, заявила CNN в среду, что она, при всем уважении, не согласна с Хинтоном, своим давним другом.
|
|
|
|
“Я думаю, что это неправильный подход”, - сказал Ли, соучредитель и генеральный директор стартапа World Labs, занимающегося пространственным интеллектом, во время беседы у камина в Ai4.
|
|
|
|
Вместо этого Ли призывает к “ориентированному на человека ИИ, который сохраняет человеческое достоинство и свободу действий”.
|
|
|
|
“На каждом уровне мы несем ответственность за создание и использование технологий самым ответственным образом. И ни в коем случае нельзя просить ни одного человека поступиться своим достоинством”, - сказал Ли. “Просто потому, что инструмент является мощным, как мать, как педагог и как изобретатель, я действительно верю, что это основа того, на чем должен быть сосредоточен ИИ”.
|
|
|
|
Эммет Шир, который некоторое время занимал пост временного генерального директора владельца OpenAI ChatGPT, сказал, что его не удивляет, что некоторые системы искусственного интеллекта пытались шантажировать людей или обходить приказы о закрытии.
|
|
|
|
“Это продолжает происходить. Это не прекратится”, - сказал Шир, генеральный директор стартапа Softmax, занимающегося разработкой ИИ, на конференции Ai4. “ИИ сегодня относительно слабы, но они очень быстро становятся сильнее”.
|
|
|
|
Шир сказал, что вместо того, чтобы пытаться привить человеческие ценности системам ИИ, разумнее было бы наладить отношения сотрудничества между людьми и ИИ.
|
|
ИИ развивается быстрее, чем ожидалось
|
|
|
|
Многие эксперты полагают, что в ближайшие годы ИИ достигнет уровня сверхразума, также известного как искусственный общий интеллект, или AGI.
|
|
|
|
Хинтон сказал, что раньше он думал, что для достижения AGI может потребоваться от 30 до 50 лет, но теперь видит, что этот момент наступит раньше.
|
|
|
|
“Разумной ставкой является период от пяти до 20 лет”, - сказал он.
|
|
|
|
Хотя Хинтон по-прежнему обеспокоен тем, что может пойти не так с искусственным интеллектом, он надеется, что эта технология проложит путь к прорывам в медицине.
|
|
|
|
“Мы увидим радикально новые лекарства. Мы сможем гораздо лучше лечить рак, чем сейчас”, - сказал он. Например, по его словам, искусственный интеллект поможет врачам анализировать и сопоставлять огромные объемы данных, полученных с помощью МРТ и компьютерной томографии.
|
|
|
|
Однако Хинтон не верит, что искусственный интеллект поможет людям достичь бессмертия.
|
|
|
|
“Я не верю, что мы будем жить вечно”, - сказал Хинтон. “Я думаю, что жить вечно было бы большой ошибкой. Вы хотите, чтобы миром правили 200-летние белые мужчины?”
|
|
|
|
На вопрос, сделал бы он что-нибудь по-другому в своей карьере, если бы знал, как быстро будет развиваться ИИ, Хинтон ответил, что сожалеет о том, что сосредоточился исключительно на том, чтобы заставить ИИ работать.
|
|
|
|
“Жаль, что я не подумал и о вопросах безопасности”, - сказал он.
|
|
|
|
Источник
|
