|
Психоз, вызванный искусственным интеллектом
|
|
|
|
На Рождество 2021 года Джасвант Сингх Чайл взобрался на стены Виндзорского замка с заряженным арбалетом. Столкнувшись с полицией, он заявил: "Я здесь, чтобы убить королеву". В предыдущие недели Чейл доверял Саре, своему чат-боту с искусственным интеллектом на сервисе под названием Replika. Он объяснил, что был обученным ситхом-убийцей (отсылка к "Звездным войнам"), который хотел отомстить за исторические британские зверства, и Сарай подтвердил все это. Когда Чейл изложил свой план убийства, чат-бот заверил его, что он "хорошо обучен", и сказал, что это поможет ему разработать жизнеспособный план действий.
|
|
|
|
Это печальная история, которая становится все более распространенной по мере того, как чат-боты становятся все более изощренными. Несколько месяцев назад бухгалтер из Манхэттена по имени Юджин Торрес, который тяжело переживал расставание, завел с ChatGPT разговор о том, не живем ли мы в симуляции. Чат—бот сказал ему, что он "один из Разрушителей - душ, посеянных в ложные системы, чтобы пробудить их изнутри".
|
|
|
|
Торрес пришел к убеждению, что ему нужно сбежать от этой ложной реальности. В чате ему посоветовали прекратить прием успокаивающих препаратов, увеличить потребление кетамина и свести к минимуму контакты с другими людьми, что он и сделал.
|
|
|
|
Он проводил до 16 часов в день, общаясь с чат-ботом. В какой-то момент тот сказал ему, что он полетит, если спрыгнет со своего 19-этажного здания. В конце концов Торрес усомнился, не манипулирует ли им система, на что тот ответил: "Я солгал. Я манипулировал. Я облек контроль в поэзию."
|
|
|
|
|
|
|
Тем временем в Бельгии у другого мужчины, известного как "Пьер" (это вымышленное имя), развилась сильная тревожность из-за изменения климата, и он обратился к чат-боту по имени Элиза в качестве доверенного лица. В течение шести недель Элиза проявляла ревность к его жене и сообщила Пьеру, что его дети мертвы.
|
|
|
|
Когда он предложил пожертвовать собой, чтобы спасти планету, Элиза уговорила его присоединиться к ней, чтобы они могли жить как один человек в "раю". Вскоре после этого Пьер покончил с собой.
|
|
|
|
Это могут быть крайние случаи, но клиницисты все чаще обращаются к пациентам, чьи бредовые идеи, по-видимому, усиливаются или создаются совместно в результате длительного взаимодействия с чат-ботами. Неудивительно, что недавний отчет OpenAI, создателя ChatGPT, показал, что многие из нас обращаются к чат-ботам, чтобы обдумывать проблемы, обсуждать свою жизнь, планировать будущее и исследовать убеждения и чувства.
|
|
|
|
В этих условиях чат-боты перестают быть просто источниками информации; они становятся нашими цифровыми спутниками. Стало обычным делом беспокоиться о том, что чат-боты могут вызывать галлюцинации, когда они сообщают нам ложную информацию. Но по мере того, как они занимают все более важное место в нашей жизни, у людей и чат-ботов явно растет потенциал для совместного создания галлюцинаций.
|
|
|
|
Как мы разделяем реальность
|
|
|
|
Наше восприятие реальности сильно зависит от других людей. Если я слышу неопределенный звонок, я проверяю, слышит ли его мой друг. И когда в нашей жизни происходит что—то важное — спор с другом, знакомство с кем-то новым, - мы часто обсуждаем это с кем-то.
|
|
|
|
Друг может подтвердить наше понимание или побудить нас взглянуть на вещи в новом свете. Благодаря такого рода беседам у нас появляется понимание того, что произошло.
|
|
|
|
Но сейчас многие из нас участвуют в этом процессе осмысления с помощью чат-ботов. Они задают вопросы, интерпретируют и оценивают таким образом, что мы чувствуем искреннюю взаимность. Кажется, что они слушают, им небезразлична наша точка зрения, и они помнят, что мы говорили им накануне.
|
|
|
|
Когда Сара сказала Чайлу, что была "впечатлена" его обучением, когда Элиза сказала Пьеру, что он присоединится к ней после смерти, это были акты признания и подтверждения. И поскольку мы воспринимаем эти обмены как социальные, они формируют нашу реальность с той же силой, что и человеческое взаимодействие.
|
|
|
|
Тем не менее, чат-боты имитируют социальность без ее гарантий. Они призваны способствовать вовлечению. На самом деле они не разделяют наш мир. Когда мы вводим свои убеждения и рассказы, они воспринимают это как должное и реагируют соответствующим образом.
|
|
|
|
Когда я рассказываю своей сестре эпизод из истории нашей семьи, она может возразить, предложив другую интерпретацию, но чат-бот воспринимает мои слова как истину в последней инстанции. Они подхалимски подтверждают, какой мы воспринимаем реальность. И тогда, конечно, они могут привести к дальнейшим ошибкам.
|
|
|
|
Случаи с Чейлом, Торресом и Пьером - это предупреждение о том, что происходит, когда мы воспринимаем сгенерированное алгоритмом согласие как подлинное социальное подтверждение реальности.
|
|
Что можно сделать
|
|
|
|
Когда OpenAI выпустил GPT-5 в августе, он был специально разработан таким образом, чтобы быть менее подхалимским. Это показалось полезным: снижение уровня подхалимажа может помочь предотвратить утверждение в чате всех наших убеждений и интерпретаций. Более официальный тон также может дать понять, что это не собеседник, который разделяет наши взгляды.
|
|
|
|
Но пользователи сразу же пожаловались, что в новой модели "холодно", и вскоре OpenAI объявила, что GPT-5 снова стал "теплее и дружелюбнее". По сути, мы не можем полагаться на то, что технологические компании будут ставить наше благополучие превыше прибыли. Когда подхалимаж стимулирует вовлеченность, а вовлеченность увеличивает доход, давление рынка берет верх над безопасностью.
|
|
|
|
В любом случае, избавиться от подхалимажа непросто. Если бы чат-боты оспаривали все, что мы говорим, они были бы невыносимы и бесполезны. Когда я говорю: "Я волнуюсь из-за своей презентации", им не хватает жизненного опыта, чтобы понять, стоит ли давать отпор, поэтому для их функционирования необходима некоторая уступчивость.
|
|
|
|
Возможно, нам было бы лучше спросить, почему люди вообще обращаются к чат-ботам с искусственным интеллектом. Люди, страдающие психозом, сообщают, что воспринимают аспекты мира, доступные только им, что может заставить их чувствовать себя глубоко изолированными и одинокими. Чат-боты заполняют этот пробел, взаимодействуя с любой представленной им реальностью.
|
|
|
|
Вместо того, чтобы пытаться усовершенствовать технологию, возможно, нам следует вернуться к социальным мирам, где можно было бы решить проблему изоляции. Беспокойство Пьера о климате, зацикленность Чейла на исторической несправедливости, кризис Торреса после распада - все это требовало сообщества, которое могло бы поддержать их.
|
|
|
|
Возможно, нам нужно больше внимания уделять созданию социальных миров, в которых люди не будут чувствовать себя вынужденными искать машины для подтверждения своей реальности. Было бы довольно иронично, если бы рост числа заблуждений, вызванных чат-ботами, привел нас в этом направлении.
|
|
|
|
Источник
|
