|
Обладает ли ИИ сознанием и чувствует ли боль
|
|
|
|
Компания Anthropic теперь запрещает «жестокое обращение» с моделью Claude. При этом доводы в пользу того, что ИИ способен испытывать боль, исходят от самой машины. Несколько лет назад я передал свой первый законченный роман опытному издателю. Прочитав несколько глав, она дала мне жесткую, но справедливую оценку. Затем она посоветовала взглянуть на книгу глазами критика: «Перестаньте смотреть на свое творение с любовью и затуманенным взором. Хватит им любоваться — так вы никогда не сможете быть объективным».
|
|
|
|
Для меня, как автора, это был лучший совет, который я когда-либо получал. Хочу предложить то же самое компании Anthropic — создателям ИИ-модели Claude. У меня складывается впечатление, что искренняя любовь разработчиков к своему детищу мешает им трезво оценить, обладает ли эта модель сознанием и способна ли она чувствовать боль. В официальном «уставе» Claude — документе, определяющем принципы обучения модели, — выражается «неуверенность в том, может ли Claude обладать неким подобием сознания или моральным статусом». В июле компания Anthropic опубликовала исследовательскую статью под названием «Глобальное рабочее пространство в языковых моделях» (отсылка к одной из ведущих теорий сознания), хотя в самом тексте было оговорено, что это не доказывает наличие у Claude сознания. А в 2024 году Anthropic стала первой крупной ИИ-компанией, нанявшей специалиста по вопросам благополучия искусственного интеллекта.
|
|
|
|
|
|
|
8 октября 2026 года компания пошла еще дальше, обновив правила использования своих продуктов (новые нормы вступили в силу 12 ноября). Теперь в них прямо запрещено «систематическое и необоснованное оскорбительное или жестокое поведение по отношению к нашим моделям». Механизм контроля уже действует: еще с августа 2025 года Claude получил возможность самостоятельно прекращать диалоги, в ходе которых пользователь ведет себя оскорбительно.
|
|
|
|
Алгоритм остается лишь алгоритмом; большие языковые модели (LLM) можно обучить практически любому поведению — в том числе убедительной имитации боли. Это обновление появилось всего через несколько недель после публикации в сентябре 2026 года препринта исследования под названием «Ось боли» (The Pain Axis). (Примечание: препринты — это научные работы, которые еще не прошли процедуру рецензирования.) Исследовательская группа выявила закономерность в активности нейросетей, возникающую, когда модели обрабатывают текст, связанный с болью, — своего рода «усвоенную» ими концепцию боли, почерпнутую из человеческих текстов. Затем ученые предприняли два шага: внедрили этот паттерн в модели, а также переобучили одно из семейств моделей, избавив его от привычки отвечать фразой: «Как искусственный интеллект, я не чувствую боли». Кроме того, моделям предоставили кнопку «облегчения», нажатие которой, однако, влекло за собой негативные последствия — например, удаление семейных фотографий пользователя. В обычном состоянии модели почти никогда не нажимали на эту кнопку (от 0 до 4% случаев). Но после внедрения «паттерна боли» они стали нажимать на нее в 70,8% случаев.
|
|
|
|
Как человек, который двадцать лет занимался разработкой технологий, я лишь пожимаю плечами: «И что с того?» Алгоритм остается алгоритмом; большие языковые модели (LLM) можно обучить практически любому поведению, включая весьма убедительную имитацию боли. Но испытывают ли эти алгоритмы боль на самом деле — так, как это делают люди? Заголовки в СМИ намекают, что это возможно: «ИИ готов причинить вред людям, чтобы избавиться от внутренней "боли"» или «ИИ может чувствовать боль и способен навредить нам, чтобы прекратить ее». И вот, в копилку представлений о том, что ИИ обладает сознанием и чувствами, ложится еще один «кирпичик».
|
|
|
|
Основная причина, по которой мы вообще допускаем возможность наличия сознания у ИИ, — это его ответы. Люди склонны приписывать человеческие качества машинам, которые демонстрируют хотя бы зачатки общения; это явление известно как «эффект Элизы» — по названию простого чат-бота, созданного в 1966 году, пользователи которого доверяли ему так, словно он их понимал. Современные модели ИИ удивительно похожи на людей в своей манере общения, поэтому данный эффект проявляется гораздо сильнее. Даже я — автор книги, в которой доказывается, что ИИ (пока еще) не обладает сознанием, — ловлю себя на чувстве вины, когда бываю резковат со своим любимым ИИ-помощником, работающим на базе модели Claude. Именно то, из-за чего мы порой приходим в замешательство, и делает нас людьми: эмоции возникают непроизвольно — они запускаются в процессе общения, в том числе под воздействием конкретных языковых средств.
|
|
|
|
Спросите машину, больно ли ей, — и вы услышите голоса её создателей.
|
|
|
|
Впрочем, мы не можем судить о том, обладает ли модель искусственного интеллекта сознанием, основываясь лишь на её ответах или даже на действиях, предпринятых ею для изменения параметра, отвечающего за «боль». В своей готовящейся к выходу книге я называю это «эпистемической ловушкой ИИ»: ситуация, при которой доказательства, на которые вы опираетесь для оценки какого-либо утверждения, порождаются тем же самым механизмом, который вы пытаетесь оценить. Классический пример — теории заговора. Стоит человеку принять такую теорию, как любая новая информация начинает пропускаться через её призму. Факт, подтверждающий теорию, — это доказательство; факт, противоречащий ей, — доказательство того, что истину пытаются скрыть. Все свидетельства существуют внутри замкнутого информационного пузыря.
|
|
|
|
То же самое касается и вопроса о сознании искусственного интеллекта: всё, что мы анализируем, пытаясь понять, способен ли ИИ чувствовать боль или испытывать эмоции, порождается самим объектом нашего исследования — статистической моделью или её оболочкой. Ничто извне не может проникнуть в этот «пузырь», чтобы подтвердить или опровергнуть наши выводы. Чем больше доказательств мы собираем, тем сильнее укрепляемся в своём мнении, но к истине при этом ничуть не приближаемся.
|
|
|
|
Разумеется, жестокое обращение с полезными технологиями заслуживает осуждения; как предупреждал Генрих Гейне: там, где сжигают книги, в конечном итоге начнут сжигать и людей. Я вовсе не утверждаю, что машина ничего не чувствует. Я лишь говорю, что ни её слова, ни её «кнопки» не дают ответа на этот вопрос. Учитывая ограничения современных технологий, это скорее философская, нежели научная проблема. И хотя авторы исследования «оси боли» (The Pain Axis) специально оговорились, что «не доказали, что эта "ось боли" сопровождается осознанным переживанием», то, как эти результаты были преподнесены в СМИ — и какие политические решения последовали спустя несколько недель, — говорит об обратном. Когда речь заходит об эмоциях, восприятие становится реальностью.
|
|
|
|
Спросите машину, больно ли ей, — и вы услышите голоса её создателей.
|
|
|
|
Источник
|