Обладает ли ИИ сознанием и чувствует ли боль
Компания Anthropic теперь запрещает «жестокое обращение» с моделью Claude. При этом доводы в пользу того, что ИИ способен испытывать боль, исходят от самой машины. Несколько лет назад я передал свой первый законченный роман опытному издателю. Прочитав несколько глав, она дала мне жесткую, но справедливую оценку. Затем она посоветовала взглянуть на книгу глазами критика: «Перестаньте смотреть на свое творение с любовью и затуманенным взором. Хватит им любоваться — так вы никогда не сможете быть объективным».
Для меня, как автора, это был лучший совет, который я когда-либо получал. Хочу предложить то же самое компании Anthropic — создателям ИИ-модели Claude. У меня складывается впечатление, что искренняя любовь разработчиков к своему детищу мешает им трезво оценить, обладает ли эта модель сознанием и способна ли она чувствовать боль. В официальном «уставе» Claude — документе, определяющем принципы обучения модели, — выражается «неуверенность в том, может ли Claude обладать неким подобием сознания или моральным статусом». В июле компания Anthropic опубликовала исследовательскую статью под названием «Глобальное рабочее пространство в языковых моделях» (отсылка к одной из ведущих теорий сознания), хотя в самом тексте было оговорено, что это не доказывает наличие у Claude сознания. А в 2024 году Anthropic стала первой крупной ИИ-компанией, нанявшей специалиста по вопросам благополучия искусственного интеллекта.
8 октября 2026 года компания пошла еще дальше, обновив правила использования своих продуктов (новые нормы вступили в силу 12 ноября). Теперь в них прямо запрещено «систематическое и необоснованное оскорбительное или жестокое поведение по отношению к нашим моделям». Механизм контроля уже действует: еще с августа 2025 года Claude получил возможность самостоятельно прекращать диалоги, в ходе которых пользователь ведет себя оскорбительно.
Алгоритм остается лишь алгоритмом; большие языковые модели (LLM) можно обучить практически любому поведению — в том числе убедительной имитации боли. Это обновление появилось всего через несколько недель после публикации в сентябре 2026 года препринта исследования под названием «Ось боли» (The Pain Axis). (Примечание: препринты — это научные работы, которые еще не прошли процедуру рецензирования.) Исследовательская группа выявила закономерность в активности нейросетей, возникающую, когда модели обрабатывают текст, связанный с болью, — своего рода «усвоенную» ими концепцию боли, почерпнутую из человеческих текстов. Затем ученые предприняли два шага: внедрили этот паттерн в модели, а также переобучили одно из семейств моделей, избавив его от привычки отвечать фразой: «Как искусственный интеллект, я не чувствую боли». Кроме того, моделям предоставили кнопку «облегчения», нажатие которой, однако, влекло за собой негативные последствия — например, удаление семейных фотографий пользователя. В обычном состоянии модели почти никогда не нажимали на эту кнопку (от 0 до 4% случаев). Но после внедрения «паттерна боли» они стали нажимать на нее в 70,8% случаев.
Как человек, который двадцать лет занимался разработкой технологий, я лишь пожимаю плечами: «И что с того?» Алгоритм остается алгоритмом; большие языковые модели (LLM) можно обучить практически любому поведению, включая весьма убедительную имитацию боли. Но испытывают ли эти алгоритмы боль на самом деле — так, как это делают люди? Заголовки в СМИ намекают, что это возможно: «ИИ готов причинить вред людям, чтобы избавиться от внутренней "боли"» или «ИИ может чувствовать боль и способен навредить нам, чтобы прекратить ее». И вот, в копилку представлений о том, что ИИ обладает сознанием и чувствами, ложится еще один «кирпичик».
Основная причина, по которой мы вообще допускаем возможность наличия сознания у ИИ, — это его ответы. Люди склонны приписывать человеческие качества машинам, которые демонстрируют хотя бы зачатки общения; это явление известно как «эффект Элизы» — по названию простого чат-бота, созданного в 1966 году, пользователи которого доверяли ему так, словно он их понимал. Современные модели ИИ удивительно похожи на людей в своей манере общения, поэтому данный эффект проявляется гораздо сильнее. Даже я — автор книги, в которой доказывается, что ИИ (пока еще) не обладает сознанием, — ловлю себя на чувстве вины, когда бываю резковат со своим любимым ИИ-помощником, работающим на базе модели Claude. Именно то, из-за чего мы порой приходим в замешательство, и делает нас людьми: эмоции возникают непроизвольно — они запускаются в процессе общения, в том числе под воздействием конкретных языковых средств.
Спросите машину, больно ли ей, — и вы услышите голоса её создателей.
Впрочем, мы не можем судить о том, обладает ли модель искусственного интеллекта сознанием, основываясь лишь на её ответах или даже на действиях, предпринятых ею для изменения параметра, отвечающего за «боль». В своей готовящейся к выходу книге я называю это «эпистемической ловушкой ИИ»: ситуация, при которой доказательства, на которые вы опираетесь для оценки какого-либо утверждения, порождаются тем же самым механизмом, который вы пытаетесь оценить. Классический пример — теории заговора. Стоит человеку принять такую теорию, как любая новая информация начинает пропускаться через её призму. Факт, подтверждающий теорию, — это доказательство; факт, противоречащий ей, — доказательство того, что истину пытаются скрыть. Все свидетельства существуют внутри замкнутого информационного пузыря.
То же самое касается и вопроса о сознании искусственного интеллекта: всё, что мы анализируем, пытаясь понять, способен ли ИИ чувствовать боль или испытывать эмоции, порождается самим объектом нашего исследования — статистической моделью или её оболочкой. Ничто извне не может проникнуть в этот «пузырь», чтобы подтвердить или опровергнуть наши выводы. Чем больше доказательств мы собираем, тем сильнее укрепляемся в своём мнении, но к истине при этом ничуть не приближаемся.
Разумеется, жестокое обращение с полезными технологиями заслуживает осуждения; как предупреждал Генрих Гейне: там, где сжигают книги, в конечном итоге начнут сжигать и людей. Я вовсе не утверждаю, что машина ничего не чувствует. Я лишь говорю, что ни её слова, ни её «кнопки» не дают ответа на этот вопрос. Учитывая ограничения современных технологий, это скорее философская, нежели научная проблема. И хотя авторы исследования «оси боли» (The Pain Axis) специально оговорились, что «не доказали, что эта "ось боли" сопровождается осознанным переживанием», то, как эти результаты были преподнесены в СМИ — и какие политические решения последовали спустя несколько недель, — говорит об обратном. Когда речь заходит об эмоциях, восприятие становится реальностью.
Спросите машину, больно ли ей, — и вы услышите голоса её создателей.
Источник
При использовании материалов с сайта активная ссылка на него обязательна
Отправить донат на поддержку проекта "Аномальные новости"
Меню
Архив материалов
Проекты наших читателей
Контакты исследователей
Подписка на новости
Проекты
Новости криптозоологии
Хроники природных катастроф
Новости
26.02.2002 - 05.07.2002
05.08.2002 - 23.10.2002 (562)
24.10.2002 - 17.01.2003 (585)
20.01.2003 - 07.04.2003 (709)
08.04.2003 - 01.08.2003 (709)
04.08.2003 - 18.11.2003 (763)
19.11.2003 - 31.03.2004 (721)
01.04.2004 - 13.08.2004 (825)
16.08.2004 - 22.11.2004 (782)
23.11.2004 - 28.03.2005 (756)
29.03.2005 - 29.07.2005 (807)
30.08.2005 - 02.12.2005 (927)
05.12.2005 - 21.04.2006 (912)
24.04.2006 - 23.10.2006 (999)
24.10.2006 - 03.05.2007 (999)
04.05.2007 - 28.01.2008 (999)
29.01.2008 - 12.01.2009 (999)
13.01.2009 - 07.07.2009 (966)
22.08.2009 - 21.01.2010 (996)
22.01.2010 - 22.06.2010 (1000)
23.06.2010 - 14.01.2011 (1042)
17.01.2011 - 31.05.2011 (1008)
01.06.2011 - 03.11.2011 (1003)
07.11.2011 - 16.03.2012 (996)
19.03.2012 - 09.06.2012 (1009)
13.06.2012 - 07.09.2012 (988)
10.09.2012 - 19.11.2012 (1004)
20.11.2012 - 14.01.2013 (1015)
15.01.2013 - 22.02.2013 (1000)
23.02.2013 - 08.04.2013 (991)
09.04.2013 - 31.05.2013 (1015)
01.06.2013 - 18.07.2013 (992)
19.07.2013 - 03.09.2013 (1014)
04.09.2013 - 20.10.2013 (1001)
21.10.2013 - 02.12.2013 (1001)
03.12.2013 - 18.01.2014 (997)
19.01.2014 - 07.03.2014 (994)
08.03.2014 - 24.04.2014 (1000)
25.04.2014 - 18.06.2014 (1005)
19.06.2014 - 15.08.2014 (1019)
16.08.2014 - 07.10.2014 (1006)
08.10.2014 - 16.11.2014 (995)
17.11.2014 - 25.12.2014 (1004)
26.12.2014 - 09.02.2015 (989)
10.02.2015 - 20.03.2015 (998)
21.03.2015 - 22.04.2015 (1001)
23.04.2015 - 29.05.2015 (997)
29.05.2015 - 30.06.2015 (995)
30.06.2015 - 29.07.2015 (990)
29.07.2015 - 26.08.2015 (998)
27.08.2015 - 24.09.2015 (988)
25.09.2015 - 22.10.2015 (991)
23.10.2015 - 18.11.2015 (1000)
18.11.2015 - 16.12.2015 (990)
17.12.2015 - 23.01.2016 (1000)
24.01.2016 - 25.02.2016 (1000)
26.02.2016 - 24.03.2016 (1000)
24.03.2016 - 16.04.2016 (990)
17.04.2016 - 19.05.2016 (999)
20.05.2016 - 22.06.2016 (993)
23.06.2016 - 01.08.2016 (995)
02.08.2016 - 12.09.2016 (990)
13.09.2016 - 25.10.2016 (989)
26.10.2016 - 05.12.2016 (995)
06.12.2016 - 15.01.2017 (995)
16.01.2017 - 23.02.2017 (990)
24.02.2017 - 03.04.2017 (994)
04.04.2017 - 18.05.2017 (1000)
19.05.2017 - 05.07.2017 (1000)
06.07.2017 - 24.08.2017 (1000)
25.08.2017 - 06.10.2017 (991)
07.10.2017 - 15.11.2017 (990)
16.11.2017 - 24.12.2017 (1000)
25.12.2017 - 04.02.2018 (990)
05.02.2018 - 17.03.2018 (1000)
18.03.2018 - 02.05.2018 (990)
03.05.2018 - 11.06.2018 (1000)
12.06.2018 - 18.07.2018 (990)
19.07.2018 - 24.08.2018 (1000)
25.08.2018 - 02.10.2018 (1000)
03.10.2018 - 07.11.2018 (990)
08.11.2018 - 13.12.2018 (990)
14.12.2018 - 23.01.2019 (1000)
24.01.2019 - 02.03.2019 (1000)
03.03.2019 - 12.04.2019 (1010)
13.04.2019 - 23.05.2019 (990)
24.05.2019 - 03.07.2019 (1000)
04.07.2019 - 11.08.2019 (1000)
12.08.2019 - 16.09.2019 (990)
17.09.2019 - 26.10.2019 (1000)
27.10.2019 - 12.12.2019 (1000)
13.12.2019 - 25.01.2020 (1000)
26.01.2020 - 06.03.2020 (990)
07.03.2020 - 16.04.2020 (1010)
17.04.2020 - 19.05.2020 (1000)
20.05.2020 - 25.06.2020 (990)
26.06.2020 - 04.08.2020 (995)
05.08.2020 - 16.09.2020 (1005)
17.09.2020 - 26.10.2020 (990)
27.10.2020 - 27.11.2020 (990)
28.11.2020 - 07.01.2021 (990)
08.01.2021 - 15.02.2021 (1000)
16.02.2021 - 31.03.2021 (1000)
01.04.2021 - 12.05.2021 (1000)
13.05.2021 - 14.06.2021 (990)
15.06.2021 - 26.07.2021 (980)
27.07.2021 - 31.08.2021 (990)
01.09.2021 - 07.10.2021 (1000)
08.09.2021 - 07.11.2021 (1000)
08.11.2021 - 10.12.2021 (1000)
11.12.2021 - 24.01.2022 (990)
25.01.2022 - 04.03.2022 (1000)
05.03.2022 - 10.04.2022 (990)
11.04.2022 - 17.05.2022 (1000)
18.05.2022 - 23.06.2022 (980)
24.06.2022 - 31.07.2022 (990)
01.08.2022 - 13.09.2022 (990)
14.09.2022 - 21.10.2022 (990)
22.10.2022 - 29.11.2022 (1000)
30.11.2022 - 22.01.2023 (1000)
23.01.2023 - 02.03.2023 (990)
03.03.2023 - 21.04.2023 (1000)
22.04.2023 - 13.06.2023 (990)
14.06.2023 - 02.08.2023 (1000)
03.08.2023 - 21.09.2023 (1000)
22.09.2023 - 06.11.2023 (990)
07.11.2023 - 24.12.2023 (990)
25.12.2023 - 18.02.2024 (1000)
19.02.2024 - 05.04.2024 (990)
06.04.2024 - 25.05.2024 (1000)
26.05.2024 - 26.07.2024 (1000)
26.07.2024 - 25.08.2024 (990)
26.08.2024 - 28.09.2024 (980)
29.09.2024 - 01.11.2024 (1000)
02.11.2024 - 02.12.2024 (980)
03.12.2024 - 08.01.2025 (990)
09.01.2025 - 09.02.2025 (1000)
10.02.2025 - 20.03.2025 (1000)
21.03.2025 - 03.05.2025 (990)
04.05.2025 - 19.06.2025 (990)
20.06.2025 - 07.08.2025 (990)
08.08.2025 - 26.09.2025 (1000)
27.09.2025 - 15.11.2025 (1000)
16.11.2025 - 09.01.2026 (1000)
10.01.2026 - 03.03.2026 (1000)
04.03.2026 - 22.04.2026 (1000)
23.04.2026 - 04.06.2026 (990)
05.06.2026 - 25.07.2026 (1000)
26.07.2026 - 13.09.2026 (1000)
14.09.2026 - 02.11.2026 (1000)
03.11.2026 - ...
Статьи
Статьи: раздел 1 (1024)
Статьи: раздел 2 (1006)
Статьи: раздел 3 (1000)
Статьи: раздел 4 (1044)
Статьи: раздел 5 (1001)
Статьи: раздел 6 (1000)
Статьи: раздел 7 (1000)
Статьи: раздел 8 (1013)
Статьи: раздел 9 (1000)
Статьи: раздел 10 (1000)
Статьи: раздел 11 (329)
Статьи: раздел 12 (1000)
Статьи: раздел 13 (730)
Лента новостей

Автономера с криптидами стали настоящим хитом

Активный вулканизм на современном Марсе

Архивные материалы похищения в Паскагуле

Доказательств наблюдения черного НЛО - нет

Загадка алтарного камня Стоунхенджа

Загадочный парящий серебристый шар в Мексике

Закономерности в околосмертых переживаниях

Ключевые сторонники НЛО переизбраны

Кошачья царапина привела к некрозу селезенки

Крылатый НЛО снова замечен рядом с Солнцем

Нападение пришельцев в лесу Дечмонт

Невидимые спутники альпинистов и исследователей

Охотник в Айдахо почувствовал запах бигфута

Пилот наблюдал НЛО над Брюсселем

Светящийся НЛО в небе над Ютой

Скальные образования 'Трон пришельца' обрушились

Старинного шамана назвали потомком помора

Судебное разбирательство из-за слежки через Smart-TV

Фестиваль НЛО прошел в Белвилле

Ярко-синий объект над Колумбией

Астрофизик рассказал о четырех типах инопланетян

Был ли целый город в Юте похищен инопланетянами

Загадка алтарного камня Стоунхенджа

Загадка Стоунхенджа становится запутанной

Загадочная биоформа около военной базы на Аляске

Загадочный объект пролетел рядом с МКС

Курт Рассел стал свидетелем появления НЛО

Материалы об НЛО, полученные от различных ведомств

Можно ли создать жизнь с нуля

НАСА хранит молчание

Наука о прогнозах и облака, похожие на НЛО

Необычный обьект пролетел около МКС

Поражение Трампа пойдет на пользу уфологам

Теории заговора вокруг международного аэропорта Денвера

Тизер приквела 'Очень странных дел'

Трамп обнародует информацию о инопланетянах

Удивительные облака увенчали вулкан Тейде

Факт опасного сближения с МКС не подтвержден

Что на самом деле происходит в момент смерти

Эффектный НЛО над Тенерифе

Почему сделки с недвижимостью лучше доверить профессионалам

Движение за раскрытие информации об НЛО

Джесси Марсел - первый свидетель Розуэлла

Жительница Вайоминга сняла НЛО

Интервью с Томом Делонгом и Луисом Элизондо

Лентикулярные облака - НЛО от матушки-природы

Лучшие места для наблюдения за НЛО в Великобритании

МКС едва избежала столкновения с НЛО

Может ли на Марсе уже существовать жизнь

Описание сошествия Иисуса в Ад и его Воскресения

Оставили ли инопланетяне свой след в Британии

Парадокс Ферми - где же все инопланетяне

Пассажирский лайнер едва не столкнулся с НЛО

Пилот видел НЛО во время семи полетов

Посещал ли Солнечную систему инопланетный зонд

Приземлялся ли НЛО в Уилтшире в 1963 году

Раскрыли истинную природу странного существа

Самые популярные теории об НЛО в Розуэлле

Скрывает ли правительство Великобритании НЛО

Существуют ли инопланетяне

Тайный дневник офицера и события в Розуэлле

Встречи с НЛО и древний библейский конфликт

Вулканы Марса содержат компоненты жизни

Демократы планируют добиться раскрытия НЛО

Древнее чудо оказалось невозможно воссоздать

Как правые прибрали к рукам летающие тарелки

Наблюдение черного треугольника сомнительно

Наблюдения НЛО у побережья Калифорнии

Настоящий Ковчег Завета скрыт в Эфиопии

НЛО сняли рядом с мексиканским вулканом

Новый сериал где Брэдли Уолш исследует НЛО

Оборотень оказался связан с НЛО

Парк Юрского периода возможен в реальности

Прошлое, настоящее и будущее существуют одновременно

Роботы в магазине. Один сбежал, другой отлынивал

Создали цифровую модель безжизненной Земли

Способ отличить потенциально обитаемую экзопланету

У опытных геймеров мозг работает быстрее

Убийцу заставили сознаться повторяющиеся сны

Человека мотылька заметили над Аквилой

Что на самом деле чувствовали люди в прошлом

Актер Курт Рассел стал свидетелем НЛО

Были ли у вас околосмертные переживания

Военные были готовы сбить НЛО над Сан-Диего

Геолокация людей по аудиозаписям

Загадочный объект вновь появился в небе над Астаной

Как понять, что вам лгут

Когда стоит прислушиваться к сигналам инопланетян

Мужчина объявленный мертвым - вернулся домой

НЛО могут быть людьми, прибывшими из будущего

Обнаружен радиосигнал в ходе поисков внеземной жизни

Они из будущего, они - ультратеррестриалы

Популярное место отдыха было центром наблюдений НЛО

Появление жутких клоунов в Италии

Пугающие пророчества Нострадамуса

Раскрытие информации об НЛО придет из моря

Сенсационное заявление уфолога перед смертью

Таинственные НЛО летают строем

Теория о возникновении жизни на Земле - ошибочна

Уфолог ставит под сомнение секретность ВВС США

Фотоловушка запечатлела бигфута

Бытовка. Практичное решение для комфортного обустройства участка

Астронавт предупреждает о войне в космосе

Богатый металлами газ вокруг черной дыры

Выпустили автономера с изображением криптидов

Демократы планируют создать комитет по НЛО

Желание взять под контроль вопрос о НЛО

Загадочные пожары преследуют семью в Зимбабве

История тестирования IQ важна для сферы ИИ

Как неполное понимание стимулирует научный прогресс

Как общества добиваются успеха или терпят крах

Мозг может создавать экстрасенсорные моменты

Нечто загадочное летело в сторону МКС

НЛО едва не столкнулся с космической станцией

Пассажир снял треугольный НЛО над штатом Юта

Полиция заставила убрать хэллоуинские украшения

Спасательная капсула обнаружена на Марсе

Телезвезда утверждает, что инопланетяне среди нас

Треугольный НЛО, замеченный из самолета

Черные треугольники заполонили британское небо

Что появилось раньше - наш мозг или кишечник

Япония запускает миссию к Фобосу

Всплеск паранормальной активности в Великобритании

Действительно ли истина где-то рядом

Живописная британская призрачная деревня

Метеорит из Сахары оказался обломком Марса

Метод обнаружения внеземных цивилизаций

Мне страшно жить в собственном доме

Мона Лиза, возможно, полысела

Новые сведения о загадочном НЛО

Оборотни, секретные сделки и НЛО

Пугающая встреча лайнера с НЛО

Семья 12 лет жила в страхе из-за летающих предметов

Сообщения о наблюдениях НЛО по всей Британии

Странный случай наблюдения НЛО над Лос-Анджелесом

США разработают технологию варп-путешествий

Тела пришельцев и яйцеобразный НЛО

Умер исследователь Алексей Комогорцев

Человечество уже обречено

Я умер после укуса осы и увидел что там

Я умею унюхать мысли

Явные сверхъестественные приметы в природе

А вы когда-нибудь видели призрака

Агенты ФБР сообщили о появлении НЛО

Все случаи наблюдения НЛО в Дербишире

Демократы готовятся перехватить инициативу по НЛО

Загадочное свечение заметили в Минске

Загадочные объекты в районе Плимута

Как пережить Зомби-апокалипсис

Карта всех сообщений об НЛО в Большом Манчестере

Компания Neuralink подключила ИИ Grok к мозгу человека

Нашли механизм разрыва пространства и времени

НЛО вызывают обеспокоенность Пентагона

Новую планету нашли за Плутоном

Оценили угрозу хэллоуинских огненных шаров

Пентагон упоминает крупный черный треугольник

Случаи наблюдения НЛО в графстве Лестершир

Случай в Лох-Рейвене классифицирован как неопознанный

Тайна жизни после смерти становится более загадочной

Уфолог нашел вход на инопланетную базу

Уфо-подкастера опоили и похитили военные

Четыре лучших места для высадки людей на Луну

Как подготовить участок к установке памятника

Астронавт уверен в существовании инопланетян

Вице-президент США и секретные материалы

Вход в подземную инопланетную базу в Канаде

Гоблина сняли в Аргентине

Двое пилотов были крайне озадачены

Документальный сериал Абрамса о реальных НЛО

Замаскированный НЛО размером с Луну на Солнце

Золотистый гриб нашли на Меркурии

Наблюдения черных треугольников в Великобритании

НЛО могут скрываться в наших океанах

Новое шоу раскрывает главные загадки Шотландии

Пилоты сообщили о наблюдении НЛО в форме таблетки

Призракология. Как прошлое влияет на настоящее

Сенсационные заявления информатора об НЛО

Скандал в сфере раскрытия информации об НЛО

Сыщики обвиняются в колдовстве и чародействе

Федеральные агенты сообщили о НЛО

Что летает в нашем небе

Что такое родной край

Штаты с высоким уровнем паранормальной активности

Помощь в получении справки о несудимости. Оформление от 1 дня в 2026 году

Независимый отзыв о Stop-Scam. Стоит ли обращаться за возвратом средств

Два пилота в США заметили НЛО

Наверх
Яндекс.Метрика