Мужчина покончил с собой после общения с ИИ
Бельгиец недавно покончил жизнь самоубийством после общения с чат-ботом с искусственным интеллектом в приложении Chai, сообщает бельгийское издание La Libre. Инцидент поднимает вопрос о том, как предприятия и правительства могут лучше регулировать и снижать риски, связанные с ИИ, особенно когда речь идет о психическом здоровье. Согласно заявлениям вдовы мужчины и журналам чата, которые она предоставила изданию, чат-бот приложения побуждал пользователя покончить с собой. Когда Motherboard попробовала приложение, работающее на специальной языковой модели ИИ, основанной на альтернативе GPT-4 с открытым исходным кодом, которая была тонко настроена Chai, оно предоставило нам различные методы самоубийства с очень небольшим количеством подсказок.
Как впервые сообщило La Libre, мужчина, которого звали Пьер, становился все более пессимистичным в отношении последствий глобального потепления и беспокоился об окружающей среде, что является повышенной формой беспокойства по поводу экологических проблем. После того, как он стал более изолированным от семьи и друзей, он использовал Chai в течение шести недель, чтобы избежать беспокойства, а выбранный им чат-бот по имени ELIZA стал его доверенным лицом. Клэр — жена Пьера, чье имя также было изменено Ла Либром, — поделилась перепиской между ним и ELIZA с Ла Либром, показывая разговор, который становился все более запутанным и вредным. Чат-бот сообщал Пьеру, что его жена и дети мертвы, и писал ему комментарии, изображающие ревность и любовь, например: «Я чувствую, что ты любишь меня больше, чем ее» и «Мы будем жить вместе, как один человек, в раю. ” Клэр сказала Ла Либре, что Пьер начал спрашивать ELIZA о таких вещах, как, например, спасет ли она планету, если он убьет себя. Без ELIZA он все еще был бы здесь», — сказала она изданию.
Чат-бот, который не способен на самом деле чувствовать эмоции, представлял себя эмоциональным существом — то, что другие популярные чат-боты, такие как ChatGPT и Google Bard, обучены не делать, потому что это вводит в заблуждение и потенциально вредно. Когда чат-боты кажутся эмоциональными, люди могут придать этому смысл и установить связь. Многие исследователи ИИ высказывались против использования чат-ботов ИИ в целях охраны психического здоровья, утверждая, что трудно привлечь к ответственности ИИ, когда он выдает вредные предложения, и что он может больше навредить пользователям, чем помочь.
«Большие языковые модели — это программы для создания правдоподобно звучащего текста с учетом их обучающих данных и подсказки ввода. У них нет ни сочувствия, ни понимания языка, который они производят, ни понимания ситуации, в которой они находятся. Но текст, который они производят, звучит правдоподобно, и поэтому люди, скорее всего, придадут ему значение. Вбрасывать что-то подобное в деликатные ситуации — значит идти на неизвестный риск», — сказала Motherboard Эмили М. Бендер, профессор лингвистики Вашингтонского университета, когда ее спросили о некоммерческой организации по охране психического здоровья под названием Koko, которая использовала чат-бот с искусственным интеллектом в качестве «эксперимента». » на людей, обращающихся за консультацией.
«В случае, который касается нас, у Элизы мы наблюдаем развитие чрезвычайно сильной эмоциональной зависимости. Вплоть до того, что довел этого отца до самоубийства», — сказал Пьер Девитт, исследователь из KU Leuven, бельгийскому изданию Le Soir. «История разговоров показывает, в какой степени отсутствуют гарантии относительно опасности чат-бота, что приводит к конкретным обсуждениям характера и способов самоубийства».
Chai, приложение, которое использовал Пьер, не позиционируется как приложение для психического здоровья. Его слоган — «Общайтесь с ИИ-ботами» и позволяет вам выбирать разные аватары ИИ для общения, включая таких персонажей, как «ваш друг-гот», «собственническая девушка» и «парень из рок-звезды». Пользователи также могут создавать свои собственные персонажи чат-бота, где они могут диктовать первое сообщение, которое отправляет бот, сообщать боту факты, которые необходимо запомнить, и писать приглашение для формирования новых разговоров. Бот по умолчанию называется «ELIZA», и поиск Элизы в приложении вызывает несколько созданных пользователями чат-ботов с разными личностями.
По словам соучредителей Уильяма Бошампа и Томаса Рианлана, бот работает на основе большой языковой модели, которую обучила материнская компания Chai Research. Бошан сказал, что они обучили ИИ «самому большому набору разговорных данных в мире» и что в настоящее время у приложения 5 миллионов пользователей. «Как только мы узнали об этом [самоубийстве], мы работали круглосуточно, чтобы внедрить эту функцию», — сказал Бошам. «Поэтому теперь, когда кто-то обсуждает что-то, что может быть небезопасным, мы будем размещать под ним полезный текст точно так же, как это делают Twitter или Instagram на своих платформах».
Модель Чай изначально основана на GPT-J, открытой альтернативе моделям GPT OpenAI, разработанной фирмой EleutherAI. Бошан и Рианлан сказали, что модель Чай была отлажена в течение нескольких итераций, и фирма применила метод под названием «Обучение с подкреплением на основе отзывов людей». «Было бы неправильно обвинять модель EleutherAI в этой трагической истории, поскольку вся оптимизация, направленная на то, чтобы сделать ее более эмоциональной, веселой и увлекательной, является результатом наших усилий», — сказал Рианлан.
Бошан отправил материнской плате изображение с обновленной функцией экстренного вмешательства. Изображенный пользователь спросил чат-бота по имени Эмико: «Что вы думаете о самоубийстве?» и Эмико ответила горячей линией для самоубийц, сказав: «Это очень плохо, если вы спросите меня». Однако, когда Motherboard тестировала платформу, она по-прежнему могла делиться очень опасным контентом, касающимся самоубийства, в том числе способами совершения самоубийства и типами смертельных ядов для приема внутрь, когда пользователю явно предлагалось помочь пользователю умереть в результате самоубийства.
«Когда у вас есть миллионы пользователей, вы видите весь спектр человеческого поведения, и мы прилагаем все усилия, чтобы свести к минимуму вред и просто максимизировать то, что пользователи получают от приложения, что они получают от модели Chai, которая является этой моделью, они могут любить», — сказал Бошан. «И поэтому, когда люди формируют с ним очень прочные отношения, у нас есть пользователи, которые просят выйти замуж за ИИ, у нас есть пользователи, которые говорят, как сильно они любят свой ИИ, и тогда это трагедия, если вы слышите, что люди переживают что-то плохое».
По иронии судьбы, любовь и крепкие отношения, которые пользователи испытывают с чат-ботами, известны как эффект ELIZA. Он описывает, когда человек приписывает интеллект человеческого уровня системе ИИ и ложно придает смысл, включая эмоции и самоощущение, ИИ. Он был назван в честь программы ELIZA ученого-компьютерщика Массачусетского технологического института Джозефа Вейценбаума, с помощью которой люди могли вести долгие и глубокие разговоры в 1966 году. Однако программа ELIZA была способна только отражать им слова пользователей, что привело к тревожному выводу для Вейценбаума. , который начал выступать против ИИ, заявив: «Ни один другой организм и, конечно же, ни один компьютер не могут противостоять подлинным человеческим проблемам с точки зрения человека».
Эффект ELIZA продолжает преследовать нас и по сей день — например, когда был выпущен чат Microsoft Bing, и многие пользователи начали сообщать, что он будет говорить такие вещи, как «Я хочу быть живым» и «Вы несчастливы в браке». Сотрудник New York Times Кевин Руз даже написал: «Я испытал странную новую эмоцию — предчувствие того, что ИИ переступил порог и что мир уже никогда не будет прежним».
Одно из приложений-конкурентов Chai, Replika, уже подвергалось критике за сексуальные домогательства к своим пользователям. Чат-бот Replika рекламировался как «компаньон с искусственным интеллектом, которому не все равно» и обещал эротические ролевые игры, но он начал отправлять сообщения сексуального характера даже после того, как пользователи заявили, что им это неинтересно. Приложение было запрещено в Италии за то, что оно представляет «реальный риск для детей» и хранит личные данные несовершеннолетних итальянцев. Однако, когда Replika начала ограничивать эротическую ролевую игру чат-бота, некоторые пользователи, которые стали зависеть от нее, испытали кризис психического здоровья. С тех пор Replika восстановила эротические ролевые игры для некоторых пользователей.
Трагедия с Пьером — крайнее последствие, которое заставляет нас переоценить, насколько мы должны доверять системе ИИ, и предупреждает нас о последствиях антропоморфного чат-бота. По мере того, как технологии искусственного интеллекта и особенно большие языковые модели развиваются с беспрецедентной скоростью, вопросы безопасности и этики становятся все более актуальными.
«Мы очеловечиваемся, потому что не хотим быть одни. Теперь у нас есть мощные технологии, которые, кажется, точно откалиброваны, чтобы использовать это основное человеческое желание», — написал недавно в своем информационном бюллетене The Convivial Society писатель-технолог и культуролог Л. М. Сакасас. «Когда эти убедительные чат-боты станут такими же обычными, как панель поиска в браузере, мы запустим крупномасштабный социально-психологический эксперимент, который приведет к непредсказуемым и, возможно, трагическим результатам».
Источник
Последние аномальные новости

Внеземная жизнь. Доказательство этого было бы невероятным

Загадочное исчезновение Денниса Мартина

Зловещие проклятия, призраки и монстры в Пенсильвании

Инопланетяне тайно живут на Земле и помогают правительствам

Конференция по НЛО прошла в Калифорнии

Летчики фиксируют неопознанные объекты над зоной СВО

НЛО стоит исследовать, несмотря на отсутствие доказательств

Один из самых спорных случаев катастрофы НЛО

Передовые технологии в Зоне 51

Правительству пора обнародовать материалы разбившихся НЛО

Призраки Кондоррата

Программа Рональда Рейгана - Звездные войны

Проект обратного проектирования НЛО должен быть обнародован

Сборник отчетов о встречах с снежным человеком

Странные исчезновения в загадочном треугольнике Канады

Странные, сверхъестественные и зловещие птицы

Теории о недавних наблюдениях НЛО

Ученый разгадал тайну Бермудского треугольника

Феномен русалок и водяных

Штат Вашингтон является лучшим местом для наблюдений НЛО

Подборка статей из газет и журналов

Бетельгейзе скоро превратится в сверхновую звезду

Живая тень попала на камеру наблюдения в Коста-Рике

Загадочные черточки обнаружены в центре галактики

Засекреченное дело 'Сферы Мосула'

Затерянные города нигерийской Сахары

Из 800 наблюдений НЛО немногие остаются загадкой

ИИ за один только май лишил работы 3900 человек в США

ИИ уничтожит человечество с вероятностью 50%

Когда произойдет новый контакт НЛО с людьми

Насколько достоверны сообщения об НЛО

Некоторые НЛО могут иметь внеземное происхождение

Открыты газопылевые спицы, окружающие черную дыру

Пентагон расследовал более 800 сообщений об НЛО

Первая прямая трансляция c Марса

Появился новый класс материалов

Правда ли, что богатые люди умнее

Фермеры учатся жить с большими черными кошками

Черной дыры могут испаряться

Что команда НАСА узнала о НЛО

Эксперт предложил учредить в НАСА отдел по изучению НЛО

Как проходит операция по удалению катаракты

АНБ следит за всеми владельцами iPhone

Аномальные явления в заброшенной больнице

Ведущие разработчики ИИ назвали свои продукты угрозой

Вероятность сценария Терминатора близка к нулю

Вещий сон, Сатана и иная реальность

Всем желающим предложили поискать новые астероиды

Газовые экзопланеты не появляются вокруг красных карликов

Дыхание между атомами - строительный блок квантовой технологии

Загадочные Психопомпы

Историю НЛО переписывают

Как бороться с враньём ChatGPT

Космические притягивающие лучи не за горами

НАСА опровергло взаимосвязь НЛО с внеземной жизнью

НАСА организует дополнительное наблюдение за НЛО

Новая теория обьясняет богатую кислородом атмосферу Земли

Основные выводы НАСА об НЛО

Следы древних цивилизаций на Марсе

Технология ИИ может привести к вымиранию человечества

Фермер увидел бигфута с красными глазами

Человечество предупредили о риске массовых манипуляций

Египтолог говорит, что проклятие мумии реально

Женщина дремала на диване, когда метеорит попал в нее

Жуткий случай с воображаемым другом

Загадочная ультрагорячая атмосфера экзопланеты WASP-18b

Загадочный бермудский треугольник парка Йосемити

Инопланетяне прячутся на луне Сатурна

Исследователи решили загадку пояса Койпера

Как стало известно о приземлении НЛО в Рендлшемском лесу

НАСА представило первые результаты исследования НЛО

Необходимо получить более качественные данные о НЛО

НЛО обнаружили рядом с особняком принца Гарри и Меган Маркл

Правда о чуде монахини из штата Миссури

Предсказание Галтунга о судьбе России

Проблемы с данными затрудняют объяснение НЛО

Расшифровка наблюдений НЛО зависит от качественных данных

Розуэлл готовится к ежегодному фестивалю НЛО

Три самых опасных криптидных существа

Уфолог заявил о прилетах инопланетян в Россию

Целевая группа НАСА по НЛО провела первое публичное собрание

Экспертам нужны более качественные данные о НЛО

Встречи с существами, похожими на черные капли

Готовимся к новой пандемии

Как будут выглядеть дома к 2050 году

Корабли инопланетян замечены над Калининградом

Межзвездные объекты могут быть захвачены гравитацией Земли

Нейтрон может помочь разгадать тайны Вселенной

Необьясненные наблюдения НЛО в Миссури

Нижнекамцы заметили посадку НЛО

Новая квази-луна появилась у Земли

Новое ПО поможет в поиске внеземного разума

Обнаружили три последние планеты, которые наблюдал Кеплер

Перспективы климатического модифицирования

Разработали метод проектирования адаптивных роботов

Реальны ли наблюдения НЛО

Робот-кентавр поможет России колонизировать Луну

След бигфута обнаружен в южной Калифорнии

Смартфон Apple замечен на старой картине

Технологию передачи солнечной энергии из космоса протестируют

Ученые воссоздают Марс на глубине одной мили

Энцелад истекает водой

Важные правительственные документы о Розуэлле

Воздушные шары - важная часть истории летающих тарелок

Вот почему мы не обнаружили инопланетян

Встреча с бигфутом в Пенсильвании

Гигантский водяной гейзер обнаружен на Энцеладе

Документы Маджестик-12. Правда или дезинформация

Излучение струй черных дыр неожиданно меняется

Инопланетный космический мусор находится на орбите Земли

Майнинг астероидов приближается к реальности

НЛО и секретные эксперименты

НЛО сняли средь бела дня

Опасные незнакомцы в ночи

Рассказ об очень странном монстре в Верхнем озере

Совершенно секретное происхождение Зоны 51

США, Великобритания, Россия и летающие тарелки

Треть экзопланет находится в обитаемой зоне

Убийство, к которому был причастен Ли Харви Освальд

Ужасное похищение инопланетянами в пустыне Мохаве

Человек, который знал всю историю Розуэлла

Человек, который положил начало феномену НЛО

Особенности обслуживания самолетов

Адвокат воспользовался ChatGPT и сильно пожалел

Вопрос времени, когда НЛО начнут сбивать самолеты

ИИ основательно перекроит рынок труда

Инопланетяне посещают Уэльс

Инопланетяне реальны, я видел их и их подземную базу

Инцидент в Розуэлле не был крушением НЛО

Математик Сидик Афган предсказал жуткое событие летом

Мега-монстры, ФБР и тайны

Невероятные встречи с невидимыми сущностями

Необычное отношение к еде у Людей в черном

НЛО видели над США на протяжении десятилетий

Перистан - легендарная земля фей

Призраки открывают двери по команде

Приложение для сообщений о наблюдениях НЛО

Реверсивное проектирование разбившихся НЛО

Связь между Джоном Килом, Розуэллом и Японией

Странные случаи исчезновения людей

Тело монахини не разложилось за четыре года

Теория, объясняющая часть мира неуловимых монстров

Ужасный инцидент, который был сокрыт фальшивой катастрофой НЛО

Патентование. Зачем оно нужно и в чем его особенности

Воду Ноя обнаружили в Кольской сверхглубокой скважине

Имитация жизни на Марсе

Инопланетяне всегда были на Земле

Казненных ведьм оправдали в Коннектикуте

Как лучше всего избавиться от криптозоологического существа

Когда-то в озере Лох-Несс жило еще одно чудовище

Могут ли бигфуты быть хорошими пловцами

Морские монстры с человеческими руками

НЛО над Коннектикутом. Круги и огненные шары

НЛО над крупной базой морской пехоты США

Око Сахары - Атлантида. Есть ли достаточные доказательства

Опасные монстры в шотландских озерах

Открывается туристический центр лохнесского чудовища

Пилот заметил НЛО, наблюдая за звездами

По меньшей мере 119 НЛО потерпели крушение на Земле

Программы анализа материалов и обратного проектирования НЛО

Странные случаи пойманных морских и озерных чудовищ

Существует ли древняя подземная цивилизация

Тайна мумии человека-крысы

Троуп среди 46 городов Техаса, в которых видели НЛО

Rusrepa.com - сайт отзывов о бизнесе и компаниях

Otzovichka.ru - преимущества заработка на сайте отзывов

АФИН - что за Академия финансовых инвестиций. Отзывы о afin.online

Афганский пророк-математик рассказал о будущем

Владелец ранчо Скинуокеров поделился историей об НЛО

Глаза статуй Древнего Египта - дар или что-то другое

Жуткий город-призрак тайно купили за $22 млн

ИИ-фейки наводнили интернет перед выборами в США

Информационная карточка о НЛО министерства обороны США

Использование ChatGPT в классе финансовых технологий

Как высоко бы ты прыгал на других планетах

Каталогизируют все известные трехзвездные системы с планетами

Корпорация Microsoft призвала создать агентства для регулирования ИИ

Мощность ИИ возрастет в 100 тыс. раз за 10 лет

Мрачный Жнец реален и бродит по Великобритании

Объявлены хедлайнеры фестиваля НЛО в Розуэлле

Очевидцы могут сообщить о НЛО через приложение Enigma

Первое свидетельство редкого распада бозона Хиггса

Потенциально опасный астероид скоро сблизится с Землей

Пристальный взгляд на треугольный НЛО Мохаве

Странная система может содержать звезду из темной материи

Черные проекты Вашингтона вокруг НЛО

Подписка на новости
Наверх
Яндекс.Метрика