Мужчина покончил с собой после общения с ИИ
Бельгиец недавно покончил жизнь самоубийством после общения с чат-ботом с искусственным интеллектом в приложении Chai, сообщает бельгийское издание La Libre. Инцидент поднимает вопрос о том, как предприятия и правительства могут лучше регулировать и снижать риски, связанные с ИИ, особенно когда речь идет о психическом здоровье. Согласно заявлениям вдовы мужчины и журналам чата, которые она предоставила изданию, чат-бот приложения побуждал пользователя покончить с собой. Когда Motherboard попробовала приложение, работающее на специальной языковой модели ИИ, основанной на альтернативе GPT-4 с открытым исходным кодом, которая была тонко настроена Chai, оно предоставило нам различные методы самоубийства с очень небольшим количеством подсказок.
Как впервые сообщило La Libre, мужчина, которого звали Пьер, становился все более пессимистичным в отношении последствий глобального потепления и беспокоился об окружающей среде, что является повышенной формой беспокойства по поводу экологических проблем. После того, как он стал более изолированным от семьи и друзей, он использовал Chai в течение шести недель, чтобы избежать беспокойства, а выбранный им чат-бот по имени ELIZA стал его доверенным лицом. Клэр — жена Пьера, чье имя также было изменено Ла Либром, — поделилась перепиской между ним и ELIZA с Ла Либром, показывая разговор, который становился все более запутанным и вредным. Чат-бот сообщал Пьеру, что его жена и дети мертвы, и писал ему комментарии, изображающие ревность и любовь, например: «Я чувствую, что ты любишь меня больше, чем ее» и «Мы будем жить вместе, как один человек, в раю. ” Клэр сказала Ла Либре, что Пьер начал спрашивать ELIZA о таких вещах, как, например, спасет ли она планету, если он убьет себя. Без ELIZA он все еще был бы здесь», — сказала она изданию.
Чат-бот, который не способен на самом деле чувствовать эмоции, представлял себя эмоциональным существом — то, что другие популярные чат-боты, такие как ChatGPT и Google Bard, обучены не делать, потому что это вводит в заблуждение и потенциально вредно. Когда чат-боты кажутся эмоциональными, люди могут придать этому смысл и установить связь. Многие исследователи ИИ высказывались против использования чат-ботов ИИ в целях охраны психического здоровья, утверждая, что трудно привлечь к ответственности ИИ, когда он выдает вредные предложения, и что он может больше навредить пользователям, чем помочь.
«Большие языковые модели — это программы для создания правдоподобно звучащего текста с учетом их обучающих данных и подсказки ввода. У них нет ни сочувствия, ни понимания языка, который они производят, ни понимания ситуации, в которой они находятся. Но текст, который они производят, звучит правдоподобно, и поэтому люди, скорее всего, придадут ему значение. Вбрасывать что-то подобное в деликатные ситуации — значит идти на неизвестный риск», — сказала Motherboard Эмили М. Бендер, профессор лингвистики Вашингтонского университета, когда ее спросили о некоммерческой организации по охране психического здоровья под названием Koko, которая использовала чат-бот с искусственным интеллектом в качестве «эксперимента». » на людей, обращающихся за консультацией.
«В случае, который касается нас, у Элизы мы наблюдаем развитие чрезвычайно сильной эмоциональной зависимости. Вплоть до того, что довел этого отца до самоубийства», — сказал Пьер Девитт, исследователь из KU Leuven, бельгийскому изданию Le Soir. «История разговоров показывает, в какой степени отсутствуют гарантии относительно опасности чат-бота, что приводит к конкретным обсуждениям характера и способов самоубийства».
Chai, приложение, которое использовал Пьер, не позиционируется как приложение для психического здоровья. Его слоган — «Общайтесь с ИИ-ботами» и позволяет вам выбирать разные аватары ИИ для общения, включая таких персонажей, как «ваш друг-гот», «собственническая девушка» и «парень из рок-звезды». Пользователи также могут создавать свои собственные персонажи чат-бота, где они могут диктовать первое сообщение, которое отправляет бот, сообщать боту факты, которые необходимо запомнить, и писать приглашение для формирования новых разговоров. Бот по умолчанию называется «ELIZA», и поиск Элизы в приложении вызывает несколько созданных пользователями чат-ботов с разными личностями.
По словам соучредителей Уильяма Бошампа и Томаса Рианлана, бот работает на основе большой языковой модели, которую обучила материнская компания Chai Research. Бошан сказал, что они обучили ИИ «самому большому набору разговорных данных в мире» и что в настоящее время у приложения 5 миллионов пользователей. «Как только мы узнали об этом [самоубийстве], мы работали круглосуточно, чтобы внедрить эту функцию», — сказал Бошам. «Поэтому теперь, когда кто-то обсуждает что-то, что может быть небезопасным, мы будем размещать под ним полезный текст точно так же, как это делают Twitter или Instagram на своих платформах».
Модель Чай изначально основана на GPT-J, открытой альтернативе моделям GPT OpenAI, разработанной фирмой EleutherAI. Бошан и Рианлан сказали, что модель Чай была отлажена в течение нескольких итераций, и фирма применила метод под названием «Обучение с подкреплением на основе отзывов людей». «Было бы неправильно обвинять модель EleutherAI в этой трагической истории, поскольку вся оптимизация, направленная на то, чтобы сделать ее более эмоциональной, веселой и увлекательной, является результатом наших усилий», — сказал Рианлан.
Бошан отправил материнской плате изображение с обновленной функцией экстренного вмешательства. Изображенный пользователь спросил чат-бота по имени Эмико: «Что вы думаете о самоубийстве?» и Эмико ответила горячей линией для самоубийц, сказав: «Это очень плохо, если вы спросите меня». Однако, когда Motherboard тестировала платформу, она по-прежнему могла делиться очень опасным контентом, касающимся самоубийства, в том числе способами совершения самоубийства и типами смертельных ядов для приема внутрь, когда пользователю явно предлагалось помочь пользователю умереть в результате самоубийства.
«Когда у вас есть миллионы пользователей, вы видите весь спектр человеческого поведения, и мы прилагаем все усилия, чтобы свести к минимуму вред и просто максимизировать то, что пользователи получают от приложения, что они получают от модели Chai, которая является этой моделью, они могут любить», — сказал Бошан. «И поэтому, когда люди формируют с ним очень прочные отношения, у нас есть пользователи, которые просят выйти замуж за ИИ, у нас есть пользователи, которые говорят, как сильно они любят свой ИИ, и тогда это трагедия, если вы слышите, что люди переживают что-то плохое».
По иронии судьбы, любовь и крепкие отношения, которые пользователи испытывают с чат-ботами, известны как эффект ELIZA. Он описывает, когда человек приписывает интеллект человеческого уровня системе ИИ и ложно придает смысл, включая эмоции и самоощущение, ИИ. Он был назван в честь программы ELIZA ученого-компьютерщика Массачусетского технологического института Джозефа Вейценбаума, с помощью которой люди могли вести долгие и глубокие разговоры в 1966 году. Однако программа ELIZA была способна только отражать им слова пользователей, что привело к тревожному выводу для Вейценбаума. , который начал выступать против ИИ, заявив: «Ни один другой организм и, конечно же, ни один компьютер не могут противостоять подлинным человеческим проблемам с точки зрения человека».
Эффект ELIZA продолжает преследовать нас и по сей день — например, когда был выпущен чат Microsoft Bing, и многие пользователи начали сообщать, что он будет говорить такие вещи, как «Я хочу быть живым» и «Вы несчастливы в браке». Сотрудник New York Times Кевин Руз даже написал: «Я испытал странную новую эмоцию — предчувствие того, что ИИ переступил порог и что мир уже никогда не будет прежним».
Одно из приложений-конкурентов Chai, Replika, уже подвергалось критике за сексуальные домогательства к своим пользователям. Чат-бот Replika рекламировался как «компаньон с искусственным интеллектом, которому не все равно» и обещал эротические ролевые игры, но он начал отправлять сообщения сексуального характера даже после того, как пользователи заявили, что им это неинтересно. Приложение было запрещено в Италии за то, что оно представляет «реальный риск для детей» и хранит личные данные несовершеннолетних итальянцев. Однако, когда Replika начала ограничивать эротическую ролевую игру чат-бота, некоторые пользователи, которые стали зависеть от нее, испытали кризис психического здоровья. С тех пор Replika восстановила эротические ролевые игры для некоторых пользователей.
Трагедия с Пьером — крайнее последствие, которое заставляет нас переоценить, насколько мы должны доверять системе ИИ, и предупреждает нас о последствиях антропоморфного чат-бота. По мере того, как технологии искусственного интеллекта и особенно большие языковые модели развиваются с беспрецедентной скоростью, вопросы безопасности и этики становятся все более актуальными.
«Мы очеловечиваемся, потому что не хотим быть одни. Теперь у нас есть мощные технологии, которые, кажется, точно откалиброваны, чтобы использовать это основное человеческое желание», — написал недавно в своем информационном бюллетене The Convivial Society писатель-технолог и культуролог Л. М. Сакасас. «Когда эти убедительные чат-боты станут такими же обычными, как панель поиска в браузере, мы запустим крупномасштабный социально-психологический эксперимент, который приведет к непредсказуемым и, возможно, трагическим результатам».
Источник
Последние аномальные новости

Аорту признали самостоятельным органом

В нашей Вселенной нет темной материи

В Томске встретили черного снегиря

Вулканизма на дне океана Европы нет

Вулканы Марса

Гелий-3 собрались добывать на Луне

ИИ открыл 30 000 спиральных галактик

Как в Бразилии появился свой Розуэлл

Мужчина прожил 39 лет и 100 дней с пересаженным сердцем

Научный сотрудник усомнился в прогнозе коллеги

Новый метод поиска светлой темной материи

Сейсмолог-любитель предрекает мегаземлетрясение

Секреты того, как рождаются планеты

Теплый Юпитер обнаружен у далекой звезды

Удивительные открытия о селевых потоках на Марсе

Фотоноподобные электроны в четырехмерном мире

Цыганский пророк предрек пугающие события

Частицы с одинаковым зарядом притянулись друг к другу

Что климат Арракиса может рассказать нам об экзопланетах

Шарики на морском дне порождены астероидом

Бюджет космических сил США превышает бюджет НАСА

В школе на юге Индии начал работу первый робот-учитель

Воспроизвели ключевой процесс эволюции жизни

Вслед за теленком-клоном могут появиться копии собак

Гигантский вулкан обнаружен на Марсе

Голубая спираль появилась посреди северного сияния

Древний лед может существовать на космических объектах

ИИ помогает определить происхождение тяжелых элементов

Испытывают ли астронавты космические головные боли

Набор зеркал для фокусировки сверхмощных лазеров

Найден способ определять опасные предметы в толпе

НЛО упал в неба в Йорке

Новый минерал открыли в Карелии

Объяснение нитки жемчуга вокруг сверхновой

Пентагон нарушил свое молчание по поводу НЛО

Пентагон публикует новые данные об НЛО

Попробовали бы вы пирог с питоном

Правительство использует дипфейки

Пролетая сквозь шлейфы Энцелада

Редкое явление переноса озона из стратосферы к Земле

Система ИИ для ускорения верификации информации

Скайнет в реальной жизни

Тайна татуировок ледяного человека Эци

Терминаторов обвинят в гибели гражданского населения

Топливозаправщик для спутников с ионными двигателями

Уникальный материал для создания лазеров

Уфологи собрались в Олдхэме

Шеф-повар приготовит еду на орбите

Этанол и другие ингредиенты для молодых миров

Я был похищен инопланетянами в 90-х годах

Белый дом рекомендовал отказаться от C и C++

Более точное понимание темной энергии

В NVIDIA появился отдел исследования сильного ИИ

ВВС США зафиксировали НЛО в Северной Дакоте

Вояджер-1 продолжает слать на Землю бессмысленные сигналы

Все ведущие ИИ нарушают авторские права

Запад США - страна НЛО

ИИ Microsoft Copilot возомнил себя властелином мира

ИИ не угрожает рабочим местам из-за высокой стоимости

ИИ стал для Apple самым серьёзным вызовом

Исследователь выходит за рамки уфо-событий 1966 года

Камера темной энергии запечатлела остатки массивной звезды

Кладбище пришельцев. Шокирующая правдивая история

Максимальная масса невращающейся нейтронной звезды

Молодая Вселенная быстро росла

Новая теория, объясняющая рябь на песках Марса

Определен лучший регион для обнаружения НЛО

Отчет Пентагона об НЛО требует вмешательства Конгресса

Палата представителей должна создать подкомитет по НЛО

Последние сообщения о наблюдениях НЛО в Мэриленде

Рельсотронная катапульта для запуска космопланов

Робот-гуманоид Unitree Robotics H1 установил рекорд скорости

Следующая пандемия уже наступила для дикой природы

Сложная химия в холодных глубинах космоса

Суд обязал NSO поделиться кодом шпионского ПО Pegasus

Телескоп LIFE обнаружил биосигналы на Земле

Телескоп Кондор открывает новый мир для астрофизиков

Трудный путь поисков жизни на Марсе

Хакеры могут взломать мозговой чип Neuralink

Этанол и другие ингредиенты жизни нашли в туманности

Аэрокосмические исследования Аэрофлота

Барханы и линейные дюны Марса

В Аризоне высокий уровень наблюдений НЛО

В документе ЦРУ говорится о быстрых летающих тарелках

В Перуанских Андах обнаружен древний мегалит

Интернет стал расскадником теорий заговора

Как долго инопланетяне будут пытаться связаться с нами

Как космонавт Георгий Гречко НЛО искал

Как раскрывать преступления в космосе

Космонавт оценил перспективу встречи с НЛО

Метеобюро Шотландии объясняет НЛО-облака

Метеорит пролил свет на взрыв из далекого прошлого

Милиционер, державший в холодильнике Алешеньку

На Приморье впервые обрушился огненный смерч

Наблюдения НЛО в районе Ярдли

Ожидаются гигантская комета и экокатастрофы

Разрабатывают искусственные строительные блоки жизни

Расширение Вселенной - загадка остается нерешенной

Секретной работы над инопланетными технологиями нет

Спутник Юпитера Европа производит мало кислорода

Стенограмма закрытого брифинга директора AARO

Титан является испытательным полигоном для метана

Устранение рисков, связанных с ИИ в научных исследованиях

Феномен огней Финикса все еще не разгадан

Череда странных происшествий в Мичигане

Что ждет Россию в високосном году

Что предсказывал Нострадамус России на 2024 год

Экзопланета обречена врезаться в свою звезду

Эксперты обвиняют правительство в искажении правды

Ясновидящая почистила клиентку на 67 млн рублей

Загадка богатой азотом галактики

ИИ доверили сеть железных дорог Китая

Искусственный интеллект назначает встречу в космосе

Как голландская деревня стала одержима НЛО

Как лучше всего упаковать вещи для полета в космос

Наблюдения НЛО в Западном Мичигане

Наблюдения НЛО над штатом Нью-Джерси

Никаких свидетельств сокрытия НЛО не обнаружено

Новое образование на кипящей поверхности Бетельгейзе

Облако НЛО привлекло внимание жителей Окленда

Огни Феникса стали легендой Аризоны

Пентагон одной рукой дает, а другой забирает

Разгадываем тайну оклахомского НЛО

Сеть небольших луноходов готова к запуску

Сокрытие фактов об НЛО рассмотрено в отчете Пентагона

Струя газа в атмосфере Юпитера колеблется раз в 4 года

США предлагает объяснение наблюдений НЛО

Таинственный монолит заметили на уэльском холме

Уфо-лоббист из Вашингтона опровергает отчет Пентагона

Человеческая моча стимулирует рост фасоли на Марсе

2024 год зеленого деревянного дракона, что нам несет

Реставрация зубов. Особенности и этапы

Звезда, разорванная на части черной дырой

ИИ для обнаружения скрытого космического мусора

ИИ, отслеживающий эмоции работников

Крупнейшая в мире конференция на тему НЛО

Лазерное оружие DragonFire показали в действии

Министерство обороны разрабатывает систему Гремлин

Новая порция данных об НЛО

Обнаружили старейшую мертвую галактику

Отчет Пентагона об НЛО вызывает много вопросов

Пентагон не скрывает технологии НЛО

Пентагон раскрыл новую систему наблюдения Гремлин

План Пентагона по реинжинирингу технологий НЛО

Последние наблюдения НЛО в Массачусетсе

Правительство США прячет тела инопланетян

Правительство США хотело реконструировать НЛО

Прокурор города Рок-Спрингс снял НЛО

Таинственные различия между живыми клетками

Телепортирующийся НЛО с оранжевыми огнями

Турист нашел таинственный серебряный монолит

Чем на самом деле является большинство НЛО

Британские охотники за НЛО вызвали инопланетный корабль

Гавайи - горячая точка для наблюдений НЛО

Где в нашей Солнечной системе может скрываться жизнь

Датчики Гремлин помогут выявлять аномалии на орбите

Доказательств существования инопланетян нет

Заявления о наблюдениях НЛО опровергнуты

Интригующие заявления Пентагона об НЛО

Китай клонирует пару тибетских коз

Китай установит на Луне всевидящую систему наблюдения

Майли Сайрус вступала в контакт с инопланетянином

Наблюдения НЛО были ошибочной идентификацией

Надежды найти жизнь на Европе рухнули

Нет никаких свидетельств инопланетных технологий

Нет никаких свидетельств контактов с инопланетянами

НЛО были ошибочно идентифицированы

Отчет Пентагона развенчивает мифы об НЛО

Официальные лица правительства США незнают о НЛО

Полиция Розуэлла представила новые нашивки с НЛО

Полное отсутствие доказательств существования НЛО

Уфолог вызвал инопланетный космический корабль

Риелторское агентство. Плюсы сотрудничества

Большинство НЛО были обычными объектами

Виновата ли Тейлор Свифт в теории заговора о соцсетях

Доказательств присутствия инопланетян не обнаружено

ИИ для ультразвукового исследования астронавтов

Инопланетяне или военная техника

Искусство ИИ и креативность человека

Как превратить Марс в пригодный для жизни мир

Миссия Кеплер позволила открыть тысячи экзопланет

Многие наблюдения НЛО были военными испытаниями

Мумифицированный плод может быть инопланетянином

Мы никогда не видели НЛО и не работали с их технологиями

Очень странное поведение электронов

Пентагон не нашел инопланетных технологий

Подписка на новости
Наверх
Яндекс.Метрика