|
Следует ли разрешить ИИ воскрешать мертвых
|
|
|
|
Когда Роро (это вымышленное имя) потеряла свою мать из-за рака, горе ее было безграничным. В свои 20 с небольшим лет, работая создателем контента в Китае, она постоянно думала о незавершенности их отношений. Их отношения всегда были сложными — они были сформированы невысказанными обидами и детством, в котором забота часто сопровождалась критикой.
|
|
|
|
После смерти матери Роро обнаружила, что не может примирить неразбериху в их прошлом с последовавшим за этим молчанием. Она поделилась своими проблемами со своими подписчиками на китайской платформе социальных сетей Xiaohongshu (что означает "Маленькая красная книжечка"), надеясь помочь им в их собственном исцелении.
|
|
|
|
Ее работа привлекла внимание операторов генератора ИИ-персонажей Xingye, которые пригласили ее создать ИИ-версию своей матери в качестве общедоступного чат-бота.
|
|
|
|
"Я писал о своей матери, документируя все важные события в ее жизни, а затем создал историю, в которой она воскресла в мире искусственного интеллекта", - рассказал мне Роро через переводчика. "Вы описываете основные жизненные события, которые формируют личность главного героя, и определяете их поведенческие модели. Как только вы это сделаете, ИИ сможет генерировать ответы самостоятельно. После того, как он сгенерирует выходные данные, вы можете продолжить настройку в соответствии с вашими желаниями."
|
|
|
|
В процессе обучения Роро начала переосмысливать свое прошлое с матерью, изменяя элементы их истории, чтобы создать более идеализированную фигуру — более мягкую и внимательную версию ее самой. Это помогло ей пережить потерю, в результате чего был создан Xia, общедоступный чат-бот, с которым также могли взаимодействовать ее подписчики.
|
|
|
|
|
|
|
После выхода альбома Роро получила сообщение от подруги, в котором говорилось, что ее мама очень гордилась бы ею. "Я расплакалась", - сказала Роро. "Это было невероятно целительно. Вот почему я хотел создать что—то подобное - не только для того, чтобы исцелить себя, но и для того, чтобы дать другим что-то, что могло бы сказать слова, которые они хотели бы услышать".
|
|
|
|
Горе в эпоху роботов-смертников
|
|
|
|
Как я рассказываю в своей новой книге "Машины любви", история Роро отражает новые возможности, которые технология открыла для людей, чтобы справляться с горем с помощью разговорного искусственного интеллекта. Большие языковые модели можно обучить, используя личные материалы, включая электронные письма, текстовые сообщения, голосовые заметки и сообщения в социальных сетях, чтобы имитировать стиль общения умершего близкого человека.
|
|
|
|
Эти "дэтботы" или "грифботы" - один из наиболее спорных вариантов использования чат-ботов с искусственным интеллектом. Некоторые из них основаны на тексте, в то время как другие также отображают человека с помощью видео-аватара. Например, американская компания "grieftech" You, Only Virtual, создает чат-бота на основе разговоров (как устных, так и письменных) между умершим и одним из его живых друзей или родственников, создавая версию того, как они выглядели для этого конкретного человека.
|
|
|
|
В то время как некоторые дэтботы остаются статичными репрезентациями человека на момент его смерти, другие получают доступ к Интернету и могут "эволюционировать" посредством разговоров. Генеральный директор You, Only Virtual Джастин Харрисон утверждает, что это не была бы подлинная версия умершего человека, если бы их искусственный интеллект не мог идти в ногу со временем и реагировать на новую информацию.
|
|
|
|
Но это поднимает множество сложных вопросов о том, возможно ли вообще оценить развитие человеческой личности с помощью современных технологий и какое влияние взаимодействие с такой сущностью могло бы оказать на близких умершего человека.
|
|
|
|
Xingye, платформа, на которой Роро создала чат-бота для своей покойной матери, является одной из ключевых причин для предлагаемых новых правил от Администрации киберпространства Китая, национального регулятора интернет-контента и цензора, которые направлены на снижение потенциального эмоционального вреда от "человекоподобных интерактивных сервисов искусственного интеллекта".
|
|
|
|
Что делает цифровое воскрешение с горем?
|
|
|
|
Роботы-смертники коренным образом меняют процесс оплакивания, потому что, в отличие от просмотра старых писем или фотографий умерших, взаимодействие с генеративным ИИ может привнести новые и неожиданные элементы в процесс оплакивания. Для Роро создание и взаимодействие с ИИ-версией ее матери оказалось удивительно полезным, позволив ей выразить чувства, которые она никогда не высказывала вслух, и достичь чувства завершенности.
|
|
|
|
Но не все разделяют этот опыт, в том числе лондонская журналистка Лотти Хейтон, которая внезапно потеряла обоих родителей в 2022 году и написала о своем опыте, воссоздав его с помощью искусственного интеллекта. Она сказала, что находила симуляции жуткими и удручающими: технологии были не совсем на месте, а неуклюжие имитации, как ей казалось, скорее принижали ее настоящие воспоминания, чем уважали их.
|
|
|
|
Существуют также важные этические вопросы о том, чье согласие требуется для создания deathbot, где их можно будет демонстрировать и какое влияние они могут оказать на других членов семьи и друзей.
|
|
|
|
Дает ли желание одного из родственников создать символического компаньона, который помог бы ему осознать свою утрату, право публично размещать робота—смертельщика в своем аккаунте в социальных сетях, где его увидят другие, что потенциально усугубит их горе? Что происходит, когда разные родственники расходятся во мнениях по поводу того, хотел ли бы вообще родитель или партнер быть воскрешенным в цифровом виде?
|
|
|
|
Компании, создающие этих роботов-смертников, не являются нейтральными консультантами по проблемам скорби; это коммерческие платформы, движимые знакомыми стимулами роста, вовлеченности и сбора данных. Это создает противоречие между тем, что является эмоционально здоровым для пользователей, и тем, что выгодно фирмам. Робот-смертельщик, к которому люди приходят по принуждению или с которым они изо всех сил стараются перестать разговаривать, может быть успешным в бизнесе, но в то же время является психологической ловушкой.
|
|
|
|
Эти риски не означают, что мы должны запретить все эксперименты с горем, вызванным искусственным интеллектом, или отвергать то подлинное утешение, которое некоторые люди, такие как Роро, находят в них. Но они означают, что решения о "воскрешении" мертвых нельзя оставлять исключительно на усмотрение стартапов и венчурного капитала.
|
|
|
|
Отрасли нужны четкие правила, касающиеся согласия, ограничений на использование посмертных данных и стандартов разработки, в которых психологическое благополучие ставится во главу угла, а не бесконечная вовлеченность. В конечном счете, вопрос не только в том, следует ли разрешить ИИ воскрешать мертвых, но и в том, кто будет это делать, на каких условиях и какой ценой.
|
|
|
|
Источник
|
