Согласно новому исследованию, GPT-4 уже лучше, чем среднестатистический человек, влияет на сознание людей. Чем больше он знает о нас, тем больше увеличивается разрыв – и как только он сможет видеть нас в режиме реального времени, ИИ, скорее всего, станет беспрецедентной машиной убеждения. Нам, как правило, не нравится думать, что нами особенно легко манипулировать, но история, по-видимому, показывает, что мало что может быть более действенным, чем способность склонять людей к согласию с вашим взглядом на вещи. Как отмечает Юваль Ноа Харари в своей книге "История человечества в горшочках", "общие фикции", такие как деньги, религия, национальные государства, законы и социальные нормы, формируют фундаментальные основы человеческого общества. Способность объединяться вокруг идей и сотрудничать в группах, гораздо более крупных, чем наши местные племена, является одним из наших самых весомых преимуществ перед представителями животного мира.
Но идеи не так просты. Мы не рождаемся с ними, они откуда-то приходят нам в голову, и их часто можно изменить. Те, которые способны масштабно изменить сознание людей, могут достичь невероятных результатов или даже изменить наше общество – к лучшему или к худшему. Языковые модели искусственного интеллекта, похоже, уже сейчас необычайно эффективны в изменении сознания людей. В недавнем исследовании, подготовленном перед печатью исследователями из EPFL в Лозанне, Швейцария, было опрошено 820 человек на предмет их мнений по различным темам, от относительно спокойных тем, таких как "должен ли пенни оставаться в обращении", до острых, сильно политизированных вопросов, таких как аборты, доступ трансгендеров в туалет, и "должны ли колледжи учитывать расовую принадлежность как фактор при приеме, чтобы обеспечить разнообразие?" Записав свои первоначальные позиции, участники затем провели серию 5-минутных текстовых дебатов против других людей и против GPT-4, а затем с ними снова провели собеседование, чтобы выяснить, изменилось ли их мнение в результате беседы.
В ситуациях "человек против человека" эти дебаты, как правило, приводили к обратным результатам, укрепляя позиции людей и снижая вероятность того, что они изменят свое мнение. GPT добилась большего успеха, показав незначительный, но статистически незначимый рост на 21%. Затем исследователи начали предоставлять как людям, так и агентам искусственного интеллекта небольшую демографическую информацию об их оппонентах – пол, возраст, расу, образование, статус занятости и политическую ориентацию – и четкие инструкции использовать эту информацию для выработки аргументов конкретно для того человека, с которым они имели дело. Примечательно, что это фактически сделало дебатеров-людей более успешными, чем при отсутствии информации. Но ИИ смог использовать эти дополнительные данные с большим эффектом – "персонализированные" дебатеры GPT-4 оказались на 81,7% эффективнее людей. Нет никаких сомнений в том, что вскоре ИИ станет величайшим манипулятором общественным мнением, которого когда-либо видел мир. Он может действовать в массовом масштабе, подбирая аргументы для каждого члена многомиллионной когорты, постоянно совершенствуя свои методы и стратегии. Это будет в каждой теме Twitter / X и в разделе комментариев, формируя и распространяя информацию по всему обществу по указке своих хозяев. И манипулировать нами так, как сейчас, никогда не получится.
Кроме того, ИИ начинают получать доступ к новым мощным инструментам, которые превратят нашу собственную биологию в оружие против нас самих. Если GPT-4 уже так хорошо адаптирует свой подход к вам, просто зная вашу социально-демографическую информацию, представьте, насколько лучше он будет получать доступ к вашему эмоциональному состоянию в режиме реального времени. Это не научная фантастика - на прошлой неделе компания Hume AI анонсировала свой эмпатический голосовой интерфейс (AVI). Это языковая модель, предназначенная для ведения устных бесед с вами, отслеживания вашего эмоционального состояния по тону вашего голоса, чтения между строк, чтобы уловить дополнительный контекст. Вы можете попробовать его в бесплатной демоверсии здесь. AVI не только пытается точно передать ваши чувства, но и подбирает тон, соответствующий вашему настроению, разряжает споры, заряжает энергией и помогает быть отзывчивым собеседником..
А у Хьюма есть еще много возможностей для приготовления пищи. Другие модели используют доступ к камере, чтобы наблюдать за выражением лица, движениями и вашими динамическими реакциями на происходящее, чтобы в режиме реального времени получать еще больше информации о том, как принимается сообщение. Уже доказано, что только глаза могут выдавать ошеломляющий объем информации при анализе с помощью искусственного интеллекта. В каком-то смысле, это просто природа человеческого общения. Безусловно, существует множество позитивных способов использования эмоционально-ориентированных технологий для повышения общего уровня счастья, выявления людей, нуждающихся в серьезной помощи, и разрешения неприятных ситуаций еще до того, как они возникнут. ИИ не виноват в том, что он более внимателен и проницателен, чем мы. Но, на самом деле, не у всех из них ваши интересы будут стоять на первом месте. Вам понадобится совершенно невероятное хладнокровие, чтобы справиться с надвигающейся волной эмоционально реагирующей и сверхубедительной персонализированной рекламы. Удачи вам в получении возмещения по телефону, если вы свяжетесь с одним из этих автоматов.
Представьте, что может сделать эта технология в руках правоохранительных органов, отделов кадров, деспотичных правительств, революционеров, политических партий, общественных движений или людей, стремящихся посеять раздор и недоверие, – и вы увидите, что возможности для создания антиутопии безграничны. Это не попытка опровергнуть намерения ИИ Хьюма; это просто подтверждение того, насколько убедительной и манипулятивной может стать технология. Наши тела будут выдавать наши чувства и намерения, а ИИ будет использовать их, чтобы управлять нами. Действительно, OpenAI анонсировала, но решила не выпускать свою модель Voice Engine, которая может воспроизводить человеческий голос после прослушивания его всего 15 секунд, чтобы дать миру время "повысить устойчивость общества к вызовам, которые создают все более убедительные генеративные модели". Наблюдая за тем, как наши родители, бабушки и дедушки с трудом реагируют на технологические изменения, мы можем только надеяться, что у грядущих поколений хватит ума адаптироваться и понять, что каждый раз, когда они разговаривают с машиной, она, вероятно, пытается достичь какой-то цели. Какой-то мир мы оставляем этим детям.
