|
ИИ ChatGPT может быть использован для дезинформации и кибератак
|
|
|
|
Генеральный директор OpenAI заявил, что он «боится», что ChatGPT может быть «использован для крупномасштабной дезинформации и наступательных кибератак». Сэм Альтман недавно говорил с ABC News о чат-боте компании и выпуске последней версии языковой модели ИИ, GPT-4. В то время как чат-бот вызвал страх перед мировым господством ИИ, Альтман считает людей самой большой угрозой для технологии. «Будут и другие люди, которые не соблюдают некоторые из установленных нами ограничений безопасности», — сказал он ABC News. «У общества, я думаю, есть ограниченное количество времени, чтобы понять, как реагировать на это, как это регулировать, как с этим справиться». OpenAI запустил GPT-4 на прошлой неделе, рекламируя его как более мощный, чем его предшественник, настолько, что он может быть «вредным».
|
|
|
Бот принимает входные данные как в виде изображений, так и в виде текста, но по-прежнему выводит свои ответы в виде текста, что означает, что он может предлагать подробные описания изображений. Компания предупредила, что модель по-прежнему склонна к «галлюцинациям» неточных фактов, и ее можно убедить выводить ложный или вредный контент. «Больше всего я пытаюсь предостеречь людей от того, что мы называем «проблемой галлюцинаций», — сказал Альтман. «Модель будет уверенно излагать вещи так, как если бы они были полностью вымышленными фактами». DailyMail.com связался с OpenAI для получения комментариев. Во время интервью Альтман признал, что GPT-4 «не идеален», но он может писать компьютерный код на большинстве языков программирования и может сдать Единый экзамен на адвоката в 90-м процентиле. Однако Альтман видит, что GPT-4 становится мошенником в руках людей, которые используют его силу во зло. «Меня особенно беспокоит, что эти модели могут быть использованы для широкомасштабной дезинформации», — сказал Альтман ABC NEWS.
|
|
|
|
«Теперь, когда они лучше пишут компьютерный код, [их] можно использовать для наступательных кибератак». Он также затронул еще один страх, распространяющийся по всему миру, — искусственный интеллект заменяет человеческие рабочие места. Альтман понимает, что технологии заменят некоторые профессии, и считает, что это может произойти быстрее, чем мы думаем. «Я думаю, что за пару поколений человечество прекрасно адаптировалось к основным технологическим изменениям», — сказал Альтман. «Но если это произойдет за однозначное количество лет, некоторые из этих сдвигов… Это та часть, о которой я беспокоюсь больше всего». GPT-4 теперь доступен подписчикам через ChatGPT: бесплатные пользователи по-прежнему будут использовать старый GPT-3.5. Выступая в этом месяце на SXSW, соучредитель OpenAI Грег Брокман сказал, что опасения по поводу того, что инструменты ИИ отнимут у людей рабочие места, преувеличены, и что ИИ освободит людей, чтобы они могли сосредоточиться на важной работе. «Самым важным будут эти навыки более высокого уровня — суждение и знание того, когда нужно вникать в детали», — сказал он. «Я думаю, что реальная история здесь, на мой взгляд, усиливает то, что люди могут сделать».
|
|
|
|
Источник
|
