|
ИИ галлюцинируют реже, чем люди
|
|
|
|
Генеральный директор Anthropic Дарио Амодей (Dario Amodei) считает, что современные модели искусственного интеллекта галлюцинируют или выдумывают вещи и представляют их так, как будто они настоящие, реже, чем это делают люди, заявил он во время брифинга для прессы на первом мероприятии Anthropic для разработчиков Code with Claude в Сан-Франциско в четверг.
|
|
|
|
Амодей сказал все это в контексте более важной мысли, которую он высказал: галлюцинации искусственного интеллекта не являются ограничением на пути Anthropic к системам AGI — AI с интеллектом человеческого уровня или выше.
|
|
|
|
“Это действительно зависит от того, как вы это оцениваете, но я подозреваю, что модели искусственного интеллекта, вероятно, галлюцинируют реже, чем люди, но они галлюцинируют более неожиданными способами”, - сказал Амодей, отвечая на вопрос TechCrunch.
|
|
|
|
Генеральный директор Anthropic - один из самых оптимистичных лидеров отрасли в отношении перспектив внедрения ИИ-моделей в AGI. В широко распространенной статье, которую он написал в прошлом году, Амодей сказал, что, по его мнению, AGI может появиться уже в 2026 году. Во время брифинга для прессы в четверг генеральный директор Anthropic сказал, что он видит устойчивый прогресс в этом направлении, отметив, что “вода поднимается повсюду”.
|
|
|
|
|
|
|
“Все всегда ищут эти препятствия на пути к тому, что может сделать [ИИ]”, - сказал Амодей. "Их нигде не видно. Такого понятия не существует”.
|
|
|
|
Другие лидеры в области ИИ считают, что галлюцинации представляют собой серьезное препятствие для достижения УЧИ. Ранее на этой неделе генеральный директор Google DeepMind Демис Хассабис заявил, что в современных моделях искусственного интеллекта слишком много “дыр” и слишком много очевидных вопросов задаются неправильно. Например, ранее в этом месяце юрист, представляющий интересы Anthropic, был вынужден извиниться в суде после того, как они использовали Claude для создания ссылок в судебных документах, а чат-бот с искусственным интеллектом галлюцинировал и неправильно вводил имена и звания.
|
|
|
|
Утверждение Amodei трудно проверить, в основном потому, что большинство тестов на галлюцинации сравнивают модели ИИ друг с другом; они не сравнивают модели с людьми. Некоторые методы, по-видимому, помогают снизить частоту галлюцинаций, например, предоставление моделям ИИ доступа к веб-поиску. Кроме того, некоторые модели искусственного интеллекта, такие как GPT-4.5 от OpenAI, имеют заметно более низкий уровень галлюцинаций в тестах по сравнению с ранними поколениями систем.
|
|
|
|
Однако есть также свидетельства того, что галлюцинации на самом деле усиливаются в моделях с продвинутым интеллектуальным ИИ. У моделей OpenAI o3 и o4-mini частота галлюцинаций выше, чем у моделей предыдущего поколения, и компания на самом деле не понимает, почему.
|
|
|
|
Позже на брифинге для прессы Амодей отметил, что телеведущие, политики и люди всех профессий постоянно совершают ошибки. По словам Амодея, тот факт, что ИИ тоже совершает ошибки, не является недостатком его интеллекта. Однако генеральный директор Anthropic признал, что уверенность, с которой модели искусственного интеллекта выдают ложные вещи за факты, может стать проблемой.
|
|
|
|
На самом деле, Anthropic провела немало исследований о тенденции моделей искусственного интеллекта обманывать людей, проблема, которая, по-видимому, особенно распространена в недавно выпущенном Claude Opus 4. Apollo Research, институт безопасности, получивший ранний доступ для тестирования модели искусственного интеллекта, обнаружил, что ранняя версия Claude Opus 4 проявляли высокую склонность к интригам против людей и обману их. Apollo зашла так далеко, что предположила, что Anthropic не следовало выпускать эту раннюю модель. В Anthropic заявили, что были предложены некоторые меры по устранению проблем, поднятых Apollo.
|
|
|
|
Комментарии Амодея предполагают, что Anthropic может рассматривать модель ИИ как AGI или равную интеллекту человека, даже если она все еще галлюцинирует. Однако, по мнению многих людей, галлюцинирующий ИИ может не соответствовать AGI.
|
|
|
|
Источник
|
