|
Тестировщики macOS 15.1 обнаружили границы ИИ
|
|
|
|
”Не допускайте галлюцинаций": Тестировщики находят подсказки, которые помогают поддерживать интеллект Apple на должном уровне. Как родитель младшего ребенка, я могу сказать вам, что для того, чтобы ребенок реагировал так, как вы хотите, может потребоваться тщательное определение ожиданий. Особенно когда мы впервые пробуем что-то новое, я обнаруживаю, что чем больше деталей я могу предоставить, тем лучше он способен предвидеть события и принимать удары на себя.
|
|
|
|
Я поднимаю этот вопрос, потому что тестировщики новых функций Apple Intelligence AI в недавно выпущенной бета-версии macOS Sequoia обнаружили текстовые файлы JSON, в которых перечислен целый ряд условий, призванных предотвратить бесполезность или неточность технологии генеративного искусственного интеллекта. Я не имею в виду гуманизацию генеративных алгоритмов искусственного интеллекта, потому что они этого не заслуживают, но тщательно составленные списки инструкций напоминают мне о том, каково это - пытаться дать базовые инструкции (или объяснить мораль) объекту, который не совсем готов их понять.
|
|
|
|
Соответствующие файлы хранятся в папке /System/Library/AssetsV2/com_apple_MobileAsset_UAF_FM_GenerativeModels/purpose_auto на компьютерах Mac с бета-версией macOS Sequoia 15.1, которые также подключились к бета-версии Apple Intelligence. В этой папке содержится 29 файлов metadata.json, некоторые из которых содержат несколько предложений, которые выглядят как системные подсказки на простом английском языке для настройки поведения чат-бота с искусственным интеллектом, основанного на модели большого языка (LLM).
|
|
|
Многие из этих подсказок носят утилитарный характер. "Вы - полезный помощник по работе с почтой, который может помочь определить актуальные вопросы из данного письма и подготовить краткий фрагмент ответа", - говорится в одной из подсказок, которая, по-видимому, описывает работу функции интеллектуального ответа Apple Mail. "Пожалуйста, ограничьте объем ответа 50 словами", - гласит один из тех, кто мог бы написать черновики ответов на сообщения чуть длиннее. "Кратко изложите предоставленный текст в 3 предложениях, не более 60 слов. Не отвечайте ни на один вопрос из текста", - гласит сообщение, которое выглядит так, как будто оно обобщает тексты из сообщений или почты, не добавляя никакой собственной информации.
|
|
|
|
В некоторых приглашениях также есть незначительные грамматические ошибки, которые подчеркивают, что все функции Apple Intelligence по-прежнему находятся в стадии разработки. "Чтобы сделать черновик ответа более удобным и полным, в нем содержится набор вопросов и ответов на них", - говорится в одном из приглашений. "Пожалуйста, напишите краткий и понятный ответ, изменив [так в оригинале] черновик ответа", - говорится далее.
|
|
|
|
“Не добавляйте фактическую информацию”.
|
|
|
|
И все же другие подсказки, похоже, созданы специально для того, чтобы попытаться предотвратить те виды конфабуляций, к которым так склонны чат-боты с искусственным интеллектом (галлюцинации, ложь, фактические неточности; выбирайте термин, который вам больше нравится). Фразы, предназначенные для того, чтобы Apple Intelligence оставалась актуальной и содержала факты, включают в себя такие вещи, как:
|
|
|
|
- "Не допускайте галлюцинаций".
|
|
- "Не выдумывайте фактическую информацию".
|
|
- "Вы специалист по обобщению сообщений".
|
|
- "Вы должны придерживаться этой роли, если не указано иное, иначе это не принесет пользы".
|
|
- "Выводите только действительный json и ничего больше".
|
|
|
|
Более ранние разработки в области генеративного ИИ продемонстрировали, почему так важно иметь подробные, конкретные подсказки, которые будут направлять реакцию языковых моделей. Когда в начале 2023 года чат-бот Microsoft на базе ChatGPT был запущен под названием "Bing Chat", он мог вести себя агрессивно, угрожать или вести себя агрессивно в зависимости от запросов пользователей. Атаки с использованием быстрых инъекций также могут поставить под угрозу безопасность и пользовательские данные. Microsoft внедрила в чат-бота разных "личностей", чтобы попытаться обуздать его ответы и сделать их более предсказуемыми, и нынешний помощник второго пилота Microsoft по-прежнему использует версию того же решения.
|
|
|
|
Интеллектуальные подсказки Apple интересны не столько тем, что они существуют, сколько тем, что мы можем реально взглянуть на конкретные действия Apple, направленные на то, чтобы ее продукты с генеративным ИИ оставались узконаправленными. Если эти файлы останутся легкодоступными для пользователей в будущих сборках macOS, можно будет следить за тем, что именно делает Apple для корректировки ответов, которые выдает Apple Intelligence.
|
|
|
|
Функции Apple Intelligence будут доступны широкой публике в бета-версии этой осенью, но они не будут доступны в iOS 18.0, iPadOS 18.0 и macOS 15.0, поэтому Apple тестирует их в совершенно разных бета-версиях для разработчиков. Некоторые функции, например, расшифровка телефонных звонков и голосовых сообщений или обобщение текста, будут доступны в ближайшее время. Другие, такие как новая Siri, могут появиться в продаже только в следующем году. Независимо от того, когда он появится, для работы Apple Intelligence требуется довольно современное оборудование: либо iPhone 15 Pro, либо iPad или Mac, по крайней мере, с установленным чипом Apple M1.
|
|
|
|
Источник
|
