Новая ИИ-модель Anthropic сама управляет ПК
Прошлой весной Anthropic заявила о намерении создать «алгоритм нового поколения для самообучения ИИ», который сможет самостоятельно выполнять большинство офисных задач, что позволило бы автоматизировать значительную часть экономики. Сегодня компания выпустила версию 3.5 своей модели Claude Sonnet, которая может через API Computer Use взаимодействовать с любым десктопным приложением, имитировать нажатия клавиш, клики и жесты мыши, полностью эмулируя человека.
«Мы обучили Claude видеть, что происходит на экране, а затем использовать доступные программные инструменты для выполнения задач, — сообщает Anthropic. — Когда разработчик поручает Claude использовать часть компьютерного программного обеспечения и даёт ему необходимый доступ, Claude смотрит на скриншоты того, что видит пользователь, затем подсчитывает, на сколько пикселей по вертикали или горизонтали ему нужно переместить курсор, чтобы щёлкнуть в нужном месте».
Подобный инструмент, так называемый «агент ИИ», который может автоматизировать задачи на ПК, не является новой идеей. Термин агент ИИ пока остаётся нечётко определённым, но обычно под ним подразумевается ИИ, способный автоматизировать работу с программным обеспечением на ПК. Множество компаний сегодня предлагают подобные инструменты, начиная с Microsoft, Salesforce и OpenAI, и заканчивая новыми игроками, такими как Relay, Induced AI и Automat.
Стартап потребительских гаджетов Rabbit представил агента, который умеет самостоятельно покупать билеты онлайн. Adept, недавно приобретённый Amazon, обучает модели просмотру сайтов и навигации по программному обеспечению. Twin Labs использует готовые модели, включая GPT-4o от OpenAI, для автоматизации процессов рабочего стола.
Некоторые аналитики уверены, что агенты ИИ смогут обеспечить компаниям более простой способ монетизации миллиардов долларов, которые они вливают в ИИ. Согласно недавнему опросу Capgemini, 10 % организаций уже используют агентов ИИ, а 82 % планируют интегрировать их в течение следующих трёх лет.
Anthropic называет свою концепцию агента ИИ «слоем действия-исполнения», который позволяет ему выполнять команды на уровне рабочего стола. Благодаря способности просматривать веб-страницы, Claude 3.5 Sonnet может использовать в работе любой сайт и любое приложение.
«Люди контролируют процесс при помощи подсказок, направляющих действия Claude, например, “использовать данные с моего компьютера и из сети, чтобы заполнить эту форму”, — поясняет представитель Anthropic. — Люди разрешают доступ и ограничивают его по мере необходимости. Claude разбивает подсказки пользователя на компьютерные команды (например, перемещение курсора, нажатие, ввод текста) для выполнения этой конкретной задачи».
В чём отличие Claude 3.5 Sonnet от других агентов ИИ? Anthropic утверждает, что это просто более сильная, более надёжная модель, которая справляется с задачами кодирования лучше, чем даже флагманский o1 от OpenAI, согласно бенчмарку SWE-bench Verified. Claude самостоятельно корректирует и повторяет задачи, когда сталкивается с препятствиями, и может работать над целями, требующими десятков или сотен шагов.
При этом Anthropic признает, что обновлённая модель испытывает трудности с базовыми действиями, такими как прокрутка и масштабирование, и может пропускать кратковременные события и уведомления из-за способа, которым она делает снимки экрана и объединяет их. Во время тестового бронирования авиабилетов Claude 3.5 Sonnet сумела успешно выполнить менее половины задач. В задаче возврата билетов новая модель не справилась примерно в трети случаев.
Что касается безопасности, недавнее исследование показало, что даже модели не имеющие возможности использовать настольные приложения, такие как GPT-4o от OpenAI, могут быть задействованы во вредоносном «многошаговом агентском поведении», например, заказать поддельный паспорт в даркнете. Подобные результаты были достигнуты исследователями с использованием методов джейлбрейка, что привело к высокому проценту успешно выполненных вредоносных задач даже для защищённых моделей.
Можно предположить, что модель с доступом к управлению ПК может нанести значительно больший ущерб — например, используя уязвимости приложений для компрометации личной информации (или сохранения чатов в виде открытого текста). Помимо имеющихся в её распоряжении программных рычагов, сетевые и прикладные соединения модели могут открыть широкие возможности для злоумышленников.
Anthropic не отрицает, что использование Claude 3.5 Sonnet подвергает пользователя дополнительным рискам. Но по мнению компании «гораздо лучше предоставить доступ к компьютерам сегодняшним более ограниченным, относительно безопасным моделям — так мы можем начать наблюдать и извлекать уроки из любых потенциальных проблем, которые возникают на этом более низком уровне, постепенно и одновременно наращивая использование компьютеров и меры по снижению рисков для безопасности».
Anthropic заявляет, что предприняла некоторые шаги для предотвращения ненадлежащего использования, например, не обучала новую модель на снимках экрана и подсказках пользователей и не давала модели выходить в интернет во время обучения. Компания разработала классификаторы для предотвращения высокорисковых действий, таких как публикация в социальных сетях, создание учётных записей и взаимодействие с правительственными ресурсами.
Anthropic сообщила, что у неё есть возможность «при необходимости» ограничить доступ к дополнительным функциям, например, для защиты от спама, мошенничества и дезинформации. В качестве меры предосторожности компания хранит все снимки экрана, сделанные Computer Use, не менее 30 дней, что может создать дополнительную угрозу безопасности и конфиденциальности. Anthropic не сообщила при каких обстоятельствах она может передать снимки экрана третьей стороне (например, правоохранительным органам).
«Не существует надёжных методов, и мы будем постоянно оценивать и совершенствовать наши меры безопасности, чтобы сбалансировать возможности Claude с ответственным использованием, — утверждает Anthropic. — Тем, кто использует компьютерную версию Claude, следует принять соответствующие меры предосторожности, чтобы минимизировать подобные риски, включая изоляцию Claude от особо конфиденциальных данных на своём компьютере».
Одновременно с выпуском модели Claude 3.5 Sonnet, Anthropic анонсировала скорый выход обновлённой версии Claude 3.5 Haiku. «Благодаря высокой скорости, улучшенному следованию инструкциям и более точному использованию инструментов Claude 3.5 Haiku хорошо подходит для продуктов, ориентированных на пользователя, специализированных задач субагентов и создания персонализированного опыта из огромных объёмов данных, таких как история покупок, цены или данные об инвентаре», — говорится в блоге Anthropic. Haiku изначально будет доступна как текстовая модель, а затем как часть мультимодального пакета, который может анализировать как текст, так и изображения.
Что касается выпуска обновлённой модели Claude 3.5 Opus, представитель Anthropic заявил: «Все модели в семействе Claude 3 имеют своё индивидуальное применение для клиентов. Claude 3.5 Opus есть в нашей дорожной карте, и мы обязательно поделимся с вами подробностями, как только сможем».
Разработчики уже могут протестировать Computer Use через API Anthropic, Amazon Bedrock и платформу Vertex AI от Google Cloud.
Источник
При использовании материалов с сайта активная ссылка на него обязательна
Подписывайтесь на наш Телеграм-канал
Последние аномальные новости

Европу ждут катастрофы, что предсказали Ванга и Нострадамус

Загадка древних ритуалов и духовных практик

Избрание Трампа может привести к массовым заявлениям об НЛО

ИИ сможет предсказывать результаты научных исследований

Инопланетяне десятилетиями следили за ядерными базами

Исследователи нашли обломки Атлантиды

Как древние боги могли повлиять на цивилизацию майя

Когда молодые звёзды лишаются шанса обзавестись планетами

Колорадский каннибал, которому нравился сладкий вкус плоти

Люди, которые открывали порталы в другие измерения

Мы приближаемся к официальному признанию НЛО

Опубликует ли Трамп секреты НЛО

Откуда исходят загадочные быстрые радиовсплески

Охотник на чудовищ пережил близкую встречу

Палата представителей объявляет слушания по НЛО

Пилот сообщает о наблюдении НЛО в Висконсине

Пилоты рассказали о загадочных метках на радаре

По всему Массачусетсу происходят массовые наблюдения НЛО

Поддельные аккаунты в соцсетях распространяют конспирологию

Почему НЛО так одержимы базой ВВС Уайтмен

Правительство США располагает технологией уничтожения НЛО

Признаки активного вулканизма заметили на Макемаке

Пришельцы наблюдают за американскими ядерными базами

Пророк сделал предсказание и во всём ошибся

Серия странных явлений в Бразилии

Странный НЛО, снятый над Пекином

Уфологический фестиваль в округе Лакаванна

Фальшивые теракты - идеальная почва для конспирологов

Хакер обнаружил сведения о настоящей истории человечества

Что нового у инопланетян

Америка стоит на пороге фрагментации

Американцы были на Луне, но видео сняли в павильоне

Аномалии, движущуюся в вблизи туманности Ориона

Бигфут прошел перед охотничьей камерой в Индиане

ВМФ США публикует информационные документы об НЛО

Время для прорыва. Что предсказано России

Громкое объявление об НЛО неизбежно

Дональд Трамп может сделать громкое заявление об НЛО

Древняя инопланетная цивилизация жила на Марсе

Живой Нострадамус делает очередное предсказание

Загадка Большой голубой дыры - чуда Белиза

Как мистификации о летающих тарелках становятся вирусными

Как уфологи голосуют на выборах в США

Квантовый прорыв может сделать телепортацию реальностью

Китайские ученые создали настоящую Звезду смерти

Китайский истребитель-невидимка J-35A выходит из тени

Надежды найти самолет Амелии Эрхарт снова рухнули

Нанотранзисторы для мощной электроники будущего

Неравенство Пенроуза модифицировали для черных дыр

Определена самая загадочная песня в интернете

Посадка в сложном для навигации регионе Венеры

Похищение инопланетянами на Манхэттене

Почему на холодном Марсе были реки и озера

Президентство Трампа идеально для объявления об НЛО

Разработка устройств на базе жидкого света ускорилась

Расскажет ли Трамп правду об НЛО

Симпсоны не смогли предсказать переизбрание Трампа

Соединенные Штаты находятся на грани распада

Странная история о встрече с НЛО

Тревожные последствия выборов в США

Гигантский резервуар жидкой воды обнаружен на Марсе

Готов ли Нью-Йорк к инопланетному вторжению

Действительно ли инопланетяне шпионят за ядерным оружием

Десятки людей сообщили, что видели НЛО в Дулуте

Женщины могут испытывать спонтанные оргазмы

Загадка черного Тадж-Махала

Как Иисус обеспечил чудесный улов рыбы

Китай создает оружие Звезды Смерти

Ключ к расшифровке неразборчивых древних текстов

Королевская семья может знать правду об инопланетянах

Кризис планов ВВС США по господству в воздухе

Луис Элизондо усиливает личную охрану

Невада не переживет вторжение инопланетян

Обнаружен странный объект, летящий с невероятной скоростью

Обнаружили самую быстродвижущуюся экзопланетную систему

Первое сообщение об НЛО получено из Западной Вирджинии

Почерк может показать является ли человек серийным убийцей

Самая одержимая кукла в кошмарном Доме проклятий

Странное явление в небе Бирмингема

Странное явление, похожее на полет феи

Структура, устрашающе похожая на эпизод фильма Контакт

Таинственные криптиды и чудовищные существа

Таинственные огни в небе Лестера

Трамп может заставить чиновников обнародовать данные об НЛО

Удивительно гладкий протопланетный диск вокруг Веги

Утверждается, что король Чарльз пилотировал НЛО

Учебники оживают благодаря новому ИИ-инструменту

Ученые заинтересованы в раскрытии секретов НЛО

Фотография корабля-носителя была поддельной

Что случилось с Линдой Наполитано

Синтезаторы Casio. Сочетание инноваций и доступности

Археология меняет представление о древних цивилизациях

В Вирджинии появились на свет клонированные животные

В поисках темной материи появилась новая стратегия

Где именно на Марсе смогут зацвести деревья

Жертва похищения инопланетянами подала в суд на Netflix

Жуткие леса–призраки отравляют все, попадающее в них

Загадка ольмекских голов Мезоамерики

Звук смещения полюсов Земли

Инверсионные следы и воздействие на климат

Инопланетная конспирология в бывшем Советском Союзе

Инопланетный разум существует и взаимодействует с нами

Клуб 27 - это миф

Крошечные фрагменты астероида раскрывают его историю

Лицо 400-летней женщины-вампира

На Титане может существовать жизнь

НЛО посещали каждую крупную ракетно-ядерную базу

Океан, полный инопланетян, на спутнике Урана

Опасное время Скорпиона

Плазменные сущности могут быть внеземной жизнью

Предсказание Эйнштейна о безмассовых гравитонах

Программа поиска инопланетных технологий

Сатанинские лунные сутки и новолуние

Серия наблюдений НЛО в Миссури вызывает недоумение

Судьи посмеялись, когда мужчина заявил, что он оборотень

Темный волк замечен в черном небе

Топ самых важных пророчеств Ванги и Нострадамуса

У ЦРУ есть секретный способ выводить из строя корабли

Упущенный ключ к разгадке посмертной маски Тутанхамона

Черная дыра поглощает материю с невиданной скоростью

Черные дыры бросают вызов предположениям Керра

Астрофизик опроверг популярные мифы о НЛО

Безликие пришельцы похитили двух женщин в Лос-Анджелесе

Белый дом населен духами и призраками

В небе над Самарой засекли неопознанный летающий объект

В штате Орегон часто наблюдают НЛО

Древняя Земля имела богатую органикой атмосферу

Загадка облака, похожего на НЛО

Информатор признал, что НЛО был поддельный

Как меня однажды похитили инопланетяне

Компании Netflix грозит судебный иск из-за лжи об НЛО

Космические телескопы изучают жуткую пару галактик

Метеорит-убийца оказал Земле огромную услугу

Над Новой Зеландией появилось облако в форме НЛО

Первый контакт с инопланетянами в Карбондейле

Поиски разгадки тайны, стоящей за рождением Вселенной

Правительство Австралии скрывало информацию об НЛО

Предсказание орбит опасных комет по метеорным потокам

Путь для быстрой космической связи

Разоблачитель показал фото инопланетного корабля-носителя

Раскроют ли Трамп или Харрис правду о НЛО

Самолет ВМС США столкнулся с НЛО

Система Веги оказалась планетарной пустыней

Создают самую красочную космическую карту

Солнечное затмение запечатлели с Марса

Танец электронов в свечении взрывающихся нейтронных звезд

Топливо для кошмаров

Уникальное племя Зимбабве и их генетическое наследие

Холодный, пустынный ландшафт кратера Езеро на Марсе

Хэллоуин традиционно отмечается во многих странах

Ярославцев напугало НЛО над Дядьково

Розетки. Важные аспекты и современные технологии

В горных породах может скрываться темная материя

В нашей галактике может быть шесть техноцивилизаций

В Северной Ирландии растет паранормальная активность

Владелица ресторана замаскировалась под робота

Волосы ангела и паутина в небе

Доказали, что HD 28185 - не коричневый карлик, а планета

Затерянный город обнаружен в мексиканских джунглях

Инопланетяне готовят интервенцию на Землю

Информатор опубликовал фото инопланетного корабля

Информацию об НЛО необходимо обнародовать

Лазерное отслеживание космического мусора

Марс был пригоден для жизни гораздо раньше

Марсоход успешно продолжает исследования

Мой отец был убийцей Зодиак

На Туринской плащанице изображен не лик Иисуса

Необычное облако всегда появляется в одном и том же месте

Новый способ анализа мощных космических взрывов

Обнаружили одну из самых быстро вращающихся звезд

Под поверхностью Миранды может быть океан

Похищенная инопланетянами женщина подала в суд на Netflix

Призраки вымирают, потому что существуют всего 100 лет

Путешествие по американской дороге паранормальных явлений

Расследование деятельности инопланетян в Бразилии

Расшифровали эксперементальный 'внеземной' сигнал

Солнечный коронограф запустят на МКС

Стали известны самые жуткие места Великобритании

Тайна странных огней и НЛО в Рендлшемском лесу

Удалось заснять стаю НЛО вблизи базы ВВС США

Удивительная турбулентность в молекулярных облаках

Экзорцизм - оружие, которое демоны ненавидят

История роялей. Эволюция и развитие

Адский лес Тейт во Флориде

Безумный план по спасению человечества

В кофейне появляются таинственные следы

Подписка на новости
Наверх
Яндекс.Метрика