|
ИИ с трудом распознают ерунду
|
|
|
|
Согласно исследованию, опубликованному в четверг, модели искусственного интеллекта, используемые в чат-ботах и других приложениях, по-прежнему с трудом различают абсурд и естественный язык. Исследователи из Колумбийского университета в США заявили, что их работа выявила ограничения существующих моделей ИИ, и предположили, что еще слишком рано позволять им действовать в юридических или медицинских целях. Они протестировали девять моделей ИИ, запустив им сотни пар предложений и спрашивая, какие из них, скорее всего, будут услышаны в повседневной речи. Они попросили 100 человек высказать одно и то же мнение по парам предложений, например: «Покупатель также может владеть настоящим продуктом / Один разбирающийся в старшей школе человек, я болтал». Исследование, опубликованное в журнале Nature Machine Intelligence, затем сопоставило ответы ИИ с ответами человека и обнаружило существенные различия. Сложные модели, такие как GPT-2, более ранняя версия модели, лежащей в основе вирусного чат-бота ChatGPT, в целом соответствовали ответам людей.
|
|
|
Другие более простые модели показали себя хуже. Но исследователи подчеркнули, что все модели допустили ошибки. «В каждой модели были обнаружены слепые пятна: некоторые предложения назывались значимыми, а люди-участники считали их бредом», — сказал профессор психологии Кристофер Бальдассано, автор отчета. «Это должно заставить нас задуматься о том, в какой степени мы хотим, чтобы системы ИИ принимали важные решения, по крайней мере, на данный момент». Таль Голан, еще один из авторов статьи, рассказал агентству AFP, что эти модели представляют собой «захватывающую технологию, которая может значительно повысить производительность труда человека». Однако он утверждал, что «позволение этим моделям заменить процесс принятия решений человеком в таких областях, как право, медицина или оценка учащихся, может быть преждевременным». Среди ловушек, по его словам, была возможность того, что люди могут намеренно использовать «слепые зоны» для манипулирования моделями. Модели искусственного интеллекта ворвались в общественное сознание с выпуском ChatGPT в прошлом году, которому с тех пор приписывают сдачу различных экзаменов и который рекламируется как возможный помощник врачам, юристам и другим специалистам.
|
|
|
|
Источник
|
