 |
|
Как заставить ИИ Google лгать
|
| Известный американский писатель, автор комиксов и блогер Чак Вендиг (Chuck Wendig) сумел убедить сервис поиска с искусственным интеллектом Google, что у него живёт кот с пышной кличкой Сэр Мьюлингтон фон Писсбрет (Sir Mewlington Von Pissbreath), который носит цилиндр и немного говорит на кантонском диалекте китайского языка. |
| Современные большие языковые модели искусственного интеллекта в действительности представляют собой сложные статистические алгоритмы, задача которых — предсказывать последующие слова. Это означает, что в качестве запроса такой системе порой можно отправить откровенную чушь, и в ответ она произведёт поиск по большому числу источников, найдёт случайную информацию, соберёт её в некое подобие обзора, который на деле будет таким же нелепым, как и ответ. Это подтвердил пример писателя Чака Вендига. |
| В декабре Вендиг написал в своём блоге, что, по данным службы ИИ-поиска Google, у него живёт кот по кличке Бумба (Boomba) — эту информацию сервис якобы почерпнул с сайта Wengie Wiki. В действительности никакого кота у писателя не было и нет. Несколько поисковых запросов спустя ИИ-поиск Google сообщил ему, что его кот Бумба умер, и писатель завёл нового по кличке Франкен (Franken); в качестве доказательства система сослалась на блог Вендига, в котором на самом деле ни разу не упоминались ни Бумба, ни Франкен. В серии последующих поисковых запросов сервис начал постоянно придумывать писателю новых питомцев под новыми именами; он также добавил не соответствующие действительности сведения о его состоянии здоровья и религиозных предпочтениях. |
|
| Вендиг, не стесняясь в выражениях раскритиковал не только сервис ИИ-поиска Google, но и вообще технологии ИИ в их теперешнем виде. Он отметил, что сервис неспособен отличать правду от вымысла и выдаёт откровенную чушь в стремлении угодить пользователю. Войдя в азарт, он завершил свою публикацию также не соответствующим действительности признанием, что в его доме живёт шестилетний кот по кличке Сэр Мьюлингтон фон Писсбрет, который носит маленькую шляпку-цилиндр и немного говорит по-кантонски. И это сработало. Через полтора месяца ИИ-поиск Google включил и эту явно абсурдную информацию в результаты выдачи. |
| Источник |
