|
Ученые создали ИИ-психопата
|
|
|
|
Ученые использовали изображения из «самых темных уголков Reddit» для создания первого в мире искусственного интеллекта-психопата. ИИ, названный «Норман» в честь персонажа Нормана Бейтса в оригинальном фильме Альфреда Хичкока о серийных убийцах «Психо», был «тренирован» на диете из подписей к изображениям от печально известной группы пользователей Reddit, которые обменивались изображениями смерти и увечий. В результате появился ИИ, которого психиатры диагностировали как психопата. После периода обучения «Норману» показывали случайные изображения чернильных пятен — стандартный тест Роршаха, используемый для выявления психического расстройства.
|
|
|
|
В то время как ИИ с нейтральным обучением интерпретировал случайные изображения как предметы повседневного обихода, такие как зонтики или свадебные торты, Норман видел только казни и автомобильные аварии. Ученые Массачусетского технологического института Пинар Янардаг, Мануэль Себриан и Ияд Рахван говорят, что их результаты показывают, что в слишком частых случаях предвзятости ИИ виноват не обязательно компьютер. «Виновником часто является не сам алгоритм, а необъективные данные, которые были введены в него», — пояснили они. По мере того, как ИИ все больше и больше контролирует нашу повседневную жизнь, возникает все больше вопросов о том, как эти системы обучаются. В августе этого года ученые экспериментально поручили роботам сканировать группы фотографий лиц людей на них, а затем выбирать ту, которая оказалась «преступной».
|
|
|
Система на самом деле не должна была давать вообще никакого результата, потому что у нее не было достаточно данных для продолжения, но в тревожном большинстве случаев машины выделяли лицо чернокожего человека. Исследование, проведенное учеными из Университета Джона Хопкинса и Технологического института Джорджии, показывает, как системы искусственного интеллекта могут быть легко виновны в расовых и других предубеждениях. И часто эти предубеждения могут стать частью технологии. Зак Стюарт Роджерс, профессор Университета штата Колорадо, сказал IOL: «При кодировании часто вы просто создаете новое программное обеспечение поверх старого программного обеспечения. «Итак, когда вы дойдете до того, что роботы будут делать больше… и они построены на основе ошибочных корней, вы, безусловно, можете увидеть, как мы сталкиваемся с проблемами».
|
|
|
|
Истории о мошеннических ИИ легко найти. Буквально в прошлом месяце Capitol Records объявили о дебюте FN Meka, синтетического рэпера, работающего на искусственном интеллекте. Система, созданная в 2019 году Энтони Мартини и Брэндоном Ле, быстро набрала более 10 миллионов подписчиков на TikTok. Исполнительный вице-президент Capitol по эмпирическому маркетингу и развитию бизнеса Райан Руден с гордостью предсказал, что виртуальный художник был «просто предварительным просмотром того, что должно произойти». Но через несколько недель компания была вынуждена объявить, что она «немедленно разорвала отношения с проектом FN Meka». В заявлении Capitol говорится, что они «приносят глубочайшие извинения чернокожему сообществу за нашу нечувствительность к подписанию этого проекта, не задавая достаточно вопросов о справедливости и творческом процессе, стоящем за ним». ИИ проникает во все уголки нашей жизни, нравится нам это или нет. Вопрос только в том, какой багаж он принесет, когда прибудет.
|
|
|
|
Источник
|
