|
Развитие ИИ-генерации фото несет риски для авторов работ
|
|
|
|
Развитие программ, выявляющих сгенерированные с помощью технологий искусственного интеллекта (ИИ) изображения, может привести к росту случаев ложного срабатывания, когда авторы работ с минимальной ретушью будут обвиняться в использовании нейросетей. Такое мнение ТАСС в понедельник высказал заместитель руководителя Центра компетенций Национальной технологической инициативы (НТИ) по технологиям беспроводной связи и интернета вещей на базе Сколковского института науки и технологий (Сколтеха) Александр Сиволобов. Основу таких программ-детекторов, как правило, составляют нейросети, обученные на сгенерированных другими нейросетями изображениях.
|
|
|
|
"Современные системы выявления изображений, созданных ИИ, имеют точность порядка 70%, но по мере развития технологий возникает проблема ложных срабатываний. Это может привести к ошибкам первого рода, когда обычная фотография с минимальной ретушью будет опознана как сгенерированная. Это серьезная проблема, потому что обвинить кого-то легко, но опровергнуть обвинения может быть непросто", - считает Сиволобов. Эксперт при этом назвал "раздутыми" страхи о возникновении прямой конкуренции между работами, созданными человеком и ИИ. Ученый считает нейросети еще одним инструментом, помогающим передать замысел художника, напомнив, что ретушь изображений стала повсеместным трендом. "То, что ИИ-фотографии участвуют в конкурсах, говорит о том, что "реализм" в этом жанре искусства - это художественный прием, который доступен каждому", - отметил он.
|
|
|
Ранее в марте стало известно о том, что фотограф из Берлина Борис Эльдагсен одержал победу в конкурсе Sony World Photography Award. На представленном им черно-белом "снимке" изображены две женщины разных поколений. Позднее он объявил об отказе от награды, так как фото стало результатом применения технологий искусственного интеллекта. Он объяснил участие в конкурсе желанием привлечь внимание общественности и заявил о том, что созданные ИИ изображения не должны конкурировать с фотографиями.
|
|
|
|
Признаки ИИ-генерации
|
|
|
|
Как пояснил ТАСС эксперт Национальной технологической инициативы (НТИ) по искусственному интеллекту и телекоммуникациям Алексей Рабин, сегодня не существует метода, позволяющего со стопроцентной точностью выявить сгенерированное нейросетями изображение. Однако есть набор характерных признаков таких работ, который можно брать за основу при анализе.
|
|
|
|
"Это однотипный фон и крупный план на нескольких снимках, близкие к идеальным [лица] или, наоборот, неестественная симметрия лица, искажения на волосах и мочках ушей. Также обращайте внимание на качество прорисовки рук и пальцев, ведь пальцы - одни из наиболее сложных элементов для [генерации] изображения", - посоветовал эксперт. Он также указал на часто встречающиеся "мутации" у героев таких изображений, которые видны при тщательном рассмотрении. К примеру, у человека на "искусственном" фото может быть чрезмерное количество зубов.
|
|
|
|
Большие языковые модели
|
|
|
|
Чат-бот ChatGPT от компании OpenAI был запущен в конце ноября 2022 года. Сервис взаимодействует с пользователем в диалоговом режиме. Искусственный интеллект на основе языковой модели GPT-3.5 может отвечать на дополнительные вопросы, признавать свои ошибки, оспаривать неверные предпосылки и отклонять неуместные запросы. В середине марта компания представила следующую модель - GPT-4. Возможности сервиса привлекли широкое общественное внимание, в том числе в России.
|
|
|
|
В марте более тысячи экспертов в области искусственного интеллекта, в том числе Илон Маск, опубликовали открытое письмо, в котором призвали ввести мораторий на обучение систем мощнее GPT-4 минимум на полгода в связи с тем, что неконтролируемый процесс в этой сфере может представлять угрозу для человечества. Позже в апреле Маск высказался за государственное регулирование этой области, а также сообщил о планах по созданию чат-бота TruthGPT - "максимально ищущий правду ИИ, который пытается понять природу Вселенной".
|
|
|
|
"Сбер" в конце апреля выпустил собственную версию мультимодальной нейросети GigaChat. Она может решать множество интеллектуальных задач: поддерживать беседу, писать тексты, отвечать на фактологические вопросы. Включение в ансамбль модели Kandinsky 2.1 дает модели навык создания изображений.
|
|
|
|
Источник
|
