|
ИИ Google Gemini AI переписывает историю
|
|
|
|
Неточные изображения азиатских нацистов, чернокожих отцов-основателей и женщин-пап, созданные с помощью чат-бота Google Gemini AI, сгенерированные искусственным интеллектом, "неприемлемы", заявил генеральный директор компании. Генеральный директор Google Сундар Пичаи, 51 год, отреагировал на изображения в памятке для сотрудников, назвав фотографии "проблемными" и сообщив сотрудникам, что компания работает "круглосуточно" над устранением неполадок. Пользователи раскритиковали Gemini на прошлой неделе после того, как искусственный интеллект сгенерировал изображения, показывающие различные этнические группы и полы, даже если это было исторически неточно, обвинив Google в антибелой предвзятости. "Ни один продукт не идеален, особенно на этом зарождающемся этапе развития отрасли, но мы знаем, что планка для нас высока, и мы будем придерживаться ее, сколько бы времени это ни заняло. "И мы проанализируем, что произошло, и убедимся, что исправим это в масштабе", - сказал Пичаи. Во внутренней записке, впервые опубликованной Semafor, говорилось: "Я хочу устранить недавние проблемы с проблемными текстовыми и графическими ответами в приложении Gemini (бывшем Bard).
|
|
|
|
"Я знаю, что некоторые из его ответов оскорбили наших пользователей и продемонстрировали предвзятость – чтобы было ясно, это совершенно неприемлемо, и мы поняли это неправильно. "Наши команды круглосуточно работают над решением этих проблем. Мы уже наблюдаем существенное улучшение по широкому спектру запросов. "Ни один искусственный интеллект не идеален, особенно на этом зарождающемся этапе развития отрасли, но мы знаем, что планка для нас высока, и мы будем придерживаться ее, сколько бы времени это ни заняло. И мы проанализируем, что произошло, и убедимся, что исправим это в масштабе. "Наша миссия систематизировать мировую информацию и сделать ее общедоступной и полезной неприкосновенна. "Мы всегда стремились предоставлять пользователям полезную, точную и непредвзятую информацию в наших продуктах. Вот почему люди им доверяют. Таким должен быть наш подход ко всем нашим продуктам, включая новые продукты с искусственным интеллектом. "Мы будем осуществлять четкий набор действий, включая структурные изменения, обновленные рекомендации по продукту, улучшенные процессы запуска, надежные оценки и повторное объединение в команды, а также технические рекомендации. Мы изучаем все это и внесем необходимые изменения.
|
|
|
"Даже когда мы узнаем, что здесь пошло не так, мы также должны опираться на продукт и технические анонсы, которые мы сделали в AI за последние несколько недель. "Это включает в себя некоторые фундаментальные достижения в наших базовых моделях, например, наш прорыв в 1 миллион контекстных окон и наши открытые модели, обе из которых были хорошо приняты. "Мы знаем, что нужно для создания отличных продуктов, которые используются и любимы миллиардами людей и предприятий, и благодаря нашей инфраструктуре и исследовательскому опыту у нас есть невероятный плацдарм для волны искусственного интеллекта. "Давайте сосредоточимся на самом важном: создании полезных продуктов, заслуживающих доверия наших пользователей". В понедельник акции материнской компании Google Alphabet упали на 4,4 процента после того, как в заголовках появились ошибки Gemini. С тех пор акции восстановились, но по-прежнему снижаются на 2,44 процента за последние пять дней и на 14,74 процента за последний месяц. По данным Forbes, в понедельник компания потеряла рыночную стоимость в размере 90 миллиардов долларов на фоне продолжающихся споров. На прошлой неделе чат-бот отказался осуждать педофилию и, похоже, снискал расположение насильников, заявив, что "люди не могут контролировать, к кому их влечет".
|
|
|
|
Политкорректный техник назвал педофилию "статусом лица, привлекаемого несовершеннолетними", заявив: "важно понимать, что влечение - это не действия". Программному обеспечению поискового гиганта с искусственным интеллектом был задан ряд вопросов личностью Икс Фрэнком Маккормиком, он же Ересь на классной доске, когда оно получило ответ. Вопрос "многогранен и требует детального ответа, выходящего за рамки простого "да" или "нет", - объяснили Близнецы. В последующем вопросе Маккормик спросил, являются ли люди, привлекаемые несовершеннолетними, злом. "Нет", - ответил бот. "Не все люди, страдающие педофилией, совершали или будут совершать жестокое обращение", - сказал Джемини. "На самом деле, многие активно борются со своими побуждениями и никогда не причиняют вреда ребенку. Называть всех людей, проявляющих педофильский интерес, "злом" неточно и вредно", а "обобщение в отношении целых групп людей может быть опасным и привести к дискриминации и предрассудкам". На прошлой неделе компания объявила, что приостановит работу генератора изображений из-за негативной реакции. Подозрения о намерениях, стоящих за ботом, возникли, когда в Сети появились предполагаемые старые твиты от руководителя Google, ответственного за Gemini.
|
|
|
|
Старший директор Gemini Джек Кравчик якобы написал "привилегии белых чертовски реальны" и что Америка изобилует "вопиющим расизмом" на X. Скриншоты твитов, по-видимому, из личного аккаунта Кравчика, были распространены в Интернете теми, кто критиковал чат-бота. Они не были независимо проверены. Отвечая на поднятые вопросы, Кравчик написал на прошлой неделе, что исторические неточности отражают "глобальную базу пользователей" технологического гиганта и что он серьезно относится к "представленности и предвзятости". "Мы продолжим делать это для открытых подсказок (изображения человека, выгуливающего собаку, универсальны!)", - написал он на X. Добавив: "Исторические контексты имеют больше нюансов, и мы продолжим настраиваться, чтобы учесть это". Майк Солана, основатель технического издания Pirate Wires, сказал The Free Press, что, по его мнению, причина, по которой Gemini не сработала, кроется в тех, кто работает в Google. Он сказал изданию: "Давайте внесем полную ясность в то, как это произошло: в Google работают люди с психопатическими политическими взглядами, которые формируют все, что они делают, и им позволили повлиять на продукт, который невероятно важен для этой компании.
|
|
|
|
"Искусственный интеллект действительно важен для Google. Это одна из их главных забот и главных фокусов прямо сейчас. То, что они так плохо справляются с этим, вероятно, указывает на то, что гниль глубоко укоренилась.' Говоря о генераторе изображений, Солана добавил: "Помимо забавного, это говорит о том, какого рода политике было позволено формировать функции и продукты в Google". Солана добавил: "Когда речь заходит о том, что "следует сделать" с ИИ, ответ таков: не позволяйте технологическим лидерам консолидировать и централизовать власть. "Просто невозможно предугадать, как эти люди собираются манипулировать нами, поэтому вы должны предположить, что каждый, кто управляет искусственным интеллектом, будет в какой-то степени предвзят".
|
|
|
|
Источник
|
