|
Новый ИИ Цукерберга слишком опасен, чтобы его обнародовать
|
|
|
|
В пятницу Meta похвасталась тем, что создала «самый универсальный ИИ для генерации речи» из существующих. Но он добавил, что компания не будет публиковать свою модель ИИ из-за серьезных опасений по поводу «потенциальных рисков неправильного использования» передовой технологии. В последние месяцы мошенники научились использовать сгенерированную ИИ речь для совершения жутких и шокирующих преступлений, включая апрельскую попытку инсценировать похищение девочки-подростка в Аризоне, терроризируя обезумевшую мать девочки реалистичными призывами, сгенерированными ИИ. Но Meta предложила множество более оптимистичных вариантов использования в своем пресс-релизе, заявив, что Voicebox можно использовать, чтобы помочь людям с нарушениями зрения слышать сообщения от своих друзей и близких или позволить носителям языка воспроизводить переводы своих слов. своим голосом, но на чужом языке. На данный момент компания заявила, что ее модель ИИ способна говорить на шести языках: английском, французском, испанском, немецком, польском и португальском.
|
|
|
Meta также предложила еще несколько бизнес-ориентированных вариантов использования этой технологии, в том числе развертывание Voicebox в качестве средства для создателей аудио, чтобы упростить редактирование нежелательных фоновых шумов или ошибок в их аудио- или видеодорожках. Также предполагалось, что Voicebox можно использовать для создания более комфортных, натуралистичных голосов для виртуальных помощников и более реалистично звучащих персонажей в видеоиграх. Но все эти смелые новые возможности еще не будут доступны разработчикам, которые надеются поиграть в песочнице Meta Voicebox, говорится в пресс-релизе компании. «Существует много интересных вариантов использования моделей генеративной речи, — говорится в сообщении компании, — но из-за потенциальных рисков неправильного использования мы в настоящее время не публикуем модель или код Voicebox». «Хотя мы считаем, что важно быть открытыми с сообществом ИИ и делиться нашими исследованиями, чтобы продвигать современное состояние ИИ, — добавила фирма, — также необходимо найти правильный баланс между открытостью и ответственностью».
|
|
|
|
Исследователи ИИ глубокого обучения Meta отметили в своем посте, посвященном Voicebox, что их система использует метод под названием Flow Matching, который показал лучшие результаты, чем модели распространения, используемые современными системами, такими как VALL-E и Zero-Shot Text. -к речи. Они сказали, что Voicebox воспроизводил искусственный звук, который был более разборчивым, показывая более низкий уровень ошибок в словах 1,9 процента по сравнению с 5,9 процентами их конкурента. Он также имеет более высокий коэффициент сходства звука (0,580 против 0,681), при этом, согласно Meta, он почти в 20 раз быстрее. При переводе с разных языков Voicebox превзошел хорошо зарекомендовавший себя многоязычный ИИ для преобразования текста в речь YourTTS, снизив средний уровень ошибок в словах с 10,9 до 5,2 процента и увеличив коэффициент схожести звука с 0,335 до 0,481. Объявление было сделано чуть более чем через месяц после того, как Белый дом Байдена осудил Цукерберга, который прямо заявил журналистам, что представители Meta не были приглашены на саммит в Западном крыле, который был предназначен исключительно для фирм, находящихся «в авангарде инноваций в области ИИ».
|
|
|
|
Источник
|
