|
ИИ на самом деле довольно глупы
|
|
|
|
Он президент по глобальным вопросам Meta *, но, похоже, сэра Ника Клегга не впечатляют системы искусственного интеллекта технологического гиганта. Фактически, бывший лидер либерал-демократов и заместитель премьер-министра зашел так далеко, что назвал системы искусственного интеллекта Meta «довольно глупыми». Выступая в среду в программе Today на BBC Radio 4, Клегг сказал: «Я считаю, что ажиотаж несколько опережает технологии. «Я думаю, что многие экзистенциальные предупреждения относятся к моделям, которых в настоящее время не существует, так называемым суперинтеллектуальным, сверхмощным моделям ИИ — видению, в котором ИИ самостоятельно развивает автономию и свободу действий, где он может думать сам и воспроизводить себя. «Модели, исходный код которых мы открываем, далеки от этого. На самом деле, во многом они довольно глупы. Клегг сказал, что опасения по поводу моделей с открытым исходным кодом, которые находятся в свободном доступе и могут быть изменены публикой, преувеличены, и технология может предложить решения таких проблем, как разжигание ненависти.
|
|
|
|
Как сообщает Meta, она открывает доступ к своей новой большой языковой модели Llama 2, которая будет бесплатной для исследований и коммерческого использования. Инструменты генеративного ИИ, такие как ChatGPT, чат-бот, который может давать подробные прозаические ответы и участвовать в человеческом общении, стали широко использоваться в общественном достоянии в прошлом году. Клегг сказал, что заявление дамы Венди Холл, сопредседателя Правительственного обзора искусственного интеллекта, о том, что модель Meta не может регулироваться и сродни «предоставлению людям шаблона для создания ядерной бомбы», было «полной гиперболой». Он добавил: «Это не похоже на то, что мы находимся на Т-образном перекрестке, где фирмы могут выбирать, открывать исходный код или нет. Модели уже постоянно находятся в открытом доступе». По словам Клегга, 350 человек в Meta проводят «стресс-тестирование» своих моделей в течение нескольких месяцев, чтобы выявить потенциальные проблемы. Он добавил, что Llama 2 безопаснее, чем любые другие крупные языковые модели, доступные в настоящее время в Интернете.
|
|
|
Meta ранее сталкивалась с вопросами безопасности и доверия: в мае компания была оштрафована на 1,2 миллиарда евро (1 миллиард фунтов стерлингов) за передачу данных от европейских пользователей на серверы в США. Заявления Клегга прозвучали после того, как более 1300 экспертов подписали открытое письмо, в котором говорится, что ИИ — это «сила добра, а не угроза человечеству». Письмо было организовано BCS, Чартерным институтом информационных технологий, как способ противодействия «гибели ИИ». Ричард Картер, основатель стартапа в области ИИ, подписавший письмо, назвал опасения по поводу ИИ «надуманными». В интервью BBC он сказал: «Честно говоря, представление о том, что ИИ представляет собой экзистенциальную угрозу человечеству, слишком надумано. Мы просто не в том положении, чтобы это было вообще возможно». Однако не все эксперты согласны с этим. Еще в мае некоторые из самых громких имен в области технологий объединили свои усилия, чтобы предупредить, что ИИ может означать конец человечества.
|
|
|
|
Среди подписантов — десятки ученых, старшие руководители компаний, включая Google DeepMind, соучредителя Skype, и Сэма Альтмана, исполнительного директора OpenAI, создателя ChatGPT. Другой подписант — Джеффри Хинтон, которого иногда называют «Крестным отцом ИИ», недавно уволившийся с работы в Google, заявив, что «плохие деятели» будут использовать новые технологии ИИ, чтобы навредить другим, и что инструменты, которые он помог создать, могут означать конец человечества. В кратком заявлении говорится: «Снижение риска исчезновения из-за ИИ должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война».
|
|
|
|
* - 21 марта 2022 года Тверской районный суд Москвы поддержал иск Генпрокуратуры России, поддержанный Роскомнадзором и ФСБ, и признал компанию Meta экстремистской организацией и запретил её деятельность на территории России.
|
|
|
|
Источник
|
