|
Сомнительный контракт Пентагона и OpenAI
|
|
|
|
Генеральный директор OpenAI Сэм Альтман заявил в понедельник, что компании “не следовало торопиться” с заключением недавней сделки с Министерством обороны США, и изложил изменения в соглашении. Альтман поделился тем, что он назвал перепостом внутренней служебной записки на X, заявив, что компания внесет изменения в контракт, чтобы включить новые формулировки в отношении своих принципов по таким темам, как слежка.
|
|
|
|
Это включало формулировку, разъясняющую, что “система искусственного интеллекта не должна намеренно использоваться для внутренней слежки за лицами и гражданами США”.
|
|
|
|
В памятке добавлялось, что “Министерство понимает необходимость запрета преднамеренного отслеживания, слежки или контроля за лицами или гражданами США, в том числе путем приобретения или использования приобретенной на коммерческой основе личной или идентифицирующей информации”.
|
|
|
|
Изменения произошли после того, как производитель ChatGPT объявил о заключении нового соглашения с Министерством обороны в пятницу, всего через несколько часов после того, как президент США Дональд Трамп приказал федеральным агентствам прекратить использование инструментов конкурирующей ИИ-компании Anthropic, и за несколько часов до того, как Вашингтон нанесет удары по Ирану.
|
|
|
|
По словам Альтмана, Министерство обороны также подтвердило, что инструменты OpenAI не будут использоваться разведывательными службами, такими как АНБ.
|
|
|
|
|
|
|
“Есть много вещей, к которым технология просто не готова, и во многих областях мы еще не понимаем компромиссов, необходимых для обеспечения безопасности”, - сказал Альтман, добавив, что компания будет работать с Пентагоном над техническими гарантиями.
|
|
|
|
Генеральный директор также признал, что допустил ошибку и “не должен был торопиться” с заключением сделки в пятницу.
|
|
|
|
“Мы искренне пытались снизить напряженность и избежать гораздо худшего исхода, но я думаю, что это выглядело просто оппортунистическим и небрежным”, - сказал он в своем посте.
|
|
|
|
Это признание последовало после публичной вражды между Anthropic и Вашингтоном по поводу гарантий для ее систем искусственного интеллекта Claude, которая закончилась без достижения соглашения. Министр обороны Пит Хегсет заявил в пятницу, что компания будет признана угрозой для цепочки поставок.
|
|
|
|
После заключения первоначальной сделки в прошлом году Anthropic стала первой лабораторией искусственного интеллекта, которая внедрила свои модели в засекреченную сеть Министерства обороны.
|
|
|
|
Позже компания потребовала гарантий того, что ее инструменты не будут использоваться для таких целей, как внутреннее наблюдение в США, или для эксплуатации и разработки автономного оружия без контроля человека.
|
|
|
|
Спор начался после того, как выяснилось, что Claude от Anthropic использовался американскими военными в ходе рейда по захвату президента Венесуэлы Николаса Мадуро в январе, хотя компания публично не возражала против такого варианта использования.
|
|
|
|
Сделка OpenAI с Пентагоном была заключена сразу после того, как переговоры между Anthropic и Министерством обороны сорвались, хотя Альтман сообщил сотрудникам в служебной записке в четверг, что OpenAI разделяет те же “красные линии”, что и Anthropic. Компания также сообщила в пятницу в своем сообщении, что Министерство обороны согласилось с ограничениями компании.
|
|
|
|
Остается неясным, почему Министерство обороны согласилось использовать OpenAI, а не Anthropic, хотя правительственные чиновники в течение нескольких месяцев критиковали Anthropic за то, что она якобы чрезмерно заботилась о безопасности искусственного интеллекта.
|
|
|
|
Сроки заключения сделки OpenAI с Министерством обороны вызвали негативную реакцию в Интернете: многие пользователи, как сообщается, отказались от ChatGPT для Claude в магазинах приложений.
|
|
|
|
В своем посте Альтман продолжил обсуждение этого противоречия, сказав: “В ходе моих бесед на выходных я повторил, что Anthropic не следует относить к категории [рисков для цепочки поставок], и что мы надеемся, что [Министерство обороны] предложит им те же условия, на которые мы согласились”.
|
|
|
|
Компания Anthropic была основана в 2021 году группой бывших сотрудников и исследователей OpenAI, которые покинули компанию из-за разногласий по поводу ее руководства. Компания позиционирует себя как альтернативу, ориентированную прежде всего на безопасность.
|
|
|
|
Источник
|
