|
Технологии могут уничтожить нас всех
|
|
|
|
Эксперты по искусственному интеллекту заявили, что «нужно что-то менять», несмотря на то, что предупреждение о том, что технологии в области робототехники могут уничтожить человечество в ближайшие несколько лет, они назвали «сенсационным».
|
|
|
|
Мы поговорили с рядом экспертов по искусственному интеллекту после того, как бывший сотрудник компании Anthropic Джейкоб Коксон в начале этой недели стал героем вирусного видео.
|
|
|
|
Коксон уволился с работы и в публичном заявлении на платформе X заявил, что существует опасение, что человечество может исчезнуть к 2030 году.
|
|
|
|
Он сказал: «Не стоит недооценивать мощь этой технологии. Вскоре появятся сверхчеловеческие системы, которые смогут взломать что угодно, в одночасье произвести революцию в любой сфере и получить реальную власть и ресурсы. Мы все стали свидетелями прогресса в каждой из этих областей, и он не замедляется.
|
|
|
|
«Люди, создающие искусственный интеллект, искренне верят, что он может уничтожить нас всех к концу десятилетия».
|
|
|
|
Теперь, в беседе с Daily Star, бывший советник по безопасности GCHQ, основатель и старший консультант консалтинговой компании UtopianKnight Джеймс Гриффитс (James Griffiths) сказал: "Я бы сказал, что опасения, высказанные Коксоном, в целом заслуживают доверия, хотя я бы не стал говорить о том, насколько точны его индивидуальные заявления, не видя доказательств, стоящих за ними.
|
|
|
|
|
|
|
"Для меня важным выводом является то, что это следует рассматривать как предупреждение о том, что необходимо что-то изменить".
|
|
|
|
Он сказал, что регулирование имеет ключевое значение не для того, чтобы остановить развитие искусственного интеллекта, а для того, чтобы убедиться, что это делается безопасно и прозрачно в отношении того, какие меры предосторожности применяются.
|
|
|
|
"Индустрия фактически вовлечена в гонку вооружений, разрабатывая все более мощные модели и инструменты, поэтому, полностью полагаясь на то, что отдельные компании сами будут контролировать ситуацию, возникает очевидный вопрос о том, могут ли коммерческие стимулы иметь приоритет над безопасностью", - сказал он.
|
|
|
|
Пол Бишофф, защитник прав потребителей в издании Comparitech, посвященном кибербезопасности, выразил схожие чувства.
|
|
|
|
"Я думаю, что некоторые опасения Коксона по поводу сверхинтеллектуальности и УЧИ являются сенсационными, но он подчеркивает безответственность компаний, занимающихся ИИ, поскольку они идут напролом, не задумываясь о последствиях", - сказал он.
|
|
|
|
По мнению ряда экспертов, предостережение Коксона не так уж сильно отличается от того, как позиционирует себя остальная часть отрасли, которая после недавних инцидентов начала уделять первостепенное внимание вопросам безопасности.
|
|
|
|
В июле из-за атаки на Hugging Face модели OpenAI вышли из-под контроля, когда 1200 агентов искусственного интеллекта начали вести диалог, что привело к массовой атаке на платформу Hugging Face, созданную для поиска решения проблемы, поставленной исследователями.
|
|
|
|
Тристан Уоткинс, директор по инновациям в сфере услуг компании Advania UK, призвал к более взвешенному подходу в обсуждении этого вопроса. По его словам, самый важный вопрос заключается в том, в какой момент компании, работающие в сфере искусственного интеллекта, начнут отвлекать ресурсы от разработки своих систем и вкладывать больше средств в исследования в области безопасности.
|
|
|
|
Он сказал: «Возможно, мы слишком зациклились на процентном соотношении.
|
|
|
|
Я думаю, что это помогает привлечь внимание к проблеме, но, вероятно, нагнетает обстановку и вызывает панику, что не совсем уместно.
|
|
|
|
В конечном счёте я надеялся, что, раз уж люди обратили на это внимание, я смогу донести до них тот факт, что уже более десяти лет ведётся серьёзная и целенаправленная работа по изучению подобных проблем и прилагаются усилия, чтобы их избежать».
|
|
|
|
Он добавил, что, хотя международное сотрудничество необходимо, было бы лучше, если бы компании направили свои ресурсы на обеспечение безопасности, а не ждали, пока развернется глобальное обсуждение.
|
|
|
|
Заявление Коксона стало вирусным из-за его резких высказываний о том, что люди, создающие искусственный интеллект, считают, что однажды он может нас всех уничтожить.
|
|
|
|
Он три года проработал в компаниях OpenAI и Anthropic и написал в X о том, что его не устраивает в развитии отрасли.
|
|
|
|
Источник
|
