|
По словам одного из ведущих технических руководителей, существует тревожная вероятность того, что искусственный интеллект пойдет «катастрофически неправильно» и уничтожит человечество. Дарио Амодей (Dario Amodei), генеральный директор технологической компании Anthropic, считает, что вероятность того, что ИИ приведет к концу света, может составлять около 25%. Он считает, что существует способ «неправильного использования» ИИ, который может привести к конфликту вместо того, чтобы помогать нам выбирать песни на домашних музыкальных устройствах или добавлять сельдерей в наши списки покупок. Выступая в подкасте The Logan Bartlett, Амодей сказал: «Думаю, я часто говорил, что мой шанс на то, что что-то пойдет действительно катастрофически не так в масштабах человеческой цивилизации, может составлять от 10 до 25%. «Когда вы объединяете это с тем, что что-то идет не так с самой моделью, с чем-то не так с людьми, организациями или национальными государствами, неправильно использующими модель или вызывающими конфликт, или каким-то образом, с которым общество не может с этим справиться.
|
|
«Это означает, что существует вероятность от 75 до 90%, что эта технология будет разработана и все пойдет хорошо». Амодей, который собирается присутствовать на саммите Риши Сунака по искусственному интеллекту в Блетчли-парке в следующем месяце, также считает, что искусственный интеллект в конечном итоге поможет вылечить рак. Сторонник искусственного интеллекта Андреа Миотти опасается, что существует вероятность того, что продукты крупных технологических компаний убьют нас всех. Участник кампании Control AI рассказал The Sun: «Те самые компании, занимающиеся искусственным интеллектом, поддерживаемые крупными технологиями, которые думают, что их продукты убьют вас всех с вероятностью 10–25 %, — это те же самые, кто командует, когда дело доходит до регулирования в AI Safety. Саммит. «Мы хотим видеть эффективное регулирование. Если генеральные директора добьются своего, мы все окажемся в меньшей безопасности».
|
