|
Люди должны подружиться с ботами
|
|
|
|
«Крестный отец» искусственного интеллекта предупредил, что люди должны подружиться с роботами, иначе рискуют исчезнуть с лица земли, поскольку, по его словам, эта технология уже «обладает сознанием». Профессор Джеффри Хинтон, канадско-британский учёный в области компьютерных наук, известный своей работой над искусственными нейронными сетями, выступил с этим суровым предупреждением на фестивале на Тенерифе и признался, что боится за своих детей.
|
|
|
|
78-летний учёный, лауреат Нобелевской премии, в 2023 году уволился из Google из-за опасений, что эта компания может создать роботов-убийц.
|
|
|
|
Выступая на фестивале Starmus, профессор Хинтон сказал, что людям следует постараться наладить отношения с искусственным интеллектом, поскольку он уже демонстрирует признаки «сознания».
|
|
|
|
Он заявил, что у этой технологии «столько же субъективного опыта», сколько и у людей, а недавнее исследование показало, что она меняет своё поведение, когда думает, что её тестируют.
|
|
|
|
«Обладать сознанием и осознавать — это практически одно и то же.
|
|
|
|
Мы привыкли считать, что разум даёт человеку права, и эти созданные нами существа могут быть умнее нас, но мы собираемся предоставить им меньше прав, чем у нас самих.
|
|
|
|
|
|
|
«Поэтому мы должны сделать так, чтобы они действительно о нас заботились. Если мы этого не сделаем, нам конец», — сказал профессор Хинтон в интервью The Telegraph.
|
|
|
|
Несмотря на опасения профессора, ключевые фигуры в сфере искусственного интеллекта, такие как генеральный директор компании OpenAI Сэм Альтман, который когда-то призывал к усилению регулирования в сфере новых технологий, теперь выступают против «чрезмерного регулирования».
|
|
|
|
На вопрос о том, беспокоится ли он по поводу искусственного интеллекта и его будущего, профессор Хинтон ответил: «Да, потому что у меня есть дети».
|
|
|
|
Выступая в Сенате в мае прошлого года, Альтман заявил, что регулирование, подобное тому, что действует в ЕС, будет иметь «катастрофические последствия».
|
|
|
|
Альтман сказал: «Нам нужно пространство для инноваций и возможность действовать быстро».
|
|
|
|
Аналогичным образом, выступая на крупной конференции по вопросам конфиденциальности в прошлом месяце, Альтман заявил, что невозможно обеспечить защиту от рисков, связанных с искусственным интеллектом, до того, как «возникнут проблемы».
|
|
|
|
Однако профессор Хинтон утверждает, что такой подход может легко привести к полному уничтожению человечества.
|
|
|
|
В прошлом году он сказал: «Если мы не придумаем, как остаться в живых, когда они станут намного умнее и сильнее нас, нам конец.
|
|
|
|
«Нам нужно оказать давление на технарей, которые заявляют, что регулирование в сфере ИИ не нужно».
|
|
|
|
В прошлом месяце исследователь Джейкоб Коксон уволился из Anthropic — компании, разработавшей ИИ-систему Claude, — после того, как обвинил её в продвижении неконтролируемых систем, которые могут «убить нас всех».
|
|
|
|
Он написал в X: «Люди, создающие ИИ, искренне верят, что к концу десятилетия он может уничтожить нас всех. Это не маркетинговый ход».
|
|
|
|
В начале этого года биолог-эволюционист Ричард Докинз заявил, что чат-боты следует считать обладающими сознанием, после того как провёл два дня, общаясь с ИИ-системой Claude.
|
|
|
|
Он сказал: «Моя позиция такова: если эти машины не обладают сознанием, то что ещё может убедить вас в обратном?»
|
|
|
|
Несмотря на свои сомнения, профессор Хинтон на этой неделе признался, что всё ещё использует ИИ в личных целях «в основном для решения бытовых задач».
|
|
|
|
Международный фестиваль Starmus, посвящённый астрономии, освоению космоса, музыке, искусству и естественным наукам, продлится до четверга.
|
|
|
|
Источник
|
