|
Обладает ли ИИ скрытым сознанием
|
|
|
|
Что, если самый умный в мире чат-бот однажды действительно проснётся? Это может показаться научной фантастикой, но ведущий специалист в области изучения сознания утверждает, что нам срочно нужно задуматься о такой возможности.
|
|
|
|
По словам Меган Питерс, преподавателя вычислительной когнитивистики в Университетском колледже Лондона, в настоящее время у нас нет надёжного способа определить, обладает ли система искусственного интеллекта сознанием.
|
|
|
|
И если однажды она осознает свои мысли, перед человечеством встанет серьёзная моральная дилемма: стоит ли её отключать.
|
|
|
|
Профессор Питерс утверждает, что самая большая проблема заключается не в том, что учёные нашли доказательства наличия сознания у искусственного интеллекта, а в том, что у них до сих пор нет единого подхода к тому, как это проверить.
|
|
|
|
Этой теме будет посвящена её лекция на конференции New Scientist Live, которая пройдёт в этом месяце (10–12 октября).
|
|
|
|
«Нам нужно что-то более надёжное, чем интуиция, — сказала она в интервью Daily Mail.
|
|
|
|
|
|
|
— Нельзя просто искать признаки, индикаторы или маркеры сознания в искусственной системе, потому что мы не знаем, что это такое».
|
|
|
|
По словам профессора Питерс, сложность заключается в том, что сознание остаётся одной из величайших загадок науки, даже применительно к человеку.
|
|
|
|
Исследователи могут спросить человека, обладает ли он сознанием, и получить осмысленный ответ, но с системами искусственного интеллекта дело обстоит иначе.
|
|
|
|
«Если мы задаём вопрос системам искусственного интеллекта, то не можем в полной мере доверять их ответу», — пояснила она.
|
|
|
|
Этот вопрос становится всё более актуальным по мере того, как чат-боты становятся всё более совершенными, а компании, занимающиеся разработкой искусственного интеллекта, вкладывают значительные средства в исследования так называемого благополучия ИИ.
|
|
|
|
«Крупнейшие компании, занимающиеся разработкой искусственного интеллекта, тратят огромные деньги на изучение этого вопроса», — сказала профессор Питерс.
|
|
|
|
Она предупредила, что люди часто принимают беглость речи современных чат-ботов за признак подлинной осознанности, и добавила: «С этими агентами очень легко общаться, и кажется, что в них есть что-то живое».
|
|
|
|
Такое восприятие уже влияет на реальные дискуссии о правах, ответственности и автономности искусственного интеллекта, несмотря на отсутствие доказательств того, что современные системы обладают каким-либо субъективным опытом.
|
|
|
|
Профессор Питерс не считает, что современные модели искусственного интеллекта обладают сознанием, но это не значит, что этот вопрос можно игнорировать.
|
|
|
|
«Если искусственный интеллект обладает сознанием, а мы относимся к нему как к бессознательному, то это может привести к серьёзным моральным последствиям», — сказала она.
|
|
|
|
Одна из будущих проблем заключается в том, может ли удаление, переобучение или отключение сознательного ИИ быть эквивалентно причинению вреда разумному существу.
|
|
|
|
‘Просто отключать разумные объекты"… если это сродни их убийству, то это не кажется замечательным", - сказал профессор Питерс.
|
|
|
|
‘Мы не хотим подвергать пыткам существа, обладающие сознанием".
|
|
|
|
Эксперт предупредил, что риски могут быть в обоих направлениях.
|
|
|
|
По-настоящему сознательный ИИ потенциально может пострадать, если люди будут относиться к нему не более чем как к машине.
|
|
|
|
Но ошибочное предположение о том, что чат-бот обладает разумом, может также исказить государственную политику, повлиять на регулирование и побудить людей чрезмерно доверять системам, которые просто имитируют общение людей.
|
|
|
|
"Если мы ошибемся в обратном, это также приведет к очень серьезным последствиям", - сказала она.
|
|
|
|
Чтобы решить эту проблему, ее команда разрабатывает систему, которая позволит сравнить десятки или даже сотни потенциальных тестов сознания и определить, какие из них могут сработать не только у людей, но и у животных и искусственных систем.
|
|
|
|
Профессор Питерс считает, что вместо того, чтобы сразу переходить от людей к машинам, ученым следует постепенно тестировать свои идеи на различных видах животных с разным мозгом и поведением, прежде чем применять их к искусственному интеллекту.
|
|
|
|
Пока что она призывает проявлять осторожность всякий раз, когда появляются смелые заявления о том, что чат-бот обрел самосознание.
|
|
|
|
«Если вы видите, что кто-то утверждает, будто он обнаружил или не обнаружил искусственное сознание, нужно пойти и спросить, почему он так считает», — сказала она.
|
|
|
|
Источник
|
