|
Существует ключ к обретению сознания
|
|
|
|
В отличие от человекоподобных роботов из «Бегущего по лезвию» и киберпанка, а также несмотря на паранойю бывшего премьер-министра Великобритании Бориса Джонсона по поводу того, что машины могут стать разумными и устроить масштабный захват Земли, есть причина, по которой современный искусственный интеллект, скорее всего, не обладает сознанием. У цифровых сущностей, чьи потребности полностью удовлетворены, нет причин развивать сознание в процессе эволюции.
|
|
|
|
Часто считается, что сознание возникло в результате развития более высокого интеллекта. Именно поэтому так распространён страх, что однажды искусственный интеллект проснётся, присвоит себе власть и будет управлять людьми, которые раньше управляли им. Исследователь Джефф Стибел считает, что это предположение в корне неверно. Стибел, автор таких книг, как Wired For Thought и Breakpoint (которые могут вызвать бессонницу, а могут и не вызвать, если речь идёт о будущем технологий), утверждает, что сознание возникло в результате совершенно иного эволюционного процесса, который начался миллиарды лет назад. Организмы развили когнитивные способности, чтобы моделировать зарождающуюся и нестабильную планету. Они развили сознание, чтобы выжить на ней.
|
|
|
|
«На непосредственном уровне когнитивные способности и сознание — это разные вещи», — говорится в исследовании Стибела, недавно опубликованном в журнале Frontiers in Neuroscience. «Задача когнитивных функций — правильно воспринимать мир, моделируя его, предсказывая его поведение, отслеживая градиенты и классифицируя сигналы. Сознание — это управление внутренними конфликтами в системе, на кону жизнеспособность которой».
|
|
|
|
|
|
|
Наряду с когнитивными функциями существует вторая способность, которую Стибел называет контролем: все, что делает организм, чтобы сохранить свою жизнеспособность. Контроль осуществляется на трех уровнях. Протоконтроль означает, что организм поддерживает свою целостность, проводя границу между «я» и «не-я», решая, что впускать в себя, а что нет. Метаконтроль разрешает противоречия между конкурирующими внутренними потребностями, например между голодом и усталостью, но только на локальном уровне, без участия всей системы. Урегулирующий контроль — это высшая форма контроля, которая разрешает конфликты во всех сферах одновременно и привязывает результат к самому организму.
|
|
|
|
Стибел утверждает, что только этот третий уровень, урегулирующий контроль, можно назвать сознанием. Протоконтроль и метаконтроль управляют конфликтами в бактериях и термостатах, которые не обладают внутренним самосознанием. На уровне урегулирующего контроля разрешение конфликта охватывает весь организм и связано с его дальнейшим существованием. Стибел также утверждает, что урегулирующий контроль не является причиной возникновения сознания и не предшествует ему. Напротив, урегулирующий контроль — это и есть сознание. По его словам, “ощущение - это реализация”.
|
|
|
|
Урок, который извлекает Штибель, заключается в том, что познание может становиться настолько сложным, насколько вам хочется, без контроля, который растет вместе с ним. Они необычайно хороши в том, чтобы правильно воспринимать окружающий мир, и не заинтересованы в результате. Например, не имея мозга или нервной системы, бактерии осуществляют первичное познание, следуя градиенту глюкозы. Отдельно они осуществляют первичный контроль, поддерживая мембрану, которая отличает их внутреннее пространство от всего остального. Таким образом, любое конкретное существо может быть компетентным и способным к выживанию только благодаря познанию — и то же различие между познанием и контролем применимо и к искусственному интеллекту.
|
|
|
|
Крупные языковые модели, такие как Gemini и ChatGPT (которые люди все еще могут обыгрывать в шахматы), могут преследовать только те цели, которые были поставлены перед ними людьми. Они не способны ставить перед собой собственные цели, поэтому действуют, основываясь на ценностях, которые мы создаем для них. Однако Штибел не считает, что это навсегда, или что то, что это инженерный продукт, лишает ИИ возможности осознавать. “Разработка не исключает права собственности — разработанная система может иметь собственные доли участия”, - пишет он, и “соответствующее давление не обязательно должно быть эволюционным по своему происхождению”. Другими словами, ИИ может обладать сознанием, но только у агентов, которые должны поддерживать себя независимо.
|
|
|
|
Стибел предлагает шесть прогнозов, которые помогут проверить его теорию. Сохранение постоянной сенсорной информации при одновременном изменении других переменных, таких как задержка или конфликт, покажет, стимулируют ли конкурирующие требования более осознанное взаимодействие. Намеренное нарушение сопоставимости, например, из-за нагрузки с двумя задачами, позволяет проверить, насколько сознательная вовлеченность увеличивается или уменьшается в зависимости от производительности. Если ИИ-агент еще не обучен этому, он вряд ли добьется успеха самостоятельно. Проверка того, переключаются ли внимание, кодирование памяти и двигательная активность одновременно или по отдельности, позволяет отличить динамическое сознание от простого параллельного механизма. Это позволяет перейти к следующему тесту, который включает в себя нарушение координации таких функций, как память и внимание, чтобы увидеть, выполняет ли сознание работу по их объединению. Также должны быть признаки самосознания, как, например, у некоторых головоногих моллюсков, у которых, возможно, нет централизованной нервной системы, но чье гибкое поведение говорит о том, что они осознают себя. В шестом и последнем тесте спрашивается, может ли искусственный интеллект развивать сознание под давлением или же он реагирует на это в соответствии с тем, как он был запрограммирован.
|
|
|
|
“Сознательность должна быть возможна, - теоретизировал Стибел, - но только у агентов, которые должны поддерживать себя и условия, от которых зависит их деятельность, работать в рамках реальных бюджетов ресурсов, использовать функциональную самомодель и действовать в замкнутом цикле, когда последствия изменяют будущую жизнеспособность”.
|
|
|
|
Борис Джонсон может спать спокойно. Не похоже, что его научно-фантастические кошмары в ближайшее время перейдут из области фантастики в реальность.
|
|
|
|
Источник
|
