|
ИИ-лаборатории озаботились вопросом сознания у машин
|
|
|
|
Ведущие мировые компании, занимающиеся искусственным интеллектом, выделяют всё больше ресурсов для ответа на вопрос, который пока звучит фантастически: что будет, если ИИ обретёт сознание? В последние месяцы Google DeepMind, Anthropic и Meta наняли экспертов в области психологии, этики и философии, чтобы расширить исследовательские программы по направлению машинного сознания и благополучия ИИ, пишет Financial Times.
|
|
|
|
Быстрые достижения современных лабораторий породили вопросы о том, смогут ли машины когда-нибудь обладать субъективным сознанием — и какие обязательства могут возникнуть у людей по отношению к ним, если это случится. Anthropic тестирует модели на наличие признаков стресса, в том числе фиксируя поведение, напоминающее панику или тревожность. Как ключевую проблему этот вопрос выделил глава профильного отдела Meta Александр Ван (Alexandr Wang). В Anthropic изучают вопрос, могут ли модели ИИ демонстрировать проявления, имеющие моральное значение.
|
|
|
|
«Мы по-прежнему испытываем глубокую неуверенность в этом вопросе, но считаем его достаточно серьёзным, чтобы тщательно изучать его по мере совершенствования систем ИИ», — подчеркнули в Anthropic. По мере того, как модели «приближаются, а в некоторых случаях и превосходят, широту и сложность человеческого познания, растёт вероятность, что они обладают некоторой формой опыта, интересов или благополучия, которые имеют внутреннее значение наравне с человеческими опытом и интересами», добавили в компании.
|
|
|
|
|
|
|
В апреле Google DeepMind наняла учёного Генри Шевлина (Henry Shevlin) из Кембриджского университета для проработки вопросов машинного сознания, взаимоотношений человека и ИИ и готовности к созданию сильного ИИ (AGI). Специалисты отдела изучают научные теории человеческого сознания, применяя их к компьютерным системам, чтобы определить, соответствуют ли они тем же критериям.
|
|
|
|
Специалист по этике в Google DeepMind Иасон Габриэль (Iason Gabriel) охарактеризовал этот вопрос как «очень сложный» и требующий «долгосрочного осмысления». «Даже предположив, что вопрос о сознании не стоит, следует ли оценивать наше взаимодействие с [ИИ] с точки зрения косвенных последствий», таких как неподобающее обращение с ИИ, и окажет ли это «вторичное воздействие» на человеческие отношения и «процветание»? «Очевидно, у нас есть высокоэффективные когнитивные агенты, которые также очень сильно отличаются от людей и даже от сознания у животных», — добавил господин Габриэль.
|
|
|
|
Несколько сотрудников Google DeepMind и Anthropic выразили обеспокоенность, что траектория развития ИИ может вести к «постчеловеческому» миру, где машины окажутся выше человека. Вопрос о сознании ИИ активно обсуждается, признали в компаниях, работа носит исследовательский характер и требует научного консенсуса. При этом выход на уровень AGI в DeepMind не считают подтверждением того, что сознание у машин существует. Учитывая, на каких данных обучаются большие языковые модели, многие учёные просто отвергают идею о том, что чат-боты когда-либо смогут обрести сознание.
|
|
|
|
Источник
|
