|
Мозговые чипы могут быть использованы в качестве оружия
|
|
|
|
ООН предупредила, что технология мозговых чипов, впервые разработанная Илоном Маском, может быть использована для «нейрослежки», нарушающей «психическую конфиденциальность», или «даже для осуществления форм принудительного перевоспитания», угрожающих правам человека во всем мире. Агентство ООН по науке и культуре (ЮНЕСКО) заявило, что нейротехнологии, такие как Neuralink Маска, если их не регулировать, приведут к «новым возможностям мониторинга и манипулирования человеческим разумом с помощью нейровизуализации» и технологий «изменения личности». В настоящее время ЮНЕСКО разрабатывает стратегию всемирной «этической основы» для защиты человечества от потенциальных злоупотреблений технологиями, которые, как они опасаются, будут ускорены достижениями в области ИИ. «Мы находимся на пути к миру, в котором алгоритмы позволят нам расшифровывать мыслительные процессы людей», — сказала заместитель генерального директора ЮНЕСКО по социальным и гуманитарным наукам Габриэла Рамос. Последствия «далеко идущие и потенциально опасные», сказал Рамос, учитывая прорывы в нейротехнологии, которые могут «напрямую манипулировать механизмами мозга» у людей, «лежащими в основе их намерений, эмоций и решений».
|
|
|
|
Предупреждения комитета прозвучали менее чем через два месяца после того, как Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) дало компании Neuralink, занимающейся имплантацией мозговых чипов Илона Маска, федеральное разрешение на проведение испытаний на людях. Нейротехнологии, такие как имплантаты Маска Neuralink, будут подключать мозг к вычислительной мощности через нитевидные электроды, вшитые в определенные области мозга. Электроды Neuralink будут связываться с чипом для считывания сигналов, производимых особыми клетками мозга, называемыми нейронами, которые передают сообщения другим клеткам тела, таким как наши мышцы и нервы. Поскольку сигналы нейронов напрямую транслируются в управление двигателем, Neuralink может позволить людям управлять внешними технологиями, такими как компьютеры или смартфоны, или утраченными функциями тела или движениями мышц, с помощью своего разума. «Это все равно, что заменить часть черепа умными часами», — сказал Маск.
|
|
|
Но эти коммуникационные пути, как и предупреждала группа ЮНЕСКО, обоюдоострые. В мае этого года ученые из Техасского университета в Остине показали, что им удалось обучить ИИ эффективно читать мысли людей, преобразовывая данные мозга испытуемых, полученные с помощью функциональной магнитно-резонансной томографии (фМРТ), в письменные слова. Экономист ЮНЕСКО Марияграция Скиччарини, специализирующаяся на вопросах искусственного интеллекта, отметила, что способность алгоритмов машинного обучения быстро извлекать шаблоны из сложных данных, таких как сканирование мозга с помощью фМРТ, ускорит доступ мозговых чипов к человеческому разуму. «Это все равно, что посадить нейротехнологию на стероиды, — сказал Скиччарини. ЮНЕСКО созвала конференцию Международного комитета по биоэтике (IBC) с участием 1000 человек в Париже в прошлый четверг и опубликовала рекомендации во вторник. «Впечатляющее развитие нейротехнологий, а также новых биотехнологий, нанотехнологий и ИКТ делает машины все более и более гуманоидными, — говорится в отчете IBC, — и люди становятся все более связанными с машинами и ИИ».
|
|
|
|
На прошлой неделе IBC взвесил многочисленные антиутопические сценарии, казалось бы, вышедшие из научной фантастики, в своих усилиях опередить быстро нарастающие угрозы «нейроправам» человека, которые еще даже не были кодифицированы в соответствии с международным правом. «Необходимо предвидеть последствия внедрения нейротехнологий», — отметила комиссия ООН. «Существует прямая связь между свободой мысли, верховенством закона и демократией». Среди множества рекомендаций IBC в своем 91-страничном отчете комитет призвал к большей прозрачности исследований в области нейротехнологий со стороны промышленности и научных кругов; а также разработка «нейроправ» для включения в международное право прав человека. В отчете IBC новая технология резко описывается как вызов «некоторым основным аспектам человеческого достоинства, таким как конфиденциальность психической жизни или индивидуальное действие». Но помощник генерального директора ЮНЕСКО по социальным и гуманитарным наукам Габриэла Рамос выразила объединяющую силу нейротехнологий и искусственного интеллекта еще более резко.
|
|
|
|
В то время как планы Илона Маска в отношении Neuralink были сосредоточены на потенциальной пользе устройства для здоровья — помощи в лечении целого ряда заболеваний, от ожирения и аутизма до депрессии и шизофрении, — вместо этого федеральные регулирующие органы США сосредоточились на его способности причинять вред. Как сообщило агентство Reuters в декабре прошлого года, генеральный инспектор Министерства сельского хозяйства США по запросу федерального прокурора расследует возможные нарушения Закона о защите животных в Neuralink. Федеральный закон регулирует, как исследователям разрешается обращаться с определенными видами животных в рамках медицинских исследований и других видов научных экспериментов. Neuralink также был предметом пристального внимания Конгресса: в мае этого года законодатели США призвали регулирующие органы выяснить, способствовала ли группа, которая наблюдает за испытаниями на животных в Neuralink, неудачным и поспешным экспериментам.
|
|
|
|
Недавнее одобрение Neuralink FDA было получено после того, как Маск ранее хвастался, что его компания по производству медицинских устройств начнет испытания имплантата человеческого мозга на людях как минимум четыре раза с 2019 года. В течение этих четырех лет FDA отклонило несколько заявок Neuralink на одобрение экспериментов на людях, последний раз в начале 2022 года, по словам семи нынешних и бывших сотрудников, которые говорили с Reuters. Маск подчеркнул потенциал Neuralink для лечения тяжелых состояний, таких как паралич и слепота, а иногда и более тривиальных приложений, таких как просмотр веб-страниц или телепатия. Но IBC ЮНЕСКО обратил особое внимание на угрозу, которую представляют технологии мозговых чипов ИИ «двойного назначения», которые можно легко перепрограммировать или перенастроить для неблаготворного применения в человеческом разуме. «Аргумент двойного назначения, который обычно приводился биоконсерваторами, чтобы подчеркнуть риски, — отметил комитет в своем отчете, — теперь используется биопрогрессивистами для оправдания некоторых методов разработки».
|
|
|
|
«Должны быть приняты меры для защиты от того, чтобы нейротехнологии были открыты для двойного использования», согласно IBC, поэтому полезные с медицинской точки зрения нейротехнологии не могут быть искажены хакерами, корпоративными спекулянтами или даже авторитарными режимами. «Нейротехнологии могут принести огромную пользу в области здравоохранения, образования и социальных отношений, но также могут усугубить социальное неравенство, нанести ущерб частной жизни людей и предоставить методы манипулирования людьми», — заявили они. Большинство выступавших на конференции ЮНЕСКО решительно поддержали создание действенной основы для нейротехнологий, аналогичной Рекомендации ЮНЕСКО по этике искусственного интеллекта. По словам Габриэлы Рамос, помощника Генерального директора ЮНЕСКО по социальным и гуманитарным наукам, «новаторские разработки в области нейротехнологий открывают беспрецедентный потенциал. Но мы должны помнить о его негативном влиянии, если оно используется в злонамеренных целях». «Мы должны действовать сейчас, — сказала она, — чтобы гарантировать, что это не будет использовано не по назначению и не будет угрожать нашим обществам и демократиям».
|
|
|
|
Источник
|
