|
ИИ уже используется в правовой системе
|
|
|
|
Искусственный интеллект (ИИ) стал такой частью нашей повседневной жизни, что его трудно избежать, даже если мы можем его не осознавать. В то время как ChatGPT и использование алгоритмов в социальных сетях привлекают большое внимание, важной областью, в которой ИИ обещает оказать влияние, является право. Идея о том, что ИИ будет определять вину в ходе судебного разбирательства, может показаться надуманной, но сейчас мы должны серьезно рассмотреть ее. Это потому, что это поднимает вопросы о совместимости ИИ с проведением справедливых судебных процессов. ЕС принял закон, определяющий, как ИИ может и не может использоваться в уголовном праве. В Северной Америке алгоритмы, разработанные для поддержки справедливого судебного разбирательства, уже используются. К ним относятся Compas, Оценка общественной безопасности (PSA) и Инструмент досудебной оценки рисков (PTRA). В ноябре 2022 года Палата лордов опубликовала отчет, в котором рассматривается использование технологий ИИ в системе уголовного правосудия Великобритании.
|
|
|
|
С одной стороны, было бы интересно посмотреть, как ИИ может значительно облегчить правосудие в долгосрочной перспективе, например, сократить расходы на судебные услуги или ведение судебных разбирательств по мелким правонарушениям. Системы искусственного интеллекта могут избежать типичных заблуждений человеческой психологии и могут подвергаться строгому контролю. Для некоторых они могут быть даже более беспристрастными, чем судьи-люди. Кроме того, алгоритмы могут генерировать данные, которые помогают юристам выявлять прецеденты в прецедентном праве, находить способы оптимизации судебных процедур и поддерживать судей. С другой стороны, повторяющиеся автоматические решения алгоритмов могут привести к отсутствию творчества в толковании закона, что может привести к замедлению или остановке развития правовой системы.
|
|
|
Инструменты ИИ, предназначенные для использования в ходе судебного разбирательства, должны соответствовать ряду европейских правовых инструментов, устанавливающих стандарты соблюдения прав человека. К ним относятся Процедурная Европейская комиссия по эффективности правосудия, Европейская этическая хартия об использовании искусственного интеллекта в судебных системах и их среде (2018 г.) и другие законодательные акты, принятые в последние годы для формирования эффективной основы использования и ограничений ИИ в уголовном правосудии. Однако нам также нужны эффективные механизмы надзора, такие как судьи и комитеты. Контроль и регулирование ИИ является сложной задачей и охватывает различные области права, такие как закон о защите данных, закон о защите прав потребителей и закон о конкуренции, а также ряд других областей, таких как трудовое право. Например, решения, принимаемые машиной, напрямую подпадают под действие GDPR, Общего регламента по защите данных, включая основное требование справедливости и подотчетности.
|
|
|
|
В GDPR есть положения, запрещающие людям принимать исключительно автоматизированные решения без вмешательства человека. Дискуссии по поводу этого принципа ведутся и в других областях права. Проблема уже стоит перед нами: в США инструменты «оценки риска» использовались для оказания помощи досудебным оценкам, которые определяют, должен ли ответчик быть освобожден под залог или задержан до суда. Одним из примеров является алгоритм Compas в США, который был разработан для расчета риска рецидивизма — риска продолжения совершения преступлений даже после наказания. Тем не менее, были обвинения — категорически отвергнутые компанией, стоящей за ним, — что алгоритм Compas имел непреднамеренные расовые предубеждения. В 2017 году мужчина из Висконсина был приговорен к шести годам тюремного заключения на основании приговора, частично основанного на его баллах Compas. Частная компания, владеющая Compas, считает свой алгоритм коммерческой тайной. Таким образом, ни судам, ни ответчикам не разрешается проверять использованную математическую формулу.
|
|
|
|
Поскольку право считается гуманитарной наукой, важно, чтобы инструменты ИИ помогали судьям и практикующим юристам, а не заменяли их. Как и в современных демократиях, правосудие следует за разделением властей. Это принцип, в соответствии с которым государственные институты, такие как законодательная власть, творящая право, и судебная власть, система судов, применяющих право, четко разделены. Это сделано для защиты гражданских свобод и защиты от тирании. Использование ИИ для судебных решений может нарушить баланс сил между законодательной и судебной властью, бросив вызов человеческим законам и процессу принятия решений. Следовательно, ИИ может привести к изменению наших ценностей. А поскольку все виды персональных данных могут использоваться для анализа, прогнозирования и влияния на действия человека, использование ИИ может дать новое определение тому, что считается неправильным и правильным поведением, возможно, без каких-либо нюансов.
|
|
|
|
Также легко представить, как ИИ станет коллективным разумом. Коллективный ИИ незаметно появился в сфере робототехники. Дроны, например, могут общаться друг с другом, чтобы летать строем. В будущем мы могли бы представить, что все больше и больше машин взаимодействуют друг с другом для выполнения всевозможных задач. Создание алгоритма беспристрастного правосудия может означать, что мы считаем алгоритм более способным, чем человек-судья. Мы даже можем быть готовы доверить этому инструменту судьбу собственной жизни. Возможно, однажды мы превратимся в общество, похожее на то, что изображено в серии научно-фантастических романов Айзека Азимова «Цикл роботов», где роботы обладают интеллектом, схожим с человеческим, и берут под свой контроль различные аспекты жизни общества.
|
|
|
|
Мир, в котором ключевые решения делегированы новым технологиям, вселяет страх во многих людей, возможно, потому, что они опасаются, что это может стереть то, что в основе своей делает нас людьми. Но в то же время ИИ — это мощный потенциальный инструмент, облегчающий нашу повседневную жизнь. В человеческом мышлении интеллект не представляет собой состояние совершенства или непогрешимой логики. Например, ошибки играют важную роль в поведении человека. Они позволяют нам двигаться к конкретным решениям, которые помогают нам улучшать то, что мы делаем. Если мы хотим расширить использование ИИ в нашей повседневной жизни, было бы разумно продолжать применять человеческое мышление для управления им.
|
|
|
|
Источник
|
