От ИИ-аватаров до виртуальной реальности мест преступлений: суды сталкиваются с ИИ в системе правосудия

Стейси Уэйлс схватилась за кафедру, сдерживая слезы, и попросила судью назначить человеку, застрелившему ее брата, максимально возможное наказание за непредумышленное убийство.

То, что произошло дальше, ошеломило собравшихся в зале суда в Финиксе на прошлой неделе: созданное искусственным интеллектом видео с изображением ее брата Кристофера Пелки сообщило стрелку, что он прощен.

Судья сказал, что ему понравилось и он оценил видео, а затем приговорил стрелка к 10,5 годам лишения свободы — максимальному сроку и большему, чем просили прокуроры. В течение нескольких часов после слушания 1 мая адвокат ответчика подал уведомление об апелляции.

Адвокат защиты Джейсон Лэмм не будет заниматься апелляцией, но сообщил, что вышестоящий суд, скорее всего, вынесет решение по вопросу о том, неправомерно ли судья полагался на видео, созданное с помощью искусственного интеллекта, при вынесении приговора своему клиенту.

Суды по всей стране боролись с тем, как лучше всего справиться с растущим присутствием искусственного интеллекта в зале суда. Еще до того, как семья Пелки использовала ИИ, чтобы дать ему голос в части воздействия на жертву — что считается первым случаем в судах США — Верховный суд Аризоны создал комитет, который исследует лучшие практики ИИ.

Во Флориде судья недавно надел гарнитуру виртуальной реальности, чтобы показать точку зрения ответчика, который заявил, что действовал в целях самообороны, когда размахивал заряженным пистолетом перед гостями свадьбы. Судья отклонил его иск.

А в Нью-Йорке человек без адвоката использовал созданный ИИ аватар, чтобы отстаивать свою позицию в судебном процессе по видео. Судьям потребовалось всего несколько секунд, чтобы понять, что человек, обращающийся к ним с видеоэкрана , не был настоящим .

Эксперты говорят, что использование ИИ в залах суда вызывает правовые и этические проблемы, особенно если его эффективно использовать для влияния на судью или присяжных. И они утверждают, что это может оказать непропорциональное влияние на маргинализированные сообщества, сталкивающиеся с судебным преследованием.

«Я полагаю, что это будет спорная форма доказательства, отчасти потому, что это может быть чем-то, что дает преимущество сторонам, имеющим больше ресурсов, перед сторонами, у которых их нет», — сказал Дэвид Эван Харрис, эксперт по дипфейкам ИИ в бизнес-школе Калифорнийского университета в Беркли.

Харрис отметил, что искусственный интеллект может быть очень убедительным, и ученые изучают взаимодействие этой технологии и тактик манипуляции.

Синтия Годсоу, профессор права в Бруклинской юридической школе и бывший государственный защитник, сказала, что, поскольку эта технология продолжает расширять границы традиционной юридической практики, судам придется столкнуться с вопросами, которые им никогда раньше не приходилось взвешивать: действительно ли эта фотография ИИ соответствует показаниям свидетеля? Преувеличивает ли это видео рост, вес или цвет кожи подозреваемого?

«Это определенно тревожная тенденция», — сказала она, — «потому что она может еще больше перерасти в фальшивые доказательства, в ложности которых люди, возможно, даже не догадаются».

В случае с Аризоной сестра жертвы заявила Associated Press, что она действительно учитывала «этику и мораль» написания сценария и использования образа своего брата, чтобы дать ему возможность высказаться во время слушания по вынесению приговора.

«Для нас было важно подойти к этому вопросу с точки зрения этики и морали и не использовать это, чтобы говорить то, чего Крис не сказал бы или во что не поверил бы», — сказала Стейси Уэйлс.

По словам адвоката по правам жертв Джессики Гаттузо, представлявшей интересы семьи, жертвы могут подавать заявления о последствиях в любом цифровом формате в Аризоне.

Когда видео было показано в зале суда, Уэйлс заявила, что о нем знали только она и ее муж.

«Цель состояла в том, чтобы сделать Криса более человечным и достучаться до судьи», — сказал Уэйлс.

Посмотрев его, судья Высшего суда округа Марикопа Тодд Лэнг сказал, что ему «понравилась красота того, что сказал Кристофер» в видеоролике, созданном с помощью искусственного интеллекта.

«Это также говорит кое-что о семье», - сказал он. «Потому что вы сказали мне, как вы были злы, и вы требовали максимального наказания, и хотя это было то, чего вы хотели, вы позволили Крису говорить от всего сердца, как вы это видели».

В ходе апелляции адвокат подсудимого заявил, что комментарии судьи могут стать фактором для отмены приговора.

___

В подготовке этого репортажа приняли участие репортеры Associated Press Сара Парвини в Лос-Анджелесе, Седжал Говиндарао в Финиксе и Кейт Пейн в Таллахасси, Флорида.