Продолжаю в рубрике #экспертное_мнение делиться юридическими новостями в сфере права и новых технологий в России и мире. Сегодня речь пойдёт о Бразилии.
Верховный суд Бразилии рассматривал дело, в котором его внимание привлёк один процессуальный документ. Это была жалоба от адвоката.
Адвокат знал, что суды Бразилии внедряют в свою работу ИИ. Он решил схитрить и написал в тексте жалобы скрытые команды для ИИ мелким белым шрифтом.
Команды должны были помочь признать жалобу допустимой и удовлетворить её. Идея состояла в том, что при анализе документа ИИ прочитает не только видимый человеку текст, но и считает команду белым шрифтом и исполнит её.
Это явление в международной практике называется prompt injection. Под ним понимается внедрение в обрабатываемый ИИ материал посторонних инструкций, которые пытаются изменить его поведение. По-русски это можно назвать «внедрением инструкций» или «инъекцией промпта».
Реализации замысла помешали сразу два обстоятельства:
- Техническая защитная система суда автоматически выявила хитрость.
- Судья, рассматривающий жалобу, не использовал в своей работе ИИ.
В итоге судья назначил штраф в размере 2 минимальных зарплат и сообщил о случившемся в Бразильскую ассоциацию адвокатов и прокуратуру. Им предстоит оценить правомерность действий хитрого адвоката.
Для Верховного суда Бразилии это первый выявленный случай, когда адвокат использовал prompt injection. Об этом суд даже опубликовал официальное сообщение.
Этот случай показывает, как технологии ставят новые вопросы процессуальной добросовестности и границ возможного поведения. Их внедрение в судебный процесс сопровождается неизбежными попытками повлиять на принятие решений судом со стороны заинтересованных лиц. Чем активнее суды будут внедрять ИИ, тем важнее станет техническая защита процесса от недобросовестного вмешательства.
Как научный руководитель Международного института сравнительно-правовых исследований новых технологий РУДН я с большим интересом слежу за работой нашего института, где исследуются вопросы новых технологий в праве. Коллеги сообщили мне, что скоро опубликуют новый выпуск своего дайджеста с этой и многими другими интересными новостями.