Нейросеть может сослаться на закон, которого не существует, или придумать судебное решение. Верховный суд России прямо указал такие ошибки среди рисков внедрения искусственного интеллекта. Их вероятность оценили как высокую, а возможные последствия — как очень серьёзные.
И при этом ИИ уже испытывают в судах более чем 20 регионов России.
24 октября председатель Верховного суда Игорь Краснов сообщил, что пилотные проекты идут в Москве, Московской, Амурской, Вологодской областях и других регионах.
Пока нейросетям отводят вспомогательную работу: поиск судебной практики и правовых позиций Верховного суда, обнаружение ошибок и противоречий в документах, автоматическое составление протоколов заседаний.
Какие именно инструменты испытывают в каждом регионе и насколько точно они справляются с заданиями, Краснов не уточнил.
«Каждый результат применения ИИ должен быть проверяемым, а оценка доказательств и окончательное решение всегда остаются только за судьей»,
— заявил глава Верховного суда.
Впрочем, масштабы задуманы куда серьёзнее обычного электронного помощника.
Каждому судье — по нейросети
3 сентября Верховный суд утвердил концепцию внедрения ИИ в российское судопроизводство.
Согласно документу, к 2030 году более 95% судей должны постоянно пользоваться судебными ИИ-сервисами, а доля подготовленных нейросетями проектов процессуальных документов должна достичь 30–50%.
Ещё один целевой показатель — автоматическая подготовка не менее 90% протоколов судебных заседаний.
Технологическая подготовка уже идёт.
Ещё 8 октября Краснов рассказывал о пяти отечественных языковых моделях, которые обучаются работать с судебными данными и правовыми позициями Верховного суда.
Но вместе с планом внедрения опубликована и матрица рисков.
В ней перечислены вполне конкретные опасности: вымышленные правовые нормы и судебные акты, утечки персональных данных, предвзятость моделей и снижение независимости судей.
Для борьбы с выдуманными ссылками предусмотрены проверка результата судьёй и использование систем, которые обращаются к проверяемым источникам. Передачу судебных данных в публичные ИИ-сервисы документ предлагает запретить.
Есть в концепции и довольно неожиданное положение.
Среди мер против снижения независимости судьи указана «обязательная мотивировка отклонения ИИ-рекомендации». Там же предлагается запретить принятие предложенного машиной варианта по умолчанию.