Председатель Совета судей РФ Виктор Момотов 4 апреля 2019 г. выступил с докладом «Судебная власть в условиях современных цифровых технологий» на пленарном заседании VI Московского юридического форума. Приводим часть выступления, касающаяся применения искусственного интеллекта в судебном производстве.
В последние годы в экспертной среде все чаще обсуждается вопрос о том, можно ли автоматизировать весь процесс отправления правосудия, то есть заменить судью компьютерной программой или нейросетью, способной анализировать фактические обстоятельства дела, давать им правовую оценку и выносить соответствующее решение. В Китае, США, Великобритании, Франции и некоторых других странах такие программы уже начинают использоваться, однако в настоящий момент они служат вспомогательным инструментом для анализа документов и не заменяют собой судью.
В декабре 2018 года появился первый международный акт, специально посвященный использованию искусственного интеллекта в правосудии – это Европейская этическая хартия о применении искусственного интеллекта в судебных системах, утвержденная Европейской комиссией по эффективности правосудия Совета Европы.
В Хартии сформулированы пять принципов применения искусственного интеллекта:
принцип соблюдения прав человека, в силу которого применение компьютерной программы не должно умалять состязательность процесса и право на справедливое судебное разбирательство,
принцип запрета дискриминации,
принцип качества и безопасности, который предполагает использование сертифицированного программного обеспечения, оценка которого проводится как техническими специалистами, так и юристами,
принцип прозрачности, в силу которого все применяемые технологии должны быть доведены до всеобщего сведения в понятной форме.
Особый интерес представляет пятый принцип – «принцип пользовательского контроля», согласно которому судья должен иметь возможность не согласиться с решением, предложенным искусственным интеллектом, и принять собственное решение по делу, а участнику спора должна быть предоставлена возможность прямого обращения к суду без применения искусственного интеллекта и право оспорить принятое с помощью искусственного интеллекта решение.
Принцип «пользовательского контроля» показывает, что авторы Хартии понимают невозможность полной замены судьи искусственным интеллектом. И с этим следует согласиться.
То, что искусственный интеллект будет нейтрален по отношению к человеку – это миф. Он был развеян еще в Новое время, когда стало понятно, что у техники есть своя автономия и независимость от человека. Система искусственного интеллекта спонтанно совершенствуется, влияя на человека и подчиняя его себе; она может вырасти в опасный для человека мир, что отчасти и происходит сегодня, и становится неотвратимой угрозой.
У искусственного интеллекта свои законы и свой язык, отсутствие глубокого понимания которых у человека делает решения нейросетей непредсказуемыми.
Процессуальное законодательство требует от судьи при оценке доказательств руководствоваться своим внутренним убеждением, которое является гораздо более сложной категорией, чем программные алгоритмы. В зависимости от конкретных обстоятельств одни и те же доказательства могут быть в одном деле отвергнуты, а в другом деле, наоборот, приняты за основу.
Кроме того, суд при вынесении решения руководствуется целым рядом оценочных и ценностных критериев, закрепленных в законе: например, принципами справедливости и гуманизма при назначении наказания, требованиями разумности и добросовестности в гражданском праве. Понимание таких общих категорий формируется у человека в процессе социализации, воспитания, становления личности – все это невозможно воспроизвести в программном алгоритме.
При отсутствии конкретного правового регулирования суды применяют аналогию закона и аналогию права, под которой понимается разрешение спора исходя из общих начал и смысла законодательства. Смысл законодательства, то есть его дух, может быть выявлен только человеком с высоким уровнем правовой культуры, а никак не компьютером.
С особенной ясностью невозможность замены судьи искусственным интеллектом проявляется в кассационном судопроизводстве. Основаниями для отмены судебного постановления в кассационном порядке выступает не любое формальное нарушение, а только существенное нарушение правовых норм, которое повлияло на исход дела и без устранения которого невозможны восстановление и защита нарушенных прав, свобод и законных интересов. Эти критерии вытекают из принципа правовой определенности, в силу которого отмена судебного решения по формальным основаниям недопустима.
Дать оценку тому, соответствует ли допущенное нарушение критерию существенности и способно ли оно повлиять на исход дела, может только профессиональный судья. В свою очередь, компьютерный алгоритм будет фиксировать любое нарушение и приходить к выводу об отмене судебного акта, даже в том случае, если формальная отмена приведет к такому же исходу дела.
Поэтому говорить о замене судьи искусственным интеллектом как минимум преждевременно, а скорее всего невозможно. Вместе с тем не исключается применение искусственного интеллекта при рассмотрении уже упоминавшихся бесспорных требований, прежде всего в приказном производстве, поскольку такая работа не связана с анализом правоотношений сторон и в большей степени носит технический характер. В некоторых регионах такие системы уже внедряются.
Источники:
Совет судей Российской Федерации, Выступления, интервью, публикации, 4 апреля 2019, Выступление председателя Совета судей РФ В.В. Момотова на пленарном заседании VI Московского юридического форума по теме «Судебная власть в условиях современных цифровых технологий»
РАПСИ, Новости, 04.04.2019, Искусственный интеллект не сможет полноценно заменить судью — Момотов