20 мая 2019 г. в Российском совете по международным делам состоялось обсуждение проекта Модельной конвенции о робототехнике и искусственном интеллекте. Документ представили экспертному сообществу его авторы руководитель Исследовательского центра «Робоправо» Андрей Незнамов и партнер международной юридической фирмы Dentons Виктор Наумов.
Как подчеркнули разработчики, при написании конвенции ими руководила инициатива создать свод динамичных правил, которые регулировали бы этические и правовые аспекты в области робототехники и искусственного интеллекта. Необходимость принятия конвенции авторы объясняют особой значимостью развития и применения этих технологий, а также несовершенством их правового регулирования на национальном и мировом уровнях.
В обсуждение документа приняли участие:
- Андрей Крутских, специальный представитель Президента по вопросам международного сотрудничества в области информационной безопасности,
- Илья Рогачев, директор Департамента по вопросам новых вызовов и угроз МИД России,
- Олег Эскин, генеральный конструктор ОАО «Концерн Гранит», генерал-майор запаса ФСБ России,
- Владимир Овчинский, советник министра внутренних дел РФ,
- Владислав Шершульский, директор по технологической политике Microsoft,
- Альберт Зульхарнеев, директор ПИР-Центра,
- Александр Крамаренко, директор по развитию РСМД,
- Роман Дурнев, заместитель начальника научно-исследовательского управления Российской академии ракетных и артиллерийских наук (РАРАН),
- Максим Карлюк, научный сотрудник Института права и развития ВШЭ-Сколково,
- Леонид Ковачич, шеф-редактор РИА Новости, китаист,
- Елена Введенская, доцент кафедры философии РНИМУ им. Пирогова,
- Елена Середкина, доцент кафедры философии и права Пермского национального исследовательского политехнического университета,
- Юрий Черный, руководитель Центра по изучению проблем информатики ИНИОН РАН, доцент кафедры медиаобразования Института журналистики, коммуникаций и медиаобразования МПГУ
- Игорь Шнуренко, специалист по искусственному интеллекту и криптовалютам,
- Александр Федотовских, председатель Комитета по науке и инновациям объединения работодателей Севера России «Северные промышленники и предприниматели»/РСПП,
- Николай Маркоткин, руководитель проекта РСМД по искусственному интеллекту,
- Анастасия Толстухина, руководитель проекта РСМД по кибербезопасности.
Илья Рогачев, директор Департамента по вопросам новых вызовов и угроз МИД России отметил, что при разработке подобного документа необходимо учитывать политический аспект. В настоящее время идёт процесс изучения возможностей робототехники и ИИ в качестве оружия. Договориться на международном уровне об универсальных правилах в областях, тесно связанных с национальными интересами государств, бывает нелегко. Угроза восстания машин, несмотря на свою несостоятельность, является актуальной с точки зрения повестки.
Андрей Крутских, спецпредставитель президента по вопросам международного сотрудничества в области информационной безопасности, выразил мнение, что разработка норм правового регулирования ИИ и робототехники будет эффективна под эгидой ООН. Он напомнил, что российская резолюция по информационной безопасности («Достижения в сфере информатизации и телекоммуникаций в контексте международной безопасности») была принята Генассамблеей ООН, что говорит о целесообразности дискуссии по вопросам ИКТ (информационно-коммуникационных технологий) на площадке Организации Объединённых Наций.
Владимир Овчинский, советник министра внутренних дел РФ, отметил перспективность применения технологий ИИ в оперативно-розыскной, правоохранительной, судебной деятельности. Опираясь на опыт европейских, американских, китайских служб безопасности, Владимир Овчинский на примерах продемонстрировал уже использующийся потенциал искусственного интеллекта в этой сфере. Также он озвучил определение ИИ, которым пользуются службы безопасности: «Искусственный интеллект — это программно-аппаратный комплекс, обеспечивающий поддержку в принятии результативных решений в динамичной, неустойчивой среде, в установленное время, на основе заведомо неполной, нечеткой и не имеющей полной доказательной базы информации». По его мнению, недостаточно рассматривать феномен искусственного интеллекта исключительно в рамках ИКТ. «Велосипед изобретать всё равно придётся», — сказал Владимир Овчинский, подчёркивая необходимость рассмотрения этического и правового регулирования ИИ как отдельного, крайне важного аспекта.
В ходе обсуждения конвенции был озвучен тезис о том, что в экспертном сообществе пока нет консенсуса по поводу терминологии в области ИИ и робототехники. На взгляд разработчиков документа, понятию «робот» («роботизированный механизм», «умный робот») нет и не будет единого определения. Авторы предлагают определять содержание этих понятий в соответствии с их общепринятым значением в конкретной стране и (или) применительно к конкретной модели робота. При отсутствии такой возможности Андрей Незнамов и Виктор Наумов предлагают использовать международные стандарты, в частности ISO 8373:2012 «Роботы и робототехнические устройства. Термины и определения». (Статья 3).
Тем не менее, для обсуждения конвенции нечётко заданная терминология может являться камнем преткновения или яблоком раздора. Также сложность возникает при попытке выделить ИИ и робототехнику в отдельный вид технологий или отнести их к уже существующим, например, к ИКТ.
В ходе дискуссии Елена Середкина, доцент кафедры философии и права Пермского национального исследовательского политехнического университета привела в пример опыт Германии. В ФРГ законотворчество в этой области в качестве объекта рассматривает не совокупность технологий, а их конкретные виды. К примеру, существует правовое регулирование по беспилотным автомобилям и роботам-сиделкам.
Также во время дискуссии участники приводили в пример опыт Китая в области регулирования.
Генри Киссинджер, которого цитировал при открытии обсуждения Александр Крамаренко, директор по развитию РСМД, в конце своей статьи для The Atlantic (How the Enlightenment Ends) заявил: «Очевидно одно: если мы не начнем эту работу в ближайшее время, очень скоро мы поймем, что уже опоздали».
Авторы проекта модельной конвенции планируют учесть высказанные в рамках обсуждения предложения в доработанной версии документа. Обновленный проект конвенции будет представлен на II конференции РСМД по искусственному интеллекту, а также направлен в МИД России, международные организации и институты.
С проектом Модельной конвенции можно ознакомиться на сайте «Робоправо».
Источник: Российский совет по международным делам, Новости, 24 мая 2019, В РСМД состоялось обсуждение Модельной конвенции о робототехнике и искусственном интеллекте