Международный правовой курьер

В перечне ВАК с 2015 г.

Правовое регулирование технологий искусственного интеллекта в Российской Федерации

Применение технологий искусственного интеллекта, который всё активнее внедряется в частную жизнь каждого и способен в ближайшем будущем заменить собой людей, лишив их мест занятости, поднимает большие сугубо юридические вопросы и общие этические опасения. При своевременной разработке эффективной регуляторной среды для технологий искусственного интеллекта Российская Федерация будет способна стать одним из международных лидеров в развитии и использовании систем искусственного интеллекта. 

Ключевые слова: искусственный интеллект, цифровые технологии, цифровая трансформация, робототехника, умный робот, интеллектуальный агент.


Legal regulation of artificial intelligence technologies in Russian Federation

Abstract: The use of artificial intelligence technologies, which is increasingly being introduced into the private life of everyone and is capable of replacing people in the near future, depriving them of their jobs, raises great purely legal issues and general ethical concerns. With the timely development of an effective regulatory environment for artificial intelligence technologies, the Russian Federation will be able to become one of the international leaders in the development and use of artificial intelligence systems.

Key words: artificial intelligence, digital technologies, digital transformation, robotics, smart robot, intelligent agent.

«Четвертая промышленная революция»[1] вызвала к жизни инновационные технологические решения в биологической[2] и цифровой сферах, которые побуждают государства активнее развивать программы поддержки происходящей во всем мире цифровой трансформации. Вынужденная цифровизация является одним из главных последствий пандемии COVID-19. Сегодня важнейшие элементы общественного бытия уже перенесены в виртуальное пространство, что повлекло за собой существенные преобразования в системе управления (от электронного правительства и умных городов до интернета вещей). Эти процессы побуждают к применению политических механизмов стимулирования (программы всеобщей цифровизации и т.п.) в контексте формирующейся цифровой цивилизации[3].

Еще несколько лет назад в мире было всего пять стран, которые занимались планированием развития технологий искусственного интеллекта (ИИ). В начале 2023 года таких стран стало уже более 30.

26 ноября 2021 государства-члены ООН в ходе заседания Генеральной конференции ЮНЕСКО одобрили исторический документ, определяющий общие ценности и принципы, необходимые для обеспечения безопасного развития и использования искусственного интеллекта — рекомендацию об этических аспектах искусственного интеллекта («recommendation on the ethics of artificial intelligence»). Целью принятого документа является уменьшение рисков и трудностей, связанные с применением искусственного интеллекта, последствий для прав человека, особенно с точки зрения усугубления существующего неравенства.

Рекомендация рассматривает ИИ как технологические системы, способные обрабатывать данные и информацию способом, напоминающим разумное поведение и включающим, как правило, такие аспекты, как рассуждение, обучение, распознание, прогнозирование, планирование и контроль.

Под субъектами связанной с ИИ деятельности понимаются любые заинтересованные стороны, вовлеченные, по меньшей мере, в один их этапов жизненного цикла системы на основе ИИ, – как юридические, так и физические лица, в частности, исследователи, программисты, инженеры, специалисты по обработке данных, конечные пользователи, предприятия частного сектора, университеты, частные и государственные учреждения и т.д.

Государствам-членам ООН рекомендовано для воплощения в жизнь принципов, закреплённых документом, внести изменения в действующее национальное законодательство и принять необходимые новые законы, нормативные положения и руководящие принципы предпринимательской деятельности. Принимаемые меры должны соответствовать положениям международного права, в том числе уставу ООН, включая обязательства государств-членов в области прав человека.

К ценностным установкам и принципам деятельности отнесено следующее:

  • уважение, защита и поощрение прав человека, основных свобод и человеческого достоинства;
  • благополучие окружающей среды и экосистем;
  • обеспечение разнообразия и инклюзивности;
  • жизнь в мирных, справедливых и взаимосвязанных обществах;
  • соразмерность и непричинение вреда;
  • безопасность и защищённость;
  • справедливость и отказ от дискриминации;
  • устойчивость;
  • право на неприкосновенность частной жизни и защита данных;
  • подконтрольность и подчиненность человеку;
  • прозрачность и объяснимость;
  • ответственность и подотчётность;
  • осведомленность и грамотность;
  • многостороннее и адаптивное управление и взаимодействие;

В части отечественного опыта этических аспектов разработки и применения ИИ-систем необходимо отметить, что Указом Президента Российской Федерации от 10 октября 2019 г. № 490 была утверждена  «Национальная стратегия развития искусственного интеллекта на период до 2030 года»[4]. В данной стратегии впервые была сформулирована законодательная дефиниция ИИ. Так, согласно ст. 5 под «искусственным интеллектом» понимается «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений».

При этом в отдельном пункте содержится определение «технологий искусственного интеллекта», под которыми предлагается понимать «технологии, основанные на использовании искусственного интеллекта, включая компьютерное зрение, обработку естественного языка, распознавание и синтез речи, интеллектуальную поддержку принятия решений и перспективные методы искусственного интеллекта». К последним относятся «создание принципиально новой научно-технической продукции, в том числе в целях разработки универсального (сильного) искусственного интеллекта (автономное решение различных задач, автоматический дизайн физических объектов, автоматическое машинное обучение, алгоритмы решения задач на основе данных с частичной разметкой и (или) незначительных объемов данных, обработка информации на основе новых типов вычислительных систем, интерпретируемая обработка данных и другие методы)»[5].

Таким образом, приведенное определение охватывает два доступных на данный момент вида ИИ в широком понимании: 1) работающий на основе заранее определенных задач (имеющихся знаний), и 2) работающий автономно как технология, которая потенциально может заменить человека. Этот т.н. сильный ИИ гипотетически может имитировать как когнитивные функции человека, так и саму человеческую личность. Дальнейшая «автоматизация способна сделать человека крайне неэффективным», как об этом уже предупреждал Р.Б. Фуллер, основоположник принципа синергии[6].

В октябре 2021 в России был  разработан, опубликован и подписан первыми организациями-добровольцами кодекс этики ИИ, целью которого является обеспечение прав граждан, которые могут нарушаться ИИ-системами.

Принятые в России документы, имеющие отношение к этике использования ИИ систем, a том числе официальные, соответствуют Рекомендации ЮНЕСКО в основном по духу, а  в частностях и буквально.

Россия сегодня имеет заметные конкурентные преимущества в сфере цифровых технологий и легального распространения ИИ, в том числе благодаря сильной естественно-научной школе страны, базового физико-математического образования и компетенциям в сфере программирования, и прочего. В этой ситуации отечественная юриспруденция должна способствовать своевременному нормативному регулированию, надлежащему и легальному оформлению ИИ-технологий. К слову, в 2025 г. Россия будет принимающей страной ХХ Форума ООН по управлению интернетом (Internet Governance Forum, IGF), как одно из главных международных мероприятий по обсуждению развития Интернета и цифровых технологий, вопросов кибербезопасности и защиты персональных данных, «интернета вещей», блокчейна и больших данных[7].

В настоящее время научно-технический прогресс позволяет создавать т.н. «слабый ИИ», не обладающий собственным сознанием. Эта технология имеет в основе алгоритма обобщающую способность, благодаря которой ИИ может создавать результаты, выходящие за рамки замысла разработчиков. Уже сегодня ИИ применяется для освобождения человека от монотонной работы путем автоматического создания программного обеспечения; поддержки в принятии решений; автоматизации опасных видов работ; поддержки коммуникаций между людьми и др.[8] В недалеком будущем технология ИИ должна стать такой же базовой, как Интернет и сотовая связь. При этом ИИ является централизованной системой хранения и обработки данных, в отличие от децентрализованной технологии блокчейна.

На субрегиональном уровне в динамичной реальности цифровых технологий Европейский Союз своевременно отреагировал на нормативном уровне. Так, в 2018 г. в ответ на вызовы цифровой трансформации была принята «Декларация о сотрудничестве в сфере искусственного интеллекта»[9], направленная на обеспечение принципов прозрачности и подотчетности, соблюдение надлежащих правовых и этических норм, защиту основных прав и ценностей ЕС, включая неприкосновенность частной жизни и защиту персональных данных.

В частности, страны-участники данной Декларации согласились обмениваться лучшими практиками в области приобретения и использования ИИ органами государственного управления и в государственном секторе в целом; обмениваться мнениями относительно правовых и этических основ применительно к ИИ с целью обеспечения его разумного применения; обеспечивать сохранение за человеком ключевой роли в процессе развития, применения и принятия решений в отношении ИИ, предотвращать действия, направленные на создание или использование вредоносных решений на основе ИИ, и т.д.

Европейская Комиссия поддерживает такие законодательные инициативы, как финальная версия «Руководящие принципы этики для надежного применения искусственного интеллекта»[10], подготовленные Группой высокого уровня по ИИ от 08 апреля 2019 г., и подготовленный экспертами «Доклад об ответственности в сфере искусственного интеллекта и других новых технологий» от 21 ноября 2019 г. В этих документах задекларированы семь ключевых требований:

1) ИИ-технологии должны поддерживать уровень соблюдения прав и свобод человека и основные права граждан, не ограничивая при этом самостоятельность человека и справедливое общество;

2) безопасность ИИ-технологий и подконтрольность разработчикам на всех этапах жизненного цикла ИИ-систем;

3) конфиденциальность персональных данных в процессе использования ИИ-технологий с тем, чтобы такие данные оставались под полным контролем граждан и не использовались во вред им;

4) сохранение прозрачности и предсказуемости ИИ-технологий после машинного обучения, без угроз информационной безопасности;

5) недискриминационность и доступность ИИ-технологий для всех с учетом всего спектра человеческих способностей и потребностей;

6) экологичность и социо-ориентированность ИИ-технологий, направленных на позитивные социальные трансформации и повышение «экологической ответственности» социума;

7) обеспечение ответственности за результаты применения ИИ-технологий вплоть до признания ИИ-систем субъектами права и привлечения к юридической ответственности[11].

В современной России наблюдается массовый переход государственных органов и юридических лиц на цифровой формат обмена юридически значимой информацией и исполнения функций (например, посредством портала государственных услуг), а также ‎расширение государственно-частного партнерства в рамках экосистемы цифровой экономики страны.

Так, во исполнение поручения Президента Российской Федерации об обеспечении перевода в электронный формат к 2023 году массовых социально значимых государственных и муниципальных услуг, перечень таковых уже существенно расширился на портале госуслуг (например, онлайн-оформление документов при рождении ребенка, при заключении трудового договора, при расчете пенсии или обжаловании штрафов ГИБДД, внедрение услуг телемедицины и проч.).

В «Национальной стратегии развития искусственного интеллекта» 2019 г. было поставлено шесть основных задач: поддержка научных исследований, создание комплексной системы правового регулирования, разработка и развитие программного обеспечения, повышение доступности и качества данных, увеличение доступности аппаратного обеспечения, рост обеспеченности квалифицированными кадрами, а также повышение уровня информированности населения[12]. Как подчеркнул Президент Российской Федерации В.В. Путин, «развитие искусственного интеллекта – вопрос национальной безопасности и выживания нашего государства. Возможности искусственного разума будут влиять на все сферы жизни, и на оборону, и на темпы развития экономики»[13].

В развитие намеченной стратегии Правительство Российской Федерации утвердило развернутую «Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года»[14]. Концепция состоит из пяти частей:

Часть I. «Общие положения» (цели, задачи, принципы и направления регулирования); Часть II. «Общеотраслевые задачи регулирования применения технологий искусственного интеллекта и робототехники» (оборот данных, юридическая ответственность, страховые институты, безопасность, термины и определения, международные документы); Часть III. «Отраслевые направления совершенствования регулирования применения технологий искусственного интеллекта и робототехники» (медицина, промышленность, транспорт, управление, градостроительство, космическая деятельность, финансовое законодательство); Часть IV. «Регуляторные меры для финансового стимулирования развития отрасли» (включая государственно-частное партнерство); Часть V. «Механизмы реализации Концепции».

В целом, Концепция направлена на создание комфортной регуляторной среды развития ИИ-технологий и робототехники, обозначая следующие задачи: 1) создание основ правового регулирования новых общественных отношений, формирующихся в связи с применением систем искусственного интеллекта и робототехники, имеющих преимущественно стимулирующий характер; 2) определение правовых барьеров, затрудняющих разработку и применение систем искусственного интеллекта и робототехники в различных отраслях экономики и социальной сферы; 3) формирование национальной системы стандартизации и оценки соответствия в области технологий искусственного интеллекта и робототехники.

В августе 2020 г. на заседании президиума Правовой комиссии по цифровому развитию был утверждён Федеральный проект «Искусственный интеллект», в рамках которого Минэкономразвития России было определено как отвечающее за координацию мероприятий по развитию экосистемы ИИ, Минкомсвязи России – как координатор мероприятий по внедрению ИИ и формированию наборов данных, Минпромторг России – как курирующее блок по разработке аппаратных комплексов и чипов. Федеральный проект направлен на развитие исследовательских центров в области «сильного» ИИ, компьютерного зрения, распознавания речи, этических аспектов применения ИИ-технологий, а также создание комплексной системы нормативных актов и стандартов в этой сфере.

На современном этапе в Российской Федерации наиболее успешными примерами интеграции ИИ-технологий в повседневную жизнь можно считать следующие продукты российских разработчиков с их программными решениями:

1) программные продукты компании «Яндекс», которая разработала систему управления беспилотными автомобилями и виртуальный голосовой помощник «Алиса»; 2) платформа распознавания лиц VisionLabs Luna и технология Face Pay для возможной оплаты проезда в метрополитене; 3) технологии компании ABBYY в области распознавания текстов и в сфере лингвистики; 4) российское программное обеспечение – робот «Вера», помогающий в эффективном подборе кандидатов и проведении интервью-собеседования; 5) система персонализированной рекламы «MyTarget» для пользователей Mail Group; 6) библиотека диалогового ИИ «DeepPavlov» для обработки естественного языка и сложных диалоговых систем; 7) программное обеспечение компании «Викиум» для анализа, визуализации мозговой активности и усиления когнитивных способностей пользователей; 8) система патентного поиска «PatSearch» от Роспатента, в которой методы ИИ используются при экспертизе заявок на изобретения и полезные модели.

При этом целый ряд сфер в Российской Федерации остаются еще не затронутыми цифровой трансформацией и ИИ-технологиями. Предстоит в ближайшее время определить условия обязательного страхования ответственности за вред, причиненный применением ИИ-систем и роботов. Другой проблемой формирования регуляторной среды остается отсутствие однозначного понимания важных терминов («искусственный интеллект», «робототехника», «умный робот», «интеллектуальный агент» и др.).

Один из последних вопросов, обсуждаемых в данной сфере Государственной Думой Российской Федерации, — введения новой цифровой формы российской валюты, предложенной по инициативе Центробанка России, что предполагает возможность для россиян получать в недалеком будущем пенсии в цифровых рублях. При этом предстоит просчитать такие риски внедрения «цифрового рубля», как несанкционированный доступ к электронному кошельку и операциях клиента, риск хищения цифровой валюты при офлайн платежах, и др.

Информация об авторе:

Данельян Андрей Андреевич,  проректор по учебной работе и молодежной политике, заведующий кафедрой международного права Дипломатической академии МИД России, д.ю.н., профессор.

Information about the author:

Danelyan Andrey Andreyevich, Vice-Rector, Head of the Department of International Law of the Diplomatic Academy of the Ministry of Foreign Affairs of Russia, Doctor of Law, Professor.


[1] Этот термин был введен в 2011 г. в рамках немецкой инициативы «Индустрия 4.0» как проекта государственной Hi-Tech стратегии, в основе которой мобильный Интернет, Искусственный интеллект и обучающиеся машины. В 2016 г. эта тема была высоко оценена на Всемирном экономическом форуме в Давосе, президент которого Клаус Шваб стал автором книги-бестселлера – см.: Шваб Клаус Мартин. Технологии четвёртой промышленной революции = Shaping The Fourth Industrial Revolution. М., 2018. 320 с.

[2] О достижениях в биологической сфере, новых возможностях синтетической биологии, и связанных с генетическим секвенированием и геномным редактированием юридических и этических проблемах см. подробнее: Гуляева Е.Е., Трикоз Е.Н. Юридические аспекты генетических исследований в странах Латинской Америки (опыт судебной генетики в Аргентине) // Международный правовой курьер. 2020. № 3-4. Июль-Август. С. 56-60; Трикоз Е.Н. Защита прав человека в контексте развития биоэтики и геномики (обзор международного круглого стола) // Вестник Российского университета дружбы народов. Сер. Юридические науки. 2019. Т. 23. № 1. С. 141-154; Трикоз Е.Н., Гуляева Е.Е. Позиции ЕСПЧ по некоторым вопросам биоэтики и генетических данных // Advances in Law Studies. Scientific and Theoretic Journal. 2018. Т. 6, № 4. С. 36-40.

[3] Шестакова И.Г. Новая темпоральность цифровой цивилизации: будущее уже наступило // Научно-технические ведомости СПбГПУ. Гуманитарные и общественные науки. 2019. Т. 10, № 2. С. 26.

[4] Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» // Собрании законодательства Российской Федерации от 14 октября 2019 г. № 41 ст. 5700

[5] Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» // СПС Гарант. URL: https://www.garant.ru/products/ipo/prime/doc/72738946/.

[6] Fuller R.B., Applewhite E.J. Synergetics: analysis of the geometry of thinking. New York, 1975. Р. 57.

[7] Юбилейный Форум ООН по управлению интернетом пройдет в России. URL: https://digital.gov.ru/ru/events/39982/

[8] Дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект». М., 2019. С. 1-2.

[9] EU Declaration of cooperation on Artificial Intelligence, 10 April 2018. URL: https://ec.europa.eu/jrc/communities/sites/jrccties/files/2018aideclarationatdigitaldaydocxpdf.pdf

[10] https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai (дата обращения: 18.01.2021).

[11] Еврокомиссия объявила о начале промышленного освоения «этичного ИИ». Отдел новостей Экспертного центра электронного государства d-russia.ru. 09.04.2019. URL: https://d-russia.ru/evrokomissiya-obyavila-o-nachale-promyshlennogo-osvoeniya-etichnogo-ii.html

[12] Национальная стратегия развития искусственного интеллекта на период до 2030 года, утв. указом Президента РФ от 10 октября 2019 г. № 49 // СПС ГАРАНТ

[13] Владимир Путин. Искусственный интеллект – вопрос национальной безопасности // URL: https://digital.ac.gov.ru/news/4053/

[14] Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года, утв. распоряжением Правительства РФ от 19 августа 2020 г. № 2129-р. URL: http://publication.pravo.gov.ru/Document/Text/0001202008260005

Добавить комментарий

Войти с помощью: