Международный правовой курьер

В перечне ВАК с 2015 г.

Юридические аспекты регулирования искусственного интеллекта в Российской Федерации

В статье затрагиваются дискуссионные юридические и организационно-практические проблемы введения в легальный оборот и функционирования в России технологий искусственного интеллекта. Авторы рассматривают такие аспекты правового регулирования и практического использования цифровых технологий, как: юридическое определение понятия «искусственный интеллект» в ЕС и РФ; развитие нормативно-правовой базы в России по некоторым отраслям применения ИИ; экспериментальный «правовой режим» ИИ в субъектах РФ; безопасность и конфиденциальность данных, юридическая ответственность и этика оборота данных при использовании ИИ.

Ключевые слова: искусственный интеллект (ИИ), цифровые технологии, цифровизация права, правовое регулирование, закон о цифровых правах, «цифровые песочницы», этический кодекс, конфиденциальность данных, ответственность, кибербезопасность.

 

LEGAL ASPECTS OF REGULATION OF THE ARTIFICIAL INTELLIGENCE IN THE RUSSIAN FEDERATION

Annotation

This article focuses on the controversial legal, organizational and practical issues of the introduction into legal circulation and the functioning of artificial intelligence technologies in Russia. The authors  consider such aspects of legal regulation and practical use of digital technologies as legal definition of the concept of «artificial intelligence» in the EU and the Russian Federation; development of a legal regulatory framework in Russia for some areas of AI application; experimental «legal regime» of AI in the regions of the Russia; security and confidentiality of database, legal responsibility and ethics of data circulation by using AI.

Keywords: artificial intelligence (AI), digital technologies, digital rights, legal regulation, Law on Digital Rights, «digital sandboxes», code of ethics, confidentiality of database, responsibility, cybersecurity.

 

  1. Понятие цифровой трансформации и применение ИИ-технологий

«Четвертая промышленная революция»[1] вызвала к жизни инновационные технологические решения в биологическом[2], физическом и цифровом блоках, которые подвигают государства активнее разворачивать программы поддержки объективно происходящей во всем мире цифровой трансформации. Сегодня важнейшие элементы общественного бытия уже перенесены в виртуальное пространство со специфической темпоральностью новых технологий, что повлекло за собой революционизирующие преобразования также и в системе управления (от электронного правительства и умных городов до интернета вещей). «Это побуждает к применению политических механизмов стимулирования (программы всеобщей цифровизации и т.п.)» в контексте формирующейся цифровой цивилизации[3].

Еще несколько лет назад в мире было всего пять стран, которые занимались планированием развития технологий искусственного интеллекта (ИИ). В начале 2021 г. таких стран стало уже более 30. Во всем мире усилилась реальная угроза киберпреступности: по некоторым прогнозам, атаки хакеров происходят каждые 11 секунд[4]. Тревога за кибербезопасность еще более возросла в условиях вынужденной цифровизации как одного из главных последствий пандемии COVID-19[5].

Россия сегодня имеет заметные конкурентные преимущества в сфере цифровых технологий и легального распространения ИИ, в том числе благодаря сильной естественно-научной школе страны, базового физико-математического образования и компетенциям в сфере программирования, и проч. В этой ситуации отечественная юриспруденция должна способствовать своевременному нормативному регулированию надлежащему и легальному оформлению AI-технологий. К слову, в 2025 г. Россия будет принимающей страной ХХ Форума ООН по управлению интернетом (Internet Governance Forum, IGF), как одно из главных международных мероприятий по обсуждению развития Интернета и цифровых технологий, вопросов кибербезопасности и защиты персональных данных, «интернета вещей», блокчейна и больших данных[6].

В настоящее время научно-технический прогресс позволяет создавать т.н. «слабый ИИ», не обладающий собственным сознанием. Эта технология имеет в основе алгоритма обобщающую способность, благодаря которой ИИ может создавать результаты, выходящие за рамки замысла разработчиков. Уже сегодня ИИ применяется для освобождения человека от монотонной работы путем автоматического создания программного обеспечения; поддержки в принятии решений; автоматизации опасных видов работ; поддержки коммуникаций между людьми и др.[7] В недалеком будущем технология ИИ должна стать такой же базовой, как Интернет и сотовая связь. При этом ИИ является централизованной системой хранения и обработки данных, в отличие от децентрализованной технологии блокчейна.

На субрегиональном уровне в динамичной реальности цифровых технологий Европейский Союз своевременно отреагировал на нормативном уровне. Так, в 2018 г. в ответ на вызовы цифровой трансформации была принята «Декларация о сотрудничестве в сфере искусственного интеллекта»[8], направленная на обеспечение принципов прозрачности и подотчетности, соблюдение надлежащих правовых и этических норм, защиту основных прав и ценностей ЕС, включая неприкосновенность частной жизни и защиту персональных данных.

В частности, страны-участники данной Декларации согласились обмениваться лучшими практиками в области приобретения и использования ИИ органами государственного управления и в государственном секторе в целом; обмениваться мнениями относительно правовых и этических основ применительно к ИИ с целью обеспечения его разумного применения; обеспечивать сохранение за человеком ключевой роли в процессе развития, применения и принятия решений в отношении ИИ, предотвращать действия, направленные на создание или использование вредоносных решений на основе ИИ, и т.д.

Европейская Комиссия поддерживает такие законодательные инициативы, как финальная версия «Руководящие принципы этики для надежного применения искусственного интеллекта»[9], подготовленные Группой высокого уровня по ИИ от 08 апреля 2019 г., и подготовленный экспертами «Доклад об ответственности в сфере искусственного интеллекта и других новых технологий» от 21 ноября 2019 г. В этих документах задекларированы семь ключевых требований:

1) ИИ-технологии должны поддерживать уровень соблюдения прав и свобод человека и основные права граждан, не ограничивая при этом самостоятельность человека и справедливое общество; 2) безопасность ИИ-технологий и подконтрольность разработчикам на всех этапах жизненного цикла ИИ-систем; 3) конфиденциальность персональных данных в процессе использования ИИ-технологий с тем, чтобы такие данные оставались под полным контролем граждан и не использовались во вред им; 4) сохранение прозрачности и предсказуемости ИИ-технологий после машинного обучения, без угроз информационной безопасности; 5) недискриминационность и доступность ИИ-технологий для всех с учетом всего спектра человеческих способностей и потребностей; 6) экологичность и социо-ориентированность ИИ-технологий, направленных на позитивные социальные трансформации и повышение «экологической ответственности» социума; 7) обеспечение ответственности за результаты применения ИИ-технологий вплоть до признания ИИ-систем субъектами права и привлечения к юридической ответственности[10].

В современной России наблюдается массовый переход государственных органов и юридических лиц на цифровой формат обмена юридически значимой информацией и исполнения функций (например, посредством портала государственных услуг), а также ‎расширение государственно-частного партнерства в рамках экосистемы цифровой экономики страны.

Так, во исполнение поручения Президента РФ об обеспечении перевода в электронный формат к 2023 году массовых социально значимых государственных и муниципальных услуг, перечень таковых уже существенно расширился на портале госуслуг (например, онлайн-оформление документов при рождении ребенка, при заключении трудового договора, при расчете пенсии или обжаловании штрафов ГИБДД, внедрение услуг телемедицины и проч.).

В «Национальной стратегии развития искусственного интеллекта» 2019 г. было поставлено шесть основных задач: поддержка научных исследований, создание комплексной системы правового регулирования, разработка и развитие программного обеспечения, повышение доступности и качества данных, увеличение доступности аппаратного обеспечения, рост обеспеченности квалифицированными кадрами, а также повышение уровня информированности населения[11]. Как подчеркнул Президент РФ, «развитие искусственного интеллекта – вопрос национальной безопасности и выживания нашего государства. Возможности искусственного разума будут влиять на все сферы жизни, и на оборону, и на темпы развития экономики»[12].

В развитие намеченной стратегии Правительство РФ утвердило в прошлом году развернутую «Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года»[13]. Концепция состоит из пяти частей:

Часть I. «Общие положения» (цели, задачи, принципы и направления регулирования); Часть II. «Общеотраслевые задачи регулирования применения технологий искусственного интеллекта и робототехники» (оборот данных, юридическая ответственность, страховые институты, безопасность, термины и определения, международные документы); Часть III. «Отраслевые направления совершенствования регулирования применения технологий искусственного интеллекта и робототехники» (медицина, промышленность, транспорт, управление, градостроительство, космическая деятельность, финансовое законодательство); Часть IV. «Регуляторные меры для финансового стимулирования развития отрасли» (включая государственно-частное партнерство); Часть V. «Механизмы реализации Концепции».

В целом, Концепция направлена на создание комфортной регуляторной среды развития ИИ-технологий и робототехники, обозначая следующие задачи: 1) создание основ правового регулирования новых общественных отношений, формирующихся в связи с применением систем искусственного интеллекта и робототехники, имеющих преимущественно стимулирующий характер; 2) определение правовых барьеров, затрудняющих разработку и применение систем искусственного интеллекта и робототехники в различных отраслях экономики и социальной сферы; 3) формирование национальной системы стандартизации и оценки соответствия в области технологий искусственного интеллекта и робототехники.

В августе 2020 г. на заседании президиума Правовой комиссии по цифровому развитию был утверждён Федеральный проект «Искусственный интеллект», в рамках которого Минэкономразвития России было определено как отвечающее за координацию мероприятий по развитию экосистемы ИИ, Минкомсвязи России – как координатор мероприятий по внедрению ИИ и формированию наборов данных, Минпромторг России – как курирующее блок по разработке аппаратных комплексов и чипов. Федеральный проект направлен на развитие исследовательских центров в области «сильного» ИИ, компьютерного зрения, распознавания речи, этических аспектов применения ИИ-технологий, а также создание комплексной системы нормативных актов и стандартов в этой сфере.

На современном этапе в РФ наиболее успешными примерами интеграции ИИ-технологий в повседневную жизнь можно считать следующие продукты российских разработчиков с их программными решениями:

1) программные продукты компании «Яндекс», которая разработала систему управления беспилотными автомобилями и виртуальный голосовой помощник «Алиса»; 2) платформа распознавания лиц VisionLabs Luna и технология Face Pay для возможной оплаты проезда в метрополитене; 3) технологии компании ABBYY в области распознавания текстов и в сфере лингвистики; 4) российское программное обеспечение – робот «Вера», помогающий в эффективном подборе кандидатов и проведении интервью-собеседования; 5) система персонализированной рекламы «MyTarget» для пользователей Mail Group; 6) библиотека диалогового ИИ «DeepPavlov» для обработки естественного языка и сложных диалоговых систем; 7) программное обеспечение компании «Викиум» для анализа, визуализации мозговой активности и усиления когнитивных способностей пользователей; 8) система патентного поиска «PatSearch» от Роспатента, в которой методы ИИ используются при экспертизе заявок на изобретения и полезные модели.

При этом целый ряд сфер в РФ остаются еще не затронутыми цифровой трансформацией и ИИ-технологиями. Предстоит в ближайшее время определить условия обязательного страхования ответственности за вред, причиненный применением ИИ-систем и роботов. Другой проблемой формирования регуляторной среды остается отсутствие однозначного понимания важных терминов («искусственный интеллект», «робототехника», «умный робот», «интеллектуальный агент» и др.).

Из «горящих новостей» обсуждение в Государственной Думе РФ введения новой цифровой формы российской валюты, предложенной по инициативе Центробанка России, что предполагает возможность для россиян получать в недалеком будущем пенсии в цифровых рублях. При этом предстоит просчитать такие риски внедрения «цифрового рубля», как несанкционированный доступ к электронному кошельку и операциях клиента, риск хищения цифровой валюты при офлайн платежах, и др.

  1. Легальная дефиниция ИИ и расширение нормативной базы в РФ

В 2016 г. была принята «Доктрина информационной безопасности Российской Федерации»[14]. В ней под «информационной сферой» понимается совокупность информации, объектов информатизации, информационных систем, сайтов в «Интернет», сетей связи, информационных технологий и субъектов, деятельность которых связана с формированием и обработкой информации, развитием и использованием названных технологий, обеспечением информационной безопасности, а также совокупность механизмов регулирования соответствующих общественных отношений.

В числе мер по обеспечению информационной безопасности в РФ названы среди прочего сугубо правовые меры по обнаружению, предотвращению, отражению информационных угроз и ликвидации их последствий. В Доктрине также подчеркивается, что вероятность информационных угроз существенно повышается в связи с практикой информационных технологий без их увязки с обеспечением информационной безопасности. В качестве стратегических направлений было определено развитие национальной системы управления российским сегментом сети «Интернет», повышение защищенности критической информационной инфраструктуры и устойчивости ее функционирования, а также обеспечение безопасности информации, передаваемой по ней и обрабатываемой в информационных системах на территории РФ. В результате год спустя в России был принят специальный Закон о безопасности критической информационной инфраструктуры[15].

Законодательная дефиниция ИИ впервые была сформулирована в «Национальной стратегии развития искусственного интеллекта на период до 2030 года», утвержденной Указом Президента РФ от 10.10.2019. Так, согласно ст. 5 под «искусственным интеллектом» понимается «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений».

При этом в отдельном пункте содержится определение «технологий искусственного интеллекта», под которыми предлагается понимать «технологии, основанные на использовании искусственного интеллекта, включая компьютерное зрение, обработку естественного языка, распознавание и синтез речи, интеллектуальную поддержку принятия решений и перспективные методы искусственного интеллекта». К последним относятся «создание принципиально новой научно-технической продукции, в том числе в целях разработки универсального (сильного) искусственного интеллекта (автономное решение различных задач, автоматический дизайн физических объектов, автоматическое машинное обучение, алгоритмы решения задач на основе данных с частичной разметкой и (или) незначительных объемов данных, обработка информации на основе новых типов вычислительных систем, интерпретируемая обработка данных и другие методы)»[16].

Таким образом, приведенное определение охватывает два доступных на данный момент вида ИИ в широком понимании: 1) работающий на основе заранее определенных задач (имеющихся знаний), и 2) работающий автономно как технология, которая потенциально может заменить человека. Этот т.н. сильный ИИ гипотетически может имитировать как когнитивные функции человека, так и саму человеческую личность. Дальнейшая «автоматизация способна сделать человека крайне неэффективным», как об этом уже предупреждал Р.Б. Фуллер, основоположник принципа синергии[17].

С октября 2019 г. в России начал действовать т.н. Закон о цифровых правах, предусматривающий соответствующие поправки в Гражданский кодекс РФ [6]. Так, в новой статье 141.1 ГК РФ установлено, что содержание и условия осуществления цифровых прав будут определяться правилами информационной системы, которая должна отвечать признакам, установленным законом. Обладателем цифрового права признается тот, кто в соответствии с правилами информационной системы имеет возможность распоряжаться этим правом. Распоряжение цифровым правом возможно только в информационной системе без обращения к третьему лицу. Кроме того, письменная форма договора приравнивается к заключению сделки посредством электронных или иных технических средств. Однако, запрещается составление завещания с использованием электронных или иных технических средств. Наконец, этим законом в ГК РФ введены «самоисполняемые» сделки, или смарт-контракты, которые считаются заключенными и действительными когда совершаются дистанционно, например, путем отправки СМС или заполнения формы в Интернет. Вводится конструкция договора об оказании услуг по предоставлению информации, с условием о ее неразглашении третьим лицам, что призвано обеспечить защиту сбора и обработки значительных массивов обезличенной информации (Big Data).

С 1 января 2020 г. в РФ введены «электронные трудовые книжки», в связи со вступлением в силу Федерального закона от 16 декабря 2019 г. № 439-ФЗ «О внесении изменений в Трудовой кодекс Российской Федерации в части формирования сведений о трудовой деятельности в электронном виде». Он предусматривает постепенный переход к формированию основной информации о трудовой деятельности и трудовом стаже работника в электронном виде вместо бумажных трудовых книжек. Такие электронные трудовые книжки призваны избавить бизнес, отделы кадров компаний от излишних трудозатрат. Кроме того, они помогут минимизировать риск потери работниками сведений о своем трудовом стаже, освободить их от обязанности самим заниматься восстановлением данных о том, где и сколько они работали.

В начале 2021 г. в парламент был внесен законопроект о доступе разработчиков искусственного интеллекта к государственным большим данным. Эта инициатива предполагает открытие доступа к государственным информационным системам, ресурсам и реестрам, что в свою очередь поднимает вопрос о новом уровне качества анонимизации данных. Так, например, неоценимую помощь для малого и среднего бизнеса в выборе оптимальной локации для торговой точки оказало бы, наряду с картографическими данными и сведениями о потребителях, разрешение доступа к данным Росреестра о категории стоимости недвижимости, к данным операторов фискальных данных (по транзакциям в рознице) и других дата-сетов[18].

  1. Экспериментальный «правовой режим» ИИ в субъектах РФ

В настоящий момент активно разрабатывается комплексное регулирование т.н. экспериментальных правовых режимов. Так, в мае 2020 г. был внесен законопроект Минэкономразвития России № 922869-7 «Об экспериментальных правовых режимах в сфере цифровых инноваций в РФ»[19]. В нем под таким режимом понимается применение в отношении определенного круга лиц специального регулирования в сфере цифровых инноваций на определенный промежуток времени.

В свою очередь спецрежим означает нераспространение отдельных юридических актов или норм права, хотя и содержащих обязательные требования, например, по лицензированию, сертификации, аккредитации, получению допусков, разрешений, по способам идентификации участников сферы цифровых инноваций. В случае принятия законопроекта не исключено, что эксперименты по внедрению различных технологий будут в скором времени вводиться и в других субъектах.

С 2020 г. проходит эксперимент по дистанционному использованию усиленной неквалифицированной электронной подписи при предоставлении услуг и осуществлении иных действий с использованием ЕСИА (проект Постановления Правительства РФ «О проведении эксперимента по дистанционному использованию усиленной неквалифицированной электронной подписи при предоставлении услуг и осуществлении иных действий с использованием федеральной государственной информационной системы «Единая система идентификации и аутентификации в инфраструктуре, обеспечивающей информационно-технологическое взаимодействие информационных систем, используемых для предоставления государственных и муниципальных услуг в электронной форме»»). С помощью указанной подписи можно будет в том числе совершать сделки с использованием портала госуслуг, заключать договоры аренды федерального имущества, подписывать документы в целях трудоустройства, предоставлять налоговую отчетность граждан.

С 30 июне 2020 г. в России вступил в силу закон о получении усиленной неквалифицированной электронной подписи[20]. В нем предусматривается выдача удостоверяющим центром сертификатов ключей для проверки электронных подписей. Так, сертификат может быть выдан по заявлению в электронной форме без личного присутствия заявителя в отношении усиленных неквалифицированных электронных подписей. Но при этом идентификация личности проходит дистанционно по данным простой электронной подписи гражданина, ключ которой был ранее получен при личной его явке и при условии взаимодействия удостоверяющего центра с единой системой идентификации и аутентификации.

Напомним, что «информация в электронной форме», подписанная простой электронной подписью или неквалифицированной электронной подписью, признается «электронным документом», равнозначным документу на бумажном носителе, подписанному собственноручной подписью, в установленных случаях в соответствии с соглашением участников электронного взаимодействия (ст. 5 и 6 Федерального закона от 06.04.2011 №63-ФЗ «Об электронной подписи»). Например, в РФ жалобы на решения регистрирующих органов о госрегистрации и об отказе в ней могут подаваться в электронном формате, через интернет-сервисы под названием «Обратиться в ФНС России» или «Личный кабинет налогоплательщика» на сайте Федеральной налоговой службы РФ. При этом электронная жалоба должна быть подписана только усиленной квалифицированной электронной подписью заявителя[21].

С 1 июля 2020 г. в Москве начался пятилетний эксперимент по внедрению технологий ИИ на территории столицы в рамках Национальной программы «Цифровая экономика Российской Федерации»[22]. Закон № 123-ФЗ регламентирует условия для разработки и внедрения технологий ИИ, последующего использования результатов его применения.

  1. Этика оборота данных и риски ИИ-технологий, ответственность в сфере цифровых технологий

Особую актуальность во время пандемии COVID-19 приобретает проблема этичности внедрения цифровых решений и риски ИИ-технологий.

В декабре 2019 г. в рамках Недели российского интернета (RIW-2019) был принят «Кодекс этики использования данных» в РФ, одним из разработчиков которого выступила «Ассоциация больших данных»[23]. Этот свод профессиональных стандартов этического поведения закрепил принципы взаимодействия граждан, представителей бизнеса и государства при сборе, обработке, использовании и хранении данных. Кодекс направлен на создание базы для регуляторных инициатив в области использования данных, а также общих правил и границ допустимого поведения профессионального сообщества в связи с оборотом пользовательских, промышленных и других типов данных. В их числе принципы законности использования данных, добросовестности, профессиональной ответственности, недопустимости вмешательства в частную жизнь при обработке данных и т.д.

В «Кодексе этики» среди норм профессиональной этики хранения данных закрепляется также обеспечение надлежащего уровня защищенности используемых средств и методов, проведение расследования несанкционированного доступа к данным, добросовестный обмен опытом о способах противодействия деликтам, нарушающим информационную безопасность. Также были добавлены принципы при обработке и использовании данных: недопущение умышленной дискриминации граждан, запрет на фальсификацию данных, предотвращение вреда или ущерба пользователям, автоматизированная обработка данных граждан только при наличии их письменного или электронного согласия, запрет на введение пользователей в заблуждение относительно того, что они участвуют в исследовании рынка.

Профессиональнее сообщество уже оценило этот этический кодекс в качестве приемлемой основы для саморегулирования участников рынка данных, способного нормализовать их взаимодействие между собой и с гражданами, юрлицами и государством в сфере индустрии данных.

Поясним также, что в РФ действует специальное законодательство о безопасности критической информационной инфраструктуры (далее – КИИ), в том числе при проведении в отношении ее компьютерных атак. К субъектам КИИ относятся: госорганы и госучреждения, российские юридические лица и ИП, которым на праве собственности, аренды или на ином законном основании принадлежат информационные системы, информационно-телекоммуникационные сети, автоматизированные системы в сфере здравоохранения, науки, транспорта, связи, энергетики, финансового рынка, топливно-энергетического комплекса, атомной энергии, оборонной, ракетно-космической, горнодобывающей, металлургической и химической промышленности.

Выделяется особый состав деликта под названием «компьютерный инцидент», под которым понимается факт нарушения и (или) прекращения функционирования объекта КИИ, сети электросвязи или нарушения безопасности обрабатываемой информации, в том числе произошедший в результате компьютерной атаки. При этом в сетях электросвязи КИИ федеральный орган исполнительной власти организует установку средств, предназначенных для поиска признаков компьютерных атак.

Правовое регулирование отношений в области обеспечения безопасности КИИ в РФ дополняется Федеральным законом от 07.07.2003 №126-ФЗ «О связи». Кроме того, в УК РФ выделен особый состав по неправомерному воздействию на критическую информационную инфраструктуру Российской Федерации (ст. 274.1) в Главе 28 «Преступления в сфере компьютерной информации». Так, за нарушение правил эксплуатации средств хранения, обработки или передачи охраняемой компьютерной информации в сфере КИИ грозит принудительными работами на срок до пяти лет либо лишением свободы на срок до шести.

В текущий момент Министерство цифрового развития, связи и массовых коммуникаций РФ разрабатывает пакет документов по технологической независимости КИИ РФ[24]. В него входит проект Указа Президента РФ, в котором предусматривается утверждение требований к программному обеспечению и оборудованию на объектах КИИ, и порядок перехода на преимущественное использование российского ПО.

В середине 2019 г. Правительство РФ в рамках федерального проекта «Нормативное регулирование цифровой среды» подготовило законопроект «О национальной системе управления данными и о внесении изменений в Федеральный закон “Об информации, информационных технологиях и о защите информации в Российской Федерации”»[25]. В нем содержится новая терминология и закрепляются такие понятия, как «государственные данные», «обработка государственных данных», «государственный информационный ресурс» и др. Планируется систематизация ‎и управление объемным потоком создаваемого государством цифрового контента, внедрение на федеральном уровне «Единой информационной платформы национальной системы управления данными» и «Цифровой аналитической платформы предоставления статистических данных».

Летом 2020 г. был принят Федеральный закон о создании единого федерального информационного регистра сведений о населении РФ[26]. В этот регистр, оператором которого будет ФНС России, войдут все сведения о гражданах РФ, иностранцах и лицах без гражданства, временно или постоянно проживающих в РФ, признанных беженцами или получивших временное убежище в России, а также о временно пребывающих иностранных гражданах для трудовой деятельности. С одной стороны, создание такого централизованного информационного ресурса позволит сократить сроки оказания государственных услуг, повышение собираемости платежей в бюджеты, качественно новый уровень расчета и начисления налогов, сокращение мошеннических действий при получении мер социальной поддержки и уплаты налогов и т.д.

Но, с другой стороны, здесь встает проблема о конфиденциальности и надлежащем уровне защиты сведений, которые войдут в эту Базу больших данных, а именно: персональные данные физических лиц, в том числе ФИО, дата и место рождения и смерти, пол, гражданство и семейное положение; реквизиты паспорта и документов об образовании и квалификации; учетная запись на Едином портале госуслуг; данные о постановке на налоговый и воинский учет; и др. Ведь по этому закону ФНС России обязана сообщать сведения из Регистра по запросам суда, прокуратуры, органов следствия, органов принудительного исполнения и др.

В настоящее время Банк России разрабатывает информационный сервис по оценке риска клиентов кредитных организаций «Знай своего клиента»[27]. Данная цифровая платформа распределяет клиентов банков по зонам рисков с точки зрения проведения операций в целях финансирования терроризма или же легализации (отмывания) доходов, полученных преступным путем. Но здесь тоже встает вопрос защиты конфиденциальности данных и юридической ответственности за их неправомерное распространение. Ведь такой информацией могут воспользоваться не только банки РФ, и к тому же такие данные критически определяют режим работы с клиентом (например, принятие решения о проведении операции и открытии счета либо об отказе в этом). В то же время используя такую цифровую платформу, российские банки смогут выделять т.н. сомнительных клиентов и устанавливать незначительные и технические риски ОД/ФТ.

Роспатент внедряет цифровую платформу патентного поиска по международным источникам, базирующуюся в том числе на ИИ. В 2021 г. начнется тестирование программного обеспечения указанного сервиса, который позволит проводить автоматический поиск информации по всему мировому патентному фонду. Еще один факт, что Федеральная антимонопольная служба России разработала антимонопольный пакет, учитывающий особенности влияния на конкуренцию «ценовых роботов» (программ, которые могут быть основаны на алгоритмах ИИ)[28].

Сегодня в РФ широко обсуждается проблема некачественного состояния информационной безопасности. Отмечается невысокий уровень внедрения отечественных разработок и недостаточный профессионализм в сфере информационной безопасности, низкая осведомленность и инертность российских граждан в вопросах обеспечения личной информационной безопасности. Все еще не имеют комплексной основы мероприятия по обеспечению безопасности информационной инфраструктуры в РФ, включая использование российских информационных технологий и ПО. Отсутствует полноценная система административно-правового и нормативно-технического регулирования в области ИИ. Имеется несовместимость ряда положений российского законодательства о защите данных с технологиями ИИ.

Дискутируется проблема защиты данных в цифровых технологиях и усиления режима конфиденциальности информации. В РФ любые действия (операции) для исследовательских целей с персональными данными должны осуществляться только с условием обязательного их обезличивания (ст. 6 Закона «О персональных данных»).

Еще одним нововведением в законодательстве о персональных данных стало расширение условий обработки специальных категорий персональных данных. Это те, которые касаются расовой и национальной принадлежности, политических взглядов, религиозных или философских убеждений, состояния здоровья, интимной жизни.

И здесь встает проблема особого юридического статуса такой специальной категории персональных данных. Ведь при нарушении условий их обработки могут наступить особо негативные последствия для субъекта. Например, обработка персональных данных, касающихся состояния здоровья человека, допускается только, если это происходит после обезличивания персональных данных, и требуется в целях повышения эффективности государственного управления.

Тревожным аспектом применения ИИ-технологий остается проблема безопасности и соблюдения строгого контроля за их деятельностью. Хотя это противоречит самой сути функционирования ИИ. Один из аспектов данного направления дискуссии связан с усилением ответственности за правонарушения с компьютерной информацией.

Так, Фонд «Сколково» и Минэкономразвития России внесли инициативу по дополнению Уголовного кодекса РФ в части ответственности за неправомерный доступ к охраняемой компьютерной информации и нарушение правил эксплуатации средств хранения, обработки или передачи такой информации (ч. 2 и 3 ст. 274.1 УК РФ). Дело в том, что в действующей реакции этой статьи понятие «вреда» так и не раскрыто. На практике это приводит к необоснованному привлечению к ответственности по формальным основаниям специалистов по обслуживанию объектов критической инфраструктуры. Например, сегодня за кратковременный сбой сервера или неудачное обновление программного обеспечения, в результате которого перестал работать сайт госоргана, банка или больницы, администратор сайта и владелец сервера привлекаются к уголовной ответственности, хотя бы и не было установлено общественно опасных (материального вреда) последствий. Поэтому предлагается включить в ст. 274.1 УК РФ формулировку: «причинение крупного ущерба (более 1 млн руб.)».

Другой аспект этой дискуссии связан с активным внедрением беспилотного транспорта в РФ и юридической ответственности ИИ за причиненный вред жизни и здоровью человека. Наиболее характерным примером выступает функционирование беспилотного автомобиля без инженера-тестировщика и тогда встает вопрос о распределении юридической ответственности при аварии. Практикующие юристы считают, что статьи 264 или 268 УК РФ об ответственности за нарушение правил дорожного движения или эксплуатации транспортных средств, не подходят к этим случаям аварии с участием беспилотного автомобиля. Причина заключается в строго формальном характере положений УК, который четко определяет субъектов транспортных преступлений. Одним из выходов из такой коллизии может стать квалификация причиняемого беспилотниками вредя по ч. 2 ст. 238 УК РФ, как «оказание услуг, не отвечающих требованиям безопасности, если они повлекли по неосторожности причинение тяжкого вреда здоровью либо смерть человека».

Запланированное в России внедрение «Национальной системы управления данными» откроет доступ в Интернете ко всем обрабатываемым госданным, который будет свободным и бесплатным. Кроме этого, настораживает, что информация, относящаяся к охраняемой законом тайне или ограниченная в доступе, также может быть доступна неограниченному кругу лиц если будет преобразована в обезличенную информацию.

В РФ отсутствует нормативно-техническое регулирование процесса уничтожения персональных данных, что создает для операторов серьезные проблемы. Что понимать под «уничтожением», является ли оно в конкретном случае полным или выборочным, и как трактовать такие действия. По этой причине предлагается дополнить ст. 21 Федерального закона «О персональных данных» новой нормой об обязанности операторов персональных данных по уничтожению таких данных с учетом требований Роскомнадзора[29]. И если оператор не в состоянии уничтожить персональные данные в установленные сроки, то он должен осуществить их блокировку и в течение полугода все же обеспечить уничтожение этих данных.

Мы поддерживаем внедрение экспериментального правового режима в Москве, где сконцентрировано огромное количество IT-компаний, поэтому можно более эффективно протестировать правовое регулирование. В противном случае внедрение подобных экспериментов с «цифровой песочницей» сразу в нескольких субъектах РФ, могло лишь помещать складыванию единообразной практики и реально работающего правового механизма.

Применение ИИ, который всё активнее внедряется в частную жизнь каждого и способен в ближайшем будущем заменить собой людей, лишив их мест занятости etc., поднимает большие сугубо юридические вопросы и общие этические опасения. При своевременной разработке эффективной регуляторной среды для ИИ-технологий Российская Федерация будет способна стать одним из международных лидеров в развитии и использовании систем искусственного интеллекта.

 

ИНФОРМАЦИЯ ОБ АВТОРАХ:

Данельян Андрей Андреевич (Andrey A. Danelyan)

заведующий кафедрой международного права

Дипломатической академии МИД России

(Diplomatic Academy of the Ministry of Foreign Affairs of the Russia),

доктор юридических наук, профессор;

Трикоз Елена Николаевна (Elena N. Trikoz)

кандидат юридических наук;

доцент кафедры теории права и сравнительного правоведения

Международно-правового факультета МГИМО МИД России

(MGIMO University);

доцент кафедры истории права и государства Юридического института РУДН (RUDN University).

Гуляева Елена Евгеньевна (Elena E. Gulyaeva)

кандидат юридических наук;

доцент кафедры европейского права Дипломатической академии МИД РФ

(Diplomatic Academy of the Ministry of Foreign Affairs of the Russia);

член Совета по международным делам Международного Института прав человека (Аргентина).

 

[1] Этот термин был введен в 2011 г. в рамках немецкой инициативы «Индустрия 4.0» как проекта государственной Hi-Tech стратегии, в основе которой мобильный Интернет, Искусственный интеллект и обучающиеся машины. В 2016 г. эта тема была высоко оценена на Всемирном экономическом форуме в Давосе, президент которого Клаус Шваб стал автором книги-бестселлера – см.: Шваб Клаус Мартин. Технологии четвёртой промышленной революции = Shaping The Fourth Industrial Revolution. М., 2018. 320 с.

[2] О достижениях в биологической сфере, новых возможностях синтетической биологии, и связанных с генетическим секвенированием и геномным редактированием юридических и этических проблемах см. подробнее: Гуляева Е.Е., Трикоз Е.Н. Юридические аспекты генетических исследований в странах Латинской Америки (опыт судебной генетики в Аргентине) // Международный правовой курьер. 2020. № 3-4. Июль-Август. С. 56-60; Трикоз Е.Н. Защита прав человека в контексте развития биоэтики и геномики (обзор международного круглого стола) // Вестник Российского университета дружбы народов. Сер. Юридические науки. 2019. Т. 23. № 1. С. 141-154; Трикоз Е.Н., Гуляева Е.Е. Позиции ЕСПЧ по некоторым вопросам биоэтики и генетических данных // Advances in Law Studies. Scientific and Theoretic Journal. 2018. Т. 6, № 4. С. 36-40.

[3] Шестакова И.Г. Новая темпоральность цифровой цивилизации: будущее уже наступило // Научно-технические ведомости СПбГПУ. Гуманитарные и общественные науки. 2019. Т. 10, № 2. С. 26.

[4] Cybercrime To Cost The World $10.5 Trillion Annually By 2025. URL: https://cybersecurityventures.com/cybercrime-damages-6-trillion-by-2021/ (дата обращения: 21.01.2021).

[5] Malinovsky A.A., Osina D.M., Trikoz E.N. (2021) State Support for the Russian Economy Affected by Covid-19 Consequences (Legal Aspects). In: Ashmarina S., Mantulenko V., Vochozka M. (eds) Engineering Economics: Decisions and Solutions from Eurasian Perspective. Lecture Notes in Networks and Systems, vol 139. Springer, Cham. Р. 283-287; Гуляева Е.Е., Трикоз Е.Н. Юридические аспекты политики противодействия коронавирусной инфекции (COVID-19) в РФ // Международный правовой курьер. 2020. № 9. С. 22-28.

[6] Юбилейный Форум ООН по управлению интернетом пройдет в России. URL: https://digital.gov.ru/ru/events/39982/ (дата обращения: 21.01.2021).

[7] Дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект». М., 2019. С. 1-2.

[8] EU Declaration of cooperation on Artificial Intelligence, 10 April 2018. URL: https://ec.europa.eu/jrc/communities/sites/jrccties/files/2018aideclarationatdigitaldaydocxpdf.pdf (дата обращения: 21.01.2021).

[9] https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai (дата обращения: 18.01.2021).

[10] Еврокомиссия объявила о начале промышленного освоения «этичного ИИ». Отдел новостей Экспертного центра электронного государства d-russia.ru. 09.04.2019. URL: https://d-russia.ru/evrokomissiya-obyavila-o-nachale-promyshlennogo-osvoeniya-etichnogo-ii.html (дата обращения: 18.01.2021).

[11] Национальная стратегия развития искусственного интеллекта на период до 2030 года, утв. указом Президента РФ от 10 октября 2019 г. № 49 // СПС ГАРАНТ (дата обращения: 21.01.2021).

[12] Владимир Путин. Искусственный интеллект – вопрос национальной безопасности // URL: https://digital.ac.gov.ru/news/4053/ (дата обращения: 21.01.2021).

[13] Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года, утв. распоряжением Правительства РФ от 19 августа 2020 г. № 2129-р. URL: http://publication.pravo.gov.ru/Document/Text/0001202008260005 (дата обращения: 18.01.2021).

[14] Указ Президента РФ от 05.12.2016 № 646 «Об утверждении Доктрины информационной безопасности Российской Федерации» // СПС Гарант. URL: http://base.garant.ru/71556224/ (дата обращения: 21.01.2021).

[15] Федеральный закон от 26.07.2017 №187-ФЗ «О безопасности критической информационной инфраструктуры Российской Федерации» // СПС Гарант. URL: http://base.garant.ru/71730198/ (дата обращения: 21.01.2021).

[16] Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» // СПС Гарант. URL: https://www.garant.ru/products/ipo/prime/doc/72738946/ (дата обращения: 21.01.2021).

[17] Fuller R.B., Applewhite E.J. Synergetics: analysis of the geometry of thinking. New York, 1975. Р. 57.

[18] Мельникова Ю. Разработчики ИИ прорвались к госданным // ComNews. 07.12.2020. URL: https://www.comnews.ru/content/212016/2020-12-07/2020-w50/razrabotchiki-ii-prorvalis-k-gosdannym (дата обращения: 21.01.2021).

[19] Текст законопроекта №922869-7 «Об экспериментальных правовых режимах в сфере цифровых инноваций в РФ» и материалы к нему доступны на сайте Госдумы РФ.

[20] Федеральный закон от 23.06.2020 № 183-ФЗ «О внесении изменений в статьи 1 и 3 Федерального закона «О внесении изменений в Федеральный закон «Об электронной подписи» и статью 1 Федерального закона «О защите прав юридических лиц и индивидуальных предпринимателей при осуществлении государственного контроля (надзора) и муниципального контроля»» // URL: http://base.garant.ru/74292066/ (дата обращения: 21.01.2021).

[21] URL: http://www.garant.ru/news/1380684/т(дата обращения: 21.01.2021).

[22] Федеральный закон от 24.04.2020 №123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»» // СПС Гарант. URL: http://base.garant.ru/73945195/

[23] URL: http://www.garant.ru/news/1309157/#ixzz6UXNYiZHF (дата обращения: 21.01.2021).

[24] Проект Указа Президента РФ «О мерах по обеспечению информационной безопасности в экономической сфере при использовании программного обеспечения и оборудования на объектах критической информационной инфраструктуры» (ID: 01/03/05-20/00102172) и проекты постановлений Правительства РФ на федеральном портале проектов нормативных правовых актов. URL: https://regulation.gov.ru/ (дата обращения: 21.01.2021).

[25] Текст законопроекта и материалами к нему на Федеральном портале проектов нормативных правовых актов (ID: 04/13/08-19/00093755). URL: https://regulation.gov.ru/  (дата обращения: 21.01.2021).

[26] Федеральный закон от 08.06.2020 №168-ФЗ «О едином федеральном информационном регистре, содержащем сведения о населении Российской Федерации». URL: http://base.garant.ru/74232857/ (дата обращения: 21.01.2021).

[27] Текст информации о платформе на официальном сайте Банка России. URL: https://www.cbr.ru/press/event/?id=6837 (дата обращения: 21.01.2021).

[28] Войниканис Е.А., Семенова Е.В., Тюляев Г.С. Искусственный интеллект и право: вызовы и возможности самообучающихся алгоритмов // Вестник ВГУ. Серия: Право. 2018. № 4. С. 138-148

[29] Текст законопроекта размещен на федеральном портале проектов нормативных правовых актов (ID: 01/05/08-19/00093621).

Добавить комментарий

Войти с помощью: