Уровень достижения современных информационных и коммуникационных технологий дает повод международному юридическому сообществу задуматься о потенциальной угрозе доступа третьих лиц не только к нашей личной информации, но и к нашим мыслям. Применяемые в нейробиологии технологии могут обеспечить такую возможность уже в ближайшем будущем. Поскольку в настоящее время нейротехнологии используются только для картирования и изменения активности человеческого мозга, правовое регулирование их использования может показаться ненужным. Однако изменение в осознании серьезности и актуальности данной проблемы произойдет в международном сообществе тогда, когда информация о нейронной активности человеческого мозга будет широко известна. Столкновение нейротехнологии и права, появление новых категорий прав человека в области нейробиологии требуют правовой регламентации.
Ключевые слова: нейротехнологии, искусственный интеллект, кибербезопасность, киберсфера, биозащита, нейроправа.
Neurosecurity as a New Trend in International Law
Annotation: The level of achievement of modern information and communication technologies gives rise to the international legal community to think about the potential threat of third-party access not only to our personal information, but also to our thoughts. Technologies applied in neuroscience may provide such an opportunity in the near future. Since neurotechnologies are currently used only to map and change the activity of the human brain, legal regulation of their use may seem unnecessary. However, a change in awareness of the seriousness and relevance of this problem will occur in the international community when information about the neural activity of the human brain is widely known. The collision of neurotechnology and law, the emergence of new categories of human rights in the field of neurobiology require legal regulation.
Keywords: neurotechnologies, artificial intelligence, cybersecurity, cybersphere, biosecurity, neurolaw.
В российском научном сообществе в 2021 году «Состав номенклатуры научных специальностей пополнили четыре новые группы, в частности, компьютерные науки и информатика, биотехнология, недропользование и горные науки, когнитивные науки»[1]. Это позволяет констатировать особую значимость данной темы для внутренней и внешней политики Российской Федерации. Так, еще в 2019 году Минкомсвязью России была утверждена «Дорожная карта развития сквозной цифровой технологии «Нейротехнологии и искусственный интеллект»[2]. В разделе субтехнологии «Нейросенсинг и Нейростимуляция» в рамках программы «Викиум» предусмотрена разработка программного обеспечения для отслеживания, анализа, визуализации мозговой активности и усиления когнитивных способностей пользователя. Кроме того, в рамках задачи для субтехнологии «Нейропротезирование и нейроинтерфейсы», программа «ЭкзоАтлет» является ответственной за разработку продуктов в области протезирования и экзоскелетов, которые помогают людям с ограниченными возможностями, а также улучшают физические способности пользователя.
В 2021 году Президент Российской Федерации В.В. Путин дал поручение, в соответствии с которым Минобрнауки разрабатывается новая федеральная программа «Мозг, здоровье, интеллект, инновации на 2021-2029 гг.»[3], в рамках которой планируется развивать технологии вживления чипов в мозг человека для передачи данных с внешних устройств. Согласно проекту, в России планируется развивать технологии нейроинтерфейсов, позволяющих управлять внешними устройствами напрямую с помощью электрических сигналов мозга, которые с помощью искусственного интеллекта трансформируются в команды управления.
Кроме того, недавно была запущена новая российская технология воссоздания снов[4], которая поможет восстанавливать пациентов после перенесенных ими инсультов и коронавируса с помощью нейрогарниты, связанной с приложением в телефоне или компьютере.
Сегодня мы являемся свидетелями динамично развивающейся междисциплинарной области, именуемойкибербиобезопасностью, которая сочетает в себе кибербезопасность, биозащиту и киберфизическую безопасность в отношении биологических систем[5].
Очевидно, что современное развитие медицины и биотехнологий, от генетики и нейронаук до гериатрии и паллиативной медицины расширили области влияния человека на его жизнь, превратив жизнь из ранее естественно-правовой категории в одну из форм культуры.
Использование методов электростимуляции мозга, имплантирование электродов в мозг вызывают озабоченность по поводу влияния этих действий на личность пациента. Например, они напоминают, что американские ученые военного ведомства провели процедуру «транскраниальной стимуляции постоянного тока» (tDCS), которая повышает умственные способности персонала. И устройства с такой функцией уже доступны на открытом рынке. А в 2011 году ученые из Калифорнийского университета в Беркли использовали сканирование мозга для восстановления кадров из фильмов, которые люди смотрели ранее. К этому можно добавить практику мозговой электростимуляции, осуществляемую людям с болезнью Паркинсона. Нередки случаи, когда после такого вмешательства люди теряли некоторые аспекты своего самосознания.
В сентябре 2021 года на ежегодной конференции Европейской ассоциации международного права в Стокгольме (Швеция) обсуждались вопросы влияния эмоций на правоприменение. Вне зависимости от позиции в этом споре, ясно, что эмоциональные аспекты использования искусственного интеллекта в войне требует серьезного обсуждения и обдумывания. Профессор международных отношений Роуз Макдермот считает, что понимание роли человеческих эмоций в принятии решений очень важно для выстраивания эффективной и взвешенной политики по отношению к киберсфере[6]. Не менее важно мыслить в контексте международного военного законодательства и гуманитарного права.
В международном гуманитарном праве используется концепция «разумных командиров», особенно при оценке принципа пропорциональности. Сторонники использования в войне искусственного интеллекта считают, что лишь отсутствие эмоций позволяет принимать наиболее рациональные решения. Однако разумные командиры являются таковыми не из-за отсутствия эмоций, а, напротив, благодаря их способности испытывать человеческие эмоции, сочувствовать, сострадать и понимать важность чувства собственного достоинства. С точки зрения противников САСВ, эмоции необходимы во время войны для значимого контроля со стороны человека. В 2016 году государства-участники Конвенции о конкретных видах обычного оружия создали группу правительственных экспертов по САСВ, которая с тех пор ежегодно собирается в Женеве. Эмоции играют главную роль при обсуждении использования искусственного интеллекта во время военных действий. Несомненно, специалисты в области международного права должны активно участвовать в обсуждении этих вопросов.
Концепции права на жизнь все еще борются с изменяющимся статусом человеческой и других форм жизни. Австрийский ученый Стефан Кирсте полагает, что существует три подхода, которые пытаются дать ответ на вопрос о содержании права на жизнь сегодня: а) натуралистические теории, которые рассматривают право на жизнь как защиту естественных прав и интересов человека на жизнь или другими словами просто применять биологическую концепцию жизни; б) процессуальные теории, которые понимают право на жизнь как форму взаимного признания; в) то, что некоторые авторы называют «культурным подходом», которые определяют концепцию права на жизнь на основе обычного языка или «интуиции»[7].
Актуальность рассматриваемого вопроса предопределена следующими факторами. Во-первых, в настоящее время во всём мире активно реализуются международные научные проекты (BRAIN, BIOS, Blue Brain Project, Human Brain Project и т.д.) направленные на сбор, исследование, хранение и передачу нейронной информации о человеческом мозге, а также последующее применение приобретенных данных в повседневной жизни. Так, технологии, связанные с разработками в области нейронных связей человеческого мозга, повсеместно внедряются в такие сферы, как например: военное дело, банковское дело, медицина, промышленная биотехнология, производство, маркетинг, индустрия игр, судебная экспертиза и криминалистическая деятельность. При этом отсутствует контроль со стороны международного сообщества за состоянием биоресурсных коллекций медицинских данных и биоматериалов для научных исследований. Совершенствование данных технологий требует поиска новых способов и методов обеспечения безопасности, как отдельного индивида, так и общества в целом.
Таким образом, возникает потребность в осознании международным сообществом концепции «ответственного развития нейротехнологий» и проблем, связанных с необходимостью защиты конституционных и гражданских прав человека, которые могут возникнуть в результате проведения научных исследований и их последующего прикладного использования.
Во-вторых, исследования в области нейронных связей человеческого мозга порождают ряд не только правовых, но и социальных, этических, моральных проблем. Одним из современных направлений метаэтики выделяют «нейроэтику». Неоспоримые преимущества рассматриваемых исследований зачастую сопряжены с потенциальными рисками для здоровья человека и общества, окружающей среды и экологии. Быстрота прогресса разработок в области генетических и нейро исследований, в том числе применение искусственного интеллекта, обеспокоило не только международное сообщество, но и заставило ряд выдающихся учёных области биотехнологий (Д. Балтимор, П. Берг, Д. Дудна и др.) приостановить свои исследования и обратиться к другим учёным с подобной просьбой до выработки комплекса правовых, этических и технических норм в рассматриваемой сфере.
В-третьих, учитывая скорость развития и расширение масштабов разработок в области человеческого мозга, предмет правового регулирования указанной сферы подвержен постоянным трансформациям[8]. Так, ежегодно не только появляются новые тенденции в исследованиях деятельности мозга человека, но и расширяются границы правового регулирования, а значит возникает необходимость в юридическом исследовании и последующем формировании особой регуляторной среды[9]. Как отмечает профессор В.С. Нерсесянц, «формирование новых отраслей права происходит на междисциплинарном стыке».
Сегодня становится серьезной угрозой, когда третьи стороны получают доступ не только к нашей личной информации, но и к нашим мыслям. Технологии, применяемые в нейробиологии, могут позволить сделать это уже в ближайшем будущем. Хотя в настоящее время правовое регулирование использования нейротехнологий может показаться ненужным, пока они используются только для картирования и изменения активности человеческого мозга, но этот вопрос становится актуальным и вызывает обеспокоенность. Потенциальные изменения произойдут в международном научном сообществе, когда информация о нейронной активности человеческого мозга будет полностью отображена и расшифрована исследователями. Пересечение нейротехнологий (NeuroNet) и права, новые вызовы и угрозы, появление новых категорий прав человека, возникающих в нейробиологии, требуют правовой регламентации[10].
Чили стало официально первым в мире государством, в котором предложен законопроект, содержащий четыре основных аспекта защиты прав человека: защита данных человеческого разума или нейроданных; установление ограничений на нейротехнологию чтения и особенно письма в мозге; установление справедливого распределения и доступа к этим технологиям; и установление правовых ограничений на нейроалгоритмы[11].
В апреле 2013 года Президентом США Бараком Обамой инициирована программа BRAIN[12] , которая рассчитана на срок не менее 15 лет (до 2028 года), бюджет на 2019 год превысил 6000 миллионов долларов, а лаборатории располагались в различных государствах мира. Программа представляет собой исследование, основанное на нейробиологии, направленное на изучение нервной системы и взаимодействия между различными частями мозга, которое дает начало биологическим основам познания. Заявленная цель проекта — отобразить всю нейронную активность человеческого мозга, чтобы понять, как она функционирует. В случае достижения этой цели трудно представить последствия: от возможности лечения болезней Паркинсона и Альцгеймера до создания протезов, которые позволят подключать мозг к Интернету, узнавать о прошлых событиях, прогнозировать поведение и, в конечном итоге, изменять будущие модели поведения человека. Потенциальные изменения будут влиять на определенный образ жизни, и на саму правовую природу того, что означает быть «человеком» (right to be a human—being).
Инициатива BRAIN структурирована аналогично тому, что было проектом генома человека, такой же глобальной научной инициативой, запущенной в середине 1980-х годов с целью выявления около 25 000 генов, составляющих ДНК человека, завершенный в 2001 году. Цели инициативы разделены на три основных области: (i) картирование нейронной активности, (ii) помощь в лечении неврологических состояний и (iii) содействие созданию новых теоретических и компьютерных моделей[13].
Развитие технологий позволяет нам понять функционирование мозга, различные аспекты сознания, мыслительной деятельности, высших психических функций, открывает возможность непосредственно вмешиваться в его деятельность и, таким образом, различными способами манипулировать активностью мозга. Поскольку технология нейтральна, ее использование может иметь как положительные, так и отрицательные последствия. Медицинские и технологические возможности могут быть использованы при расшифровке нейронного кода. Основываясь на существовании данной угрозы с точки зрения применения современных биотехнологий, группа нейробиологов во главе с профессором Юсте[14] опубликовала в журнале Nature серию этических правил, целью которых является регулирование применения нейронных технологий. Специалисты назвали их нейроправами, и цель состояла в том, чтобы спровоцировать дискуссию о необходимости правовой регламентации данного вопроса, о правах, обязанностях и юридической ответственности субъектов общественных отношений. Полагаем, важно согласиться с группой экспертов, которые предлагают добавить нейроправа во Всеобщую декларацию прав человека 1948 года[15] и рекомендуют разработать и принять международный договор, квалифицирующий запрещенные действия, связанные с применением нейротехнологий, и причиненный вред здоровью в качестве состава международного преступления, в частности, как преступление против человечности (нейроцид), а Комитет по мониторингу сможет определять допустимость и необходимость использования современных нейротехнологий.
Стоит отметить зарождение таких нейроправ, как (i) когнитивная (познавательная) свобода (на англ. cognitive freedom); (ii) психическая конфиденциальность (на англ. mental privacy); (iii) психическая неприкосновенность (на англ. mental integrity); и (iv) психологическая преемственность (на англ. psychological continuity)[16]. На международном и национальном уровне требуется юридическое закрепление таких терминов как «нейроправа», «когнитивная свобода», «нейрохакинг», «нейродоппинг», «нейроцид», «трансплантация имплантов в мозг человека» и др.
Следует установить универсально согласованные и принятые правила и нормы поведения, которые были бы эффективными в предотвращении манипулирования человеческими мыслями, чувствами и нейронной информацией с помощью современных цифровых сквозных технологий.
В связи с этим можно выделить четыре области потенциальных угроз индивидуальным правам, которые требуют немедленных действий со стороны юридического сообщества. Хотя проблемы существуют в контексте нейротехнологии, они применимы к существующему искусственному интеллекту, среди них: (i) конфиденциальность и согласие; (ii) идентичность и значение субъективного сознания / свободная воля; (iii) повышение человеческого потенциала / контролируемый рост; и (iv) предвзятость.
Так, на региональном уровне с этой целью в рамках Европейской Комиссии ЕС создана Европейская группа по вопросам этики в науке и новым технологиям (European Commission European Group on Ethics in Science and New Technologies — EGE)[17]. Данное учреждение ЕС в настоящий момент работает над темами по редактированию генома человека, применению искусственного интеллекта и по вопросам будущих потенциальных вызовов человечеству. В своем недавно опубликованном официальном заявлении «Ценности будущего: роль этики в европейском и глобальном управлении» («Values for the future: the role of ethics in European and global governance») данный орган придает особое значение роли ценностей и предлагает выделить центральное и активное место этики в управлении в Европе и мировом сообществе[18].
В условиях технологической революции возникает, в том числе, и необходимость говорить о важности защиты персональных данных в сфере исследований нейронных связей человеческого мозга в киберпространстве[19]. Следует констатировать тот факт, что биологические и медицинские исследования, разработки в области технологий привели к впечатляющим достижениям в области здравоохранения. Однако эти достижения поднимают этические вопросы, которые влияют на личность и защиту прав и достоинства человека (создание национальных и персонифицированных биобанков, использование современных технологий, создание баз данных о здоровье (mental data/neural data), развитие содержания парадигмы «нейроразнообразия» и т. д.). Некоторые специалисты в области прав человека высказывают точку зрения, согласно которой на смену века прав индивида придет концепция коллективных прав всего человечества.
В январе 2022 года были приняты Рекомендации Международного комитета ЮНЕСКО по биоэтике в отношении применения нейротехнологий. Главной темой последнего доклада стало провозглашение новых прав человека – нейроправ. В этом документе формулируется ряд рекомендаций и отмечается, что механизмы защиты прав человека не охватывают все аспекты нейронаук, в частности таких, как психическая неприкосновенность и свобода воли.
Наконец, в докладе МКБ рекомендуется отвести ЮНЕСКО ведущую роль в обеспечении всем людям права на защиту деятельности их мозга и гарантии того, что регистрируемые данные не будут использоваться, обнародоваться и передаваться третьим лицам без их осознанного и явно выраженного согласия. В настоящее время под руководством ЮНЕСКО идут международные обсуждения с целью выработки общих принципов, которые лягут в основу международных правовых инструментов регулирования сферы нейротехнологий.
В связи с этим, в международном сообществе назрела необходимость создания нормативно-правовой базы, которая включает правовые основания ограничения использования нейротехнологий, критерии законности применения современных медицинских технологий в отношении индивидов, а также обеспечение всесторонней защиты прав и основных свобод пациентов через ответственное развитие нейротехнологий, как во внутригосударственном, так и в международном праве.
Список использованных источников:
- Murch R. Cyberbiosecurity: An Emerging New Discipline to Help Safeguard the Bioeconomy URL: https://www.researchgate.net/publication/324224452_Cyberbiosecurity_An_Emerging_New_Discipline_to_Help_Safeguard_the_Bioeconomy
- Rose McDermott. Some Emotional Considerations in Cyber Conflict // Journal of Cyber Policy. 4(3), 2019.
- Stephan Kirste. The Right to life as a Right to Self-Determination about one’s life. Universitat Salzburg. Pp.19-43.
- Juan Antonio Travieso, Angelo Viglianisi Ferraro, Elena Trikoz, Elena Gulyaeva. BIOETHICAL ASPECTS OF THE INSTITUTION OF HUMAN RIGHTS IN LATIN AMERICA // Racionalidad, Derecho Y Ciudadanía [livro eletronico] / Organizacao Ricardo Mauricio Freire Soares… [et al.]. Salvador, BA: Direito Levado a Serio, 2021. 177 p. – Pp. 89-101.
- Ястребова А.Ю., Гуляева Е.Е. Право на здоровье в системе международно-правовой защиты прав человека на универсальном и региональном уровне. Московский журнал международного права. 2021. №2. С. 99-121.
- Данельян А.А., Гуляева Е.Е. Международно-правовые аспекты кибербезопасности. Московский журнал международного права. 2020. №1. С. 44-53.
Информация об авторах:
Данельян Андрей Андреевич, доктор юридических наук, профессор, заведующий кафедрой международного права Дипломатической академии МИД России
Гуляева Елена Евгеньевна, кандидат юридических наук; доцент кафедры международного права Дипломатической академии МИД РФ
Inforation about the authors:
Danelyan Andrey Andreevich, Doctor of Law, Professor, Head of the Department of International Law of the Diplomatic Academy of the Ministry of Foreign Affairs of Russia
Gulyaeva Elena Evgenievna, candidate of legal sciences; Associate Professor of the Department of International Law of the Diplomatic Academy of the Ministry of Foreign Affairs of the Russian Federation
[1] URL: https://www.rbc.ru/society/10/04/2021/607167f39a794766130f7984?from=materials_on_subject (дата обращения: 11.02.2022).
[2] https://www.tadviser.ru/images/0/0a/%D0%98%D0%98.pdf (дата посещения: 11.02.2022).
[3] https://www.vedomosti.ru/technology/news/2021/06/22/875041-proekta-vzhivleniyu-chipov-mozg (дата обращения: 11.02.2022).
[4] Гарнитура ловит сигналы электроэнцефалограммы, считывает активность мозга с поверхности головы и таким образом получает данные о состоянии мозга. Данная технология также может использоваться и для воссоздания снов — поскольку во время сна активность мозга продолжается, то можно определить, какого рода сон видел человек. Отмечается, что «Разработанный аппаратно-программный комплекс позволяет локализовать источники активности мозга на разные аудиовизуальные стимулы, а впоследствии тренировать его за счет биологической обратной связи (нейроБОС). В рамках постинсультной реабилитации очень важно как можно скорее начинать тренировки, чтобы сохранить не пострадавшие нейронные связи и начать формировать новые. Во время сна человек часто более восприимчив, и это время также можно и нужно использовать для восстановления». URL: https://ria.ru/20210714/tekhnologiya-1741243615.html (дата посещения: 11.02.2022).
[5] Murch R. Cyberbiosecurity: An Emerging New Discipline to Help Safeguard the Bioeconomy DOI:10.3389/fbioe.2018.00039 URL: https://www.researchgate.net/publication/324224452_Cyberbiosecurity_An_Emerging_New_Discipline_to_Help_Safeguard_the_Bioeconomy (дата посещения: 11.02.2022).
[6] Rose McDermott, ‘Some Emotional Considerations in Cyber Conflict’ Journal of Cyber Policy 4(3) (2019).
[7] Stephan Kirste. The Right to life as a Right to Self-Determination about one’s life. Universitat Salzburg P. 19. Pp.19-43.
[8] Juan Antonio Travieso, Angelo Viglianisi Ferraro, Elena Trikoz, Elena Gulyaeva. BIOETHICAL ASPECTS OF THE INSTITUTION OF HUMAN RIGHTS IN LATIN AMERICA // Racionalidad, Derecho Y Ciudadanía [livro eletronico] / Organizacao Ricardo Mauricio Freire Soares… [et al.]. Salvador, BA: Direito Levado a Serio, 2021. 177 p. – Pp. 89-101. ISBN 978-65-87020-20-4
[9] Ястребова А.Ю., Гуляева Е.Е. Право на здоровье в системе международно-правовой защиты прав человека на универсальном и региональном уровне. Московский журнал международного права. 2021;(2):99-121. https://doi.org/10.24833/0869-0049-2021-2-99-121
[10] Эксперт ООН по вопросу о крайней нищете и правах человека, профессор Филип Алстон, в частности, напомнил о том, какой огромный «потенциал» для нарушений прав человека предоставляет государствам введение биометрических удостоверений личности.
[11] Chile becomes first country to pass neuro-rights law https://www.jurist.org/news/2021/10/chile-becomes-first-country-to-pass-neuro-rights-law/
[12] BRAIN — это аббревиатура «Исследования мозга посредством продвижения инновационных нейротехнологий» (Brain Research through Advancing Innovative Neurotechnologies).
[13] Первая цель относится к возможности регистрации активности примерно 86 миллиардов нейронов, которые, по оценкам, существуют в головном мозге. Нейрон — основная клетка нервной системы, отвечающая за получение, обработку и передачу информации с помощью химических и электрических сигналов. В настоящее время, возможно, регистрировать активность только очень небольших групп нейронов одновременно у мелких животных.
Вторая цель имеет более прямое применение, поскольку, как только становится возможным понять функционирование мозга, можно и понять определенные психические расстройства, такие как депрессия и неврологические заболевания, что приведет к улучшению лечения таких состояний, как болезнь Альцгеймера или Паркинсона.
Третья цель состоит в возможности улучшить или даже превзойти искусственный интеллект, поскольку знание функционирования мозга поможет понять, как он выполняет вычисления. Предполагается, что для этого мозг использует более сложные алгоритмы, чем те, которые в настоящее время использует искусственный интеллект, но с чрезвычайно меньшими затратами энергии. Это обстоятельство привело бы к рассмотрению искусственного интеллекта как устаревшей модели.
[14] См. Four ethical priorities for neurotechnologies and AI, Revista Nature, 08/11/2017. URL: https://www.nature.com/news/four-ethical-priorities-for-neurotechnologies-and-ai-1.22960 .
[15] Провозглашение новых прав человека – нейроправ (ЮНЕСКО)
[16] Группа, возглавляемая Рафаэлем Юсте, акцентируют свое внимание на: (i) умственной конфиденциальности (la privacidad mental); (ii) личной идентификации (la identidad personal); (iii) свободе воли (el libre albedrío); (iv) равном доступе (el acceso equitativo); и (v) недискриминации (no discriminación).
[17] European Commission European Group on Ethics in Science and New Technologies – EGE. URL: https://ec.europa.eu/info/research-and-innovation/strategy/support-policy-making/scientific-support-eu-policies/ege_en (дата посещения: 11.02.2022). Commission Decision (EU) 2021/156 of 9 February 2021 renewing the mandate of the European Group on Ethics in Science and New Technologies. URL: https://eur-lex.europa.eu/eli/dec/2021/156/oj (дата посещения: 11.02.2022).
[18] В Заявлении указывается на связь между этикой и основными правами, демократией и верховенством права, а в заключении документа содержится рекомендация для государств ЕС по привлечению общественности в формировании политики. Он был опубликован 9 июня 2021 года и подлежит обсуждению на Конференции по будущему Европы. Values for the Future: The Role of Ethics in European and Global Governance. European Commission. Directorate-General for Research and Innovation. European Group on Ethics in Science and New Technologies.
Unit 03. 2021. URL: https://ec.europa.eu/info/research-and-innovation/strategy/support-policy-making/scientific-support-eu-policies/ege_en (дата посещения: 11.02.2022).
[19] Данельян А.А., Гуляева Е.Е. Международно-правовые аспекты кибербезопасности. Московский журнал международного права. 2020;(1):44-53. https://doi.org/10.24833/0869-0049-2020-1-44-53