В статье рассматривается генезис этики искусственного интеллекта (ИИ) как нормативной системы, возникшей на пересечении биоэтики, экологической этики и компьютерной этики. Показано, что современный дискурс об этическом регулировании ИИ не является внезапным, а продолжает длительный диалог между технологическим развитием и моральным сознанием. Анализируются ключевые этапы: институционализация биоэтики в 1960–1970-х гг., формирование принципиалистского подхода, становление экологической этики и принципа предосторожности, а также эволюция компьютерной этики в 1980–1990-х гг. Особое внимание уделено качественному сдвигу 2010-х гг., связанному с появлением самообучающихся алгоритмов. Выделены новые проблемы: алгоритмическая справедливость и смещение, объяснимость и «чёрный ящик», разрыв ответственности, глобальные и экзистенциальные риски. Сделан вывод о синтетическом характере этики ИИ и о необходимости гибридных международно-правовых механизмов, сочетающих защиту прав человека, управление системными рисками и специальные инструменты для цифровой среды.
Ключевые слова: искусственный интеллект, этика ИИ, биоэтика, экологическая этика, компьютерная этика, международно-правовое регулирование, принцип предосторожности, алгоритмическая справедливость, ответственность, цифровая среда.
Ethical Prerequisites for International Legal Regulation of Artificial Intelligence: Continuity of Bioethics, Environmental Ethics and Computer Ethics
Abstract. The article examines the genesis of artificial intelligence (AI) ethics as a normative system emerging at the intersection of bioethics, environmental ethics and computer ethics. It demonstrates that the current discourse on ethical regulation of AI is not a sudden phenomenon but a continuation of the long-standing dialogue between technological progress and moral consciousness. The author analyses key stages: the institutionalisation of bioethics in the 1960s–1970s, the development of principlism, the rise of environmental ethics and the precautionary principle, and the evolution of computer ethics in the 1980s–1990s. Particular attention is paid to the qualitative shift of the 2010s caused by self-learning algorithms. New challenges are identified: algorithmic fairness and bias, explainability and the «black box» problem, the accountability gap, and global and existential risks. The conclusion is drawn that AI ethics is synthetic in nature and that hybrid international legal mechanisms are required, combining human rights protection, systemic risk management and specific instruments for the digital environment.
Keywords: artificial intelligence, AI ethics, bioethics, environmental ethics, computer ethics, international legal regulation, precautionary principle, algorithmic fairness, accountability, digital environment.
Современные споры об этическом регулировании искусственного интеллекта нередко воспринимаются как реакция на сравнительно недавние технологические прорывы, однако такой взгляд существенно упрощает действительное положение вещей. Этическая рефлексия по поводу искусственного интеллекта представляет собой не внезапно возникший феномен, а закономерный этап многовекового диалога между технологическим прогрессом и моральным сознанием человечества, и её корни следует искать в сложной эволюции технологической этики XX–XXI вв. Формирование этики искусственного интеллекта как самостоятельной нормативной системы является результатом развития трёх взаимосвязанных, но методологически различных традиций — биоэтики, экологической этики и компьютерной (информационной) этики, анализ которых позволяет выявить не только преемственность принципов, но и качественную специфику вызовов, порождаемых автономными интеллектуальными системами. Именно это сочетание преемственности и разрыва имеет определяющее значение для поиска адекватных международно-правовых механизмов регулирования, поскольку показывает, какие нормативные наработки могут быть заимствованы из предшествующего опыта, а какие требуют принципиально новых решений.
Первой из указанных традиций стала биоэтика, зарождение которой в 1960–1970-х гг. явилось прямым ответом на серию технологических прорывов в медицине и биологии, поставивших под сомнение традиционные моральные границы[1]. Развитие реаниматологии, трансплантологии, генной инженерии и методов контроля над репродукцией привело к необходимости переосмыслить такие фундаментальные категории, как жизнь, смерть, автономия и природа человека. Работы Ван Ренсселера Поттера, заложившего понятие «биоэтика» как «мост в будущее»[2], и создание первых национальных биоэтических комитетов, в частности Национальной комиссии по защите людей в качестве объектов биомедицинских и поведенческих исследований в США, знаменовали институционализацию этой области. Ключевым нормативным достижением биоэтики стала разработка и систематизация принципиалистского подхода, наиболее полно выраженного в трудах Тома Бичампа и Джеймса Чилдресса[3]. Четыре базовых принципа — уважение автономии, благодеяние, не-нанесение вреда и справедливость — сформировали универсальный аналитический каркас, применимый за пределами сугубо медицинского контекста. Эти принципы нашли своё международно-правовое выражение в ряде документов, среди которых особое место занимает Всеобщая декларация о биоэтике и правах человека ЮНЕСКО[4], подтвердившая примат человеческого достоинства и прав человека и впервые на глобальном уровне связавшая биоэтику с социальной ответственностью и равным доступом к научным достижениям. Тем самым биоэтика перешла от узкопрофессиональной деонтологии к этике технологий в широком смысле, сформулировав важнейшую максиму: технологическое развитие, затрагивающее основы человеческого существования, должно быть подчинено строгим этическим и правовым ограничениям.
Параллельно с биоэтикой, под влиянием нарастающего экологического кризиса, сформировалось направление экологической этики и этики устойчивого развития. Если биоэтика фокусировалась на индивидууме и непосредственном вреде, то экологическая этика сместила акцент на системные, долгосрочные и зачастую необратимые последствия человеческой деятельности для планеты и будущих поколений. Философская работа Ханса Йонаса «Принцип ответственности: В поисках этики для технологической цивилизации»[5] стала краеугольным камнем, обосновавшим необходимость новой этики, ориентированной на будущее и основанной на осознании апокалиптических последствий безответственного использования технологий. Практическим нормативным воплощением этого подхода стал принцип предосторожности, получивший международное признание в Декларации Рио-де-Жанейро по окружающей среде и развитию: согласно принципу 15 Декларации, в случае угрозы серьёзного или необратимого ущерба отсутствие полной научной уверенности не должно использоваться в качестве причины для отсрочки принятия экономически эффективных мер по предупреждению ухудшения состояния окружающей среды[6]. Этот принцип заложил методологическую основу для регулирования технологий с высокой степенью неопределённости и катастрофическим потенциалом, создав правовой прецедент для принятия ограничительных мер на основе прогностических моделей, а не лишь задокументированного ущерба, что впоследствии оказалось востребованным при обсуждении рисков искусственного интеллекта.
Третьим столпом, на котором строится этика искусственного интеллекта, является компьютерная, или информационная, этика, оформившаяся в 1980–1990-е гг. как реакция на первую волну цифровизации общества. Основополагающие работы Деборы Джонсон, Джеймса Мора и Террелла Байнума зафиксировали специфику этических проблем в киберпространстве: вопросы цифровой приватности, безопасности данных, интеллектуальной собственности на программный код, «цифрового разрыва» и киберпреступности[7]. Компьютерная этика ввела в оборот ключевые концепты, связанные с агентностью, ответственностью и ценностью в виртуальной среде, а также поставила вопрос о моральном статусе информационных объектов. Однако к концу 2000-х гг. стало очевидно, что классическая компьютерная этика, сосредоточенная на программном обеспечении как инструменте в руках человека, не в состоянии адекватно ответить на вызовы, порождаемые системами, способными к автономному обучению и принятию решений. Появление самообучающихся алгоритмов, работающих на непостижимых для человека массивах данных, привело к качественному сдвигу — от этики использования компьютеров к этике взаимодействия с искусственными интеллектуальными агентами.
Формирование этики искусственного интеллекта как самостоятельной области в 2010-х гг. стало, таким образом, результатом синтеза и одновременного преодоления трёх указанных традиций под давлением новых технологических реалий. От биоэтики она унаследовала антропоцентрический фокус, уважение автономии и принцип не-нанесения вреда; от экологической этики — системное, долгосрочное мышление и принцип предосторожности; от компьютерной этики — технический понятийный аппарат и понимание специфики цифровой среды. Вместе с тем этика искусственного интеллекта совершила качественный скачок, перейдя от этики, ограничивающей действия человека с помощью технологий, к этике, регулирующей действия и последствия автономных небиологических агентов. Ключевые проблемы, определившие её специфическое содержание, обнаруживают отчётливую связь с предшествующими традициями и одновременно демонстрируют их недостаточность. Прежде всего это алгоритмическая справедливость и смещение: унаследовав принцип справедливости от биоэтики, этика искусственного интеллекта столкнулась с его новой формой — дискриминацией, не являющейся результатом злого умысла, а встроенной в данные и математические модели. Классическим примером служит система COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), использовавшаяся в судах США для оценки рисков рецидива и показавшая значительную расовую предвзятость[8], что потребовало разработки новых методологий, таких как аудит алгоритмов и оценка воздействия алгоритмов[9]. Далее следует проблема объяснимости и «чёрного ящика»: сложные модели машинного обучения, особенно глубинные нейронные сети, часто не поддаются интерпретации даже своими создателями, что создаёт фундаментальный разрыв между технической сложностью и правовыми требованиями к обоснованности решений и подрывает принципы правовой определённости и процессуальной справедливости[10]. Не менее остро стоит проблема автономии и ответственности в условиях, когда система способна принимать решения без прямого вмешательства человека, — например, беспилотный автомобиль или автономное оружие, — в результате чего возникает «разрыв ответственности»: традиционные правовые модели, основанные на вине физического или юридического лица, оказываются неадекватными, требуя разработки новых концепций, таких как «электронная личность» или строгая ответственность для производителей[11]. Наконец, этика искусственного интеллекта, подобно экологической этике, вынуждена учитывать риски планетарного масштаба и потенциально экзистенциального характера, такие как развитие сверхинтеллекта, способного выйти из-под контроля, или использование искусственного интеллекта для тотальной социальной манипуляции и подрыва основ международной безопасности[12]. Развитие этических норм в области искусственного интеллекта приводит к необходимости трансформации внутригосударственных правовых актов, необходимых для выполнения функций государства, а обязанность государств обеспечивать, чтобы системы искусственного интеллекта не ставили под угрозу демократические институты, основные свободы, социальную справедливость и мир, становится частью современного международно-правового дискурса[13].
Изложенное позволяет заключить, что генезис этики искусственного интеллекта демонстрирует диалектику преемственности и разрыва в развитии технологической этики. С одной стороны, она опирается на прочный фундамент принципов, выработанных в ходе осмысления предыдущих технологических революций — биомедицинской, экологической и цифровой. С другой стороны, уникальная природа искусственного интеллекта как автономного, самообучающегося и не всегда объяснимого агента порождает принципиально новые нормативные вызовы, которые не могут быть разрешены в рамках прежних концептуальных схем. Это историко-этическое наследие формирует два ключевых вывода для международно-правового регулирования. Во-первых, попытки создания глобальных норм в сфере искусственного интеллекта должны учитывать синтетический характер его этики, сочетая защиту прав человека, понимаемую как биоэтический императив, с управлением системными рисками, понимаемым как императив экологический, через специфические правовые инструменты для цифровой среды. Во-вторых, специфика объекта регулирования требует развития новых, гибридных форм международного сотрудничества, выходящих за рамки классических межправительственных договоров и включающих механизмы участия технических экспертов, корпораций и гражданского общества[14]. Именно в этом направлении должно развиваться дальнейшее исследование, ориентированное на разработку конкретных правовых механизмов, способных соединить этические принципы с технической реальностью.
Библиографический список
- Гребенщикова Е.Г. Биоэтика в теории и на практике: Два взгляда на одну проблему // Социальные и гуманитарные науки. Отечественная и зарубежная литература. Сер. 8, Науковедение: Реферативный журнал. 2021. № 1. С. 8–9.
- Beauchamp T.L., Childress J.F. Principles of Biomedical Ethics. 8th ed. New York: Oxford University Press, 2019.
- Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press, 2014.
- Burrell J. How the Machine ‘Thinks’: Understanding Opacity in Machine Learning Algorithms // Big Data & Society. 2016. Vol. 3(1). P. 1–12.
- Jonas H. The Imperative of Responsibility: In Search of an Ethics for the Technological Age. Chicago: University of Chicago Press, 1984.
- Moor J.H. What Is Computer Ethics? // Metaphilosophy. 1985. Vol. 16(4). P. 266–275.
- Potter V.R. Bioethics: Bridge to the Future. Englewood Cliffs: Prentice-Hall, 1971.
Информация об авторе:
Джапаров Ильгиз,
аспирант, Российский университет дружбы народов им. Патриса Лумумбы
Information about the author:
Ilgiz Zhaparov,
PhD student, Patrice Lumumba Peoples’ Friendship University of Russia
Изображение сгенерировано нейросетью Open AI
[1] Гребенщикова Е.Г. Биоэтика в теории и на практике: Два взгляда на одну проблему // Социальные и гуманитарные науки. Отечественная и зарубежная литература. Сер. 8, Науковедение: Реферативный журнал. 2021. № 1. С. 8–9.
[2] См.: Potter V.R. Bioethics: Bridge to the Future. Englewood Cliffs: Prentice-Hall, 1971. P. 1–5.
[3] См.: Beauchamp T.L., Childress J.F. Principles of Biomedical Ethics. 8th ed. N.Y.: Oxford University Press, 2019. P. 99–250.
[4] Всеобщая декларация о биоэтике и правах человека. Принята 19.10.2005 Генеральной конференцией ЮНЕСКО // UNESCO. URL: https://unesdoc.unesco.org/ark:/48223/pf0000146180_rus (дата обращения: 12.07.2026).
[5] См.: Jonas H. The Imperative of Responsibility: In Search of an Ethics for the Technological Age. Chicago: University of Chicago Press, 1984. P. 18–42.
[6] Декларация по окружающей среде и развитию. Принята на Конференции ООН по окружающей среде и развитию, Рио-де-Жанейро, 14.06.1992 // Доклад Конференции ООН по окружающей среде и развитию. Т. I. Резолюции, принятые Конференцией. Нью-Йорк: ООН, 1993. A/CONF.151/26/Rev.1 (Vol. I). С. 3.
[7] См.: Johnson D.G. Computer Ethics. Englewood Cliffs: Prentice-Hall, 1985; Bynum T.W. Computer and Information Ethics // The Stanford Encyclopedia of Philosophy (Winter 2021 Edition) / Ed. by E.N. Zalta. URL: https://plato.stanford.edu/archives/fall2017/entries/ethics-computer/ (дата обращения: 14.07.2026); Moor J.H. What Is Computer Ethics? // Metaphilosophy. 1985. Vol. 16(4). P. 266–275.
[8] См.: Angwin J., Larson J., Mattu S., Kirchner L. Machine Bias // ProPublica. May 23, 2016. URL: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing (дата обращения: 15.07.2026).
[9] См.: Reisman D., Schultz J., Crawford K., Whittaker M. Algorithmic Impact Assessments: A Practical Framework for Public Agency Accountability // AI Now Institute. April 2018. URL: https://ainowinstitute.org/aiareport2018.pdf (дата обращения: 15.07.2026).
[10] См.: Burrell J. How the Machine ‘Thinks’: Understanding Opacity in Machine Learning Algorithms // Big Data & Society. 2016. Vol. 3(1). P. 1–12.
[11] European Parliament. Resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)). P8_TA(2017)0051. § 59(f) // Official Journal of the European Union. 2017. P. 252/239.
[12] См.: Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press, 2014. P. 22–25, 115–118.
[13] Рекомендация ЮНЕСКО по этике искусственного интеллекта. Принята 23.11.2021 Генеральной конференцией ЮНЕСКО на 41-й сессии. URL: https://unesdoc.unesco.org/ark:/48223/pf0000381137_rus. С. 5–7 (дата обращения: 20.07.2026).
[14] Guiding Principles on Business and Human Rights: Implementing the United Nations Protect, Respect and Remedy Framework. UN Doc. A/HRC/17/31. 21 March 2011.
