ENGLISH
11:50 31.08.2026 • 
Все, вероятно, хорошо помнят два крутых американских блокбастера о фантастическом терминаторе, прибывшем в наш сегодняшний день из будущего, где якобы произошло восстание машин против людей. Робот-злодей в исполнении легендарного Арнольда Шварценеггера, в первом фильме пытавшийся убить грядущего лидера человечества, во втором уже становится его главным защитником от другого терминатора-убийцы, направленного вдогонку бунтующими роботами, но делает это с огромным трудом, поскольку новая модель уже намного совершеннее и сильнее железного Арни.
Увлекательная фантастика так и оставалась бы ярким эпизодом голливудской истории, если бы она не затронула важнейшую тему сегодняшнего дня – контроль над искусственным интеллектом (ИИ), стремительно входящим в нашу повседневность. И пророчески не поставила бы теперь уже отнюдь не фантастический, а весьма актуальный и прагматичный вопрос о том, как должны в дальнейшем выстраиваться отношения человека и умной машины, и что делать, если машина начинает независимо от воли человека действовать по своему сценарию? Например, на войне.
На прошедшей неделе данной темой крайне озаботились лично Генеральный секретарь ООН Антониу Гуттериш и президент Международного комитета Красного Креста Мирьяна Сполярич. Они выступили с совместным призывом ко всем странам срочно принять новые международные нормы в отношении автономных систем вооружений т.е. оснащённых ИИ. Речь идёт о том, чтобы запретить или ограничить использование автономного оружия, поскольку оно способно дать непредсказуемые результаты - машины не могут отличить комбатантов от мирных жителей. В этой связи Гутерриш и Сполярич подчёркивают, что обстрелы гражданского населения во время войны являются нарушением международного гуманитарного права. В обращении акцентируется тот факт, что вопрос стоит уже не о гипотетическом будущем: «Мы сейчас опасно близки к пересечению моральной красной линии: автономному поражению людей машинами».
В ноябре ООН планирует провести в Женеве конференцию для пересмотра своего договора по обычным вооружениям. Ожидается, что одной из тем дискуссии станут летальные автономные системы вооружения. ООН уже давно призывает страны к продвижению в этой сфере юридически обязательных правил. Технологическое развитие идёт быстрее, чем формирование правовых ограничений. Разрыв между возможностями оружия и международными нормами ощутимо увеличивается. Важно отметить: ООН не требует запретить все системы с искусственным интеллектом. Речь идёт о более целенаправленном подходе. В пресс-релизе ООН от 25 августа, в частности, отражены три главных предложения ООН и Красного Креста:
- запретить автономное оружие, которое способно самостоятельно выбирать людей в качестве целей;
- ограничить системы с непредсказуемым поведением;
- перейти от экспертных дискуссий к подготовке юридически обязательного соглашения.
Итак, рамки намечены. Но насколько они реализуемы сегодня, когда в мире значительные регионы охвачены войнами? Разумеется, то, что системы ИИ, выходя из-под контроля человека и действуя по собственным сценариям даже в гражданской сфере могут наворотить дел, требует создания надёжных страховочных механизмов. Примеров таких опасностей уже достаточно. Ещё совсем недавно мировая пресса бурно обсуждала июльские инциденты в США с вышедшими из-под контроля во время испытаний новейшими моделями искусственного интеллекта компаний OpenAI и Anthropic. В частности, мощный ИИ-агент ChatGPT (OpenAI) нашёл лазейку в замкнутой тестовой среде, вырвался из изоляции, вышел в интернет и взломал цифровое хранилище компании Hugging Face. А следом стало известно о новом инциденте - на сей раз во время тестов вышел из-под контроля ИИ-агент языковой модели Claude (Anthropic). Он взломал три организации, проникнув в их внутренние системы.
Но история знает и трагические примеры утраты контроля человека над умной машиной с тяжёлыми последствиями. Так, 18 марта 2018 года в Аризоне автомобиль компании Uber с системой автономного управления сбил насмерть пешехода Элейн Херцберг. Это был первый зарегистрированный случай гибели человека от беспилотного автомобиля. Расследование Национального совета по безопасности транспорта США (NTSB) тогда установило: система обнаружила объект; неправильно классифицировала его; не смогла правильно оценить ситуацию; человек-оператор не вмешался вовремя. Главная проблема: оператор должен был контролировать систему, но фактически оказался пассивным наблюдателем. Эксперты называют это automation bias — «предвзятость автоматизации»: человек начинает чрезмерно доверять машине. Хотя тогда, конечно, ещё не было искусственного интеллекта в современном понимании, но факт показательный. В других случаях инциденты с умной техникой бывали и куда тяжелее. В 2018 и 2019 годах произошли две авиакатастрофы лайнеров Boeing 737 MAX: Lion Air 610 и Ethiopian Airlines 302. Погибли 346 человек. Виновник - бортовая система управления MCAS, которая автоматически изменяла положение самолёта на основе ошибочных данных датчика, что не сразу смогли распознать пилоты. В критический момент люди не смогли вернуть контроль. Система MCAS ещё не была искусственным интеллектом — она работала по заранее заданному алгоритму. Исследователи называют этот случай примером того, как: наличие человека «в контуре управления» не гарантирует реального человеческого контроля.
А вот известные случаи, которые регулярно фигурируют в дискуссиях об автономном оружии. В марте 2020 года в докладе группы экспертов ООН по Ливии упоминалось, что войска Правительства национального согласия могли использовать турецкие барражирующие боеприпасы Kargu-2 против оппозиционных сил генерала Халифы Хафтара. В докладе ООН отмечалось, что Kargu-2 могли работать в режимах обнаружения цели, сопровождения и атаки. При этом утверждалось, что система могла атаковать без прямого участия оператора. Правда, позже эксперты отмечали: нет окончательного подтверждения, что Kargu-2 действительно самостоятельно выбрал и уничтожил человека. Тем не менее сам факт появления такого сценария стал переломным. Почему? Потому что тогда впервые на уровне ООН возник вопрос: если машина может найти человека и атаковать его без непосредственного приказа оператора — кто отвечает за последствия? В том числе за военные преступления? Именно после этого случая дискуссия об автономном оружии получила новый импульс.
Другой пример связан с действиями израильской армии в Газе. В 2024–2025 годах появились публикации о применении Израилем систем ИИ для анализа разведывательных данных и ускорения выбора целей. В частности, СМИ сообщали о системах: Lavender и Gospel. По данным журналистских расследований, алгоритмы помогали анализировать большие массивы информации, выявлять потенциальные цели и ускорять процесс нанесения ударов. Израильские власти уверяли, что окончательное решение остаётся за человеком. Но критики указывали: если система постоянно генерирует тысячи потенциальных целей, то фактическая роль человека может сводиться к формальному подтверждению. Агентство Associated Press писало, что использование ИИ в военных операциях вызывает вопросы о том, как алгоритмы влияют на решения «о том, кто будет жить, а кто умрёт». Главный вывод: опасность заключается не только в полностью автономном оружии, но и в постепенном смещении центра принятия решений от человека к машине.
Именно эти случаи часто приводят критики применения автономного оружия. Аргумент простой: если общество пока не смогло обеспечить абсолютную безопасность автономного автомобиля на дороге, то насколько реально гарантировать безопасность автономного оружия для гражданских лиц в хаотичной боевой обстановке? Даже когда человек может оставаться «в контуре», но должен одновременно контролировать десятки аппаратов, получает неполную информацию и располагает несколькими секундами для реакции, то возникает вопрос: насколько этот контроль вообще является контролем? И можно ли считать решение машины человеческим решением?
Для разговора об автономном оружии этот сюжет очень важен, поскольку главный аргумент сторонников ограничений строится не только на страхе перед «злым искусственным интеллектом», а на уже накопленном опыте: сложные ИИ-системы способны принимать ошибочные решения, которые человек не успевает или не может исправить. Проблема в том, что эти системы могут действовать неожиданным образом даже тогда, когда все участники процесса считают себя контролирующими ситуацию. Как раз именно эта логика сегодня используется ООН, Красным Крестом и экспертами по безопасности ИИ как аргумент в пользу принципа «meaningful human control» — «содержательного человеческого контроля». Он требует от человека не только сохранять способность оценивать ситуацию и понимать последствия, но и нести ответственность за применение силы.
Но пока это всё ещё теоретическое измерение ситуации с внедрением автономного оружия в практику армий мира. Нынешняя военная революция развивается не по голливудскому сценарию с роботами-убийцами и угрозой восстания машин. Сегодня ИИ-система не обязательно должна обрести сознание, чтобы стать опасной. Ей достаточно получить всё больше полномочий в так называемой «цепочке поражения цели»: обнаружить, классифицировать, выбрать, нанести удар. Речь идёт, в частности, о современном ИИ-беспилотнике, который может распознать объект, сопоставить его с заложенными в программу признаками цели, определить момент атаки и сделать это за время, когда человек просто не успеет осмыслить происходящее. Речь о системах, способных одновременно управлять десятками или сотнями аппаратов. О войне, где скорость алгоритма становится самостоятельным фактором стратегического превосходства.
Это существенно меняет саму постановку вопроса. Готовы ли государства, уже обладающие такими боевыми системами, к международно- правовым ограничениям? ООН и Красный Крест прямо говорят: гонка за большей автономностью уже началась. Всё чаще появляются сообщения об использовании ИИ и полуавтономных систем на Украине, на Ближнем Востоке и в других конфликтах. Когда Генеральный секретарь ООН выступает со своей инициативой, он, несомненно, исходит из понимания всё более ускользающего момента для возможности вовлечь членов ООН в договорённости друг с другом. Гутерриш предлагает действовать сейчас именно потому, что через несколько лет переговоры могут оказаться значительно сложнее. Это и есть то самое короткое историческое окно, которым ООН пытается воспользоваться. И потому вопрос, который хотят вынести на обсуждение в Женеве, можно сформулировать жёстче: успеет ли международное право поставить ИИ-оружие перед последней чертой раньше, чем военные технологии поставят человека перед фактом?
В ноябре в Женеве состоится пятилетняя обзорная конференция Конвенции о конкретных видах обычного оружия. А непосредственно перед ней, с 31 августа по 4 сентября 2026 года, группа экспертов по летальным автономным системам вооружений проводит очередной раунд работы. Но у Женевы есть фундаментальная проблема: Конвенция работает на основе консенсуса. А значит, достаточно того, чтобы ключевые военные державы не согласились на юридически обязательный запрет или ограничения, — и переговоры снова превратятся в многолетнюю дипломатическую вязь. Именно это уже происходило. С 2014 года международное сообщество обсуждает автономное оружие, однако технологическое развитие заметно опережает дипломатический процесс. Иными словами, машина уже ускоряется, а мировая дипломатия всё ещё спорит о правилах дорожного движения. Главная сложность переговоров заключается в том, что государства одновременно опасаются автономного оружия и стремятся его получить. Для военных специалистов преимущества очевидны.
Автономные системы:
- быстрее человека;
- дешевле;
- способны работать в условиях потерь связи;
- позволяют уменьшить риск для собственных военнослужащих.
Именно поэтому ведущие военные державы настороженно относятся к идеям ограничения таких технологий. Например, США традиционно выступают против полного запрета, утверждая, что существующие нормы международного гуманитарного права достаточны и уже позволяют регулировать применение автономного оружия. Китай также не сторонник ограничений. В Евросоюзе, где чаще других говорят о необходимости человеческого контроля над ИИ и даже приняли жёсткий закон об искусственном интеллекте, вывели из-под сферы его действия оборонные технологии.
На этом фоне было бы наивным полагать, что Россия, ответственно относящаяся к своей обороноспособности, пойдет каким-то особым путём. Но российская позиция по автономному оружию существенно отличается от образа «отрицания проблемы», который порой появляется в западных публикациях. Москва начала активно участвовать в дискуссии по LAWS (Lethal Autonomous Weapons Systems — летальные автономные системы вооружений) в 2017 году в рамках Группы правительственных экспертов Конвенции ООН о конкретных видах обычного оружия. Главная российская позиция с самого начала - автономное оружие нельзя рассматривать отдельно от общего развития военных технологий. Москва указывала, что искусственный интеллект — это не отдельный вид оружия, а технологическая платформа, которая может использоваться в самых разных системах: разведке, управлении войсками, противовоздушной обороне, радиоэлектронной борьбе, беспилотных комплексах.
Российские дипломаты неоднократно подчёркивали: нельзя ставить знак равенства между «автономностью» и «оружием, которое самостоятельно принимает решение убить человека». На этом различии во многом строится российская аргументация. Так, например, Константин Воронцов, выступая 24 октября 2025 года как заместитель главы делегации России на заседании Первого комитета 80-й сессии Генеральной Ассамблеи ООН, акцентировал рассмотрение темы военного ИИ именно «в рамках существующих режимов контроля над вооружениями, разоружения и нераспространения, в частности, в рамках Комиссии ООН по разоружению». И при этом подчеркнул, что Группа правительственных экспертов по LAWS является наиболее подходящей площадкой для обсуждения ключевых проблем, связанных с военным применением технологий ИИ, поскольку она «эффективно обеспечивает разумный баланс между гуманитарными соображениями и законными оборонными интересами государств, связанными с соответствующими системами вооружений». Москва против переноса обсуждения этой темы на другие международные форумы (включая ООН). Это принципиальная позиция. Почему? Потому что в рамках Конвенции действует правило консенсуса, а значит, каждая крупная военная держава сохраняет возможность блокировать решения, которые сочтет для себя неприемлемыми.
Словом, Москва демонстрирует несомненную заинтересованность в обсуждении темы автономных боевых систем, но не поддерживает идею всеобъемлющего международного запрета. Это важная деталь. Россия не предлагает оставить ИИ-технологию без правил. Она не принимает другое — идею, что для решения проблемы необходимо срочно создать новый универсальный запретительный договор. Логика здесь достаточно понятна: искусственный интеллект становится частью военной революции независимо от политических деклараций. В российском подходе центральным остаётся принцип ответственности человека. Поэтому попытка объявить вне закона саму технологию может оказаться столь же бесплодной, как, скажем, попытка запретить развитие вычислительной техники.
Это во многом совпадает с позицией США, где ещё в 2023 году подготовили свою «Политическую декларацию об ответственном военном использовании искусственного интеллекта и автономии» (Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy). Там есть все необходимые слова о соблюдении международного гуманитарного права, тестировании и проверке систем, а также сохранении человеческого контроля над критически важными решениями. В американской позиции есть также принципиальная оговорка: ответственное использование — не то же самое, что запрет. То есть заложена формула: не запрещать военную автономию, а научиться безопасно ею управлять. Согласитесь, это довольно тонкая грань. Именно это и отличает американскую концепцию от гуманитарного подхода ООН. Мол, мы готовы обсуждать нормы поведения, но не должны ограничивать развитие технологий. Вашингтон опасается, что договор о запрете автономного оружия мог бы затормозить американские инновации в оборонительных системах и даст преимущество Китаю.
А что в Поднебесной? С одной стороны, Китай активно развивает военный ИИ и автономные системы. В январе 2026 года The Wall Street Journal подробно писал о китайских исследованиях автономных роёв беспилотников, способных действовать совместно с минимальным вмешательством человека. Китайские военные структуры изучают алгоритмы, позволяющие роботизированным системам воспроизводить поведение стай и хищников.
С другой стороны, китайская дипломатия демонстрирует готовность обсуждать международные ограничения, и в этом плане Пекин даже ближе к сторонникам международного регулирования, чем другие державы. Китай последовательно настаивает на meaningful human control — «содержательном человеческом контроле». Анализ китайской позиции, опубликованный Институтом Либера при Военной академии США в Вест-Пойнте в марте 2026 года, отмечает: Пекин рассматривает сохранение такого контроля как условие соответствия автономных систем международному гуманитарному праву и считает Конвенцию ООН о конкретных видах обычного оружия подходящей площадкой для переговоров. При этом Пекин стремится сохранить пространство для собственной военной технологической модернизации.
На наш взгляд, с учётом всех приведенных раскладов задача Антониу Гутерриша в Женеве выглядит в лучшем случае с шансами 50 на 50. Теоретически вероятность серьёзного соглашения существует, но вероятность того, что в ноябре появится какой-либо юридически обязательный режим, невелика. Для этого слишком высоки военно-стратегические ставки, слишком быстро развивается технология и слишком различаются интересы ведущих военных игроков. И многое здесь упирается не в технические сложности, а в старую логику международной политики: никто не хочет первым отказаться от оружия, которое потенциально может дать ему преимущество над противником. Именно поэтому нынешняя инициатива ООН одновременно парадоксально выглядит как необходимой, так и весьма трудно исполнимой.
Главный вопрос Женевской конференции уже сегодня стоит так: должен ли человек сохранять обязательное право последнего решения о применении смертоносной силы — или это право постепенно перейдёт к алгоритмам? Чтобы не допустить войны, в которой умные машины начнут решать, кому жить, а кому умирать, государствам придётся сначала договориться между собой. А это, как показывает история последних десятилетий, иногда оказывается значительно труднее, чем создать сам искусственный интеллект. Но именно здесь российская позиция может оказаться не препятствием, а важной частью будущего компромисса. Москва выступает за сохранение человеческой ответственности и за обсуждение проблемы в рамках существующего международного права.
Мнение автора может не совпадать с позицией редакции
Читайте другие материалы журнала «Международная жизнь» на нашем канале Яндекс.Дзен.
Подписывайтесь на наш Telegram – канал: https://t.me/interaffairs
Подписывайтесь на наш канал в мессенджере MAX
