Весь мир охвачен беспрецедентным интересом к технологиям искусственного интеллекта (ИИ). Количество статей, исследований, монографий, конференций и иных научных и практических форумов и семинаров растет по экспоненте. Самое главное, что также экспоненциально растет и количество создаваемых машин, механизмов, инструментов и иных устройств с ИИ практически во всех сферах жизни человека, общества и государства.

ИИ - попытка краткого генезиса

«ИИ» как крупная исследовательская программа стартовала еще в 1950-х годах. В те времена она базировалась на символической логике и программисты кодировали входные данные для обработки ИИ. В силу этого полезность ИИ была весьма ограниченной1.

В конце 1990-х годов появился ИИ второго поколения. На основе резко возросшей вычислительной мощности компьютеров, Больших данных, новых алгоритмов, а также использования нейросетей произошел ряд знаковых событий. Так, в частности, в 1997 году команда «IBM Deep Blue» обыграла чемпиона мира по шахматам, а в 2016 году «AlphaGo» победила чемпиона мира по игре в го2.

Достаточно условно к новому, третьему поколению ИИ можно отнести феноменальный успех нейросети «ChatGPT», которую компания «OpenAI» анонсировала в ноябре 2022 года. «GPT» (Generative Pre-trained Transformer) переводится как «предварительно обученный трансформер для генерации текста». «Трансформером» в «Google» назвали разработанную там в 2017 году прорывную архитектуру нейросетей.

Версия «ChatGPT4», представленная в марте 2023 года, поразила своими широчайшими способностями. Действительно, «ChatGPT4» потрясает возможностью общения с ним в русле беседы, знанием им содержания книг и фильмов, его умением многоязычного перевода, а также способностью создавать коды, давать медицинские и иные советы, искать картинки, формулировать проверенные ответы на самые непредсказуемые вопросы и многие другие компетенции3.

В основе «ChatGPT» - модель «ИИ», обученная на огромном количестве Больших данных, в результате чего получается модель, которую можно адаптировать к решению широчайшего круга самых разнообразных задач.

«ChatGPT» (как и его многие конкуренты: «Microsoft Bing», «Google Bard», «YandexGPT» и т. д.) использует набор базовых моделей, известный как «большая языковая модель». Данная модель применяет колоссальные объемы заложенной в нее текстовой информации и решает задачу предсказания (угадывания) следующего слова в тексте с учетом его предыдущего содержания, а также переводит тексты и обрабатывает (создает) изображения, звук или видео.

Таким образом, эта модель программируется по принципу нейронной сети, то есть имитирует способ взаимодействия между собой нейронов в мозгу человека. Массивы исходных синапсов (греч. σύναψις, от συνάπτειν - обнимать, обхватывать, пожимать руку; это место контакта между двумя нейронами или между нейроном и получающей сигнал эффекторной клеткой) взаимодействия нейронов (параметров) модели 2022 года «ChatGPT3» впечатляют - около 175 миллиардов, а характеристики «ChatGPT4» пока держатся в секрете.

Отличие «ChatGPT4» заключается в его удобстве и гибкости: нейросети лишены узких мест предшественников, которым для понимания была нужна разметка, то есть маркировка их принадлежности к определенной категории, чем занимались сотни специалистов. Новейшие модели могут понимать данные через многие каналы, причем одновременно. Получив данные, компьютерная сеть в миллисекунды начинает контекстное «угадывание» следующего слова (слов) или действия. В результате миллиардов итераций «угадывания» возникает принципиально новый уровень интент-анализа с учетом контент-анализа, коннект-анализа, а также геолокации источника информации.

Таким образом, об ИИ можно говорить не только как о мгновенно понимающем, но и помогающей интеллектуальной системе поддержки принятия решений. Данное обстоятельство особо актуально в кризисных и чрезвычайных ситуациях в международных отношениях, особенно в условиях острого цейтнота.

Команда «OpenAI» занимается следующим этапом развития «ChatGPT», и уже в этом году ожидается появление «ChatGPT5»4. Если информация о возможностях «GPT5» окажется верной, то «OpenAI» может достичь важного этапа в развитии «ChatGPT», сделав генеративный ИИ почти неотличимым от человека и достигнув уровня ИИ общего назначения (AGI).

Данное обстоятельство совершенно по-новому ставит вопрос о международной и национальной безопасности, в том числе в контексте всех составляющих гибридной войны: политико-дипломатической, экономической, военной и информационной, включая когнитивное (поражает сознание) и ментальное (поражает мировоззрение) оружие.

ИИ в условиях ломки миропорядка

В Концепции внешней политики Российской Федерации (утверждена Президентом Российской Федерации В.В.Путиным 31 марта 2023 г.) отмечено, что человечество переживает эпоху революционных перемен. США и их сателлиты рассматривают укрепление России в качестве одной из угроз западной гегемонии. Принятые Россией меры по защите своих жизненно важных интересов на украинском направлении США использовали как предлог для обострения многолетней антироссийской политики и развязали гибридную войну нового типа5.

«Против нашей Родины вновь развязана настоящая война». Эти слова Президент Владимир Путин произнес, выступая на Красной площади в честь 78-й годовщины победы в Великой Отечественной войне6.

С появлением технологий ИИ изречение «история войн - это история великих открытий» наполняется принципиально новым, более грозным смыслом. Действительно, наряду с несомненным позитивом технологий ИИ для социально-экономического прогресса человечества, эксперты ставят ИИ в перечень технологий, навсегда меняющих облик войны и мира. Вслед за порохом, двигателем внутреннего сгорания, самолетом, ядерным оружием, авианосцами, информационным оружием, дронами и т. д. ИИ способен придать абсолютно новое содержание военно-экономической мощи государства, ибо он в центре практически всех прорывных технологий.

По оценкам ряда экспертов, ИИ - это не очередной (седьмой) технологический уклад, а фазовый переход человечества, сопоставимый с такими эпохальными событиями, как, например, изобретение печатного станка или электричества.

ИИ в проектах НАТО

Известно, что в НАТО киберпространство уже более десяти лет является новым театром военных действий. С момента разработки технологий ИИ теоретики и практики занялись вопросом их имплементации в боевую сферу. Это нашло отражение не только в многочисленных исследованиях и создании образцов новейшего оружия, но и доктринальных документах НАТО, США, Великобритании и других ведущих стран мира. 

Так, 21 октября 2021 года министры обороны стран НАТО согласовали первую в истории НАТО стратегию по искусственному интеллекту.  

Генсек НАТО Йенс Столтенберг в ходе пресс-конференции в Брюсселе заявил, что новая стратегия сформирована в ответ на гонку авторитарных режимов в области разработки новых технологий. Документ охватывает анализ данных, изображений и киберзащиту. В этих целях альянс планирует создать фонд на «будущую защиту» объемом в 1 млрд долларов. В стратегии отмечается, что ИИ меняет глобальную среду обороны и безопасности и дает беспрецедентную возможность укрепить технологическое преимущество. «Эта основополагающая технология, вероятно, затронет весь спектр мероприятий, осуществляемых Североатлантическим альянсом в поддержку его трех основных задач: коллективная оборона, кризисное регулирование и безопасность на основе сотрудничества»7.

Ранее, 23 сентября 2021 года, правительство Великобритании опубликовало Национальную стратегию искусственного интеллекта8. Документ нацеливает на превращение страны в супердержаву по ИИ и содержит план «новой национальной программы и подхода к поддержке исследований и разработок», а также материалы по управлению и регулированию сферы ИИ. Подход основан на ряде положений, в том числе тех, что «ИИ станет мейнстримом» и «режимы управления и регулирования должны будут соответствовать быстро меняющимся требованиям».

В апреле 2022 года министры иностранных дел стран НАТО одобрили Устав Катализатора оборонных инноваций для Северной Атлантики - или DIANA (Defence Innovation Accelerator for the North Atlantic)9, в рамках которого национальные испытательные центры ИИ обязаны поддерживать амбициозные проекты НАТО в области ИИ.

Программа «DIANA» предполагает взаимодействие персонала оборонных ведомств, перспективных стартапов из стран НАТО, научных исследователей и технологических компаний для решения ключевых задач в области безопасности.

Эта программа сфокусирована на глубоких технологиях (deep technologies) - тех новых и прорывных технологиях, которые НАТО определило в качестве приоритетных, включая обработку Больших данных, искусственный интеллект, автономность, квантовые технологии, биотехнологии, энергия и движение, новые материалы и передовое производство, гиперзвук и космос, особенно там, где они носят двойной характер (коммерческий и оборонный) и глубоко технологичны и где их можно использовать для решения сложных задач обороны и безопасности10.

30 марта 2023 года было открыто первое региональное отделение «DIANA» в Инновационном центре Имперского колледжа Лондона (в партнерстве с Эстонией)11. Эксперты, участвующие в программе «DIANA», работают на десятках площадок и испытательных центров более чем в 20 странах-союзницах. В настоящее время «DIANA» использует сеть более чем из десяти аффилированных акселераторов и более 90 испытательных центров в инновационных центрах по всему альянсу. Региональные офисы «DIANA» расположены в Лондоне и Галифаксе, а региональный хаб - в Таллине12.

Технологии ИИ: противостояние США и КНР

В Стратегии национальной безопасности от 12 октября 2022 года США объявили себя «мировой державой с глобальными интересами». Противниками США в документе указаны КНР и Россия, которые, как утверждается, в отличие от многих других в прошлом недемократичных режимов, не пошли по пути демократии13. Комиссия по ИИ, инклюзивности и инновациям Торговой палаты США в своем докладе, опубликованном в марте 2023 года, признает, что США сталкиваются с жесткой конкуренцией со стороны Китая в области разработки ИИ. Данная конкуренция настолько ожесточенная, что неясно, кто станет глобальным лидером, и это вызывает серьезные опасения за безопасность США и их союзников14.

США исходят из того, что решающую роль в противоборстве должно сыграть лидерство в военных технологиях. В феврале 2023 года Пентагоном была разработана Совместная концепция конкуренции (Joint Concept for Competing)15. Она предусматривает концентрацию усилий на таких направлениях, как разведка, гибридные войны, конкуренция конфликтов, что позволит подготовиться к реалиям высокотехнологичного противоборства и потенциальным конфликтам.

В апреле 2023 года американский Центр стратегических международных исследований - CSIS установил семь технологий, которые способны сыграть ключевую роль в борьбе за победу с равным противником (Seven Critical Technologies for Winning the Next War)16. В первую очередь - это квантовые вычисления, биотехнологии и безопасные дублируемые коммуникационные сети. Далее - это мощные аккумуляторные батареи, искусственный интеллект, машинное обучение, космические датчики и робототехника. При этом эксперты CSIS утверждают, что отказ от любой из этих технологий может стать решающим фактором победы или поражения.

В рамках глобальной гибридной войны США поставляют вооружения Тайваню и Украине, усиливая конфронтацию с двумя великими державами, и только наивные оптимисты верят, что США могут победить. В этих условиях понятно стремление Китая завоевать инновационное лидерство, обойдя США и Европу в области высокотехнологичной продукции, в том числе и в сфере ИИ.

Так, в июне 2022 года Китай анонсировал создание «BaGuaLu» - нейросети с 174 трлн синапсами нейронов, что сравнимо с количеством синапсов нейронов в человеческом мозгу17.

В связи с резким ростом роли цифровых технологий в НАТО в Народно-освободительной армии Китая (НОАК) был сформирован новый вид вооруженных сил - Силы стратегической поддержки. Их главная задача состоит в обеспечении надежного контроля над информационным пространством. Пекин реализует киберинициативу - План развития искусственного интеллекта нового поколения, где ИИ рассматривается в качестве ключевой преобразующей технологии экономического и военного доминирования в будущем18.

В январе 2023 года стало известно, что НОАК будет моделировать вторжение на Тайвань с помощью ИИ19. Для этого планируется широко использовать информационные технологии, а с помощью ИИ будет смоделирована ситуация сдерживания сил США на территории Тайваня.

Противостояние США и КНР продолжилось на проходившей в Сингапуре 2-4 июня 2023 года 20-й конференции по безопасности «Диалог Шангри-Ла» - азиатском аналоге Мюнхенской конференции по безопасности. На конференции состоялся очередной раунд взаимных обвинений, результатом которых стал отказ министра обороны КНР от встречи с американским коллегой, так как китайский министр остался в санкционном списке США за свою роль на прежних должностях в закупке вооружений у России20. На встрече 19 июня 2023 года в Пекине Си Цзиньпин отверг предложение США создать горячую линию для военных кризисов, что является приоритетной целью администрации Байдена, как заявил Энтони Блинкен21.

В своей новой книге «Четыре поля битвы: сила в эпоху искусственного интеллекта» (издана в феврале 2023 г.) отмеченный многими наградами эксперт по обороне П.Шарре утверждает, что превосходство в Больших данных и ИИ для их обработки будет иметь решающее военное значение в соперничестве сверхдержав, особенно между Соединенными Штатами и Китаем22. 

В целях обеспечения технологического доминирования в США в соответствии с Законом о национальной инициативе по искусственному интеллекту 2020 года, принятым 1 января 2021 года, была утверждена указанная инициатива по ИИ. Ее основные цели: обеспечение устойчивого лидерства США в области ИИ; лидерство в мире по разработке и использованию надежных систем ИИ в государственном и частном секторах; подготовка персонала к интеграции систем ИИ во все сектора экономики и общества; координация текущей деятельности в области ИИ во всех федеральных ведомствах23.

ИИ - угроза для человечества?

Миллиардер Илон Маск заявил, что ИИ неизбежно будет контролировать сам себя, обладая потенциалом уничтожить человечество, хотя это и будет отличаться от сюжета «Терминатора». В марте 2023 года он присоединился к более тысяче экспертов, подписавших открытое письмо, инициатором которого стал Институт будущего жизни (The Future of Life Institute)24. Авторы призвали минимум на полгода приостановить обучение нейросетей, чтобы в течение этой паузы совместно разработать и внедрить общие протоколы безопасности.

Использование Больших данных уже оказывало влияние на исход политических кампаний во многих странах мира. Широко известен скандал с британской компанией «Cambridge Analytica», которая до начала кампании за выход Великобритании из ЕС и президентских выборов в США 2016 года скупила массивы данных о десятках миллионах британцев и американцев. База включала в себя огромное количество информации, начиная от лайков в соцсетях и заканчивая адресами проживания. После обработки данных были запущены кампании таргетированной политической агитации - адресаты получали сообщения, максимально совпадающие с их общественно-политическими взглядами, за что и отдали свои голоса. Маск известен как симпатизант Трампа. И сегодня у него есть основания подозревать демократов в готовности применить против Трампа методы, в использовании которых они его обвиняли на выборах 2016 года.

При этом немало вопросов о политических последствиях внедрения продвинутых моделей ИИ, например контроль над технологией «Базовых моделей», разработка которых очень дорога. В силу этого возникает угроза концентрации технологий у небольшого числа компаний и правительств богатейших стран мира, ибо они получили бы инструменты глобального информационного и идеологического доминирования.

Неизбежны и новые угрозы для национальной безопасности. Так, упомянутые ранее технологии «GPT» могут быть использованы для создания очень опасных компьютерных вирусов и их запуска в глобальные сети. Модели могут разрабатывать стратегии для военных, а от их способности генерировать реалистичные видеопотоки лишь один шаг до производства неограниченных объемов крайне убедительной дезинформации и манипулирования. Примером может быть дипфейковое видео, распространенное в социальных сетях, на котором Хиллари Клинтон поддерживает кандидатуру губернатора-республиканца Рона Десантиса на пост президента25.

Как ограничить гонку ИИ-вооружений?

Анализ показывает, что на сегодняшний день имеется три различных подхода к ограничению ИИ-вооружений. Наиболее мягкий - применять существующие правила к системам ИИ. Евросоюз в принятом законе классифицирует использование ИИ по степени риска и требует более строгого контроля. Некоторые виды ИИ запрещены полностью, например реклама, воздействующая на подсознание, а также дистанционная биометрия.

Сторонники более строгих ограничений требуют усиления надзора и регулирования ИИ. Так, технология «Больших моделей» представляет собой скачок в разработке ИИ и требует отдельного регулирования. 

В конце мая 2023 года группа лидеров отрасли ИИ в заявлении (из одного предложения!) предупредила, что «Снижение риска исчезновения от ИИ должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война» (опубликовано некоммерческой организацией «Center for AI Safety»)26. Письмо подписали более 350 руководителей, исследователей и инженеров, работающих в сфере ИИ. Среди подписантов были топ-менеджеры трех ведущих компаний в области ИИ: «OpenAI», «Google DeepMind», «Anthropic».

Эти опасения разделяют многие лидеры отрасли, ставя себя в необычное положение, утверждая, что технология ИИ, которую они создают - и во многих случаях яростно стремятся создавать быстрее, чем их конкуренты, - представляет серьезные риски и должна регулироваться более жестко.

В мае 2023 года исполнительные директора «OpenAI», «Google DeepMind» и «Anthropic» встретились с Президентом Байденом, чтобы обсудить вопросы регулирования ИИ. В своем выступлении в Сенате после встречи они предупредили, что риски, связанные с системами ИИ, требуют вмешательства правительства, и призвали регулировать ИИ из-за его зловещих угроз.

Дэн Хендрикс, исполнительный директор Центра безопасности ИИ, сказал в интервью, что открытое письмо представляет собой «выход» для некоторых лидеров отрасли, которые выразили обеспокоенность - но только в частном порядке - по поводу рисков технологии, которую они разрабатывали27.

Председатель Британского государственного агентства перспективных исследований и изобретений (ARIA) Мэтт Клиффорд подчеркнул, что современные системы «AI» обучаются со все более возрастающей скоростью. По его мнению, если не начать уже сейчас разрабатывать системы контроля и безопасности, то через два года может быть поздно28.

ИИ как инструмент когнитивной войны

Противодействуя укреплению многополярного миропорядка, коллективный Запад апробирует все новые методы гибридной войны против своих противников (в первую очередь России и Китая). Одной из новых форм ее информационной составляющей считается когнитивная война, иными словами - «мозг как поле битвы XXI века»29.

Известно, что информационно-психологическое оружие нацелено на поражение воли противника, когнитивное - на его сознание, а ментальное - на его мировоззрение.

Наиболее активно технологии ИИ коллективный Запад использует в когнитивном оружии: для изменения когнитивных процессов у противника, умственных предубеждений или рефлексивного мышления, а также для провоцирования искажений мышления, негативного влияния на принятие решений как на индивидуальном, так и коллективном уровнях.

Ведущую роль на этом направлении играет специализированный центр «Innovation for Defence Excellence and Security» (IDEaS), также известный как хаб по инновациям, размещенный в Канаде. При этом данный центр не входит в список центров НАТО, таких как Центр киберобороны в Таллине или Центр противодействия гибридным угрозам в Хельсинки. Вероятно, в НАТО не захотели привлекать внимание к его работе, поэтому он функционирует автономно.

В спонсируемом НАТО исследовании когнитивной войны 2020 года ее феномен описывался как «милитаризация науки о мозге»30. В докладе для НАТО отмечается, что прогресс в области НБИК-технологий привел к быстрому развитию ИИ, Больших данных и глобальной цифровой зависимости. Это, в свою очередь, позволяет сформировать пятую колонну, в которой каждый ведет себя не так, как ему хочется, а как планируют политические конкуренты. Цель состоит в том, чтобы посеять в России и Китае диссонанс, спровоцировать противоречивые нарративы, поляризовать мнения и радикализировать группы. Когнитивная война может мотивировать людей действовать таким образом, чтобы разрушить или фрагментировать сплоченное общество. Последующий хаос способен повлиять на принятие решений властями, изменить идеологию и вызвать недоверие среди союзников31.

ИИ в России - проблемы и перспективы

За период с 2017 года более 40 стран разработали и приняли стратегии развития ИИ. В этих условиях Указом Президента РФ от 10.10.2019 №490 была утверждена Национальная стратегия развития ИИ на период до 2030 года32. В этой стратегии определено, что Россия должна стать одним из международных лидеров в развитии ИИ для роста благосостояния и качества жизни населения; обеспечения национальной безопасности и правопорядка; достижения устойчивой конкурентоспособности российской экономики.

В соответствии со стратегией Распоряжением Правительства РФ от 19.08.2020 №2129-р. была утверждена Концепция развития регулирования отношений в сфере технологий ИИ и робототехники до 2024 года.   

На пленарном заседании «Искусственный интеллект. Национальная консолидация во имя созидания» в рамках Международного военно-технического форума «Армия-2022» заместитель председателя Правительства РФ Д.Чернышенко сообщил о начале работы Национального центра развития искусственного интеллекта при Правительстве России33. Он также отметил, что центр станет одним из инструментов реализации Национальной стратегии развития ИИ, а также мероприятий федерального проекта «Искусственный интеллект» национальной программы «Цифровая экономика РФ».

В 2023 году Минэкономразвития России перезапускает ряд программ федерального проекта «Искусственный интеллект». В частности, запланирован отбор исследовательских центров для решения прикладных задач в сфере ИИ.

Основным поставщиком комплектующих для России в сфере ИИ является Китай, а в качестве стран-покупателей можно назвать Беларусь, государства Юго-Восточного и Латиноамериканского регионов, а также Африки.

В России появились разработки нейросетей, аналогичные упомянутой ранее «ChatGPT», например, «GigaChat» - русскоязычная «ChatGPT» от Сбера», 17 мая 2023 года «Яндекс» представил свою языковую модель - «YandexGPT».

Вместе с тем В.Путин в своей речи 16 июня 2023 года на пленарном заседании XXVI Петербургского международного экономического форума подчеркнул: «Нужно активно внедрять и использовать эти наработки, поддерживать подготовку отечественного программного обеспечения в сфере Больших данных, запускать проекты в области искусственного интеллекта и, конечно, заниматься укреплением информационной безопасности, отслеживать оборот данных, чтобы они не причинили ущерба национальной безопасности и интересам наших граждан…

К сожалению, здесь есть и отставание - нужно его наверстывать и в дальнейшем строго придерживаться установленных планов… 

Добавлю, что мы регулярно рассматриваем ход внедрения новых технологических решений в российской экономике, проводим ежегодную конференцию, посвященную искусственному интеллекту. А начиная с этого года запускаем новую специальную площадку «Форум будущих технологий», где на ежегодной основе станут обсуждаться передовые направления технологического развития.

Компании, регионы, научно-исследовательские команды будут представлять свои разработки, делиться опытом в освоении новейших решений»34.

Военный ИИ - путь в Армагеддон?

Как уже отмечалось, технологии ИИ провоцируют подрыв международной безопасности в самых различных сферах. Смертоносные автономные системы (САС) - это тип военных систем, способных без участия человека находить и поражать цели на основе библиотеки образов, заложенных в базе. Сегодня ИИ в военном секторе не принимает решения самостоятельно: система может обнаружить и распознать вероятную цель и предложить варианты оператору. Однако поспешность во внедрении технологий ИИ может привести к алгоритмическим сбоям, серьезным авариям с жертвами. Включение ИИ в управление и контроль ядерных объектов способно резко повысить вероятность ядерных аварий.

В 2016 году под эгидой ООН была создана Группа правительственных экспертов (ГПЭ) для рассмотрения вопроса о возможности регулирования САС, работа которой из-за позиции коллективного Запада, стремившегося закрепить мнимое превосходство в разработке САС, успеха не имела.

С целью соблюдения обязательств по международному праву, в том числе международному гуманитарному праву (МГП), а также для взаимодействия с иностранными партнерами в сфере ИИ 26 июля 2022 года министром обороны России была утверждена Концепция деятельности Вооруженных сил Российской Федерации в сфере разработки и применения систем вооружений с использованием технологий ИИ. 

По инициативе России данная концепция стала основой для рассмотрения в ГПЭ в марте и мае 2023 года Конвенции о запрещении или ограничении применения конкретных видов обычного оружия, которые могут считаться наносящими чрезмерные повреждения или имеющими неизбирательное действие35.

Россия активно продвигает на площадке ООН свою позицию, заключающуюся в том, что международное право, в том числе МГП, применимо к перспективным вооружениям и технике, обладающим высокой степенью автономности, и не нуждается в модернизации или адаптации в связи с их спецификой. Неукоснительное соблюдение норм МГП в ситуациях вооруженных конфликтов остается одним из приоритетов России.

Призыв ЮНЕСКО внедрить рекомендации по этическим аспектам ИИ

В ноябре 2021 года 193 государства-члена единогласно приняли Рекомендацию ЮНЕСКО об этических аспектах ИИ. Роль документа заключается в оказании помощи государствам-членам в соблюдении ими основополагающих прав, закрепленных в Уставе ООН и Всеобщей декларации прав человека, а также в обеспечении того, чтобы при проведении исследований, проектировании, разработке и внедрении систем ИИ учитывались такие факторы, как благосостояние человечества, охрана окружающей среды и устойчивое развитие.

После обращения в марте 2023 года более 1 тыс. экспертов с инициативой приостановить обучение мощных систем ИИ ЮНЕСКО призвало все страны незамедлительно внедрить Рекомендацию ЮНЕСКО об этических аспектах ИИ. «Миру нужны более строгие в этическом отношении правила для искусственного интеллекта: это вызов нашего времени. Рекомендация ЮНЕСКО об этических аспектах ИИ устанавливает соответствующие нормативные рамки», - заявил Генеральный директор ЮНЕСКО Одри Азуле36.

Генеральный секретарь ООН А.Гутерриш за создание глобальной системы контроля за ИИ

Генеральный секретарь ООН предложил создать организацию надзора и регулирования ИИ по аналогии с МАГАТЭ. По его словам, новые технологии развиваются с невероятной скоростью, как и связанные с ними угрозы. Тревожные звоночки по поводу новейшей формы - генеративного ИИ - оглушительны, и громче всего они звучат от разработчиков, которые его создали. Эти ученые и эксперты призвали мир действовать, объявив ИИ экзистенциальной угрозой человечеству наравне с риском ядерной войны.

Гутерриш признал, что формирование такого агентства будет сложным и потребует сотрудничества правительственных учреждений и частных компаний. Участие последних означает, что они согласятся на аудит своего программного обеспечения и контроль возможностей. Организация, подобная МАГАТЭ, должна отвечать за инспектирование систем ИИ, требующих высокого уровня вычислительных ресурсов. 

Представляется, что для обеспечения международной безопасности предложения России в ГПЭ ООН по САС, Генсекретаря ООН А.Гутерриша по созданию агентства по контролю за ИИ и Гендиректора ЮНЕСКО О.Азуле об этических аспектах ИИ в высшей степени актуальны. Главное - не на словах, а на деле обеспечить равноправное участие всех государств-членов ООН.

 

 

1Цифровые международные отношения: В двух томах. Т. 1 / под ред. Е.С.Зиновьевой, С.В.Шитькова. Москва: Аспект Пресс, 2023. 354 с.

2Ларина Е., Овчинский В. Искусственный интеллект на войне // Совет по внешней и оборонной политике. Новости. 13.05.2023 // https://svop.ru/main/46913/

3https://chat-gpt.org/ru

4Пост разработчика Сики Чена в «Твиттере». 27.03.2023 // https://twitter.com/blader/status/1640217165822578688?s=20

5Концепция внешней политики Российской Федерации (утверждена Президентом Российской Федерации В.В.Путиным 31 марта 2023 г.) // https://www.mid.ru/ru/detail-material-page/1860586/

6Парад Победы на Красной площади. Новости о Президенте России // kremlin.ru // http://www.kremlin.ru/events/president/transcripts/71104

7NATO: Summary of the NATO Artificial Intelligence Strategy. 22.10.2021 // https://www.nato.int/cps/en/natohq/official_texts_187617.htm

8National AI Strategy // https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/1020402/National_AI_Strategy_-_PDF_version.pdf

9NATO: НАТО усиливает технологическое преимущество с помощью инновационных инициатив. 07.04.2022 // https://www.nato.int/cps/ru/natohq/news_194587.htm?selectedLocale=ru

10https://diana.nato.int/about-diana.html

11NATO: заместитель генерального секретаря НАТО открывает европейское региональное отделение DIANA и приветствует управляющего директора. 30.03.2023 // https://www.nato.int/cps/ru/natohq/news_213288.htm?selectedLocale=ru

12https://diana.nato.int/who-we-are.html

13Заявление от 22.10.2022 // Официальный сайт Белого дома // https://www.whitehouse.gov/briefing-room/statements-releases/2022/10/12/fact-sheet-the-biden-harris-administrations-national-security-strategy/

14Доклад комиссии по искусственному интеллекту по конкурентоспособности, инклюзивности и инновациям Торговой палаты США // https://www.uschamber.com/assets/documents/CTEC_AICommission2023_Exec-Summary.pdf

15Военно-морской институт США // Новости. 09.03.2023 // https://news.usni.org/2023/03/09/pentagons-joint-concept-for-competing

16Центр стратегических международных исследований - CSIS // https://www.csis.org/analysis/seven-critical-technologies-winning-next-war

17Китайский суперкомпьютер впервые в мире создал модель искусственного интеллекта «в масштабе мозга» // Южно-Китайская утренняя почта (scmp.com) // https://www.scmp.com/news/china/science/article/3182498/china-supercomputer-achieves-global-first-brain-scale-ai-model

18The Diplomat. 27.07.2017 // https://thediplomat.com/2017/07/chinas-artificial-intelligence-revolution/

19Китай усилит роль ИИ в военных конфликтах // Новости. 16.01.2023 // https://www.securitylab.ru/news/535643.php?clear_cache=Y

20South China Morning Post. 12.06.2023 // https://www.scmp.com/economy/article/3223739/global-impact-top-brass-china-us-failed-meet-shangri-la-dialogue-they-still-had-plenty-say

21The Hill. 19.06.2023 // https://thehill.com/policy/international/4056790-blinken-calls-for-xi-to-police-chinese-companies-aiding-russias-military/

22Ларина Е., Овчинский В. Указ. соч. // Совет по внешней и оборонной политике (svop.ru) // https://svop.ru/main/46913/?ysclid=lin655iy77129365095

23Национальная инициатива по искусственному интеллекту // Официальный сайт Правительства США // https://www.ai.gov/

24Future of Life Institute Pause Giant AI Experiments: An Open Letter. 22.03.2023 // https://futureoflife.org/open-letter/pause-giant-ai-experiments/

25Fact or Fiction: Hillary Clinton endorses Ron DeSantis for president? // https://news.yahoo.com/fact-fiction-hillary-clinton-endorses-023408380.html

26https://www.safe.ai/statement-on-ai-risk

27https/www.nytimes.com/2023/05/30/technology/ai-threat-warning.html

28https://www.youtube.com/watch?=v=wn4z1WnR6K0

29Norton Ben. Behind NATO’s ‘cognitive warfare’: ‘Battle for your brain’ waged by Western militaries. 08.10.2021 // https://thegrayzone.com/2021/10/08/nato-cognitive-warfare-brain/

30Cognitive Warfare Project - Reference Documents // https://www.innovationhub-act.org/cw-documents-0

31https://www.canada.ca/en/department-national-defence/campaigns/fall-2021-nato-innovation-challenge.html

32http://static.kremlin.ru/media/events/files/ru/AH4x6HgKWANwVtMOfPDhcbRpvd1HCCsv.pdf

33Национальный портал в сфере Искусственного интеллекта // https://ai.gov.ru/

34Пленарное заседание Петербургского международного экономического форума // Официальный сайт Администрации Президента РФ // http://www.kremlin.ru/events/president/news/71445

35https://docs-library.unoda.org/Convention_on_Certain_Conventional_Weapons_-Group_of_Governmental_Experts_on_Lethal_Autonomous_Weapons_Systems_(2023)/CCW_GGE1_2023_WP.5_0.pdf

36ЮНЕСКО призывает все правительства незамедлительно внедрить свою Рекомендацию об этических аспектах искусственного интеллекта // https://www.unesco.org/ru/articles/yunesko-prizyvaet-vse-pravitelstva-nezamedlitelno-vnedrit-svoyu-rekomendaciyu-ob-eticheskikh?hub=701