ГЛАВНАЯ > Актуальное интервью

Искусственный интеллект и безопасность: что во благо, а что во зло?

13:07 21.10.2019 • Александр Моисеев, обозреватель журнала «Международная жизнь»

На снимке: Профессор Евгений Пашенцев.
Фото Александра Моисеева.

Буквально на днях Президент России Владимир Путин подписал национальную стратегию развития Искусственного интеллекта (ИИ) на период до 2030 года. Документ опубликован на официальном интернет-портале правовой информации. Президент поручил правительству до 15 декабря 2019 года изменить национальную программу «Цифровая экономика» и утвердить федеральный проект «Искусственный интеллект». В частности, в документе указано, что инвестиции в ИИ с 2014 по 2017 год в мире выросли в три раза и составили около $40 млрд. В 2018 году показатель достиг уровня в $21,5 млрд, а к 2024 году инвестиции составят почти $140 млрд. Целями в документе называют поддержку исследований, разработку и развитие программного обеспечения, повышение доступности и качества данных для развития технологий. Курировать ИИ в правительстве будет Минэкономики.

На вопросы по этой непростой теме нашему обозревателю отвечает  доктор исторических наук, профессор, ведущий научный сотрудник Института актуальных международных проблем Дипломатической академии МИД России Евгений Пашенцев.

 

«Международная жизнь»:  Евгений Николаевич, предлагаю начать нашу беседу с уточнения ее предмета. Не могли бы вы представить нашим читателям вашу точку зрения на то, что такое международная информационно-психологическая безопасность (МИПБ)? И стоит ли вести речь о злонамеренном использовании Искусственного интеллекта против МИПБ?

Евгений Пашенцев: Да, разумеется. Я бы определил МИПБ как защищенность системы международных отношений от негативных информационно-психологических воздействий, связанных с разнообразными объективными и субъективными факторами международного развития. Среди последних важно выделить целенаправленную деятельность различных государственных, негосударственных и наднациональных акторов по частичной/полной, локальной/глобальной, кратковременной/долгосрочной, латентной/открытой дестабилизации международного положения с целью получения конкурентных преимуществ вплоть до физического уничтожения противника. Вполне понятно, когда появляются новые факторы, угрожающие МИПБ, а значит и всей системе международной безопасности, то на них стоит обращать самое пристальное внимание. Полагаю, что в ближайшее время, злонамеренное использование Искусственного интеллекта станет одной из важнейших угроз МИПБ. При этом я вовсе не хочу умалить и, тем более, поставить под вопрос необходимость дальнейшего развития ИИ. Разумеется, если использовать растущие выгоды его применения для всего человечества, с учетом требований безопасности. Характер использования ИИ на современном уровне его развития полностью зависит от человека, от его намерений и дел. Здесь можно провести аналогию между социальными последствиями использования «мирного атома» и атомной бомбы – то и другое, выбор не «атомной энергии», а человека.  

 

«Международная жизнь»: А можете кратко определить, что такое Искусственный интеллект? 

Евгений Пашенцев:  Если говорить в самом общем плане, это -  свойство интеллектуальных систем выполнять «когнитивные» функции, которые люди ассоциируют с человеческим разумом, такие как «обучение» и «решение проблем».  Указом Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» в России утверждена Национальная стратегия развития искусственного интеллекта до 2030 года.  Я бы позволил себе опереться на определение, приведенное в этом документе: «Искусственный интеллект – комплекс технологических решений, позволяющий имитировать когнитивные функции человека… и получать при выполнении задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека».  Очень важно, что в этом документе среди прочих принципов развития и использования ИИ, обращается внимание на «…недопустимость использования искусственного интеллекта в целях умышленного причинения вреда гражданам и юридическим лицам». 

 

«Международная жизнь»:  Тогда позвольте спросить, с чем вязаны угрозы МИПБ со стороны Искусственного интеллекта? 

Евгений Пашенцев:   На мой взгляд, целесообразно рассматривать определенные уровни угроз МИПБ в контексте злонамеренного использования ИИ. Согласно многим последним отчетам, таким как отчеты ООН, Всемирного экономического форума, Банка Америки, Мерилла Линча, Всемирного института Маккинзи, Оксфордского университета и других 4, 30% и более рабочих мест исчезнут в ближайшие 2–3 десятилетия в результате процессов роботизации производства, финансов, услуг и управления, включая высокооплачиваемые должности. В 2016 году Всемирный банк опубликовал доклад, в котором говорится, что в ближайшие десятилетия более 65% рабочих мест в развивающихся странах будут поставлены под угрозу ускоряющимся развитием технологий. Не только возможная массовая безработица в результате внедрения ИИ, но и возможность утраты полного (в достаточно далеком будущем) и частичного (в настоящем и ближайшем будущем) контроля за искусственным интеллектом – в центре внимания специалистов, государственных органов и широкой общественности. 

Объективные и субъективные негативные факторы и последствия развития ИИ могут реально угрожать МИПБ, но сами по себе не являются злонамеренным использованием ИИ. Однако сознательное занижение или завышение этих угроз, целевое искажение информации (например, «страшилки», что за несколько лет роботы и ИИ лишат людей работы) имеют определенные политические и экономические цели и далеко не так безобидны, как это может показаться на первый взгляд. Искусственно созданная гипертрофированно-негативная реакция людей на развитие и внедрение ИИ может затормозить внедрение этой прогрессивной практически всеохватывающей технологии, вызвать социально-политическую напряженность, конфликты, что, в свою очередь, обернется социально-экономическим отставанием страны. Недооценка же негативных последствий внедрения ИИ (в том числе прогрессирующее сокращение потребности в рабочей силе неспособной на инновационную деятельность) может обернуться на определенном этапе, если не восстанием «новых луддитов», то серьезной социально-политической напряженностью (впрочем, первое со временем также не исключено). Таким образом, на первом уровне угрозы МИПБ посредством злонамеренного использования ИИ связаны с намеренно-искажающей интерпретацией обстоятельств и последствий его развития в интересах антисоциальных групп.  

Бóльшая часть опасений связана, однако, с реальной угрозой, исходящей не от ИИ как такового, а от злонамеренного использования ИИ. И эта тревога вполне обоснована: за быстро растущим внедрением ИИ в общественную жизнь, ростом его возможностей, а также увеличением практики и возможностей злонамеренного использования не поспевают ни правовое регулирование в отдельных странах, ни система международного права, ни существующие механизмы контроля. Поле для злонамеренного использования здесь широкое – неоправданное применение дронов, угрозы кибератак на элементы инфраструктуры, манипуляции с криптовалютами, использование ботов в кампаниях по подрыву репутации отдельных личностей, организаций и стран и многое другое. Отнюдь неслучайно многие исследования и аналитические доклады о восприятии ИИ обществом свидетельствуют о высоком уровне обеспокоенности населения социальными последствиями внедрения ИИ. Средствами и методами информационно-психологического противоборства (ИПП) (хотя и не только его) можно поднять уровень восприятия вышеназванных угроз выше или опустить ниже адекватного. Более того, применение в ИПП ИИ позволяет уже сегодня и позволит в гораздо большей мере в будущем сделать явные и скрытые кампании информационно-психологического воздействия более эффективными и опасными. Поэтому злонамеренное использование ИИ, нацеленное в значительной мере на нанесение ущерба в информационно-психологической сфере, заслуживают самостоятельного и самого пристального внимания. 

 

«Международная жизнь»:  Евгений Николаевич, могли бы вы  более конкретно определить цель злонамеренного использования Искусственного интеллекта? 

Евгений Пашенцев:  В рамках гибридной войны с помощью материальных средств воздействия в различных сферах (экономической, политической, военной и др.) субъекты международных отношений осуществляют негативное опосредованное и непосредственное воздействие на общественное сознание противника, а также нередко и на свое собственное состояние, своих союзников, нейтральных акторов. Например, экономические санкции имеют своей задачей не только материально ослабить или уничтожить противника, но и через рост его экономических проблем снизить готовность целевых групп воздействия к дальнейшему сопротивлению. Военно-политическая конфронтация с противником на основе захватнических интересов и политики массового геноцида населения других народов наносит трудно исправимый ущерб менталитету и психике народа страны-агрессора. В то же время средства ИПП всегда нацелены на нанесение непосредственного (хотя часто латентного) удара по общественному сознанию и (через победу в этой сфере) бескровную общую победу над противником. Злонамеренное использование ИИ в контексте МИПБ как раз и нацелено на получение перевеса в ИПП за счет количественно и качественно-новых форм воздействия на индивидуальное и общественное сознание. По сути, в современном глобальном мире речь идет о гибридной войне в рамках системы международных отношений, которая никогда в истории полностью не прекращалась, но имеет свои периоды закономерного обострения. Мы явно и надолго вступили в переходный период развития человечества в целом и системы международных отношений в частности, который сопровождается нелинейно нарастающим ИПП. 

Злонамеренное использование ИИ может решать следующие задачи: спровоцировать целевые группы на неадекватную реакцию на несуществующий фактор общественного развития в интересах заказчика информационно-психологического воздействия. Аудитория видит то, что не существует. 

представить ложную интерпретацию существующего фактора общественного развития и таким образом также вызвать искомую целевую реакцию. Аудитория видит то, что существует, но в ложном свете.  И реагирует неадекватным образом.  

 

«Международная жизнь»:  Вы достаточно доходчиво рассказали об опасности злонамеренного использования ИИ, однако было бы интересным узнать о формах и методах злонамеренного использования ИИ на третьем уровне угроз МИПБ. 

Евгений Пашенцев:   Я предложил в ряде своих работ классификации злонамеренного воздействия ИИ на МИПБ: по территориальному охвату: местный, региональный, глобальный характер; по степени наносимого ущерба: незначительный, значительный, крупный, катастрофический; по скорости распространения: медленный, быстрый, стремительный; по форме распространения: открытый, скрытый. Выделены угрозы в данной области, с которыми может столкнуться правительство любого государства и система международных отношений в целом. Среди них отмечены следующие: 

Создание глубинных фейков – генерации поддельных видео публичных политиков, деятелей бизнеса и культуры, представителей конфессиональных организаций с сообщениями, способными спровоцировать напряженность, вплоть до международных конфликтов; 

Технология «Fake Faces» способна создавать фотореалистичные изображения людей, не существующих в реальности, что создает новые риски в рамках информационно-психологического противоборства; 

Установка и закрепление повестки дня с помощью искусственного интеллекта могут помочь продвижению той или иной новости, персоны и т. п. в медиапространстве; 

Целевая трансформация образов (алгоритмы глубокого обучения используются для превращения обычных, повседневных изображений в страшные, зловещие); 

Системы распознавания лиц и детекторов лжи на базе искусственного интеллекта способны внести диссонанс в общественное мнение, если будут использованы против представителей служб безопасности, военных, политиков и т. д.; 

«Отравленные данные» (введенный в ходе машинного обучения деструктивный контент) могут повлиять на виртуальную «личность» и направить работу искусственного интеллекта против общества; 

Анализ тональности (выявление отношения автора текста к предмету, обсуждаемому в тексте) может послужить злонамеренным актором для манипулирования мнениями журналистов, блогеров и т. п., а также их аудитории; 

Искусственный интеллект, машинное обучение и анализ тональности позволяют с растущей точностью предсказывать конкретные массовые акции в будущем вплоть до их конкретных параметров и последствий путем анализа прошлого, чем могут воспользоваться не только спецслужбы, но и подрывные элементы; 

 На основе комбинации техник психологического воздействия, сложных систем искусственного интеллекта и больших данных могут появиться синтетические информационные продукты, которые будут действовать не на неодушевлённые предметы, социальные сети и т. п., а на человека и массы как на психобиофизических существ. 

 

«Международная жизнь»:  Евгений Николаевич, развитие Искусственного интеллекта - это сегодняшний день только развитых стран, а в странах третьего мира, положение иное, и там преждевременно говорить об угрозах злонамеренного использования ИИ?

Евгений Пашенцев:  Я думаю, эта проблема в той или иной мере стоит перед всеми регионами мира и все страны – одни раньше, другие позже почувствуют на себе практику злонамеренного использования ИИ. Ибо все регионы вступают в период сквозного применения ИИ. Разумеется, не одновременно и не одномоментно. Постараюсь показать это на примере   Латинской Америки. 

В исследовании 2018 года, подготовленном Институтом интеграции стран Латинской Америки и Карибского бассейна (Intal) при Межамериканском банке развития (МБР) подчеркивается, что ИИ может принести «широкие выгоды» для региона, хотя авторы исследования настоятельно призывают правительства принять меры по контролю над последствиями «технологического перехода». 

Почти половина роста ВВП в регионе до 2035 года будет вызвана повышением производительности труда, что позволит работникам больше заниматься задачами, приносящими большую добавленную стоимость. Густаво Белис, директор Intal, заявил, что искусственный интеллект создает «совершенно новую производительную силу, способную к самореализации», и что новые технологии в Латинской Америке нужны, чтобы «не отставать от более развитых стран».  

 Способность ИИ анализировать огромные потоки данных о торговле может «стимулировать» переговоры между странами, делая их «более гибкими и эффективными», что может дать дополнительный импульс экономическому росту для латиноамериканских экономик к 2035 г. В эконометрии ИИ может обеспечить возможные улучшения до 300% по сравнению с традиционными моделями.  

Однако не все так радужно в прогнозах по роли ИИ в Латинской Америке. В докладе Межамериканского банка развития (МБР) отмечается, что 36-43% рабочих мест в Латинской Америке находятся под угрозой из-за эффекта автоматизации, которой способствует ИИ (такой прогноз является промежуточным между наиболее оптимистичными и пессимистичными. В докладе подчеркивалось, что страны с более низким ВВП на душу населения и более высоким неравенством подвергаются большему риску потери рабочих мест посредством технологий. Соответственно, легко прогнозировать рост социальной и политической напряженности, поскольку ИИ усилит имущественное и социальное расслоение, приведет к еще большей степени отчуждения подавляющей части населения от научно-технического прогресса. Однако новые средства манипулятивного воздействия на базе искусственного интеллекта могут и в Латинской Америке, как направить это недовольство в деструктивное русло (хаос и распад современных государственных форм), так и создать новые, более утонченные формы государственного контроля над населением.  

ИИ, машинное обучение и анализ тональности позволяют предсказывать будущее путем анализа прошлого, потенциально такая возможность выгодна и для злонамеренного использования ИИ  различными государственными и негосударственными акторами. Особенно велико значение прогностического оружия: методов предсказательной аналитики на основе больших данных и с использованием ИИ, которые позволяют, получая данные о будущих событиях, корректировать будущее из настоящего в интересах субъекта воздействия и вопреки объективным интересам объекта такого воздействия.

 

«Международная жизнь»:  Евгений Николаевич, вы участвуете в написании ряда книг, издаваемых известными международными издательствами, где рассматриваются вопросы роли ИИ в международных отношениях и международной безопасности, не могли бы вы немного сказать и об этом?  

Евгений Пашенцев:  В монографии «Стратегическая коммуникация в отношениях ЕС и России: напряженность, вызовы и возможности» анализируются общие риски развития ИИ. В книге «Терроризм и передовые технологии в информационно-психологическом противоборстве: новые риски, новые возможности противодействия террористической угрозе» с участием специалистов из 11 стран (ред. Д. Ю. Базаркина,

Г. Саймонз, Е. Н. Пашенцев. Nova Science Publishers) целый раздел будет посвящен информационно-психологическим угрозам с использованием ИИ, исходящим от террористов, и методам их нейтрализации. В конце 2020 года планируется представить коллективную монографию на тему «Искусственный интеллект и угрозы международной психологической безопасности». С близким названием, надеюсь, выйдет и моя авторская монография на эту тему – работаем с известными международными издательствами, сначала книги выходят на английском, а затем в переводе на другие языки, что, кстати, хорошо визуализирует реальный большой вклад российских исследователей направлении. Впрочем, говорить о каких-то больших успехах совершенно преждевременно. Тем более, что работы впереди много, и выполнять ее целесообразно в рамках широкого международного сотрудничества. В Указе Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» говорится, что для развития фундаментальных и прикладных исследований в области ИИ среди прочих мер необходимо развитие международного сотрудничества, включая и обмен специалистами, участие российских исследователей в российских и международных конференциях.   

Международное сотрудничество крайне необходимо для обеспечения международной безопасности в целом. Удержать технологии ИИ двойного назначения в рамках только национальной юрисдикции и контроля представляется практически невозможным в условиях интернета, социальных сетей, мобильной связи… 

 

«Международная жизнь»:  Насколько мне известно, недавно была создана международная исследовательская группа по вопросам изучения текущих и перспективных угроз МИПБ от злонамеренного использования ИИ. Не могли бы вы рассказать о ее деятельности?  

Евгений Пашенцев:  Летом 2019 года я предложил своим коллегам сформировать международную группу специалистов по угрозам международной информационно-психологической безопасности (МИПБ) посредством злонамеренного использования ИИ. Шесть специалистов разного профиля (от международной безопасности до искусственного интеллекта) из России, Румынии, Франции, Марокко составили начальный состав группы. Думаю, к концу года в ее составе будет 10-15 специалистов, за количеством мы не гонимся. Тема сложная и новая, на первых порах, требует больших организационных усилий. Являюсь координатором этой инициативы, а там, надеюсь, подоспеет новое поколение. Довольно успешно сотрудничаем в проведении совместных научных исследований, международных конференций и научных семинаров.

 

«Международная жизнь»:  Евгений Николаевич, а каковы ближайшие планы деятельности этой исследовательской группы? 

Евгений Пашенцев:  Полагаю, что совсем скоро, с 31 октября по 1 ноября 2019 этого года на «Европейской конференции по влиянию ИИ и робототехники» в Оксфорде (Великобритания) наши международная дискуссия будет продолжена на мини-треке «Вредоносное использование искусственного интеллекта: новые вызовы для демократических институтов и политической стабильности». Также дискуссия будет проходить и в ходе ряда моих выступлений в Лондоне. 

Публикации членов группы в ведущих международных издательствах готовятся к изданию книги, в которых тема развития ИИ, злонамеренного использования ИИ и МИПБ является одной из наших главных задач. Эти публикации в российских и зарубежных академических журналах подробных обзоров выступлений российских и зарубежных специалистов по проблемам международной информационно-психологической безопасности, содействуют более широкому распространению среди специалистов нового направления в области обеспечения международной безопасности…

 

«Международная жизнь»:  Какие пути решения  проблемы злонамеренного использования ИИ вы видите?

Евгений Пашенцев:  Не только ведущим в технологическом отношении государствам, но и всем странам ООН, видимо, необходимо найти более эффективный механизм сотрудничества, направленного на предотвращение и минимизацию последствий злонамеренного использования ИИ. Сделать это будет крайне непросто, но необходимо, причем в достаточно сжатые сроки. Помимо ИИ, вся сумма новых технологий требует качественных изменений в человеческом обществе как на уровне государственных и общественных институтов, так и на уровне человеческого индивидуума. Для индивидуума требуются качественные изменения в его ментальных, физических способностях, уровне этических норм и социальной ответственности с целью использовать качественно новые возможности, минимизировать качественно новые риски и обеспечить поступательное развитие социума. Альтернатива таким изменениям — самоуничтожение (быстрое или относительно постепенное) человечества и ликвидация возможности старта новой прогрессивной цивилизации, уважающей свои корни, но идущей вперед в своем развитии. Большая позитивная определенность, осмысленность, последовательность в таком движении в будущее - лучшее лекарство против террористов. Всякая неопределенность, колебания, отсрочка назревших решений и, главное, отсутствие стратегического видения и соответствующих действий будут играть на руку асоциальным группам, включая террористические организации. 

В самом недалеком будущем государственным и общественным структурам разных стран предстоит поставить теоретические и практические вопросы злонамеренного использования ИИ против МИПБ на обсуждение на международных площадках – в ООН, ЮНЕСКО и других. Необходимо учесть важность и стратегическую перспективность этой темы в сложной международной обстановке. Злонамеренное использование ИИ против МИПБ при определенных условиях способно ее существенно осложнить и даже спровоцировать кризис в международных отношениях. Существенно и то, что, пока широкая проблематика злонамеренного использования ИИ пользуется растущим вниманием профессиональной общественности и органов власти на Западе, проблема злонамеренного ИИ против МИПБ получила приоритетное рассмотрение именно в работах российских исследователей. Но, нам предстоит большая и очень интересная работа.   

 

«Международная жизнь»:  Благодарим вас, Евгений Николаевич, за интересную беседу на такую серьезную тему. И желаем вам успешных исследований.

Читайте другие материалы журнала «Международная жизнь» на нашем канале Яндекс.Дзен.

Версия для печати