Влияние технологий искусственного интеллекта на всеобщие выборы в Индии

Стремительное развитие многообразных технологий искусственного интеллекта (ИИ) привносит кардинальные изменения практически во все сферы жизнедеятельности человека, общества и государства. Одной из областей, попавшей под влияние ИИ, стала политика, включая электоральный процесс. Всё более отчётливо вырисовываются контуры рисков и возможностей, влияющих как на избирателей, так и на кандидатов. В отчёте Всемирного экономического форума за 2024 г. отмечается, что именно дипфейки (deepfake) наряду со сложными фишинговыми атаками могут стать инструментом подрыва демократии во многих странах в период выборов [1].

В силу этого факта в ряде стран экстренно принимаются превентивные меры по парированию угроз использования систем ИИ во время выборной гонки. Так, в преддверии муниципальных выборов в Бразилии, которые состоятся осенью 2024 г. Высший избирательный суд Республики ввёл уголовную ответственность за использование дипфейков, а также ограничил возможности использования чат-ботов и аватаров в предвыборной агитации [2]. Кроме Бразилии в 2024 г. президентские и парламентские выборы прокатятся по всему миру – в 64 государствах [3].

В апреле-июне 2024 г. состоялись всеобщие выборы в Лок-Сабха, нижнюю палату парламента Индии, в результате которых победу одержала Бхаратия Джаната Парти (BJP). В результате третий раз подряд Национально-демократический альянс (НДА) сформировал своё правительство. Нарендра Моди стал четвёртым политиком в Индии, которому удалось выйти на третий срок подряд и вновь занять премьерское кресло [4].

Ретроспектива внедрения ИИ в политическую гонку Индии

Предыдущие парламентские выборы, проходившие в 2019 г. были названы в медийном дискурсе «выборами в социальных сетях» [5]. Прошедшие выборы без сомнений будут признаны «выборами ИИ», поскольку именно системы ИИ оказали во многом определяющее влияние на их ход и результаты.

Впервые технология ИИ была использована на всеобщих выборах в 2014 г. BJP, одна их двух ведущих политических партий Индии, применила ИИ с целью создания персонализированных сообщений для избирателей, что стало прецендентом по внедрению инновационной технологии в индийскую политическую борьбу [6]. Несмотря на то, что первые эксперименты по интеграции ИИ в политические кампании были безвредными и весьма результативными, уже вскоре избиратели столкнулись с пагубным влиянием технологий ИИ на прозрачность и честность выборов. Так, в 2020 г. в период голосования в Ассамблею Дели в сети Интернет было опубликовано видео, на котором Манодж Тивари, глава столицы Нью-Дели (национальной столичной территории) от партии BJP, резко раскритиковал на нескольких языках политику главы правительства Дели Арвинда Кеджривала, члена оппозиционной партии Aam Aadmi Party (AAP). Как впоследствии установил Массачусетский технологический институт (MIT), видео являлось дипфейком, созданным с помощью генеративного ИИ и голосовой подмены [7].

В политической гонке 2024 г. генеративный ИИ многократно применялся партиями для дискредитации друг друга в глазах избирателей. Так, в частности, в социальных сетях завирусилось видео, в котором Рахул Ганди, лидер главной оппозиционной партии Индийский национальный конгресс, утверждал, что покидает партию. Правдоподобный ролик оказался подделкой. Как позже выяснилось, манипуляторы смогли с помощью ИИ изменить оригинальное видео, на котором он выдвигает свою кандидатуру в парламент в 2024 г. [8]. Следствием публикации компрометирующего видео стало снижение доверия к партии, поскольку именно Рахул Ганди является одним из её признанных лидеров и слухи о его отставке привели к падению её популярности.

Пострадав от вредоносной деятельности конкурентов, использовавших ИИ, сам альянс Конгресс инкорпорировал генеративные технологии в политические нарративы. Так, в феврале 2024 г. партия разместила в социальной сети Instagram (сеть признана экстремистской и запрещена на территории Российской Федерации) видеоролик с генерированной пародией на Нарендру Моди, поющим популярную индийскую песню на хинди под названием «Вор» (Chor) [9]. Необходимо отметить, что само видео не выглядит гиперреалистичным, хоть и был использован воссозданный ИИ голос премьер-министра. Тем не менее, оно набрало более 1,5 млн просмотров, ибо в видеофрагменте премьер-министр высмеивался за содействие передаче государственных ресурсов индийским миллиардерам.

BJP не могла оставить без реакции такую атаку оппозиционеров и в тот же день опубликовала в своём официальном аккаунте, насчитывающем более 7 млн. подписчиков, минутный ролик с множеством кадров Нарендры Моди на улицах Индии, международных пресс-конференциях, саммитах и иных мероприятиях, создающих позитивную агитационную атмосферу. Для придания большей патриотичности в качестве звукового фона была выбрана национальная композиция, исполненная легендарным певцом Махендрой Капуром, ушедшим из жизни в 2008 г. Слова песни были изменены для того, чтобы подчеркнуть достижения премьер-министра за последние 9 лет, а голос исполнителя, как подтвердили эксперты, был воссоздан и модифицирован с помощью технологий ИИ.

Использование ИИ в деструктивных и вредоносных деяниях уже приводило к задержанию их авторов. Так, Аруну Редди, члену Партии конгресса были выдвинуты обвинения за модификацию видео с применением ИИ [10]. На фальсифицированном ролике министр внутренних дел Индии Амит Шах клянётся пресечь политику позитивных действий по отношению к миллионам бедных низко-кастовых индийцев. Представитель Партии конгресса Шама Мохаммед, подтвердив арест Редди, отрицает его причастность к редактированию ролика. Тем не менее, популярность партии после инцидента среди населения снизилась.

Дипфейки как вызов информационной безопасности Индии

За последние полгода проблема дипфейков, стала одной из самых серьёзных вызовов для Индии. Согласно отчёту State of Deepfakes, в этом году Республика занимает шестую рейтинговую позицию в списке стран наиболее уязвимых к дипфейкам [11]. Риторику поддерживает сам премьер-министр, называя дипфейки «одной из самых больших угроз, с которыми сталкивается система Индии» [12].

Внедрение систем ИИ в борьбе на политической арене расширяет границы, вовлекая в схватку и сторонних граждан, имеющих влияние на народ. С поддельными видео, где используются сгенерированные аватары, столкнулись всемирно известные актёры и актрисы Болливуда, втянутые в политические распри. Среди них популярные артисты Ранвир Снгх и Аамир Хан, которые подали жалобы в полицию после публикации фейковых видео с их участием [13]. Полуминутное сгенерированное видео с Аамиром Ханом мгновенно распространилось по социальным сетям, в нём актёр призывал выборщиков быть осторожными с т.н. «пустыми обещаниями» (хин. jumle vaade). Видеоклип серьёзно повлиял на выбор избирателей, которые не сразу поняли, что оно было сфабриковано. Минутное видео Ранвира Сингха с идентичным контентом, в котором артист критиковал политику правительства, также было сгенерировано с помощью ИИ. Ранвир Снгх и Аамир Хан не единственные, чья карьера пошатнулась из-за указанных дипфейков, ибо жертвами ИИ в политических целях стали также Каджол, Катрина Каиф, Алия Бхатт, Рашмика Манданна и др.

Из всего спектра пострадавших от ИИ, используемого в преступных целях, наибольший ущерб понёс суперзвезда Болливуда Амитабх Баччан. В социальных сетях были размещены видеоролики, в которых актёр, который ведёт телепередачу «Kaun Banega Crorepati», назвал главного министра штата Мадхья-Прадеш Шивраджа Сингха Чоухана лжецом и представил в положительном свете кандидата на пост главы правительства от оппозиционной Партии конгресса Камала Натха [14].

Правительство было вынуждено срочно принять меры по предотвращению публикации дипфейков. «Дипфейки – это большая проблема для всех нас. Недавно мы выпустили уведомления всем крупным фирмам социальных сетей с просьбой предпринять шаги для выявления дипфейков и удаления этого контента. Платформы социальных сетей ответили. Они принимают меры.» – заявил Министр информационных технологий Индии Ашвини Вайшнау [15]. Тем не менее отсутствие чёткого законодательства замедляет процесс контроля за распространением компьютерных фейков.

Возможности и перспективы использования ИИ в политическом дискурсе

Невзирая на то, что ИИ используется политическими партиями для дискредитации своих конкурентов, в ряде случаев технология используется в более мирном русле. Так, партия Дравида Муннетра Кажагам (DMK), находящаяся у власти в штате Тамилнад использовала ИИ, чтобы «оживить» покойного основателя партии Мутхувела Карунанидхи. Видео с «реинкарнацией» ушедшего из жизни известного оратора и политика обрело большую популярность. Сгенерированный аватар восхвалял лидерство своего сына и преемника М.К. Сталин, который является президентом партии DMK и главным министром Тамилнада [15]. Тренд на «воскрешение» политических лидеров посредством ИИ был подхвачен и другими партиями. Так, на официальных аккаунтах партии Всеиндийская федерация дравидского прогресса имени Аннадураи (AIADMK) были опубликованы голосовые обращения её бывшего лидера Джея Джаялалитхи, в котором она призвала поддержать её нынешнего лидера Эдаппади Паланисвами.

Генерация умерших людей посредством ИИ вызывает беспокойство у многих экспертов в области этики ИИ. Специалисты по информационным технологиям сумели не только создавать аватары с покойниками, которые призывают сделать «правильный» политический выбор, но и грифботы (griefbot) или дэдботы (deadbot). Грифботы – это чатботы, благодаря которым пользователи могут вести беседу с умершим человеком. Они подстраивают голос, манеру речи и сами ответы под покойного, что может привести к серьёзным психологическим травмам [16]. Исследователи из Кембриджа крайне встревожены использованием грифботов, особенно детьми и психически нестабильными людьми, переживающими горе [17]. Они предлагают ввести возрастной ценз и, в целом, ограничить пользователей в аппликации грифботов в этических и психологических целях.

Относительно «безвредной» цифровой технологией, используемой при поддержке ИИ, стала генерация сообщений с аватарами политиков и их голосом. Используется данный механизм в тех случаях, когда человек либо не в состоянии самостоятельно обратиться к гражданам, либо в силу огромного количества нужных обращений.

Так, партия Aam Aadmi Party (AAP) обратилась к ИИ, чтобы поддерживать связь между избирателями и своим лидером Арвиндом Кеджривалом, находящимся в тюрьме. В искусственно созданном видео Арвинд Кеджривал говорит, что долго держать в тюрьме его нельзя и что он скоро вернется, чтобы выполнить свои обещания. Это не первый случай, когда заключенный политик обращается к своим сторонникам с помощью ИИ. В феврале 2024 г. партия Имрана Хана Пакистан Техрик-и-Инсаф (ПТИ) опубликовала голосовое сообщение с использованием ИИ и видео-спич на английском и урду, в котором он обращается к сторонникам [18].

Партия BJP использовала ИИ для модификации персональных сообщений премьер-министра Нарендры Моди, в которых он обращается к сторонникам партии по имени [19]. Пропагандистские видео были разосланы по WhatsApp и произвели настоящий фурор среди избирателей, поднявший популярность партии среди населения.

Третьим направлением относительно безопасного применения ИИ является преодоление языкового барьера. Индия – поликультурная и многоязыковая страна, в которой формирование инклюзивной лингвистической среды представляется крайне сложным. Впервые с целью преодоления языкового разрыва ИИ был применён в 2023 г. Во время ежегодного мероприятия Каши Тамил Сангамам (Kashi Tamil Sangamam) в Варанаси голос премьер-министра Нарендры Моди, выступавшего на сцене с инаугурационной речью, начал резонировать в толпе: его речь автоматически переводилась с хинди на тамильский язык. Тогда впервые был применён технологический инструмент «Бхашини» (хин. Bhashini), функционирующий с помощью ИИ.

Опираясь на новаторский успех в Варанаси, BJP вывела использование ИИ в части агитации на новый уровень, сделав выступления премьер-министра доступными на восьми разных языках. Речи Нарендры Моди были доступны на языках бенгали, каннада, тамильском, телугу, панджаби, маратхи и др. Политическое значение использования переводов ИИ в ходе предвыборной кампании является очевидным, учитывая количество митингов и предвыборных мероприятий, запланированных премьер-министром Нарендрой Моди в южных штатах, с особым акцентом на Тамилнад [20].

Итоги выборов и перспективы регулирования использования ИИ

Как известно, 4 июня 2024 г. были подведены результаты всеобщих выборов в Индии, по итогам которых победила партия BJP [21]. Тем не менее, получить настолько убедительное большинство на выборах, как в 2019 г. Нарендре Моди не удалось. При этом самоочевидно, что он зарекомендовал себя не только как дальновидный политик, но и как технократ, активно и системно использующий новейшие технологии. Подход, ориентированный на работу с большими данными (Big Data), анализ электората и миктротаргетинг, функционирующий на базе ИИ, оказался более эффективным для продвижения своих политических позиций и оказания влиянии на избирателей, чем традиционные методы рекламных кампаний.

Х     Х     Х

Таким образом, выборы в Индии наглядно показали трансформацию их технологической парадигмы, катализатором которой стал ИИ. Системы ИИ открывают перед политическими деятелями как возможности, так и угрозы и на национальном, и на международном уровнях.

В этом контексте следует подчеркнуть, что «коллективный Запад», ядром которого является группа G7, пытается навязать всему миру свои правила и стандарты безопасности развития ИИ. Примеров тому не мало, назовём лишь некоторые: Хиросимский процесс, инициативы Великобритании по обсуждению на заседании Совета Безопасности ООН в июле 2023 г. и проведения саммита в Блетчли в ноябре 2023 г., принятая в марте 2024 г. Генеральной Ассамблеей ООН по инициативе США первая резолюция, посвященная ИИ – «Использование возможностей безопасных, защищенных и надежных систем ИИ для устойчивого развития». Невзирая на обилие инициатив, ни одна реальная проблема, связанная с безопасностью ИИ, так и не была решена в интересах всех стран мира. По оценкам экспертов без учета их интересов такой же «пустословный» результат ожидается от Саммита будущего в сентябре 2024 г. и принятия Глобального цифрового договора.

Индия, как одна из самых передовых держав в сфере ИИ, несомненно, будет активно искать решения в национальной технологической политике и принимать участие в международных инициативах по регулированию безопасности ИИ. В этой связи одним из наиболее справедливых и перспективных представляется XVI Саммит БРИКС Казани, который пройдёт в октябре 2024 г. Инициатива Си Цзиньпина, предложенная на XV Саммите БРИКС, по совместному урегулированию ИИ находит отклик среди многих участников международного процесса, что особо актуально в условиях расширенного состава объединения. По мнению экспертов, победа Нарендры Моди сохранит индийскую приверженность к данной межгосударственной площадке и её проектам.

Экстраполируя вышесказанное, уместно процитировать слова Президента России В.В. Путина, выступавшего в МИД России 14 июня 2024 г.: «Мир стремительно меняется. Как прежде уже не будет ни в глобальной политике, ни в экономике, ни в технологической конкуренции» [22]. Представляется, что Индия как глобальный игрок мировой политики прекрасно осознает тектонические трансформации мирополитических процессов и успешно реагирует на них.

Мнение автора может не совпадать с позицией редакции

Источники:

[1] Global Cybersecurity Outlook 2024 // World Economic Forum, January 2024. URL: https://www3.weforum.org/docs/WEF_Global_Cybersecurity_Outlook_2024.pdf (дата обращения: 01.05.2024).

[2] Бразилия решила бороться с вмешательством ИИ в выборы // ferra.ru. URL: https://www.ferra.ru/news/techlife/braziliya-reshila-borotsya-s-vmeshatelstvom-ii-v-vybory-21-03-2024.htm?ysclid=lxc4vhzoot394264035 (дата обращения: 02.05.2024).

[3] Какие президентские и парламентские выборы запланированы в мире в 2024 году // ТАСС. URL: https://tass.ru/info/19655535 (дата обращения: 01.05.2024).

[4] Куприянов А. Триумф индийской демократии: и власть, и оппозиция считают себя победителями выборов // Профиль. URL: https://profile.ru/abroad/triumf-indijskoj-demokratii-i-vlast-i-oppoziciya-schitajut-sebya-pobeditelyami-vyborov-1529447/ (дата обращения: 13.05.2024).

[5] 2019 Lok Sabha elections, biggest ever test of social media role in polls // The Hindu. URL: https://www.thehindu.com/news/national/2019-lok-sabha-elections-biggest-ever-test-of-social-media-role-in-polls/article62014623.ece (дата обращения: 01.05.2024).

[6] Patarlapati N. Revolutionizing Democracy: The Impact of Artificial. Intelligence in Indian Political Campaigns // International Journal of Research Culture Society. 2023, vol. 7, pp. 41-45. https://doi.org/10.2017/IJRCS/202311007

[7] BJP Shared Deepfake Video On WhatsApp During Delhi Campaign // NDTV. URL: https://www.ndtv.com/india-news/in-bjps-deepfake-video-shared-on-whatsapp-manoj-tiwari-speaks-in-2-languages-2182923 (дата обращения: 01.05.2024).

[8] Fact Check: Rahul Gandhi didn’t resign from Congress, social media video has AI-generated audio // ThePrint. URL: https://theprint.in/hoaxposed/fact-check-rahul-gandhi-didnt-resign-from-congress-social-media-video-has-ai-generated-audio/2040658/ (дата обращения: 01.05.2024).

[9] Inflection point: AI meme wars hit India election, test social platforms // Al Jazeera. URL: https://www.aljazeera.com/economy/2024/3/8/ai-meme-wars-hit-india-election-campaign-testing-social-platforms (дата обращения: 02.05.2024).

[10] Amit Shah fake video case: Congress' Arun Reddy in three days police custody // Deccan Chronicle. URL: https://www.deccanchronicle.com/nation/current-affairs/amit-shah-fake-video-case-congress-arun-reddy-in-three-days-police-custody-892392 (дата обращения: 02.05.2024).

[11] The State of Deepfakes: Landscape, Threats, and Impact // Deeptrace. URL: https://regmedia.co.uk/2019/10/08/deepfake_report.pdf (дата обращения: 02.05.2024).

[12] Saw video where I'm singing Garba: PM flags deepfakes, says matter of concern // India Today. URL: https://www.indiatoday.in/india/story/deepfakes-one-of-the-biggest-threats-facing-indias-system-can-cause-chaos-says-pm-modi-2464032-2023-11-17 (дата обращения: 04.05.2024).

[13] Bollywood stars Ranveer Singh and Aamir Khan file police complaint after being targeted by deepfakes // Independent. URL: https://www.independent.co.uk/asia/india/ranveer-singh-aamir-khan-viral-video-deepfake-b2532986.html (дата обращения: 04.05.2024).

[14] How ‘KBC’ became a template for belting out non-stop election spins // India Today. URL: https://www.indiatoday.in/elections/story/kbc-fake-video-amitabh-bachchan-election-madhya-pradesh-2463407-2023-11-15 (дата обращения: 04.05.2024).

[15] Deepfake A Big Issue: IT Minister To Chair Key Meeting on AI Tech Today // NDTV. URL: https://www.ndtv.com/india-news/deepfake-a-big-issue-it-minister-to-chair-key-meet-over-ai-tech-today-4598626 (дата обращения: 05.05.2024).

[16] Вечная память или цифровое проклятие? Воскрешая умерших, ИИ наносит психологический вред // SecurityLab.ru. URL: https://www.securitylab.ru/news/549161.php (дата обращения: 12.05.2024).

[17] Hollanek, T., Nowaczyk-Basińska, K. Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry. Philos. Technol. 2024, vol. 37, no. 63, p. 1-22. https://doi.org/10.1007/s13347-024-00744-w

[18] How A.I. Tools Could Change India’s Elections // The New York Times. URL: https://www.nytimes.com/2024/04/18/world/asia/india-election-ai.html (дата обращения: 05.05.2024).

[19] Elections 2024 | How far will AI go? // The Hindu. URL: https://www.thehindu.com/society/2024-india-general-election-how-far-will-artificial-intelligence-go-deepfakes-political-parties-chatbots-misinformation-fake-news/article67990487.ece (дата обращения: 05.05.2024).

[20] 2024 polls stand out for use of AI to bridge language barriers // The economic Times. URL: https://economictimes.indiatimes.com/news/elections/lok-sabha/india/2024-polls-stand-out-for-use-of-ai-to-bridge-language-barriers/articleshow/108737700.cms?from=mdr (дата обращения: 05.05.2024).

[21] The State of Deepfakes: Landscape, Threats, and Impact // Deeptrace. URL: https://regmedia.co.uk/2019/10/08/deepfake_report.pdf (дата обращения: 02.05.2024)

[22] Стенограмма выступления Владимира Путина в МИД России 14 июня // Комсомольская Правда. URL: https://www.kp.ru/daily/27595.5/4945807/?ysclid=lxf6qgp7tn611251304 (дата обращения: 15.06.2024)

Читайте другие материалы журнала «Международная жизнь» на нашем канале Яндекс.Дзен.

Подписывайтесь на наш Telegram – канал: https://t.me/interaffairs