Искуственный интеллект в гонке вооружений

Фото: wikimedia.org

РСМД провел конференцию «Международные и социальные последствия использования технологий искусственного интеллекта». Основные вызовы, связанные с перспективной технологией, озвучил вице-президент РСМД Вячеслав Трубников. Он процитировал Генри Киссинджера: «С приходом новой реальности искусственного интеллекта человечество может оказаться в положении инков», а также привел слова Владимира Путина: «Искусственный интеллект – будущее не только России, но и всего мира. Кто преуспеет в области искусственного интеллекта, будет владеть всем миром. Очень не хотелось бы, чтобы эта технология была сосредоточена в одних руках».

Директор Института проблем передачи информации РАН Андрей Соболевский подчеркнул, современные технологии «искусственным интеллектом» (ИИ) называть рано. Основная концепция на данном этапе – машинное обучение (решение когнитивных задач на основе математических и статистических методов). Нейронные сети в свою очередь – ведущая алгоритмическая технология машинного обучения. «Технология глубоких нейронных сетей крайне демократизировала отрасль, и в гонку исследований включилось множество новых игроков. Произошло то, что раньше было на Диком Западе с появлением кольта», – отметил Андрей Соболевский.

Доступными эти технологии сделало развитие микроэлектроники, которое позволило использовать в исследованиях большие вычислительные мощности, но прежде привело к цифровизации. В результате многократно вырос объем производимой информации, появилось понятие «большие данные», которые ученые и используют в своих исследованиях с применением машинного обучения. С одной стороны технологии, названные ИИ, стали доступными, с другой – необходимыми, чтобы обрабатывать огромные объемы информации. 

Андрей Соболевский считает, что, несмотря на развитие ИИ, человеческий интеллект, способный создавать и изобретать, останется вне конкуренции, просто точнее будет очерчена область его применения. На конференции были озвучены и более пессимистичные оценки. Так, президент Фонда поддержки философии, интеллектуальной прозы и сохранения наследия А.М. Пятигорского Ефим Островский полагает, что компании стоят перед выбором: вкладывать в образование сотрудников или в развитие ИИ? И с точки зрения экономической эффективности, по его мнению, выбор вряд ли будет сделан в пользу человека. Коренной переворот в развитии ИИ, по словам директора Научно-координационного совета Центра науки и технологий ИИ на базе МФТИ Сергея Шумского, произойдет тогда, когда машина сама начнет ставить себе задачи.

С пониманием перспектив этих технологий усиливается конкуренция между странами, начинается настоящая гонка в развитии ИИ. Сейчас с большим отрывом лидируют США и Китай. США – на первом месте. Китай ставит задачу обогнать их к 2030 году. Организатор конференции по искусственному интеллекту OpenTalks.AI Игорь Пивоваров назвал факторами успеха в развитии ИИ: количество данных, вычислительные мощности, фокусировку на специфической задаче, таланты и экспертизу. Он уверен, что у Китая есть все шансы опередить США хотя бы потому, что пользователей мобильных телефонов там гораздо больше, а смартфон идеальный источник генерации данных. Уже сейчас, по его данным, рынок мобильных платежей в Китае в 50 раз выше, чем в США, а рынок доставки еды – в 10 раз. Эксперт опасается, что гонка вооружений приведет к тому, что об этике ИИ будут думать в последнюю очередь. «Как сделать так, чтобы цели ИИ не противоречили человеческим?» – главная этическая проблема, на его взгляд.

После конференции Игорь Пивоваров ответил на вопросы журнала «Международная жизнь».

«Международная жизнь»: Как влияет искусственный интеллект на международные отношения?

Игорь Пивоваров: Сейчас технологии искусственного интеллекта ведут к разобщению отдельных наций. Это связано не с работой ИИ, а с началом гонки вооружений в области ИИ, где отдельные страны хотят быть первыми. У многих государств есть лидерские амбиции. Я не думаю, что это остановит процесс интеграции человеческого сообщества, который называется глобализацией. Но видно, что гонка вооружений очень сильно повлияла на обстановку. Думаю, что технологии такого плана как ИИ должны по-хорошему развиваться совместно без каких-то внутренних конфликтов человечества, потому что то, что мы в результате создадим, может сильно превосходить наши ожидания.

«Международная жизнь»: Измениться  ли роль больших технологических компаний с развитием ИИ?

Игорь Пивоваров: Они уже вышли из-под влияния государства и без ИИ, еще благодаря предыдущему пласту технологий – цифровизации. Ведь Apple открыла свой офис в Ирландии и какое-то время переводила туда часть выручки, чтобы избежать налогообложения в Америке. Как США могут на это повлиять? Никак. Эти большие компании уже приобрели межгосударственный статус. В современной жизни они являются самостоятельными акторами. Понятно, что у государств есть некоторая способность на них влиять, но, если честно разбираться, достаточно ограниченная. Если, допустим, Америка решит закрутить гайки, кто мешает компании Google, например, уехать куда-нибудь? Будут сотни других стран, которые предоставят ей все условия, чтобы она переехала к ним. Мир стал в этом плане прозрачным и быстрым. Когда идет речь о стратегических технологиях, все страны в них заинтересованы. Сейчас интереснейшее время началось в области международных отношений, потому государство – это один большой пласт, бизнес – другой. Я не удивлюсь, если еще общественные движения  тоже будут вносить свой вклад.

«Международная жизнь»: Как изменится разрыв между развитыми странами и развивающимися?

Игорь Пивоваров: Боюсь, сейчас мы наблюдаем картину, где все становится только хуже, если исходить из концепции равных прав и возможностей для всех. Грубо говоря, богатые становятся богаче, бедные – беднее. Я пока не вижу здесь выхода, даже наоборот, такие технологии как ИИ, которые позволяют автоматизировать гигантское число операций и концентрировать очень большой ресурс в небольшой группе людей, только увеличивают разрыв. Другой вопрос в том: будет ли эта ситуация устойчивой? Те люди, которые стягивают такой ресурс, должны будут осознать, что им нужно что-то придумать. Есть идея безусловного общего дохода для всех остальных, кто не является владельцем технологий ИИ.

«Международная жизнь»: Чем может закончиться гонка вооружений в области ИИ?

Игорь Пивоваров: Я думаю, что такая гонка может закончиться только подавляющим преимуществом одного из соперников. Пока они будут примерно равны, гонка будет однозначно продолжаться. Если только один из них колоссально опередит другого, тогда она может закончиться. Но мне кажется, что мир устроен так, что в сложных ситуациях, человеку не удается то, что может привести к окончательному разрушению. В ситуации такой гонки какая-то одна страна не может получить такое колоссальное преимущество. Это должно быть сделано либо всеми, либо появится у всех. Если Вы вспомните историю атомного проекта, то, когда в Германии были разработки, нашлись люди, которые часть технологий передавали союзным силам для того, чтобы выровнять баланс сил.  Но мне лично кажется опасным сам факт того, что такие технологии как ИИ, разрабатываются в спешке и гонке. Это несет в себе колоссальные риски для человечества.

«Международная жизнь»: Как Вы оцениваете место России в этой гонке вооружений?

Игорь Пивоваров: Я думаю, что мы далеко не в лидерах. Тем не менее, я не считаю, что все окончательно потеряно. Если мы хотим занять какие-то позиции в развитии ИИ, у нас есть возможности. Для этого стране придется очень сильно захотеть, открыться и сделать много движений навстречу людям, которые умеют работать с ИИ. По-другому такие технологии невозможно развивать в сегодняшнем мире. Большой вопрос: сможем мы это сделать или нет? Мы как профессиональное сообщество дадим рекомендации, а дальше посмотрим.

Читайте другие материалы журнала «Международная жизнь» на нашем канале Яндекс.Дзен.

Подписывайтесь на наш Telegram – канал: https://t.me/interaffairs