Этика и уязвимости цифрового мира: риски ИИ, образования и цифровых валют

Искусственный интеллект (ИИ) делает необходимым пересмотр существующих образовательных технологий. Об этом на IX конференции «Больше, чем обучение» заявил Герман Греф, президент и председатель правления Сбербанка. Визионер подчеркнул, что ИИ становится всё более значимой частью современной жизни, он ускоряет освоение знаний и выполнение задач с большей точностью. Применение ИИ в обучении — одно из самых перспективных направлений. Ключевой компетенцией для любого сотрудника стало умение работать с ИИ.

Как относиться к новациям, которые нас окружают - причем, не только в учебных центрах Сбербанка? Какие опасности подстерегают на пути их использования? Об этом рассуждает наш эксперт, председатель комиссии по безопасности финансовых рынков Совета ТПП Тимур Аитов.

МЖ. “Цифровой регион”, “цифровая трансформация”, “цифровой рубль”, многочисленные цифровые “управленцы” - все эти проекты нас сегодня окружают, но есть же риски, которые сопровождает их внедрение - можно их оценить?

ТА. Ко всем новациям всегда следует относиться осторожно, особенно, если они касаются проектов масштаба государства. Замысел инноваций изначально всегда “хороший” - к примеру, тот же “цифровой” рубль. Но во что он превратится и каковы последствия его появления? По этому поводу уже есть разные мнения. Напомню, что первоначально тему цифровых валют “вбросил” в повестку дня совсем не наш ЦБ РФ, а Банк международных расчетов (BIS, Bank for International Settlements) из Базеля. Не попадем ли мы под излишний контроль пресловутого “глубинного государства” (“deepstate”)? Особенно, в нынешних условиях? Каков истинный замысел запуска этих “цифровых валют центральных банков” (CBDC, central bank digital currency)? На этот счет уже есть масса гипотез, включая организацию тотальной слежки и т.п. Напомню, что и Дональд Трамп одним из первых своих указов запретил цифровой доллар (ЦД) в Америке: очевидно, опасаясь его излишней прозрачности. ФРС с помощью ЦД “видит” многое: финансирование политической деятельности, проекты крупных слияний и поглощений на рынке, возможные случаи подкупа отдельных региональных элит - столь прозрачный ЦД оказался не нужен..

МЖ. Но польза от цифровых валют все же существует? ЦБ и чиновники постоянно упоминают про смарт-контракты - специальные приложения, которые позволяют автоматически “расплачиваться” при наступлении сроков контракта. Это же удобно: особенно в министерствах? Да и контроль более действенный?

ТА. Под цели смарт-контрактов пригодны гораздо более простые и дешевые “монетки” - стейблкоины - так называют токенизированный вариант привычного безналичного рубля. Стейблкоин “привязан” к своему реальному активу относительно надёжно, сам стейблкоин и для смарт-контрактов годится, и “ускоряет”, и удешевляет расчеты - точно так же, как цифровой рубль ЦБ. Что еще важно - стейблкоин гораздо дешевле обходится коммерческим банкам, а значит, и нам с вами…

МЖ. Это, конечно, приятно всем: а сколько банку приходится тратить на проект цифрового рубля от ЦБ сегодня, о каких суммах идёт речь?

ТА. Официальных цифр нет, в банковской среде указывают суммы 80-120 млн. руб. как необходимый минимум для того, чтобы малому или среднему банку “освоиться” с расчетами цифрового рубля ЦБ. Реализация дополнительных требований ЦБ по части обеспечения операционной устойчивости/надежности увеличивает инвестиции банка примерно в два раза.

Получается, что с помощью стейблкоинов и без цифрового рубля вполне можно обойтись - проще и дешевле.

МЖ. А прав ли известный визионер из Сбербанка, говоря, что цифровой рубль никому не нужен - ни банкам, ни гражданам, никому?

ТА. Не совсем так. Есть одна опция у цифрового рубля, которая остро необходима сегодня всем и которую ничем заменить невозможно. Это, так называемый, “оффлайн режим” - при котором можно обмениваться и расплачиваться цифровым рублём без внешних мобильных коммуникаций. Для обмена используются каналы Bluetooth и NFC. Скажем, далеко за городом интернета нет, как расплатиться? Здесь как раз цифровой рубль от ЦБ и необходим. Конечно, есть и гораздо более прозаические ситуации - когда мобильный интернет вынужденно отключают. Уже были первые массовые случаи на майских праздниках в Москве - тогда все платежные сервисы были недоступны: и банкоматы, и СБП. В некоторых регионах РФ мобильной связи 4G нет до сих пор.

МЖ. Выходит, если у ЦР появится оффлайн-режим, все возражения, что “ЦР никому не нужен” сразу автоматически пропадают?

ТА. Да. Но есть важная “закавыка”: появиться офлайн режим по планам ЦБ должен не раньше 2027 года, в актуальной повестке дня его нет…

МЖ. А что еще может послужить весомым поводом и основанием для появления нашей цифровой валюты?

ТА. Думаю, причина связана с тем, что выход многочисленных цифровых валют соответствует плану BIS по смене моделей денежной системы стран-участниц этого проекта. Напомню, что сегодня денежные системы в большинстве случаев двухуровневые (также как и в РФ) - поэтому розничные валюты для населения эмитируют банки всех уровней - как Центральные банки, так и коммерческие. Внедрением цифрового рубля возможности коммерческих банков в этой части будут резко ограничены и это как раз именно то, что им не нравится.

МЖ. Мы начали с нынешних планов по широкому внедрению ИИ со стороны Сбербанка. У вас нет особых возражений против его массового внедрения? Или и здесь многое осталось “за кадром”?

ТА. ИИ на самом деле имеет набор непредсказуемых угроз - как для гражданина, так и для человечества в целом. Во что выльется весь проект его развития, пока никому не ясно…

МЖ. С этого места я прошу вас подробнее...

ТА. Если цифровая валюта в кармане - это что-то вроде GPS-метки для собаки, то искусственный интеллект - вещь гораздо более серьезная и опасная для каждого. С помощью ИИ можно заняться даже переформатированием сознания индивидуума - тем более, если до этого у него в голове было достаточно пусто.

МЖ. Звучит фантастически: пока средствами ИИ мы больше рисуем безобидные картинки или же готовим студенческие рефераты средствами ChatGPT...

ТА. В проекты типа ChatGPT уже изначально заложены определенные оценки, включая модели отношения к определенным личностям, к цвету кожи (белым, цветным), к идеям, концепциям и т.п.. Любую модель ИИ можно сделать предвзятой в отношении расы, или скажем, создать модель, которая поддерживает ценности нетрадиционной ориентации. Для большей популярности ещё и предоставить к созданной модели бесплатный доступ в молодёжной среде. Фактически не СМИ, не ВУЗы, а средства ИИ стали действенным инструментом пропаганды и воспитания молодого поколения. Большая часть молодежи, увы, находится под этим контролем.

МЖ. Но есть же что-то объективное и независимое в системах ИИ? По некоторым исследованиям китайский DeepSeek в данное время является полностью нейтральным проектом - учитывая то, что в него заложено китайскими разработчиками. Можно значит, построить будущую жизнь по-другому?

ТА. Да, можно. Однако, китайский DeepSeek - это открытый проект, любой желающий может скачать “опенсорсный” пакет его исходников, а потом “настроить” конкретный экземпляр этого ИИ под любые полезные или даже враждебные для общества и бизнеса задачи.

МЖ. Как же на форумах самого высокого ранга слышим возгласы восхищения возможностями ИИ? Ни о каких его backgrounds никто не говорит… Идет разговор о том, как ИИ эффективно используют те же банки – для противодействия злоумышленникам, для подбора предложений для клиентов и так далее. Что, никто не думает о последствиях более широкого использования ИИ?

ТА. Пока технология ИИ чисто “хайповая”. Деньги текут рекой. Есть такая кривая Гартнера, через нее проходят все инновации, на кривой имеется характерный “горб” - мы сегодня как раз на нем, на этом горбе. Когда суммы вкладываются огромные, мало кто говорит об изъянах и уязвимостях ИИ. Никто из создателей современных систем не представил даже внятные дорожные карты развития ИИ. Акции крупнейших технологических компаний - участников бума, значительно переоценены. Капитализация “десятки” крупнейших мировых бигтехов сегодня составляет примерно $22 трлн и этот «пузырь» растет.

МЖ. Но польза ощутимая уже есть - ИИ успешно используется для противодействия злоумышленникам?

ТА. ИИ это обоюдоострое оружие. Это первое. И второе - мало кто говорит, что сам ИИ “дырявый” с точки зрения информационной безопасности. Я имею в виду новейшие атаки на него класса prompt injection, которые злоумышленники уже используют. Поэтому пока всё развивается достаточно хаотично. Регулирования особого нет, стандартов тоже, зато есть рекомендации Центрального банка использовать так называемую “этику искусственного интеллекта”.

МЖ. Куда же нас выведет эта “кривая” Гартнера?

ТА. Пока неясно. Весьма возможный сценарий, что в итоге ИИ станет всеобщим (“первичным”) мозгом человечества, а наши мозги будут с младенчества “форматироваться” под мнение этого главного ИИ. Почему нет? Фантастически звучит, конечно. Но только пока.

Мнение эксперта может не совпадать с позицией редакции.

Читайте другие материалы журнала «Международная жизнь» на нашем канале Яндекс.Дзен.

Подписывайтесь на наш Telegram – канал: https://t.me/interaffairs