ГЛАВНАЯ > Актуальное интервью

Искусственный интеллект: международно-правовые коллизии и этические нормы

10:37 25.04.2020 • Андрей Торин, редактор журнала «Международная жизнь»

Развитие высоких технологий, и прежде всего разработок в области искусственного интеллекта, ставит перед современным обществом сложные задачи. Как совместить этические нормы и переход к новому технологическому укладу? Над разрешением этой задачи в настоящее время работает Экспертная группа ЮНЕСКО по выработке рекомендаций этических принципов разработки и использования искусственного интеллекта. С просьбой рассказать о её деятельности журнал «Международная жизнь» обратился к её российскому участнику, директору Центра по научным и инженерным вычислительным технологиям для задач с большими массивами данных Сколковского института науки и технологий (Сколтех) Максиму Фёдорову.

 

Международная жизнь: При каких обстоятельствах было принято решение о формировании Экспертной группы ЮНЕСКО по вопросам этики в области искусственного интеллекта? Какие задачи стоят перед этой группой? Каков ее потенциал?

Максим Фёдоров: В настоящее время наблюдается взрывной рост практического применения технологий, идентифицируемых как искусственный интеллект (ИИ) в самых разнообразных областях экономики. В связи с этим активизировалась деятельность правительств, международных организаций, транснациональных корпораций, а также гражданского общества по формулированию глобальных норм и правил в вопросах разработки, внедрения и использования технологий ИИ.

В 2018 году в ООН подготовлен доклад (United Nations, 2018), в котором, в частности, рассмотрены вопросы воздействия технологий ИИ на права человека в информационной среде. В документе отмечается, что компаниям следует рассмотреть вопрос о том, как разработать профессиональные стандарты для инженеров по ИИ, воплотив правозащитную ответственность в руководство по выбору технических решений при проектировании и эксплуатации систем ИИ. Рекомендуется также создать системы рассмотрения жалоб и предоставления средств правовой защиты для своевременного реагирования на жалобы и апелляции пользователей. Следует регулярно публиковать данные о периодичности подачи жалоб и просьб о предоставлении средств правовой защиты в отношении ситуаций, где имели место системы ИИ, а также о видах и эффективности имеющихся средств правовой защиты.

Вопросы ИИ также начали рассматриваться в рамках профильных компетенций Комиссии по Экономическому и Социальному развитию (ЭКОСОС) и Конференции ООН по торговле и развитию (ЮНКТАД). ЮНКТАД реализует ряд инициатив по расширению дискуссии по трансферу данных и сопряжённых с ним рисков для стран, отстающих в развитии цифровой экономики. В 2018 г. был выпущен Доклад о цифровой экономике, где одним из центральных вопросов стал трансфер данных, а также потенциал его влияния на развитие технологий блокчейна, облачных технологий, интернета вещей и ИИ. Многосторонним форумом, открытым для всех стран-членов, стала ежегодная Неделя электронной коммерции ЮНКТАД, где при участии экспертов, представителей бизнеса и государств проводится обсуждение проблематики развития цифровой экономики. Всё чаще в повестку заседаний вносятся вопросы влияния на экономику стран трансфера технологий, возможности его регулирования и потенциал технологий ИИ и блокчейна.

ЮНЕСКО отмечает, что накопление данных о поведении человека и использование вычислительных технологий для их обработки порождает новые вопросы в плане соблюдения прав человека, свободы обмена информацией и образования (UNESCO, 2019). В качестве цели политики ЮНЕСКО в области ИИ обозначено использование возможностей новых ИТ технологий для построения «общества знаний» и достижения целей устойчивого развития (ЦУР, Sustainable Development Goals, SDGs) (UNESCO, 2019).

ЮНЕСКО рекомендует подходить к глобальному развитию ИИ в с точки зрения принципов ROAM (права человека, открытость, доступность, участие всех заинтересованных групп) сформулированных ранее в контексте «универсального развития интернета» (UNESCO, 2019). Кроме принципов ROAM программный документ ЮНЕСКО (UNESCO, 2019) отмечает необходимость разработки этических принципов для ИИ, а также необходимость соблюдать равноправие полов и социальных меньшинств, уделять особое внимание преодолению «цифрового неравенства», особенно в отношении стран Африки.

В ЮНЕСКО действует экспертный орган и форум — Всемирная комиссия по этике научных знаний и технологий (COMEST). В 2017 году Комиссия подготовила доклад по этике в области робототехники (Report on Robotics Ethics).

Уровень внимания, уделяемый ЮНЕСКО вопросам ИИ, отражается в интенсивности проведения мероприятий по обсуждению затронутых вопросов. В течение 2019 года вопросы ИИ поднимались на следующих мероприятиях ЮНЕСКО:

  • глобальная конференция ЮНЕСКО «Принципы ИИ: в направлении гуманистического подхода», март 2019; отмечен важный принцип — ИИ не должен становиться автономным или заменять человеческий интеллект. (UNESCO, 2019);

  • неделя Мобильного Обучения ЮНЕСКО «Искусственный интеллект для устойчивого развития» (UNESCO, 2019);

  • международная конференция ЮНЕСКО по искусственному интеллекту и образованию ЮНЕСКО в Пекине (UNESCO, 2019), опубликовавшая итоговый «Пекинский консенсус» (UNESCO, 2019);

  • XV Всемирная конференция по интеллектуальному капиталу «Искусственный интеллект и следующее поколение компетенций: как цифровые технологии и искусственный интеллект влияют на будущее профессиональных компетенций».

Несмотря на большой объём международных консультаций, в ЮНЕСКО наблюдается полярность дискуссий по ряду вопросов, в том числе:

  • регулирование ИИ – два основных подхода: (1) приоритет технологического развития и регулирование по мере понимания возникающих проблем (США, Китай, ряд стран Юго-Восточной Азии) и (2) регулирование на основе принципа предосторожности, исключающее непредвиденные изменения status quo (страны ЕС);

  • вопросы, связанные с гендерным неравенством и правами меньшинств; ряд стран (США, ЕС) считают эти вопросы принципиально важными при внедрении ИИ, в то время как другие страны, включая Россию, полагают, что эти вопросы лежат вне плоскости развития ИИ технологий;

  • доступ к технологиям: «цифровое неравенство» между различными странами, социальными группами; неравномерность уровней образования и экономического развития; монополизация целого стека технологий ИИ глобальными игроками; ЮНЕСКО призывает страны перейти от конкуренции к открытому сотрудничеству, усилить обмен знаниями, ресурсами и инструментами в сфере ИИ, а также укрепить многостороннее и межведомственное взаимодействие.

На Генеральной Конференции ЮНЕСКО 2019 г. была единогласно принята резолюция о разработке этических норм в области ИИ (UNESCO, 2019). Предполагается, что группа международных экспертов будет работать в течение следующих 18-и месяцев над подготовкой соответствующих документов. Представителем России в этой группе стал Директор Центра по научным и инженерным вычислительным технологиям для задач с большими массивами данных Сколтеха (CDISE), профессор Максим Федоров, который будет представлять мнение российского сообщества в экспертной группе ЮНЕСКО по выработке рекомендаций этических принципов разработки и использования искусственного интеллекта.

Эта международная группа специалистов планирует провести рабочие встречи по выработке рекомендаций по этике ИИ с апреля по август 2020 года.

 

Международная жизнь: Каких этических норм придерживается Россия в вопросах искусственного интеллекта? В чем отличия ее подхода – политические и культурологические – в этой области от других участников группы? Носят ли они общекультурный характер, и возможно ли их преодоление на общей платформе интересов?

Максим Фёдоров: В связи с беспрецедентными возможностями влияния систем ИИ на права человека и их существенным отличием от традиционных информационных систем последствия принятых правил будут иметь глобальный и, вероятно, перманентный трансформативный характер как для экономики, так и для общества. В связи с этим в России вопросам развития ИИ и регуляторики ИИ уделяется большое внимание, что отражено в принятии в прошлом году Стратегии развития ИИ РФ.

Консолидировать российское экспертное мнение по этическим вопросам, связанным с ИИ, призван Комитет по вопросам искусственного интеллекта при Комиссии РФ по делам ЮНЕСКО, чье первое учредительное собрание прошло в стенах российского МИД в марте 2020 года. Главой Комитета стал ректор Сколтеха Александр Кулешов. Исполнительным Секретарем Комитета был выбран Максим Федоров. Комитетом рассматриваются ряд стратегически важных вопросов участия Российской Федерации в процессе выработки международной регуляторики в области ИИ, её увязки с национальными интересами и стратегией развития.

Большинство российских экспертов убеждены, что в основе создания этической среды развития технологий искусственного интеллекта должен быть «человекоцентризм», при котором создание некоторых видов искусственного или симбиотического разума было бы под строгим запретом, подобно клонированию людей, убеждены большинство российских экспертов.

 

Международная жизнь: Существует угроза использования искусственного интеллекта в политической и военной борьбе. В условиях, когда архитектура международной безопасности, и в том числе механизмы контроля за нераспространением оружия массового уничтожения (ОМУ), включая ядерное, подвергается серьезному испытанию, что может противопоставить этому Россия?

Максим Фёдоров: Участие в составлении нового пакета документов, касающегося этих проблем, и его продвижение на международных площадках, активную работу по составлению новых стандартов разработки ИИ и гуманистичного подхода к развитию технологий.

 

Международная жизнь:В настоящее время в распоряжении Соединенных Штатов Америки и Китая находятся три четверти суперкомпьютерной мощности мира. Это дает повод экспертам в области искусственного интеллекта говорить иногда о «цифровом неравенстве», которое может провоцировать борьбу за абсолютную гегемонию в этой сфере стран-лидеров. Какую дееспособную альтернативу можно было бы предложить на международной арене в области сотрудничества между странами, которые не обладают таким «исключительным» положением?

Максим Фёдоров: Cейчас на площадке ООН по вопросам образования, науки и культуры идет поиск ответов на вопросы, что делать с уже существующими в мире технологическими монополиями де-факто и какими должны быть механизмы защиты от монополизации сферы искусственного интеллекта. По этим и другим вопросам позиция российских представителей и ряда других стран основана на принципах безусловного приоритета интересов человека, безопасности и свободы выбора. Не должно быть единого владельца у искусственного интеллекта. Не должно быть монополии - ни у страны, ни у компании, ни у отдельных личностей. Это правильно по целому ряду аспектов, и сейчас в экспертной группе ЮНЕСКО согласие по этому вопросу есть. Однако в этой области далеко не все просто, сразу возникает вопрос контроля и может произойти перегиб в другую сторону.

Также рассматриваются перспективы развития технологий искусственного интеллекта и влияния этого процесса на экологию с учетом возрастающих энергозатрат и объемов компонентов инфраструктуры. Не исключена вероятность подписания в будущем аналога Киотского протокола на площадке ЮНЕСКО, который бы ограничивал негативное влияние на окружающую среду.

Насколько это затронет Россию – неоднозначный вопрос. По уровню развития инфраструктуры наша страна пока не дотягивает до среднемирового уровня оснащенности, но мир меняется. В принципе, у нас с энергоносителями все в порядке, много территорий для размещения суперкомпьютеров и центров обработки данных с подходящими географическими и климатическими условями.

 

Международная жизнь: Какое влияние на этические подходы в области искусственного интеллекта может оказать пандемия коронавируса? Ведущие страны мира спешат наперебой заявить, что у них есть вакцина против COVID-19. Где, с Вашей точки зрения, проходит грань между решением проблемы и использованием текущей ситуации как полигонной для закрепления механизмов контроля над людьми и их образом мышления?

Максим Фёдоров: Принцип действия систем на основе технологий ИИ с использованием машинного обучения заключается в сборе и анализе данных, которые необходимо накопить. При этом используемые машинным интеллектом алгоритмы хорошо подходят для решения «шаблонных» задач с минимумом новых неизвестных. В ситуации с коронавирусом искусственный интеллект не может корректно предсказывать масштабы пандемии и давать рекомендации, основываясь только на данных об эпидемиях (других вирусов!) прошлых лет, а сама ситуация далека от шаблонной.

Поэтому специфика популярных сегодны технологий искусственного интеллекта, основанных на big data и машинном обучении, не позволяет эффективно использовать их для прогнозирования распространения COVID-19 и поиска оптимальных управленческих решений. Ученым необходимо искать (или вспоминать?) другие методы так как пандемия – это задача другого порядка, которая связана с уникальными событиями и множеством новых неизвестных; здесь ИИ, основанный только на исторических данных, плохо работает, потому что ему нужно много данных одного и того же типа, чтобы научиться.

Поэтому в случае с COVID-19 большую эффективность в области принятия эффективных управленческих решений могут показать методы математического моделирования – когда ученые «проигрывают» различные сценарии развития событий, детально рассчитывая результаты на суперкомпьютерах.

Эти методы были популярны в свое время и сейчас следует к этому сценарному подходу вернуться, но уже на новой алгоритмической и вычислительной базе. Проигрывать сценарии, причем самые фантастические. Имея эту библиотеку сценариев, ученые смогут оперативно обратиться к ней в случае непредвиденных ситуаций.

Машинный интеллект в современном виде сможет «научиться» на данных о распространении коронавируса и принести человеку пользу только в случае, если наблюдаемая сегодня пандемия повторится в будущем. Однако, во-первых, есть надежда что повторения можно избежать, а, во-вторых, гораздо безопаснее и этически правильнее ставить модельные эксперименты на ​суперкомпьютере, чем на всем человечестве.

 Вопросы задавал обозреватель журнала «Международная жизнь» Андрей Торин.

Читайте другие материалы журнала «Международная жизнь» на нашем канале Яндекс.Дзен.

Версия для печати