Искусственный интеллект и доверие: точка зрения ученых

Каким должен быть аргументированный разговор о доверии к технологиям искусттвенного интеллекта (ИИ) ? Прежде всего он должен вестись на основе научного языка и междисциплинарной экспертизы, и именно такая дискуссия прошла 1-3 июля в Сколтехе на онлайн-конференции Trustworthy AI: Transparency. Robustness. Sustainability. Участники конференции говорили о фундаментальных ограничениях для таких технологий, о рисках использования ИИ в различных областях деятельности, а также о фундаментальных проблемах этики и стандартизации искусственного интеллекта.

Стоит сразу отметить важную коммуникационную проблему в этой области, на которую обратили внимание участники мероприятия — несоответствие видения общества и реального положения вещей. Если массовое сознание сегодня часто представляет ИИ как искусственный аналог человеческого мозга (так называемый сильный ИИ, или strong AI), то специалисты в области прекрасно понимают, что на ближайшем горизонте все, что реально делается в плане ИИ, — это слабый ИИ (weak AI), то есть отдельные технологии, решающие строго прикладные задачи на основе имеющихся у них данных. Глава оргкомитета, вице-президент Сколтеха в области ИИ и математического моделирования Максим Федоров считает, что именно из этого несоответствия произрастает большое количество общественных страхов и недоверия людей к искусственному интеллекту.

Говоря о недоверии к ИИ, профессор Оксфордского университета Питер Гриндрод, в частности, отметил, что с точки зрения требований прозрачности больше невозможно полностью полагаться на результаты его работы без понимания механизма принятия решений. «Компьютер сказал “нет” — это более не приемлемый ответ», — сказал ученый.

Кроме того, по словам Гриндрода, искусственный интеллект в отличие от экспертов-людей, рискующих своей репутацией, «не чувствует ответственности за свои рекомендации, не имеет представления о психике другого человека и ничем не рискует». Поэтому выработку этических принципов для использования технологий ИИ в области рекомендаций и суждений британский эксперт считает важной задачей.

Вовлечение технических специалистов не только в процессы развития самих технологий, но и в общественное обсуждение этических проблем работы с ИИ также стало одним из центральных вопросов конференции. Афина Каратцогианни из университета Лестера говорила о сознательном и специализированном обучении технических специалистов по ИИ работе с этическими вопросами. Именно такое обучение планирует организовать Сколтех, где осенью 2020 года откроется кафедра искусственного интеллекта, которая в дальнейшем может получить статус кафедры ЮНЕСКО. По замыслу основателей, кафедра станет международным экспертным центром по проблемам интеграции знаний и технологий ИИ в современное общество.

Максим Федоров считает, что хотя экспертное сообщество начало активно участвовать в работе национальных и международных организаций, занимающихся вопросами технологий ИИ, необходимо вовлекать в эту работу еще больше технических специалистов. «Важно также координировать и синхронизировать все усилия, чтобы обеспечить эффективную международную кооперацию в области ИИ, а также образования в сфере искусственного интеллекта. Эта конференция станет большим шагом для движения в этом направлении», — сказал Федоров.

Читайте другие материалы журнала «Международная жизнь» на нашем канале Яндекс.Дзен.

Подписывайтесь на наш Telegram – канал: https://t.me/interaffairs