Обзор зарубежных СМИ

Time: что ждет алгоритмы социальных сетей в 2022 году?

Перед лицом обвинений о том, что платформы отдают предпочтение «прибыли, а не людям», Facebook и Instagram испытывают растущее давление по поводу необходимости реформирования методов, с помощью которых их платформы манипулируют пользователями. Эксперты говорят, что это усиление контроля может сигнализировать о том, что нынешняя бизнес-модель индустрии социальных сетей должна претерпеть значительные изменения.

Часто сравниваемые с Big Tobacco за то, что их продукция вызывает привыкание и приносит прибыль, но в конечном счете вредна для пользователей, крупнейшие игроки социальных сетей сталкиваются с растущими требованиями как к отчетности, так и к нормативным действиям. Для того, чтобы зарабатывать деньги, алгоритмы этих платформ эффективно работают, привлекают пользователей и прокручивают нужный контент и, следовательно, рекламу.

“Эти компании не несут ответственности ни за одну из своих деловых практик”, - говорит Шерри Фаулер, профессор информационных технологий и бизнес-аналитики в Университете штата Северная Каролина. “Я думаю, что мы находимся в той же точке с Big Tech, что и тогда, когда Big Tobacco была вынуждена поделиться исследованиями о том, как ее продукция вредит людям. Должна была быть проведена массовая кампания по информированию общественности, потому что в тот момент многие люди даже не знали, что табак вызывает привыкание. Здесь у нас есть нечто такое же захватывающее, и мы позволили компаниям ни перед кем не отчитываться. Некоторые отрасли промышленности не могут процветать без соблюдения правил”.

В связи с растущим двухпартийным консенсусом в отношении того, что необходимо сделать больше для борьбы с тем, как ведущие платформы социальных сетей стимулируют взаимодействие, используя алгоритмические инструменты, разрушительные для личного и общественного благополучия, вмешательство правительства кажется более неизбежным — и особенно— чем когда-либо в предстоящем году.

Законодатели уже представили законопроект Палаты представителей: Filter Bubble Transparency Act, который потребует, чтобы платформы предлагали версию своих услуг, в которой контент не выбирается “непрозрачными алгоритмами”, которые используют личные данные пользователей для выработки рекомендаций.

Как представитель Республиканской Партии, Кен Бак сказал Axios: “Потребители должны иметь возможность взаимодействовать с интернет-платформами, не подвергаясь манипуляциям с помощью секретных алгоритмов, управляемых пользовательскими данными”. Но остается вопрос: возможны ли реальные перемены?

В то время как опасения по поводу алгоритмов, вызывающих привыкание, выходят за рамки двух платформ, принадлежащих Meta, компании, ранее известной как Facebook, внутренние документы, которые иногда называют “Документами Facebook”, были преданы огласке менеджером по продуктам Facebook Фрэнсис Хауген, и осветили вредные последствия, которые Facebook и Instagram могут оказать на пользователей, и особенно на молодых пользователей.

В своем октябрьском выступлении в подкомитете по торговле Сената Хауген заявила, что использование Facebook “ранжирования на основе вовлеченности” - алгоритмической системы, которая «вознаграждает» публикации, которые генерируют наибольшее количество лайков, комментариев, контента, который вызывает сильную реакцию — привело к системе, которая усиливает контент, который способствует разжиганию ненависти, дезинформации и подстрекательству к насилию.

В Instagram эти механизмы подталкивают детей и подростков к вредному контенту, который может привести к проблемам, кризисам психического здоровья и издевательствам. Внутреннее исследование, проведенное Хаугеном, показало, что некоторые функции, которые играют ключевую роль в успехе и привыкании Instagram, такие как "Explore page", которая предоставляет пользователям кураторские посты, основанные на их интересах, являются одними из наиболее вредных для молодежи. “Алгоритмы Instagram усугубляют друг друга, создавая идеальный шторм”, - говорилось в одном отчете.

Meta не сразу ответила на запрос TIME о комментариях по поводу потенциальных алгоритмических изменений.

Популярные видеоплатформы, такие как TikTok и YouTube, также подверглись критике за использование алгоритмических систем рекомендаций, которые могут привести зрителей к опасному и вызывающему привыкание контенту. А в декабре New York Times сообщила, что копия внутреннего документа, в котором подробно описываются четыре основные цели алгоритма TikTok, просочилась из источника, который был “обеспокоен стремлением приложения к показу ”депрессивного" контента.

В ответ на запрос о комментариях представитель TikTok указал TIME на сообщение Отдела новостей от 16 декабря о работе, которую платформа выполняет для защиты и диверсификации своих рекомендаций.

“Поскольку мы продолжаем разрабатывать новые стратегии для прерывания повторяющихся шаблонов, мы изучаем, как наша система может лучше варьировать виды контента, которые могут быть рекомендованы”, - говорится в сообщении“.

Тем не менее, одной из основных проблем, связанных с регулированием этих платформ, является сохраняющаяся недостаточная прозрачность их внутренней работы.

“Мы мало знаем о том, насколько плохи эти сети, отчасти потому, что их так сложно исследовать”, - говорит Итан Цукерман, адъюнкт-профессор государственной политики, коммуникаций и информации в Университете Массачусетса Амхерст. “Мы полагаемся на утечки Фрэнсис Хауген, а не на [независимые] исследования, потому что в большинстве случаев мы не можем получить данные, которые действительно рассказывают историю”.

Когда дело доходит до разжигания ненависти, экстремизма и дезинформации, Цукерман говорит, что алгоритм, возможно, даже не самая опасная часть проблемы.

“Я склонен думать, что история с алгоритмом слишком преувеличена”, - говорит он. Но без возможности получить больше данных такие исследователи, как Цукерман, не могут полностью разобраться в причинах этих обостряющихся проблем.

“Очень маленькие кусочки информации, которые были предоставлены такими компаниями, как Facebook, интригуют, но они являются своего рода намеками на то, что происходит на самом деле”, - говорит он. “В некоторых случаях это нечто большее, чем просто платформа, которая должна предоставить нам больше данных. Дело в том, что нам действительно понадобится возможность войти и провести аудит этих платформ".

Ссылаясь на печально известный скандал с Cambridge Analytica, в котором политическая консалтинговая фирма собрала данные по меньшей мере 87 миллионов пользователей Facebook, чтобы помочь избрать Дональда Трампа президентом, Цукерман говорит, что Facebook и другие компании полагаются на конфиденциальность пользователей в качестве защиты от нежелания делиться дополнительной информацией.

“Эти компании утверждают, что они не могут быть более прозрачными, не нарушая конфиденциальность пользователей", - говорит он. “Facebook использует конфиденциальность как способ предотвращения проведения [сторонних] исследований. Таким образом, препятствие для [оценки того, как на самом деле работает алгоритм] заключается в том, что Facebook будет использовать конфиденциальность в качестве оправдания того, почему не может быть проведено значимое исследование платформы ”.

Однако, если Конгресс вмешается и примет новые законы, касающиеся этих проблем, Цукерман говорит, что это может стать катализатором реальных перемен.

“Место, где у нас больше всего шансов на прогресс, - это законодательное обеспечение определенной степени прозрачности”, - говорит он. “Если мы, как общество, верим, что эти инструменты действительно эффективны и наносят нам ущерб, то вполне логично, что мы попытаемся провести их аудит, чтобы понять, в чем может заключаться этот ущерб”.

Во время первого выступления генерального директора Instagram Адама Моссери перед Конгрессом 8 декабря несколько членов Подкомитета Сената по защите прав потребителей, безопасности продуктов и безопасности данных заняли позицию, согласно которой недавние усилия Instagram по обеспечению безопасности платформы для молодых пользователей “слишком малы и слишком запоздалые” и что время для самоконтроля без вмешательства Конгресса закончилось.

Эти замечания, по-видимому, сигнализировали о том, что нормативное законодательство, призванное править в Facebook, Instagram и других платформах, может появиться на горизонте в следующем году. С точки зрения Фаулера, это единственный способ начать смягчать угрозы, создаваемые аддиктивными алгоритмами, а также другими аспектами бизнес-модели крупных технологий.

“Я очень сомневаюсь, что, если их не вынудит закон сделать что-то, то они исправят сами”, - говорит она. “Мы ничего не сможем сделать без действий Конгресса. Сейчас у нас было так много слушаний, и совершенно очевидно, что компании не собираются сами заниматься обеспечением безопасности. Нет ни одного крупного технологического игрока, который мог бы регулировать отрасль, потому что все они работают в ней вместе и работают совершенно одинаково. Поэтому мы должны исполнять законы”.

Закон о правосудии против вредоносных алгоритмов, законопроект, внесенный демократами Палаты представителей в октябре, внесет поправку в Раздел 230 — часть Закона о приличиях в области коммуникаций, которая защищает компании от юридической ответственности за контент, размещенный на их платформах, которая будет привлекать компанию к ответственности, когда она “сознательно использует алгоритм или другую технологию для рекомендации контента, который существенно способствует физической или серьезной эмоциональной травме”.

Однако партийные разногласия в сочетании с тем фактом, что это год выборов в Конгресс, заставляют Фаулера задуматься над вероятностью того, будет ли достигнут какой-либо ощутимый прогресс в 2022 году.

“Facebook - феноменально прибыльная компания. Если они заботятся о защите пользователей от дезинформации, у них есть огромные суммы денег, чтобы инвестировать в это. Из документов Facebook стало совершенно ясно, что их системы просто не очень хороши и, вероятно, в них не было вложено больших средств. И это проблема, которая возникает у них снова, снова и снова".

Вместо этого Цукерман предполагает, что более подходящим может быть другой взгляд на вред обществу, наносимый социальными сетями: “В определенный момент мы должны начать задавать себе вопрос: хотим ли мы, чтобы нашей цифровой публичной сферой, пространством, в котором мы говорим о политике, новостях и будущем, управляли коммерческие компании? И при этом очень слабо регулируемые коммерческие компании”.

https://time.com/6127981/addictive-algorithms-2022-facebook-instagram/

Материалы рубрики Обзоры СМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции

Читайте другие материалы журнала «Международная жизнь» на нашем канале Яндекс.Дзен.

Подписывайтесь на наш Telegram – канал: https://t.me/interaffairs