Meta отказывается от проверки фактов в пользу заметок сообщества в стиле X. Сработают ли они?

В этом месяце, когда пламя охватило большую часть Лос-Анджелеса, появились и фейковые новости.

В сообщениях социальных сетей рекламировались дикие теории заговора о пожаре, пользователи делились вводящими в заблуждение видеороликами и ошибочно идентифицировали невинных людей как мародеров.

Это остро поставило вопрос, который преследует эпоху социальных сетей: как лучше всего сдерживать и исправлять потенциально подстрекательские искры дезинформации?

Это дискуссия, в центре которой оказался Марк Цукерберг, генеральный директор Meta.

Вскоре после беспорядков в Капитолии 6 января 2021 года, которые были спровоцированы ложными заявлениями о фальсификации президентских выборов в США, Цукерберг дал показания в Конгрессе. Миллиардер хвастался «ведущей в отрасли программой проверки фактов» Meta.

Он отметил, что она привлекла 80 «независимых сторонних проверяющих факты» для пресечения дезинформации в Facebook и Instagram.

Четыре года спустя эта система больше не является предметом для хвастовства.

«Проверщики фактов просто были слишком политически предвзяты и разрушили больше доверия, чем создали, особенно в США», — сказал Цукерберг ранее в январе.

По его словам, на их место придет нечто совершенно иное: система, вдохновленная «заметками сообщества» X, где пользователи, а не эксперты, выносят суждение о точности.

Многие эксперты и проверяющие факты усомнились в мотивах Цукерберга.

«Марк Цукерберг явно потворствовал новой администрации и Илону Маску», — заявил Алексиос Манцарлис, директор Инициативы по безопасности, доверию и защите в Корнеллском технологическом институте, в интервью BBC.

Манцарлис также глубоко критикует решение уволить проверяющих факты.

Но, как и многие эксперты, он также высказывает еще один момент, который, возможно, затерялся в шквале критики, с которой сталкивается Meta: в принципе, система в стиле заметок сообщества может быть частью решения проблемы дезинформации.

Наблюдение за птицами

Внедрение системы проверки фактов, вдохновленной платформой, принадлежащей Илону Маску, всегда вызывало возмущение. Богатейшего человека в мире регулярно обвиняют в использовании его учетной записи X для распространения дезинформации и теорий заговора.

Но система существовала еще до его владения.

«Birdwatch», как его тогда называли, появился в 2021 году и черпал вдохновение из Википедии, которую пишут и редактируют волонтеры.

Как и Википедия, заметки сообщества полагаются на неоплачиваемых участников для исправления дезинформации.

Участники оценивают корректирующие заметки под ложными или вводящими в заблуждение сообщениями, и со временем некоторые пользователи получают возможность писать их. По данным платформы, эта группа участников сейчас насчитывает почти миллион человек.

Мантзарлис, который сам когда-то руководил проектом по проверке фактов «с помощью краудсорсинга», утверждает, что такой тип системы потенциально позволяет платформе «получать больше проверок фактов, больше вкладов, быстрее».

Одной из главных привлекательных особенностей систем в стиле общественных заметок является их способность к масштабированию: по мере роста базы пользователей платформы растет и пул добровольцев-участников (если вы сможете убедить их принять участие).

По данным X, общественные заметки производят сотни проверок фактов в день.

Напротив, эксперты по проверке фактов Facebook могут справляться с менее чем 10 проверками в день, говорится в статье Джонатана Стрея из Центра искусственного интеллекта, совместимого с человеком, Калифорнийского университета в Беркли и журналистки Ив Снайдер.

И одно исследование показывает, что общественные заметки могут обеспечивать качественную проверку фактов: анализ 205 заметок о COVID показал, что 98% из них были точными.

Примечание, добавленное к вводящему в заблуждение посту, также может естественным образом сократить его вирусное распространение более чем вдвое, утверждает X, и исследования показывают, что они также увеличивают вероятность того, что первоначальный автор удалит твит на 80%.

Кит Коулман, который курирует заметки сообщества для X, утверждает, что Meta переходит на более эффективную программу проверки фактов.

«Заметки сообщества уже охватывают гораздо более широкий спектр контента, чем предыдущие системы», — сказал он мне.

«Об этом редко говорят. Я вижу истории, в которых говорится, что «Meta завершает программу проверки фактов», — сказал он.

«Но я думаю, что реальная история такова: «Meta заменяет существующую программу проверки фактов подходом, который может масштабироваться, чтобы охватывать больше контента, реагировать быстрее и которому доверяют во всем политическом спектре».

Проверка фактчекеров

Но, конечно, Цукерберг не просто сказал, что общественные заметки — лучшая система, он активно критиковал фактчекеров, обвиняя их в «предвзятости».

Тем самым он повторил давнее убеждение среди американских консерваторов, что крупные технологические компании цензурируют их взгляды.

Другие утверждают, что проверка фактов неизбежно приведет к цензуре спорных взглядов.

Силки Карло, директор британской группы по защите гражданских прав Big Brother Watch, которая провела кампанию против предполагаемой цензуры депутата Дэвида Дэвиса на YouTube, сообщила BBC, что обвинения в предвзятости Big Tech исходят от представителей всех политических кругов.

Централизованная проверка фактов платформой рискует «подавить ценные репортажи о спорном контенте», сказала она BBC, а также заставляет пользователей ошибочно полагать, что все посты, которые они читают, являются «проверенной правдой».

Но Бейбарс Орсек, управляющий директор Logically Facts, которая предоставляет услуги по проверке фактов Meta в Великобритании, утверждает, что профессиональные проверяющие факты могут выявлять самую опасную дезинформацию и выявлять появляющиеся «вредные нарративы».

Только системам, управляемым сообществом, не хватает «последовательности, объективности и опыта» для борьбы с самой вредной дезинформацией, написал он.

Профессиональные проверяющие факты, а также многие эксперты и исследователи решительно оспаривают предвзятость. Некоторые утверждают, что проверяющие факты просто потеряли доверие многих консерваторов.

Доверие, которое, по словам Манцарлиса, было намеренно подорвано.

«Проверяющие факты начали становиться арбитрами истины в существенной степени, что расстроило политически мотивированных сторонников и людей у ​​власти, и внезапно на них были совершены вооруженные атаки», — сказал он.

Доверие к алгоритму

Решение, которое X использует в попытке сохранить доверие к заметкам сообщества по всему политическому спектру, заключается в том, чтобы изъять ключевую часть процесса из рук человека, положившись вместо этого на алгоритм.

Алгоритм используется для выбора того, какие заметки будут показаны, а также для того, чтобы гарантировать, что они будут полезны широкому кругу пользователей.

Проще говоря, по словам X, этот «связующий» алгоритм выбирает предложенные заметки, которые оцениваются как полезные добровольцами, которые обычно не соглашаются друг с другом.

Результатом, как утверждается, является то, что заметки воспринимаются положительно во всем политическом спектре. По словам X, это подтверждается регулярным внутренним тестированием. Некоторые независимые исследования также подтверждают эту точку зрения.

Meta заявляет, что ее система общественных заметок потребует согласия между людьми с различными точками зрения, чтобы помочь предотвратить предвзятые оценки, «точно так же, как они это делают в X».

Но такое широкое принятие — это высокая планка для достижения.

Исследования показывают, что более 90% предложенных общественных заметок никогда не используются.

Это означает, что точные заметки могут остаться неиспользованными.

Но, по словам X, показ большего количества заметок подорвет цель отображения только тех заметок, которые будут полезны большинству пользователей, и это снизит доверие к системе.

«Больше плохих вещей»

Даже после того, как проверяющие факты исчезнут, Meta по-прежнему будет нанимать тысячи модераторов, которые ежедневно удаляют миллионы фрагментов контента, например, изображения насилия и материалы о сексуальной эксплуатации детей, которые нарушают правила платформы.

Но Meta смягчает свои правила в отношении некоторых политически спорных тем, таких как гендер и иммиграция.

Марк Цукерберг признал, что изменения, призванные снизить риск цензуры, означают, что она «будет ловить меньше плохих вещей».

По мнению некоторых экспертов, это был самый тревожный аспект объявления Meta.

Сопредседатель Совета по надзору Meta сообщил BBC, что в действиях Цукерберга есть «огромные проблемы».

Что же будет дальше?

Подробности новых планов Meta по борьбе с дезинформацией скудны. В принципе, некоторые эксперты считают, что система заметок сообщества может быть полезной, но многие также считают, что она не должна заменять проверяющих факты.

Заметки сообщества — это «в основе своей законный подход», пишет профессор Том Стаффорд из Шеффилдского университета, но платформе по-прежнему нужны профессиональные проверяющие факты, считает он.

«Краудсорсинг может быть полезным компонентом системы модерации информации, но он не должен быть единственным компонентом».