Max Home IndustryВсего за три месяца в прошлом году TikTok удалил 80 миллионов загруженных видео, которые каким-то образом нарушали его правила.
По его словам, мощный искусственный интеллект в сочетании с модераторами-людьми удалил их с молниеносной скоростью, 94,2% до того, как их кто-либо увидел.
Системы, которые искали «контент, нарушающий правила», автоматически удалили 17 миллионов видео.
Аналогичная история и у других компаний, работающих в социальных сетях: каждый день удаляются тысячи часов контента.
Теперь некоторые спрашивают, удаляет ли Big Tech, удаляя так много контента, также и кадры военных преступлений в Украине.
Графический контент
TikTok уже был чрезвычайно популярен во всем мире до решения президента России Владимира Путина вторгнуться в Украину, но война стала моментом взросления платформы.
Видео с использованием различных украинских хэштегов набрали миллиарды просмотров.
Но украинцы, загружающие видео с земли, могут генерировать больше, чем лайки.
Вполне возможно, что они загружают фрагмент мозаики улик, которая однажды будет использована для судебного преследования за военные преступления.
Но они также могут нарушать строгие правила TikTok и других социальных сетей в отношении графического контента.
«TikTok — это платформа, которая прославляет творчество, а не шокирующую ценность или насилие», — гласят правила TikTok.
«Мы не разрешаем контент, который является неоправданно шокирующим, графическим, садистским или ужасным».
И некоторые, но не все материалы, изображающие возможные зверства, могут попасть в эту категорию.
«Огромная проблема»
Исследователям неясно, сколько украинского пользовательского контента удаляют Tiktok и другие социальные сети, такие как Meta, Twitter и YouTube.
«TikTok не так прозрачен, как некоторые другие компании, и ни одна из них не очень прозрачна», — говорит директор программы Witness Сэм Грегори.
«Вы не знаете, что не было видно и снято, потому что это было графически, но потенциально улика.
«Здесь есть огромная проблема».
Это не первый раз, когда крупным социальным сетям приходится иметь дело с доказательствами потенциальных военных преступлений.
Подобные проблемы породил и сирийский конфликт.
Хьюман Райтс Вотч годами безуспешно призывала к централизованной системе загрузки материалов из зон конфликтов.
«На данный момент его не существует», — говорит старший исследователь конфликтов Белкис Вилле.
Она описывает бессистемный и запутанный процесс, которому прокуроры должны следовать, чтобы получить доказательства, удаленные из социальных сетей.
«Власти могут писать в социальные сети, запрашивать повестку в суд или ордер в суд… но, судя по тому, как сейчас работает этот процесс, никто не имеет четкого представления о том, где находится весь этот контент», — говорит г-жа Вилле.
И это настоящая проблема для следователей.
Еще до Украины те, кто пытался задокументировать зверства, подчеркивали, как усиление умеренности пагубно сказывается на сборе доказательств.
«Такие темпы обнаружения означают, что борцы за права человека все больше проигрывают в гонке за идентификацию и сохранение информации», — говорится в отчете о цифровых доказательствах зверств, подготовленном Центром по правам человека при Школе права Беркли.
В отчете содержится призыв к «цифровым шкафчикам» — местам, где контент может храниться и просматриваться не только социальными сетями, но и неправительственными организациями (НПО) и юристами.
Но многие социальные медиа-компании не хотят приглашать посторонних в свои процессы модерации, оставляя исследователей перед загадкой Рамсфелда: они часто не знают, что удаляют, так как же они могут знать, что запрашивать или вызывать в суд?
Это неизвестные неизвестные.
Легкая политика
Но не все платформы социальных сетей имеют одинаковую политику в отношении графического контента.
Telegram сыграл огромную роль в обмене видео с земли в Украине.
У него также очень легкая политика модерации.
Видео, которые были бы удалены в Twitter или Facebook, остаются в Telegram.
И это не единственная причина, по которой платформа помогает следователям.
«Я бы сказала, что часть наиболее ценного фото- и видеоконтента, который мы как организация получили, получена от Telegram», — говорит г-жа Вилле.
И еще одно ключевое преимущество.
Компании социальных сетей, такие как Facebook и Twitter, автоматически удаляют из контента метаданные изображения или видео — своего рода цифровой идентификатор, показывающий, где и когда был захвачен контент, что имеет решающее значение для следователей.
«Одно из преимуществ, которое мы обнаружили, заключается в том, что метаданные в Telegram не удаляются, — говорит г-жа Вилле.
Защита метаданных с момента захвата действия до момента его демонстрации в суде иногда называется «цепочкой обеспечения сохранности».
Венди Беттс, директор Eye Witness, проекта Международной ассоциации юристов, направленного на сбор поддающихся проверке зверств в области прав человека, призывает людей снимать возможные военные преступления в своем приложении Eye Witness to Atrocities, чтобы сохранить информацию в лучшем виде. возможный способ использования в суде.
«Когда кадры переходят от фотографа к следователю и адвокату… если какое-либо звено в этой цепочке отсутствует, эти кадры будут рассматриваться как более подозрительные, потому что за этот промежуток могли быть внесены изменения», — говорит она.
Но все эти решения кажутся фрагментарными и неудовлетворительными.
Без единого цифрового шкафчика, который используют все компании, работающие в социальных сетях, без единого места, где все это хранится, важные улики могут исчезнуть.
Разные ответы
В некоторых случаях неясно, хранят ли или документируют эти видео компании, работающие в социальных сетях.
BBC News спросила TikTok, Google, Meta и Twitter об их политике в этой области.
TikTok представил свою политику защиты своих пользователей во время войны на Украине, но не ответил ни на один из заданных вопросов.
«Прямо сейчас нам больше нечем поделиться, кроме этой информации», — сказал представитель.
И ни Twitter, ни Google не ответили.
Только Мета дала индивидуальный ответ.
«Мы будем удалять этот тип контента только в том случае, если он прославляет насилие или прославляет страдания других, или когда контент является чрезвычайно графическим или жестоким — например, видеозапись расчленения», — сказал представитель.
«Что касается конкретно войны в Украине, мы изучаем способы сохранения этого типа и других типов контента при его удалении».
Очень разные ответы этих четырех крупных технологических компаний говорят сами за себя.
Нет системы, нет политики, они все общие.
И до тех пор, пока этого не произойдет, важные улики могут быть потеряны и забыты.