Max Home IndustryКомпании социальных сетей снова подвергаются критике, поскольку их платформы используются для расистского насилия над футболистами после драматического завершения мужского турнира Euro 2020 в воскресенье вечером.
И не заблуждайтесь, технологическим гигантам становится все труднее защищать эти инциденты. Как они не могут нести большую ответственность за контент, которым они делятся с миллионами?
Короче говоря, исторически с точки зрения регулирования платформы социальных сетей не относились к категории издателей или вещателей так же, как, скажем, традиционные СМИ, такие как BBC.
Если под этой статьей появятся расистские комментарии, написанные не мной, а кем-то, кто ее прочитал, BBC будет привлечена к ответственности, а британский регулирующий орган Ofcom проведет расследование, вмешается и вынесет решение о наказании, возможно, о штрафе.
Но Ofcom еще не имеет таких полномочий в отношении Facebook, TikTok, YouTube и Twitter, которые до сих пор в значительной степени саморегулируются, хотя это будет частью долгожданного законопроекта о безопасности в Интернете.
Однако еще предстоит увидеть, достаточно ли угрозы крупных штрафов, чтобы сосредоточить внимание этих многомиллионных предприятий. Но регулирование планируется не только в Великобритании.
Честно говоря, хотя BBC действительно имеет большое глобальное присутствие, ей не нужно иметь дело с чем-либо вроде объема контента и видео, написанных и загруженных в режиме реального времени кем-либо и всеми, такая платформа, как Facebook, с ее двумя миллиардами пользователи, делает.
Этот объемный том заполняет армии модераторов-людей, работающих на этих платформах.
Некоторые описывают кошмарные сдвиги, когда просматривают худший и самый графический контент, который только можно вообразить, а затем принимают решения о том, что с ним делать.
И решение, на которое все эти компании вкладывают бесчисленное количество времени и денег, — автоматизация.
Алгоритмы, обученные выявлять оскорбительные материалы до их публикации, общий запрет зажигательных (и незаконных) хэштегов, использование таких методов, как «хеширование», которые создают своего рода цифровые отпечатки видео, а затем блокируют любой контент, несущий тот же маркер уже используется регулярно.
Но пока автоматизация остается тупым инструментом.
Он еще недостаточно сложен, чтобы понимать нюансы, контекст, различные культурные нормы, хитрые правки — и было бы очень мало поддержки анонимного алгоритма, созданного неизбранным технологическим гигантом США, эффективно цензурирующего речь западных людей без этих факторов (Китай Конечно, есть своя государственная цензура, а платформы социальных сетей в США запрещены).
Вот пример — вчера вечером друг сообщил об анонимной учетной записи, которая разместила эмодзи орангутана под постом в Instagram, принадлежащим английскому Bukayo Saka.
Теперь никто не собирается полностью запрещать эти смайлы.
Но в этом контексте, учитывая, что Сака — молодой темнокожий игрок, чей пенальти был одним из тех, которые не удавались в решающие моменты финала Евро-2020 между Англией и Италией, намерение вполне очевидно.
Моя подруга ответила на свою жалобу: «Наша технология обнаружила, что это, вероятно, не противоречит нашим принципам сообщества», хотя в дальнейшем автоматизация была «несовершенной».
Она обжаловала это решение, но кто знает, когда на него обратят внимание пара человеческих глаз?
«Быстро удалено»
Тем временем в Твиттере пользователь, по-видимому, смог использовать крайне оскорбительные расовые оскорбления в твите о футболисте, прежде чем удалить сообщение.
В заявлении Facebook, которому принадлежит Instagram, говорится, что он «быстро удалил комментарии», адресованные игрокам.
«Никто не должен где-либо сталкиваться с расистскими оскорблениями — и мы не хотим, чтобы это было в Instagram», — говорится в нем.
Ответ Twitter был аналогичным — за 24 часа он удалил 1000 сообщений и заблокировал учетные записи, делящие ненавистный контент, используя «комбинацию автоматизации на основе машинного обучения и проверки человеком», говорится в сообщении.
Человеческая природа
Обе компании также заявили, что у них есть инструменты и фильтры, которые можно активировать, чтобы владельцы учетных записей не видели оскорбительный контент, но это не решает проблему распространения контента.
«Никто не решит эту проблему в одночасье», — добавил Facebook.
И, возможно, это то, что на самом деле лежит в основе всего этого — проблема не обязательно в ограничениях технологий, а в старомодной человеческой природе.
Премьер-министр Борис Джонсон по иронии судьбы заявил в Твиттере, что тем, кто несет ответственность за публикации о расистских оскорблениях, должно «быть стыдно за себя».
Но для некоторых людей есть что-то непреодолимое в том, чтобы прятаться за клавиатурой и говорить то, что они, по всей вероятности, никогда не скажут вслух, лично.
Никогда прежде у людей не было доступа не только к тем, кого они хотят ругать, но и к потенциально огромной аудитории тех, кто будет их слушать и присоединяться к ним.
Для некоторых это оказалось пьянящей и опьяняющей смесью, которая быстро зарекомендовала себя как норма.
Я недавно разговаривал с кем-то о чем-то спорном, произошедшем 20 лет назад.
Ее первый вопрос был о том, как отреагировали соцсети.
Я колебался на мгновение, задаваясь вопросом, почему я не могу вспомнить эту деталь — а затем понял, что это просто потому, что ее не существовало.