Max Home IndustryАлгоритм Facebook способствовал вирусному распространению ненависти и насилия во время гражданской войны в Эфиопии, утверждается в судебном деле.
Абрам Меарег, сын эфиопского ученого, застреленного после нападения на посты в Facebook, находится среди тех, кто возбудил дело против Меты.
Им нужен фонд в размере 2 миллиардов долларов (1,6 миллиарда фунтов стерлингов) для борьбы с ненавистью в Facebook и изменения алгоритма платформы.
Meta заявила, что вложила значительные средства в модерацию и технологии, чтобы удалить ненависть.
Представитель заявил, что разжигание ненависти и подстрекательство к насилию противоречат правилам платформы.
«Наша работа по обеспечению безопасности и добросовестности в Эфиопии основывается на отзывах местных организаций гражданского общества и международных организаций», — сказал представитель.
Условия, похожие на голод
Дело, поданное в Высокий суд Кении, поддержано предвыборной группой Foxglove.
У Meta есть центр модерации контента в столице Кении Найроби.
Сотни тысяч человек погибли в результате конфликта между эфиопским правительством и силами в северном районе Тыграй, а еще 400 000 человек живут в условиях, близких к голоду.
В прошлом месяце было достигнуто неожиданное мирное соглашение, но в последнее время наблюдается всплеск этнически мотивированных убийств между общинами, говорящими на амхара и оромо.
В прошлом году отец Мирега стал одной из жертв насилия в стране.
3 ноября 2021 года вооруженные люди на мотоциклах преследовали профессора Мирега Амаре Абрху домой из университета и застрелили его с близкого расстояния, когда он пытался проникнуть в семейный дом.
По словам его сына, угрозы со стороны нападавших не позволили свидетелям прийти ему на помощь, пока он лежал истекая кровью. Он умер, лежа на земле семь часов спустя.
По словам его сына, перед нападением посты в Facebook содержали клевету и раскрывали идентифицирующую информацию о нем.
Несмотря на неоднократные жалобы с использованием инструмента отчетности Facebook, платформа «оставила эти сообщения до тех пор, пока не стало слишком поздно».
Один был удален после убийства его отца.
Другой, который платформа обязалась удалить, оставался в сети по состоянию на 8 декабря 2022 года.
«Ужасно неадекватно»
«Если бы Facebook просто остановил распространение ненависти и правильно модерировал посты, мой отец был бы жив», — сказал Мирег.
По его словам, он хотел, чтобы ни одна семья не пострадала так, как его, и «личные извинения» от Меты.
В заявлении под присягой, поданном в суд, Мирег утверждает, что алгоритм Facebook продвигает «ненавистный и подстрекательский» контент, потому что он, вероятно, привлечет больше взаимодействия со стороны пользователей.
Он также утверждает, что модерация контента Facebook в Африке «ужасно неадекватна»: слишком мало модераторов, которые занимаются постами на ключевых языках амхарском, оромо и тигринья.
Meta, которой принадлежит Facebook, сообщила BBC News: «Мы нанимаем сотрудников, обладающих знаниями и опытом в местных условиях, и продолжаем развивать наши возможности для выявления нарушающего правила контента на самых распространенных в стране языках, включая амхарский, оромо, сомалийский и тигринья».
Он утверждает, что Эфиопия является высоким приоритетом, хотя менее 10% населения использует Facebook, и говорит, что предпринятые шаги включают:
- снижение виральности постов
- расширение политики насилия и подстрекательства
- улучшение правоприменения
Анализ Питера Мваи, BBC Reality Check, Найроби
Это важное событие, попытка на законных основаниях привлечь к ответственности компанию социальных сетей за ее действия во время конфликта в Эфиопии.
Критики говорят, что Meta и другие социальные сети делают слишком мало для предотвращения обмена и распространения дезинформации и контента, пропагандирующего ненависть и подстрекательство к различным этническим группам. А в некоторых случаях удаление контента занимает слишком много времени, в основном после того, как люди сообщают об этом.
Другие утверждают, что компания несправедлива в своем преследовании ненавистнического контента, непропорционально нацеливая сообщения, написанные на некоторых языках.
Meta всегда настаивала на том, что делает много, и вложила значительные средства в способность улавливать ненавистный и подстрекательский контент на языках, наиболее широко используемых в стране.
У него есть модераторы контента, владеющие основными местными языками, но он также полагается на искусственный интеллект и местных партнеров для пометки контента. И сколько модераторов работает с Meta, сосредоточившись на Эфиопии, никогда не было ясно.
Но это не первый раз, когда Facebook обвиняют в том, что он делает слишком мало, чтобы остановить распространение контента, пропагандирующего этническую ненависть и насилие в Эфиопии.
В 2021 году разоблачитель Фрэнсис Хауген, бывший сотрудник, заявила Сенату США, что алгоритм платформы «разжигает этническое насилие … улавливает крайние настроения, раскол», поскольку эти сообщения привлекали большое внимание, в то время как Facebook не мог адекватно идентифицировать опасный контент. , и не имел достаточного знания многих местных языков, включая некоторые из них, на которых говорят в Эфиопии.
Среди других истцов по этому делу — Институт Катиба и Фиссеха Текле, который утверждает, что неудачи модерации Facebook сделали невозможным его репортаж о правах человека для Amnesty International и поставили под угрозу жизнь его семьи.
Они просят суд обязать Facebook принять меры для исправления ситуации, в том числе:
- создание фонда реституции в размере около 200 млрд кенийских шиллингов (кш) (1,6 млрд долларов) для жертв ненависти и насилия, спровоцированных в Facebook, и еще 50 млрд кенийских шиллингов за аналогичный ущерб от спонсируемых постов.
- предотвращая его алгоритм, рекомендующий «подстрекательский, ненавистный и опасный контент»
- найм достаточного количества модераторов для перевода местного контента, обеспечивая равенство между модерацией в Найроби и модерацией для пользователей в США.