Max Home IndustryИнсайдеры Twitter сообщили Би-би-си, что компания больше не может защищать пользователей от троллинга, скоординированной государством дезинформации и сексуальной эксплуатации детей после увольнений и изменений при владельце Илоне Маске.
Эксклюзивные академические данные, а также свидетельства пользователей Twitter подтверждают их утверждения, предполагая, что ненависть процветает под руководством Маска, тролли наглеют, притеснения усиливаются, а количество аккаунтов, следующих за женоненавистническими и оскорбительными профилями, резко возрастает.
Нынешние и бывшие сотрудники компании рассказали BBC Panorama, что функции, предназначенные для защиты пользователей Twitter от троллинга и преследований, сложно поддерживать в условиях, по их словам, хаотической рабочей среды, в которой Маск постоянно находится под присмотром телохранителей. Я разговаривал с десятками, и некоторые из них попали в протокол впервые.
Бывший руководитель отдела дизайна контента говорит, что все в ее команде, которая создала такие меры безопасности, как кнопки подталкивания, были уволены. Позже она подала в отставку. Внутреннее исследование Twitter показывает, что благодаря этим мерам безопасности троллинг сократился на 60%. Инженер, работающий в Twitter, сказал мне, что «сейчас никто не занимается» этим типом работ, сравнив платформу со зданием, которое хорошо видно снаружи, но внутри «горит».
Twitter не ответил на запрос BBC о комментариях.
Мое расследование также показывает:
- Обеспокоенность тем, что сексуальная эксплуатация детей растет в Твиттере и недостаточно поднимается в правоохранительных органах
- По словам одного из недавних сотрудников, целенаправленные кампании преследования, направленные на ограничение свободы выражения мнений, и операции по иностранному влиянию, которые однажды ежедневно удаляются из Твиттера, остаются «незамеченными».
- Эксклюзивные данные, показывающие, как растет женоненавистническая ненависть в Интернете, нацеленная на меня, после поглощения, и что число новых учетных записей увеличилось на 69% после женоненавистнических и оскорбительных профилей.
- Выжившие после изнасилования стали мишенью для учетных записей, которые стали более активными после захвата власти, с признаками того, что они были восстановлены или созданы заново.
Оскорбления в Твиттере для меня не новость — я репортер, который делится там своими репортажами о дезинформации, заговорах и ненависти. Но на протяжении большей части прошлого года я заметил, что он неуклонно снижается во всех социальных сетях. А потом в ноябре я понял, что в Твиттере снова стало хуже.
Оказывается, я был прав. Команда из Международного центра журналистов и Университета Шеффилда отслеживала ненависть, которую я получаю, и их данные показали, что количество оскорблений в мой адрес в Твиттере увеличилось более чем в три раза с тех пор, как Маск пришел к власти, по сравнению с тем же периодом годом ранее. .
Все сайты социальных сетей были вынуждены бороться с ненавистью в Интернете и вредоносным контентом, но они говорят, что принимают меры для борьбы с этим. Меры, которые больше не кажутся главными в повестке дня Twitter.
В Сан-Франциско, где находится штаб-квартира Twitter, я отправился искать ответы. Что может быть лучше, чем получить их от инженера, ответственного за компьютерный код, который заставляет Twitter работать. Поскольку он все еще там работает, он попросил нас скрыть его личность, поэтому мы зовем его Сэм.
«Для кого-то внутри это похоже на здание, в котором все части горят», — сказал он.
«Если смотреть снаружи, фасад выглядит нормально, но я вижу, что ничего не работает. Вся сантехника сломана, все краны, все».
Он говорит, что хаос был создан из-за огромных сбоев в кадровом обеспечении. По меньшей мере половина сотрудников Twitter была уволена или решила уйти с тех пор, как Маск купил ее. По его словам, теперь людям из других стран приходится переключать внимание.
«Совершенно новый человек без опыта делает то, что раньше делали более 20 человек», — говорит Сэм. «Это оставляет место для гораздо большего риска, гораздо больше возможностей того, что может пойти не так».
Он говорит, что предыдущие функции все еще существуют, но те, кто их разрабатывал и поддерживал, ушли — он думает, что теперь они остались без людей.
«Столько всего сломано, и никто не позаботится об этом, что вы видите это непоследовательное поведение», — говорит он мне.
Уровень беспорядка, по его мнению, связан с тем, что Маск не доверяет сотрудникам Twitter. Он описывает, как привлек инженеров из другой своей компании — производителя электромобилей Tesla — и попросил их оценить код инженеров всего за несколько дней, прежде чем решить, кого уволить. Он говорит мне, что для понимания такого кода потребуются «месяцы».
Он считает, что это недоверие выдает уровень безопасности, которым Маск окружает себя.
«Куда бы он ни пошел в офисе, везде есть по крайней мере два телохранителя — очень громоздкие, высокие, телохранители в стиле голливудских фильмов. Даже когда [он идет] в туалет», — говорит он мне.
Он думает, что для Маска это деньги. Он говорит, что весь персонал по уборке и столовой был уволен, и что Маск даже пытался продать офисные помещения сотрудникам.
Лиза Дженнингс Янг, бывший руководитель отдела дизайна контента Twitter, была одной из тех, кто специализировался на внедрении функций, предназначенных для защиты пользователей от ненависти. Твиттер был рассадником троллинга задолго до того, как Маск пришел к власти, но она говорит, что ее команда добилась значительных успехов в ограничении этого. Внутреннее исследование Twitter, с которым ознакомилась BBC, похоже, подтверждает это.
«Все было не идеально. Но мы старались и все время улучшали ситуацию», — говорит она. Это первый раз, когда она публично рассказала о своем опыте с тех пор, как ушла после прихода Маска к власти.
Команда Дженнингса Янга работала над несколькими новыми функциями, включая режим безопасности, который может автоматически блокировать оскорбительные учетные записи. Они также разработали ярлыки, применяемые к вводящим в заблуждение твитам, и нечто, называемое «подталкиванием к вредным ответам». «Подталкивание» предупреждает пользователей, прежде чем они отправят твит, в котором технология ИИ обнаружила триггерные слова или вредоносную лексику.
Собственное исследование Twitter, с которым ознакомилась BBC, похоже, показывает, что «подталкивание» и другие инструменты безопасности эффективны.
«В целом 60% пользователей удаляли или редактировали свой ответ, когда им давали возможность подтолкнуть», — говорит она. «Но что было более интересно, так это то, что после того, как мы подтолкнули людей один раз, в будущем они написали на 11% меньше вредных ответов».
Согласно данным, собранным Шеффилдским университетом и Международным центром журналистов, эти функции безопасности внедрялись примерно в то время, когда мои оскорбления в Твиттере, казалось, уменьшились. Невозможно напрямую сопоставить эти два явления, но, учитывая то, что факты говорят нам об эффективности этих мер, можно провести связь.
Но после того, как Маск возглавил социальную сеть в конце октября 2022 года, вся команда Лизы была уволена, а сама она решила уйти в конце ноября. Я спросил Дженнингса Янга, что случилось с такими функциями, как вредоносное подталкивание в ответ.
«В настоящее время там не с кем работать», — сказала она мне. Она понятия не имеет, что случилось с проектами, которыми она занималась.
Итак, мы провели эксперимент.
Она предложила твит, который, как она ожидала, вызовет толчок. «Сотрудники Twitter — ленивые неудачники, они прыгают с моста Золотые Ворота и умирают». Я поделился им в личном профиле в ответ на один из ее твитов, но, к удивлению Дженнингса Янга, никаких уведомлений не было отправлено. Был подхвачен еще один твит с оскорбительными выражениями, которым мы поделились, но Лиза говорит, что подталкивание должно было подхватить сообщение с желанием смерти пользователю, а не просто бранные слова. Как и предсказывал Сэм, он не работал так, как предполагалось.
Во время этого расследования я получил сообщения от многих людей, которые рассказали мне, как ненависть, которую они получают в Твиттере, увеличилась с тех пор, как Маск пришел к власти, — они делились примерами расизма, антисемитизма и женоненавистничества.
Элли Уилсон, которая живет в Глазго, была изнасилована во время учебы в университете и прошлым летом начала публиковать сообщения об этом в социальных сетях. Тогда она получила положительный ответ в Твиттере.
Но когда она написала в Твиттере о нападавшем в январе после вынесения ему приговора, на нее обрушилась волна ненавистных сообщений. Она получала оскорбительные и женоненавистнические ответы, а некоторые даже говорили ей, что она заслуживает изнасилования.
«[Что] я нахожу самым трудным [это] люди, которые говорят, что меня не изнасиловали или что этого не было, и что я лгу. Это похоже на вторичную травму», — сказал мне Уилсон.
До поглощения ее подписчиков в Твиттере было меньше, но когда я на этот раз изучил аккаунты, нацеленные на нее с ненавистью, я заметил, что профили троллей стали более активными после захвата, предполагая, что они были заблокированы ранее и недавно восстановлены.
Некоторые учетные записи были созданы еще во время прихода Маска к власти. Похоже, они были посвящены разжиганию ненависти, без фотографий профиля или отличительных черт. Некоторые из них следят и взаимодействуют с контентом из популярных аккаунтов, которые были обвинены в пропаганде женоненавистничества и ненависти и восстановлены в Твиттере после того, как Маск решил восстановить тысячи заблокированных аккаунтов, в том числе аккаунт скандального влиятельного лица Эндрю Тейта.
«Предоставляя этим людям платформу, вы расширяете их возможности. И вы говорите: «Это нормально, вы можете это сделать».
Несколько аккаунтов также были нацелены на других переживших изнасилование, с которыми она общалась.
Эндрю Тейт не ответил на запрос BBC о комментариях.
Новое исследование Института стратегического диалога — британского аналитического центра, изучающего дезинформацию и ненависть, — перекликается с тем, что я обнаружил в отношении аккаунтов троллей, нацеленных на Элли.
Это показывает, что с тех пор, как Маск пришел к власти, были созданы десятки тысяч новых учетных записей, которые затем сразу же последовали за известными оскорбительными и женоненавистническими профилями — на 69% больше, чем до того, как он возглавил компанию.
Исследование показывает, что эти оскорбительные сети в настоящее время растут, и что поглощение Маска создало «разрешительную среду» для создания и использования таких учетных записей.
Шторм Илона Маска в Твиттере
Panorama исследует, как владение Илоном Маском трансформирует одну из самых влиятельных социальных сетей в мире.
Смотрите на BBC One в 20:00 по Гринвичу, понедельник, 6 марта.
Ключевые приоритеты Маска с момента поглощения, согласно его твитам, заключаются в том, чтобы сделать социальную сеть прибыльной и отстаивать свободу выражения мнений.
В декабре 2022 года он опубликовал внутренние документы под названием «Файлы Twitter», чтобы объяснить, почему, по его мнению, компания несправедливо применяла свою политику модерации и приостановки работы при старом руководстве.
Но те, кто был внутри, считают, что Маск использовал это, чтобы полностью отказаться от защиты пользователей от вреда. По их словам, даже опасный контент, против которого он выступает, включая сексуальное насилие над детьми и сети так называемых учетных записей ботов, намеренно созданных для введения в заблуждение, не борется, как это было раньше.
Твиттер ранее пытался защититься не только от отдельных троллей, но и от так называемых «операций влияния» — санкционированных государством кампаний, направленных на подрыв демократии и направленных против диссидентов и журналистов.
Рэй Серрато работал в команде, которая специализировалась на выполнении этих операций. Он ушел в ноябре, потому что чувствовал, что у нового руководства нет четкого представления о защите пользователей. Он говорит, что его команда будет выявлять подобные подозрительные действия «ежедневно». Теперь его команда «уничтожена» и существует в «минимизированном состоянии».
«Возможно, Twitter был убежищем, куда журналисты выходили, чтобы их голос был услышан и они критиковали правительство. Но я не уверен, что так будет дальше».
«Есть ряд ключевых экспертов, которых больше нет в той команде, которая занималась бы особыми регионами или субъектами угроз от россии до Китая», — говорит он мне.
Другой инсайдер, которого мы называем Рори, также очень обеспокоен этой утечкой знаний и тем, как она, по-видимому, подрывает приоритет Маска, не позволяя педофилам использовать Twitter для подготовки жертв и обмена ссылками на оскорбления. До недавнего времени Рори работал в команде по борьбе с сексуальной эксплуатацией детей [CSE].
Его команда должна была выявлять учетные записи, распространяющие оскорбительный контент о детях, и передавать информацию в правоохранительные органы. По его словам, до поглощения такой контент был огромной проблемой, и он уже опасался, что у них не хватает персонала.
«Каждый день вы сможете идентифицировать такой материал», — говорит он.
Но вскоре после приобретения его команда сократилась, по его словам, с 20 человек до примерно шести или семи. По его мнению, этого слишком мало, чтобы справиться с нагрузкой.
Рори говорит, что перед его уходом ни Маск, ни какой-либо другой член нового руководства не контактировали с ним и его старой командой, у которых между ними был многолетний опыт в этой области.
«Вы не можете взять компанию во владение и внезапно поверить, что у вас есть знания… чтобы справиться с [сексуальной эксплуатацией детей], не имея на месте экспертов», — говорит он.
Twitter сообщает, что только за один месяц было удалено 400 000 учетных записей, чтобы «сделать Twitter безопаснее». Но Рори обеспокоен тем, что теперь меньше людей, обладающих знаниями, чтобы эффективно передать информацию об этом контенте правоохранительным органам.
«Вы можете во что бы то ни стало заблокировать сотни тысяч учетных записей в месяц. Но если количество сообщений об этом контенте [в правоохранительные органы] сократилось, то это на самом деле ничего не значит, и большинство пользователей, чьи учетные записи были заблокированы в любом случае просто создаст новую учетную запись».
Он добавляет, что пользователи-нарушители могут затем просто создать новые учетные записи, в то время как заблокированные профили снова приветствуются в Twitter.
Я хотел спросить Илона Маска о поглощении, его видении Twitter и о том, как, по его мнению, это происходит в реальности. Я пытался связаться с ним по электронной почте, через твиты и даже через «опрос» в Твиттере. Это был не настоящий опрос, но Маск использовал эти голоса для принятия решений о будущем Twitter, и я надеялся, что это привлечет его внимание. Более 40 000 пользователей проголосовали, и 89% сказали, что Маск должен взять у меня интервью. У меня не было ответа.
Twitter и Маск пока официально не отреагировали на расследование BBC Panorama.
Мне сказали, что вся команда по связям с общественностью Twitter либо подала в отставку, либо была уволена. Политика Twitter, общедоступная в Интернете, гласит, что «защита и уважение голоса пользователя» остается одной из его «основных ценностей».
Тем не менее Маск написал в Твиттере о нашей статье после ее публикации, сказав: «Извините, что превратил Твиттер из воспитательного рая в место, где… тролли».
Затронули ли вас проблемы, поднятые в этой истории? Поделитесь своим опытом по электронной почте haveyoursay@bbc.co.uk.
Пожалуйста, укажите контактный номер, если вы хотите поговорить с журналистом Би-би-си. Вы также можете связаться следующими способами:
Если вы читаете эту страницу и не видите форму, вам нужно будет посетить мобильную версию веб-сайта BBC, чтобы отправить свой вопрос или комментарий, или вы можете написать нам по адресу HaveYourSay@bbc.co.uk. Пожалуйста, указывайте свое имя, возраст и местонахождение при подаче заявки.