Tech Tent — могут ли социальные сети остановить злоупотребления?

Это было, к сожалению, предсказуемо — поражение сборной Англии в финале Евро последовало за волной расовых оскорблений в социальных сетях, направленных на футболистов, пропустивших пенальти.

В Tech Tent на этой неделе мы исследуем, есть ли технологические ответы на проблему злоупотреблений — и не слишком ли медленно гиганты социальных сетей решают эту проблему.

• Слушайте последний подкаст Tech Tent на BBC Sounds
• Слушайте в прямом эфире каждую пятницу в 08:00 по Гринвичу на Всемирной службе BBC.

По мере роста давления с целью противодействия всем видам злоупотреблений платформы наняли тысячи модераторов и, когда они были перегружены объемом сообщений, обратились к автоматизации. Facebook, например, гордится тем, что большинство постов, связанных с терроризмом, стирается ИИ, и в 2017 году он хвастался, что обнаружил 99% постов Аль-Каиды и группы Исламского государства до того, как был предупрежден пользователями.

Но на этой неделе эта технология показала свои ограничения. Когда Кристина Криддл из BBC сообщила о комментарии с изображением смайликов орангутана на странице Букайо Саки в Instagram, она получила следующий ответ: «Наша технология обнаружила, что этот комментарий не противоречит принципам нашего сообщества».

Далее в сообщении признавалось, что «наши технологии несовершенны», и пару дней спустя босс Instagram Адам Моссери признал, что были допущены ошибки. Отвечая на твит Кристины, он сказал: «У нас есть технология, позволяющая определять приоритеты отчетов, и мы ошибочно отметили некоторые из них как безобидные комментарии, что на самом деле не так. С тех пор проблема решена».

Но технический писатель Чарльз Артур сказал Tech Tent, что он не уверен, что владелец Instagram, Facebook, достаточно старается: «Технология далека от совершенства, потому что люди, которые ее разбирают, далеки от совершенства».

Он говорит, что обучить систему тому, что посылать смайлики орангутана черному футболисту не должно быть таким сложным: «Для любого компетентного программиста потребуется максимум часа, чтобы внести такие изменения и отметить подобные вещи. чтобы убедиться, что нельзя отправить другие оскорбительные смайлы «.

Проблема с эмодзи

Артур, бывший технический редактор Guardian, написал книгу под названием «Социальное потепление», в которой описывает пагубное влияние социальных сетей на все, от журналистики до политики, и сравнивает это с изменением климата.

Его критика направлена, в частности, в адрес Facebook, который, по его словам, имеет долгую историю неспособности предвидеть и подготовиться к предсказуемым способам злоупотребления людьми его платформой: «Я думаю, что всегда с Facebook он слишком многого ожидает от людей. кажется, это надежда на то, что только в этот раз люди будут намного приятнее, и каждый раз имеет тенденцию разочаровываться «.

Политики обещают более жесткое регулирование деятельности технологических гигантов, так как долгожданный законопроект о безопасности в Интернете грозит огромными штрафами, если они не будут действовать достаточно быстро, чтобы удалить вредоносный материал со своих платформ. Тем не менее, определение того, что является вредным, но не незаконным, будет еще одной проблемой для Ofcom, поскольку перед ним новая работа по контролю над Интернетом, а также телекоммуникациями и медиа-индустрией.

Отравлен хорошо

Тем временем некоторые предлагают более быстрые решения. Билл Митчелл из BCS, Chartered Institute for IT, рассказывает Tech Tent об одной идее — заставить компании социальных сетей проверять личность своих пользователей.

«Основная идея заключается в том, что если вы несете ответственность за свое поведение, если вы отвечаете за то, что говорите, если мы можем выяснить, кто вы, если вы делаете что-то совершенно отвратительное и неприемлемое, тогда это будет действительно сильно ограничивают ваше желание делать эти вещи «.

Но даже некоторые члены BCS скептически относятся к этой идее, указывая, что она может дискриминировать людей без водительских прав или другой формы удостоверения личности и что данные, собранные компаниями социальных сетей, могут оказаться приманкой для хакеров. В любом случае, некоторые из тех, кто причастен к расовому насилию над футболистами, не стеснялись называть свои настоящие имена.

Когда впервые появились социальные сети, они, казалось, обещали новую эру демократического общения, когда политики и избиратели, знаменитости и их поклонники смогут общаться на равных.

Но эта мечта умерла, колодец был отравлен, и нет единого мнения о том, как исправить положение.