Max Home IndustryФирма, которая была нанята для модерации постов в Facebook в Восточной Африке, задним числом заявила, что ей не следовало браться за эту работу.
Бывшие кенийские сотрудники аутсорсинговой компании Sama рассказали, что они были травмированы постами с графическими изображениями.
Некоторые в настоящее время возбуждают дела против фирмы через кенийские суды.
Генеральный директор Венди Гонсалес заявила, что Сама больше не будет заниматься модерированием вредоносного контента.
Внимание! Эта статья содержит оскорбительный контент.
Некоторые бывшие сотрудники рассказали, что получили травму после просмотра видео с обезглавливанием, самоубийствами и других графических материалов в центре модерации, которым фирма управляла с 2019 года.
Бывший модератор Дэниел Мотаунг ранее сказал Би-би-си, что первое графическое видео, которое он увидел, было «видео в прямом эфире, где кого-то обезглавливают».
Мотаунг подает в суд на Саму и владельца Facebook Мету. Meta заявляет, что требует от всех компаний, с которыми работает, круглосуточной поддержки. Сама говорит, что сертифицированные консультанты по здоровому образу жизни всегда были рядом.
Гонсалес сказала Би-би-си, что работа, которая никогда не составляла более 4% бизнеса фирмы, была контрактом, на который она больше не согласится. Sama объявила, что закончит его в январе.
«Вы задаете вопрос: «Жалею ли я об этом?» Ну, я бы, наверное, сказал так. Если бы я знал то, что знаю сейчас, включая все возможности, энергию, которую это отняло бы у основного бизнеса, я бы не заключил [соглашение]».
Она сказала, что были «извлечены уроки», и теперь у фирмы есть политика не брать на себя работу, которая включает модерацию вредоносного контента. Компания также не будет заниматься искусственным интеллектом (ИИ), «который поддерживает оружие массового уничтожения или полицейское наблюдение».
Ссылаясь на продолжающийся судебный процесс, Гонсалес отказалась отвечать, верит ли она заявлениям сотрудников, которые заявили, что им был причинен вред просмотром графических материалов. На вопрос, считает ли она, что модерация может быть вредной в целом, она ответила, что это «новая область, которая абсолютно нуждается в изучении и ресурсах».
Ступенька
Sama — необычная аутсорсинговая фирма. С самого начала его общепризнанная миссия заключалась в том, чтобы вытащить людей из бедности, предоставляя цифровые навыки и доход, выполняя вычислительные задачи на аутсорсинге для технологических фирм.
В 2018 году BBC посетила фирму, наблюдая за тем, как сотрудники из малообеспеченных районов Найроби зарабатывают 9 долларов (7 фунтов стерлингов) в день на «аннотации данных» — маркировке объектов в видеороликах о вождении, таких как пешеходы и уличные фонари, которые затем будут использоваться. для обучения систем искусственного интеллекта (ИИ). Опрошенные сотрудники сказали, что доход помог им избежать бедности.
По ее словам, компания по-прежнему работает в основном над аналогичными проектами искусственного интеллекта в области компьютерного зрения, которые не подвергают работников вредному контенту.
«Я очень горжусь тем, что мы вывели из бедности более 65 000 человек», — сказал Гонсалес.
Она считает важным, чтобы африканцы были вовлечены в цифровую экономику и разработку систем искусственного интеллекта.
На протяжении всего интервью Гонсалес повторял, что решение взяться за работу было мотивировано двумя соображениями: модерация была важна, необходимая работа, предпринятая для предотвращения вреда пользователям социальных сетей. И что важно, чтобы африканский контент модерировался африканскими командами.
«Вы не можете ожидать, что кто-то из Сиднея, Индии или Филиппин сможет эффективно модерировать местные языки в Кении, Южной Африке или других странах», — сказала она.
Она также сообщила, что сама выполняла модерацию.
По словам Гонсалеса, зарплата модераторов в Sama начиналась примерно с 90 000 кенийских шиллингов (630 долларов) в месяц, что по кенийским стандартам является хорошей зарплатой, сравнимой с зарплатой медсестер, пожарных и банковских служащих.
На вопрос, будет ли она выполнять работу за такую сумму, она ответила: «Я занималась модерацией, но это не моя работа в компании».
Обучение ИИ
Сама также начал работать с OpenAI, компанией, стоящей за ChatGPT.
Один сотрудник, Ричард Матендж, чья работа заключалась в том, чтобы читать огромные объемы текста, из которого чат-бот учился, и помечать все, что вредно, говорил с программой Панорама Би-би-си. Он сказал, что столкнулся с тревожным контентом.
Sama заявила, что отменила работу, когда сотрудники в Кении выразили обеспокоенность по поводу запросов, касающихся материалов на основе изображений, которых не было в контракте. Гонсалес сказал, что «мы немедленно завершили эту работу».
OpenAI заявила, что у нее есть собственные «этические стандарты и стандарты здоровья» для наших аннотаторов данных, и «признает, что это сложная работа для наших исследователей и специалистов по аннотации в Кении и во всем мире».
Но Гонсалес считает этот тип работы ИИ еще одной формой модерации, работой, которую компания больше не будет выполнять.
«Мы сосредоточены на безвредных приложениях компьютерного зрения, таких как безопасность водителей и дроны, обнаружение фруктов и обнаружение болезней сельскохозяйственных культур и тому подобное», — сказала она.
«Африке нужно место за столом переговоров, когда дело доходит до развития ИИ. Мы не хотим продолжать усиливать предубеждения. Нам нужны люди со всего мира, которые помогают создавать эту глобальную технологию».