Max Home IndustryДва профсоюза подали в суд на Uber, утверждая, что программное обеспечение, используемое для проверки личности водителей, имеет расовые предубеждения, и фирма несправедливо увольняла водителей.
Профсоюзы заявляют, что используемая система проверки лица Microsoft хуже идентифицирует людей с более темной кожей.
Uber заявляет, что защищает пассажиров, следя за тем, чтобы за рулем был нужный человек, и имеет «надежный человеческий контроль».
Microsoft отказалась комментировать текущее судебное дело.
На этой неделе Независимый профсоюз рабочих Великобритании (IWGB) поддержал иск по иску трудового трибунала о косвенной расовой дискриминации от имени одного из своих членов, чья учетная запись, по его словам, была закрыта из-за ошибки проверки лица.
IWGB просит Uber отказаться от использования этой технологии.
Это следует за решением Союза водителей и курьеров приложений (ADCU), принятого ранее в этом году, о возбуждении двух судебных исков против Uber.
Эти два водителя поддерживаются Комиссией по вопросам равноправия и прав человека, которая заявила BBC: «Расовая принадлежность человека не должна быть препятствием для использования технологий в любой сфере его жизни, в том числе для получения средств к существованию.
«Мы поддерживаем водителей в их делах против Uber в рамках нашей работы по борьбе с расовой дискриминацией, включая использование потенциально дискриминационного ИИ при автоматизированном принятии решений».
Безопасность пассажиров
Некоторые исследования показали, что системы распознавания лиц имеют более высокий процент ошибок для темнокожих людей.
Uber называет систему, которую он использует для проверки личности водителей, «проверкой идентификатора в реальном времени».
Система предназначена для предотвращения совместного использования водителями учетных записей, отчасти потому, что водители должны пройти проверку на наличие судимости, чтобы получить лицензию на частный прокат.
Uber сообщил BBC, что защищает «безопасность всех, кто использует приложение Uber, помогая убедиться, что за рулем находится правильный водитель».
«Система включает надежный человеческий анализ, чтобы убедиться, что этот алгоритм не принимает решения о чьих-либо средствах к существованию в вакууме и без надзора», — заявили в компании.
Он заявил, что привержен борьбе с расизмом и отстаиванию равенства.
Перед началом работы водитель отправляет в Uber селфи, которое затем проверяет на совпадение с фотографией в учетной записи в своих записях.
В Uber говорят, что водители могут выбирать, проверяет ли их селфи программное обеспечение Microsoft или люди.
Если фотография не совпадает автоматически, значит, есть проверка, написанная человеком.
Если человеческий обзор соглашается, что совпадения нет, водитель находится в «списке ожидания» на 24 часа.
В следующий раз, когда водитель войдет в систему, будет проведена дополнительная проверка человеком. Если совпадений по-прежнему нет, учетная запись водителя деактивируется. Водители могут обжаловать решение.
Показатели отказов
В июне ADCU возбудил судебный иск по поводу несправедливого увольнения водителя и курьера Uber Eats после того, как система распознавания лиц компании не смогла их идентифицировать.
Джеймс Фаррар, генеральный секретарь профсоюза, сказал, что Uber представила некорректную технологию распознавания лиц, которая приводит к «недопустимому количеству отказов при использовании против сотрудников, в основном состоящих из цветных людей».
По данным Transport for London, 94% лицензированных частных водителей являются чернокожими, азиатами и представителями этнических меньшинств.
Microsoft отказалась от комментариев, сославшись на ожидающий судебный иск, но в письме в ADCU в апреле компания написала, что «постоянно тестирует и обновляет наш Face API, уделяя особое внимание справедливости и точности для демографических групп».
«Мы также разработали новые практики, методы исследования и инструменты, которые позволяют нашим клиентам оценивать и уменьшать несправедливость в системах ИИ», — говорится в сообщении.
Uber подчеркивает, что если алгоритм обнаружит несоответствие, решение будет проверено человеком.
Но Па Эдрисса Манджанг, один из двух людей, которых ADCU поддержал в подаче иска против Uber, обнаружил тот факт, что люди не заметили, что его селфи совпадают с «ошеломляющим», и поставил под сомнение их профессионализм.
«Трудно сделать это неправильно, — сказал он, — но в моем случае они ошиблись».
Другой человек, которого профсоюз поддержал для возбуждения дела в суде, Имран Джавид Раджа, успешно оспорил решение Uber, но после увольнения лишился частной лицензии на аренду.
На то, чтобы вернуть ему лицензию, потребовались месяцы: «Это повлияло на мою жену, моего сына, моих дочерей, это повлияло на всю мою семью». он сказал.