Max Home IndustryAmazon обвинили в сексизме после того, как ее голосовой помощник Alexa не смог ответить на вопрос о победе Львиц в полуфинале на чемпионате мира среди женщин.
Когда в среду его спросили «результат футбольного матча Англия-Австралия сегодня», он ответил, что матча не было.
«Это была ошибка, которая была исправлена», — сказал представитель Amazon.
Академик Джоанн Родда, которая предупредила Би-би-си, заявила, что это свидетельствует о том, что «сексизм в футболе был заложен в Alexa».
Доктор Родда, старший преподаватель психиатрии в Медицинской школе Кента и Медуэя, интересующаяся искусственным интеллектом (ИИ), сказала, что смогла получить ответ от Алексы только тогда, когда она уточнила, что ее интересует женский футбол.
«Когда я спросила Алексу о сегодняшнем женском футбольном матче между Англией и Австралией, она дала мне результат», — сказала она Би-би-си.
BBC удалось воспроизвести то, что она нашла на Alexa.
Отвечая на заявление Amazon о том, что они исправили ситуацию, доктор Родда сказал Би-би-си, что «довольно грустно, что после почти десятилетнего существования Alexa только сегодня алгоритм искусственного интеллекта был «исправлен», так что теперь он распознает женский чемпионат мира по футболу как ‘футбол'».
Amazon сообщила BBC, что, когда клиент задает Alexa вопрос, информация извлекается из различных источников, включая Amazon, лицензированных поставщиков контента и веб-сайты.
Он добавил, что у него есть автоматизированная система, которая использует ИИ для понимания контекста и извлечения наиболее важной информации, но в этом случае система ошиблась.
Фирма заявила, что ожидает, что система со временем улучшится, добавив, что она посвятила себя предотвращению подобных ситуаций в будущем.
Доктор Родда также поставила под сомнение степень, в которой проблема действительно была решена, заявив, что она все еще находит аналогичную проблему с женской суперлигой.
«Ради интереса я просто спросила Алексу, с какой футбольной командой «Арсенал» сыграет в октябре», — сказала она.
«Он ответил с информацией о мужской команде и не смог дать ответ, когда я спросил конкретно о женских матчах.
Инцидент выдвигает на первый план проблему предвзятости, встроенную в систему, основанную на быстро развивающемся секторе искусственного интеллекта.
Этот быстрый рост заставил некоторых предостеречь, что ИИ может угрожать будущему человечества, но другие, в том числе глава отдела конкуренции ЕС Маргрет Вестагер, говорят, что способность ИИ укоренять существующие предрассудки вызывает большую озабоченность.
Это потому, что ИИ хорош настолько, насколько хороши данные, которые использовались для его обучения. Инструменты ИИ обучаются на обширных наборах данных, и разработчики несут ответственность за обеспечение их достаточного разнообразия, что не всегда так.
Дополнительная трудность заключается в том, что после укоренившейся предвзятости не всегда просто заставить инструмент «разучиться» его обучению — иногда единственный вариант — начать заново, что фирма может делать неохотно, учитывая огромные затраты на создание ИИ в первую очередь. .
Быть упущенным из виду алгоритмом становится все более проблематичным опытом, поскольку инструменты ИИ решают не только то, что мы видим и слышим, но и то, сколько мы платим за такие вещи, как страхование автомобиля и, возможно, какое медицинское обслуживание нам требуется.