Max Home IndustryАмериканской компании Evolv Technology, занимающейся сканированием оружия, будет запрещено делать необоснованные заявления о своей продукции в рамках предлагаемого соглашения с правительством США.
Компания заявляла, что ее сканер ИИ, используемый на входах в тысячи школ, больниц и стадионов США, может обнаруживать все виды оружия.
Однако расследования BBC показали, что эти заявления ложны.
Evolv заявила, что теперь достигла соглашения с Федеральной торговой комиссией (FTC), но не признала правонарушения.
FTC заявила, что эти действия должны стать предупреждением для других компаний, занимающихся ИИ.
«FTC ясно дала понять, что технологиям ИИ, включая искусственный интеллект, необходимо предоставить резервную копию», — сказал Сэмюэл Левин, директор Бюро по защите прав потребителей.
Миссия Evolv Technology — заменить металлоискатели сканерами оружия на основе искусственного интеллекта.
Компания утверждает, что сделает это с помощью искусственного интеллекта, который может активно обнаруживать скрытое оружие, такое как бомбы, ножи и пистолеты.
В жалобе FTC утверждается, что компания обманчиво рекламировала, что ее сканеры будут обнаруживать «все виды оружия».
В 2022 году BBC изложила некоторые впечатляющие заявления тогдашнего генерального директора компании Evolv об этой технологии.
«Металлический состав, форма, фрагментация — у нас есть десятки тысяч таких сигнатур для всего оружия, которое существует», — сказал генеральный директор Питер Джордж в 2021 году. «Все пистолеты, все бомбы и все большие тактические ножи».
Однако в отчете BBC от 2022 года было показано, что тестирование показало, что система Evolv не может надежно обнаруживать оружие или бомбы — после запроса о свободе информации от компании IPVM, занимающейся анализом безопасности.
В другом отчете BBC от 2023 года были раскрыты подробности ножевого ранения в школе Нью-Йорка, где использовались сканеры оружия Evolv.
«Она действительно, действительно не обнаруживает ножи», — сказал BBC тогдашний суперинтендант школ Ютики.
А ранее в этом году BBC сообщила, что заявление Evolv о том, что правительство Великобритании протестировало и одобрило ее технологию, также было ложным.
В соответствии с предложенным соглашением американского надзорного органа по защите прав потребителей, Evolv будет запрещено делать необоснованные заявления о способности своей продукции обнаруживать оружие и предоставлять некоторым клиентам школ возможность расторгнуть свои контракты.
Теперь дело будет передано на утверждение судье.
Представитель Evolv заявил, что компания работала «совместно» с агентством.
«FTC не оспаривала фундаментальную эффективность нашей технологии, и что резолюция не включает в себя никаких денежных выплат», — сказал Майк Элленбоген, временно исполняющий обязанности президента и генерального директора Evolv.
«Чтобы было ясно, это расследование касалось прошлого маркетингового языка, а не способности нашей системы повышать ценность операций по обеспечению безопасности», — сказал он.
Среди должностных лиц в США и Великобритании есть опасения по поводу того, что компании преувеличивают способность искусственного интеллекта улучшать продукты. В некоторых случаях неясно, используется ли искусственный интеллект вообще.
Недавно FTC запустила «Операцию AI Comply», направленную против компаний, делающих ложные заявления об ИИ.