В этом году Amazon попала в заголовки критических статей, когда в них ставилась под сомнение технология «Just Walk Out», установленная во многих ее обычных продуктовых магазинах.
Система на базе искусственного интеллекта позволяет покупателям во многих магазинах Amazon Fresh и Amazon Go просто выбирать товары и уходить.
![Что такое «промывка ИИ» и почему это проблема? 1 Amazon пришлось защищать использование технологий искусственного интеллекта в своих обычных продуктовых магазинах](https://www.zmax.work/wp-content/uploads/2024/07/2c90e480-3378-11ef-9fb3-db4b10d023b6.webp)
ИИ использует множество датчиков, чтобы определить, что вы выбрали. После этого вам будет автоматически выставлен счет.
Однако еще в апреле широко сообщалось, что вместо использования исключительно искусственного интеллекта Just Walk Out потребовалось около 1000 рабочих в Индии, чтобы вручную проверять почти три четверти транзакций.
Amazon сразу же заявил, что отчеты были «ошибочными» и что сотрудники в Индии не просматривали видеозаписи из всех магазинов.
Вместо этого там говорилось, что индийские рабочие просто пересматривают систему. Amazon добавила, что «это ничем не отличается от любой другой системы искусственного интеллекта, которая придает большое значение точности, и где рецензенты являются обычным явлением».
Какими бы ни были точные детали дела Amazon, это яркий пример нового и растущего вопроса: не делают ли компании преувеличенных заявлений об использовании ИИ. Это явление получило название «промывка ИИ» в связи с «зеленой промывкой» окружающей среды.
Но сначала напомним, что именно означает ИИ. Хотя точного определения не существует, ИИ позволяет компьютерам учиться и решать проблемы. ИИ способен сделать это после предварительного обучения работе с огромными объемами информации.
Особый тип ИИ, о котором последние несколько лет мелькали все заголовки газет, — это так называемый «генеративный ИИ». Это ИИ, который специализируется на создании нового контента, будь то текстовые разговоры, создание музыки или изображений.
Чат-боты, такие как ChatGPT, Gemini от Google и Copilot от Microsoft, являются популярными примерами генеративного искусственного интеллекта.
Что касается AI-мойки, то существует несколько типов. Некоторые компании заявляют, что используют ИИ, тогда как на самом деле они используют менее сложные вычисления, в то время как другие преувеличивают эффективность своего ИИ по сравнению с существующими методами или предполагают, что их решения на основе ИИ полностью работоспособны, хотя на самом деле это не так.
Между тем, другие разработчики просто прикручивают чат-бота с искусственным интеллектом к своему существующему программному обеспечению, не связанному с искусственным интеллектом.
Хотя в 2022 году только 10 % технологических стартапов упомянули об использовании ИИ в своих презентациях, в 2023 году эта цифра выросла до более четверти, согласно данным OpenOcean, британско-финского инвестиционного фонда для новых технологических компаний. Ожидается, что в этом году эта цифра превысит треть.
И, как говорит член команды OpenOcean Шри Аянгар, конкуренция за финансирование и желание быть в авангарде подтолкнули некоторые такие компании к переоценке своих возможностей в области искусственного интеллекта.
«Некоторые основатели, похоже, считают, что если они не упомянут ИИ в своей презентации, это может поставить их в невыгодное положение, независимо от того, какую роль он играет в их решении», — говорит Аянгар.
«И согласно нашему анализу, существует значительное неравенство между компаниями, заявляющими о возможностях ИИ, и теми, которые демонстрируют ощутимые результаты, основанные на ИИ».
![Что такое «промывка ИИ» и почему это проблема? 2 Шри Аянгар говорит, что некоторые руководители стартапов считают, что им просто необходимо упомянуть об искусственном интеллекте](https://www.zmax.work/wp-content/uploads/2024/07/1a49ac70-3379-11ef-9fb3-db4b10d023b6.webp)
По данным другой инвестиционной компании в сфере технологий, MMC Ventures, эта проблема незаметно существует уже несколько лет. Исследование 2019 года показало, что 40% новых технологических компаний, которые называли себя «стартапами ИИ», на самом деле практически вообще не использовали ИИ.
«Сегодня проблема та же, плюс другая проблема», — говорит Саймон Менаши, генеральный партнер MMC Ventures.
Он объясняет, что «передовые возможности искусственного интеллекта» теперь доступны каждой компании по цене стандартного программного обеспечения. Но, по его словам, вместо того, чтобы создавать целую систему искусственного интеллекта, многие просто внедряют интерфейс чат-бота поверх продукта, не связанного с искусственным интеллектом.
Дуглас Дик, глава британского отдела рисков новых технологий в бухгалтерском гиганте KPMG, говорит, что проблема «отмывания» ИИ не решается тем фактом, что не существует единого согласованного определения ИИ.
«Если бы я спросил группу людей, как они определяют ИИ, все они дали бы разный ответ», — говорит он. «Этот термин используется очень широко и расплывчато, без какой-либо четкой точки отсчета. двусмысленность, из-за которой возникает ИИ-мойка
«Промывка ИИ может иметь серьезные последствия для бизнеса: от переплаты за технологии и услуги до неспособности достичь операционных целей, которые ИИ должен был помочь им достичь».
Между тем, инвесторам может быть сложнее выявить действительно инновационные компании.
И, по мнению Аянгара, «если потребители не оправдывают ожиданий от продуктов, которые утверждают, что предлагают передовые решения на основе искусственного интеллекта, это может подорвать доверие к стартапам, которые делают действительно новаторские работы».
Регулирующие органы, по крайней мере в США, начинают обращать на это внимание. Ранее в этом году Комиссия по ценным бумагам и биржам США (SEC) заявила, что обвинила две инвестиционные консультативные компании в предоставлении ложных и вводящих в заблуждение заявлений о масштабах использования ими ИИ.
«Твердая позиция Комиссии по ценным бумагам и биржам (SEC) демонстрирует отсутствие свободы действий, когда дело доходит до отмывания ИИ, указывая на то, что, по крайней мере в США, мы можем ожидать увеличения штрафов и санкций в будущем для тех, кто нарушает правила», говорит Ник Уайт, партнер международной юридической фирмы Charles Russell Speechlys.
В Великобритании уже действуют правила и законы, регулирующие промывку искусственного интеллекта, в том числе кодекс поведения Управления по рекламным стандартам (ASA), в котором говорится, что маркетинговые коммуникации не должны вводить в заблуждение по существу или не могут вводить так.
Майкл Кордо, сотрудник отдела регулирования британской корпоративной юридической фирмы Walker Morris, говорит, что ИИ становится все более распространенной особенностью рекламы, подпадающей под расследование ASA.
Примером может служить платная публикация в Instagram о приложении с заголовком «Улучшите свои фотографии с помощью ИИ», которая, по мнению ASA, преувеличивает производительность приложения и поэтому вводит в заблуждение.
«Очевидно, что AI cliare становится все более распространенным и, по-видимому, эффективным средством повышения интереса потребителей», — говорит Кордо.
«По моему мнению, мы находимся на пике ажиотажа вокруг ИИ», — говорит Сандра Вахтер, профессор технологий и регулирования Оксфордского университета и ведущий мировой эксперт по ИИ.
«Однако я чувствую, что мы забыли спросить, всегда ли имеет смысл использовать ИИ для всех типов задач. Я помню, как видел в лондонском метро рекламу электрических зубных щеток с искусственным интеллектом. Это кому? Кому это поможет?»
Кроме того, по ее словам, влияние искусственного интеллекта на окружающую среду часто замалчивается.
«ИИ не растет на деревьях… эта технология уже вносит больший вклад в изменение климата, чем авиация. Нам нужно отойти от этой односторонней раздутой дискуссии и по-настоящему подумать о конкретных задачах и секторах, для которых ИИ может быть полезен, а не просто слепо внедрять его во все».
Но в долгосрочной перспективе, считает Адвика Джалан, руководитель отдела исследований MMC Ventures, проблема отмывания ИИ может утихнуть сама по себе.
«ИИ становится настолько повсеместным (даже если это всего лишь оболочка ChatGPT), что через какое-то время использование ИИ в качестве инструмента брендинга, скорее всего, перестанет быть отличительным признаком», – говорит она. «Это будет немного похоже на фразу: «Мы в Интернете».