Почему компании выдают результаты человеческого труда за работу искусственного интеллекта
Сразу несколько крупных и не очень компаний за последние годы были уличены в том, что нанимают удаленных сотрудников для работы в системах на основе ИИ. Так люди становятся незаметными “колесиками” в механизмах нейросетей, что не мешает компаниям громко заявлять о полной автоматизации бизнес-процессов.
Рассказываем в статье о том, почему такие “миражи ИИ” стали возможными и что помешало некоторым компаниям бесконечно вводить общественность в заблуждение.
Торговля “из-под прилавка” с нейросетью
Одной из первых “ласточек” в эпопее с “разоблачением” крупных компаний, якобы использовавших ИИ в своих технологиях, стала история с Amazon. В оффлайновых магазинах самообслуживания компании (Fresh Grocery) использовались специальные технологии, чтобы обойтись без продавцов. Но позднее выяснилось, что в работе ИИ участвовала целая когорта индийцев — “кассиры” на аутсорсинге, которые вручную отслеживали все покупки и расчеты.
Еще в конце 2023 года Amazon громко сообщала о том, что генеративный ИИ позволяет ей бороться с очередями на кассах и производить революцию в ритейле. Речь шла о впервые представленной в 2016 году технологии Just Walk Out. Она позволяет покупателям мгновенно оплачивать покупки и не стоять в очередях на кассе. Входя в магазин, покупатели вставляют в специальное устройство кредитную карту либо прикладывают ладонь к устройству распознавания. Затем каждому присваивается отдельный цифровой код — цифровая подпись. В этом коде отображается вся информация о действиях покупателя. Товары автоматически сканируются, когда он проходит через рамку, а чек приходит в мобильном приложении.
“Виртуальное обслуживание” возможно благодаря тому, что магазин оснащен системами распознавания и идентификации предметов. Камеры на потолке фиксируют все действия покупателя и его корзину.
Но самое интересное в системе Just Walk Out — это нейронные сети глубокого обучения, которые запоминают фотореалистичные наборы синтетических данных. По крайней мере, создатели технологии уверяли, что именно нейронные сети, в частности генеративно-состязательная сеть GAN, лежат в ее основе. Она и обрабатывает всю информацию с камер, датчиков и иных электронных устройств в реальном магазине.
Технологии продаж Just Walk Out были “показательно” внедрены на стадионе НХЛ, чтобы болельщики могли запросто зайти на концессионную трибуну и взять банку воды без необходимости стоять в очереди. Также по этой технологии работали сотни продуктовых магазинов США, Великобритании и Австралии, причем не только принадлежащих Amazon, но и сторонних.
Однако в апреле этого года представитель Amazon заявил, что компания откажется от использования технологии Just Walk Out в своих магазинах в США.
Но не потому, что компания признала технологию неэффективной — наоборот, Amazon утверждает, что Just Walk Out продолжает совершенствоваться и сокращать необходимость в человеческих ресурсах для ритейла. Однако в компании решили внедрить в своих магазинах более актуальную на данный момент технологию “умных тележек” — Dash Carts.
Всему этому предшествовал громкий скандал: зарубежные журналисты получили доступ к информации о том, что технология Just Walk Out работала не вполне самостоятельно. Якобы основной массив работы по отслеживанию видеозаписей и информации с оборудования, установленного в магазинах, выполняли обычные люди. Компания нанимала для этого фактически “виртуальных кассиров”. Информация об этом пришла сразу из нескольких источников. Например, сайт Gizmodo сообщил о том, что на Amazon трудилась тысяча индийских сотрудников, отслеживающих покупки дистанционно.
В реальности технология Just Walk Out не позволяла наладить эффективную работу ритейла: покупатели получали неверные чеки с запозданием, оборудование стоило дорого и требовало много свободного пространства в торговых точках. Американский портал The Information написал, что 700 из каждой тысячи продаж, осуществленных по технологии Just Walk Out, требовали участия людей.
В то же время благодаря Just Walk Out Amazon создала себе имидж передового участника рынка, использующего современные технологии для того, чтобы облегчить покупателям жизнь и перевести ритейл на новый технологический уровень. Все для удобства покупателей. Это, так или иначе, повышало капитализацию компании и ее интеллектуальный капитал. Не стоит забывать, что Amazon — публичная компания. Американская венчурная компания Loup Ventures даже успела подсчитать и заявить, что рынок торговли без кассиров может вырасти до 50 млн долларов. Понятно, что подобные сообщения подогревали интерес инвесторов к Amazon.
Кроме того, Amazon собиралась зарабатывать на масштабировании технологии Just Walk Out, продавая ее другим ритейлерам.
Другой побочной выгодой для компании от внедрения Just Walk Out мог стать рост спроса на облачное решение Amazon Web Services, лежащее в основе систем без касс. Наконец, еще один возможный бенефит от использования “безлюдной” технологии — возможность составить полную маркетинговую базу с информацией о покупателях и их чеках. Однако это только предположение, потому что Amazon утверждает, что не собирает биометрические данные о клиентах с помощью технологии Just Walk Out. Впрочем, это не помешало покупателям в США подать коллективный иск против компании, обвинив ее в том, что она аккумулировала в целях бизнеса информацию о своих клиентах, не ставя их в известность. Тем самым Amazon могла нарушать закон о неприкосновенности частной жизни.
Обещания заменить бухгалтеров ИИ оказались обманом
Американский стартап ScaleFactor предлагал своим клиентам — компаниям малого и среднего бизнеса — решить одну из самых актуальных для них проблем. А именно: снять большинство задач по ведению бухгалтерии с помощью штатных или аутсорсинговых бухгалтеров. Вместо них должны были работать инструменты, созданные на базе ИИ. Ведение отчетности, оформление счетов и налоговых выплат — рутина, которая недешево обходится небольшому бизнесу, так как приходится брать в штат бухгалтера. Не всегда аутсорсинг удобнее и дешевле. Поэтому многие владельцы бизнесов с воодушевлением восприняли обещания ScaleFactor облегчить им жизнь.
Стартап предлагал автоматизированную систему ведения бухгалтерии. Нужна была только первичная консультация с его сотрудником, а далее система на базе ИИ должна была брать данные из программ для ведения бухгалтерии, таких как Xero, обрабатывать их и создавать транзакции. Причем делать все это в режиме реального времени.
Однако многие клиенты ScaleFactor сталкивались с ошибками в бухгалтерской отчетности. Счета могли создаваться хаотично: например, однажды покупателю интернет-магазина, который был клиентом стартапа, просто перечислили 17 тысяч долларов. Вернуть их владельцу магазина так и не удалось. Кроме того, бухгалтерский сервис должен был предоставлять платежные выписки в режиме реального времени, но некоторые его клиенты получали их раз в месяц. Постепенно многие из них начинали понимать, что имеют дело с обычной бухгалтерией, а вовсе не с цифровым продуктом.
Все это время ScaleFactor активно привлекала инвестиции, как продвинутый цифровой стартап, предлагающий передовые автоматизированные решения. К 2019 году венчурные фонды вложили в компанию (созданную в 2014 году) порядка 100 млн долларов.
В то же время в СМИ стала появляться информация о том, что ScaleFactor несколько лет выдавал работу обычной бухгалтерии за автоматизированный сервис на основе ИИ. Например, при проведении финансово-юридической экспертизы один из потенциальных инвесторов ScaleFactor обнаружил целую команду сотрудников бухгалтерии, которые работали в компании с документами ее клиентов. Кроме того, выяснилось, что стартап прибегал к услугам аутсорсинговой бухгалтерской компании The Outsourced Accountant, расположенной на Филиппинах.
В 2020 году ScaleFactor объявил о том, что сменил бизнес-модель и станет связующим звеном между бухгалтерами и их потенциальными клиентами. Вполне логичное развитие событий для компании, которая, возможно, именно этим и занималась на протяжении большей части своего существования. Однако сразу следом за заявлением компании в 2020 году началась пандемия коронавируса, что осложнило ситуацию на рынке. В конце концов, работу стартапа было решено остановить.
Любопытно, что руководитель ScaleFactor Курт Ратманн на этапе закрытия стартапа отметил, что “компания действительно думала, что может автоматизировать все транзакции своих клиентов”. Однако, по его мнению, клиентам очень хотелось, чтобы их расчеты администрировал живой человек, а не машина.
Как бы то ни было, благодаря “легенде об ИИ”, ScaleFactor удалось за несколько лет привлечь в свой капитал более 300 млн долларов. По словам нескольких бывших сотрудников стартапа, это соответствовало целям компании: она была настроена на агрессивный рост и повышение акционерной стоимости. Разработка софта для нее всегда оставалась на втором плане. Но именно благодаря предложению автоматизированных технологий бухгалтерского учета и “мантрам” о всесильном ИИ, ей удавалось привлекать и клиентов, и инвесторов. Впрочем, из-за них же и вскрылась правда: заинтересованные инвесторы терпеливо искали истину с помощью финансово-экономических экспертиз и дью-дилидженса, чтобы убедиться в перспективах компании, а клиенты не стали долго терпеть ошибки в документации и увеличенные сроки работы.
Кстати, похожая история произошла и с американским онлайн-сервисом для автоматизации бухучета QuickBooks. Пользователи могут загружать туда квитанции, которые система обрабатывает, формируя общую сумму расходов и их категорию. Представители сервиса ранее утверждали, что для анализа массива квитанций и прочей бухгалтерской документации использовались нейросети. Однако бывший сотрудник компании написал в соцсетях о том, что компания привлекает к работе над документами бухгалтеров с Филиппин на аутсорсинге. Якобы именно из-за этого сервис работал с задержками: время обработки загруженных квитанций зависело от часового пояса и режима сна и работы на Филиппинах. Впрочем, бывший сотрудник компании отметил, что такая практика была характерна для QuickBooks на раннем этапе развития сервиса, когда он только учился применять ИИ.
ИИ и “люди в курсе событий” в фастфуде
Автоматизированные системы давно используются в общепите, в основном при выполнении задач по формированию и приему заказов. Это многократно ускоряет сервис. При этом многие рестораны, чтобы привлечь к себе внимание публики, спешат объявлять о внедрении в свою работу систем на базе ИИ. Например, некоторые рестораны, в том числе российские, использовали нейросети для составления меню и рецептов конкретных блюд. Но обычно оказывается, что такие кейсы созданы скорее в маркетинговых целях. В подобном не совсем невинном “подлоге” в 2023 году обвинили, например, американские сети общепита Checkers и Carl’s Jr. Они использовали автоматизированную систему от компании Presto Automation Inc. — говорящего чат-бота, способного принимать заказы почти без участия людей.
На самом деле эта технология оказалась далеко не столь автономной и независимой от человеческого труда, как сообщали сети общепита и сам разработчик. Став публичной компанией, Presto Automation Inc. открыто сообщила, что “внешние агенты”, в том числе сотрудники, нанятые на Филиппинах, участвуют в более чем 70% случаев взаимодействия с клиентами. Это якобы необходимо для того, чтобы убедиться в бесперебойной и качественной работе ИИ. Удаленных сотрудников, помогающих в обработке заказов с помощью ИИ, в Presto называют “людьми в курсе событий” и “агентами”.
Компания также уточнила, что в дальнейшем, именно благодаря участию людей в работе ИИ, система станет более совершенной и автономной. Она была вынуждена сделать такие заявления, ведь незадолго до этого Комиссия по ценным бумагам и биржам США (SEC) уведомила Presto о том, что в отношении компании ведется следствие в связи с раскрытием информации “в отношении определенных аспектов ее технологии искусственного интеллекта”.
Раскрытие информации об использовании человеческого труда для обеспечения работы автоматизированного сервиса и “подстраховки” повлияло на рыночную стоимость Presto: на волне этих сообщений ее акции в моменте падали на 60%.
Как распознать обман со стороны компаний, якобы использующих полностью автоматизированные системы на основе ИИ?
Основные признаки того, что вы имеете дело с настоящим ИИ:
- автоматизированные сервисы работают в режиме реального времени;
- системы на основе ИИ созданы так, чтобы не допускать ошибок;
- ИИ самостоятелен: сервис на базе ИИ способен, например, принять заказ клиента, не требуя сверок, уточнений и переводов на оператора.
А как часто вам приходится общаться с ИИ-ассистентами? Как бы вы улучшили этот инструмент, чтобы он смог полноценно заменить живых работников?