Искусственный интеллект становится повсеместным явлением, но вместе с ним растет и число мошеннических схем. Компании спешат оседлать волну популярности ИИ, используя его как мощный маркетинговый инструмент. Параллельно возник новый тревожный тренд: корпоративный обман, при котором громкое заявление «на базе ИИ» на деле оказывается лишь дымовой завесой, за которой скрываются, в лучшем случае, низкооплачиваемые сотрудники из других стран.
Эту практику уже успели окрестить «ИИ-отмыванием» (AI washing). Она привлекает внимание регуляторов, становится причиной судебных исков и публичных скандалов, когда компании вынуждены признаваться в обмане клиентов, инвесторов или и тех, и других. Разрыв между громкими обещаниями и реальностью стал настолько велик, что спровоцировал рост числа судебных разбирательств. Согласно отчету Cornerstone Research и Stanford Law School, в 2024 году количество дел о мошенничестве с ценными бумагами, связанных с ИИ, удвоилось по сравнению с предыдущим годом.
Одним из самых показательных примеров краха стала история британской компании Builder.ai, которая привлекла более 450 миллионов долларов от таких крупных инвесторов, как Microsoft и Инвестиционное управление Катара. Компания позиционировала себя как no-code платформа, способная автономно создавать приложения с помощью собственного ИИ. На деле же технологическая поддержка состояла из команды 700 инженеров в Индии, которые вручную писали код, выдавая свою работу за действия алгоритмов. В итоге компания столкнулась с банкротством в нескольких странах и обвинениями в завышении показателей продаж для инвесторов.
Даже технологический гигант Amazon оказался в центре подобного скандала. Его магазины с технологией «Just Walk Out» должны были стать триумфом компьютерного зрения и автоматизации, позволяя покупателям просто брать товары с полок и уходить, минуя кассы. Однако внутренние документы показали, что до 70% покупок требовали ручной проверки со стороны команды из тысячи сотрудников в Индии. Вместо полностью автономной системы ИИ нуждался в помощи человека при большинстве транзакций. Впоследствии Amazon начал сворачивать эту технологию в своих магазинах, заменяя ее на «умные» тележки, которые по крайней мере не создают у покупателей ложных ожиданий.
Американская компания Innodata попала под огонь критики за, как утверждают истцы, вымышленную ИИ-платформу Goldengate. Компания уверяла инвесторов в разработке передовой системы, однако отчет исследовательской фирмы Wolfpack Research назвал эту технологию «дымом и зеркалами». После публикации отчета акции Innodata обвалились более чем на 30%. В отчете приводился диалог с бывшим сотрудником, который на прямой вопрос, является ли работа компании искусственным интеллектом, ответил: «Нет».
Бостонская компания Evolv Technologies продвигала свою систему безопасности Evolv Express как прорыв в обнаружении оружия на основе ИИ, обещая выявлять угрозы в реальном времени без громоздких металлодетекторов. Однако судебные иски и соглашение с Федеральной торговой комиссией США показали, что возможности ИИ были сильно преувеличены. Выяснилось, что система не способна обнаруживать определенные виды ножей и взрывчатых веществ. В рамках урегулирования ведомство запретило Evolv делать бездоказательные заявления о своем ИИ, а некоторым клиентам, включая школьные округа, была предоставлена возможность расторгнуть контракты.
Пожалуй, самая необычная история пришла из мира музыки. Фолк-рок-группа Velvet Sundown стремительно набрала вирусную популярность на Spotify, собрав более миллиона ежемесячных слушателей. У группы была своя предыстория и визуальный стиль. Кульминацией стал момент, когда выяснилось, что весь проект — это «ИИ-мистификация». Музыка была сгенерирована нейросетью под руководством людей, которые представили проект как творческое отражение современного ажиотажа вокруг технологий. Хотя это не было мошенничеством в юридическом смысле, разоблачение вызвало общественный резонанс и спровоцировало широкую дискуссию о подлинности в творческих индустриях.