Нурлан Каримов 
Онлайн-среда стремительно меняется. Каждое взаимодействие с чат-ботом или навигация по веб-сайту оставляет цифровой след, который может указывать на ваши будущие желания, порой даже раньше, чем вы сами их осознаете. Крупнейшие технологические компании активно ищут способы собирать и продавать эти предвестники намерений, превращая ваши потенциальные будущие мысли в новый источник прибыли.
Это явление получило название «экономика намерений».
На протяжении многих лет компании зарабатывали, борясь за внимание пользователей. Каждый скролл, свайп и клик помогал им понять, что удерживает ваш фокус. Так сформировалась «экономика внимания», изменившая все – от распространения новостей до способов совершения покупок.
Однако исследователи утверждают, что интернет движется дальше. Вместо того чтобы просто захватывать ваше внимание, компании теперь стремятся узнать, что вы планируете. Их интересует не только то, чего вы хотите сейчас, но и то, чего вы захотите в ближайшем будущем. Цель – понять и даже сформировать ваши решения до того, как вы их примете.
По словам доктора Джонни Пенна из Кембриджского университета, внимание десятилетиями было валютой интернета. Он предупреждает, что без должного регулирования «экономика намерений» будет рассматривать человеческие мотивации как новую валюту.
Центральную роль в этом сдвиге играют большие языковые модели (LLM) – основа работы чат-ботов и цифровых ассистентов. Обученные на огромных массивах информации, они способны вести диалог очень по-человечески. Вероятно, вы уже общались с такими системами через службу поддержки или виртуального репетитора.
Эти системы искусственного интеллекта не просто понимают язык. Они анализируют вашу манеру речи, содержание запросов и даже реакцию на лесть, чтобы предугадывать ваши мысли. Чем больше вы общаетесь с ИИ, тем точнее он может предсказывать ваши текущие и будущие желания.
Доктор Якуб Чаудхари, также из Кембриджа, объяснил силу этого подхода. Он отметил, что то, что люди говорят во время беседы, как они это говорят, и какие выводы можно сделать в реальном времени, представляет собой гораздо более интимную информацию, чем просто записи онлайн-взаимодействий.
Это означает, что ваши разговоры с ИИ-агентами вскоре могут раскрывать больше о ваших надеждах, настроениях и предпочтениях, чем профили в социальных сетях или история просмотров.
Представьте ИИ-ассистента, который чувствует вашу усталость или стресс и предлагает посмотреть фильм, возможно, даже сразу предлагая купить билеты. Технологические компании уже разрабатывают системы, способные на это. План состоит в том, чтобы продавать эти ранние признаки желаний рекламодателям в реальном времени, позволяя им показывать вам идеально своевременные предложения еще до того, как вы окончательно определитесь.
Команда Центра изучения будущего интеллекта Леверхалма при Кембриджском университете предупреждает, что это создает новый тип рынка, где товаром становятся ваши намерения. Доктор Пенн подчеркнул необходимость рассмотреть вероятное влияние такого рынка на человеческие устремления, включая свободные и честные выборы, свободную прессу и справедливую рыночную конкуренцию, прежде чем общество станет жертвой его непредвиденных последствий.
Угроза реальна: если политические группы получат доступ к этим данным, они смогут формировать общественное мнение. Если компании используют их для продажи товаров, потребители могут совершать покупки, о которых даже не задумывались самостоятельно.
Признаки формирования «экономики намерений» уже заметны. OpenAI, создатель ChatGPT, недавно объявила о поиске данных, выражающих человеческие намерения на любом языке, по любой теме и в любом формате. Крупная платформа электронной коммерции Shopify заявила об использовании ИИ для явного определения намерений пользователя. Похожие шаги предпринимают Meta, Apple и Nvidia.
Еще в 2021 году Meta выпустила набор данных под названием Intentonomy, чтобы помочь машинам лучше понимать планы людей. Новые инструменты разработки Apple теперь включают функции, пытающиеся предсказать ваши возможные следующие действия и предлагающие соответствующие приложения. Даже ИИ-агенты, такие как CICERO от Meta, способные играть в стратегическую игру Diplomacy на уровне человека, используют убеждение и стратегию, основанные на чтении намерений. Способность ИИ предсказывать и формировать выбор в игре может быть перенесена и на реальную жизнь.
Доктор Чаудхари констатировал, что компании уже продают наше внимание. По его мнению, логичным следующим шагом для получения коммерческого преимущества является использование разрабатываемых технологий для прогнозирования наших намерений и продажи наших желаний еще до того, как мы их полностью осознаем.
Мощь этого подхода усиливается способностью ИИ выстраивать доверительные отношения. Чем естественнее звучит ИИ, тем больше пользователи склонны воспринимать его как друга или советчика. Этот комфорт облегчает раскрытие личных чувств, планов на будущее и глубинных желаний. Полученная информация становится частью потока данных, анализируемого компаниями. Исследователи предупреждают, что это может привести к манипуляциям невиданного масштаба.
Ученые пишут, что такой ИИ будет сочетать знание наших онлайн-привычек с поразительной способностью подстраиваться под нас. Он может имитировать манеру речи и даже направлять разговор так, чтобы создать ощущение безопасности, скрывая при этом коммерческую цель – продажу вашего следующего решения. Доктор Чаудхари добавил, что огромные ресурсы тратятся на внедрение ИИ-ассистентов во все сферы жизни, что должно вызывать вопрос о том, чьим интересам и целям служат эти так называемые помощники.
Усовершенствованная система профилирования позволяет ИИ изучать ваши речевые обороты, политические взгляды, любимые слова и даже восприимчивость к похвале. На основе этих данных создаются настолько детализированные профили, что они могут отражать ваш образ мыслей. Эти профили помогают компаниям делать ставки на ваши будущие решения. Например, если вы ищете информацию в интернете и упоминаете стресс, ИИ может предложить спа-процедуры или скидки на покупки, в то время как за кулисами различные компании соревнуются за право показать вам свое предложение первыми.
Даже незначительные детали, такие как скорость ответа или используемые слова, становятся частью вашего профиля. Исследователи описывают это как «экономику внимания, спроецированную во времени», показывающую не только то, что удерживает ваш фокус сейчас, но и куда он может сместиться в будущем.
«Экономика намерений» все еще находится на стадии формирования, но тенденции очевидны: технологические компании готовятся формировать и продавать человеческую мотивацию. Без контроля это может коренным образом изменить интернет, бизнес и даже основы демократии.
Исследователи подчеркивают, что будущее не предопределено. При наличии соответствующих правил и должной осведомленности общество может направить развитие этих систем. Доктор Пенн считает общественное понимание ключевым фактором. По его словам, осведомленность о грядущих изменениях – это ключ к тому, чтобы мы не пошли по неверному пути.
Понимание того, как используются ваши данные и каковы последствия этого использования, может стать самым важным выбором в цифровую эпоху.
