Бауыржан Жакиев 
Искусственный интеллект стремительно развивается, переходя от роли пассивных помощников к автономным агентам, способным самостоятельно принимать решения и действовать. Этот новый этап, известный как агентивный ИИ, сулит беспрецедентную эффективность и масштабируемость, но одновременно ставит острые вопросы этики, управления и контроля.
Компания SAS, известная своими аналитическими решениями, выходит на рынок агентивного ИИ. Ее новая разработка – фреймворк для агентивного ИИ, встроенный в платформу SAS Viya, – призвана превратить ИИ-агентов из экспериментальных новинок в надежные инструменты, обеспечивающие конкурентные преимущества для бизнеса. Ключевым элементом этого фреймворка являются новые возможности SAS Intelligent Decisioning, которые помогают организациям проектировать, внедрять и масштабировать ИИ-агентов, сохраняя при этом баланс между их автономностью и человеческим контролем.
Руководители технологических компаний активно внедряют агентивный ИИ: согласно недавнему опросу EY, 48% уже частично или полностью развернули автономных агентов. Более того, половина IT-лидеров ожидает, что в ближайшие два года более 50% внедрений ИИ в их компаниях будут автономными, что свидетельствует не только об амбициях, но и о срочности этого процесса. Исследование также выявило значительный оптимизм в отрасли: 81% респондентов верит, что ИИ поможет им достичь своих целей в течение следующего года. Этот оптимизм стимулирует активный найм: 84% IT-руководителей планируют нанять специалистов по ИИ в ближайшие шесть месяцев, а 70% сосредоточены на обучении нынешних сотрудников.
Такой всплеск доверия к ИИ подчеркивает важность правильного подхода к его внедрению. Шайла Рана, старший член IEEE и профессор кибербезопасности в Purdue University Global, говорит, что автономность должна сочетаться с подотчетностью. По ее словам, рутинные задачи, основанные на данных и имеющие минимальные последствия, являются основными кандидатами для более высокой степени автоматизации, в то время как стратегические решения со значительным влиянием требуют более активного участия человека. Дэвид Меннингер, исполнительный директор по исследованию программного обеспечения в ISG, соглашается, что предприятиям необходимо планировать надзор с самого начала. Он отмечает, что наблюдались случаи задержки проектов на шесть месяцев и более из-за того, что механизмы управления не были интегрированы на начальном этапе. В ответ на эти вызовы SAS встроила управление принятием решений в платформу Viya, чтобы помочь организациям утверждать, проверять и отслеживать решения ИИ-агентов. Эта встроенная структура помогает компаниям находить баланс между инновациями и соблюдением нормативных требований, позволяя двигаться вперед быстро, но безопасно.
Фреймворк агентивного ИИ от SAS не только мощный, но и объяснимый. Его архитектура дополняет модели машинного обучения логикой на основе правил и автоматизацией рабочих процессов, делая решения ИИ отслеживаемыми и понятными. Дэвид Меннингер говорит, что SAS Intelligent Decisioning существует уже много лет и предоставляет надежный механизм принятия решений с рабочими процессами утверждения, которые по своей конструктивной особенности обеспечивают объяснимость. Многоуровневый подход платформы позволяет адаптировать объяснения для различных аудиторий: нетехнические специалисты получают общие обоснования, а эксперты могут углубиться в детали логики модели. Такая контекстная прозрачность облегчает совместную работу и помогает преодолеть разрыв между специалистами по данным и бизнес-руководителями. Важнейшим элементом подхода SAS является участие человека в процессе принятия решений. ИИ-агенты призваны не заменять сотрудников, а дополнять их, выполняя задачи и оставляя пространство для человеческого суждения там, где это необходимо. Шайла Рана говорит, что наиболее эффективный подход заключается в сочетании регулярных аудитов производительности с механизмами обратной связи, что позволяет организациям постоянно улучшать баланс между автоматизацией и надзором. Объяснимость не является второстепенной функцией: SAS включает встроенные инструменты для документирования логики ИИ, мониторинга результатов и выявления аномалий, что упрощает соблюдение как внутренних аудиторских требований, так и внешних нормативных стандартов.
Для успеха агентивного ИИ ему необходимо интегрироваться в существующие инструменты, рабочие процессы и системы, на которые полагается бизнес, а не работать изолированно. Платформа SAS Viya разработана с учетом модульной интеграции. ИИ-агентов можно встраивать в среды принятия решений, такие как CRM-системы, ERP, колл-центры, программное обеспечение для управления цепочками поставок и другие. Анализируя данные в реальном времени и автоматизируя ответы в этих системах, агенты SAS обеспечивают применение агентивного ИИ непосредственно в рабочих процессах. Одной из особенностей Viya является поэтапная автоматизация. Организации могут начать с инструментов поддержки принятия решений, где агент дает рекомендации, и постепенно переходить к полной автоматизации решений по мере того, как персонал освоится с процессом и будут установлены необходимые контроли. Дэвид Меннингер предлагает рассматривать использование ИИ-агентов аналогично найму нового сотрудника. Он поясняет, что новому сотруднику не позволили бы принимать критически важные решения без обучения и надзора, и ИИ-агенты нуждаются в аналогичной поэтапной интеграции. Оркестрация рабочих процессов SAS позволяет компаниям создавать настраиваемые иерархии утверждения, определять уровни автономии для конкретных задач и отслеживать историю принятия решений. Такой детальный контроль важен в отраслях со строгими регуляторными требованиями, таких как финансы, здравоохранение и госсектор. Шайла Рана добавляет, что культурная интеграция является еще одним важным аспектом. Она говорит, что организациям следует относиться к ИИ как к сотруднику, а не как к замене, поскольку это побуждает персонал взаимодействовать с технологией, а не опасаться ее. SAS поддерживает это с помощью ролевых пользовательских интерфейсов, чтобы сотрудники разных отделов могли взаимодействовать с ИИ-агентами способами, соответствующими их опыту и обязанностям. Такой человеко-ориентированный дизайн укрепляет доверие и повышает вероятность использования технологии сотрудниками.
По мере того как ИИ-агенты берут на себя все большую ответственность, возрастает важность мониторинга предвзятости и управления рисками. Платформа SAS Viya включает инструменты для обнаружения предвзятости в обучающих данных, оценки токсичности результатов, стресс-тестирования агентов в нестандартных сценариях и настраиваемых оповещений об аномальных решениях. Шайла Рана выступает за циклический подход к управлению предвзятостью, говоря о необходимости разнообразных и репрезентативных обучающих данных, а также регулярных независимых аудитов со стороны межфункциональных команд. По ее словам, при обнаружении проблемы у организаций должен быть готов план для отзыва агентов или усиления контроля. Дэвид Меннингер отмечает, что организациям не следует ожидать от поставщиков программного обеспечения готовых комплексных решений. Он говорит, что лишь небольшой процент ИИ-платформ обладает зрелыми возможностями управления, и большинство из них потребуют дополнения внутренними процессами и механизмами человеческого контроля. Снижение предвзятости и рисков начинается с обеспечения прозрачности, поскольку, как говорит Бен Клигер, генеральный директор Zenity, пользователи не могут управлять тем, чего не видят. Для эффективного внедрения ИИ-агентов на рабочем месте организациям необходимо понимать не только, где эти агенты работают, но и как они функционируют и развиваются. Чтобы опережать потенциальные риски, Клигер предлагает обеспечить видимость всех ИИ-агентов, составив карту их использования, развертывания и выполняемых ролей, что заложит основу для ответственного надзора. Также важно понимать их дизайн и назначение, так как контекст имеет решающее значение, и знание предполагаемой функции помогает установить правильные «ограждения». Необходимо постоянно наблюдать за их поведением, чтобы на ранней стадии выявлять неожиданные действия или закономерности в рассуждениях, что помогает идентифицировать уязвимости до того, как они причинят вред. Критически важно обнаруживать и реагировать на возникающие угрозы в режиме реального времени, такие как несанкционированный доступ к данным или отклонения от заранее определенных целей, а механизмы быстрого реагирования помогают защитить как данные, так и операции. Интеграция ИИ-агентов в существующие рабочие процессы не должна означать потерю контроля, подчеркивает Клигер. Ключ в том, чтобы моделировать доверие к ИИ-агентам так же, как и к коллегам-людям. При продуманном подходе ИИ повышает производительность людей, сохраняя прозрачность и подотчетность. Клигер говорит, что организациям следует встраивать безопасность с самого начала, определять четкие поведенческие границы через моделирование доверия и обеспечивать прозрачность в принятии решений, а сохранение человеческого надзора удерживает контроль и подотчетность.
Конечная цель агентивного ИИ – не заменить людей, а дополнить их возможности. При продуманной интеграции ИИ-агенты освобождают сотрудников для выполнения творческих, стратегических и межличностных задач, перекладывая рутинные, основанные на данных решения на машины. Это видение уже влияет на найм и планирование кадровых ресурсов. Согласно опросу EY, 70% технологических компаний инвестируют в обучение, а 68% нанимают новых специалистов с навыками в области ИИ, при этом большинство организаций рассматривают ИИ как инструмент для сотрудничества, а не как угрозу. Фреймворк агентивного ИИ от SAS соответствует этой концепции, поддерживая настраиваемую автономию, встроенное управление и стратегии интеграции, ориентированные на человека. Он поощряет эксперименты в установленных рамках, помогая компаниям исследовать потенциал ИИ, не теряя контроля. Дэвид Меннингер говорит, что роль руководства заключается в установлении четких границ. По его словам, после их определения ИИ сможет ответственно и продуктивно масштабироваться в рамках всего предприятия.
Ответственный агентивный ИИ – это уже не научная фантастика, а реальность сегодняшнего дня, находящаяся в промышленной эксплуатации. Однако для получения долгосрочной ценности организациям необходимо с самого начала уделять первоочередное внимание управлению, прозрачности и сотрудничеству. Возможности агентивного ИИ в платформе SAS Viya от SAS демонстрируют, как можно ответственно масштабировать ИИ-агентов. Включая управление в архитектуру принятия решений, обеспечивая объяснимость на всех уровнях и интегрируясь с существующими инструментами, SAS стремится показать, что можно внедрять ИИ, который будет одновременно подотчетным и автономным.
