Генеративный ИИ: облако, локально или гибрид?

С ростом числа проектов в области генеративного искусственного интеллекта (ИИ) организации все чаще задумываются о том, как на них могут повлиять законы, регулирующие подотчетность, справедливость, управление, человеческий надзор, конфиденциальность и безопасность. Эти соображения будут играть важную роль в выборе места обучения и запуска моделей ИИ: на собственной инфраструктуре, в облаке или, скорее всего, в гибридной среде.

Энтузиазм по поводу ИИ сталкивается с реальностью нового законодательства. Регуляторный ландшафт может сильно измениться через несколько лет, как раз в то время, когда реализации набирают обороты. Европейский Союз уже принял закон, устанавливающий правила для разработчиков ИИ и новые ограничения на использование этой технологии. Дополнительную неопределенность создают инициативы штатов США, направленные на генеративный ИИ, включая новые законы об управлении ИИ в Калифорнии, Колорадо и Юте, в то время как Указ Белого дома об ИИ, принятый президентом Байденом в октябре 2023 года, был отменен в первый день пребывания президента Трампа в должности.

Поскольку технологии и нормативные акты быстро развиваются, некоторые организации обращаются к внешним экспертам, включая системных интеграторов и консультантов, для принятия обоснованных долгосрочных решений.

Тор Хауберг, директор по цифровой трансформации бизнеса в Venture Lab NTT Data, отмечает, что при рассмотрении нормативных требований важным решением для некоторых является определение места размещения технологии. Он сообщает, что локальные системы, скорее всего, будут более привлекательны для предприятий, работающих в строго регулируемых отраслях, которые должны соблюдать юридические требования, ограничивающие использование общедоступного облака. Преимущество проведения логического вывода и обучения на месте заключается в том, что организации могут использовать свои существующие центры обработки данных и аппаратную инфраструктуру. Это также позволяет им хранить данные ближе к своим моделям, размещая бизнес-логику рядом с механизмом логического вывода.

По словам Хауберга, ключевым фактором для управления обучением и логическим выводом на месте могут быть конфиденциальные данные, например, когда производитель стремится защитить свою интеллектуальную собственность или отдел продаж хочет избежать риска раскрытия конфиденциальных данных о ценах. Помимо безопасности такой схемы, он утверждает, что «если модель потребления вычислительных ресурсов, необходимых для генеративного ИИ, достаточно стабильна, и у компании уже есть инфраструктура, то предполагается, что использование локальной модели будет выгодно с точки зрения затрат».

Хауберг отмечает, что опасения по поводу регулирования ИИ не являются «препятствием» для многих компаний, использующих облако, во многом потому, что многие из этих проектов все еще находятся на стадии изучения. На данный момент большая часть инноваций по-прежнему будет приходиться на облако, где компании могут экспериментировать и иметь доступ к любым вычислительным ресурсам, которые им нужны.

Анураг Агравал, основатель и главный глобальный аналитик Techaisle, исследовательской компании, ориентированной на партнеров в технологической отрасли, утверждает, что преимущества общедоступного облака включают возможность доступа к высококачественным моделям ИИ и большим вычислительным ресурсам, чем у многих компаний, имеющихся на месте. Масштабируемые облачные ресурсы предлагают ряд преимуществ.

Агравал отмечает, что в зависимости от варианта использования может быть целесообразнее проводить обучение в облаке, где можно получить более масштабируемые вычислительные ресурсы.

Даррен МакГрат, руководитель отдела облачного консалтинга и консультирования Wipro FullStride, сообщает: «Большинство клиентов проводят тесты с генеративным ИИ, чтобы определить влияние в определенных областях своего бизнеса, и обычно это происходит в облачной среде». Он добавляет: «Однако по мере того, как все больше и больше поставщиков предлагают решения для генеративного ИИ, ориентированные на локальное использование, мы начинаем наблюдать рост интереса».

Некоторые компании проводят обучение в облаке, потому что они делают это раз в месяц или раз в год, а затем запускают модель локально, потому что они используют эти модели для принятия проприетарных решений для своих клиентов. Обучение нечасто проводится из-за высокой стоимости и временных затрат традиционной тонкой настройки. По мере того, как компании начинают использовать такие подходы к тонкой настройке, как InstructLab, которые позволяют выполнять тонкую настройку за один день с гораздо меньшим объемом данных, компании будут чаще настраивать свои модели в облаке. Другие компании будут проводить обучение на месте, потому что они никогда не захотят перемещать свои строго конфиденциальные данные в облако.

Скорее всего, возобладает гибридный подход. Такая схема обеспечивает большую гибкость, поскольку в ближайшие годы формируется нормативно-правовая база ИИ. В конечном итоге решение сводится к тому, что ИТ-специалисты, принимающие решения, работают со своими партнерами по экосистеме.

Агравал добавляет: «Поставщики технологий становятся более опытными, разрабатывая структуры и концептуальные модели, которые они могут использовать для руководства организациями при принятии решений об инфраструктуре, одновременно предвидя нормативные проблемы». Делясь опытом и знаниями, надежные технологические партнеры могут помочь организациям определить наилучший подход к развертыванию генеративного ИИ, который может выдержать проверку регулирующих органов, оптимизировать затраты и вычислительные ресурсы и процветать со временем.

 

Искусственный интеллект в Европе: большие ожидания, проблемы роста

Gemini 2.0 Pro: Как ИИ от Google с гигантским контекстом ускорит бизнес

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *