ACHILLES: решение проблем доверия и эффективности ИИ

Проект ACHILLES решает самые большие проблемы ИИ: доверие и эффективность, прокладывая путь к этичным и эффективным решениям. Искусственный интеллект (ИИ) быстро распространяется в здравоохранении, финансах, государственных службах и повседневной жизни. Тем не менее, он сталкивается с постоянными «ахиллесовыми пятами» в области доверия и эффективности. По мере того как передовые системы берут на себя всё более важные функции принятия решений, призывы общества к справедливому, сохраняющему конфиденциальность и экологически безопасному ИИ становятся всё сильнее.

В настоящее время европейский ландшафт ИИ формируется новой волной регулирования, в частности Законом ЕС об ИИ (EU AI Act), который применяет риск-ориентированный подход, чтобы гарантировать соответствие приложений ИИ строгим требованиям безопасности, справедливости и управления данными. На этом фоне проект ACHILLES, поддерживаемый программой Horizon Europe в размере 8 миллионов евро, направлен на создание комплексной основы, позволяющей создавать продукты на основе ИИ, которые являются более лёгкими (экологически и вычислительно устойчивыми), более ясными (прозрачными, интерпретируемыми и соответствующими требованиям) и более безопасными (надёжными, сохраняющими конфиденциальность и соответствующими требованиям).

Основной силой проекта ACHILLES является его разнообразный консорциум, состоящий из 16 ведущих организаций из десяти стран, каждая из которых привносит в проект специальные знания. Ведущие университеты и институты продвигают передовые разработки в области обеспечения справедливости, объяснимого ИИ, методов сохранения конфиденциальности и эффективности моделей. Высокотехнологичные компании и малые и средние предприятия продвигают разработку инструментов, инновации в области данных и пилотные проекты проверки, чтобы гарантировать, что решения ACHILLES отвечают реальным потребностям. Организации здравоохранения и клинические организации предоставляют конфиденциальные медицинские наборы данных и практический опыт в области диагностики, помогая адаптировать надёжные решения в области ИИ для здравоохранения.

Известные центры правовых исследований и специалисты по этике гарантируют, что ACHILLES соответствует новым законам (Закон ЕС об ИИ, Закон об управлении данными, GDPR). Они также предвидят будущие нормативные изменения, чтобы помочь проекту оставаться на переднем крае соблюдения нормативных требований. Специалисты в области открытой науки, коммуникаций и инициатив по использованию помогают координировать междисциплинарные семинары, взаимодействовать с органами по стандартизации и обеспечивать широкий охват результатов проекта.

Это богатое сочетание точек зрения гарантирует, что этические, правовые и социальные соображения разрабатываются совместно с техническими модулями, что приводит к целостному подходу к сложным задачам разработки ИИ.

Одной из основных целей ACHILLES является оптимизация соответствия меняющимся нормам, особенно Закону ЕС об ИИ, что влечёт за собой:

Согласование на основе рисков: сопоставление уровня риска каждого компонента ИИ с соответствующими проверками, от аудита данных до снижения предвзятости.
Конфиденциальность и управление данными: обеспечение того, чтобы решения соответствовали или превосходили требования GDPR, Закона об управлении данными и связанных с ними рамок.
Зелёный ИИ: интеграция эффективности моделей и оптимизации развёртывания, чтобы помочь организациям достичь целей устойчивого развития, изложенных в Европейском зелёном курсе.

Хотя соблюдение нормативных требований может показаться пугающим, ACHILLES опирается на трёхкомпонентную структуру, отражающую настойчивость Закона об ИИ в отношении надёжной подотчётности:

Цели: чётко определённые цели, соответствующие нормам, стандартам (например, ISO/IEC 42001) и передовой практике.
Поддержка соблюдения: практические инструменты и процессы, встроенные в жизненный цикл ИИ, гарантирующие, что соблюдение требований является встроенным, а не прикреплённым.
Проверка: надёжный процесс аудита, сочетающий карты данных и моделей и непрерывный мониторинг для проверки того, что каждый шаг соответствует или превосходит целевые показатели соответствия.

Вдохновлённый клиническими испытаниями, с отдельными этапами разработки и тестирования и недетерминированной оценкой, ACHILLES разработал итеративный цикл разработки, который проходит через четыре перспективы (с пятью этапами). Каждый этап гарантирует, что человеческие ценности, конфиденциальность данных, эффективность модели и устойчивость развёртывания остаются в центре внимания.

Ориентация на человека (начало): разработка с учётом ценностей (VSD) и семинары по совместному проектированию учитывают потребности конечных пользователей, общественные ценности и первоначальные правовые ограничения, чтобы сопоставить их с техническими спецификациями.
Операции, ориентированные на данные: аудит и проверка данных путём обнаружения выбросов, обеспечения разнообразия и качества данных; обнаружение и смягчение предвзятости с использованием передовых методов для создания репрезентативных и справедливых наборов данных для обучения (например, с использованием синтетических данных); проверки конфиденциальности с помощью автоматизированных инструментов для обнаружения и анонимизации персональных данных в соответствии с рекомендациями GDPR.
Стратегии, ориентированные на модели: обучение на распределённых источниках данных без централизации конфиденциальной информации (например, федеративное обучение), что значительно снижает риск нарушения конфиденциальности; генерация синтетических данных, чтобы сделать модели более надёжными или заменить реальные данные, сохраняя при этом важные статистические свойства; инструменты повышения эффективности, такие как обрезка, квантование и эффективная настройка гиперпараметров для снижения энергопотребления и времени обучения.
Оптимизация, ориентированная на развёртывание: сжатие модели для минимизации объёма памяти модели и времени вывода для экономии энергии и затрат; рекомендации по инфраструктуре для запуска моделей на облачных графических процессорах, FPGA или периферийных устройствах в зависимости от стоимости производительности; и цели устойчивого развития.
Ориентация на человека (конец): объяснимый ИИ (XAI) и количественная оценка неопределённости, обеспечивающие интерпретируемые результаты, выявляющие потенциальные крайние случаи и измеряющие, насколько уверена модель; непрерывный мониторинг для отслеживания дрейфа производительности, аудита справедливости и автоматического запуска повторного обучения, если накапливаются предубеждения или ошибки; полуавтоматическая отчётность путём создания динамических «карт» данных/моделей, которые отражают листовки в фармацевтическом стиле, обобщающие рекомендации по использованию, известные ограничения и уровни риска.

Этот итеративный цикл гарантирует, что решения ИИ остаются подотчётными реальным потребностям и остаются адаптивными по мере изменения нормативных требований и ожиданий общества.

Яркой инновацией в рамках ACHILLES является интегрированная среда разработки (IDE), призванная преодолеть разрыв между лицами, принимающими решения, разработчиками и конечными пользователями на протяжении всего жизненного цикла ИИ, обеспечивая:

Проектирование, управляемое спецификациями: гарантирует, что каждое решение ИИ с самого начала соответствует совместно созданным требованиям соответствия и потребностям пользователей.
Комплексный набор инструментов: предлагает расширенные функциональные возможности (через API) для обнаружения предвзятости, аудита данных, мониторинга моделей и сохранения конфиденциальности.
Умный второй пилот: действует как помощник на основе ИИ, который направляет разработчиков в режиме реального времени, предлагая передовой опыт, выявляя соответствующие нормативные рекомендации и рекомендуя следующие шаги для эффективного или сохраняющего конфиденциальность развёртывания.

С момента создания до развёртывания и далее интегрированный подход IDE направлен на устранение догадок относительно соответствия и устойчивости, делая внедрение ответственных стратегий ИИ более простым и интуитивно понятным для организаций.

ACHILLES проверяет свою структуру в различных секторах, отражающих разные уровни риска, интенсивность регулирования и чувствительность данных:

Здравоохранение: офтальмологическая диагностика (например, скрининг глаукомы) сочетает клинические изображения с данными пациентов, с высокими требованиями к сохранению конфиденциальности, интерпретируемости и прозрачной отчётности.
Проверка личности: автоматизирует проверку документов и сопоставление лиц, сводя к минимуму предвзятость и соблюдая строгие ограничения конфиденциальности.
Создание контента (SCRIPTA): сгенерированные ИИ сценарии для фильмов или литературных произведений, с этическим надзором для фильтрации вредоносного или защищённого авторским правом контента, уравновешивая творчество с подотчётностью.
Фармацевтика (HERA): мониторинг соответствия и управление знаниями с помощью ИИ для оптимизации клинических испытаний и обеспечения качества.

Каждый сценарий проходит через итеративный цикл ACHILLES, от разработки с учётом ценностей до непрерывного аудита после развёртывания. В ходе этих тематических исследований ACHILLES будет использовать процесс Z-Inspection® для оценки надёжности ИИ, предоставляя структурированную основу для оценки того, насколько хорошо решения проекта соответствуют этическим принципам, общественным потребностям и нормативным требованиям.

ACHILLES отслеживает успех по нескольким ключевым показателям эффективности (KPI), включая, помимо прочего:

Снижение предвзятости: смягчение до 40% обнаруженной предвзятости в определённых контрольных показателях и реальных наборах данных.
Метрики конфиденциальности: синтетические данные с потерей производительности менее 5% по сравнению с фактическими данными и более 90% проверок соответствия личной информации пользователя.
Доверие и удовлетворённость пользователей: предварительные/последующие опросы конечных пользователей и разработчиков с целью улучшения восприятия справедливости и прозрачности ИИ на 30–40%, включая не менее пяти исследований взаимодействия человека и ИИ.
Снижение энергопотребления: как минимум на 35% меньше джоулей на прогноз, чем в установленных базовых показателях, и более 50% обрезанных параметров нейронной сети с потерей производительности менее 5%.

ACHILLES стартовал в ноябре 2024 года и рассчитан на четыре года. Основные этапы включают:

Год 1: разработка базовой архитектуры, отображение этико-правовой базы и начальная работа над техническими инструментами, вдохновлёнными реальными примерами использования.
Год 2: выпуск ранних прототипов (включая наборы инструментов для обеспечения соответствия и расширенные операции с данными) и итеративные улучшения, протестированные в рамках реальных пилотных проектов проверки.
Год 3: масштабирование демонстрационных сценариев, уточнение надёжных модулей сохранения конфиденциальности и интеграция результатов в отраслевые развёртывания.
Год 4: бета-версия ACHILLES IDE, окончательная проверка в реальных примерах использования (включая комплексные исследования пользователей) и консолидированная стратегия использования для расширения структуры за пределы срока реализации проекта.

На каждом этапе партнёры встречаются на междисциплинарных семинарах, чтобы перепроверить прогресс, поделиться выводами в духе открытой науки и сообщить о них органам по стандартизации. К завершению проекта ACHILLES стремится предложить полноценную экосистему для ответственного, зелёного и законного ИИ.

Руководствуясь принципами Horizon Europe, проект ACHILLES продвигает открытую науку и сотрудничество:

Наборы инструментов с открытым исходным кодом и распространение научных знаний: многие модули и библиотеки будут выпущены на открытых платформах (например, GitHub) под разрешительными лицензиями, чтобы максимизировать вклад сообщества.
Открытые семинары: регулярные междисциплинарные мероприятия объединят разработчиков, политиков, специалистов по этике и гражданское общество для совершенствования модулей системы.
Взаимодействие с органами по стандартизации: члены консорциума будут активно участвовать в обсуждениях ISO, связанных с ИИ, комитетах CEN-CENELEC и других рабочих группах, чтобы помочь сформировать будущие технические стандарты в области обмена данными, XAI и конфиденциальности.

Эта культура открытости способствует развитию более широкой экосистемы ответственной разработки ИИ, где передовой опыт совместно используется, совершенствуется и постоянно проверяется в реальных условиях.

ACHILLES представляет собой план современного ИИ, который уважает человеческие ценности, соответствует строгим нормам и работает эффективно. Сочетая технические прорывы с этико-правовой строгостью, проект показывает, как ИИ может быть силой добра: прозрачной, инклюзивной и устойчивой. Открытая и модульная архитектура проекта, воплощённая в удобной для пользователя среде ACHILLES IDE, демонстрирует приверженность Европы лидерству в области управления данными и цифрового суверенитета, минимизации воздействия на окружающую среду и максимизации прозрачности, справедливости и доверия.

По мере приближения полного вступления в силу Закона ЕС об ИИ такие проекты, как ACHILLES, жизненно важны для соединения политики и практики. Цель состоит в том, чтобы ИИ реализовал свой потенциал для улучшения жизни и результатов бизнеса без ущерба для этики, конфиденциальности или устойчивости. Соблюдение нормативных требований не является препятствием для инноваций, и благодаря строгому циклу непрерывной обратной связи ACHILLES устанавливает ориентир для надёжного ИИ не только в Европе, но и во всём мире.