Red Hat представила asago — открытый проект, который превращает политики управления ИИ в готовый к продакшену код развёртывания. Проект описывает себя как автоматизированный, проверяемый рабочий процесс, соединяющий «фрагментированные шаги, инструменты и требования» инженерных и комплаенс-команд. На фоне вступления в силу EU AI Act Red Hat формулирует выбор для организаций так: либо тормозить ИИ ручными проверками, либо пускать неконтролируемых агентов в продакшен без сверки с политиками.
asago развивает работу Red Hat и NVIDIA внутри Open Secure AI Alliance и публикуется под лицензией Apache License 2.0. Проект находится в стадии формирования, репозиторий открыт на GitHub.
Четыре стадии от политики до контроля
Сначала идёт карта рисков: фреймворк читает загруженную политику организации и сопоставляет её требования с известными фреймворками — NIST AI RMF, OWASP LLM Top 10 и EU AI Act в каталоге IBM AI Risk Atlas. Текст политики превращается в профиль рисков автоматически, без ручного перекрёстного сопоставления.
Дальше — оценка рисков: проект генерирует и запускает сценарии под конкретный вариант использования, проверяя опасное поведение, которое выявила карта рисков. Затем — митигация: система рекомендует гардрейлы на основе результатов тестов и собирает обоснование, способное пережить проверку ревьюером. На финальной стадии asago раскладывает рекомендованные контроли в готовые конфигурации для гибридного облака и Kubernetes. Red Hat ставит целью сократить сроки развёртывания с месяцев до дней.
Каждая стадия питает единый непрерывный аудит-трейл: каждая клауза политики связана с конкретным тестом, каждый тест — с рантайм-контролем. Ревьюер в принципе может проследить любой активный контроль в живом развёртывании вплоть до строки политики, которая его обосновала.
«Когда организации переходят от экспериментальных пилотов ИИ к долгоживущим автономным агентам, создание чётких операционных гардрейлов становится критичным требованием инфраструктуры», — говорит Стивен Хьюлс, вице-президент Red Hat по ИИ-инжинирингу. Он связывает asago с отдельной инициативой Red Hat Lightwell, которая занимается защитой open-source цепочки поставок от ИИ-уязвимостей.
Широкая коалиция
В список соучредителей входят не только Red Hat и NVIDIA: Brave Software, IBM Research, Microsoft, MIT Lincoln Laboratory, Университет штата Северная Каролина и Alan Turing Institute, коалиция EvalEval и австрийский Interdisciplinary Transformation University (IT:U). Сара Бёрд из Microsoft говорит, что «многие из самых сложных проблем безопасности ИИ ещё не решены, и ни одна организация не справится с ними в одиночку».
Выходные данные asago инфраструктурно-независимы: декларативные конфигурации для Kubernetes, Terraform и Ansible, так что политику безопасности, заданную в одном облаке, не нужно переделывать в другом.
Впрочем, ничего из проекта пока не проверено в продакшене: нет ни одного развёрнутого кейса с заказчиком, нет бенчмарков, подтверждающих обещание «дни вместо месяцев». Сейчас проект существует как репозиторий и структура управления на GitHub, открытые для тех, кто готов строить вместе с перечисленными участниками.
Источник: artificialintelligence-news.com