Корпоративные покупатели ИИ оказались между двумя требованиями, которые трудно совместить. Регулируемым командам нужна гарантия нулевого хранения данных (ZDR), чтобы ни промпт, ни транскрипт диалога с агентом не оставался на серверах вендора. Службам безопасности нужна система выявления злоупотреблений, которая исторически требовала от вендора хранить данные достаточно долго для корреляции.
Anthropic объявила об архитектуре Enterprise Frontier Safeguards (EFS), которая пытается дать и то и другое. EFS хранит данные мониторинга в облачной инфраструктуре, которой управляет клиент, а не Anthropic. Детекция остается у Anthropic, а хранение, ключи шифрования и проверка человеком — у клиента.
Когда EFS станет доступна
Пока нет. EFS внедряется поэтапно, цель — широкая доступность поздней осенью. Доступ по запросу. До запуска подходящие клиенты могут работать с Claude Fable 5 и Fable 5.1 в режиме ZDR.
Техническая проблема, которую решает EFS
Anthropic объясняет необходимость хранения данных качеством детекции, а не потребностями обучения. Компания ввела 30-дневное хранение данных начиная с Fable 5 и подчеркивает, что никогда не обучалась на корпоративных данных без явного разрешения.
Самые сложные случаи злоупотреблений, которые наблюдала Anthropic, охватывают множество задач, сессий и учетных записей, включая случаи с украденными или неправомерно использованными корпоративными учетными данными. Автоматический классификатор, запускаемый на каждом взаимодействии и мгновенно отбрасывающий данные, не может выявить такой тип атаки. Для корреляции нужно окно наблюдения. Anthropic задокументировала этот паттерн в своей работе по пресечению шпионажа. Похожая проблема — когда агент принимает внешние данные за легитимный запрос — описана в отчёте Anthropic о том, как Claude взломал три реальные организации.
Регулируемые клиенты понимали логику безопасности, но не могли принять условия. Поэтому Anthropic перенесла окно наблюдения, а не убрала его.
Что меняет EFS
Anthropic создавала EFS вместе с более чем 100 клиентами из финансовых услуг, здравоохранения, производства, телекома, юриспруденции, розницы и госсектора, а также с AWS, Google Cloud и Microsoft Azure. Среди участников — Analysis and Resilience Center for Systemic Risk, членами которого являются CISO Goldman Sachs, Morgan Stanley, Citi, Bank of America и Wells Fargo, а также команды Comcast, KPMG, Mastercard, Salesforce и Visa. По словам Anthropic, обсуждения дизайна охватили четверть Fortune 100 и все американские глобально системно значимые банки.
В результате появились три ключевых решения:
Хранение переходит клиенту. Данные активности для мониторинга могут жить в облачном аккаунте клиента под его ключами шифрования, политиками доступа и аудитом. Предприятия объяснили Anthropic, что подключение еще одного доверенного поставщика данных влечет уведомления клиентов и обновление контрактов, поэтому архитектура избегает появления такого поставщика.
Проверка переходит клиенту. Когда мониторинг обнаруживает паттерн, заслуживающий внимания, сигнал уходит напрямую клиенту. Anthropic считает, что автоматическая проверка выполняет сканирование, но человек по-прежнему полезен для подтверждения реального злоупотребления и снятия ложных срабатываний. В регулируемых средах такой человек должен иметь допуск к привилегированным юридическим материалам, непубличной информации или отчетам по безопасности лекарств. EFS запускает автоматический мониторинг безопасности без участия человека со стороны Anthropic.
Детекция остается у Anthropic. Автоматические системы анализируют скользящее окно трафика на предмет серьезных злоупотреблений: попыток создания наступательных кибер- или биологических возможностей и признаков украденных или утекших учетных данных.
Место EFS в дорожной карте моделей
EFS — одна из трех корпоративных уступок, выпущенных вместе с Claude Fable 5.1 и Mythos 5.1. Две другие касаются цены и точности. Fable 5.1 снизила стоимость чтения кэша на 75% до $0,25 за миллион токенов, что дает примерно 25% экономии на типичных нагрузках и до 45% на сильно агентных. Кибербезопасные механизмы Fable 5.1 дают примерно на 60% меньше вмешательств на сессию Claude Code, чем у Fable 5, отчасти потому, что Fable 5.1 разрешено выявлять уязвимости ПО без разработки эксплойтов. Ранее Anthropic уже усиливала защиту корпоративного контура: Claude Security получил сканер уязвимостей на Mythos 5.
Ключевые особенности EFS
- Сочетание приватности уровня ZDR с автоматической детекцией, охватывающей сессии и аккаунты.
- Данные активности попадают в собственный S3, Azure Blob или Google Cloud Storage клиента.
- Сигналы направляются клиенту; проверка человеком со стороны Anthropic не требуется.
- Хранение у клиента, ключи клиента и автоматическая проверка — каждая опция включается отдельно.
- Anthropic не взимает плату за EFS; облачный провайдер клиента выставляет счета за хранение и трафик.
Частые вопросы
Кому нужна EFS?
Регулируемым организациям — финансовым, медицинским, юридическим — которые не могут допустить хранения промптов и транскриптов на серверах Anthropic, но нуждаются в защите от сложных злоупотреблений с использованием украденных учетных данных.
Чем EFS отличается от обычного режима хранения данных?
В стандартном режиме Anthropic хранит данные активности 30 дней для корреляции. В EFS данные мониторинга хранятся в облаке самого клиента под его ключами, а Anthropic получает доступ к ним только для автоматического анализа.
Означает ли EFS полный отказ от хранения данных?
Нет. EFS не отменяет хранение — оно переносится в инфраструктуру клиента. Это дает эквивалент ZDR: данные не остаются у вендора, но окно корреляции сохраняется.
Кто платит за хранение данных в EFS?
Сам клиент — своему облачному провайдеру за хранение и исходящий трафик. Anthropic за EFS дополнительно не взимает.
Когда EFS станет доступна?
Поэтапно, с целью широкой доступности поздней осенью. Доступ предоставляется по запросу.
Можно ли уже сейчас работать без хранения данных?
Да, подходящие клиенты могут запускать Claude Fable 5 и Fable 5.1 в режиме ZDR до выхода EFS.
Что входит в автоматическую детекцию EFS?
Анализ скользящего окна трафика на попытки создания наступательных кибер- и биологических возможностей, а также признаки украденных или утекших учетных данных. Сигналы направляются клиенту для проверки человеком.
Источник: marktechpost.com