Для многих крупных компаний внедрение генеративного ИИ тормозилось вопросами безопасности и комплаенса. Теперь Anthropic выпустила из бета-версии функцию Inference hooks для Claude Enterprise, которая позволяет организациям проверять каждый запрос к модели на своих серверах безопасности до того, как он достигнет ИИ.
Inference hooks позволяют организациям маршрутизировать каждый управляемый запрос к Claude через собственный сторонний сервер AI-безопасности. Этот сервер может вынести вердикт «разрешить» или «отказать», и в случае отказа запрос не будет обработан моделью.
Механизм работает на серверах Anthropic и поддерживает проверку двух типов событий: prompt (перед инференсом, то есть до запуска модели) и tool_call (перед выполнением вызовов инструментов). Это обеспечивает сквозной контроль на критических этапах взаимодействия с ИИ.
Функция предназначена для решения таких задач, как предотвращение потери данных (DLP), архивирование транскриптов и применение корпоративных политик безопасности. Она интегрируется с уже существующими системами безопасности клиента, применяясь ко всем продуктам Claude в организации.
Интегрируя проверку безопасности на уровне платформы и до запуска модели, Anthropic снижает риски для корпоративных клиентов, позволяя им использовать свои существующие системы DLP и комплаенса. Однако не сообщается, как это влияет на задержку запросов (latency) и какие дополнительные затраты могут возникнуть у компаний на поддержку собственных серверов безопасности для такого объема трафика.