Модуль Guard
Контролирующий слой, который проверяет запросы и ответы LLM независимо от бизнес-логики агента — подключается к любому сценарию без доработки самого агента.
Возможности
- Защита персональных данных (PII) — автоматическое обнаружение и маскирование персональных данных во входящих и исходящих сообщениях
- Предотвращение промпт-атак — детекция попыток обхода системных инструкций и манипуляции поведением модели
- Детекция токсичности и вредного контента — фильтрация запрещённого содержимого в запросах и ответах
- Настраиваемые политики и действия при угрозах
Сценарии использования
- Работа с внешними LLM-провайдерами — контроль того, какие данные покидают периметр компании при обращении к облачным моделям
- Разбор инцидентов и подтверждение соответствия требованиям — полная история сработавших проверок для аудита безопасности
- Подключение к уже готовому агенту — защита добавляется как отдельный слой поверх существующего чат-бота или ИИ-агента
- Контроль запросов к MCP/Tools — фильтрация входящих и исходящих данных, автоматическое обнаружение и маскирование ПДн