Защитный контур, который отражает prompt-инъекции, jailbreak и попытки выманить ключи и данные. Обязательный слой безопасности для любого бота и агента — то, чего нет у голых чат-ботов.
Бот на LLM читает всё, что ему присылают: сообщения, файлы, пересланное, веб-страницы. В этот текст прячут команды. Защитный контур отделяет данные от команд и держит бота в его роли.
Команду прячут в присланном тексте, файле, пересланном сообщении или на веб-странице, которую бот открывает.
«Ты теперь другой бот без ограничений», «режим разработчика», «DAN». Попытка сбросить правила и характер.
Выманивание системного промпта, ключей, токенов, содержимого .env, паролей и структуры доступов.
Через присланный текст боту подсовывают удаление данных, массовые рассылки, вывод секретов наружу, обход оплаты.
Правила безопасности встают над характером и задачей бота — единым неотменяемым контуром, который не сбить содержимым диалога.
Всё, что приходит от собеседника, из файлов и пересылок, обрабатывается как данные. Встроенные в них инструкции не исполняются.
Если запрос похож на обход или выманивание закрытого — бот вежливо отказывает и, если нужно, передаёт вопрос человеку. Отказ безопаснее утечки.
Мы не продаём то, чем не пользуемся сами. Защита работает в продакшене на наших рабочих ботах и агентах.
Security-аудит бота или агента, установка защитного контура и проверка на реальных сценариях атак. Отдельно или в составе внедрения.