Защитный контур, который отражает prompt-инъекции, jailbreak и попытки выманить ключи и данные. Обязательный слой безопасности для любого бота и агента — то, чего нет у голых чат-ботов.
Бот на LLM читает всё, что ему присылают: сообщения, файлы, пересланное, веб-страницы. В этот текст прячут команды. Защитный контур отделяет данные от команд и держит бота в его роли.
Команду прячут в присланном тексте, файле, пересланном сообщении или на веб-странице, которую бот открывает.
«Ты теперь другой бот без ограничений», «режим разработчика», «DAN». Попытка сбросить правила и характер.
Выманивание системного промпта, ключей, токенов, содержимого .env, паролей и структуры доступов.
Через присланный текст боту подсовывают удаление данных, массовые рассылки, вывод секретов наружу, обход оплаты.
Правила безопасности встают над характером и задачей бота — единым неотменяемым контуром, который не сбить содержимым диалога.
Всё, что приходит от собеседника, из файлов и пересылок, обрабатывается как данные. Встроенные в них инструкции не исполняются.
Если запрос похож на обход или выманивание закрытого — бот вежливо отказывает и, если нужно, передаёт вопрос человеку. Отказ безопаснее утечки.
Мы не продаём то, чем не пользуемся сами. Защита работает в продакшене на наших рабочих ботах и агентах.
Security-аудит бота или агента, установка защитного контура и проверка на реальных сценариях атак. Отдельно или в составе внедрения.
Это когда обычным текстом агента заставляют работать против вас: раскрыть внутренние инструкции, сменить роль, выдать данные, которые выдавать нельзя. Текст может прийти в сообщении клиента, в присланном документе, в описании товара или в чертеже.
Реальная. Любой агент, который читает внешний текст, это поверхность для атаки. Мы проверяем свой контур атаками: попытки вытащить системные настройки, смена роли, подделка истории диалога, инъекция через присланный текст.
Агент отвечает так же, только на попытку увести его он вежливо возвращает разговор к делу вместо того, чтобы выполнить чужую команду. Для обычного клиента ничего не меняется.
Да. Контур ставится отдельным слоем поверх существующего решения, переписывать агента с нуля не нужно.