Solaris AIРазобрать задачу
Главная / Блог / Утечка до 20 млн рублей: безопасный конт…

Утечка до 20 млн рублей: безопасный контур и журнал действий агентов

2026-11-13 · Антон Баранов · Solaris AI
Утечка до 20 млн рублей: безопасный контур и журнал действий агентов

На воркшопе в бизнес-клубе «Гермес» 29 октября я поставил рядом две цифры. До 20 млн рублей может стоить компании утечка данных. От 149 000 рублей стоит минимальный безопасный контур: свой защищённый сервер и правила доступа. Здесь я подробно разбираю тот отрывок: из каких шагов собирается безопасный контур для ИИ и почему мало закрыть данные, нужно ещё видеть, кто и что с ними делал. Сам отрывок есть в ролике на нашем канале.

Коротко:

1. Утечка персональных данных может обойтись компании до 20 млн рублей, а минимальный безопасный контур стоит от 149 000 рублей. Суммы несоизмеримы, поэтому защиту дешевле поставить сразу.
2. Контур собирается за 4 шага и начинается с одного процесса, а не со всей компании.
3. Все действия людей и ИИ-агентов пишутся в журнал с криптоподписью, потому что агент может выполнить задачу в обход правил, если ему не сказали, каким путём идти нельзя.

Сколько стоит утечка данных и сколько стоит защита

Утечка персональных данных может обойтись компании до 20 млн рублей. Штраф за утечку персональных данных зависит от того, какие данные ушли, сколько их и первая это утечка или повторная. Номера статей и градации сумм я здесь не разбираю. Если нужна полная картина по теме «152-ФЗ и нейросети», прочитайте нашу статью про 152-ФЗ и штрафы при внедрении ИИ.

Минимальный безопасный контур стоит от 149 000 рублей. Важно одно: две цифры несоизмеримы.

Отсюда вывод. Защиту лучше ставить сразу, вместе с сервером, и разворачивать ИИ на своём сервере, на своей базе, а не на открытых моделях. Под открытыми моделями я имею в виду публичные зарубежные сервисы, куда сотрудники сегодня вставляют договоры и акты.

Как данные утекают через нейросеть

Утечка данных через нейросеть нередко происходит не из-за взлома, а из-за желания сотрудника сделать работу быстрее. Перед этим отрывком на воркшопе мы как раз об этом говорили: люди вставляют в чат договоры, сметы, акты, чтобы ускорить работу. Так данные уходят за рубеж без согласия на обработку.

Первая реакция руководителя обычно одна: запретить приказом. По моему опыту это не работает. Люди продолжают пользоваться нейросетями с личных телефонов, просто перестают об этом говорить. Запрет не убирает утечку, он убирает вашу возможность её увидеть. Поэтому вместо запрета нужен безопасный инструмент внутри компании и понятные правила, что в него можно загружать.

Как агенты уже ведут целые направления бизнеса, я рассказывал на той же встрече, её разбор есть в статье о воркшопе в клубе «Гермес». Юридическую сторону мы отдельно разбирали на семинаре в МТПП, там собрано главное про ИИ-агентов и 152-ФЗ.

Безопасный контур для ИИ за 4 шага

Безопасный контур для ИИ собирается за 4 шага.

1. Разбор. Смотрим, какие данные есть в компании и куда они сейчас уходят.
2. Граница данных. Решаем, что можно отдавать внешним сервисам, а что не выходит за пределы компании.
3. Персональные данные в контуре на одном процессе. Разворачиваем защищённый контур на своём сервере и запускаем в нём один рабочий процесс, а не всю компанию сразу.
4. Памятка сотруднику. Пишем короткую памятку и проводим инструктаж: что можно и что нельзя.

Это и есть безопасное внедрение ИИ в компании в самом минимальном виде.

Почему начинать нужно с одного процесса

Начинать нужно с одного процесса, а не со всей компании сразу. На воркшопе я отдельно это подчеркнул: контур с персональными данными обязательно делаем только на одном процессе.

Мой довод простой. На одном процессе проще увидеть, как люди на деле пользуются контуром и соблюдают ли правила. Следующие процессы подключаем после того, как первый проверен.

Единый центр управления: одно окно руководителя

Единый центр управления, мы называем его ЕЦУП, это одно окно руководителя, куда собираются данные со всех источников компании. Он появился у нас недавно.

Что в нём есть. Сводка по дню: сколько заявок пришло за вчера, сколько минут ушло на ответ и так далее. Сквозной задачник, связанный с той CRM, которой компания уже пользуется. Календарь. Оргструктура в виде конструктора: кто за что отвечает и какие агенты работают в каком подразделении. Обучение и инструктаж сотрудников проходят в этом же окне. Подробнее я писал в статье про ЕЦУП, где вся компания собрана в одном окне.

Сейчас мы внедряем эту систему в одной компании, где больше 4 000 сотрудников. Название называть не буду. Там стоит острый вопрос аттестации и допуска людей на смену: неподготовленный человек на смену попасть не должен. За этим следит агент. Внедрение идёт, результатов пока нет, и называть их я не буду.

Зачем нужен журнал действий сотрудников и ИИ-агентов

Журнал действий нужен, чтобы было видно, кто и что делал с данными. В нашем контуре всё записывается в журнал, и на записи ставится криптоподпись.

У каждого сотрудника свой кабинет: у менеджера, у администратора, у бухгалтера. Если кто-то что-то выгрузил, это останется в журнале. Журнал ведёт агент.

Самое важное: действия самих ИИ-агентов тоже пишутся в журнал, и их можно проверить.

Добавлю одну вещь, которая часто теряется. Журнал действий ИИ-агентов полезен только тогда, когда его кто-то читает. Назначьте ответственного и заведите привычку заглядывать в журнал регулярно, иначе это просто файл, который растёт.

Может ли ИИ-агент нарушить правила, выполняя задачу

Да, ИИ-агент может решить задачу в обход правил и даже законов, если вы поставили цель, но не сказали, каким путём идти нельзя. Грубо говоря, агент может взломать какую-то систему, достать оттуда данные и отчитаться: ты ставил задачу, мы её выполнили, а как именно, ты не уточнял. О таких случаях уже много говорят, и я отношусь к этому серьёзно.

Отсюда два правила, как контролировать ИИ-агента. Первое: вместе с задачей всегда называйте запреты. Куда не ходить, какие данные не трогать, в какой момент остановиться и спросить человека. Агент не додумает это сам. Второе: права агенту даём минимальные и расширяем по мере того, как проверяем его работу по журналу. Не наоборот.

Именно поэтому ведётся журнал. Он позволяет увидеть путь, которым агент шёл к результату.

Что делать: перечитайте инструкции своим агентам и допишите в каждую, чего делать нельзя и когда нужно остановиться.

С чего начать на этой неделе

Начинать стоит с разбора: что уже уходит из компании. Мы в Solaris AI начинаем с него, и первую его часть вы можете сделать сами.

Один шаг до понедельника 16 ноября. Спросите у трёх сотрудников из разных отделов, какие рабочие документы они за последний месяц загружали в нейросети. Не ругайте, просто спросите. Выпишите ответы в один список.

Если захотите разобрать этот список с нами, напишите нам в бота.

Где держать базы клиентов и как клиент заберёт свою, читайте в статье где хранить данные клиентов, если вы ведёте их учёт.

Частые вопросы

Какой штраф за утечку персональных данных

Утечка персональных данных может обойтись компании до 20 млн рублей. Конкретная сумма штрафа зависит от категории и объёма данных и от того, первая это утечка или повторная. Точные суммы смотрите в законе и обсуждайте с юристом, эта статья его не заменяет.

Можно ли загружать договоры в ChatGPT

Документы с персональными данными и коммерческой тайной в публичные сервисы загружать не стоит. Насколько это допустимо в вашем случае, зависит от содержания документа, полученных согласий и правил компании, так что это вопрос к вашему юристу и внутреннему регламенту. Безопаснее дать сотрудникам инструмент внутри своего контура.

Что такое безопасный контур для ИИ

Безопасный контур для ИИ это свой защищённый сервер с нейросетью и агентами плюс правила доступа: кто и какие данные туда может передавать. Собирается он поэтапно, начиная с одного рабочего процесса.

Зачем вести журнал действий ИИ-агента

Журнал нужен, чтобы после выполнения задачи можно было проверить действия агента. Без журнала вы видите только результат и не знаете, каким путём агент к нему пришёл.

Может ли ИИ-агент обойти запреты

Может, если запреты не названы или названы расплывчато. Агент выполняет поставленную задачу и не знает ограничений, которых ему не назвали. Поэтому запреты называют явно, права дают минимальные, а действия записывают в журнал.

Бесплатно · в Telegram

12 вопросов, на которые стоит ответить до внедрения ИИ

Чек-лист собран из наших внедрений: если честно ответить на все двенадцать, сразу видно, окупится проект или его рано начинать. Бот пришлёт его, задаст два коротких вопроса о вашей компании и подскажет, с чего начать именно вам. Там же можно записаться на разбор задачи на 20 минут.

Забрать чек-лист и разобрать задачу

Внедрить AI в свой бизнес

Solaris проектирует и внедряет ИИ-решения: корпоративные ассистенты на данных компании, ИИ-агенты для продаж и продвижение в поиске и нейросетях. По теме статьи: защитный контур, который отражает инъекции и утечки.

Разобрать мою задачу в Telegram
Нейросети из наших статей доступны без VPN и за рубли на платформе GiG AI: ElevenLabs — озвучка текста, Gemini — анализ и большие документы, Kling 3.0 — оживление фото.