2 ноября на семинаре «Безопасное внедрение искусственного интеллекта» для резидентов МТПП я разбирал вопрос: как работать с ИИ, если в компании есть персональные данные клиентов. Мы в Solaris AI строим для этого защищённый контур. Отрывок есть в ролике на нашем канале.
Коротко:
1. Мы строим так: данные с персональной информацией обрабатываются на своём или арендованном сервере, где развёрнута локальная модель без выхода в интернет.
2. Облачные модели мы оставляем для обезличенных задач: написание кода и обучение агентов, которые потом работают локально.
3. Аренда сервера с 4 видеокартами у нас стоила 80 000 рублей в месяц, покупка такой стойки, по нашей оценке, от 1,5 до 2 млн рублей.
Что такое защищённый контур, если в компании есть персональные данные
Защищённый контур это сервер компании, свой или арендованный, на котором развёрнута локальная модель, и у неё нет выхода в интернет. Локальная модель это нейросеть, которая работает на вашем сервере. Так мы строим работу с ИИ там, где в договорах, заявках и актах есть персональные данные.
Идея простая. Мы строим так, чтобы живые данные клиентов оставались внутри компании, на её сервере, и модель считала прямо там. Разворачивается сервер, на нём локальная модель, например на 32 млрд параметров (это размер модели, от него зависит, насколько сложные задачи она тянет). Дальше работа с персональными данными идёт через неё, без внешних облачных сервисов.
Сказанное о законе это наш опыт, а не юридическая консультация. Требования под вашу ситуацию сверьте с юристом до переноса данных.
Какой сервер нужен: свой или арендованный
Для защищённого контура подходит и свой сервер, и арендованный в дата-центре, выбор зависит от того, что компании удобнее и доступнее сейчас. Если у компании есть возможность поставить свою стойку (шкаф с серверами), это идеальный вариант: она физически у вас, под вашим контролем, и дальше вопрос обслуживания и доступа решается внутри компании.
Но с мощностями на рынке сейчас непросто. Инфраструктура дорожает быстро, и не у каждой компании есть ресурс сразу вложиться в покупку стойки. Поэтому аренда сервера в дата-центре, который работает с персональными данными, это рабочий промежуточный вариант: вы получаете тот же закрытый контур, но без крупных единовременных вложений.
Что делать: если своей стойки пока нет, начните с аренды сервера под локальную модель. Прежде чем переносить туда персональные данные, сверьте условия дата-центра с юристом.
Сдавать свои мощности в аренду другим компаниям мы тоже рассматриваем как бизнес-модель.
Как агенты учатся на облачных моделях и работают на локальной
Агентов мы обучаем и настраиваем на старших облачных моделях, таких как Claude или Codex. На этом этапе в работе нет персональных данных, только логика, код и сценарии. Когда агент готов, он разворачивается на локальной модели на вашем сервере. Дальше его повседневная работа, включая персональные данные клиентов, идёт внутри закрытого контура, без выхода в интернет.
Мы не отказываемся от облачных моделей. Мы просто не отправляем в них персональные данные. На наш взгляд, такое разделение помогает сохранить сильные модели в работе.
Сколько стоит сервер: аренда или покупка
Аренда сервера с 4 видеокартами для работы локальной модели у нас стоила 80 000 рублей в месяц, а покупка такой стойки, по нашей оценке, от 1,5 до 2 млн рублей. Аренда это наш счёт, покупка это оценка, а не цена поставщика.
Для сравнения: за 80 000 рублей в месяц сдаётся квартира стоимостью около 20 млн рублей. Это ориентир по суммам, а не совет, что выгоднее.
Выбор между арендой и покупкой зависит от объёма задач, бюджета и от того, насколько компания готова обслуживать собственное железо. Аренда не требует крупных вложений сразу, покупка даёт полный контроль над инфраструктурой, но требует больших вложений на входе.
Что уходит в облако, а что остаётся внутри
В облако мы отдаём только обезличенные задачи, то есть такие, где в тексте нет персональных данных вообще: код, софт, обучение агентов, которые потом работают на локальной модели. Убрать из договора одну фамилию для этого мало. Персональные данные клиентов в облако мы не отправляем.
Внутри компании, на локальном сервере, остаётся работа с живыми данными: договоры, заявки, акты и данные из клиент-банка с персональными данными. Модель считает это внутри закрытого контура, у которого нет доступа к интернету, и выдаёт результат там же.
Что делать: если в компании уже используются облачные нейросети, проверьте, какие именно задачи через них проходят, и разделите их на две группы: обезличенные, которые можно оставить в облаке, и те, что связаны с персональными данными, которые нужно перевести на локальный контур.
Если хочется разобраться в теме глубже, у нас есть несколько материалов по соседним вопросам: главное с семинара в МТПП про ИИ-агентов и 152-ФЗ, 152-ФЗ и штрафы при внедрении ИИ, как работает своя ИИ-система на сервере и отдельная история про то, как агенты для тендеров учатся в закрытом контуре.
С чего начать до пятницы
Прежде чем менять инфраструктуру, стоит понять масштаб текущей ситуации в своей компании. До пятницы, 20 ноября, составьте простой список: какие данные с персональной информацией сейчас уходят в облачные нейросети, кто из сотрудников этим пользуется, какие файлы передаются и в какой сервис они загружаются. Этот список и будет точкой отсчёта для того, что нужно перевести в закрытый контур первым.
Если захотите разобрать этот список с нами, напишите нам в бота.
Что сотрудники уже загружают в нейросети и почему не стоит рассчитывать, что этого никто не заметит, читайте в статье как узнают, что данные компании ушли в нейросеть.
Почему работа с персональными данными это решение собственника, я объяснял в статье Нарушения по персональным данным: лесенка для тех, кто решил «потом».
Частые вопросы
Что такое защищённый контур для ИИ
Это сервер компании, свой или арендованный, с локальной моделью без выхода в интернет, где обрабатываются персональные данные. Облачные модели мы держим отдельно, для других задач.
Как мы используем облачные нейросети, если в компании есть персональные данные
У нас облако только для задач без персональных данных: код, софт, обучение агентов. Персональные данные обрабатывает локальная модель на сервере компании. Что допускает закон в вашем случае, спросите юриста.
Сколько стоит сервер для локальной модели
У нас аренда сервера с 4 видеокартами стоила 80 000 рублей в месяц. Покупка такой стойки, по нашей оценке, от 1,5 до 2 млн рублей, выбор зависит от бюджета и объёма задач компании.
Нужна ли своя стойка или можно арендовать сервер
Своя стойка это идеальный вариант, если у компании есть ресурс на такие вложения. Подойдёт и арендованный сервер в дата-центре, который работает с персональными данными: так не нужно крупных вложений сразу.
Как агенты обучаются, если персональные данные нельзя выгружать в облако
Агентов обучают на старших облачных моделях на обезличенных задачах, без персональных данных. После обучения те же агенты разворачиваются на локальной модели и дальше работают с живыми данными уже внутри закрытого контура компании.
