Заявка приходит в среду в 17:40. Бухгалтер пишет в рабочий чат: по какому регламенту оформлять возврат по договору 2023 года. Регламент лежит где-то в трёхстах папках общего диска, его автор уволился весной, а ответ нужен до конца дня. С таких вопросов начинается внедрение ИИ в бизнес на практике, а не с презентации про нейросети.
Внедрение ИИ в бизнес на практике устроено так: компания собирает документы, регламенты и переписку в один индекс на собственном сервере, поверх него ставится ИИ-ассистент, и сотрудники задают вопросы словами в браузере или Telegram. Ответ приходит со ссылкой на исходный документ, персональные данные не покидают контур компании, а срок и стоимость зафиксированы в договоре до старта.
По регламенту внедрений Solaris корпоративный контур запускается за 2–4 недели: бриф, сборка под процессы, запуск на сервере клиента, приёмка на живых данных. Ниже устройство решения по слоям, цифры нашего замера и то, что происходит с командой в первый день, неделю и месяц.
Как устроено внедрение ИИ в бизнес изнутри?
Внутри это четыре слоя: индекс документов, обезличивание, языковая модель и интерфейсы для людей. На компьютеры сотрудников ничего не ставится, всё живёт на сервере компании или на арендованном сервере в российском дата-центре.
Первый слой читает файлы: docx, PDF, сканы через распознавание текста, и строит поиск, который понимает и точные слова, и смысл вопроса. В нашем проекте для судебной экспертизы это архив из 1200 с лишним заключений, и локальные модели поиска считают его на обычном процессоре без видеокарты: ориентир сервера 8 ядер и 32 ГБ памяти.
Второй слой самый важный для 152-ФЗ. Обезличивание перед любым внешним вызовом это правило, а не опция: наружу уходит только текст без персональных данных, а карта соответствий хранится на сервере компании. ФИО, адреса и номера договоров заменяются маркерами, модель отвечает по маркерам, и уже на сервере в ответ подставляются реальные данные.
Третий слой, языковая модель, выбирается под требования: облачная через обезличивание, российская или локальная на своём железе, когда наружу не должно уходить ничего. Смена модели это замена одного адаптера, а не переделка системы. Четвёртый слой видят люди: чат в браузере, бот в Telegram, виджет в карточке сделки Битрикс24.
Что происходит в первый день, неделю и месяц?
В первый день мы вместе с клиентом проходим сквозной сценарий на живых данных: реальный вопрос сотрудника, реальный документ в ответе. Сделанным считается то, что человек проверил своими глазами, а не то, о чём отчитался ассистент.
Первая неделя уходит на вопросы, которые ассистент не закрыл. Мы собираем их из журнала, добавляем недостающие источники и правим формулировки. Индекс к этому времени пополняется сам: новый документ лёг на диск, сервер его прочитал.
Первый месяц заканчивается приёмкой этапа и разговором о сопровождении: присмотр, исправление ошибок, дообучение под изменившиеся регламенты и второй сценарий, чаще всего продажи или сводка для руководителя.
| Вариант | Где данные | Что уходит наружу | 152-ФЗ |
|---|---|---|---|
| Публичный чат-бот | У провайдера | Весь текст запроса | Только договором с провайдером |
| Облачный сервис с загрузкой документов | У провайдера | Документы целиком | Зависит от локализации сервиса |
| Ассистент на сервере компании | В контуре компании | Обезличенные фрагменты или ничего | Закрывается архитектурой |
Какие цифры показывает наш замер?
Самый честный замер у нас в финансовом аутсорсе: один финансовый директор ведёт 5–7 клиентов вместо трёх. Это принятое внедрение платформы управленческого учёта с ИИ-слоем: девять клиентских кабинетов на ночной синхронизации и 62 показателя, которые раньше собирались руками.
В проекте для судебной экспертизы цель в договоре другая: минус 40–50% времени на заключение за счёт поиска аналогов и черновика по шаблону. Это плановая цифра, замер пойдёт на пилоте с одним-двумя экспертами, и до пилота я её результатом не называю.
Для вашего процесса цифру считаем до старта: сколько минут сотрудник ищет ответ сейчас, сколько таких вопросов в день и сколько стоит час этого человека. Экономия равна произведению этих трёх чисел, и она либо покрывает внедрение за понятный срок, либо проект не нужен.
Сколько стоит и что нужно от компании?
Цена фиксируется после брифа одной суммой, типового прайса нет: объём зависит от источников данных, числа пользователей и требований к контуру. Оплата по регламенту Solaris: 50% предоплаты и 50% по сданному этапу, крупные работы делятся на этапы с отдельной приёмкой.
От компании нужны доступ к документам и CRM, сервер или согласие на аренду в российском облаке и один ответственный человек, который принимает работу. Без ответственного запуск буксует, и об этом честнее договориться на берегу.
Я, Антон Баранов, основатель Solaris AI, за 16 лет в предпринимательстве видел достаточно проектов, которые умерли на этапе «сначала выберем модель». Живут те, где сначала посчитали минуты.
Сколько времени занимает внедрение ИИ в бизнес?
Корпоративный контур по нашему регламенту запускается за 2–4 недели, простые сценарии вроде виджета на сайте за 3–5 дней. Срок зависит от объёма документов и числа интеграций, точную дату называем после брифа.
Уходят ли данные компании наружу при работе с нейросетью?
При схеме с обезличиванием наружу уходят только фрагменты текста с маркерами вместо ФИО, адресов и номеров. При локальной модели на сервере компании наружу не уходит ничего. Карта соответствий в обоих случаях остаётся в контуре.
Нужна ли видеокарта для ИИ-ассистента на своём сервере?
Для индекса из тысячи с лишним документов видеокарта не нужна, локальные модели поиска работают на процессоре. Она понадобится, только если генерацию текста тоже переносить на своё железо.
Что делать, если ассистент ответил неправильно?
Каждый ответ содержит ссылку на документ-источник, поэтому ошибка видна сразу. Вопросы без ответа и спорные ответы попадают в журнал, по нему в первую неделю мы добавляем источники и правим сценарии.
Если сцена из первого абзаца вам знакома, посмотрите, как мы собираем Корпоративный AI-ассистент Solaris: бриф занимает 10 минут, смету и срок вы получаете до оплаты.
Разборы внедрений с цифрами я выкладываю в канал «Антон про бизнес» раньше, чем они попадают в обзоры. Подпишитесь, следующий разбор выйдет на этой неделе.