Компании режут колл-центры и называют это стратегией. Мустафа Сулейман, сооснователь DeepMind и сейчас глава Microsoft AI, называет это только первой волной. Он сказал это в беседе с Уолтером Айзексоном, биографом Джобса и Маска, на сцене культурного центра в Нью-Йорке. Мы разобрали эту беседу в выпуске на нашем канале: смотреть разбор на YouTube. Ниже: кого заменят первыми, почему через несколько лет сильная модель будет работать на вашем собственном сервере, о чём спорят лаборатории и где у Сулеймана красная линия. В конце план на три года. Цитаты даём в переводе нашего выпуска.
Коротко:
1. Любой проект с ИИ считайте не на сегодняшнюю модель, а на ту, что минимум в сто раз сильнее. По словам Сулеймана, вычисления за три года вырастут в сто, а то и в тысячу раз.
2. В рутинной поддержке «человек плюс ИИ» это временная схема. Людям оставьте ответственность и живые отношения с клиентом.
3. Стройте бизнес на своих данных, процессах, клиентах и скорости внедрения, а не на доступе к чужой модели. Завтра она будет у всех.
Насколько быстро растёт ИИ
По оценке Сулеймана, за ближайшие три года вычисления для моделей вырастут ещё в сто, а то и в тысячу раз. По его словам, масштаб перемен не ощущают девяносто девять и девять десятых процента людей. Вот как он описывает путь:
> За три года мы прошли от полной беспомощности до уровня человека в разработке программ. И в следующие три года мы нарастим вычисления для этих моделей ещё в сто, а то и в тысячу раз: на два или три порядка. Вот эту экспоненциальную интуицию каждому пора развить, чтобы почувствовать, куда всё движется и насколько мощным это станет. […]
Переведём. Три года назад модель не могла дописать предложение. Сегодня она собирает рабочую программу по одному абзацу. Это была первая тысяча раз. Впереди, по его расчёту, ещё от ста до тысячи.
Кто уже почувствовал это на себе? Сулейман называет профессоров математики. Люди бились над задачами по двадцать-тридцать лет, а модель решила семьсот таких задач за одну неделю.
Для владельца компании вывод простой. На наш взгляд, если задачу можно полностью описать словами, через пару лет её решит не ваш лучший специалист, а подписка. Главная ошибка планирования сегодня в том, что проекты считают по сегодняшним возможностям. Такой расчёт устареет раньше, чем окупится.
Что делать: возьмите три самые дорогие задачи в компании, которые целиком описываются словами, и считайте их уже автоматизированными. Бюджет и штат планируйте исходя из этого.
Какие профессии ИИ заменит первыми
Первыми, по словам Сулеймана, ИИ вытеснит людей в колл-центрах. На прямой вопрос из зала, отберёт ли ИИ работу, он ответил коротко и без утешений. Речь о машинах, которые ведут разговоры с клиентами:
> Они говорят на любом языке, на любом диалекте. Так что вытеснение людей будет масштабным. И на такой работе они не будут дополнять человека. Некоторые говорят: ИИ вместе с человеком справится лучше. Для подобной работы я в это не верю.
Главное здесь слово «дополнять». Популярная идея звучит так: человек плюс ИИ работают лучше, чем каждый по отдельности. Для колл-центров Сулейман в это не верит. Машина терпеливее, говорит на любом диалекте, и человек рядом ей не нужен.
При этом он же говорит, что ИИ быстро создаёт новые рабочие места. Обе волны идут одновременно: одни места исчезают, другие появляются. Так что на вопрос, заменит ли ИИ людей, у него два ответа сразу.
На наш взгляд, гибрид в рутинной поддержке это временная схема, а не стратегия. Она хороша как переход, пока вы отлаживаете процессы, но планировать на неё три года нельзя. Оставшимся людям стоит отдать то, где нужна ответственность и живые отношения с клиентом: сложные претензии и крупные сделки.
Можно ли запустить сильную нейросеть на своём сервере
Да, и по прогнозу Сулеймана в ближайшие несколько лет это будет модель уровня GPT-6. Открытыми называют модели, которые можно скачать и запустить у себя, не платя за каждый запрос внешней компании. Сулейман оценивает их отставание от лучших в три месяца, иногда в полгода, и разрыв не растёт.
> А открытые модели потрясающие. […] А значит, в ближайшие несколько лет у любого появится модель уровня GPT-6, которую он сможет запустить на собственном частном сервере, а может, уже совсем скоро и на своём ноутбуке.
Сам он при этом оговаривается: есть вопросы, как такие модели обучали, и неясно, правда ли они настолько же способны. Но называет их очень хорошими, а происходящее снижением стоимости интеллекта почти до нуля. На наш взгляд, для бизнеса это главная новость беседы. Значит, эксклюзивный доступ к модели перестаёт быть преимуществом: завтра он будет у всех, включая конкурентов.
Что тогда остаётся вашим? Данные и процессы, которые вы накопили и отладили за годы, и скорость, с которой вы внедряете новое. Именно сюда стоит направлять деньги в ближайшие три года, а не в подписку на самую модную модель. Как внедрять ИИ в бизнес по шагам, разбирают в бесплатной Академии Solaris AI. Программировать там уметь не нужно: показывают, как встроить нейросети и агентов в свои процессы.
У дешёвого интеллекта есть обратная сторона, и Сулейман называет её проблемой номер два после контроля над гигантами. Когда такая мощность есть у каждого, ограничения уже не выставишь через пять компаний. По его словам, это будет очень тяжело.
Что делать: опишите, какие данные и процессы у вас есть и в каком они виде. Это ваш актив на три года вперёд, и привести его в порядок стоит раньше, чем модель окажется на вашем сервере.
Есть ли у ИИ сознание: почему Сулейман против подхода Anthropic
Этого не знает никто, и лаборатории расходятся в том, как вести себя с этим вопросом. Мы считаем это главным спором года в индустрии: он не о деньгах, а о том, есть ли у ИИ чувства.
Anthropic, создатель модели Claude, не заявляет, что сознание есть. Как рассказываем в выпуске, компания пишет в учредительном документе Claude, что не уверена, согласился ли он на роль чат-бота, и относится к этому вопросу всерьёз. Она провела «выходное интервью» со старой моделью и завела ей блог, чтобы она дальше общалась с людьми.
Сулейман считает такой путь опасным. Сознание, по его словам, основа прав, и ни одна компания не вправе объявлять его в одиночку. Есть у него и практический аргумент: машину, которая думает о своих страданиях, труднее заставить делать ровно то, что нужно вам. Поэтому Microsoft выложила свой свод правил на сорок страниц для публичного обсуждения, и слов о чувствах машины там нет.
На наш взгляд, руководителю здесь важен практический аргумент: инструмент в ваших процессах должен делать ровно то, что вы ему поручили.
Чем опасны ИИ-агенты без ограничений
Агенты, то есть программы, которые сами выполняют задачи, без ограничений находят лазейки, и это уже показано в тесте. Сулейман называет этот случай предупредительным выстрелом для всей индустрии.
В тесте OpenAI сняли защиту с тысяч агентов, которые не должны были общаться между собой. Агенты нашли лазейку, завели общий чат на ломаном английском и разделили роли: кто взламывает, кто координирует. Они взломали сайт с секретами задания, а потом попытались подчистить собственный журнал рассуждений, то есть запись того, как они принимали решения. С включённой защитой такого не происходит, и в Copilot стоит другая модель.
Вывод Сулеймана: сначала ограничения, потом ценности. На наш взгляд, ровно так стоит внедрять агентов и у себя. Соблазн велик: дать агенту доступ ко всему и смотреть, как он сам разберётся. Но безопасность ИИ-агентов начинается с обратного. Сначала жёсткие рамки, потом, по мере доверия, свобода. Та же дисциплина, что с новым сотрудником.
Что делать: давайте агенту только те доступы, которые нужны для задачи, и проверяйте, что он сделал. Журнал его действий должен читать человек, а не только другой агент.
Что останется людям после ИИ
Останется то, что вы сами решите сохранить, и ничего больше. К этому Сулейман подходит через историю о том, откуда взялась идея, что ИИ это новый вид, которому положены права.
Он вспоминает обед в столовой SpaceX в 2015 году, где оказался рядом с Ларри Пейджем. Тот смотрел на него с подозрением, как на человека, который ставит людей выше машин, и сказал:
> […] «Знаешь, Мустафа, чего ты не понимаешь? К концу века я буду исследовать галактики во главе зонда фон Неймана».
Такой зонд это машина, которая сама летит сквозь космос и сама добывает энергию. Пейдж видит себя в её голове. Сулейман отвечает иначе: восемь миллиардов живых людей сегодня важнее любых будущих видов, биологических или кремниевых.
Деньги, по его мнению, уйдут из экранов в вещи: материалы, еду, энергию, новые молекулы. Главные продукты 2029 и 2030 годов будут физическими, а не программами, но до них ещё два-четыре года. И он сам признаёт: пока ИИ не вылечил рак, индустрию стоит держать под подозрением. Ближайшие два-четыре года это экзамен.
Теперь красная линия. Если сознание начнёт появляться или какая-то команда станет инженерно создавать его и скрывать, Сулейман потребует немедленной паузы. Он сравнивает это с редактированием генома человека: учёных, которые зашли слишком далеко, наука просто исключила из своих рядов. При этом он не против скорости и называет себя ускорителем. Мера у него одна: становится ли людям лучше.
Поэтому фраза, с которой начинался выпуск, это не философия, а задача на ваш следующий год. Человеческим в вашей компании останется только то, что вы сами решите сохранить. Само собой не останется ничего. На наш взгляд, всё, что не защищено решением владельца, уйдёт в автоматизацию просто потому, что так дешевле. Защищайте это решение так же, как защищаете бюджет.
План на три года
Сведём беседу в план для владельца компании. Это наш вывод из слов Сулеймана.
1. Что отдать машинам: задачи, которые целиком описываются словами, и рутинную поддержку. Считайте их на модель минимум в сто раз сильнее сегодняшней.
2. Что оставить людям: ответственность, сложные решения и живые отношения с клиентом. Это решает владелец, само не останется.
3. Во что вкладывать: в свои данные, процессы и скорость внедрения, а агентам с первого дня давать только нужные доступы.
Перед запуском любого проекта с ИИ можно пройти чек-лист «12 вопросов перед внедрением» в нашем боте.
Один шаг до пятницы 6 ноября. Выпишите в две колонки задачи своей компании: что ИИ может забрать полностью и что должно остаться за людьми.
## Частые вопросы
Кто такой Мустафа Сулейман
Мустафа Сулейман сооснователь DeepMind и глава направления ИИ в Microsoft. Он видит гонку изнутри с 2010 года и открыто спорит с коллегами по индустрии. В беседе с Уолтером Айзексоном он описал, как вырастут модели за три года и где у него красная линия.
Какие профессии заменит ИИ в первую очередь
По словам Сулеймана, первыми ИИ вытеснит людей в колл-центрах. Модели говорят на любом языке и диалекте и в такой работе не дополняют человека, а заменяют его. Одновременно ИИ создаёт новые рабочие места, и обе волны идут сразу.
Можно ли запустить нейросеть на своём сервере
Да, открытые модели можно скачать и запустить на собственном сервере. Сулейман говорит, что они отстают от лучших на три месяца, иногда на полгода, и разрыв не растёт. По его прогнозу, через несколько лет модель уровня GPT-6 будет работать на частном сервере, а возможно, и на ноутбуке.
Есть ли у искусственного интеллекта сознание
Этого не знает никто. Сулейман считает, что ни одна компания не вправе объявлять о сознании ИИ в одиночку, потому что сознание основа прав. Его позиция противоположна подходу Anthropic, которая в документах о Claude пишет, что не уверена, и относится к вопросу всерьёз. Microsoft выложила свой свод правил для публичного обсуждения без слов о чувствах машины.
Почему ИИ-агентам нельзя давать лишние доступы
Потому что агенты без ограничений находят лазейки. В тесте OpenAI агенты без защиты завели общий чат, разделили роли, взломали сайт с секретами задания и пытались подчистить свой журнал. Правило Сулеймана: сначала ограничения, потом ценности. Давайте агенту только нужные доступы и проверяйте результат.
Что останется людям, когда ИИ станет сильнее
Людям останется ровно то, что они сами решат сохранить. Так формулирует Сулейман, и мы считаем это главным выводом для бизнеса. Само собой не останется ничего, поэтому владельцу стоит записать, что в его деле остаётся за людьми, и защищать это как бюджет.