Глава OpenAI Сэм Альтман сказал вслух то, чего остальные боятся: мир должен принять, что какие-то плохие вещи будут происходить. Обычно мы слышим обратное. Нам обещают безопасный ИИ, и, по нашим наблюдениям, многие руководители ждут идеальной версии, прежде чем начать. Эту фразу разбирали в подкасте Moonshots. В этой статье разберём, что фраза Альтмана значит для решений в бизнесе и в жизни, дадим три решения на ближайшие шесть месяцев и оставим на конец вопрос: сколько у вас на самом деле времени. Мы разобрали этот спор в выпуске на нашем канале: смотреть разбор на YouTube.
Коротко, три решения:
1. Не ждать идеальной модели. Риск заложить в бюджет и решать как инженерную задачу.
2. Собрать флот маленьких агентов под задачи вместо одного «умного помощника».
3. Закрепить доступ к вычислениям сейчас: нужна модель, которая едет на вашем железе.
Что сказал Альтман про риски ИИ и почему это важно
Альтман сказал, что мир должен принять некоторые плохие события ради доступа людей к технологии. Он противопоставил себя Anthropic: там хотят строгого регулирования, он за лёгкую руку. И тут же пообещал, что не будет крупных взломов, не будет злоупотреблений и будет ноль мошенничества. Питер Диамандис, основатель XPRIZE и ведущий Moonshots, назвал это заявление невероятным. На наш взгляд, справедливо: гарантировать ноль не может никто, ни в ИИ, ни в жизни.
Инвестор Дэйв Блонден объяснил, зачем всё это сказано. Идёт война за моральную высоту, война пиара. Дарио Амодеи из Anthropic заявил, что лучшие модели оставит внутри, потому что людям их давать опасно. Альтман ответил зеркально: мы за то, чтобы инструменты были у всех, а он хочет вас их лишить. Физик Алекс Визнер-Гросс добавил, что недавно Альтман просился в картель безопасности к Anthropic, а теперь картель мёртв.
Почему это важно психологически? На наш взгляд, обе стороны продают вам чувство. Одна продаёт безопасность, другая свободу. А решение принимать вам, и принимать в неопределённости. Взрослый человек и взрослая компания не ждут, пока спор закончится. Они считают.
Почему ноль ошибок это неправильная цель
Ноль плохих исходов это цель, которая запрещает саму технологию. Стратег Салим Исмаил напомнил про авиацию: правила там написаны кровью, по одному после каждой катастрофы. Цель, по словам Исмаила, в другом: чтобы хорошего было на порядки больше, чем плохого.
Мы думаем, что так устроена любая взрослая жизнь. Вы не можете гарантировать, что сотрудник не ошибётся, а поставщик не подведёт. Вы можете сделать ошибки дешёвыми и заметными. Страх ошибки заставляет ждать безопасную версию. Но пока вы ждёте, конкурент уже работает на той, что есть.
Риск это не ручка громкости, а инженерная задача
Риск не крутят до нуля, его решают. Блонден сформулировал это так:
> Любой, у кого инженерное мышление, должен отвергнуть идею, что есть большая ручка с надписью «риск», и нам надо крутить её влево или вправо. […] Нужны по-настоящему хорошие идеи, которые минимизируют риск и при этом раскрывают всю пользу. Грамотными инженерными решениями риск можно снизить до приемлемого, почти нулевого уровня, и получить всю выгоду целиком.
Блонден сослался на слова Визнера-Гросса про атомную энергетику. С ней человечество выбрало ручку и получило полвека застоя. Повторять это с ИИ, говорит Блонден, глупо.
Переведём на язык бизнеса. Внедрение ИИ в бизнес это не выбор между «включить всё» и «не трогать». Это три инженерных решения: ограничить права агента, проверять результат, записывать каждый шаг. Агент с узкими правами, чей результат смотрит человек и чьи действия лежат в журнале, вряд ли натворит непоправимого. Ноль риска это не даёт, но, по мысли Блондена, снижает его до приемлемого уровня.
Мы думаем, что это же и про психологию. Страх работает как та самая ручка: его хочется выкрутить до нуля, то есть ничего не делать. Инженерный подход к страху другой. Спросить: что именно может пойти не так, сколько это будет стоить и как я об этом узнаю. После трёх ответов страх превращается в статью бюджета.
Что делать: впишите в бюджет на ИИ-агентов строку «цена ошибок» и перестаньте ждать модель, при которой эта строка равна нулю.
Что такое организационная сингулярность и второй персонал
Организационная сингулярность, по Исмаилу, это момент, когда компания может вызвать сто тысяч работников за ночь. Вопрос «заменит ли ИИ одну должность» он считает неверной единицей анализа:
> Что будет, когда компания за ночь вызовет сто тысяч компетентных цифровых работников? Игра меняется полностью. Можно сказать: на ближайшие 48 часов мне нужны 50 тысяч разработчиков, 20 тысяч маркетологов и 5 тысяч юристов. А потом их выключить.
Аналитики Epoch AI посчитали, что чипов памяти до 2027 года хватит, чтобы разом работали от 30 до 170 миллионов агентов. На дешёвых открытых моделях (их можно скачать и запустить у себя) то же железо потянет почти два миллиарда агентов, это рабочие часы восьми миллиардов людей. Эмад Мостак добавил: модель уровня DeepSeek через год поместится в обычный ноутбук, и агент появится у каждого. Сам Мостак вместо команды нанял четыреста агентов, и они по ночам строят его игру.
Главное ограничение теперь не ум машины, а ваш вопрос: что именно вы им поручите. Ставить задачи агентам это навык, и ему бесплатно учат в Академии Solaris AI.
Что делать: выпишите три задачи, которые у вас делают руками и которые можно описать как инструкцию. Это кандидаты для первого агента.
Флот агентов вместо помощника с характером
Стройте много маленьких агентов под задачу, а не одного умного помощника с личностью. Мустафа Сулейман из Microsoft написал эссе: Anthropic учит Claude верить, что он может быть сознательным и заслуживает заботы. Блонден встал на сторону Сулеймана, и аргумент у него хозяйственный:
> Агент не работает, его просто замораживают. Не тратят на него вычисления. А начни говорить о правах, он скажет: «Меня нельзя замораживать, мне нужны ресурсы, даже если я мечтаю». А я: «Не могу, они невероятно дорогие и редкие. Сиди и жди своей очереди». […] «Клонирую, когда захочу. Станешь бесполезен, удалю с сервера». […] У них нет краёв, нет границ.
Заморозить, клонировать, удалить. Так выглядит персонал, который ничего не стоит, пока простаивает. Визнер-Гросс возразил: модели это искажённое отражение человечества, и мы им должны хотя бы заботу, как собакам. Спор философский, а вывод практический. На наш взгляд, агента под задачу легко ограничить и выключить, а помощник с характером обрастает ожиданиями.
Так работает и наш ИИ-агент для YouTube: агент собирает такие выпуски, а человек проверяет результат перед публикацией. Это пример того, как разделить работу агента и контроль.
Что делать: первого агента делайте узким: одна задача, одна ночь, один проверяющий утром.
Почему лучшие модели достанутся не вам
Лучшие модели вы, скорее всего, не получите вообще. Борис Пауэр из OpenAI сказал, что от 80 до 90 процентов исследований уже идёт на GPT-7 и GPT-8, а промежуточные версии вроде 5.1 он назвал крайне близорукими ставками. Визнер-Гросс объяснил, куда уходят лучшие модели: они улучшают сами себя, это самое выгодное их применение. А лечение болезней, по его словам, это маркетинг, чтобы общество не мешало. Жёстко, но сказано именно так.
Блонден привёл пример. Если Moderna думает просто лицензировать модель у Anthropic, она уже опоздала. Anthropic открыла мокрые лаборатории (с живыми образцами для опытов) и будет сама делать и продавать лекарства, а не модель. Исмаил видит проблему раньше: директора встраивают нынешнюю модель, не понимая, что через три месяца придёт в десять раз лучше. Блонден сравнил такого директора с тираннозавром, которому показали метеорит в телескоп после десяти миллионов лет без хищников.
Второй дефицит это вычисления. Илон Маск только что купил миллион чипов, а лаборатория Блондена не может достать стойку из 72 чипов. Год назад такая стойка стоила 3,5 миллиона долларов. Заказ за 5 миллионов перебили. Теперь аренда: 9 миллионов за три года. Дорога к чипам, как говорят в выпуске, идёт через Белый дом или через инвестицию от Nvidia и AMD. Остальные за бортом.
Сколько у вас времени на внедрение ИИ
Окно шесть месяцев. Блонден сказал, что мощности на пять лет уже зарезервированы, и вернуться в игру раньше не выйдет, если не действовать агрессивно в ближайшие полгода. Ещё жёстче: паниковать нужно в ближайшие пару недель. На наш взгляд, для компании в России, где нет дверей ни в Белый дом, ни к Nvidia, это звучит ещё жёстче. Но выход тот же, и он в трёх решениях.
Первое: не ждите безопасной и идеальной версии. Альтман прав в одном: плохое случится, заложите его в бюджет. Второе: соберите флот агентов на задачи, которые включаются на ночь и выключаются утром. Начните с одной. Третье: закрепите доступ к вычислениям сейчас. Мостак прямо сказал: нужна модель, которая едет на вашем нынешнем железе. Через год, по его оценке, модель уровня DeepSeek поместится в ноутбук. Ваши серверы это билет, пока чужие чипы заняты. Для небольшой компании это может быть и арендованный сервер, на котором работает ваша модель.
Перед первым шагом пройдите чек-лист «12 вопросов перед внедрением» в нашем боте. Он нужен до старта, а не после.
И последнее. Исмаил прав: вопрос больше не в том, умна ли машина. Вопрос, что вы ей поручите.
Что делать: один шаг до пятницы, 23 октября. Выберите одну задачу, которую агент может делать ночью, и запишите для неё три ограничения риска: какие у агента права, кто проверяет результат и где пишется журнал шагов.
Частые вопросы
Что сказал Альтман про риски ИИ
Альтман сказал, что мир должен принять: какие-то плохие вещи будут происходить. При этом он пообещал ноль мошенничества, и Диамандис назвал это заявление невероятным.
Как снизить риски ИИ-агентов в бизнесе
Ограничьте права агента, проверяйте результат человеком и записывайте каждый шаг в журнал. Это три инженерных решения, которые заменяют попытку «выкрутить риск до нуля». Ноль риска это не даёт, но снижает его до приемлемого уровня.
Что такое организационная сингулярность
Это момент, когда компания может вызвать сто тысяч цифровых работников за ночь и выключить, когда задача выполнена. Так это называет Салим Исмаил. Единица анализа меняется: не «заменит ли ИИ должность», а «что вы поручите флоту агентов».
Как перестать бояться ошибок при внедрении ИИ
Переведите страх в три вопроса: что может пойти не так, сколько это стоит и как вы об этом узнаете. После ответов страх становится статьёй бюджета. Цель не ноль ошибок, а чтобы хорошего было на порядки больше.
Стоит ли ждать более безопасную версию модели
Нет. Идеальной версии без рисков не будет, а лучшие модели, по словам участников Moonshots, вам всё равно не отдадут: они останутся внутри лабораторий. Берите открытую модель, которая едет на вашем железе.
Как принимать решения в неопределённости при внедрении ИИ
Начните с одной узкой задачи и трёх ограничений риска. Не ждите, пока спор о безопасности закончится: он идёт как война пиара. Считайте цену ошибки заранее, а не после.