Solaris AIРазобрать задачу
Главная / Блог / Создатель ChatGPT Шульман: без вашей гол…

Создатель ChatGPT Шульман: без вашей головы ИИ не сделает главного

2026-11-20 · Антон Баранов · Solaris AI
Создатель ChatGPT Шульман: без вашей головы ИИ не сделает главного

Написали нейросети «придумай стратегию» и ждёте чуда? Расскажу, чем это кончается у тех, кто эти модели делает. Джон Шульман, сооснователь OpenAI и один из создателей ChatGPT, рассказывает, как отпускает агента на несколько дней. Итог? По его словам, так себе. Этот разговор мы в Solaris AI разобрали в ролике на нашем канале, а здесь текстовая версия для тех, кто читает быстрее, чем смотрит.

Коротко:

1. По словам Шульмана, агент, отпущенный на несколько дней, приносит слабый итог, пока человек не вернётся с вопросами.
2. ИИ берёт исполнение. Выбор, что делать и зачем, остаётся вам.
3. Ставьте узкую задачу как стажёру и сами читайте результат с вопросами.

Что рассказал Шульман: ИИ-агент работал несколько дней, итог слабый

Шульман рассказывает: без него агент доводит идею до слабого результата. Разговор шёл в подкасте фонда a16z. Шульман сейчас главный учёный Thinking Machines Lab, рядом Марк Чен, директор по исследованиям OpenAI. Картина такая. Есть идея. Шульман пишет модели сложный запрос, выкручивает настройки на максимум и отпускает её. Модель несколько дней работает сама. Ставит разумные эксперименты, подкидывает интересные мысли. Вау? Нет. Итог, по его словам, так себе, вплоть до провала задачи.

Дальше интересное. Он возвращается, читает результаты, расписывает проект подробнее, задаёт вопросы. «Так уйдём гораздо дальше: по ходу я понимаю больше, задаю вопросы, которые ИИ бы не задал, и веду его туда, куда он не пошёл бы». Это говорит человек, который сам строит модели. Узнали себя? Поручили и забыли, как будто дальше всё сделается само. Нет, это иллюзия. Она не работает даже у сооснователя OpenAI.

Как ставить задачу нейросети: как стажёру в OpenAI

Задачу нейросети ставят узко: понятный способ, понятный результат. Чен рассказывает, что в OpenAI уже работают ИИ-стажёры-исследователи, и меряют это тем, сколько вычислений ИИ гоняет без человека. Смотрите, что им говорят. Не «придумай идею». А «запусти вот этот опыт вот так» или «следи за этими показателями». Стажёру дают инструкцию, а не мечту.

Переведу на язык бизнеса. Не «придумай стратегию», а «посчитай этот сценарий вот так и покажи цифры по месяцам». И что, после этого можно уйти на неделю? Нет. Вторая половина правила: вы сами читаете итог. С вопросами. Эту часть пропускают, потому что она похожа на работу. Она и есть работа.

Что делать: поставьте ИИ 1 задачу как стажёру, со способом и показателями, и прочитайте ответ сами.

Исполнение и вкус: что в работе с ИИ остаётся человеку

Человеку пока остаётся вкус, машине уходит исполнение. Так, по словам Шульмана и Чена, исследователи делят работу. Исполнение: параметры ясны, надо сделать. Вкус: чутьё, какая идея важна надолго и сработает не в одном проекте, а во многих. Тут, по их словам, модели пока слабы. Уходят в мелкую настройку. Крутят сотни ручек. Но не выбирают, какую ручку вообще стоит крутить.

Грубо говоря, у вас появился исполнитель, который не устаёт. Но вопрос «а зачем мы это делаем» он, судя по рассказу Шульмана, пока не задаёт. Я так вижу: это не минус, это разделение труда. Про то, что отдать агентам, а где ваш козырь, мы уже писали по словам Кьюбана, и вывод тот же с другой стороны.

Сколько осталось до AGI: оценка Чена и что она значит для компании

По оценке Чена, по шкале AGI пройдено примерно 80 процентов. AGI это общий ИИ, который справляется с любой умственной работой на уровне человека, это наше пояснение. Важнее вторая его оценка: по шкале ИИ, который улучшает себя сам, где-то между 25 и 50 процентами. И это, по его словам, шкала, а не момент: промышленная революция тоже случилась не в один день.

Что это значит для вас? На наш взгляд, вот что. Ускоряются люди с ИИ в руках, а не ИИ сам по себе. Машина, которая сама находит идеи, по оценке Чена, ещё в пути. А человек с машиной в связке работает иначе уже сейчас. Поэтому выигрывает не тот, кто купил подписку всем сотрудникам, а тот, кто научил людей работать с машиной в связке. У нас есть бесплатная Академия, где мы учим как раз этому: работать с ИИ в связке на задачах бизнеса. Прогнозов о сроках от себя я не дам. По мне, ваш рычаг в людях, а не в тарифе.

Почему ваш опыт ошибок это актив, которого нет у ИИ

Чутьё, по словам Шульмана, во многом приходит из личного опыта и из прочитанных прошлых работ. Прочитать и запомнить всё ИИ может. А опыта собственных ошибок у него нет. Нет предсказаний, которые не сбылись. Шульман допускает, что сам способ обучения моделей делает их слабее именно в этом, но судить, по его словам, рано. Дальше, говорят собеседники, компании будут собирать у исследователей оценки идей и учить на них модели.

Переложу на вас. Вы делали ставку. Она провалилась. Вы это помните. У конкурента с той же подпиской этих данных нет. Это наш взгляд: ваш опыт провалов это данные, и их стоит записывать. Что пробовали, что ждали, что вышло. Звучит скучно, по мне. Но именно это, по словам собеседников, собираются зашивать в модели, а вы можете сделать это у себя раньше. Мы уже разбирали по словам Альтмана, чем 20 лет опыта отличаются от 1 года, прожитого 20 раз. На наш взгляд, записанные провалы как раз и делают разницу.

Дешёвый тест перед дорогим запуском: как проверяют идеи в исследованиях ИИ

Идею в исследовании ИИ, по словам Чена, не проверить рассуждением, надо ставить опыт. Тесты для моделей, рассказывает он, устаревают всё быстрее, и большая часть работы теперь в том, чтобы придумывать новые, более жёсткие. Поэтому ищут маленькие опыты, которые предсказывают большой результат.

На наш взгляд, это главный приём и для бизнеса. Нейросеть выдала красивый план, всё разбито по шагам, вау. И что, вставай и делай? Сначала дешёвый тест. Маленький опыт, который покажет, жив ли большой план. Потом своя проверка: не «модель сказала, что сработает», а цифры, которые вы видели сами.

Что делать: перед дорогим запуском поставьте 1 дешёвый тест и проверьте его цифры сами.

Кто задаёт правила ИИ и почему за честность не наказывают

Правила для ИИ, по мысли Шульмана, лучше задавать широко, а не узким кругом. Он говорит, что у людей разные ценности, и хорошо бы дать им больше контроля над ценностями своего ИИ. Пусть это будет открытая наука, которой занимаются по всему миру. Так, по его словам, надёжнее, чем подстраиваться под выводы пары компаний.

Чен добавляет взгляд изнутри OpenAI. По его словам, там одни модели уже следят за ходом рассуждений других. А модель учили честно признаваться в промахах, награждая за честность, а не за красивый ответ. Мы видим здесь параллель, а не факт об ИИ: если наказывать за признание ошибки, ошибку начнут прятать. Сотрудник тоже. И, как мы это видим, настроенный вами агент. Откуда это берётся, мы писали в разборе слов Пола Кристиано о том, что ИИ хочет балл, а не вашу задачу, и в разборе интервью Амодеи о том, почему ИИ врёт, чтобы вам понравиться.

С чего начать до пятницы

Начните с 1 задачи, которую ИИ уже делает за вас на автопилоте. Не внедрять, не покупать. Откройте результат, который вы обычно принимаете не глядя, и прочитайте его так, как Шульман читал итоги своего агента: с вопросами. Где цифры? Откуда они? Что будет, если это не сработает? Какую ручку он крутил, а какую стоило?

Вопросы придут легко. Как мы это видим, машина их не задала не потому, что глупая, а потому, что у неё нет вашего опыта провалов. Этот список и есть ваш вкус. За него, я так вижу, теперь платят больше всего.

До пятницы 27 ноября шаг такой: возьмите 1 задачу, которую ИИ делает за вас на автопилоте, прочитайте его результат и запишите 3 вопроса, которые задали вы, а машина нет.

Если хотите обсудить, как это выглядит в вашей компании, напишите нам в бота.

Частые вопросы

Что сказал Джон Шульман про ИИ-агентов?

Он рассказал, что агент, отпущенный на несколько дней с настройками на максимум, ставит разумные эксперименты, но итог выходит так себе. Когда Шульман возвращается сам и задаёт вопросы, которые ИИ бы не задал, проект уходит гораздо дальше. Это его слова в подкасте фонда a16z.

Как правильно ставить задачу нейросети?

Узко и как стажёру: понятный способ, понятный результат, понятные показатели. По словам Чена, в OpenAI ИИ-стажёрам говорят не «придумай идею», а «запусти этот опыт вот так». Потом читайте итог сами и задавайте вопросы.

Сколько осталось до AGI по оценке Марка Чена из OpenAI?

По личной оценке Марка Чена, по шкале AGI пройдено примерно 80 процентов, а по шкале ИИ, который улучшает себя сам, где-то между 25 и 50 процентами. Он подчёркивает, что это шкала, а не момент. Своих прогнозов о сроках мы не делаем.

Заменит ли ИИ руководителя в бизнесе?

Исполнение ИИ уже забирает, а выбор, что делать и зачем, пока остаётся за человеком. Так, по словам Шульмана и Чена, работу делят сами исследователи: модели пока слабы во вкусе, то есть в выборе направления. На наш взгляд, руководителю это и нужно держать за собой.

Что такое вкус в работе с ИИ и как его развивать?

Вкус это чутьё, какая идея важна надолго и сработает во многих проектах, так его описывают Шульман и Чен. По словам Шульмана, оно приходит из личного опыта и прочитанных прошлых работ, а у ИИ пока нет опыта собственных ошибок. Развивать его, на наш взгляд, можно так: читать результат ИИ с вопросами и записывать свои провалы.

Бесплатно · в Telegram

12 вопросов, на которые стоит ответить до внедрения ИИ

Чек-лист собран из наших внедрений: если честно ответить на все двенадцать, сразу видно, окупится проект или его рано начинать. Бот пришлёт его, задаст два коротких вопроса о вашей компании и подскажет, с чего начать именно вам. Там же можно записаться на разбор задачи на 20 минут.

Забрать чек-лист и разобрать задачу

Внедрить AI в свой бизнес

Solaris проектирует и внедряет ИИ-решения: корпоративные ассистенты на данных компании, ИИ-агенты для продаж и продвижение в поиске и нейросетях. По теме статьи: внедрение искусственного интеллекта, пилот на одном процессе от 40 000 ₽.

Разобрать мою задачу в Telegram
Нейросети из наших статей доступны без VPN и за рубли на платформе GiG AI: Nano Banana Pro — генерация изображений, Seedance — видеогенерация, Runway — видео из картинок.