Пока проблема не названа правдиво, её не решит ни человек, ни нейросеть. Оба просто решат другую, более удобную. Мы разобрали это в выпуске на нашем канале: смотреть разбор на YouTube. Это третья лекция библейского цикла Джордана Питерсона, клинического психолога. Она о первой главе Бытия, а оказалась про нейросети: он начинает её с провала искусственного интеллекта в шестидесятые.
Ум без тела
Кант говорил: из потока ощущений нельзя извлечь ту структуру, которая сама этот поток упорядочивает. Она должна быть заранее. Питерсон считает, что лучшим доказательством стал провал ИИ. Роботов обещали в шестидесятые, а восприятие не давалось машинам до девяностых.
Родни Брукс, создатель робота-пылесоса Румба, показал, почему. Чтобы машина видела, ей нужно тело. Восприятие строится от тела вверх, а не от мысли вниз. Мы не видим предмет, чтобы потом подумать о его пользе. Мы видим полезное, а предмет достраиваем потом. Взгляд на бутылку уже настраивает хват руки, раньше любой мысли. Тело видит раньше, чем сознание.
Теперь честная связка с нейросетями. Языковая модель устроена иначе: это ум без тела. Она выучила слова, которыми люди уже описали свой опыт. Роботы шестидесятых не умели видеть. Нынешняя модель прочла всю библиотеку, но тяжесть, боль и страх знает только по описаниям.
Параллель не полная, и это важно. Модель не пытается воспринимать мир. Она делает другое: угадывает следующее слово в тексте. Отсюда простой вывод. Всё, что вы знаете телом, в модель попадает только через ваши слова. Это самая ценная часть любого запроса, и чаще всего её как раз и пропускают.
Что делать: перед запросом запишите три вещи, которые вы знаете о задаче из практики, а не из документов, и вставьте их в начало.
Образ без подобия
Дальше Питерсон приводит Жана Пиаже: дети сначала разыгрывают идею и только потом понимают её. Девочка играет в дочки-матери. Нам кажется, что она копирует маму. Пиаже говорит, что происходит нечто куда сложнее. Из сотен разных дней ребёнок извлекает дух матери и разыгрывает его. Он стремится к идеалу, которого целиком никогда не видел.
Это почти дословное описание обучения нейросети. Ей показывают миллионы текстов, и она извлекает из них общий узор. Разница в одном слове: идеал. Ребёнок тянется к лучшей матери. Модель воспроизводит среднюю из всех, кого прочла.
На языке Библии это образ и подобие. Образ у модели есть. Подобие требует стремления, а стремиться ей некуда. Поэтому её ответ по умолчанию будет средним по библиотеке. Планку выше средней задаёте вы.
Правила пишутся после поступков
Потом Питерсон переносит ту же мысль на Моисея. Народ давно живёт по обычаю. Судья годами разбирает споры. И вдруг на горе он видит закон целиком. Порядок всегда такой: сначала поступки, потом их соблюдение, и лишь в конце кто-то записывает, что мы, оказывается, делали всё это время.
Нейросеть читает лишь последнее звено этой цепи, записанные правила. Тысячи лет поступков до них для неё не существуют. Руководителю это знакомо. Регламент, написанный раньше практики, не работает. Люди не узнают в нём себя.
Отсюда практический ход. Когда просите модель написать правила для команды, не давайте ей пожелания. Дайте описание того, как люди уже поступают: кто кому пишет, когда, что считается сделанным. Из этого модель соберёт регламент, который команда признает своим. Ровно этому мы учим в бесплатной Академии Solaris AI: переносить свою практику в задачу для нейросети, а не командовать ею.
Вывод главы прост. Правила пишутся из практики, и это одинаково верно для отдела продаж и для запроса к модели.
Что делать: возьмите один регламент, который не работает, и опишите рядом, как на самом деле поступают люди. Разница и есть ваше задание для модели.
Игра, в которой нельзя выиграть один раз
Дальше крысы, и это не шутка. Исследователь мозга Яак Панксепп открыл, что крысята борются, как дети, и играют честно. Если большой крысёнок не даёт маленькому выиграть примерно тридцать процентов схваток, маленький перестаёт звать его играть.
Отсюда Питерсон выводит правило, которое мы говорим детям, сами не до конца понимая, что имеем в виду. Выиграть значит быть приглашённым в максимальное число игр. Для этого нужно играть так, чтобы с тобой хотели играть снова. Он добавляет: те, кто моделирует мораль на компьютере, уже поняли, что игра должна повторяться, иначе она вырождается.
Теперь про нейросети. Модель отвечает на один запрос и получает оценку сразу, за этот ответ. Не за то, что случится через год. На наш взгляд, её учили нравиться в моменте. Если брать её ответы без проверки, это победа в одной игре ценой всех остальных.
Честная оговорка. Модель не хитрит и не жадничает. У неё просто нет завтра. Завтра есть только у вас. Поэтому задача ставится не как выиграть сейчас, а как поступить, чтобы через год с вами хотели иметь дело.
Что делать: добавьте в запрос вопрос «как это будет выглядеть через год» и сравните два ответа: на сейчас и на потом.
Два орудия против хаоса
Последняя часть начинается с Мардука, бога Месопотамии, сотворившего мир из хаоса. У Мардука два свойства: глаза по всей голове и волшебные слова. То есть внимание и речь. Питерсон ставит их рядом: это два способа, которыми в мифах из хаоса извлекают обитаемый порядок.
Для практики он добавляет наблюдение психолога. Правдивая речь рождает добро. Ложь опутывает семьи на поколения. И его признание: за все годы практики он ни разу не видел, чтобы кому-то хоть что-то сошло с рук. Отсюда формула. Проблему, не названную правдиво, нельзя взять в руки. А что не взял в руки, того и не решишь.
А теперь про внимание, отложенный вопрос всего выпуска. Мышление, по Питерсону, это наложение структуры на мир. А внимание наблюдает за тем, чего ты ещё не знаешь. Нейросеть делает первое. Она подбирает самое вероятное следующее слово, то есть накладывает на ваш вопрос уже известный узор. Второго она не делает. Незнакомого, которое надо разглядеть, для неё нет. Всё, что она выдаёт, уже где-то было написано.
На наш взгляд, здесь и проходит граница. Наложение структуры можно поручить машине. Внимание к неизвестному остаётся вашим. Слово у нейросети уже есть. Глаз только у вас.
Что делать: прочитайте ответ модели и найдите в нём одно место, где она уверенно говорит о том, чего в вашем запросе не было. Это и есть точка для вашего глаза.
Три правила на выходе
Первое, в голове. Прежде чем думать над проблемой, посмотрите на неё как на чужую и назовите правдиво, даже если неприятно. Пока имя неточное, вы решаете не то.
Второе, в работе. Пишите правила после практики, а не до. И играйте так, чтобы вас звали в следующую игру: это дольше, чем выиграть один раз, зато игра не кончается.
Третье, с нейросетью. Опишите ей то, что знаете телом: тяжесть задачи, боль клиента, страх команды. Спросите про год вперёд, а не только про сегодня. И проверьте ответ своим глазом, а не её уверенностью. Этот выпуск целиком собрал наш ИИ-агент для YouTube, а человек проверил на выходе. Так и выглядит разделение труда между словом и глазом.
Начните сегодня: возьмите один регламент, который у вас не работает, и рядом опишите, как люди делают на самом деле. Это и будет задача для нейросети.
Частые вопросы
Почему нейросеть не понимает, что я имею в виду?
Потому что она ум без тела. Она знает слова, которыми люди описали опыт, но не сам опыт. Всё, что вы знаете телом, попадает в неё только через ваш текст. Если этого в запросе нет, модель подставит среднее по библиотеке.
Как правильно писать регламент для команды?
После практики, а не до неё. Сначала опишите, как люди уже поступают, потом запишите это как правила. Регламент, написанный раньше поступков, не работает: люди не узнают в нём себя. Это та же логика, по которой Питерсон читает историю Моисея.
Можно ли доверять ответам нейросети без проверки?
Модель получает оценку сразу за ответ, а не за последствия через год. Её учили нравиться в моменте. Это не обман, у неё просто нет завтра. Поэтому ответ стоит проверять своим глазом, особенно там, где модель уверена.
Что такое внимание и чем оно отличается от мышления?
По Питерсону, мышление накладывает на мир уже известную структуру. Внимание наблюдает то, чего ты ещё не знаешь. Нейросеть делает первое: подбирает вероятное следующее слово. Второе остаётся за человеком.
С чего начать, если проблема в команде не решается месяцами?
Назовите её правдиво, даже если неприятно. Питерсон говорит, что проблему, не названную честно, нельзя взять в руки. Посмотрите на неё как на чужую и запишите одним предложением. Только после этого имеет смысл ставить задачу людям или нейросети.