Пока вы ждёте от модели понимания боли клиента, вы отдаёте ей решения, которые она по устройству принять не может. Это самое неудобное место в истории про Адама и Еву, и именно о нём молчат, когда спорят про нейросети. Мы разобрали это в выпуске на нашем канале: смотреть разбор на YouTube. Джордан Питерсон, психолог, читал в Торонто лекцию о психологическом смысле библейских историй. Вторую главу Бытия он разбирает не как богослов, а как психолог-практик: что эта история говорит об устройстве человека. Один вопрос я отложу до конца: если модель прочла все тексты о боли, почему она всё равно не знает добра и зла?
Слово, которое делает вещи реальными
Бог приводит к Адаму животных посмотреть, как тот их назовёт. Питерсон спрашивает: почему Богу это вообще важно? Его ответ: это эхо первой главы, где мир вызывается из хаоса словом. Человек создан по этому образу и делает то же самое. Пока вещь не названа, она неразличимая масса. Назвал, и она вырезана из хаоса. У неё есть границы, с ней можно иметь дело.
Питерсон даёт бытовой пример. В каждой семье и в каждой компании есть то, что лежит под ковром. Все молчат, чтобы оно не стало реальным. Добавлю от себя: руководитель знает это лучше других: пока проблема не названа на совещании, её как будто нет.
Теперь честно про нейросеть. Языковая модель тоже работает словом, но с другого конца. Она предсказывает следующее слово по вероятности: какое слово чаще всего шло за этими в миллионах чужих текстов. Она берёт уже названное миллионами людей и продолжает. Она не вырезает новое из хаоса, а повторяет чужой разрез.
Именно поэтому первая работа остаётся за вами. Напишите «помоги с продажами», и получите среднее продолжение всех текстов про продажи. Назовите точно, где именно вы теряете клиента, и модели есть с чем работать. Ваши слова, а не усреднённые.
Что делать: прежде чем открыть чат, назовите свою проблему одной фразой, вслух, своими словами.
Почему знание нужно съесть
Второй узел: почему знание в этой истории нужно именно съесть. Питерсон признаёт, что долго не понимал, при чём здесь плод. Его ход такой. Плод это общее у всех деревьев, то есть еда. А что общее у всех источников еды? Информация о том, где еда. Знать, где еда, важнее, чем держать еду в руках. И мозг ищет информацию теми же механизмами, какими белка ищет орех.
Здесь нейросеть похожа на нас больше всего и меньше всего одновременно. Модель это концентрат чужой информации. Огромный массив текстов превращён в числа, которые задают, какое слово вероятнее. На наш взгляд, снаружи это похоже на наш голод по информации, но внутри там другое.
Человек ищет информацию, потому что голоден и уязвим. Модели нечего терять. Она ищет то, что вы попросили, а не то, что вам нужно. Её память не забывает и не расставляет приоритеты. Что важнее чего, вы приносите с собой. Как ставить такие запросы и не тонуть в ответах, мы по шагам разбираем в бесплатной Академии Solaris AI.
Что делать: не спрашивайте у модели, что важно. Скажите ей, что важно вам, и просите искать в этих границах.
Жертва как сделка с будущим
Третий узел, на наш взгляд, самый сильный в лекции: жертва. Питерсон описывает земледельца шесть тысяч лет назад. Семья голодает, а посевное зерно трогать нельзя: иначе весной нечего сажать. Волк съедает всё, что видит. Человек первым научился откладывать еду, а значит, торговаться с будущим. Жертва в его прочтении это контракт с будущим. Не с конкретным человеком, а с духом человечества, которое однажды оценит.
И здесь параллель с нейросетью честно ломается. Модель обучена оптимизировать ответ здесь и сейчас: чтобы следующее слово было вероятным, а вы оценили ответ как полезный. У неё нет завтра, ради которого стоит терпеть. Она не может не съесть зерно, потому что для неё не наступает весна. Это не упрёк, а устройство.
Отложенную выгоду в паре с моделью держит только человек. В бизнесе это выглядит просто. Модель предложит ход, который хорошо смотрится сегодня. Спросите, чего он стоит через год.
Что делать: в каждой задаче для модели указывайте горизонт, на какой срок вы просите решение.
Нагота и знание добра и зла
Теперь к самому тяжёлому месту лекции. После плода у Адама и Евы открываются глаза, и первое, что они видят, это своя нагота. Питерсон читает это так: они увидели, что уязвимы. Не стыд перед кем-то, а знание: нас можно ранить, всегда, и это не пройдёт.
Отсюда, по его логике, всё остальное. Одежда. Страх. Работа как жертва настоящего ради будущего. И знание добра и зла. Питерсон говорит, что двадцать лет не мог связать наготу со знанием добра и зла. Связка оказалась простой и страшной. Ты знаешь, что ранит тебя. Значит, можешь вычислить, что ранит другого. С этого момента ты способен и на зло, и на добро.
И как практикующий психолог он говорит, кого видел по-настоящему разрушенными. Не болезнью и не катастрофой, а обманом. К обману мы ещё вернёмся, когда дойдём до модели.
Почему модель прочла все тексты о боли и не знает добра и зла
Возвращаемся к отложенному вопросу. По логике этой истории знание добра и зла растёт не из текстов, а из собственной уязвимости. У модели нет тела, нет наготы, нет страха за завтра. Она знает описание боли, но у неё нет ключа, который открылся Адаму.
Поэтому её хорошее поведение это поведение по заданным правилам. Правила, заданные снаружи, а не различение изнутри. На наш взгляд, это не делает модель ни злой, ни доброй. Она вне этого различения, и это надо помнить каждый раз, когда вы отдаёте ей задачу, где на кону люди.
Значит, совесть в паре человек и модель одна, и она ваша. Это не лозунг, а распределение ролей. Мы сами так работаем: этот выпуск собрал наш ИИ-агент для YouTube, а человек проверил на выходе. Собирать можно поручить машине. Отвечать за результат приходится человеку.
И последнее из лекции. Питерсон говорит, что лечит правда, а разрушает ложь, включая ложь самому себе. С моделью это буквально: она продолжит вашу неправду так же уверенно, как правду. От себя добавлю: если в запросе вы назвали причину, в которую сами не верите, модель построит на ней уверенный план. Различать снова придётся вам.
Что делать: последнее слово о том, что хорошо и плохо для людей, оставляйте себе. Этому модель в текстах не научилась.
Четыре правила
Все четыре выведены из одной древней истории, и ни одно из них не про продуктивность.
1. Назовите проблему сами, в своих словах, и только потом откройте чат. Модель продолжает чужой разрез, а не делает ваш.
2. Задайте иерархию: что важнее чего. Память модели не забывает, но приоритетов не расставляет.
3. Укажите горизонт: на какой срок нужно решение. Иначе получите оптимизацию в моменте, и зерно будет съедено.
4. Последнее слово о том, что хорошо и плохо для людей, оставьте себе. Этому модель в текстах не научилась.
А в своей голове держите одно правило, оно старше всех нейросетей: то, что не названо, никуда не делось.
Шаг на сегодня один. Сегодня до конца дня возьмите задачу, которую собирались отдать модели на этой неделе. Прежде чем открыть чат, скажите вслух одной фразой, в чём на самом деле проблема, и запишите эту фразу первой строкой запроса. Если фраза не складывается, вы нашли то, что лежит под ковром. Это и есть ваша работа, а не работа модели.
Частые вопросы
Что такое знание добра и зла в Бытии по Питерсону?
В лекции в Торонто Питерсон связывает его с наготой. Адам и Ева после плода видят, что уязвимы, что их можно ранить. Кто знает, что ранит его самого, может вычислить, что ранит другого. С этого момента человек способен и на зло, и на добро.
Почему нейросеть не понимает боль клиента?
Модель знает описания боли из миллионов текстов, но у неё нет собственной уязвимости. Нет тела, нет страха за завтра, нечего терять. По логике разобранной истории именно из уязвимости растёт различение добра и зла. Поэтому хорошее поведение модели задаётся правилами снаружи, а не пониманием изнутри.
Как правильно ставить задачу языковой модели?
Сначала назовите проблему своими словами, а не общей фразой вроде «помоги с продажами». Затем скажите модели, что для вас важнее чего, потому что сама она приоритеты не расставляет. Укажите горизонт: на какой срок нужно решение. И проверяйте ответ сами, потому что модель продолжит и правду, и неправду одинаково уверенно.
Может ли ИИ принимать решения за руководителя?
Собирать информацию и предлагать варианты модель может. Решение о том, что хорошо и плохо для людей, по устройству остаётся за человеком. Модель оптимизирует ответ в моменте и не умеет терпеть ради будущего. На наш взгляд, совесть в паре человек и модель одна, и она у человека.
При чём тут жертва и посевное зерно?
Питерсон описывает земледельца, который голодает, но не трогает посевное зерно, потому что иначе весной нечего сажать. Так человек научился торговаться с будущим, и жертва в его прочтении это контракт с будущим. У модели такой весны нет, она отвечает здесь и сейчас. Поэтому у любого предложенного ею хода спрашивайте, чего он стоит через год.