Убеждённый атеист написал Джордану Питерсону письмо. Год назад, признался он, счёл бы безумием свой интерес к лекциям по Библии. А теперь слушает. Питерсон вспоминает это письмо в тринадцатой лекции цикла о психологическом смысле библейских историй, в главе про Иакова, и приводит фразу, которую слышал от другого человека («он говорил что-то вроде…»): не ты выбираешь свои интересы, они выбирают тебя. Питерсон с ней соглашается: над этим стоит задуматься. Если это так, то лента, рассылка и чат с нейросетью спорят за ваше внимание на поле, где вы не хозяин.
Источник: лекция Джордана Питерсона Biblical Series XIII: Jacob's Ladder, оригинал на YouTube. Цитаты в нашем переводе.
Мы разобрали эту лекцию, потому что в ней три темы, по которым нейросеть удобно сравнивать с человеком: внимание, память и работа с будущим. По каждой Питерсон говорит о человеке, а мы смотрим, где параллель с машиной сходится и где рвётся. Полный разбор на видео: смотреть разбор на YouTube.
Один вопрос мы отложим до конца: почему отцом целого народа Библия делает обманщика, и что это говорит о нас рядом с машиной.
Коротко, три вопроса:
1. Когда вас тянет к задаче, сервису или готовому ответу: вы к этому идёте или вас ведут?
2. Что вы отдали на хранение и больше не видите одним взглядом?
3. Что вы получите завтра от ответа, который берёте сегодня, и кто проверит его по вашим признакам?
Почему нам интересно не то, что мы выбираем
Что говорит Питерсон: очень трудно увлечься тем, что тебе не интересно. Наш пример: вы учите скучный предмет к экзамену, и мысль убегает куда угодно, хотя вы знаете, зачем сидите за столом. А если тема зацепила, вы работаете до изнеможения, не замечаете времени и помните всё. Отсюда вопрос: если интерес не в вашей власти, то в чьей?
Отвечает Питерсон через Юнга. Древние называли эту силу Меркурием, крылатым вестником богов, тем, что переносит внимание с места на место. По Юнгу это не каприз. Внимание направляет самость, образ того, кем вы можете стать: будущий потенциал тянется в настоящее и показывает путь.
> Для Юнга это были в каком-то смысле те самые утраченные боги. Твоим интересом за кулисами управляют невидимые силы, связанные с развитием твоего характера во времени. Это и есть проявление самости. Самость, скажем так, это твой потенциал. А действует она в настоящем так: захватывает твой интерес и направляет его куда-то. Это часть инстинкта самореализации.
Вывод для человека. Интерес не враг и не слабость. Это сигнал, и его стоит слушать. Но у сигнала есть источник, и перед тем как идти за ним, полезно спросить, откуда он пришёл. Для руководителя это вопрос о том, чем он занят на деле: тем, что ведёт к цели, или тем, что громче всего просится в голову сегодня утром.
Что такое внимание у нейросети простыми словами
В языковой модели тоже есть механизм с названием «внимание». Подбирая следующее слово, модель взвешивает, какие слова в вашем запросе и в уже написанном ответе важнее для этого шага. Как бухгалтер ставит веса статьям бюджета: эта строка влияет сильно, эта почти не влияет.
Где параллель сходится. И у человека, и у модели внимание решает, что окажется на первом плане, а что уйдёт в фон. Из этого выбора складывается результат.
Где рвётся. У модели это внимание без интереса. Ничто внутри не хочет, ничто не тянется, механизм только взвешивает. У Юнга вас зовёт будущий вы. У модели будущего нет. Её веса, то есть числовые настройки, сложились в основном из чужих, уже написанных текстов, а потом модель дообучили по правилам и оценкам людей. За кадром у машины стоит не ваш потенциал, а статистика прошлого.
Есть и неприятное следствие. Лента в соцсети тоже подбирает, что вам показать, хотя устроена по-своему. И цепляет она, на наш взгляд, не всегда тем, что ведёт к вашей цели. Отсюда первый вопрос. Когда вас тянет к задаче, к сервису, к готовому ответу, спросите: вы к этому идёте или вас ведут? Перед тем как открыть чат, скажите себе, что в задаче вас зацепило. Если не знаете, откуда пришёл интерес, вы отдадите машине не задачу, а чужой импульс, и она его усилит.
Можно ли всё забыть, если всё можно посмотреть
Второй шаг Питерсон делает через шамана. В племени шаман хранил все устные истории, и их передавали точно через поколения. Дальше звучит фраза, от которой неловко: мы можем всё забыть, потому что всё можно посмотреть.
И пример из семьи.
> Мы можем всё забывать, ведь всегда можно посмотреть. А они помнили, потому что выбора не было. Мой отец знал в Саскачеване, лет шестьдесят назад, неграмотного человека, который и считать не умел. У него были овцы, если не ошибаюсь. Считать не умел, но если одна овца пропадала, он знал, потому что…
На этом месте запись обрывается. Мы читаем это так: пересчитать стадо пастух не мог, но видел одним взглядом, что одной овцы нет, потому что знал каждую.
Проверка на машине. Нейросеть это предельный случай фразы «всё можно посмотреть». Она прочитала больше любого человека. Но тексты она не хранит, а сжимает в числовые настройки. Поэтому она много знает, но не обязана знать точно и может уверенно ошибаться. Точная память это ваша база или отчёт, к которым её подключили.
Где рвётся. Модель знает так, как словарь знает слова. Овец у неё не было, и ни одна не пропадала. У пастуха память росла из нужды и из тела: он годами ходил между овцами. У модели нет ни тела, ни нужды. Она ответит на вопрос, если вы его зададите, но не заметит пропажи, если вы не спросили.
Вывод для руководителя. Второй вопрос не про машину, а про себя: что вы отдали на хранение и больше не видите одним взглядом? Руководитель, который помнит десять главных чисел своего бизнеса, на наш взгляд, видит проблему раньше отчёта. Тот, кто отдал на хранение всё, узнаёт о ней из отчёта, и то если отчёт собран правильно.
Где провести эту границу, что отдавать машине, а что обязано остаться в голове, мы разбираем в бесплатной Академии Solaris AI. Там мы учим внедрять нейросети в реальную работу: прежде чем автоматизировать учёт, стоит понять, какие числа вы хотите чувствовать без подсказки.
Почему быстрый ответ нейросети похож на чечевицу Исава
Иаков и Исав братья. Питерсон напоминает: жертва была великим открытием человечества, открытием будущего. Ты отдаёшь удовольствие сейчас, даже сильное, и заключаешь сделку с будущим. Если жертва правильная, шансы растут.
Исав возвращается с охоты голодный. Иаков варит красную чечевицу и ставит условие: миска за право первородства. Исав соглашается, и с этого дня его зовут Красный. Питерсон говорит: это не смешно, над ним посмеиваются всю жизнь. Комментарий, который он цитирует, уточняет: первородство включало право совершать жертву, быть священником семьи. На наш взгляд, это значит, что Исав продал не статус, а способность заключать сделки с будущим.
> Если ты из тех, кто жертвует будущим ради настоящего, ты уничтожаешь саму возможность породить самое благородное существо. Вот что это значит на самом деле. (…) Так что, если хочешь реализовать свой потенциал, так делать нельзя. Не приноси обратных жертв. Это очень плохая идея.
Мы сводим его вывод к одной строке: не продавай будущее за желания настоящего и не относись легко к тому, что имеешь.
Проверка на машине. Здесь связь самая близкая. Модель подбирает ответ слово за словом по вероятности. Про ваше завтра она ничего не знает. Завтра есть только у вас.
Где рвётся. Это не упрёк машине, а описание. Исав продал будущее по слабости. У модели будущего нет вовсе, оно за кадром, у заказчика. Поэтому ответственность за завтра машина не несёт и нести не может.
Вывод для того, кто работает с нейросетью. Быстрый непроверенный ответ это та же чечевица: удобно сейчас, платить потом. Письмо клиенту, расчёт сметы, формулировка в договоре выглядят готовыми за секунды. За ошибку в них заплатите вы, иногда неделю спустя. Жертва в работе с машиной одна: отдать минут десять на проверку сейчас, чтобы не терять потом неделю. Отсюда третий вопрос: что вы получите завтра от ответа, который берёте сегодня, и кто проверит его по вашим признакам?
Что значит имя Израиль и что остаётся за человеком
Отложенный вопрос. Иаков обманул брата дважды, обманул слепого отца и бежал. И именно ему снится лестница в небо. Почему?
Питерсон его не оправдывает. Предательство у Данте лежит в самом низу ада, потому что бьёт в лучшее в человеке, в его доверие. Бог остаётся с Иаковом, но это не поблажка: Питерсон говорит, что не видел никого, кто ушёл бы от расплаты, и Иаков будет платить за обман двадцать лет.
Ответ в имени. Позже Иаков получит имя Израиль, и Питерсон переводит его: тот, кто борется с Богом. Вера здесь не согласие с инструкцией. Слепая вера, говорит он, бесполезна: ты не знаешь, во что веришь. И про факты: их бесконечно много, вы выбираете, какие брать, и они не говорят, что делать. Шаг вперёд всегда акт веры. Вера, по Питерсону, это не загробная жизнь и не исполнение желаний.
> Это активное участие в жизни, в её трудностях, и поиск пути. Потому что бороться с Богом и значит искать путь. (…) Вера выражается в поиске пути. Это нравственная борьба, и борьба настоящая. Это борьба самой жизни.
Проверка на машине. Нейросеть выравнивают, то есть настраивают отвечать по правилам. Критерий ей задают снаружи, и она обычно следует ему, ничего за это не платя. Она не борется с заданием. Совесть Иакова выросла из борьбы и расплаты, у машины правило принесено извне и ничего ей не стоило.
Где сходится. И человеку, и модели нужен критерий, то есть признаки, по которым понятно, что результат хорош. Разница в том, откуда он берётся. У Иакова изнутри, через двадцать лет. У модели из вашей инструкции, за секунды. Если инструкции нет, модель всё равно выберет слова, но критерий за неё подставит статистика прошлого.
Вывод для руководителя. Вот почему модель, прочитавшая всё, не может решить за вас, что делать. Она выбирает слова, а факты выбирали вы. Признаки хорошего результата это ваша часть работы, и целиком её не отдать. Народ назван не по послушному и не по идеальному, а по тому, кто борется. На наш взгляд, это и есть место человека рядом с машиной.
Что с этим делать. Заметив, что вас тянет, спросите, кто тянет, и только потом идите. Держите в голове свои главные числа, а машине отдавайте остальное. Ставя задачу, напишите, по каким признакам вы поймёте, что ответ годится завтра: кому это письмо, что получатель должен сделать после него, какие цифры нельзя менять. И проверьте ответ сами: сходятся ли цифры с вашими, нет ли обещаний, которых вы не давали, написали бы вы так же своей рукой.
Если вы собираетесь доверить нейросети часть процессов, начните с чек-листа «12 вопросов перед внедрением» в нашем боте. Он как раз про признаки хорошего результата: что считать удачей, кто проверяет и что останется у людей.
Частые вопросы
Правда ли Питерсон говорит, что интерес выбирает нас
Эту фразу Питерсон приводит со слов другого человека и соглашается с ней: увлечься скучным не получится, а увлекательное само держит. Через Юнга он объясняет, что внимание направляет будущий потенциал человека. Мы в Solaris AI добавляем: сигнал стоит слушать, но сначала спросить, откуда он пришёл.
Есть ли у нейросети внимание
Механизм с таким названием действительно лежит в основе языковых моделей. Он взвешивает, какие слова запроса важнее для следующего слова ответа, но ничего не хочет и никуда не стремится. Это уже наше сравнение, не Питерсона: за кадром у машины статистика прошлого, а не чьё-то будущее.
Почему нельзя всё отдавать на хранение машине
Питерсон говорит, что мы разучились помнить, потому что всё можно посмотреть, и приводит рассказ отца о неграмотном пастухе, который замечал пропажу одной овцы. Наш вывод из этого: модель не хранит ваши данные точно, если её не подключили к вашей базе, и не заметит пропажу, пока не спросят. Главные числа бизнеса, на наш взгляд, лучше знать самому.
Что такое обратная жертва
У Питерсона обычная жертва это отказ от удовольствия сейчас ради будущего, а обратная жертва сделка наоборот: Исав отдал первородство за еду. Параллель с нейросетью наша: непроверенный ответ удобен сейчас, а платить за ошибку придётся потом. Поэтому мы советуем проверять ответы до отправки.
Можно ли поручить проверку ответа самой нейросети
Целиком нет. Модель может найти опечатки и сверить цифры по вашей таблице, но признаки хорошего результата и ответственность остаются у вас. Сформулируйте их до запроса, тогда проверка займёт меньше времени.
Что значит имя Израиль
Питерсон переводит имя как «тот, кто борется с Богом» и видит в этом смысл веры: не слепое согласие, а поиск пути через борьбу. Наш вывод для работы с машиной: модель настраивают отвечать по правилам, и она им обычно следует, но не борется за них. Решать, что делать, остаётся человеку.
Один шаг до пятницы, 23 октября: выпишите на один лист десять главных чисел своего бизнеса по памяти, затем сверьте с отчётом и посчитайте, сколько из них вы знали точно.