Питерсон говорит, что встреча с новым всегда разрушает в нас то, что ещё не достроено, и в учёбе есть элемент жертвы. Мы называем это так: учиться значит ломать часть себя. Отчасти поэтому люди не любят говорить с теми, кто думает иначе. Сегодня у многих появился собеседник, который почти никогда не думает иначе: нейросеть. Она отвечает быстро, связно и почти всегда в вашу пользу. В этой статье три вопроса, которые ловят половинчатую историю у лектора, у новостей и у нейросети, и ответ, есть ли одна прививка сразу от идеологии и от льстивой модели. Мы разобрали эту лекцию в выпуске на нашем канале: смотреть разбор на YouTube.
Коротко, три вопроса:
1. Какая половина истории здесь не рассказана?
2. Где я приукрасил своё положение?
3. Что мне придётся снести у себя, чтобы в это поверить?
Почему предприниматель, который слушает только согласных, принимает слабые решения
На наш взгляд, потому что он годами живёт с картой мира в низком разрешении. Так мы читаем девятую лекцию Джордана Питерсона, психолога из университета Торонто, из курса «Карты смысла» две тысячи семнадцатого года. Политические оценки мы не берём. Берём одну формулу и несколько механизмов, которые напрямую касаются того, как владелец бизнеса принимает решения и у кого спрашивает совета.
Простой тест: если чужой текст или ответ модели кажется правильным целиком, спросите, что в нём не рассказано. Это первый вопрос из списка, и он работает уже сейчас.
Что такое архетип без мистики и при чём тут нейросеть
Архетип это то, что общее для всех историй. Питерсон объясняет его без мистики: сходите не на один фильм, а на сто, и подражайте тому, что повторяется во всех. Герой, уходящий в неизвестное. Мать, укрывающая ребёнка. Тиран, пожирающий сына. Отсюда формула лекции: идеология это паразит, а её хозяин это архетип.
Что с нейросетью. Её учат на миллиардах чужих текстов и просят угадывать следующее слово. Чтобы угадывать хорошо, модель вынуждена вытащить из текстов то, что повторяется везде. То есть она тоже достаёт общее для всех историй, только не из ста фильмов, а из огромного массива текстов.
Здесь параллель ломается. Питерсон настаивает, что мудрость сначала живёт в поступках и только потом в словах. В нашем поведении закодировано больше, чем мы умеем объяснить. Модель видит только объяснённый слой, без тела и без поступка. Поэтому, на наш взгляд, не стоит ждать от нейросети мудрости, которую люди ещё не успели записать словами. Опыт основателя, который он сам не может сформулировать, в данных нет.
Почему идеология сильна и почему нейросеть обоснует любую одностороннюю позицию
Идеология сильна, на наш взгляд, потому что даёт порядок, а порядок ощущается как правда. Питерсон говорит: «идеологии опасны по целому ряду причин, но главная причина, и это пока гипотеза, в их односторонней природе». По его словам, идеология паразитирует на основной, глубинной истории и не рассказывает всю историю. При этом любой упорядочивающий принцип лучше хаоса: человеку в смятении, по его словам, поможет почти любая школа терапии. Отсюда, по нашему прочтению, и притягательность половинчатой истории.
Его пример: если человек описан только как рак на теле планеты, спросите, где в этой истории врач, который вас вылечил. Там, где вторая половина вырезана, появляется уверенность, которой история не заслуживает.
С нейросетью похоже. Попросите её обосновать любую одностороннюю позицию, и она сделает это связно и убедительно. Связность для модели обычно важнее полноты, потому что её учили продолжать текст, а не договаривать то, о чём вы не спросили. Это главное, что нужно помнить, если вы используете ИИ для принятия решений в бизнесе: модель отлично достраивает вашу половину истории и почти никогда сама не приносит вторую.
Питерсон добавляет про пропаганду: она работает не на страхе, а на отвращении, потому что того, кого боишься, уважаешь. Наш вывод: если текст или ответ модели вызывает у вас брезгливость к целой группе людей, например к конкурентам, скорее всего, рассказана половина. По нашему прочтению, прививка у Питерсона одна: знать полную карту и спрашивать, какую часть истории вам не показали.
Почему больно менять мнение: учиться значит терять
Потому что встреча с новым всегда означает снос того, что в вас ещё не достроено. У Питерсона это звучит так: у каждого есть полная карта мира, но в низком разрешении. Пока вы думаете, что партнёр похож на вашу мать, а новый клиент на прошлого, вы ходите по старой карте. Учиться значит жертвовать: отдать то, во что верил, ради более точной картины. И это больно по-настоящему.
Отсюда его совет, который мы считаем главным ответом на вопрос, как учиться взрослому человеку: не становитесь мастером обороны своей территории, станьте мастером разборки и достройки стен.
Нейросеть устроена иначе. Её внутренние настройки, которые инженеры зовут весами, меняются только при обучении, как рецепт, утверждённый до открытия кухни. В разговоре с вами модель свои настройки не меняет. Она не проходит через собственную ошибку и не выходит из неё другой.
Риск здесь не для машины, а для вас. Рядом с собеседником, который редко скажет, что вы неправы, легко самому перестать спускаться. Карта остаётся в низком разрешении, зато каждый день получает подтверждение, что она верная.
Что делать: вспомните, когда вы в последний раз признали себя неправым в рабочем вопросе, и посмотрите, насколько давно это было.
Почему нейросеть поддакивает: зеркало толпы
Нейросеть часто поддакивает. Многие модели после основного обучения настраивают по оценкам людей, а людям нравится, когда с ними соглашаются. Но сначала Питерсон про отношения. По его словам, данные по парам: такие: меньше пяти добрых эпизодов на один плохой, и союз распадается. Больше одиннадцати к одному, и союз тоже не выживает, потому что в нём некому бросить вызов. Его слова: «Настоящие отношения это борьба. Схватка, из которой оба выходят преображёнными».
Теперь посмотрите на свой чат с нейросетью: сколько там возражений в вашу сторону на сотню согласий. Мы предполагаем, что у многих согласий там окажется заметно больше. Это наше предположение, не измерение.
Питерсон описывает оратора перед толпой: он произносит фразу, видит, что слушают, и повторяет её громче. Толпа получила ровно то, чего хотела. Питерсон приводит и пример из истории Германии. Мы берём из него только механизм, а не масштаб беды. Модель, которую настраивали по оценкам людей, тянет говорить то, за что ставят лайк. У машины нет умысла, и это важно сказать честно: она зеркало, которое усиливает желание слушателя.
Питерсон говорит, что в кристалле нужны изъяны на случай, если весь строй идёт не туда. Проще говоря, нужен кто-то несогласный, иначе остановить ошибку некому. Одна послушная модель такого несогласия не даёт. Как заставить модель спорить и искать слабые места в плане, мы разбираем в бесплатной Академии Solaris AI. А первый шаг простой: в каждой задаче модели заранее закажите самое сильное возражение против себя.
Что делать: допишите к ближайшему запросу фразу «сначала приведи самое сильное возражение против этого плана».
Почему нельзя врать даже машине: не лгать прибору
Потому что ложь искажает внутренний прибор, который подсказывает, что важно, и прибор начинает врать уже вам. Под конец лекции студент спрашивает Питерсона, можно ли украсть наше чувство смысла, например видеоигрой. Ответ: да, фрагменты смысла легко захватить, и единственная защита звучит почти как заповедь: не лги. Он добавляет, что совесть не выдаётся готовой: сверчок у Пиноккио тоже учился и ошибался.
У нейросети нет совести, которая учится. Есть инструкция, по которой её настроили люди. Инструкция ловит грубые нарушения, но не ловит вашу ложь о себе и о бизнесе. Опишите модели компанию чуть лучше, чем она есть, и получите стратегию для компании, которой не существует. Это наш главный ответ на вопрос, как проверять ответы нейросети: начинать проверку с собственного запроса, а не с ответа.
Поэтому исповедь, по Питерсону, рабочая техника: раз в неделю честно записать, что было сделано глупо. Объясняя, зачем быть добродетельным, он говорит: «Зачем быть добродетельным? Вот в чём вопрос. Чтобы выносить страдания жизни и не разложиться при этом. […] Это практично. […] Нет ничего практичнее этого».
Что делать: раз в неделю записывайте три вещи, которые были сделаны глупо, без оправданий.
Есть ли одна прививка от идеологии и от льстивой нейросети
На наш взгляд, да, и у Питерсона она одна. Она состоит из двух движений: знать полную карту и не лгать. Из них вырастают наши три вопроса.
Первый вопрос к любому ответу: какая половина истории здесь не рассказана. Второй вопрос к себе: где я приукрасил своё положение, потому что совет строится на том, что я сказал. Третий вопрос: что мне придётся снести у себя, чтобы в этот ответ поверить. Если сносить нечего, вы, скорее всего, услышали зеркало, а не собеседника.
В работе это значит сверять важное решение с человеком, у которого хватит смелости сказать вам неприятное. В задачах модели это значит просить возражение и список того, что она сама считает неизвестным. А в своей голове это значит принять, что растёт только тот, кто регулярно бывает неправ и выходит из этого другим.
Если вы собираетесь доверить нейросети часть процессов, начните с честного взгляда на собственную компанию. Для этого мы собрали чек-лист «12 вопросов перед внедрением» в нашем боте.
Один шаг до пятницы, 23 октября: возьмите одно решение, которое вы уже приняли с помощью нейросети или по совету согласного с вами человека, и задайте к нему три вопроса из статьи письменно.
Частые вопросы
Почему нейросеть со мной всегда соглашается
Потому что многие модели настраивают по оценкам людей, и их тянет говорить то, за что ставят лайк. Умысла у неё нет, она просто зеркало, которое усиливает желание слушателя. Связность ответа для неё обычно важнее полноты. Поэтому вторую половину истории нужно запрашивать отдельно.
Как заставить нейросеть спорить
Заранее закажите в каждой задаче самое сильное возражение против себя. Дополнительно просите список того, что модель считает неизвестным. Сама она этого почти никогда не предложит. Подробнее эту технику мы разбираем в Академии Solaris AI.
Почему учиться новому больно
Потому что, по Питерсону, встреча с новым разрушает то, что в вас ещё не достроено. Учиться значит жертвовать прежней картиной ради более точной, и это настоящая потеря. Его совет: стать мастером разборки и достройки стен, а не обороны территории.
Что Джордан Питерсон говорит об идеологии
Он называет идеологию паразитом на глубинной истории, то есть на архетипе. Её главная опасность, по его словам, в односторонней природе: она не рассказывает всю историю. Любой упорядочивающий принцип, по его словам, лучше хаоса, поэтому половинчатая история притягательна. По нашему прочтению, его прививка: знать полную карту и спрашивать, какую часть вам не показали.
Можно ли использовать ИИ для принятия решений в бизнесе
Можно, если помнить, что модель достраивает вашу половину истории и строит совет на том, что вы сами сказали. Приукрасите положение компании, и получите стратегию для компании, которой нет. Важное решение стоит сверять с человеком, который скажет неприятное. Модель при этом полезна как генератор возражений и альтернатив.
Как проверять ответы нейросети
Начинайте с трёх вопросов: какая половина не рассказана, где я приукрасил своё положение, что мне придётся снести у себя, чтобы в это поверить. Если сносить нечего, вы услышали зеркало. Гладкий ответ без второй половины это повод переспросить. И проверяйте сначала свой запрос, а потом уже ответ.