Джордан Питерсон, клинический психолог, в одной из лекций своего библейского цикла говорит неудобную вещь: совесть внутри нас это голос культуры, но он старый и давно не обновлялся. В ролике на нашем канале мы в Solaris AI разбираем эту лекцию, а здесь текстовая версия. Наша параллель: нейросеть, с которой сегодня работает бизнес, тоже голос культуры. Из этого, на наш взгляд, следует простая практика работы с ней.
Коротко:
1. По Питерсону, совесть это голос культуры внутри человека. Он отстаёт и обновляется только в столкновении с миром и другими людьми.
2. Нейросеть, на наш взгляд, похожий голос: она обучена на чужих текстах и застыла на дату обучения.
3. Сначала вопрос себе, потом задача модели. Просите у неё черновик и спор, а решение оставляйте за собой.
Что значит «совесть устарела» по Питерсону
Совесть у Питерсона не сломана, а отстаёт: в неё записано то, что культура успела сформулировать, причём не до конца. Поэтому, на наш взгляд, доверять ей молча, как инструкции, не стоит. Проверять её лучше разговором и столкновением с миром.
Питерсон иллюстрирует это Пиноккио. В его прочтении сверчок Джимини это и есть совесть, но в начале истории он такой же путаный и самодовольный, как сам деревянный мальчик. Совесть у Питерсона не безошибочный судья, а то, что можно вырастить в надёжного проводника, если с ним сотрудничать.
Рядом стоит другая его мысль, которую мы разбирали раньше: тот, кто решает ваши проблемы, крадёт вашу судьбу. На наш взгляд, так же и с совестью: отдать её кому-то снаружи нельзя.
Чем нейросеть похожа на такую совесть и чем отличается
На наш взгляд, нейросеть это тоже голос культуры: её обучили на огромной массе чужих текстов и зафиксировали на определённую дату. В этом сходство с совестью по Питерсону: оба голоса пересказывают то, что уже было сказано до вас.
Разница в том, что происходит дальше. Ваша совесть доучивается от каждого столкновения с миром. Модель в диалоге не дообучается: разговор с ней ничему её не учит, и завтра на тот же запрос она ответит примерно так же. Про это у нас есть отдельный разбор о том, что у нейросети одна память, а у человека две.
Что делать: не отдавать совесть модели. Решение о том, что правильно для вашего дела, принимайте сами, а модель подключайте к работе над уже принятым решением.
Почему интерес нельзя вызвать усилием воли
Вторая мысль Питерсона: интерес вам не подчиняется, вы не хозяин в собственном доме. Вы садитесь учить сложный курс на 3 часа, а внимание уходит куда угодно. Тогда чьё это внимание, если вы им не управляете? Интерес нельзя вызвать усилием, он проявляется сам и захватывает. Питерсон называет это зовом и предупреждает: если то, что зовёт, не слушать, за это придётся заплатить, и вы будете знать, чья это вина.
Здесь, на наш взгляд, параллель с нейросетью честно ломается. У модели есть механизм, который называют вниманием, но это не интерес в человеческом смысле. Зова у неё нет, есть только присланный запрос. Поэтому вопрос, что цепляет вас без усилия, можно задать только себе. На наш взгляд, ответ стоит записать: это и есть направление.
Зачем просить у нейросети плохой первый черновик
Питерсон велит студентам писать очень плохой первый черновик и то же самое говорит о жизни. Пока черновика нет, править нечего. Когда он есть, его можно улучшать шаг за шагом, и это, по его словам, самая ценная вещь. Он ссылается на Юнга: шут предшествует спасителю. Начиная новое, человек выглядит глупо, и в прочтении Питерсона это и есть смирение. Пример неудобного старта у него библейский: Авраам вышел в путь в 75 лет, с бесплодной женой и без всего, и Питерсон называет такой старт радикально недостаточным. Начать можно только оттуда, где вы стоите.
Нейросеть сегодня, на наш взгляд, хорошо пишет плохие черновики. Но просить её нужно именно о черновике, а не о готовом ответе. Разница видна на простом бытовом запросе. Было: «Напиши письмо соседу, чтобы он не шумел по вечерам». Стало: «Набросай плохой первый черновик письма соседу про шум по вечерам. Я хочу сохранить добрые отношения и не люблю конфликтовать. Оставь места, куда я сам впишу, что именно мешает, а в конце напиши, что в этом черновике слабо». Во втором случае модель даёт материал, а решения остаются за вами. Про то, как ставить задачи нейросети, у нас есть отдельная статья. У нас есть бесплатная Академия.
Почему путь к цели идёт зигзагом
Путь к цели у Питерсона идёт зигзагом: вы идёте на свет, ошибаетесь, бьётесь о стену и замечаете, что свет чуть в другом месте. Каждый поворот он называет маленькой смертью, перерождением феникса, и признаёт, что это больно. Но дорога всё равно ведёт вперёд, а стоять на месте, по его словам, значит откатываться.
«Потому что если стоишь на месте, ты откатываешься. Стоять нельзя: мир уходит от тебя.»
Его арифметика такая: 20 миль дороги дают 3 мили вперёд, и это лучше, чем откатиться. Мир, говорит Питерсон, сделан из информации: сцепляешься с ним, и он тебя информирует. Отсюда, на наш взгляд, ещё одно отличие от модели. Она сцепилась с миром один раз, на этапе обучения, а вы можете каждый день. О памяти человека и модели у нас есть статья: Питерсон: 4 вида памяти у человека, у нейросети один. На наш взгляд, вывод простой: шаг, потом поправка.
Чем вы жертвуете ради главного
Обязательство и жертва у Питерсона одно и то же. Если вы ничем не платите за цель, обязательства перед ней нет. Жертвовать, в его прочтении, нужно самым ценным из того, что вас останавливает, и часто это худшее в вас, в которое вы влюблены.
Модель ничем не платит. На наш взгляд, здесь ещё одна граница: нейросеть обычно выбирает вероятное продолжение здесь и сейчас, у неё нет завтра. Её удерживают правила, заданные снаружи. Человека удерживает то, что он знает сам. Поэтому решение и цена за него остаются за вами, и назвать вслух, чем вы жертвуете ради главного, может только человек.
Мышление начинается в голове, а продолжается в споре
Питерсон утверждает, что мышление не происходит внутри головы, там оно только начинается. Думать, в его описании, значит построить в голове картину мира и отправить туда своего аватара: если он там гибнет, вам не придётся гибнуть самому. Но наедине с собой человек остаётся предвзятым. Только тот, кто скажет, где вы неправы, делает вам подарок.
«Ведь мышление не происходит у тебя в голове. Там оно только начинается.»
На наш взгляд, нейросеть здесь полезна как собеседник, а не как всезнающий советчик. Ей нужно прямо ставить задачу спорить: найти слабое место в плане и показать, как ваш аргумент разобьёт оппонент. Без такой задачи она нередко соглашается с вашей мыслью и развивает её. Это наше наблюдение, не правило.
Что делать: просить модель спорить с вами и слушать её ответ так, будто вам сказали, где вы неправы. Решать, кто прав, всё равно вам.
Один вопрос утром вместо решения
Питерсон каждое утро садится и спрашивает себя, на что обратить внимание в первую очередь. Он подчёркивает: это не столько решение, сколько вопрос, и он сам не до конца знает, к чему при этом обращается. Второе его упражнение рассчитано на месяц: не делать и не говорить того, что сам знаешь как глупое, просто в качестве эксперимента. Мера роста у него скромная: чуть лучше вчерашнего, но каждый день, и за год это, по его словам, набегает нелепо много.
Для работы с нейросетью мы видим это так. Сначала один вопрос себе: что сегодня самое важное. Потом задача модели. И не наоборот: если первым делом открыть чат, направление дня задаст вероятное продолжение чужих текстов, а не ваш зов.
С чего начать до пятницы
Начните с порядка действий, а не с новых инструментов. Совесть и решение остаются за вами, модели достаются черновик и спор.
Шаг до пятницы 20 ноября: 3 утра подряд, начиная со среды 18 ноября, сначала запишите одной строкой, что сегодня самое важное, и только потом ставьте задачу нейросети. В одной из этих задач попросите модель найти, где вы неправы.
Если захотите обсудить, как встроить такой порядок в работу вашей команды, напишите нам в бота.
Близкую тему с другой стороны мы разбирали в статье Мамардашвили: место вашей мысли уже занято. При чём здесь нейросеть.
Ещё одна мысль Питерсона, о мышлении и жертве, есть в статье Питерсон: пусть ваши мысли умрут вместо вас, и при чём тут нейросеть.
Частые вопросы
Что Питерсон имеет в виду, когда говорит, что совесть устарела
Совесть у него это голос культуры внутри человека, который отстаёт. Обновляется он, по Питерсону, только в диалоге и в столкновении с миром.
Можно ли доверять нейросети как совести или советчику
Как совести нет, как собеседнику да. На наш взгляд, модель это голос культуры, застывший на дату обучения, и она ничем не платит за свои ответы. Решение и цену за него стоит оставлять за человеком.
Почему нейросеть не учится на разговоре с пользователем
Модель в диалоге не дообучается: её знания зафиксированы на дату обучения. Завтра на тот же запрос она ответит примерно так же.
Как ставить задачу нейросети, чтобы получить пользу
Просите плохой первый черновик и спор, а не готовый ответ. Опишите контекст и попросите назвать слабые места. Решение берите на себя.
Что Питерсон советует делать каждое утро
Садиться и спрашивать себя, на что обратить внимание в первую очередь. Он подчёркивает, что это вопрос, а не решение. На наш взгляд, делать это стоит до первой задачи нейросети, а не после.
