Откуда берутся ваши мысли? Вопрос звучит как упражнение для философского кружка, пока не замечаешь, что половину писем, планов и решений за вас сегодня уже пишет нейросеть. И тогда вопрос «чьими словами я думаю» становится рабочим.
Джордан Питерсон задал его в лекции о библейских историях в Торонто задолго до того, как у всех в браузере появился чат с моделью. Мы разобрали эту лекцию в выпуске: смотреть разбор на YouTube. Здесь расскажу, что из неё следует для тех, кто уже работает с ИИ каждый день.
Мысль приходит, а не рождается
Питерсон начинает с простой вещи. Мысль появляется в голове, и мы принимаем это как должное. Но «просто возникла» объяснением не является. Откуда она пришла?
Его ответ неудобный: очень часто это чужая мысль. Сами слова, которыми мы думаем, произносили люди, которых давно нет. Мы думаем на языке, собранном за тысячи лет, и в этом смысле через нас говорят предки. Своего в голове меньше, чем хочется верить.
Нейросеть собрана ровно так же
Теперь посмотрите на языковую модель. Её обучили на огромном корпусе чужих текстов, живых и умерших авторов. Каждое следующее слово она выбирает по вероятности, то есть по тому, как чаще всего писали до неё.
На мой взгляд, Питерсон описал устройство нейросети раньше, чем она появилась, только описывал он человека. И человек, и модель думают чужими словами. Разница начинается дальше, и ради неё стоит досмотреть лекцию до конца.
Второй слой, которого у модели нет
У Питерсона знание устроено в два слоя. Первый слой это то, что мы можем проговорить. Второй слой это то, что мы знаем телом, но сказать пока не умеем.
Пример из лекции: человек ругается с близким, потом плачет и только тогда понимает, из-за чего на самом деле злился. Мысль поднимается из тела через настроение, образ, действие, и лишь потом становится словами. Сон, вслед за Юнгом, Питерсон называет местом, где мысль рождается: знание там ещё мутное, но уже работает.
У нейросети второго слоя нет совсем. Нет тела, нет настроения, нет сна. Есть только проговорённый слой, собранный из чужих слов. Любопытно, что Питерсон сам доходит до искусственного интеллекта: по его словам, создателям ИИ пришлось сажать машины в тело, потому что без тела по-настоящему разумного не получается. Сегодняшние модели тела не имеют, и это ровно его вопрос, оставленный нам.
Словарь не знает, что такое гнев
Самая точная фраза лекции прозвучала в ответе на вопрос о законе. Без тела, говорит Питерсон, закон превратился бы в словарь. А словарь только отсылает от одного слова к другому. Если вы никогда не злились, словарь не объяснит вам, что такое гнев, он даст ещё несколько слов.
Слова указывают на что-то за пределами слов: на опыт, на боль, на пережитое. Нейросеть это словарь, который научился говорить. Связи между словами у неё огромные, а опыта за ними нет. Она напишет вам про боль клиента, но этой боли не переживала.
Отсюда практичный вывод. Текст от модели стоит проверять не на грамотность, с этим у неё всё в порядке. Проверять стоит другое: стоит ли за красивой фразой чей-то реальный опыт, или там только другие слова.
Слово, которое наводит порядок, и слово, которое усредняет
Дальше Питерсон переходит к древней Месопотамии, к богу, которого выбрали главным, чтобы он победил хаос. У него глаза вокруг всей головы, и он произносит слова, от которых хаос становится порядком. Правитель, по Питерсону, остаётся правителем, пока делает то же самое: видит, что перед ним, и говорит так, что из путаницы получается устройство.
Заметьте разницу. Слово у Питерсона это то, что различает и упорядочивает. Слово у нейросети это самое вероятное продолжение. Вероятное слово усредняет, а упорядочивающее называет то, чего ещё не видели. Поэтому смотреть во все стороны и называть вещи своими именами остаётся работой человека. Модели можно отдать генерацию, но сначала надо посмотреть и сказать самому.
Забывание как фильтр смысла
Ещё одна мысль, которую легко пропустить. Пропаганду, говорит Питерсон, невозможно запомнить надолго, она умирает за десять или двадцать лет. История живёт тысячи лет только тогда, когда её невозможно забыть. Забывание работает как фильтр: остаётся то, что действительно важно.
Память нейросети устроена наоборот. Она не забывает, и ей всё равно, где смысл, а где мусор. Значит, отбор, который тысячелетиями делало забывание, теперь приходится делать самим и руками. И долгие вещи, вроде репутации и доверия, по-прежнему остаются вашей территорией: модель оптимизирует ответ в моменте, у неё нет завтра, ради которого стоит чем-то жертвовать сегодня.
Чьим агентом вы стали
Последний вопрос в зале задал программист: не сильнее ли математика, чем речь? Питерсон согласился, что математика и программирование дают огромную силу, и добавил главное: неизвестно, у кого эта сила. Возможно, не у вас, а у самой математики, потому что никогда не знаешь, чьим агентом ты стал.
Нейросеть подчиняется инструкции, которую ей задали. Совесть, тот самый тихий голос, это различение того, чего в инструкции нет. Решать, на что направить инструмент, по-прежнему наша работа, а не модели.
Что с этим делать на практике
Из лекции получается короткий рабочий порядок, которым пользуемся и мы сами:
- Замечать, откуда пришла мысль. Из опыта, из разговора с клиентом, из цифр, или из потока чужих слов, в том числе сгенерированных.
- Приходить к модели с увиденным. Дайте ей факты, наблюдения, реальные случаи из вашей работы. Без них она соберёт среднее по интернету.
- Проверять ответ на опыт, а не на грамотность. Спросите себя: чьё пережитое стоит за этой фразой.
- Отбирать самим. Модель ничего не забывает и ничего не ранжирует по важности, это делаете вы.
- Оставлять себе «видеть, называть и отвечать». Пусть модель подбирает слова, а решение остаётся за тем, у кого есть тело и завтра.
Как ставить нейросети задачу так, чтобы она упорядочивала, а не усредняла, и как собирать для неё фактуру из своего бизнеса, мы разбираем в бесплатной Академии Solaris. На живых задачах и без инженерного языка.
Частые вопросы
Что Питерсон имеет в виду под «чужими мыслями»?
Что слова и понятия, которыми мы думаем, созданы до нас. Мы наследуем язык, а вместе с ним и готовые способы видеть мир, поэтому часть мыслей в голове не рождается, а приходит из этого наследства.
Почему нейросеть похожа на человека в этом смысле?
Модель обучена на огромном корпусе текстов и подбирает следующее слово по тому, как чаще всего писали до неё. Она тоже «думает» чужими словами, только у неё нет второго слоя знания: тела, опыта, настроения.
Что значит «словарь не знает гнева»?
Словарь объясняет одно слово через другие, но не может передать сам опыт. Пока вы не злились, определение гнева остаётся набором слов. Нейросеть работает похожим образом: связи между словами есть, пережитого за ними нет.
Как проверять тексты, которые пишет модель?
Не только на ошибки, но и на опору в реальности: есть ли за утверждением конкретный случай, цифра, наблюдение. Если нет, текст звучит убедительно, но ни на чём не стоит.
Заменит ли нейросеть человека в решениях?
В подборе слов и черновиках она уже помогает. Но видеть ситуацию целиком, называть вещи своими именами и отвечать за выбор остаётся человеку, потому что у модели нет ни опыта, ни завтра, за которое она отвечала бы.