Фараон отказался от письменности. Он сказал Гермесу, что изобретение сделает память ненужной: слово ляжет на папирус и застынет. Сегодня тот же спор идёт про нейросети. Руководитель, который выгрузил в машину всё, что держал в голове, рискует не узнать собственный бизнес.
Повод для разговора: старая аудиторная лекция Валерия Петухова, профессора МГУ, по психологии памяти. Про нейросети в ней нет ни слова, запись сделана задолго до них. Петухов разбирает, как память человека прошла путь от памяти человека традиционной культуры до памяти учёного и что терялось на каждом шаге. Все параллели с нейросетью в этой статье наши, Петухов их не проводил. Разбор с цитатами можно посмотреть на YouTube.
Коротко, три признака памяти, которая думает:
1. Она отвечает на новый вопрос, а не повторяет заученное.
2. Она сводит опыт к схеме: теряет детали ради смысла.
3. Она держится за живую цель, а не за инструкцию «запомни».
Ослабляет ли ИИ память человека
Петухов берёт спор фараона и Гермеса из интервью Умберто Эко, а Эко берёт его из диалога Платона. Гермес приносит фараону письменность. Фараон отвечает: протез ослабляет орган. Колесо отучает ходить, труба портит зрение. Петухов не отмахивается от правителя и выстраивает из спора мысленный диалог: три возражения фараона и три ответа Гермеса. Этот диалог разберём ниже, по пунктам.
Про нейросеть вопрос звучит так же. Если за вас помнит машина, что останется в голове? Наш вывод из лекции: протез и правда ослабляет орган, но только тот, которым перестали пользоваться. Отдали машине письма целиком, слабеет умение формулировать. Отдали разбор проблемы, слабеет умение разбирать.
Вывод для руководителя: вопрос не в том, пользоваться нейросетью или нет. Вопрос в том, какой орган вы перестанете нагружать. Чтобы ответить, посмотрим, из чего память состоит. Петухов начинает с её самой ранней формы.
Какой была память человека до письменности
Петухов опирается на описания этнографов и называет память натурального человека памятью-жизнью. Она ещё не выделена в отдельную функцию и существует не ради того, чтобы помнить.
> Не ради самого запоминания, а ради ориентации в реальности, от которой зависит его жизнь.
У этой памяти три черты. Первая: детальная точность. Каждый предмет помнится целиком, со всеми свойствами, как уникальный. В языке человека традиционной культуры нет обобщённых понятий, зато каждая вещь описана до мелочей. Такая память почти равна восприятию. Вторая: неизменная последовательность. Чтобы составить образ местности, надо в ней действовать и пометить её жестом. Числа живут на теле: пальцы, кисти, локти, плечи. Тело становится средством запоминания. Третья: полная аффективность, то есть слитость любого представления с чувством, потому что от памяти зависит жизнь. Отсюда имя тождественно человеку, рисунок тождествен предмету, и забыть своё имя невозможно.
Нейросеть любят сравнивать с такой памятью: видела всё, помнит всё, не забывает. Наша параллель: сравнение не работает ни по одной из трёх черт. Модель не хранит тексты как архив. При обучении она сжимает огромное количество чужих текстов в общие закономерности, детали теряет или смешивает, хотя иногда воспроизводит фрагменты дословно. У модели нет тела, которое могло бы запомнить порядок движением. У неё нет чувства, потому что от ответа не зависит её жизнь. Человек традиционной культуры помнит, потому что иначе погибнет. Модель предсказывает следующее слово, потому что её так обучили. Это разные вещи.
Одна параллель, на наш взгляд, точная. Петухов объясняет, почему племя скрывает свой язык: кто знает мой язык, тот управляет моим поведением. Для нейросети текст тоже рычаг управления: формулировка задачи сильно влияет на ответ.
Наша мысль для руководителя: посмотрите, что в своём бизнесе вы помните без усилия, без записей и напоминаний. Это и есть то, от чего он зависит. Эту часть не нужно отдавать машине, она и так при вас.
Что значит: взрослый помнит, потому что мыслит
Ребёнок мыслит, потому что помнит. Взрослый помнит, потому что мыслит. Петухов приводит эту фразу Выготского как ключ ко всей теме. Для Выготского память человека традиционной культуры это ещё память, но не связанная с познанием: сырой материал, который предстоит переработать.
Француз Пьер Жане был строже. Он вообще не называл это памятью, а называл навязчивой реминисценцией, то есть навязчивым воспроизведением. Жане видел такое в клинике. Пациентка забыла смерть матери на уровне рассказа, но её тело повторяло одни и те же движения: точные, в неизменном порядке, нерационально долгие и мешающие жить. Это память без возможности перестроить. Настоящую память Жане называл памятью-рассказом. Она экономна, не мешает действию и начинается с умения ответить на вопрос.
Здесь параллель с нейросетью, на наш взгляд, работает гораздо лучше. Модель, которая выдаёт заученный кусок текста слово в слово, ведёт себя как реминисценция: точно, неизменно и не к месту. Модель, которая отвечает на ваш вопрос в новых обстоятельствах и перестраивает знание под них, ведёт себя как память-рассказ. Тест, на наш взгляд, один и тот же для сотрудника, для себя и для машины: можно ли ответить на вопрос, которого не было в учебнике.
Вывод главы: память стала мышлением, когда у человека появилась задача запомнить, то есть цель и средство. Для руководителя это значит, на наш взгляд, что заученный регламент сотрудника и заученный ответ нейросети сами по себе стоят немного. Ценность начинается там, где знание пересобрано под новый вопрос.
Как ставить задачи нейросети, мы разбираем в бесплатной Академии Solaris AI (программа на 6–8 недель с практическими заданиями к каждому модулю).
Протез и орган: в чём фараон был прав
Вернёмся к мысленному диалогу фараона и Гермеса. Пройдём три возражения и три ответа, подставляя вместо письма нейросеть. Подстановка наша.
Первое возражение: письмо убьёт естественную память. Ответ Гермеса: язык лишь посредник, который изменит структуру памяти. Подставим нейросеть: она не отменяет память, она меняет её устройство. Что хранить снаружи, а что держать в голове, решаете вы.
Второе возражение: человек обленится, перестанет держать весь опыт в голове, и мир наполнится случайностями. Ответ Гермеса:
> …тогда можно будет осознавать свой опыт с помощью письменных знаков.
Это значит: составлять схемы и обогащать их при каждой новой встрече. С нейросетью, на наш взгляд, так же: освободившееся время можно потратить на то, чтобы понять собственный опыт. Можно и не потратить, и тогда прав фараон.
Третье возражение, самое серьёзное для правителя: ослабнут связи, человек выйдет из-под опеки коллектива и погибнет в страхе. Ответ: письменный знак позволяет содержать опыт совместно и впервые содержать себя самому. Петухов сравнивает это с ребёнком, который говорит: я сам.
И дальше честная оговорка: фараон был по-своему прав. Мы с неизбежностью теряем детали и обретаем схемы. Теряем, но продуктивно.
Чтобы понять, чем протез отличается от органа, пригодится ещё одна мысль из той же лекции. Петухов приводит Бернштейна: навык формируется не повторением, а повторением без повторения. Каждая новая проба что-то меняет в самом человеке. Нейросеть, на наш взгляд, устроена иначе. От ваших проб в диалоге её внутренние настройки не меняются. В пределах разговора она учитывает ваши реплики, у некоторых сервисов есть память между чатами, но учится на каждой пробе только человек.
Наш вывод главы: хранение отдавайте документам и базам, машине отдавайте разбор и черновик, себе оставляйте осознание и схему. Кто отдал хранение, выиграл время на схему. Кто отдал схему, отдал орган.
Что такое эффект Зейгарник простыми словами
Курт Левин, по Петухову, изучал память не ради неё самой, а как след от выполнения действия. Отсюда эффект Зейгарник: содержание прерванных действий запоминается лучше, чем выполненных, потому что сохраняется напряжение цели. Вы помните незаконченное не потому что память хорошая, а потому что цель ещё жива и держит материал.
Наш пример: вы собрались отправить письмо, и в этот момент зазвонил телефон. Письмо осталось на столе и весь день не выходит из головы. Письмо, которое отправили утром, вы к обеду уже не помните.
У эффекта два условия. Первое: действие прервано внезапно, когда цель уже возникла, а само действие ещё не произошло. Второе: установка на запоминание снижает эффект. Когда вы специально стараетесь запомнить, вы помните хуже.
> Память это та же функция от сохранения целевой структуры действия.
Нет вашей цели, нет и вашей памяти. У нейросети, на наш взгляд, такого механизма нет. У неё нет собственной цели и нет напряжения от незавершённого дела: она отвечает на запрос и останавливается. Поэтому цель в диалог с машиной приносите вы, и только вы.
Наш вывод для руководителя: если сотрудник забывает, дело может быть не в памяти, а в том, что у него нет собственной цели в этом деле. То, что вылетает, несмотря на повторения, к цели не привязано.
Три признака и одно правило на практике
Соберём три признака памяти, которая думает, и посмотрим, как проверить каждый. Проверки наши.
1. Отвечает на новый вопрос, а не повторяет заученное. Проверка: задайте вопрос, которого не было в инструкции. Сотрудник, который пересобрал знание, ответит. Тот, кто только заучил, повторит ближайший абзац регламента.
2. Сводит опыт к схеме, теряет детали ради смысла. Проверка: попросите пересказать проект в пять фраз. Кто помнит только детали, не сможет. Кто понял, выделит главное.
3. Держится за живую цель. Проверка: спросите, зачем это помнить. Если ответ только «так положено», материал уйдёт, сколько его ни повторяй.
И одно правило для нейросети: ставьте задачу от своей цели, а не просьбу запомнить и пересказать. Скажите модели, какое решение вы принимаете и что уже поняли сами. Попросите схему и спорные места, а не полный пересказ. Тогда машина делает то, что умеет: разбирает ваши документы, сжимает их и предлагает черновик. Черновик нужно проверять, модель может и выдумать. Осознание опыта и схема остаются у вас, и орган не слабеет.
Человек традиционной культуры помнил, потому что жил. Учёный помнит, потому что мыслит. Машина выдаёт черновик, потому что её так построили. Единственный, кто в этой цепочке умеет превращать хранение в мышление, это вы. Этот орган протезу не отдаётся.
Если вы собираетесь доверить нейросети часть процессов, начните с чек-листа «12 вопросов перед внедрением» в нашем боте.
Один шаг до пятницы, 23 октября: выберите одну задачу, которую собираетесь отдать нейросети, и запишите в одну строку, какое решение вы по ней принимаете и что уже поняли сами.
Частые вопросы
Правда ли, что Петухов говорит о нейросетях?
Нет. Лекция записана задолго до них и посвящена общей психологии. Сравнения с машиной принадлежат команде Solaris AI, и мы отмечаем их в тексте как свои. Где сравнение не сходится, мы так и пишем.
Нейросеть запоминает то, что я ей пишу?
По ходу одного разговора модель опирается на всё, что вы написали раньше. Её внутренние настройки от этого не меняются, и ваши сообщения не становятся частью её знаний, если разработчик специально не обучит её заново на этих данных. У некоторых сервисов есть отдельная память между чатами, её стоит проверить в настройках.
Нейросеть помнит всё, что прочитала при обучении?
Нет. Она не держит прочитанное как архив, а сжимает его в общие закономерности. Детали при этом теряются или смешиваются, хотя отдельные куски модель иногда выдаёт слово в слово. Поэтому важные данные нужно держать в документах и базах, а модель подключать к ним.
Чем память-рассказ отличается от заученного текста?
Заученный текст воспроизводится в одном и том же виде, уместен он или нет. Память-рассказ отвечает на поставленный вопрос, отбрасывает лишнее и подстраивается под обстоятельства. Жане считал настоящей памятью только вторую.
Почему незаконченные дела не выходят из головы?
По Левину, память держится на напряжении цели. Пока дело не завершено, цель жива, и материал остаётся в сознании. Как только действие закончено, напряжение спадает, и подробности уходят.
Что значит ставить задачу нейросети от цели?
Сначала описать, какое решение вы принимаете и что уже поняли сами, и только потом просить что-то сделать. Вместо «перескажи документ» лучше попросить схему и места, где документ расходится с вашим пониманием. Так ответ подстраивается под ваш вопрос, а проверка остаётся за вами.