Спросите человека, зачем он так поступил. Объяснение найдётся сразу. А настоящая причина останется в тени, иногда даже для него самого. На таких объяснениях компании теряют месяцы: мы верим рассказу о решении и не смотрим на само решение. Мы разобрали это в выпуске на нашем канале: смотреть разбор на YouTube. В основе выпуска лекция Владимира Петухова по общей психологии, прочитанная в МГУ в конце девяностых: в ней три идеи о мышлении, которые сегодня читаются как описание нейросети.
Почему объяснение не равно причине
Фрейд, по Петухову, начинает не с сексуальности, а с простого наблюдения. Человеку под гипнозом внушили действие. Он проснулся, всё забыл, а действие выполнил. Спросите его, зачем, и он тут же найдёт причину. Пациентка Фрейда прошла через весь город под дождём и честно сказала: не знаю, зачем пришла. Так отвечают редко. Обычно мы придумываем объяснение мгновенно, и вот эта придуманная причина и есть бессознательное. Отсюда второе определение из лекции, самое точное: сознание без понимания. Сознание, которое не делает свою работу.
Здесь первая связка с нейросетью, и она честная. Модель предсказывает следующее слово по весам, которые вынесла из огромного корпуса чужих текстов. Когда вы просите её объяснить свой ответ, она порождает ещё один правдоподобный текст, а не отчёт о причине. Причина лежит в весах и в вашей формулировке задачи. Заглянуть туда модель не может, как пациент Фрейда не может заглянуть в свой мотив. Разница тоже есть: у человека за объяснением стоит задержанное чувство, у модели за ним ничего не болит.
Что делать: объяснение модели читайте как гипотезу, а проверяйте сам результат: цифры, код, договор.
Крысы Толмена, латентное научение и карта в голове
С крыс началась современная психология поведения. Эдвард Толмен запускал в лабиринт три группы крыс. Первой давали приманку, и она выучила путь за восемнадцать дней. Вторую не награждали вообще, и она все дни бегала как попало: снаружи никакого научения не видно. Третью десять дней не награждали, на одиннадцатый положили приманку, и она дошла до нормы всего за неделю. Значит, пока награды не было, крысы всё равно учились, просто незаметно. Толмен назвал это латентным научением. А выученное назвал когнитивной картой: представлением о местности, на которой действует субъект.
Решающий опыт: лабиринт залили водой. Все привычные движения сменились. Обученные крысы проплыли его так же, как раньше бегали. Внешние условия действуют только через внутренние. Для бихевиориста Толмена такой вывод был почти запрещён, и он его сделал.
Есть ли карта у нейросети, или там только цепочка рефлексов, стимул и реакция? Честный ответ: до конца этого не знает никто. Но тест Толмена работает на любой модели. Залейте лабиринт водой: смените условия задачи, переставьте данные, спросите то же самое с другого конца. Если модель проплыла, у неё есть представление о вашей задаче. Если утонула, она повторяла знакомую дорожку. То же с сотрудником, который якобы понял процесс. Дайте ему ту же задачу в новых условиях и посмотрите. И помните про латентное научение: то, что вы читаете без немедленной выгоды, тоже ложится в карту.
Что делать: прежде чем доверить процесс модели или сотруднику, дайте ту же задачу в изменённых условиях и посмотрите, проплывёт ли.
Кольцо Бернштейна: кто вносит дельту
Второй герой лекции, физиолог Николай Бернштейн, замкнул рефлекторную дугу Павлова в кольцо. Павлов прав, говорит Бернштейн, но для собаки, зажатой в станке в башне молчания, где внешнего мира нет. Выпустите собаку во двор, и движение потребует поправок. Тело всё время сверяет, что делает, с тем, что хотело. В центре кольца программа движения, рядом блок сличения. Разницу между планом и реальностью Бернштейн назвал дельтой. Именно сообщение о разнице идёт наверх и правит следующее движение. Без этого живое движение невозможно. За книгу об этом Бернштейн получил Сталинскую премию в сорок седьмом, а через два года был изгнан из науки.
У нейросети в момент ответа кольца нет. Она выдаёт текст и не видит, что с ним случилось в вашем мире. Дельту в её кольцо вносите вы: результат внедрили, сравнили с планом, разницу вернули в следующую задачу. Это и есть гибридный разум: программа у модели, сличение у человека. Без сличения модель остаётся собакой в станке. Как строить такие кольца в работе с моделью, мы разбираем в бесплатной Академии Solaris.
Что делать: каждый ответ модели считайте первым движением, а не результатом. Разницу с реальностью возвращайте ей следующим запросом.
Аффективный комплекс: сцепление по соседству
Вернёмся к Фрейду и к девушке, которая не могла пить из чашки и утоляла жажду только фруктами. Под гипнозом она вспомнила: компаньонка отца поила собачку из его чашки. Ей стало противно, но она молча закрыла дверь. Чувство задержали, а оно сцепилось с чашкой, потом с любой посудой. Фрейд назвал такое сцепление аффективным комплексом. И тут Петухов делает оговорку, важную для нас. Комплекс это отсутствие понятия: случайные детали вместо смысла. Чувство могло зацепиться и за цвет платья компаньонки. Логики в сцеплении нет, есть только соседство.
Нейросеть учится ровно на соседстве: какие слова стояли рядом в миллиардах чужих текстов. Она не задерживала аффект, но ошибки её похожи. Уверенное сцепление деталей, которые просто часто встречались вместе.
Что делать: ставьте задачу модели понятиями: что это, зачем, чем отличается. Не кучей примеров без определения.
Свободные ассоциации и сопротивление как указатель
Фрейд отказался от гипноза. Пациент должен решить свою проблему сам, наяву, и для этого нужен метод. Метод свободных ассоциаций предложил Юнг: говорите всё, что приходит в голову, особенно то, что кажется бессмысленным. Главный сигнал метода: когда человек говорит, что больше не хочет вспоминать, он приблизился к причине. Не исчерпал ассоциации, а именно не хочет. Это точка, где сопротивление указывает на суть. Юноше снился слон и запертая дверь. На слоне он вспомнил пьяного отца, склонявшегося над ним, и сказал: хватит.
На совещании это работает так же. Тема, которую все дружно обходят, обычно и есть причина. У модели сопротивления нет: ей ничего не стыдно, и она никогда не скажет «не хочу». Это удобно, ей можно задать вопрос, который неловко задать коллеге. Но и указателя на причину у неё нет. Он только в вас.
Почему быстрый ответ успокаивает, а проблема возвращается
Последнее определение лекции: бессознательное это след неверного решения важной жизненной проблемы. Мальчик спросил, чем он отличается от сестрёнки. Он спрашивал о любви, а ему ответили про пестики или запретили спрашивать. Он придумал свой ответ, тревога ушла, а причина осталась. Поэтому тревога будет возвращаться вновь и вновь. В этом амбивалентность: решение снимает чувство и тем самым сохраняет его причину.
Нейросеть выдаёт неверный ответ на важный вопрос быстрее всех в истории. И делает это очень успокаивающе. Тревога перед решением снята, сам вопрос не решён, и он вернётся в отчётности через квартал.
Что делать: когда ответ пришёл слишком быстро и стало легко, спросите себя, что именно вы только что не решили.
Три проверки на выход
1. Для себя. Поступок против рассказа. Когда слышите объяснение решения, проверяйте само решение, а не рассказ о нём.
2. Для команды. Сотрудник в новых условиях. Залейте лабиринт водой: та же задача, другие условия, и смотрите, проплыл ли.
3. Для нейросети. Возвращаем модели разницу. Ответ считаем первым движением, дельту с реальностью отправляем следующим запросом.
Этот выпуск целиком собрал наш ИИ-агент для YouTube.
Частые вопросы
Можно ли доверять объяснениям нейросети?
Нет, как отчёту о причине. Модель предсказывает следующее слово по весам и по вашей формулировке задачи, а заглянуть в них не может. Когда вы просите объяснить ответ, она пишет ещё один правдоподобный текст. Читайте его как гипотезу и проверяйте сам результат.
Что такое латентное научение простыми словами?
Это научение без награды, которое снаружи не видно. Крысы Толмена десять дней бегали по лабиринту без приманки и, казалось, ничему не учились. Когда приманку положили, они дошли до нормы за неделю вместо восемнадцати дней. То, что вы читаете без немедленной выгоды, тоже ложится в карту.
Как проверить, понимает ли нейросеть задачу?
Залейте лабиринт водой, как Толмен. Смените условия задачи, переставьте данные, спросите то же самое с другого конца. Если модель справилась, у неё есть представление о вашей задаче. Если нет, она повторяла знакомую дорожку.
Что такое кольцо обратной связи Бернштейна?
Бернштейн замкнул рефлекторную дугу Павлова в кольцо. В центре программа движения, рядом блок сличения, а разница между планом и реальностью называется дельтой. Сообщение о дельте идёт наверх и правит следующее движение. У нейросети такого кольца нет, дельту в него вносит человек.
Почему проблема возвращается после быстрого решения?
Потому что решение снимает тревогу, а причину не трогает. Мальчик из лекции придумал свой ответ вместо честного, успокоился, и тревога стала возвращаться. Нейросеть выдаёт неверный ответ на важный вопрос очень быстро и очень успокаивающе. Если стало легко слишком быстро, спросите себя, что именно вы не решили.