В тридцатые годы психолог Александр Лурия поехал в Узбекистан проверять, как думают люди, которые никогда не ходили в школу. Он задавал простую задачу: на севере, где вечно лежат снега, все медведи белые; хижина старика стоит на севере; какого цвета медведи около хижины?
Школьник отвечает не задумываясь: белые. Пожилой крестьянин отвечает иначе: я не знаю, спроси старика, он там был. Я там не был и лгать не буду.
Лурия записал в протокол: ответ не получен, логика нарушена. И только через сорок лет понял, что произошло на самом деле. Психолог Валерий Петухов разбирает эту историю в лекции 1997 года, а мы перенесли её в сегодняшний день: смотреть разбор на YouTube.
Крестьянин не провалил тест
Он отказался рассуждать о том, чего не видел своими глазами. Про хлопок тот же человек отвечал уверенно: где тепло и влажно, там хлопок растёт. Это он видел. Про белых медведей молчал, потому что рассуждать о невиденном для него означало солгать.
Петухов приводит и второй пример. Пила, топор, лопата, бревно: что лишнее? Школьник отвечает мгновенно: три орудия труда, бревно лишнее. Крестьянин говорит: пилой бревно распилю, топором разрублю, а лопата тут ни при чём. Он не сортировал слова, он представил работу.
Почему это вдруг стало актуально
Посмотрите теперь на нейросеть. Она устроена ровно наоборот. Модель охотно рассуждает о вашем рынке, вашем клиенте и вашем складе, хотя не видела ни одного из них. Она без запинки ответит про медведей у любой хижины, даже если такой хижины нет на свете.
Это идеальный школьник из опыта Лурии: всё объяснит, ни в чём не убедился сам.
И ровно то же самое делают люди. Руководитель уверенно судит о цехе, в котором не был полгода. Консультант рассказывает, как надо, не посмотрев ни одного вашего дня. Отчёт показывает цифру, которую никто не проверял глазами.
Что делать: перед решением честно ответить себе, вы это видели или вам это рассказали.
Две честные опоры: факт и вывод
Значит ли это, что рассуждать о невиденном нельзя? Нет. Просто у такого знания другая опора.
Петухов вспоминает Канта, который ни разу не выезжал из своего города, но собирал карты и мог объяснить дорогу в местах, где никогда не был. Кант тоже рассуждал о невиденном, но честно понимал, на что опирается.
- Достоверность факта. Я видел, я трогал, я замерил. Так отвечал крестьянин.
- Достоверность вывода. Если посылки верны, верен и вывод. Так работал Кант.
Обе опоры честные. Беда начинается, когда вторая тихо выдаёт себя за первую. План продаж это допущение. Отчёт кассы это факт. Если в разговоре они смешались, решение принимается вслепую.
У Петухова на это есть пример из сказки. Мальвина спрашивает Буратино: у тебя три яблока, два отдал Артемону, сколько осталось? Буратино отвечает, что яблок он никому не отдаст, поэтому вопрос бессмыслен. Он живёт фактами. Мальвина просит на минуту допустить, что факт другой. Это и есть абстрактное мышление, и без него не построишь ни плана, ни прогноза.
Три привычки руководителя
Из этой лекции выходит короткий рабочий свод.
1. Перед решением спросить себя: я это видел или мне рассказали. Половина дорогих ошибок начинается с пересказа, который приняли за наблюдение.
2. Любой ответ встречать вопросом крестьянина: ты там был? Это касается и нейросети, и подрядчика, и собственного менеджера.
3. Если ответ стоит на допущениях, назвать их вслух. Как Мальвина назвала три яблока. Допущение, произнесённое вслух, перестаёт быть невидимым.
Как это переводится в работу с нейросетью
Самое практичное из лекции переносится в запрос напрямую. Попросите модель разделять знание и предположение:
- «Отдели, что ты знаешь из моих данных, от того, что предполагаешь».
- «Отметь каждое утверждение, которое ты не можешь проверить по присланным документам».
- «Если данных не хватает, скажи об этом, а не достраивай».
Дальше остаётся вторая половина работы, и она наша, человеческая: дать модели факты. Модель не была в вашем цехе, но она может опираться на ваши документы, если они есть. Регламенты, история решений, реальные цифры за месяц, записанные правила. Ровно поэтому мы в любом внедрении начинаем не с модели, а с описания процесса и сбора фактуры: внедрение искусственного интеллекта.
Как проверять ответы нейросети фактами своего бизнеса и как собирать для неё базу знаний, мы разбираем в бесплатной Академии Solaris. Без инженерного языка, на живых задачах.
Почему я вообще взялся за эту лекцию
Потому что это самая частая причина неудачных проектов с ИИ, которую я вижу. Не модель слабая и не люди плохие. Просто в решение попало допущение под видом факта: «клиенты хотят», «менеджеры так делают», «это занимает пять минут». Никто не был в хижине, а про медведей все ответили уверенно.
Неграмотный крестьянин из тридцатых знал границы своего знания лучше, чем изучавший его учёный. И это, пожалуй, та грамотность, которой не научит ни школа, ни нейросеть.
Частые вопросы
В чём была ошибка в эксперименте Лурии?
Ответ крестьянина «я там не был и лгать не буду» записали как провал логики. На деле человек обозначил границу своего знания. Сам Лурия понял это спустя десятилетия и опубликовал материалы только в семидесятые.
Почему нейросеть уверенно отвечает о том, чего не знает?
Она обучена продолжать текст правдоподобно, а не проверять факты. У неё нет опыта вашего склада или цеха, поэтому ответ строится на общих закономерностях и звучит уверенно независимо от того, есть ли под ним данные.
Как заставить модель отделять факты от предположений?
Прямо попросить об этом в запросе: разделить знание и допущение, отметить непроверяемые утверждения, сообщать о нехватке данных. И дать ей ваши документы, чтобы было на что опираться.
Чем достоверность факта отличается от достоверности вывода?
Факт это то, что вы наблюдали: цифра из кассы, замеренное время, увиденный процесс. Вывод это то, что следует из посылок: план, прогноз, расчёт. Обе опоры нужны, опасно только выдавать вторую за первую.
С чего начать руководителю?
С одного вопроса на каждой планёрке: это факт или предположение. Через неделю станет видно, сколько решений в компании принимается на пересказах.