На наш взгляд, многие решения в компаниях принимаются тем, что бросилось в глаза, а не мыслью. Владимир Петухов, курс общей психологии МГУ, говорит близкое: по его словам, если профессия не требует мыслить, человек может долго оставаться на дооперациональной стадии (ранней, когда логическими операциями ещё не пользуются). Из его лекции о познании, образе и речи мы вынесли три признака, по которым мысль отличается от её имитации: у себя, у сотрудника и у нейросети.
Главный вопрос статьи: ребёнок и нейросеть выучили язык без правил. Почему от этого не начинают мыслить ни ребёнок, ни нейросеть? Мы разобрали лекцию в выпуске на нашем канале: смотреть разбор на YouTube. Петухов сталкивает двух учёных, которые спорили заочно и никогда не встречались: Жана Пиаже и Льва Выготского. Их спор о детской речи сегодня звучит как спор о нейросетях.
Почему мышление попадает в плен к восприятию
Мышление попадает в плен, когда человек отвечает на то, что видит, а не на то, о чём спросили. У Пиаже есть опыт с бусинами: все деревянные, часть коричневые, часть белые. Каких больше, коричневых или деревянных? Ребёнок отвечает: коричневых, ведь он видит, что их больше, чем белых. Петухов говорит: его мышление находится в плену у восприятия. То же со стаканами: воду перелили из широкого в узкий, столб выше, значит, воды стало больше.
По словам лектора, это стадия до семи или восьми лет, но взрослые могут в ней задержаться, если работа не требует мыслить. Выход Пиаже называет децентрацией: учесть другого, даже если от этого шатаются собственные взгляды. Петухов зовёт это продуктивным нарушением равновесия.
Признак первый: разница между «мне кажется» и «на самом деле»
Первый признак мысли: у человека есть разница между «мне кажется» и «на самом деле». Петухов описывает сам момент перехода. Ребёнок заглядывает в стакан и говорит: батюшки мои, мне кажется, что здесь больше, но я знаю, что одинаково. На самом деле одинаково, добавляет лектор. До этой секунды у человека была только картинка. После неё есть картинка и есть истина.
На наш взгляд, нейросеть работает почти целиком в режиме «мне кажется». Модель каждый раз выбирает следующее слово по вероятности, то есть по тому, как чаще всего бывает в текстах. У неё нет второго стакана, куда можно заглянуть и сверить, как на самом деле. Это не значит, что она всегда ошибается: в текстах много истины, и вероятное часто совпадает с верным. Но проверка «на самом деле» остаётся на вашей стороне, и здесь вас не заменить.
Что делать: перед следующим решением спросите себя, это мне кажется или на самом деле.
Признак второй: за «потому что» стоит связь
Второй признак мысли: за словом «потому что» стоит связь, которую можно оборвать и проверить. Когда ребёнок начинает учитывать взрослого, его цельная картинка разворачивается в цепочку. Петухов сравнивает её с цепочкой, которую смяли в комок, а потом растянули: звенья есть, а связать их надо заново. Ребёнок берёт у взрослого связку «потому что», но пользоваться ею ещё не умеет. Пиаже назвал это трансдукцией: переход от частного к частному, без общего правила. Лектор приводит пример из Выготского: картинки, где мальчик на велосипеде наткнулся на что-то и упал. Почему упал? Потому что ушиб ногу, и так далее. Это не ошибка логики, это её отсутствие: вместо причины ребёнок перечисляет детали в форме рассуждения.
Вспомните ответ нейросети, где «потому что» стоит на месте, а связи за ним нет. Модель видела эти слова очень много раз и воспроизводит форму объяснения, а наполнение подбирает по вероятности. На наш взгляд, это самая точная параллель всей лекции. Но она не полная: современные модели умеют проверять свои шаги, и их цепочки часто верны.
Здесь вступает Выготский. Он заметил, что ребёнок говорит вслух сам с собой, когда сталкивается с трудностью. Сломался карандаш, и ребёнок рассуждает: нет нужного, попробую изобразить другим. Эта речь планирует действие, а потом уходит внутрь и становится мыслью. Нейросеть, которая думает вслух перед ответом, делает похожее: внешняя цепочка слов управляет итогом. Отсюда практический вывод: требуйте не слово «потому что», а ход. Этому учат в Академии Solaris AI (обучение 0 ₽): там показывают, как добиться от модели хода, а не формы.
Что делать: в следующем объяснении оборвите одно «потому что» и посмотрите, рухнет ли вывод.
Признак третий: понятие как единица сравнения
Третий признак мысли: есть понятие, то есть единица, в которой можно сравнить разное. Петухов говорит: кто-то хлопает себя по карману и отвечает, что деньги есть. Но бывает, что деньги есть, а понятия денег нет. Такой человек рассуждает наглядно и интуитивно: зелёная бумажка лучше бумажки другого цвета. Он видит признак, а не понятие.
Лектор вспоминает Мамардашвили, который объяснял французским хозяйкам, что есть страна, где дома не ведут счёт деньгам. Где нет понятия денег, там нечего считать. Реформы 1992 года Петухов называет приёмом Пиаже: денег стало много, а поменялось мало. Несовместимые признаки ломают картинку, и человек переходит к понятию, древнему и мудрому: деньги как эквивалент труда. Когда вы прикидываете, сколько часов работы стоит покупка, это уже операция, а не взгляд на купюру.
У Пиаже есть и другие приёмы снять плен: спуститься в практику, ввести единицы для сравнения, убрать наглядность, дать мотив. С нейросетью, на наш взгляд, это работает буквально: дайте ей единицу сравнения и контрпример (случай, который ломает правило), и ответ меняется с картинки на расчёт. Второй мост строят Выготский с Сахаровым. Они изучали понятия через игру: это бат, отбери все остальные баты. Понятие не объясняли словами, его собирали из примеров и ошибок. На наш взгляд, так же работают примеры в запросе к модели.
Что делать: в следующий запрос к нейросети добавьте единицу сравнения и один контрпример.
Чем язык отличается от речи и при чём здесь нейросеть
Язык стабилен, речь живая: так лектор вслед за Соссюром разводит эти слова. Выготский добавляет, что речь это резерв развития языка и смысл доминирует над значением. «Мёртвые души» для современников Гоголя были списком крепостных, а сегодня смысл сам стал значением. Ребёнок сначала говорит, а правила языка узнаёт потом, в школе. Петухов называет это чудом.
Но ранняя речь особенная. Пиаже назвал её коллективным монологом: дети говорят рядом, а не друг с другом. Такая речь свёрнута и не требует ответа, отсюда иллюзия понимания, когда кажется, что люди понимают друг друга. Выготский проверил: шум в комнате, чужой язык, одиночество, и такая речь исчезала. Значит, она всё же для других. Пиаже согласился, но уточнил: это речь не для себя, а соответственно себе, как у докладчика, которого слушают, но не понимают.
На наш взгляд, диалог с моделью тоже легко становится коллективным монологом: каждый говорит своё, а понимания нет. Иллюзия понимания здесь возникает так же быстро, как у детей, говорящих рядом.
Почему ребёнок выходит из плена, а нейросеть нет
На наш взгляд, ребёнок выходит из плена не через слова, а через встречу. Вот ответ на главный вопрос. На наш взгляд, ребёнок, как и нейросеть, выучил речь без правил, из чужой речи, и у обоих ход мысли сначала подражает чужой форме. Но ребёнка выталкивает дальше практическая нужда плюс другой, которого нельзя не учесть. Нам кажется важным, что у модели есть слова всего человечества, но нет ни своего стакана с водой, ни того, чьё непонимание станет ей дорого.
Поэтому мышление и искусственный интеллект, на наш взгляд, соединяются только в гибридном виде: модель даёт форму и варианты, вы даёте нужду, проверку и смысл. Этот выпуск собрал наш ИИ-агент для YouTube, а человек проверил результат перед публикацией. Схема та же.
Как применять три признака в работе
В голове: ловите решения, принятые глазами. Красивая презентация поставщика или удачная неделя сотрудника это столб воды в узком стакане. Спросите, как на самом деле, и найдите второй стакан: цифру, факт, другого человека.
С сотрудниками: когда человек говорит «потому что», попросите оборвать эту связь и посмотреть, рухнет ли вывод. Если вывод стоит и без причины, перед вами перечисление деталей, а не объяснение. Упрекать не за что: это стадия, а не приговор.
С нейросетью: давайте единицу сравнения, пример и контрпример, требуйте ход, который можно проверить. Помните про коллективный монолог: диалог с моделью легко становится разговором, где никто никого не слышит. Прежде чем внедрять ИИ в бизнес, пройдите чек-лист «12 вопросов перед внедрением» в нашем боте: он помогает отделить «нам кажется» от «на самом деле» до покупки.
Один шаг до понедельника, 19 октября: перед одним важным решением спросите себя, это мне кажется или на самом деле, и проверьте ответ вторым стаканом: цифрой, фактом или другим человеком. Разница между «мне кажется» и «на самом деле» пока остаётся за человеком, и это хорошая новость.
Частые вопросы
Умеет ли нейросеть думать
На наш взгляд, нет: у неё нет разницы между «мне кажется» и «на самом деле». Модель выбирает следующее слово по вероятности и воспроизводит форму рассуждения. Форма часто совпадает с верным ответом, а современные модели умеют проверять свои шаги. Но проверка «на самом деле» остаётся за человеком.
Чем мышление отличается от восприятия
Мышление начинается там, где человек знает, что картинка может обманывать. Ребёнок видит, что столб воды выше, но знает, что воды столько же. По Пиаже, пока этой разницы нет, человек не думает, а смотрит.
Как проверять ответы нейросети
Оборвите каждое «потому что» и посмотрите, устоит ли вывод. Если устоит, перед вами перечисление деталей, а не объяснение. Затем задайте единицу сравнения и контрпример: ответ должен измениться с картинки на расчёт. Если он не меняется, модель повторяет форму.
Как ставить задачи нейросети, чтобы она показывала ход, а не форму
Давайте единицу, в которой нужно сравнивать, пример и контрпример. Так учили понятиям Выготский с Сахаровым: не объясняли слово «бат», а давали отобрать похожие предметы. Просите показать цепочку шагов, которую можно проверить по одному звену.
Что такое критическое мышление простыми словами
Это привычка отделять «мне кажется» от «на самом деле» и проверять связи, а не слова. На наш взгляд, это близко к тому, что Пиаже называет децентрацией: учесть другого и другой взгляд, даже если свой от этого шатается. Критическое мышление начинается не с сомнения во всём, а со второго стакана, куда можно заглянуть.
Почему нейросеть пишет «потому что», а объяснения за ним нет
Потому что она выучила форму объяснения из текстов, а не причину из опыта. Пиаже называл похожее у детей трансдукцией: переход от частного к частному без общего правила. Мальчик упал, потому что ушиб ногу. Модель подбирает наполнение по вероятности, поэтому связь нужно требовать отдельно.