Два отрезка одинаковой длины. К одному пририсовали стрелки внутрь, к другому наружу, и первый кажется короче. Мы с вами видим эту иллюзию, а жители африканских деревень, как рассказывает психолог Валерий Петухов, видят её гораздо слабее. В лекции 1997 года он объяснил почему, и из его объяснения вырастает мысль про нейросети: нейросеть тоже выросла в своём мире, и у этого мира свои прямые углы. Я Антон Баранов, основатель Solaris AI, и мы разобрали эту лекцию в выпуске на нашем канале: смотреть разбор на YouTube.
Коротко:
1. Прежде чем спрашивать модель, опишите ей свой мир: отрасль, регион, размер компании, реальные цифры.
2. Разрешите ей не знать и проверяйте всё, что похоже на правду, но не проверено.
3. Что важно, решайте сами. Пусть модель считает, пишет и сравнивает, а что замечать, выбираете вы.
Почему мы видим иллюзию Мюллера-Лайера
Мы видим иллюзию, потому что выросли в мире прямых углов, объясняет Петухов, а жители африканских деревень живут в округлых хижинах. По его словам, здесь работает простая формула: жизнь определяет сознание. Глаз, который с детства смотрит на дома и комнаты, привык читать углы как близкое и далёкое. Стрелки внутрь похожи на угол дома, который приближается к нам. Стрелки наружу похожи на угол комнаты, который уходит вдаль. По законам перспективы близкое должно быть больше. Отрезки равны, но глаз делает поправку, о которой его не просили.
Петухов оценивает это без упрёка. Иллюзия, по его словам, это не глупость, а правильная настройка глаза для своего мира. Ошибка появляется только там, где вместо мира перед нами рисунок на бумаге.
В каком мире выросла нейросеть
Языковая модель выросла в мире текстов, которые написали другие люди. Её настройки называют весами, но проще сказать так: это привычки. Какое слово после какого встречалось чаще, то модель и ожидает. У неё свои прямые углы. Если в текстах про бизнес, на которых она училась, чаще писали про Америку, ответ выйдет американским. Она не врёт. Она делает поправку под мир, в котором выросла, и не знает, что ваш мир другой.
Параллель честная, но с оговоркой. Глаз учился в живом пространстве, а модель только в текстах о нём: у человека восприятие, у модели статистическое продолжение текста. Поэтому держите в голове один вопрос: в каком мире выросла машина, которой вы отдаёте черновик решения.
Отсюда первое правило. Покажите модели свои углы: отрасль, город, размер компании и реальные цифры должны стоять в самой задаче. Иначе она ответит из чужих текстов, а не из вашего рынка.
Что делать: перед следующим запросом добавьте абзац о своей компании и рынке и сравните ответ с тем, что получали без него.
Опыт с псевдоскопом: как мир выворачивается наизнанку
Восприятие, которому показали невозможное, не ломается, а достраивает картину до правдоподобной. Это главный вывод опыта с псевдоскопом, прибором, который меняет местами картинки для левого и правого глаза. Далёкое должно стать близким, близкое далёким, мир обязан вывернуться. Такие опыты ставили в нашей стране в середине пятидесятых, и Петухов разбирает их по шагам.
Испытуемый смотрит на мятый лист бумаги. Лист выворачивается: самая высокая точка становится самой низкой. Правдоподобно. Бумажный конус на столе проваливается за поверхность и становится воронкой. Тоже правдоподобно. Потом ставят стакан, и через какое-то время испытуемый видит его перевёрнутым. А потом в стакан наливают воду. Вот как это описывает сам Петухов:
> Если в этот стакан налить воды, то это неправдоподобно, потому что стакан перевернётся, простите, вода-то выльется. И тогда наш испытуемый видит, как стакан всё же переворачивается, но в нём оказывается уже не вода, а, скажем, желе.
Это и есть тест для любой модели. Дайте ей невозможное и смотрите, что она нальёт в стакан.
Почему нейросеть выдумывает факты
Нейросеть выдумывает факты по похожему принципу, по которому восприятие превращает воду в желе. Восприятие не может нарушить физику: перевёрнутый стакан с водой невозможен. Но и отказаться от переворота оно не может. И оно находит выход. Петухов называет это предметным правдоподобием: мозг выбирает не правду, а самый правдоподобный вариант из опыта.
Модель устроена очень похоже, хотя у человека это восприятие, а у модели статистическое продолжение текста. Она предсказывает следующее слово. Она не проверяет, а выбирает самое вероятное продолжение. Когда нужного в опыте нет, она не молчит. Она наливает желе: похожую дату, похожий закон, ссылку, которой нет. Это называют галлюцинацией нейросети, но слово сбивает. Модель не бредит, она делает нечто очень похожее на то, что делал испытуемый с псевдоскопом.
Разница в одном. Испытуемый хотя бы удивлялся желе. Модель не удивляется ничему. У неё нет стакана, который она когда-то держала в руках. Есть только тексты про стаканы.
Отсюда второе правило. Разрешите модели не знать. Напишите прямо в задаче: «Если данных нет или ты не уверен, скажи об этом и не додумывай». И проверяйте всё, что похоже на желе: цифры, даты, цитаты, ссылки, нормы. Именно там правдоподобие подменяет факт.
Что делать: добавьте фразу про право не знать в шаблон каждого рабочего запроса.
По мнению психолога из нашей статьи мы не читаем, а угадываем, мы и сами читаем похожим образом, угадывая слова.
Принцип единства сознания и деятельности
Сознание рождается в деле, а потом само начинает управлять делом. К этому обобщению Петухов переходит от опытов, и оно важнее опытов. В середине тридцатых Сергей Рубинштейн формулирует принцип единства сознания и деятельности. Первая его половина это известная формула: бытие определяет сознание. Сознание рождается в деле как ответ на задачу жизни. Все иллюзии из первой половины лекции про это. Глаз настроили дома с углами, которые мы видели, и стаканы с водой, которые мы держали.
Для предпринимателя это значит простую вещь. Ваши картинки рынка когда-то родились из дела и были верны. Проверьте их срок годности. Дело, которое их создало, могло уже закончиться.
Сознание это часть бытия
Сложившееся представление само начинает управлять делом. Вторую половину принципа Петухов формулирует так: бытие определяет сознание, это действительно так, но важно и обратное, сознание это часть бытия. Круг замыкается. Жизнь сделала ваше восприятие, а теперь восприятие решает, как вы живёте и какие сигналы замечаете.
Теперь нейросеть. Она не сознание, и о том, каких свойств сознания у неё нет, мы писали в статье о четырёх свойствах сознания. Но она уже часть вашей деятельности: черновики, расчёты, письма идут через неё. Значит, её прямые углы и её желе становятся вашими, если вы этого не замечаете. Это можно назвать гибридным разумом: проще говоря, человек теперь смотрит на мир не только своими глазами, но и через тексты машины.
Петухов закрывает тему определением Леонтьева из Большой советской энциклопедии. Психология изучает, как отражение реальности рождается и работает в деятельности человека и поведении животных. Ключевой вопрос там: зачем отражать реальность. Ответ Леонтьева: отражение нужно для жизни.
Здесь честная граница параллели. Модель тоже отражает, вернее, отражает тексты о реальности. Но ей это отражение не нужно ни для чего. Ей нечего терять, если желе окажется водой. Терять есть только вам. Третье правило: не отдавайте модели выбор, что важно. Пусть считает, пишет, сравнивает, а что замечать, решаете вы.
Что делать: в каждой задаче отделяйте вопрос «что посчитать» от вопроса «что важно» и второй оставляйте себе.
Предел: живое лицо не выворачивается никогда
Живое человеческое лицо через псевдоскоп не выворачивается никогда. Тряпка, конус и стакан выворачивались. Даже кукольное лицо выворачивалось, редко, но выворачивалось. Петухов объясняет: затылок куклы мы видели, такой опыт у нас есть. Выворачивается только то, что мы хоть раз видели с изнанки.
> И никогда не перевернётся в перспективе реальное человеческое лицо. Вот мы смотрим через псевдоскоп на лицо человека. И тем не менее здесь предел. Жизнь определяет сознание. Не имели мы такого опыта никогда.
Живое лицо не выворачивается не из-за оптики. У нас нет и не может быть такого опыта. Вот предел, который есть у человека и которого нет у нейросети. Для неё лицо это такой же набор слов, как конус или тряпка. У неё нет опыта, который невозможно вывернуть наизнанку. Нет вещей, которые она держала, и людей, которым смотрела в глаза. На наш взгляд, поэтому последнее слово остаётся за человеком. Не из гордости. У него одного есть невыворачиваемое. Заодно проверьте, что из ваших убеждений вы видели с изнанки. Что помогает удерживать внимание на трудном вопросе, мы разбирали в статье о лекции Петухова про волю.
Как применить три правила в работе компании
Три правила превращаются в три заготовки: паспорт задачи, список того, чему не доверять без проверки, и список решений, которые не отдаём модели.
Паспорт задачи это короткий абзац о вашем мире. Отрасль, страна и город, размер компании и команды, реальные цифры: выручка, средний чек, сроки, ограничения по бюджету и по закону. Добавьте, для кого ответ и что с ним будут делать дальше. Такой абзац удобно держать готовым и вставлять в начало каждого запроса.
Список того, чему не доверять без проверки, это ответы, которые не идут в работу, пока их не сверили. В первую очередь это цифры и расчёты, даты, ссылки на источники, цитаты, ссылки на законы и нормы, названия компаний и имена. Назначьте, кто в отделе проверяет и по какому источнику. В Академии Solaris AI мы учим внедрять ИИ в реальную работу.
Список решений, которые не отдаём модели, это то, что не делегируется. Кого нанимать, какую цену ставить, с кем работать, что сказать клиенту в сложном разговоре, какой риск принять. Модель готовит варианты и расчёты, а выбор и ответственность остаются у человека. Модель часть вашего дела, но не часть вашей совести.
До пятницы, 13 ноября 2026 года, возьмите последний ответ нейросети, по которому вы приняли решение, проверьте в нём три факта и напишите, что нашли, в бота Solaris AI: разберём вашу задачу за 20 минут.
Частые вопросы
Почему ИИ уверенно ошибается
Потому что он подбирает самое вероятное продолжение текста, а не сверяется с источником. Когда нужных сведений в его опыте нет, он достраивает правдоподобный вариант, и чем реже тема, тем выше риск.
Что такое галлюцинации ИИ
Галлюцинациями называют уверенные ответы нейросети, которые не соответствуют действительности: несуществующие источники, неверные даты, придуманные нормы. Термин неточный, потому что модель при этом не сбоит, а работает штатно и просто не отличает знакомое от истинного.
Как написать запрос к нейросети, чтобы она не придумывала
Дайте модели контекст о своей ситуации и прямо разрешите ей признать незнание. Попросите отделять уверенное знание от предположений и указывать источники, а потом всё равно проверьте ключевые данные по первоисточнику.
Что значит жизнь определяет сознание
Это значит, что восприятие и мышление складываются из того, где и как человек живёт и действует. У Рубинштейна добавлена обратная сторона: сложившееся сознание само становится частью жизни и начинает управлять тем, что человек делает и замечает.
Можно ли доверять ответам нейросети
Доверять можно как черновику, но не как источнику фактов. Модель хорошо считает, структурирует и сравнивает, если ей описали задачу целиком, а решения, за которые отвечаете вы, принимайте сами после проверки ключевых данных.
