Когнитивный психолог Александр Банщиков говорит прямо: мы не столько читаем, сколько угадываем значение, и, по его словам, так же работают большие языковые модели. Мозг видит начало фразы и достраивает конец по привычке. Это удобно, пока конец совпадает с ожиданием. В договоре с нестандартным условием и в отчёте, который написала нейросеть, ошибка одна и та же: привычный конец подставлен на место настоящего. Ниже три правила: что читать самому, что отдать машине и как ставить ей задачи, раз она тоже достраивает по привычке. Лекция прошла в петербургском пространстве ВСмысле. Мы разобрали её в выпуске на нашем канале: смотреть разбор на YouTube.
Коротко, три правила:
1. Тексты, которые должны вас изменить, читайте целиком и медленно.
2. Отдайте модели внешнюю память: справки, протоколы, черновики. Решение и мысль до слова оставьте себе.
3. Давайте модели контекст и проверяйте неожиданные концы.
Как мозг читает текст на самом деле
Мозг читает узкий кусок текста, а остальное достраивает из статистики. Это заметили задолго до нейросетей. Вундт обратил внимание: слово с ошибкой мы читаем правильно, а саму ошибку не видим. Его ученик Кеттел назвал это эффектом превосходства слова: буквы внутри слова узнаются лучше, чем те же буквы в случайном наборе.
Банщиков показывает залу слово «сковорода» с двумя зачёркнутыми буквами. Зал читает его без запинки. Пилсбери в конце девятнадцатого века показывал людям слова на двести миллисекунд, с пропусками и заменами, и люди читали их верно. Хуже другое: ошибку они не замечали, а если замечали, не могли сказать, где она стоит. В семьдесят пятом году текст вокруг точки взгляда заменяли крестами, и читатели этого не видели.
Из таких опытов и складывается психология чтения, как её описывает лектор. Беглое чтение опирается на узкий кусок текста рядом с точкой взгляда. Всё остальное мозг восстанавливает из опыта: какие буквы и какие слова обычно ходят рядом. Мы не читаем каждую букву. Мы узнаём знакомую форму и подставляем смысл.
Чем мозг похож на нейросеть и где параллель ломается
Нейросеть угадывает следующее слово так же, как мозг угадывает конец фразы. Она видит начало и выбирает самое вероятное продолжение по статистике из обучения, не понимая, о чём речь. Отсюда и фраза Банщикова: по его словам, «мы не столько читаем, сколько угадываем вообще значение».
Но параллель честная только наполовину, и различие называет сам лектор. Прежде чем сказать фразу, у человека есть премысль: он знает, что хочет сказать, ещё до слова. У модели этого шага нет. У неё нет намерения до слова, есть только вероятность следующего.
Для работы вывод простой. При сильном контексте и человек, и модель прочитают «вино» вместо «кино». На наш взгляд, так же читается документ про стандартные поставки: нестандартное условие в середине легко принять за стандартное, и человеку, и модели. Договор, бюджет и письмо с нестандартным условием читайте не бегло, а медленно. Того же требуйте от модели: не просите общее впечатление, а дайте контекст и спросите про конкретные условия.
Что делать: Если фраза в договоре или в отчёте закончилась не так, как вы ждали, перечитайте её ещё раз. Скорее всего, мозг достроил конец по привычке.
Что Сократ говорил о письменности
Сократ считал письмо инструментом забывания. Платон в диалоге «Федр» вкладывает в его уста притчу: бог Тевт подарил людям письменность. Царь Тамус отвечает ему: ты дал не инструмент памяти, а инструмент забывания и псевдомудрости. Логика простая: записав знание, мы перестаём держать его в голове.
Вот как этот аргумент звучит у Платона в пересказе лектора:
> «[…] будучи научившись записывать знания, мы их потеряем из своей головы. Мы перестанем их запоминать. Ты пишешь или ты говоришь, что подарил нам инструмент для памяти, для знания, хотя на самом деле ты подарил нам инструмент для забывания, для псевдомудрости».
Замените слово «письменность» на «нейросеть», и получится почти любой спор об ИИ последних лет. Спору две с половиной тысячи лет, а аргумент не постарел.
Что делать: Откройте заметки за неделю и проверьте, что из записанного вы повторите без них. Это и есть ваша настоящая память.
Где живёт память, если она вне тела
Ответ Сократу дали средневековые мыслители. Ришар де Фурниваль пишет: жизнь коротка, я не могу поговорить со всеми и побыть везде, а книга делает это за меня. А современный философ Дэниел Деннет формулирует жёстче: наши достижения не от большого мозга, а от умения выносить мышление вовне. Нидерландские учёные добавляют: память сменила местонахождение и оказалась вне тела.
Есть любопытная деталь. Само понятие личной памяти возникло тогда, когда письменность на неё посягнула. На наш взгляд, с ИИ повторяется то же: мы заговорили о собственном мышлении потому, что появилось чужое.
У вынесенной памяти есть цена, и лектор измеряет её прямо в зале. Он спрашивает, кто знает наизусть больше пяти стихов. Поднятых рук ноль. Нейросеть здесь полная противоположность: она держит все тексты, на которых училась, и ничего не забывает. И мудрее от этого не становится.
Марианна Вульф называет выигрыш иначе: демократизация ума. Когда читающих больше, выше шанс, что у кого-то родится прорывная мысль. Если хотите понять, как эти инструменты устроены внутри и где они реально помогают в деле, в Академии Solaris AI это объясняют бесплатно.
Модель может хранить все ваши протоколы, но решение по ним примет тот, у кого в голове есть чем их прочитать.
Что чтение делает с личностью
Чтение учит смотреть на ситуацию чужими глазами. Третья часть лекции как раз об этом. Ребёнок видит мир только из своей головы, чужая точка зрения ему недоступна. Через книгу он получает взгляд персонажа. Персонажей несколько, и мышление учится смотреть на одну ситуацию с разных сторон. Лектор объясняет это так:
> «[…] для ребёнка это наиболее очевидно, перед его внутренним взором есть только его мир, только его точка зрения […] через чтение он приобщается к внутреннему миру персонажа, про которого читает. У него появляется другая перспектива. А в книгах бывает несколько персонажей, которые могут по-разному смотреть на […]»
Для руководителя это навык номер один: увидеть сделку глазами партнёра. Тренируют его книги, где рассказчиков несколько. На наш взгляд, это и есть тренировка: смотреть на одну ситуацию глазами нескольких людей.
Что делать: Следующей книгой возьмите ту, где рассказчиков несколько, и читайте её не ради сюжета, а ради второй точки зрения.
Можно ли доверять краткому пересказу нейросети
Краткий пересказ нейросетью годится для справки и не годится, если текст должен вас изменить. Вот почему.
Кино и игры тоже дают чужой опыт, но там образы приходят готовыми. Книга образов не даёт, их приходится строить самому, и только так, по словам лектора, получается опыт от первого лица. Здесь параллель с ИИ рвётся, и это стоит сказать прямо. Модель прочитала больше книг, чем любой человек. Но, на наш взгляд, ни одна не изменила её так, как один роман меняет подростка. Она воспроизводит текст без подобия тому, кто его писал: слова те же, пережитого за ними нет.
Теперь про упрощение. Его предлагают школьники, и его же просим мы, когда говорим модели: перескажи коротко. В Нидерландах классику переписали простыми фразами, чтобы её читали больше. Её стали читать ещё хуже. Лектор объясняет: разум любит сложность, и вывернутое предложение это пища для ума, а не помеха. Краткий пересказ от нейросети это та же упрощённая версия.
И последнее про чтение: книга меняет нас, а потом изменившиеся мы меняем книгу. Банщиков называет это динамическим взаимодействием:
> «Я по-другому смотрю на книгу, нахожу в ней разные какие-то смыслы. И книга тем самым влияет на меня, на мою возможность находить там новые смыслы. Если мы то, что мы читаем, то читая простые книги, и личность будет простая, плоская».
Что делать: Разделите входящие тексты на две стопки: справка, которую можно пересказать, и текст, который должен вас изменить. Вторую стопку пересказывать не просите.
Кем становится человек, когда читает и пишет за него машина
Человек становится тем, что он прочитал сам. Это ответ лекции: личность складывается из того, что прошло через голову. Если на входе только простые тексты и чужие пересказы, личность выходит плоская. Это слова лектора, не наши.
Сократ прав наполовину: внешняя память забирает то, что мы перестали держать внутри. И Деннет прав наполовину: вынесенное вовне мышление дало нам цивилизацию. Между этими половинами и живёт вопрос, что отдать нейросети, а что оставить себе. Ответ в трёх правилах из начала статьи: важное читаем сами и медленно, внешнюю память отдаём модели, а ей самой даём контекст и проверяем неожиданные концы. Тексты, которые вас изменили, стоит перечитывать через годы, потому что изменились вы.
Умберто Эко называет книгу совершенной формой, как молоток: дальше её только улучшают, а избавиться от неё не получится. Нейросеть, на наш взгляд, не отменит чтение. Она лишь сделает заметнее, кто читал сам, а кто только угадывал.
Если хотите проверить, готова ли компания к ИИ, в нашем боте есть чек-лист «12 вопросов перед внедрением»: открыть чек-лист.
Один шаг до пятницы, 23 октября. Возьмите один документ, который на этой неделе вам пересказала нейросеть: договор, отчёт или письмо. Прочитайте ключевой раздел целиком сами и запишите, что в пересказе потерялось.
Частые вопросы
Почему мы не замечаем опечатки в тексте
Потому что мозг узнаёт слово целиком, а не читает его по буквам. Беглое чтение опирается на узкий кусок текста вокруг точки взгляда, остальное достраивается из статистики. Ещё Вундт заметил, что слово с ошибкой мы читаем правильно и ошибки не видим. По словам Банщикова, в опытах Пилсбери люди даже не могли сказать, где стояла ошибка.
Что такое эффект превосходства слова
Это свойство восприятия, при котором буквы внутри слова узнаются лучше, чем те же буквы в случайном наборе. Термин ввёл Кеттел, ученик Вундта. На лекции Банщиков показывает его на слове «сковорода» с двумя зачёркнутыми буквами, и зал читает его без запинки. Мозг достраивает недостающее по знакомой форме.
Правда ли, что мозг работает как ChatGPT
Отчасти правда. По словам Банщикова, мы не столько читаем, сколько угадываем значение, и так же работают большие языковые модели: видят начало фразы и выбирают самое вероятное продолжение. Разница в премысли: человек знает, что хочет сказать, до слова, а у модели есть только вероятность следующего. При этом при сильном контексте оба читают «вино» вместо «кино», но намерение есть только у человека.
Почему Сократ был против письма
Он считал письмо инструментом забывания и псевдомудрости: записанное знание перестаёт храниться в голове. Так об этом говорит притча о боге Тевте и царе Тамусе в диалоге Платона «Федр». На наш взгляд, Сократ прав наполовину: внешняя память забирает то, что мы перестали держать внутри.
Что отдать нейросети, а что оставить себе
Модели стоит отдать внешнюю память: справки, протоколы и черновики. Себе оставьте решение и мысль до слова, потому что у модели нет намерения, только вероятность следующего слова. Тексты, которые должны вас изменить, читайте целиком и сами.
Почему краткий пересказ хуже оригинала
Потому что упрощённый текст перестаёт менять читателя. Лектор приводит пример: в Нидерландах классику переписали простыми фразами, и её стали читать ещё хуже. Разум любит сложность, и вывернутое предложение это пища для ума. Пересказ нейросети годится для справки, но не для текста, который должен вас изменить.