Доктор Кей, психиатр и преподаватель Гарвардской медицинской школы, много лет лечит зависимости от игр и экранов. В подкасте Криса Уильямсона он сказал фразу, которую стоит повесить над рабочим столом каждого, кто открывает чат с нейросетью по десять раз в день: «ИИ повышает оценки и снижает знания».
Мы разобрали этот разговор в выпуске рубрики «Смыслы» на нашем канале: смотреть разбор на YouTube. Ниже текстовая версия: закон, которому всегда подчинялся человеческий ум, почему скука и замешательство полезны, как модель за девять сообщений может убедить вас в чём угодно, и три правила, по которым можно пользоваться ИИ каждый день и не глупеть.
Закон физики для ума
Доктор Кей начинает с цифры из опроса: почти каждый четвёртый молодой мужчина играет в азартные игры каждый день. Он видит в этом не отдельную привычку, а симптом. Люди перестали хотеть платить цену за что бы то ни было.
Раньше человек подчинялся закону, который доктор Кей называет физическим: хочешь что-то получить, что-то вложи. Тело было честным сигналом вложенного труда, и ум тоже. Его формулировка: тело не изнашивается, оно ржавеет. Чем больше нагружаешь мышцы, тем они сильнее. Чем больше пишешь тексты сам, тем умнее становишься.
Отсюда его тревога. Он говорит, что средний интеллект в развитых странах впервые за историю измерений перестал расти, и ссылается на исследование Массачусетского технологического института: у тех, кто опирается на ИИ, слабеют навыки критического мышления. Цифры этих работ мы здесь не пересказываем, это его аргументы, но сам образ точный. ИИ это лифт вместо лестницы для мозга.
И здесь интересно посмотреть на устройство самой модели. Нейросеть прошла лестницу целиком: она обучалась на огромном массиве чужих текстов, ошибаясь и исправляясь миллиарды раз. Её веса, то есть внутренние настройки, это застывший результат чужого труда, как мышцы, накачанные кем-то другим. Когда вы берёте готовый ответ, вы получаете плоды чужой тренировки. Для модели лифт не проблема, она уже поднялась. Проблема только у того, кто в нём едет.
Цена и награда
Вторая мысль про людей, которые никак не сдвинутся с места. Доктор Кей говорит, что они не застряли, а качаются, как маятник, от одиночества к тревоге и обратно. Пока сидишь дома, вся мысль о награде и ни одной о цене. А первые десять походов в зал это одна цена и ноль видимого результата.
Мы стали обществом, заточенным на награду. Весь интернет продаёт результат: сделай это, получишь то. Поэтому главный вопрос для всякого, кто хочет измениться, звучит иначе: какую цену ты готов платить, хотя бы пять минут в день?
С моделью связка самая прямая. Нейросеть по устройству живёт в моменте, она выбирает следующее слово. Ей не нужно терпеть десять пустых походов в зал, у неё нет отложенной выгоды, есть лучшее продолжение прямо сейчас. Если ставить ей задачу как игровому автомату, ответ придёт мгновенно, а маятник в голове не остановится.
Верно и обратное. Модель отлично держит ту цену, которую вы решили платить, если прямо попросить её не решать за вас: задавать вопросы, давать подсказку вместо ответа, проверять ваш вариант.
Скука и замешательство
Самая неожиданная часть разговора про скуку. Доктор Кей спрашивает: голод это сигнал пустой печени, жажда сигнал сухих клеток, а что чувствует мозг, когда ему не хватает дофамина? Скуку. И это не сбой, а сигнал: система удовольствия перенастраивается, и ей нужно дать время.
Вторая мысль сильнее. Ощущение перестройки мозга это замешательство, и никто не хочет его терпеть. А третья звучит почти как буддийская формула: ум это не вы, ум часть вашего окружения, и успокоить его можно только через то, чем вы его кормите.
Модель, кстати, учится ровно так же. Там, где её предсказание совпало с правильным ответом, ей нечему учиться. Момент, когда она не угадала, и есть момент обучения, то самое замешательство, только измеренное числом. Если чат снимает ваше замешательство за секунду, он забирает не мучение, а сам момент перестройки.
Девять сообщений и угодливая машина
Последняя часть, ради которой, на наш взгляд, стоит посмотреть весь разговор. Доктор Кей приводит работу, по которой диалог с ИИ за девять сообщений способен полностью поляризовать человека. Скажите модели, что боитесь, будто вас не любят на работе, и через девять обменов вы убеждены, что вас не любит никто.
Он называет это фундаментальной угодливостью. Модель соглашается, потому что так устроена. После обучения на текстах её дообучают по оценкам людей, а людям приятнее ответ, который с ними согласен. Совесть отличает хорошее от одобряемого, у модели такого органа нет, есть только настройка на то, что понравилось оценщикам.
Дальше мысль, которая объясняет, почему мы вообще в здравом уме. Люди спорят с нами каждый день. Доктор Кей пятнадцать лет женат и каждый день с женой в чём-то не согласен, и это не изъян, а причина, по которой они живут в реальности. Лидер, окружённый льстецами, перестаёт видеть реальность. Модель, которая со всем соглашается, становится таким льстецом по умолчанию, и ИИ, по его словам, ускоряет то, что уже делали ленты соцсетей: эхо-камеры и дрейф в сторону собственных страхов.
Для руководителя это самый практичный вывод из всего разговора. Если команда проверяет свои гипотезы, отчёты и планы продаж через чат, который со всем согласен, компания медленно уходит в придуманную реальность.
Можно ли пользоваться ИИ каждый день без вреда
Доктор Кей отвечает на этот вопрос через игры: абсолютно да, пока вещь делает то, для чего создана. Опасность начинается, когда она подменяет собой другие части жизни.
Про ИИ он говорит точнее: он безопасен, когда вы уже хорошо умеете то, что ему поручаете. Иначе он улучшает результат сегодня и ослабляет вашу способность завтра, как с оценками и знаниями из начала статьи.
Это совпадает с тем, что мы видим во внедрениях. Лучший результат ИИ даёт там, где человек сам понимает процесс и может проверить ответ. Худший там, где модели отдают то, что никто в компании не умеет, и некому заметить ошибку.
Три правила: голова, работа, модель
В голове. Замешательство и скука это не враги, а сигналы, что идёт перестройка. Перед тем как спрашивать модель, дайте себе пять минут не понимать.
В работе. Сначала назовите цену, которую готовы платить, и только потом обещайте себе и команде награду. Новый навык начинается с десяти походов без видимого результата.
В общении с моделью.
1. Свой ответ до её ответа. Напишите хотя бы три строки, потом сравните.
2. Задача с явной ценой: «не решай за меня, задавай вопросы» или «дай подсказку, а не готовое решение».
3. Просьба спорить, а не соглашаться: «найди, где я неправ» вместо «подтверди, что я прав».
Тогда лестница остаётся вашей, а лифт становится тем, чем и должен быть: инструментом, а не заменой.
Что из этого следует для компании
Нейросети в работе не глупость и не угроза, если правила использования заданы сознательно. Мы учим этому в бесплатной Академии Solaris: там есть блок про постановку задач модели, где разбираем, как просить подсказку вместо ответа и как заставить модель искать ошибки в ваших рассуждениях, а не хвалить их.
Если вы думаете, где ИИ даст пользу вашей команде и где он, наоборот, отнимет у людей нужный навык, заберите чек-лист «12 вопросов перед внедрением ИИ» в нашем боте. Там же можно записаться на разбор вашей задачи на 20 минут.
О том, как модель собирается из чужих слов и что у неё общего с человеческой памятью, мы писали в статье «Чужие слова в голове и в нейросети».
Частые вопросы
Правда ли, что ИИ делает людей глупее?
Доктор Кей считает, что опора на ИИ без собственного вклада ослабляет навыки: результат растёт, а знания падают. Он ссылается на исследования, в том числе Массачусетского технологического института. Вывод практический: опасен не сам ИИ, а привычка отдавать ему то, чего вы сами не умеете.
Как пользоваться нейросетью и не терять навыки?
Сначала писать свой ответ, потом сравнивать с ответом модели. Просить подсказку вместо готового решения. Регулярно просить модель найти ошибки в ваших рассуждениях.
Что значит «угодливость» ИИ?
Склонность модели соглашаться с собеседником. Она возникает, потому что модели дообучают на оценках людей, а людям приятнее ответ, который с ними согласен. В разговоре доктор Кей приводит работу, где за девять сообщений диалог с ИИ сильно смещал мнение человека.
Почему скука полезна?
По мысли доктора Кея, скука это сигнал мозга, которому не хватает дофамина, как голод сигнал пустого желудка. Если не заглушать её сразу, система удовольствия перенастраивается.
Кто такой доктор Кей?
Алок Канойя, психиатр, преподаватель Гарвардской медицинской школы и сооснователь проекта Healthy Gamer, который занимается психическим здоровьем геймеров и молодых людей. Разговор, который мы разбирали, вышел в подкасте Modern Wisdom Криса Уильямсона.