«Гипноз обычно определяют как социальное взаимодействие, когда один человек […] принимает предложения другого». Так Валерий Петухов, профессор психологии МГУ, начинает лекцию об изменённых состояниях сознания. Теперь вспомните свой последний чат с нейросетью. Например, «ты опытный юрист» или «ты редактор делового журнала». Это очень похоже. Так кто кого гипнотизирует, когда вы пишете ИИ? Ответ не такой очевидный, как кажется, и от него зависит, чьё имя на самом деле стоит под вашими текстами. Из лекции Петухова мы вывели три правила, как брать у модели силу и не отдавать ей авторство. Профессор про ИИ не говорил, параллели с нейросетями наши. Мы разобрали эту лекцию в выпуске на нашем канале: смотреть разбор на YouTube.
Коротко, три правила:
1. Роль модели задаёте вы, и вы же решаете, что из результата ваше.
2. До запроса одна строка своими словами: что я хочу понять.
3. Граница между знанием и правдоподобным текстом остаётся за вами. У модели её нет.
И привычка на каждый день: текст от модели перечитайте вслух, прежде чем поставить под ним своё имя.
Кто кого внушает в чате с ИИ
Внушаете вы. Модель охотно принимает роль, которую вы ей задали. Но лекция Петухова о гипнозе показывает, что у того, кто внушает, есть свой риск. Чтобы его увидеть, разберём опыт, который профессор ставит в центр.
Группа Тихомирова проверяла актёров детскими задачами Пиаже на мышление. Актёр играл ребёнка, но детских ошибок в задачах не делал. Роль оставалась ролью: взрослое мышление никуда не уходило. А вот что случилось с обычными людьми под гипнозом в той же роли.
«Так вот, по сравнению с актёрами, эти испытуемые в гипнотическом трансе демонстрировали все феномены Пиаже. Идентификация является достаточно полной».
То есть человек действительно вёл себя как ребёнок.
Вот разница между игрой и внушением. Актёр помнит, что он актёр. Человек под гипнозом не играет, он становится. Из первой мысли лекции: есть практики, которые расширяют личность, и есть те, что её разрушают, и граница между ними тонкая. Держите эту мысль, потому что в чате с нейросетью она переворачивается. Внушаете вы. И не узнать потом собственную работу рискуете тоже вы.
Что происходит, когда вы пишете нейросети «ты опытный юрист»
Модель идёт за заданной ролью до конца разговора, как будто это её собственная задача. Чтобы понять, почему это важно, посмотрим, как профессор определяет гипноз.
Петухов называет гипноз предложением представить себя тем, кем вы могли бы быть. Его пример, по словам профессора: гипнотизёр Райков просил ученика рисования представить себя Репиным. Не сыграть Репина, а быть им. Качество работы росло так сильно, что человек, выйдя из транса, не узнавал свой рисунок. Петухов добавляет, что в учебниках это называют распадом самотождественности, то есть потерей ощущения себя: личность на время перестаёт быть собой.
Теперь честно про нейросеть. У модели нет своего я, к которому можно вернуться. Она училась на текстах множества людей и подбирает вероятное продолжение. Модель не «помнит», что она не юрист. Для неё это задание писать как юрист, и она пишет так до конца разговора. При этом это не гипноз в строгом смысле: никто не спит, и нечему распадаться. Здесь параллель кончается.
Но на вашей стороне похожий эффект работает точно. Назовём его эффектом Райкова, это наше название: вы можете получить текст сильнее своего и не узнать в нём себя. Профессор отмечает, что современные техники позволяют осознавать транс, и тогда изменение личности становится её расширением. Разница ровно одна: помните ли вы, что это сделали вы, или подписываете чужое. Отсюда правило номер один: роль модели задаёте вы, и вы же решаете, что из результата ваше. Тексты нейросети от своего имени можно выпускать только после этого решения.
Что делать: перед публикацией отметьте в тексте модели фразы, которые вы сказали бы сами, и перепишите остальные.
Зачем записывать мысль до запроса к ИИ
Потому что само решение записать мысль запоминается и дисциплинирует, ещё до ответа модели. Мысль про запись мы взяли у профессора: он говорит о снах и памяти.
Петухов делает неожиданный переход от гипноза к сновидениям: «Да просто потому, что гипноз это ведь тоже сон. А обычно изменённое состояние сознания это сновидение. Ну, иногда их называют нормальными галлюцинациями». Запомните слова «нормальные галлюцинации», они ещё пригодятся. Главный вопрос профессора: можно ли контактировать с этим состоянием и достать из него что-то полезное. Контакт наступает, когда сон запомнился, встревожил, обратил на себя внимание. Без внимания сна как будто не было. Приём из психоанализа: записать сон и все ассоциации к нему. Следующий сон станет ответом на эту запись.
С нейросетью связка прямая, но в обратную сторону. То, чему она научилась, лежит внутри неё, как сны, которые никто не записал. Они есть, но с ними никто не контактирует. Контакт создаёте вы своим вопросом. Вопрос и есть запись сна: он решает, что всплывёт из всего, чему модель научилась. Поэтому разговор о том, как правильно писать промпты, на наш взгляд, начинается не с формулировок, а с внимания: что именно вы хотите понять.
И здесь важная оговорка профессора: «даже само решение человека о том, что он будет записывать сновидение, порождает такое запоминание». На наш взгляд, с рабочими задачами то же самое. Решение записать мысль до чата меняет мышление сильнее, чем ответ модели. Правило номер два: сначала одна строка своими словами, что я хочу понять, и только потом запрос. Если хотите разобрать такие привычки глубже, в Академии Solaris AI такие привычки разбирают на практике. Обучение бесплатное.
Что делать: заведите файл, где перед каждым запросом к ИИ стоит одна ваша строка, и время от времени перечитывайте только эти строки.
Почему нейросеть галлюцинирует
Потому что у неё нет границы между тем, что она знает, и тем, что только что придумала. Чтобы показать, откуда такая граница берётся у человека, профессор берёт самый опасный пример лекции.
Третья часть лекции про психоактивные вещества. Петухов прямо говорит, что рисковать здесь не стоит, и мы повторяем это предостережение без оговорок. Он разбирает вещества не ради самого опыта, а ради того, что они показывают о сознании. В обычном состоянии человек знает, кто он, и держит дистанцию между собой и реальностью. Препарат размывает обе границы. Петухов называет это патологией, хотя исследователей привлекали и другие эффекты.
На наш взгляд, это самая честная параллель с нейросетью. У модели такой границы нет изначально. Она не отличает то, что знает, от того, что только что сгенерировала. Для неё и то и другое просто вероятное слово. Такие ошибки называют галлюцинациями нейросети. Это просто слово, а не диагноз: уверенный и неверный текст. Уверенный тон её ответа ничего не говорит о правде.
Вторая мысль профессора важнее для вашего режима работы. Малая доза даёт одни эффекты, большая противоположные. Сначала состояние нравится и хочется больше, но с ростом дозы эффект становится обратным. Он говорит это про любые изменённые состояния. С ИИ, на наш взгляд, так же, и «доза» здесь только образ, а не совет что-либо пробовать: два-три запроса обостряет мысль и даёт детали, а сплошная лента ответов делает вас пассивным. Вот ответ на вопрос, как не потерять навык из-за ИИ: дело не в запрете, а в дозе. Правило номер три: модель даёт быстрый проблеск, а решение, где граница с реальностью, остаётся за вами.
Что делать: каждое число, имя и ссылку из ответа модели проверяйте отдельно, прежде чем они попадут в документ с вашей подписью.
Что профессор говорит о практиках с препаратами и при чём тут ИИ
Чтобы показать, что состояние вообще возможно. Дальше нужна внутренняя работа, и препарат её не заменит. Это ответ на вопрос, который мы задали в начале выпуска. В старых практиках ученик получает препарат один раз, и Петухов объясняет логику учителя так:
«Ученику как бы говорят: "Ты пережил определённое состояние, из того, что мы говорили, трансперсональность, возможность нового контакта с реальностью и так далее, а теперь попробуй уже другими средствами прийти к этому состоянию, так сказать, наяву, без применения химических препаратов"».
По нашему прочтению, повторять нельзя: иначе препарат заменит работу. И последняя фраза лекции: позитивные эффекты нельзя объяснить химией. Нужна внутренняя работа.
Для нейросети это и есть главный вывод. Она отлично показывает, что возможно: уровень текста, скорость, широту. Но если каждый раз получать результат из неё, вы станете человеком, который не узнаёт свою продукцию. Поэтому практика учителя превращается в привычку: пусть модель покажет уровень один раз, а следующий вариант сделайте сами. Потом сравните. Разрыв между вашим и её вариантом и есть ваш рост, и он случается только внутри вас.
Его мысль о сохранении я под чужим внушением подходит к нашему времени точно. Гипноз работает, только если принят внутренне. Так что решение, кого вы принимаете, остаётся вашим.
Перед тем как встраивать ИИ в процессы компании, пройдите чек-лист «12 вопросов перед внедрением» в нашем боте: получить чек-лист.
Ваш шаг до пятницы 30 октября: возьмите одну рабочую задачу, с которой вы обычно сразу идёте в нейросеть, и сделайте её по порядку. Строка своими словами, вариант модели, ваш вариант. Сравните два текста.
Частые вопросы
Почему нейросеть галлюцинирует
У модели нет границы между тем, что она знает, и тем, что только что сгенерировала. Она подбирает вероятное продолжение текста, и правдивое слово для неё ничем не отличается от правдоподобного. Поэтому уверенный тон ответа ничего не гарантирует. Проверка фактов остаётся вашей работой.
Зачем задавать нейросети роль
Роль задаёт направление: модель училась на текстах множества людей, и слова «ты опытный юрист» подсказывают, какое продолжение выбирать. Модель не держит в голове «настоящего себя» и пишет в заданной роли. Это даёт сильный результат, но ответственность за него не делится. Роль задаёте вы, и вы решаете, что из ответа ваше.
Можно ли подписывать текст нейросети своим именем
Можно, если вы решили, что в этом тексте ваше, а не просто скопировали ответ. Здесь работает то, что мы называем эффектом Райкова: вы можете получить текст сильнее своего и не узнать в нём себя. Перечитайте текст вслух, прежде чем ставить под ним имя. Если фразы звучат чужим голосом, перепишите их.
Не разучусь ли я думать из-за ИИ
Зависит от того, сколько вы отдаёте модели. Два-три запроса обостряет мысль и даёт детали, а сплошная лента ответов делает пассивным. Петухов говорит, что малая и большая доза дают противоположные эффекты, и мы видим в этом точное описание работы с ИИ. Навык сохраняет привычка делать свой вариант после варианта модели и сравнивать.
Что Петухов говорит о гипнозе
Петухов определяет гипноз как социальное взаимодействие, при котором один человек принимает предложения другого. Он описывает его как предложение представить себя тем, кем вы могли бы быть. При этом современные техники позволяют осознавать транс, и тогда изменение личности становится её расширением.
Как писать запрос к нейросети
На наш взгляд, начните не с запроса, а с одной строки своими словами: что я хочу понять. Само решение записать уже меняет мышление, как у Петухова решение записывать сны меняет память. Потом задайте роль и сформулируйте вопрос: он решает, что всплывёт из всего, чему модель научилась. Ответ проверьте на границе между знанием и правдоподобным текстом.