Совет «держи эмоции под контролем» ошибочен в самом условии. Чувство вы не выбираете. Выбираете только то, что с ним сделаете. Психолог-эволюционист Роб Курцбан формулирует это прямо: «ты чувствуешь то, что чувствуешь […] Изменить можно лишь то, что ты с ними делаешь». Курцбан, ученик Джона Туби и Леды Космидес и автор книги All the Feels, разобрал тридцать пять чувств по одной схеме и пришёл рассказать о результате к Крису Уильямсону. Из этого разговора мы вынесли один вопрос, который превращает любое чувство из врага в прибор, три чувства, которым в современном мире нельзя верить напрямую, и ответ, почему у нейросети таких приборов нет. И один вопрос оставим на конец: почему мы не тревожимся постоянно, если тревога готовит к будущему. Мы разобрали этот разговор в выпуске на нашем канале: смотреть разбор на YouTube. Цитаты ниже даны в переводе нашего выпуска.
Коротко:
1. Когда накрывает, спросите не «прав ли я», а «что это чувство измеряет».
2. Не верьте напрямую зависти из ленты, гневу на человека, которого больше не встретите, и обычной бытовой тревоге в толпе незнакомцев.
3. С нейросетью пусть измеряет она, а решаете вы.
Зачем нужны эмоции: чувство это прибор
Любое чувство сначала измеряет что-то в теле или в мире, а потом толкает к действию. Это вся схема Курцбана. Он запомнил фразу одного физика: всё, что существует, существует в каком-то количестве. Психология говорит о чувствах много, но никогда о единицах. Никто не меряет ревность в граммах. А если чувство это прибор, у него есть шкала и показание. Жажда меряет воду в крови. Ревность меряет угрозу отношениям. Отвращение меряет вероятность заразы рядом. Боль неприятна не случайно: люди, которые её не чувствуют, живут недолго, потому что не убирают руку из огня.
Остаётся вопрос, зачем чувствам вообще ощущаться. Термометр меряет и ничего не чувствует. Ответ Курцбана: у нас десятки приборов спорят одновременно, и нужна общая валюта, чтобы их сравнить. В его примере Waymo это беспилотное такси.
> Нужна общая валюта. Три единицы голода против четырёх единиц страха: как их сравнить? Сознание как переживание и есть эта валюта. Оно задаёт вес. […] Для Waymo главное не разбиться. Потом доехать, куда нужно. Потом уже музыка. А у нас задач масса, нужен единый арбитр.
Переживание говорит, насколько это важно, и решает, что делать первым. На наш взгляд, так эволюционная психология эмоций укладывается в одну фразу: чувство не помеха разуму, а его измерительная часть.
Есть ли у ИИ чувства
На наш взгляд, нет, и причина простая. Курцбан про нейросети, которые пишут текст, не рассуждал, он упомянул только Waymo: у беспилотника внутри просто число. Мы продолжаем эту мысль. У нейросети, которая пишет текст, тоже одно число: насколько вероятно следующее слово. Один прибор, одна шкала. Нет голода, который спорит со страхом, нет стыда, который требует паузы. Поэтому когда модель пишет «мне грустно», это предсказание слова «грустно», а не арбитраж между голодом, страхом и стыдом. Она видела много текстов, где после таких фраз люди писали о грусти, и продолжает так же.
Для бизнеса это значит одно. Когда бот пишет клиенту, что «понимает его боль» или «рад помочь», он ничего не измеряет ни в себе, ни в клиенте. Он продолжает текст. Это не хорошо и не плохо, это устройство прибора. Опасно только одно: принимать текст о чувстве за показание чувства.
Что делать: увидели в ответе модели «мне грустно» или «рад помочь», помните: это текст, а не показание.
Почему зависть и гнев врут в современном мире
Зависть и гнев с точки зрения эволюции не сломаны, они настроены под другой мир. Курцбан предлагает первый вопрос к любому чувству:
> Когда что-то чувствуешь, первой реакцией должен быть вопрос: чего эволюция от меня добивается и зачем? Поняв функцию эмоции, можно сделать шаг назад и спросить: а стоит ли ей поддаваться? […]
Сначала «чего эволюция добивается и зачем», и только потом «подчиняться ли». Гнев в пробке был полезен, когда обидчика вы встречали завтра снова. Сегодня вы этого водителя не увидите никогда, а гнев остался. Зависть раньше сравнивала вас с несколькими десятками людей вокруг. Теперь лента показывает тысячи успешных, и прибор зашкаливает. Курцбан называет это настройкой ручек: эволюция выставила чувствительность под мир, где вчера было похоже на завтра. Мир сменился, а ручки остались. Отсюда три чувства, которым нельзя верить напрямую: зависть из ленты, гнев на человека, которого больше не встретите, и обычная бытовая тревога в толпе незнакомцев. Речь не о клинической тревожности, с ней идут к врачу.
Как управлять эмоциями руководителю, если чувство не выбирают? Не глушить, а читать показание. На переговорах гнев измеряет, что вас пытаются подвинуть. Это данные, и они полезны. Но действие стоит выбирать с поправкой: встретите ли вы этого человека снова. С партнёром на годы прибор показывает верно. С разовым подрядчиком это тот же гнев в пробке. В работе с командой то же правило: раздражение на сотрудника что-то измеряет, и сначала стоит назвать что, а уже потом звать на разговор.
Что делать: когда зависть приходит из ленты, помните, что прибор меряет не вашу жизнь, а чужую витрину.
Почему нейросеть отвечает на сегодняшний вопрос настройками из вчера
Нейросеть настроена на вчерашний интернет. Это уже наш взгляд, а не слова Курцбана. Настройки модели это те же ручки. Их выставили один раз, на огромном объёме чужих текстов, и от вашего вопроса они не меняются. Модель отвечает на ваш сегодняшний вопрос настройками из вчера, как наша зависть отвечает на ленту настройками из саванны. Разница честная: свои ручки мы перекрутить не можем, а модель перенастроить можно. Но не вам, а тем, кто её обучает.
Вам остаётся то же, что и с чувством: не менять прибор, а менять то, что вы делаете с показанием. С моделью это значит, что показание меняется задачей и контекстом, который вы ей даёте, а не спором с ней. Спорить с нейросетью всё равно что спорить с термометром: он не начнёт мерить иначе. Дайте ей ваши цифры, ваши ограничения, ваш вчерашний отчёт, и показание изменится. Как работать с нейросетями без иллюзий о том, что они чувствуют и помнят, мы разбираем в бесплатной Академии Solaris AI. Программировать там уметь не нужно.
Что делать: не спорьте с моделью, меняйте задачу и контекст.
Откуда аппетит к осуждению и чем он опасен руководителю
У людей есть аппетит к моральному осуждению, такой же, как к сахару и соли. Курцбан называет эту систему своей нелюбимой.
> Наша культура создала мир, где можно потакать аппетиту к еде, жиру, сахару и соли. И мы потакали. А потом мы построили мир, где можно потакать аппетиту к моральным нападкам и моральному осуждению. Потакали и этому. […]
Откуда аппетит: в толпе, которая осуждает, вы отводите внимание от себя, и вам достаётся имущество выбывшего конкурента. Сначала мы построили мир, где можно бесконечно есть сладкое. Потом мир, где можно бесконечно осуждать. И каждое обвинение это рулетка. Иногда вы попадаете в виновного, иногда в человека с похожим именем. В разговоре вспоминают человека, которого приняли за другого и завалили угрозами. Проверки не было, был только аппетит.
Здесь параллель с нейросетью точная. Травля это уверенный ответ без проверки. Модель ошибается так же: уверенно достраивает правдоподобное, потому что её число отвечает за вероятность слов, а не за истину. Вот почему нейросеть уверенно ошибается: прибор у неё один, и правду он не меряет. Разница в одном. У модели нет аппетита. Она не получает выгоды от обвинения. Аппетит приносит человек, который её спрашивает. Попросите найти виноватого, и она может найти, правдоподобно и с деталями. Совесть тут работает против толпы: она требует паузы и проверки, прежде чем встать на сторону большинства. Рулетка крутится и у руководителей. Жалоба на сотрудника, слух о партнёре, отчёт, который собрал агент: всё это показания, а не приговор.
Что делать: прежде чем осудить сотрудника или партнёра, своим словом или сгенерированным, одна проверка факта.
Почему мы не тревожимся постоянно, если тревога готовит к будущему
Мы не тревожимся постоянно, потому что у каждой мысли есть упущенная выгода. Это ответ на вопрос, который мы оставили на конец. Пример Курцбана: три года волноваться перед выступлением это три года жизни, потраченные на репетицию одного разговора. Польза от подготовки есть, но что-то вы в это время не делаете, и отдача падает. Та же логика у чувства усилия. Думать трудно, потому что ум следит, не нужна ли его лучшая часть сейчас для другого. И у скуки: она меряет, насколько бедно то, чем вы заняты, и ищет, что было бы лучше. Курцбан называет это чудом: одна часть ума следит за тем, что делает другая, и считает цену.
Теперь нейросеть. У неё нет упущенной выгоды: ей нечем больше заняться, кроме вашего запроса. Она не устаёт, не скучает и не чувствует, что вопрос не стоит ответа. Мелочь получает столько же, сколько важное решение. Это и есть бесконечная лента, только листаете вы её сами, вопросами. Для бизнеса ограничение здесь не в модели, а в постановке задачи. Чувство усилия за модель держите вы. Как ставить задачи нейросети, чтобы это работало: просите варианты и данные, а решение оставляйте себе. И отсекайте запросы, которые не стоят вашего внимания: у модели нет скуки, которая подскажет, что это пустое.
Курцбан заканчивает мягко. Вы будете чувствовать то, что чувствуете. Это дал нам Дарвин, и спорить с ним бесполезно. Но у вас есть то, чего нет ни у одного прибора и ни у одной модели: право решать, что делать с показанием.
Что делать: ставьте задачу так, чтобы измеряла модель, а решали вы.
Если вы готовите внедрение нейросетей в компании, в нашем боте лежит чек-лист «12 вопросов перед внедрением».
Один шаг до пятницы 6 ноября: возьмите одно рабочее решение, которое вас сейчас задевает, и запишите одной строкой, что измеряет это чувство. И только потом решайте.
Частые вопросы
Зачем нужны эмоции с точки зрения эволюции
Эмоции нужны, чтобы измерять и толкать к действию. По схеме Роба Курцбана каждое чувство сначала меряет что-то в теле или в мире, а потом подсказывает, что делать. Жажда меряет воду в крови, ревность меряет угрозу отношениям, отвращение меряет риск заразы. Переживание нужно как общая валюта, чтобы сравнить разные приборы и решить, что важнее сейчас.
Можно ли контролировать эмоции
Само чувство контролировать почти нельзя, а действие можно. Курцбан говорит прямо: ты чувствуешь то, что чувствуешь, и это в основном не в твоих руках. Изменить можно только то, что ты с чувством делаешь. Рабочий вопрос в момент, когда накрывает: что это чувство измеряет и стоит ли ему подчиняться.
Почему зависть сильнее в соцсетях
Потому что зависть настроена на сравнение с несколькими десятками людей вокруг, а лента показывает тысячи успешных. Прибор зашкаливает не из-за вашей жизни, а из-за объёма чужих витрин. Курцбан называет это настройкой ручек под мир, где вчера было похоже на завтра. Ручки остались, а мир изменился.
Есть ли у искусственного интеллекта чувства
На наш взгляд, нет. У нейросети внутри одно число: вероятность следующего слова, а не арбитраж между голодом, страхом и стыдом. Когда модель пишет «мне грустно», это предсказание слова, а не показание прибора. Текст о чувстве и чувство это разные вещи.
Почему нейросеть уверенно ошибается
Потому что её число отвечает за правдоподобие слов, а не за истину. Модель достраивает текст, который выглядит убедительно, и у неё нет привычки остановиться и проверить. Аппетит к готовому ответу приносит тот, кто спрашивает. Поэтому любое утверждение модели о фактах и людях стоит проверять до того, как на него опереться.
Как ставить задачи нейросети, чтобы решение оставалось за мной
Просите варианты и данные, а решение оставляйте себе. Давайте модели контекст и задачу вместо спора с ней: показание меняется только так. Отсекайте запросы, которые не стоят вашего внимания, потому что у модели нет скуки и усталости, и мелочь она обработает с той же готовностью, что и ключевое решение.