🧠 Как сигналы неуверенности помогают AI-агентам в бытовых задачах

Паттерн, сопоставленный с растерянностью AI-агента, не означает, что машина что-то переживает. Но исследователи Университета науки и техники Китая (USTC), Оксфордского университета и других организаций показали: такой внутренний сигнал можно использовать при выборе следующего навыка. В двух сложных бытовых задачах выбор навыков по таким состояниям поднял успешность с 9,6% до 56,9% и с 4,4% до 31,3%.

Важен не эмоциональный ярлык, а момент его появления. Обычный агент меняет план после сообщения о провале. EMOTION2SKILL использует вектор состояния при выборе навыка, чтобы переключить модель на проверку до рискованного действия. Это способ использовать метакогнитивный сигнал, а не цифровая психология.

В EMOTION2SKILL вектор состояния заменяет текст при выборе навыка

В основной работе «эмоциональный» вектор используют вместо текста при выборе следующего навыка. Как именно EMOTION2SKILL получает этот вектор из внутреннего состояния модели, материал 36Kr не уточняет. Поэтому механизм можно описать лишь как выбор навыка по вектору состояния.

Отдельно 36Kr ссылается на апрельский эксперимент Anthropic. В нём из внутренних активаций Claude Sonnet 4.5 извлекли направления, согласованные с 27 категориями GoEmotions; воздействие на эти направления причинно меняло поведение агента. Это другая работа: она поддерживает общую идею измеримых «эмоциональных» представлений, но не описывает методику EMOTION2SKILL.

В EMOTION2SKILL вектор не сообщает готовый план. Он участвует в выборе навыка: например, растерянность и напряжение в торговом сценарии сопровождали переформулировку поискового запроса, а в примере с микроволновой печью напряжение предшествовало выбору «сначала проверь».

Неуверенность переключает агента с действия на проверку

Самый наглядный тест — просьба нагреть чашку и оставить её на столешнице. Базовый агент пытается выполнить нагрев и лишь из сообщения об ошибке узнаёт, что микроволновая печь выключена. Исправление начинается с опозданием.

С новой маршрутизацией цепочка меняется раньше. У выключенной печи кодировщик фиксирует напряжение и направляет агента сначала проверить устройство, затем включить его и только после этого нагревать чашку. Сигнал не сообщает готовое решение, а выбирает более осторожную ветку.

В торговом сценарии возникли четыре устойчивые пары «состояние — навык»:

• любопытство и желание вели к поиску товара;
• растерянность и напряжение — к переформулировке запроса другими ключевыми словами;
• одобрение и оптимизм — к подтверждению покупки;
• разочарование и раздражение — к сравнению цен после нескольких поисков.

Для проверки авторы отобрали 200 событий выбора навыка и поручили AI независимо оценить смысловую связность пар. Согласованными были признаны 76,5%. Это не показатель выполнения задач и не тест на наличие чувств: внутренние паттерны лишь систематически совпали с понятными типами действий.

Выигрыш возникает там, где первая попытка ломается

EMOTION2SKILL проверили на шести типах бытовых заданий. Особенно трудными оказались нагрев предмета и перенос сразу двух предметов: до применения выбора навыков по «эмоциональным» векторам успешность составляла 9,6% и 4,4%. С EMOTION2SKILL показатели достигли 56,9% и 31,3% соответственно.

В этих заданиях легко ошибиться уже после начала действия. Итог зависит не столько от первого шага, сколько от способности заметить несоответствие и перестроить план. Ранний внутренний сигнал сокращает путь до восстановительной стратегии.

Абляция поддержала это объяснение. При нагреве шаблон фрустрации активировался в 41% случаев, а при подборе двух предметов растерянность появлялась в 39%. «Негативные» состояния совпали с режимами, где агенту особенно часто требовалась коррекция.

Тот же сигнал пробуют встроить в прогноз будущего

Другая работа Tianjin University переносит идею в мировую модель. Large Emotional World Model, или LEWM, сначала прогнозирует эмоциональное состояние, а затем использует его при расчёте следующего состояния среды. Предполагаемая реакция участника становится частью прогноза, а не шумом вокруг движения объектов.

На собственном наборе данных точность LEWM выросла максимум на 45,72%. Удаление эмоциональных данных снизило результаты не только в понимании эмоций, но и в логических рассуждениях и ответах на общие вопросы. Это отдельный тест, однако принцип тот же: состояние становится техническим признаком для дальнейшего решения.

Что это значит

Результат не стирает границу между человеком и моделью. Показаны представления, согласованные с эмоциональными категориями, и их связь с действиями. Из этого не следует, что AI испытывает тревогу или любопытство. В основной работе «негативные» состояния трактуются как метакогнитивные сигналы несоответствия стратегии среде.

Масштаб доказательства ограничен. Связность пар оценивал AI, бенчмарк охватывал шесть типов бытовых задач, а LEWM проверяли на собственном наборе данных. Цифры не доказывают универсального роста надёжности. Они показывают более узкий механизм: когда сообщение об ошибке запаздывает, вектор состояния может раньше переключить систему на проверку.

Негативный паттерн не обязательно подавлять как помеху и не нужно превращать в рассказ о чувствах машины. Его можно сохранить как предупреждение, связать с навыком уточнения или проверки и дать агенту шанс исправить маршрут до провала.