Tieteellinen vallankumous
Thomas S. Kuhn sovelsi tieteenfilosofiassaan aiemmin kehitettyä paradigma-käsitettä. Hän ymmärsi tieteen kehittymisen perustuvan vallitseviin paradigmoihin, etenkin niiden muutoksiin. Paradigmalla tarkoitetaan sen hetkisen näkemyksen mukaista oikeaksi todettua teoriaa tai tietoa. Esimerkkinä paradigmasta voidaan antaa se, kuinka 1800-luvun alkuun saakka luultiin aurinkokunnassa olevan seitsemän planeettaa. Urbain Le Verrierin laskelmien ansiosta nykyisin tiedetään, että on olemassa kahdeksaskin planeetta, Neptunus (kun Plutoa ei lasketa planeetaksi). Kuhnia siteeraten paradigma on ”universaalisti tunnustettu tieteellinen saavutus, joka tuottaa jonkin aikaa tieteenharjoittajien yhteisön malliongelmat ja niiden ratkaisut”.
Bayesiläinen tilastotiede
Edellisen kaavan avulla pyritään tekemään tilastollisia päätelmiä "ei-havaittavasta" muuttujasta x "havaittavan" muuttujan y perusteella. Ehdollistettua jakaumasymbolia p(x|y) sanotaan x:n "posterioriksi". Jakaumasymboli p(y|x) on "likelihood" (joskus myös "otantajakauma", "otantamalli"), jota käytetään myös klassisen tilastotieteen uskottavuuspäättelyssä. Jakaumasymboli p(x) on puolestaan x:n "priori". Tekijä 1/p(y) ei vaikuta x:ää koskevaan tilastolliseen päättelyyn, vaan se on luonteeltaan normitusvakio.Jotta voimme muodostaa posteriorijakauman tuntemattomalle formula_3, tarvitaan:
Näistä ensimmäinen on uskottavuusfunktio formula_8.
Priorijakauma on ennakkokäsitys tuntemattomasta formula_3, ja usein se riippuu hyperparametreistä formula_4. Priori voidaan esittää jakaumana formula_11.
Jos priori valitaan siten, että se kuuluu samaan jakaumaperheeseen posteriorijakauman kanssa, sitä kutsutaan konjugaattiprioriksi. Tällöin syntyy myös laskennallisesti mukavampi tilanne. Jos havaintojen yhteisjakauma kuuluu eksponenttiseen perheeseen, aina on olemassa konjugaattipriori (Morris, 1983).