Verjetnostna funkcija

Verjetnostna funkcija (pogosto poenostavljeno imenovana verjetnost) meri, kako dobro statistični model pojasnjuje opazovane podatke z računanjem verjetnosti tega, da vidimo podatke pod drugimi parametričnimi vrednostmi modela. Zgrajena je iz skupne verjetnostne porazdelitve naključne spremenljivke, ki (naj bi) generirala opazovanja.^[1]^[2]^[3] Ko jo ocenimo na dejanskih podatkovnih točkah, postane funkcija izključno modelskih parametrov.

V ocenjevanju največje verjetnosti služijo modelski parametri ali argumenti, ki maksimirajo verjetnostno funkcijo kot točkovne ocene neznanih parametrov, medtem ko Fischerjevi podatki (ki pogosto približujejo verjetnostno Hessejevo matriko pri maksimumu) dajo znak natančnosti ocene.

V Bayesovi statistiki je po drugi strani ocena, ki nas zanima, nasprotje verjetnosti, t.i. posteriorna verjetnost parametra pri danih opazovanih podatkih, ki jih računamo po Bayesovem pravilu.^[4]

Verjetnostno razmerje in relativna verjetnost

Relativna verjetnostna funkcija

Ker je dejanska vrednost verjetnostne funkcije odvivsna od vzorca, je pogosto primerno delati s standardiziranimi merami. Recimo, da je ocena maksimalne verjetnosti za parameter $θ$ ${\textstyle {\hat {\theta }}}$ . Relativne verjetnosti za druge $θ$ vrednosti lahko najdemo s primerjanjem verjetnosti tistih drugih vrednosti z verjetnostjo ${\textstyle {\hat {\theta }}}$ . Relativna verjetnost $θ$ je opredeljena kot ^[5]^[6]^[7]^[8]^[9] $R(\theta )={\frac {{\mathcal {L}}(\theta \mid x)}{{\mathcal {L}}({\hat {\theta }}\mid x)}}.$ Relativna verjetnost je tako verjetnostno razmerje (omenjeno zgoraj) s fiksnim denominatorjem ${\textstyle {\mathcal {L}}({\hat {\theta }})}$ . To ustreza standardiziranju verjetnosti na maksimum 1.

Verjetnostna regija

Verjetnostna regija je set vseh vrednosti $θ$ , katerih relativna verjetnost je večja ali enaka dani meji. Rečeno z vidika odstotkov, je $p$ % verjetnostna regija za $θ$ opredeljena kot^[5]^[7]^[10]

$\left\{\theta :R(\theta )\geq {\frac {p}{100}}\right\}.$

Če je $θ$ en realni parameter, bo verjetnostna regija $p$ % običajno obsegala interval realnih vrednosti. Če regija obsega interval, jo imenujemo verjetnostni interval.^[5]^[7]^[11]

Sklici

↑ Casella, George; Berger, Roger L. (2002). Statistical Inference (2nd izd.). Duxbury. str. 290. ISBN 0-534-24312-6.
↑ Wakefield, Jon (2013). Frequentist and Bayesian Regression Methods (1st izd.). Springer. str. 36. ISBN 978-1-4419-0925-1.
↑ Lehmann, Erich L.; Casella, George (1998). Theory of Point Estimation (2nd izd.). Springer. str. 444. ISBN 0-387-98502-6.
↑ Zellner, Arnold (1971). An Introduction to Bayesian Inference in Econometrics. New York: Wiley. str. 13–14. ISBN 0-471-98165-6.
1 2 3 Kalbfleisch, J. G. (1985), Probability and Statistical Inference, Springer (§9.3).
↑ Azzalini, A. (1996), Statistical Inference—Based on the likelihood, Chapman & Hall, ISBN 9780412606502 (§1.4.2).
1 2 3 Sprott, D. A. (2000), Statistical Inference in Science, Springer (chap. 2).
↑ Davison, A. C. (2008), Statistical Models, Cambridge University Press (§4.1.2).
↑ Held, L.; Sabanés Bové, D. S. (2014), Applied Statistical Inference—Likelihood and Bayes, Springer (§2.1).
↑ Rossi, R. J. (2018), Mathematical Statistics, Wiley, str. 267.
↑ Hudson, D. J. (1971), »Interval estimation from the likelihood function«, Journal of the Royal Statistical Society, Series B, 33 (2): 256–262, doi:10.1111/j.2517-6161.1971.tb00877.x.

[1] Casella, George; Berger, Roger L. (2002). Statistical Inference (2nd izd.). Duxbury. str. 290. ISBN 0-534-24312-6.

[2] Wakefield, Jon (2013). Frequentist and Bayesian Regression Methods (1st izd.). Springer. str. 36. ISBN 978-1-4419-0925-1.

[3] Lehmann, Erich L.; Casella, George (1998). Theory of Point Estimation (2nd izd.). Springer. str. 444. ISBN 0-387-98502-6.

[4] Zellner, Arnold (1971). An Introduction to Bayesian Inference in Econometrics. New York: Wiley. str. 13–14. ISBN 0-471-98165-6.

[Kalbfleisch-5] 1 2 3 Kalbfleisch, J. G. (1985), Probability and Statistical Inference, Springer (§9.3).

[6] Azzalini, A. (1996), Statistical Inference—Based on the likelihood, Chapman & Hall, ISBN 9780412606502 (§1.4.2).

[Sprott-7] 1 2 3 Sprott, D. A. (2000), Statistical Inference in Science, Springer (chap. 2).

[8] Davison, A. C. (2008), Statistical Models, Cambridge University Press (§4.1.2).

[9] Held, L.; Sabanés Bové, D. S. (2014), Applied Statistical Inference—Likelihood and Bayes, Springer (§2.1).

[Rossi2018-10] Rossi, R. J. (2018), Mathematical Statistics, Wiley, str. 267.

[Hudson-11] Hudson, D. J. (1971), »Interval estimation from the likelihood function«, Journal of the Royal Statistical Society, Series B, 33 (2): 256–262, doi:10.1111/j.2517-6161.1971.tb00877.x.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]