Skitse til notat om hvor de forskellige sandsynlighedsfordelinger kan tænkes at komme fra

Transkript

1 E6 efterår 1999 Notat 8 Jørge Larse 12. oktober 1999 Skitse til otat om hvor de forskellige sadsylighedsfordeliger ka tækes at komme fra I statistik opererer ma i vid udstrækig med et lille atal»stadardfordeliger«. Hvor kommer de fra, og hvorda argumeterer ma for dem? Det følgede er et udkast til e redegørelse herfor. 1 Mekaismer og processer E lag række fordeliger ka udledes ud fra besærede simple stokastiske processer og ligede. 1.1 Beroulli-processer E Beroulli-proces er e følge X 1, X 2, X 3,... af uafhægige idetisk fordelte 01-variable (Beroulli-variable). Lad p være sadsylighede for værdie 1 (dvs. p = P(X j = 1)) Summe af de første Lad Y være summe af de første led, dvs. Y = X 1 + X X. Fordelige af Y er e biomialfordelig med atalsparameter og sadsylighedsparameter p. [Heraf følger umiddelbart biomialfordeliges foldigsegeskaber og formlere for middelværdi og varias af e biomialfordelt størrelse.] Biomialfordeliges sadsylighedsfuktio er ( ) P(Y = y) = p y (1 p) y, y {0, 1, 2,..., } y og E(Y) = p og Var(Y) = p(1 p) Vetetide til det første 1 Lad T betege vetetide til der første gag kommer et 1, dvs. T > t hvis og ku hvis X 1 + X X t < 1. Fordelige af T er e geometrisk fordelig med parameter p. Sadsylighedsfuktioe er P(T = t) = p(1 p) t, t {0, 1, 2, 3,... }

2 Fordeligeres opridelse Side 2 af 17 og E(T) = (1 p)/p og Var(T) = (1 p)/p Vetetide til det k-te 1 Lad T betege vetetide til der k-te gag kommer et 1, dvs. T > t hvis og ku hvis X 1 + X X t < k. Fordelige af T er e egativ biomialfordelig med parametre k og p. Sadsylighedsfuktioe er ( ) t + k 1 P(T = t) = p k (1 p) t, t {0, 1, 2, 3,... } (1) t og E(T) = k(1 p)/p og Var(T) = k(1 p)/p 2. For k = 1 fås de geometriske fordelig. Højreside i formel (1) er defieret for p ]0, 1] og k R +, så ma ka derfor tale om e egativ biomialfordelig med vilkårlig positiv formparameter k Bemærkig I og er vi stiltiede gået ud fra at de omtalte»vetetid«reges fra starte af følge (t = 0). Det gælder imidlertid også for visse slags stokastiske starttidspukter 1, f.eks. tidspuktet for de j-te begiveheds idtræffe, dvs. vetetide fra det j-te til det ( j + k)-te 1 er egativt biomialfordelt. 1.2 Poisso-processer E Beroulli-proces er e stokastisk proces der til de diskrete tidspukter 0, 1, 2,... registrerer om der er idtruffet e begivehed (hvilket markeres som X t = 1) eller ej. Det tilsvarede fæome i kotiuert tid er e Poissoproces. Hvis ma vil beskrive Poissoprocesse heuristisk såda at lighede med Beroulliprocesse træder frem, ka ma sige at der i hvert ifiitesimalt tidsiterval [t, t + dt] idtræffer 0 eller 1 begivehed, at begivehedsforekomstere i ikke-overlappede tidsitervaller er stokastisk uafhægige af hiade, og at sadsylighede for 1 begivehed i det ifiitesimale iterval er λ dt. Her er parametere λ > 0 de itesitet hvormed begivehedere idtræffer; λ måles i ehede atal pr. tid. 1 Nemlig de såkaldte stoppetider. Løst sagt er et stokastisk tidspukt τ e stoppetid hvis det er såda at år τ = t, så er det muligt til tid t at afgøre at τ faktisk har værdie t. Plat-og-Kroe-eksempel: det stokastiske tidspukt τ 1 =»det tidspukt hvor ma får Kroe for tredje gag«er e stoppetid, me τ 2 =»sidste gag ide tredje Kroe«er ikke e stoppetid.

3 Fordeligeres opridelse Side 3 af Atal begiveheder i et iterval Lad Y betege det samlede atal begiveheder i itervallet ]t 0, t 1 ]. Fordelige af Y er e Poissofordelig med parameter µ = λ (t 1 t 0 ) (se f.eks. IMFUFAtekst 304c, Kapitel 1). Sadsylighedsfuktioe er P(Y = y) = µy y! og E(Y) = µ og Var(Y) = µ. exp( µ), y {0, 1, 2,... } Vetetide til æste begivehed Lad T betege vetetide fra t = t 0 idtil æste begivehed. Fordelige af T er e ekspoetialfordelig med reciprok skalaparameter λ. Tæthedsfuktioe for T er og E(T) = 1 / λ og Var(T) = 1 / λ 2. f (t) = λ exp( λt), t > 0 Vetetide mellem to på hiade følgede begiveheder er ligeledes ekspoetialfordelt med parameter λ Vetetide til k-te begivehed Lad T betege vetetide fra t = t 0 idtil de pågældede begivehed idtræffer for k-te gag. Fordelige af T er e gammafordelig med formparameter k og reciprok skalaparameter λ. Tæthedsfuktioe for T er f (t) = λ k Γ(k) tk 1 exp( λt), t > 0 (2) og E(T) = k / λ og Var(T) = k / λ 2. Tide fra begivehed j til begivehed j + k er ligeledes gammafordelt med parametre k og λ. Højreside af formel (2) er defieret for vilkårligt k R +, så ma ka derfor tale om gammafordeliger med vilkårlig positiv formparameter k. 1.3 Mere om og med Poissofordelige Bladede Poissofordeliger Lad os sige at X 1, X 2,..., X er idbyrdes uafhægige stokastiske variable der skal beskrive atal ulykker hos perso r. 1, 2,..., i e bestemt periode (se

4 Fordeligeres opridelse Side 4 af 17 f.eks. IMFUFA-tekst 304c, Afsit 2.3). Et første bud på e model kue være at alle X-ere er Poissofordelte med samme parameter µ, me sæt u at e modelkotrol viser at dee model ikke passer. Hvad gør ma så? E mulighed kue være at holde fast ved at de ekelte X-er er Poissofordelte, me slække på atagelse om at de har samme parameter µ. Ma kue foreslå e model gåede ud på at perso r. j har e Poissoparameter µ j som er e observatio fra e vis fordelig af µ-er; for at få e pæ løsig vælger vi at sige at µ-ere skal være observatioer fra e e Gammafordelig med formparameter k > 0 og reciprok skalaparameter λ > 0. Værdie af e observatio x j bestemmes derfor på de måde at først vælges µ j fra de pågældede gammafordelig, og derefter vælges x j som e observatio fra Poissofordelige med µ j som parameter. De ekelte persoers µ-værdier vælges uafhægigt af hiade, og alle X-er er uafhægige af hiade og af µ-ere. På dee måde bliver X 1, X 2,..., X idbyrdes uafhægige idetisk fordelte med sadsylighedsfuktio f (x) = = = + 0 µ x exp( µ) } x! {{} Poissossh. ( λ Γ(x + k) x!γ(k) λ + 1 ( x + k 1 x λ k Γ(k) µk 1 exp( λµ) }{{} ) k ( 1 λ + 1 ) p k (1 p) x gammatæthed ) x dµ dvs. X-eres fordelig er e egativ biomialfordelig med formparameter k > 0 og sadsylighedsparameter p = λ / λ+1 ]0, 1[. Bemærk at k ikke behøver være heltallig Sammesat Poissofordelig Atag at ma tæller tig eller idivider der typisk fides i klumper eller koloier, f.eks. bladlus på æbletræer. Atal idivider pr. klump følger e eller ade slags fordelig, og atal klumper (f.eks. atal bladluskoloier pr. træ) følger e eller ade ade slags fordelig. Lad os sige at atal klumper N er Poissofordelt med parameter µ. Så er det hesigtsmæssigt at atage at atal idivider pr. klump følger e logaritmisk fordelig, dvs. har e sadsylighedsfuktio af forme f (x) = 1 l p (1 p) x, x = 1, 2, 3,... x hvor p ]0, 1[. Totalatallet X 1 + X X N (der altså er e sum af et stokastisk atal stokastiske variable) bliver da egativt biomialfordelt med formparameter k = µ/( l p) og sadsylighedsparameter p.

5 Fordeligeres opridelse Side 5 af De cetrale græseværdisætig Lad X 1, X 2, X 3,... være e følge af idbyrdes uafhægige idetisk fordelte 2 stokastiske variable med E(X j ) = µ og Var(X j ) = σ 2, j = 1, 2, 3,..., og lad S være summe af de første: S = X 1 + X X. Når, vil fordelige af de cetrerede og ormerede sum S E(S ) Var(S ) = S µ σ 2 kovergere svagt mod stadardormalfordelige, dvs. ormalfordelige med middelværdi 0 og varias 1, dvs. fordelige med tæthedsfuktio f (x) = (se f.eks. DeGroot afsit 5.7). 1 ( exp 1 2π 2 x2), x R 1.5 Summer af kvadrater Lad X 1, X 2,..., X d være idbyrdes uafhægige stadardormalfordelte stokastiske variable. Fordelige af kvadratsumme Y = X1 2 + X X2 d er e χ 2 -fordelig med d frihedsgrader, hvilket er det samme som e gammafordelig med formparameter k = d/2 og skalaparameter 2, dvs. tæthedsfuktioe er f (y) = 1 Γ(d/2) 2 d/2 yd / 2 1 exp( y/2), y > 0. Fordeliges middelværdi er d og des varias 2d. 1.6 Stikprøveudtagig med og ude tilbagelægig Ma har e kasse med K sorte og N K hvide kugler. Herfra udtages e stikprøve på ( < N). Lad X betege atallet af sorte kugler i stikprøve. Hvis der er tale om stikprøveudtagig med tilbagelægig, så er fordelige af X e biomialfordelig med atalsparameter og sadsylighedsparameter p = K / N, dvs. sadsylighedstæthedsfuktioe er ( ) f (x) = p x (1 p) x (3) x hvor x {0, 1, 2,..., } og p = K / N. 2 Ma ka edda klare sig med edu svagere atagelser.

6 Fordeligeres opridelse Side 6 af 17 Hvis der er tale om stikprøveudtagig ude tilbagelægig, så er fordelige af X e hypergeometrisk fordelig med sadsylighedstæthedsfuktio f (x) = (K x )(N K x ) ( N ) (4) hvor x {0, 1, 2,..., } { (N K), (N K) + 1,..., K}. Uder græseovergage N og K således at K/N p, vil sadsylighedere (4) kovergere mod sadsylighedere (3). 2 Fra datareduktio til fordelig Stillet over for et datamateriale vil statistikere og/eller datamaterialets ophavsmad måske mee at der er bestemte størrelser som det er»umiddelbart idlysede«at rege ud, for eksempel ogle geemsit. Dermed har ma imidlertid automatisk også gjort e atagelse om at observatioere stammer fra e bestemt slags sadsylighedsfordelig (forudsat at ma accepterer visse statistiske og/eller modellerigsmæssige pricipper). Sagt på e ade måde: år ma har valgt hvorda ma vil reducere (eller aalysere) data, så har ma i e vis forstad også valgt hvad de uderliggede statistiske model er Gauß s argumet for ormalfordelige Atag at ma har observatioer x 1, x 2,..., x fra e kotiuert fordelig som er parametriseret ved e positiosparameter µ, og atag at ma hævder at dee positiosparameter skal estimeres ved geemsittet af x-ere. Hvis ma ved»estimeres«meer»estimeres ved maksimum likelihood metode«, så ka ma deducere at observatioere må være observatioer fra e ormalfordelig med middelværdi µ. (Se IMFUFA-tekst 304b, Kapitel 1.) 2.2 Per Marti-Löfs metode ispireret af statistisk mekaik De sveske matematiker Per Marti-Löf vist hvorda e lag række af de»almidelige«fordeliger ka udledes ud fra ligefordeliger og sumfuktioer. E sumfuktio er kort fortalt e fuktio t der afbilder stikprøver id i R k, og som har de egeskab at t(x 1, x 2,..., x +m ) = t(x 1, x 2,..., x ) + t(x +1, x +2,..., x +m ). 3 Dette er jo i modsætig til det sædvalige paradigme hvor ma begyder med e statistisk model og derudfra udleder hvorda ma skal aalysere data.

7 Fordeligeres opridelse Side 7 af 17 Lidt mere præcist er situatioe de at ma tæker sig at ma har e stikprøve (x 1, x 2,..., x ) X ; dee stikprøve opfatter ma som del af e større (hypotetisk?) stikprøve (x 1, x 2,..., x N ) X N hvor N er meget større ed. Dertil kommer så e sumfuktio t med værdier i R k (k er typisk 1 eller 2). Idee er u at ma forestiller sig at t taget af de store stikprøve har e bestemt fast værdi T, og at (x 1, x 2,..., x N ) er e observatio fra ligefordelige på iveaumægde {(x 1, x 2,..., x N ) X N : t(x 1, x 2,..., x N ) = T}. Det er herefter e i pricippet ekel matematisk opgave at udlede de iducerede fordelig af de lille stikprøve (x 1, x 2,..., x ). Det kommer der eksempler på i de følgede uderafsit variable Atag at vi har at gøre med 01-variable, dvs. X = {0, 1}. Sumfuktioe t er de der summerer x-ere: t(x 1, x 2,..., x m ) = x 1 + x x m. Vi skal fide ligefordelige på mægde hvor t(x 1, x 2,..., x N ) = T. Der er ( N T ) forskellige talsæt beståede af T 1-er og N T 0-er. Hvis ma vælger et tilfældigt af disse talsæt, så er sadsylighede for at de første koordiater har de bestemte værdier x 1, x 2,..., x lig med ( ) N T (x 1 + x x ) ( ). N T Hvis N og T går mod uedelig på e såda måde at T / N p (hvor 0 < p < 1), så vil dee sadsylighed kovergere mod p x 1+x x (1 p) (x 1+x x ) = p x j (1 p) 1 x j, svarede til uafhægige idetisk fordelte 01-variable med parameter p (dvs. de følger e Beroulli-fordelig); i øvrigt bliver da fordelige af summe af de første e biomialfordelig med parametre og p Atalsvariable Atag at vi har at gøre med atalsvariable, dvs. X = {0, 1, 2,...}. Sumfuktioe t er de der summerer x-ere: t(x 1, x 2,..., x m ) = x 1 + x x m. Vi skal fide ligefordelige på mægde hvor t(x 1, x 2,..., x N ) = T. Der er ) forskellige sæt af N ikke-egative heltal der summerer til T. Hvis ( T+N 1 T 4 Som ævt i overskrifte er dee tilgag ispireret af statistisk mekaik. Tæk f.eks. på x- ere som 6-dimesioale talsæt repræseterede de tre sted- og de tre impulskoordiater for atomere i e ideal gas (dvs. X = R 6 ) og t som de fuktio der reger systemets eergi ud. Systemets N = partikler bevæger sig rudt på flade svarede til kostat eergi.

8 Fordeligeres opridelse Side 8 af 17 ma vælger et tilfældigt af disse talsæt, så er sadsylighede for at de første koordiater har de bestemte værdier x 1, x 2,..., x lig med ( ) (T t) + (N 1) T t ( ) T + N 1 T hvor t = x 1 + x x. Hvis N og T går mod uedelig på e såda måde at T / N β = 1 p p (hvor 0 < p < 1), så vil dee sadsylighed kovergere mod p (1 p) x 1+x x = p (1 p) x j, svarede til uafhægige idetisk geometrisk fordelte størrelser med parameter p. I øvrigt bliver da fordelige af summe af de første e egativ biomialfordelig med parametre og p Positive reelle variable Atag at vi har at gøre med positive reelle variable, dvs. X = R +. Sumfuktioe t er de der summerer x-ere: t(x 1, x 2,..., x m ) = x 1 + x x m. Vi skal fide ligefordelige på mægde hvor t(x 1, x 2,..., x N ) = T, dvs. på mægde {(x 1, x 2,..., x N ) R N + : x 1 + x x N = T} og så skal vi fide de deraf afledte fordelig af de første x-er. Hvis ma gør det og derefter lader N og T gå mod uedelig på e såda måde at T / N β (hvor 0 < β < + ), så vil dee fordelig kovergere mod fordelige med tæthed f (x 1, x 2,..., x ) = β exp( β(x 1 + x x )) = β exp( βx j ) svarede til uafhægige idetisk ekspoetialfordelte størrelser med reciprok skalaparameter β. I øvrigt bliver da fordelige af summe af de første e gammafordelig med parametre og β Reelle variable Atag at vi har at gøre med reelle variable, dvs. X = R. Sumfuktioe t reger summe og summe af kvadratere ud (så de har værdier i R 2 ): t(x 1, x 2,..., x m ) = ( m x j, m x2 j ).

9 Fordeligeres opridelse Side 9 af 17 Vi skal fide ligefordelige på mægde hvor t(x 1, x 2,..., x N ) har værdie T = (T 1, T 2 ), dvs. på mægde { (x 1, x 2,..., x N ) R N + : N x j = T 1 og } N x 2 j = Y 2, og så skal vi fide de deraf afledte fordelig af de første x-er. Hvis ma gør det og derefter lader N og T gå mod uedelig på e såda måde at T 1/ N β 1 og T 2/ N β 2 (hvor < β 1 < + og β 2 1 < β 2 < + ), så vil dee fordelig kovergere mod e fordelig hvis tæthedsfuktio er let gekedelig hvis vi sætter µ = β 1 og σ 2 = β 2 β 2 1 : f (x 1, x 2,..., x ) = ( ) /2 1 2π(β 2 β 2 1 ) exp 1 2 x 2 j 2β 1 x j + β 2 1 β 2 β 2 1 = = ( ) 1 /2 2πσ 2 exp 1 2 x 2 j 2µ σ 2 ) 1 ( exp 1 (x j µ) 2 2πσ 2 2 σ 2 x j + µ 2 svarede til uafhægige idetisk ormalfordelte størrelser med middelværdi µ og varias σ Boltzmas lov Vi har u set fire eksempler på udledig af e fordelig ud fra e sumfuktio og e ligefordelig. Der er et bestemt møster i resultatere, hvilket vil fremgå hvis vi skriver de fire sadsylighedsfuktioer/tæthedsfuktioer på e lidt speciel måde. De fire ka skrives såda her, hvor hver gag x står for (x 1, x 2,..., x ): Beroulli: ( ) (1 p) exp l 1 p p t(x) geometrisk: p exp ( ( l(1 p)) t(x) ) ekspoetial: ormal: β exp( β t(x)) ( ) exp µ2 /2 σ 2 2πσ 2 ( exp µ σ 2 t 1(x) 1 ) 2σ 2 t 2(x)

10 Fordeligeres opridelse Side 10 af 17 Det fælles møster i tæthedere er at de ka skrives på forme 1 ϕ(β) exp( β t(x)) hvor sumfuktioe t ka være e vektorfuktio og hvor parametere β er e vektor af samme form som t; udtrykket β t(x) betyder skalarproduktet af de to vektorer β og t(x); ϕ(β) er e ormerigsfaktor der sørger for at sadsylighedere summerer/itegrerer til 1. Ma ka faktisk bevise geerelt at det forholder sig såda (år visse betigelser er opfyldt). I statistisk mekaik (jf. fodote 4) hedder dette resultat Boltzmas lov, og de fude fordelig kaldes de parametriske eller de kaoiske fordelig af (x 1, x 2,..., x ). 3 Stikprøvefuktioers fordeliger E del sadsylighedsfordeliger får deres betydig derved at de er fordeliger af diverse estimatorer og teststørrelser i statistiske modeller baseret på muligvis helt adre fordeliger, ofte ormalfordelige. 3.1 Fordeliger afledt af ormalfordeligsmodeller Estimatorer I ormalfordeligsmodeller optræder middelværdiparametre og variasparametre. Middelværdiparametree estimeres ved lieære fuktioer af observatioere og bliver derfor ormalfordelte (og hvis der er flere middelværdiparametre, bliver de simultae fordelig af estimatorere e flerdimesioal ormalfordelig). Variasparametre estimeres ved kvadratiske forme (emlig summer af kvadratiske afvigelser, passede ormeret) og bliver derfor σ 2 χ 2 / f -fordelt hvor σ 2 er de variasparameter der skal estimeres (Theorem 1 i Afsit 7.3 i DeGroot er det simpleste eksempel herpå). Ma bør otere sig at variasskø som e attribut har et atal frihedsgrader. At e stokastisk variabel Y er σ 2 χ 2 / f - fordelt med f frihedsgrader betyder at f / σ 2Y er χ 2 -fordelt med f frihedsgrader. Fordeliges middelværdi er σ 2 og des varias 2σ 2 /d Teststørrelser Når ma tester hypoteser om e ekelt middelværdiparameter i e ormalfordeligsmodel, gør ma det som oftest ved hjælp af e t-teststørrelse som er e

11 Fordeligeres opridelse Side 11 af 17 brøk af forme estimeret værdi formodet værdi estimeret stadardafvigelse på tællere I de fleste tilfælde (og hvis ma beytter det rigtige variasskø i ævere) er dee teststørrelses fordelig (uder de testede hypotese) e såkaldt t-fordelig; dee arver ævervariasskøets atal frihedsgrader. t-fordelige med f frihedsgrader ( f > 0) har tæthedsfuktio Γ( f +1 2 ) π f Γ( f 2 ) ) f +1 (1 + x2 2, x R. f t-fordelige med 1 frihedsgrad er det samme som Cauchy-fordelige, der væsetligst bruges som modeksempel 5, me som dog ka optræde i»det virkelige liv«, se f.eks. Notat 6 Opgave 1. Når ma tester hypoteser om flere middelværdiparametre i e ormalfordeligsmodel, gør ma det som oftest ved hjælp af e F-teststørrelse som er et forhold mellem to variasskø. I de fleste tilfælde (og hvis ma beytter de variasskø) er dee teststørrelses fordelig (uder de testede hypotese) e såkaldt F-fordelig; dee arver et atal frihedsgrader fra såvel tæller som æver. F-fordelige med frihedsgrader f 1 og f 2 ( f 1, f 2 > 0) har tæthedsfuktio Γ( f 1+ f 2 2 ) Γ( f 1 2 )Γ( f 2 2 ) f f 12 f 22 1 f2 x f ( f 2 + f 1 x) f 1 + f 2 2, x > Kvotietteststørrelse E geerel metode til hypoteseprøvig er følgede (som IMFUFA-tekst 304 ideholder mage eksempler på): Ma har e modelfuktio f (x,θ) og e grudmodel der siger at θ Ω. Ma øsker på grudlag af e observatio x obs at teste hypotese H 0 : θ Ω 0 hvor Ω 0 er e delmægde af Ω. Det gøres ved at udrege kvotietteststørrelse Q obs = max f (x obs,θ) θ Ω 0 max f (x obs,θ) θ Ω og så forkaste hypotese hvis Q obs er meget lille. At Q obs er meget lille vil sige at det er meget lidt sadsyligt at få e edu midre værdi, mere præcist at testsadsylighede P 0 (Q Q obs ) skal være lille; her betyder fodteget 0 5 F.eks. er de et eksempel på e fordelig som ikke har middelværdi.

12 Fordeligeres opridelse Side 12 af 17 på P at sadsylighede skal udreges uder forudsætig af at hypotese er rigtig. (Hvis Ω 0 ideholder mere ed é værdi, ka testsadsylighede defieres som sup θ Ω0 P θ (Q Q obs ).) Størrelse Q er e fuktio af observatioere, og derfor har de for hvert θ e veldefieret fordelig som ma i pricippet ka bestemme; i praksis er det imidlertid ofte temmelig vaskeligt at bestemme fordelige af Q, og fordelige vil ofte afhæge af det ukedte θ Ω 0. Nu kommer matematikke som e deus ex machia id i billedet med e sætig der fortæller at for e meget stor klasse af statistiske modeller og hypoteser har størrelse 2 l Q e asymptotisk fordelig som er særdeles medgørlig, emlig e χ 2 -fordelig med et ærmere bestemt atal frihedsgrader (»atal frie parametre i grudmodelle mius atal frie parametre uder hypotese«). Ma ka derfor få e omtretlig værdi af teststørrelse som sadsylighede for i de pågældede χ 2 -fordelig at få værdier større ed 2 l Q obs. I forbidelse med visse modeller for atalsvariable ser ma udertide 6 teststørrelser af forme X 2 = (observeret atal forvetet atal)2 forvetet atal som er χ 2 -fordelte; ma fider frem til X 2 ved at rækkeudvikle 2 l Q omkrig puktet»de forvetede atal«. 4 Bayesiaeres kojugerede a priori fordeliger De bayesiaske tilgag til statistisk iferes er som følger: Ma har e modelfuktio f (x θ) der for givet θ Ω er e sadsyligheds(tætheds)fuktio i x (parameterrummet Ω er typisk e pæ delmægde af R k ). Desude har ma e a priori fordelig af θ, specificeret ved e sadsyligheds(tætheds)fuktio ξ(θ). Hvis ma u får udleveret e observeret værdi x af X, ka ma udrege a posteriori fordelige for θ. A posteriori fordelige har e sadsyligheds- (tætheds)fuktio ξ(θ x) som er proportioal med f (x θ)ξ(θ): ξ(θ x) f (x θ) ξ(θ) (5) hvor proportioalitetsfaktore bestemmes således at ξ(θ x) summeret/ itegreret over θ giver 1. Der er et par grudlæggede problemer som kræver ærmere overvejelse: i hvilke forstad giver det meig at fremsætte sadsylighedsudsag om parametree i e statistisk model, og hvor kommer a priori fordelige fra? Diskussio af det første problem hører ikke hjemme i ærværede skrift; med hesy til det adet spørgsmål kue ma gå empirisk til værks og simpelthe 6 F.eks. i DeGroot Afsit (hvor X 2 på det mest upædagogiske kaldes Q).

13 Fordeligeres opridelse Side 13 af 17 se efter hvorda de bayesiaske statistikere faktisk bærer sig ad. Ma vil så erfare at i mage situatioer har bayesiaere ikke et voldsomt præcist bud på e a priori fordelig, og så ka ma jo lige så godt vælge e fordelig der gør matematikke pæ eller i det midste fremkommelig. På de måde kommer de såkaldte kojugerede a priori fordeliger (DeGroot Afsit 6.3) id i billedet. 4.1 Betafordelige og biomialfordelige Atag at vi har e biomialfordeligsmodel: ( ) f (x p) = p x (1 p) x. x Hvis ma bruger e a priori fordelig hvis tæthedsfuktio er proportioal med p a 1 (1 p) b 1, så bliver a posteriori fordeliges tæthed (jf. formel (5)) proportioal med p a+x 1 (1 p) b+( x) 1, dvs. samme type fordelig som a priori fordelige, bare med ogle ædrede værdier af a og b. Beta-fordelige med parametre a og b (a, b > 0) er fordelige med tæthedsfuktio f (x) = 1 B(a, b) xa 1 (1 x) b 1, x ]0, 1[. Her er B(a, b) = 1 0 x a 1 (1 x) b 1 dx = Γ(a)Γ(b)/Γ(a + b) de såkaldte betafuktio. Betafordelige er de kojugerede fordelig til biomialfordelige. 4.2 Gammafordelige og Poissofordelige Atag at vi har e model hvor (X 1, X 2,..., X ) er uafhægige Poissofordelte med parameter µ, f (x µ) = µ x j x j! exp( µ) = µx 1+x x x j! exp( µ) Hvis ma bruger e a priori fordelig hvis tæthedsfuktio er proportioal med µ a 1 exp( bµ), så bliver a posteriori fordeliges tæthed (jf. formel (5)) proportioal med µ a+(x 1+x x ) 1 exp( (b + )µ), dvs. samme type fordelig som a priori fordelige, bare med ogle ædrede værdier af a og b. Derfor er gammafordelige de kojugerede fordelig til Poissofordelige.

14 Fordeligeres opridelse Side 14 af Gammafordelige og ekspoetialfordelige Atag at vi har e model hvor (X 1, X 2,..., X ) er uafhægige ekspoetialfordelte med parameter µ, f (x µ) = µ exp( µx j ) = µ exp( µ (x 1 + x x )) Hvis ma bruger e a priori fordelig hvis tæthedsfuktio er proportioal med µ a 1 exp( bµ), så bliver a posteriori fordeliges tæthed (jf. formel (5)) proportioal med µ a+ 1 exp( (b + x 1 + x x )µ), dvs. samme type fordelig som a priori fordelige, bare med ogle ædrede værdier af a og b. Derfor er gammafordelige de kojugerede fordelig til ekspoetialfordelige.

15 Fordeligeres opridelse Side 15 af 17 Et todimesioalt ideks fordelig sum/atal vetetid specificér MLE specificér sumfuktio estimator/teststørrelse a priori fordelig stikprøveudtagig biomial Beroulli hypergeometrisk 1.6 Poisso geometrisk egativ biomial logaritmisk ekspoetial gamma ormal χ t F Beta 4.1 Numree i tabelle er afsitsumre.

16 Fordeligeres opridelse Side 16 af 17 Idhold 1 Mekaismer og processer Beroulli-processer Summe af de første Vetetide til det første Vetetide til det k-te Bemærkig Poisso-processer Atal begiveheder i et iterval Vetetide til æste begivehed Vetetide til k-te begivehed Mere om og med Poissofordelige Bladede Poissofordeliger Sammesat Poissofordelig De cetrale græseværdisætig Summer af kvadrater Stikprøveudtagig med og ude tilbagelægig Fra datareduktio til fordelig Gauß s argumet for ormalfordelige Per Marti-Löfs metode ispireret af statistisk mekaik variable Atalsvariable Positive reelle variable Reelle variable Boltzmas lov Stikprøvefuktioers fordeliger Fordeliger afledt af ormalfordeligsmodeller Estimatorer Teststørrelser Kvotietteststørrelse

17 Fordeligeres opridelse Side 17 af 17 4 Bayesiaeres kojugerede a priori fordeliger Betafordelige og biomialfordelige Gammafordelige og Poissofordelige Gammafordelige og ekspoetialfordelige Et todimesioalt ideks 15