Antal Antal B(770, ) Pl(770, 0.460, 319.1) afvi- stikprøgende

Transkript

1 Antal Antal B(770, 0.004) Pl(770, 0.460, 39.) afvi- stikprøgende ver. Forv. (obs forv) (obs forv) Forv. forv forv z i Ialt Man finder ialt z + = 229 i= z i = 254 afvigende låg i de 229 prøver, dvs z + = 254/229 =. afvigende/pr prøve, hvorfor man har h + =./770 = afvigende/pr låg. Man ville umiddelbart modellere fordelingen af antallet af afvigende låg ved en binomialfordeling med n = 770 og den estimerede defektandel p = Man beregner goodness of fit teststørrelsen svarende til en generaliseret lineær model for binomialfordelte målinger (kun interceptled), { G 2 (H I ) = 2 z i ln(h i /h + )+ } (n i z i )ln[( h i )/( h + )] (7.8) i i { [ = 2 n i hi ln(h i /h + )+( h i )ln[( h i )/( h + )] ]}, hvor i h i = z i n i = x i+ og h + = zi ni = x ++ angiver de observerede relative hyppigheder i henholdsvis den i te gruppe og i totalmaterialet. Kvotientteststørrelsen svarer til de vægtede deviansbidrag (med vægtene n i ) d(h i ; h + )=2n i [ hi ln(h i /h + )+( h i )ln[( h i )/( h + )] ] 277

2 Man finder G 2 (H I ) = 273.4, der skal sammenlignes med fraktilerne i i en χ 2 (228)-fordeling. p-værdien er lidt mindre end 5%, så der er indikation af overdispersion i forhold til binomialfordelingen Formulering af hierarkisk model Vi vil modellere variationen af fejlandelen i partiet fra parti til parti ved en Beta-fordeling. X Bet(α, β) hvis tæthedsfunktionen for X er med 0 <αog 0 <β. Der gælder: f X (x) = Γ(α)Γ(β) Γ(α + β) xα ( x) β for 0 x Såfremt Z µ B(n, µ) ogµ Be(α, β), da er den marginale fordeling af Z en Pl(n, α, α + β)-fordeling. (en såkaldt Polya-fordeling). En diskret fordelt stokastisk variabel X, der kan antage værdierne 0,, 2,...,n, siges at følge en Polyafordeling, hvis X har frekvensfunktionen g(x) = ( n x ) Γ(α + x) Γ(α) Γ(β α + n x) Γ(β α) Γ(β) Γ(β + n) hvor α>0ogβ>0 er reelle tal og hvor n er et positivt heltal. for x =0,,2,...,n (7.9) Kort skriver vi X PL(n, α, β) Når Z µ B(n, µ) og µ Be(α, β) finder man momenterne i den marginale fordeling af Z som E[Z] = nπ V[Z] = n π( π) +γ [ + nγ] (7.0) 278

3 med idet π = α/(α + β), γ = α+β E[µ] = π = α α+β αβ V[µ] = (α + β) 2 (α + β +) = π( π) α + β + (7.) (7.2) (7.3) For den relative hyppighed Y = Z/n gælder: E[Y ] = π V[Y ] = π( π) +γ ( γ+ ) n (7.4) hvor faktoren π( π) =E[µ( µ)] = E[V (µ)] +γ udtrykker den gennemsnitlige binomialvarians. 7.3 Hierarkisk model for empiriske varianser for normaltfordelte variable Til illustration af versatiliten af modelapparatet betragter vi her en hierarkisk model for varianser i normalfordelingsmodeller Den systematiske model Betragt et tosidet skema af observationer: X ij, j =,2,...,n i, i=,...,k, og sæt som vanligt n i SAK i = (x ij x i+ ) 2 j= 279

4 med x i+ = n i n i x ij Antag, at X ij (µ i,σi 2) N(µ i,σi 2), og X ij, j =,...,n i er betinget uafhængige givet sættet af (µ i,σi 2 ), i =,...,k. Vi har da, at fordelingen af SAK i er j= SAK i σ 2 i σ 2 i χ 2 (f i ) med f i = n i. SAK,...,SAK k er indbyrdes uafhængige,og fordelingen af SAK i afhænger ikke af µ i. Betragter vi specielt de empiriske varianser har vi at eller, udtrykt ved gammafordelingen: S 2 i = SAK i f i (7.5) S 2 i σ 2 i σ 2 i χ 2 (f i )/f i, S 2 i σ2 i G( f i /2, σ 2 i /(f i/2) ) Behandlingen af fordelingsforholdene for Si 2 er således blot et specialtilfælde af tilsvarende modeller for gammafordelte variable. På grund af den særlige interesse, der knytter sig til de empiriske varianser fra normaltfordelte observationer, vil vi alligevel her give en beskrivelse af fordelingsforholdene i dette specialtilfælde Den tilfældige model Under en tilfældig model vil det være naturligt at betragte hvilket er det samme som σ 2 i σ 2 i RGam(α, β), (7.6) G(α, /β), (7.7) 280

5 Det følger af egenskaberne for den reciprokke gammafordeling, at og E[σ 2 ]= β α V[σ 2 β 2 ]= (α ) 2 (α 2) = E[σ2 ] 2 α 2 Dvs den relative spredning i fordelingen af σ 2 er V[σ2 ]/E[σ 2 ]=/ α 2 (7.8) Fortolkning af parametre i strukturfordelingen af σ 2 I stedet for parametriseringen af fordelingen af σ 2 ved α og β vilviindføre en parametrisering, der er relateret til χ 2 -fordelingen. Der gælder Sætning 7.3. Fortolkning af strukturfordelingen af /σ 2 som en χ 2 -fordeling Antag, at strukturfordelingen af σ 2 er som i (7.7), dvs σ 2 RGam(α, β). Da gælder σ 2 σ0 2 (ν 2) χ2 (ν), (7.9) med σ0 2 = E[σ2 ]ogν=2α. Bevis: Indfører vi ν =2αi (7.6), har vi G(ν/2,/β), (7.20) σ2 28

6 dvs formparameteren er ν/2 og skalaparameteren er /β. Der gælder E[σ 2 ]= hvorfor vi kan udtrykke parameteren β som β ν/2, (7.2) β =(ν 2) σ 2 0 /2, (7.22) hvor vi har sat σ 2 0 = E[σ 2 i ] (7.23) Vi kan udtrykke gammafordelingen (7.6) som en χ 2 -fordeling ved χ 2 (f) G(f/2,2), dvs σ 2 2β χ2 (ν), (7.24) eller, idet vi udtrykker skalaparameteren β ved forventningsværdien, σ0 2 af σ 2 (jvf (7.22)), har vi at σ G( ν/2, 2/[(ν 2)σ ]), (7.25) hvilket er det samme som (7.9). Bemærkning Parameteren ν betegnes undertiden frihedsgraderne i fordelingen af /σ 2 På grund af relationen (7.9) betegner man undertiden parameteren ν som frihedsgraderne i fordelingen af /σ 2. Vi bemærker dog, at parameteren ν ikke behøver være heltallig. Det følger af (7.8), og af relationen ν =2α, at parameteren ν er bestemt ved den relative spredning i fordelingen af σ 2. Figur 7. viser et eksempel på fordelingen af σ Marginal fordeling af stikprøvevariansen Sætning strukturfordeling Såfremt S 2 σ 2 σ 2 χ 2 (f)/f og /σ Den marginale fordeling af S 2 ved reciprok gamma fordeling af S 2 givet ved 282 σ 2 0 (ν 2) χ 2 (ν), da er den marginale

7 Figur 7.: Strukturfordeling af sand varians, σ 2 for ν =4,σ 2 0 = ( S 2 RBet ν/2, f/2, ν 2 f σ 2 0 ) (7.26) hvor RBet angiver en såkaldt reciprok betafordeling. Såfremt ν 2 har fordelingen af S 2 ingen middelværdi. For 2 <νhar fordelingen af S 2 middelværdien E[S 2 ]=E[σ 2 ]=σ 2 0 (7.27) For ν 4 har fordelingen ingen varians. Såfremt 4 <ν, har fordelingen af 283

8 S 2 variansen V[S 2 ]= (σ2 0 )2 ν/2 2 [ + ] 2(ν/2 ) f (7.28) Den simultane fordeling af variansen, σ 2, og af stikprøvevariansen (den empiriske varians), S 2, er illustreret i figur 7.2 Figur 7.2: Simultan fordeling af empirisk varians, S 2, bestemt i stikprøve på n = 5 og sand varians σ 2 (Strukturfordeling af σ 2 som i figur 7..) Figur 7.3 viser den betingede fordeling af den empiriske varians, S 2, svarende til en givet værdi af σ 2,(σ 2 = ), og figur 7.4 viser den marginale fordeling af den empiriske varians, s 2, svarende til fordelingen i figur 7.2. Det ses, at 284

9 den marginale fordeling af S 2 har tykkere haler, end den betingede fordeling ifigur7.3. Figur 7.3: Betinget fordeling af empirisk varians, S 2, bestemt i stikprøve på n = 5 for en sand varians, σ 2 =. Bemærkning Den marginale fordeling af S 2 udtrykt ved F-fordelingen Ved at udnytte relationen mellem RBet-fordelingen og F-fordelingen finder man, at der gælder S 2 ν (ν 2)σ 2 0 F(ν, f), (7.29) 285

10 Figur 7.4: Marginal fordeling af empirisk varians, S 2, bestemt i stikprøve på n =5 (Strukturfordeling af σ 2 som i figur 7..) hvor F(ν, f) angiver en stokastisk variabel, der følger en F-fordeling med frihedsgraderne (ν, f). 7.4 Normalfordelingsmodeller med tilfældigt varierende varians. Som et ikke-trivielt eksempel på en hierarkisk model betragter vi normalfordelingsmodellen 286

11 hvor hvor σ 2 i Y i σi 2 N(µ, σ2 i ) (7.30) /σi 2 G(α, /β) (7.3) er indbyrdes uafængige. Da gælder, at den marginale fordeling af Y i er sådan, at Y i µ t(2α) β/α hvor t(2α) er en t-fordeling med 2αfrihedsgrader, dvs en fordeling med tykkere haler end normalfordelingen. 7.5 Generel formulering af hierarkiske modeller for exponentielle dispersionsfamilier Den ide, der lå bag formuleringen af (apriori) fordelingen af µ i de betragtede situationer, var at kernen i likelihoodfunktionen for µ også optrådte i den valgte tæthed for µ. Ideen kommer tydeligere frem, hvis vi betragter repræsentationen ved den kanoniske parameter. Betragt en eksponentiel dispersionsfamilie som indført i (4.5) f Y (y; θ, λ) =c(y, λ)exp[λ{θy κ(θ)}] for θ Ω (7.32) med middelværdirum M = τ(ω) og variansfunktion V (µ). Lad m Mog betragt g θ (θ; m, γ) = exp{[θm κ(θ)]/γ} (7.33) C(m, γ) med integrationskonstanten C(m, γ) = exp{[θm κ(θ)]/γ} dθ for all (positive) values of γ for which the integral converges. Ω 287

12 Udtrykket (7.33) definerer en tæthedsfunktion for en sandsynlighedsfordeling for θ. Den herved definerede fordeling kaldes den standard konjugerede fordeling for θ svarende til (7.32). Begrebet har sin rod i teorien for Bayesiansk inferens, hvor begrebet benyttes til at beskrive en familie af apriorifordelinger, hvis tæthed har samme struktur som likelihood-kernen (se Consonni and Veronese [28]) Når variansfunktionen for familien (7.32) er højst kvadratisk, svarer den standard konjugerede fordeling for µ til den standard konjugerede fordeling for θ. For den inverse Gauss fordeling er den standard konjugerede fordeling for µ en udartet fordeling (se [37]). Når variansfunktionen for familien (7.32) er højst kvadratisk har parametrene m og γ en simpel fortolkning ved middelværdiparameteren µ = τ(θ), nemlig m = E [µ] (7.34) γ = V [µ] E [V (µ)], (7.35) hvor µ = E [Y θ], og hvor V (µ) angiver variansfunktionen. For et bevis se fx. Pukelsheim [27]. The parametrization of the natural conjugate distribution for µ by the parameters m and γ has the advantage that location and spread are described by separate parameters. Thus, letting γ 0, the distribution of µ will converge towards a degenerate distribution with all its mass in m. Specifically, we shall consider the following hierarchical model: Conditional on the subgroup mean, µ i, the measurements, Y ij are iid with Y ij ED(µ i,v(µ i )/λ) The subgroup means, µ i are iid random variables following the natural conjugate distribution on µ. It then follows that the marginal mean of Y ij is E [Y ij ]=E[E[Y ij µ]] = E [µ] =m (7.36) 288

13 and furthermore the marginal variance of Y ij is V [Y ij ]=E[V[Y ij µ]] + V [E [Y ij µ]] = E [V (µ)]/λ + V [µ] (7.37) Thus, the parameter, γ, in the distribution of the group means reflects the usual decomposition of total variation into within-subgroup and betweensubgroup variation. As the variation, V (µ), within a specific subgroup depends on the subgroup mean, µ, the within-subgroup variation is understood as an average within-subgroup variation, E [V (µ)]. The marginal distribution of the subgroup means, Y i, has mean and variance E [Y i ] = E [E [Y i µ]] = E [µ] =m (7.38) V [Y i ] = E [V(µ)](γ + )=E[V(µ)](γ + σ2 ), λn i n i (7.39) where we have introduced the dispersion parameter, σ 2 =/λ for the withingroup distribution. Thus, the variance in the marginal distribution generally exceeds the average variance in the within group distributions (i.e. whenever V [µ] > 0]). This phenonemon is sometimes referred to as overdispersion. Measurements, Y ij and Y ik in the same subgroup are correlated with intragroup correlation ρ w = COV [Y ij,y ik ] V [Y ij ] = V [µ] E [V (µ)]/λ + V [µ] = γ /λ + γ (7.40) Introducing the dispersion parameter, σ 2 =/λ for the within-group distribution, the intragroup correlation (7.40) may be expressed in terms of the within group dispersion parameter, σ 2, and the between group dispersion parameter, γ, ρ w = γ (7.4) σ 2 + γ and hence, γ = ρ w σ 2 (7.42) ρ w The variance in the marginal distribution of group averages may thus be expressed in terms of either within group variance, σw 2 and intergroup cor- 289

14 relation, or between group variance, σb 2 and intergroup correlation as ( ρw V [Y i ] = E [V(µ)] + ) ρ w n ( i = V [µ] + ρ ) w ρ w n i Now, consider the between group sum of squares, (7.43) (7.44) SSQ B = N n i (Y i Y ) 2 (7.45) i= with Y denoting the usual (weighted) average of the subgroup averages, Y = i n iy i / i n i. It may be shown that E [SSQ B ]=(k )E [V (µ)](σ 2 + n 0 γ), (7.46) with ( i n 0 = n 2 i) n 2 i (k ) i n (7.47) i denoting an effective average sample size. Thus, a natural candidate for a method of moments estimate of the between-group dispersion, γ, is with expected value N S2 2 = n i (Y i Y ) /(N 2 ) (7.48) i= E [S 2 2 ]=E[V(µ)](σ2 + n 0 γ)=σ 2 E[V(µ)] + n 0 V [µ], (7.49) 7.6 Aposteriorifordeling Vi fortsætter stilen fra det foregående afsnit og starter i afsnit 7.6. med en generel formulering af aposterifordelinger for kanoniske parametre efter observation af X,X 2,...,X n frembragt af samme θ. Essensen i afsnittet er, at man opdaterer apriorifordelingsparametrene m og γ ved relationen (7.55), og så følger prædiktive fordelinger etc ved at mixe med denne opdaterede fordeling. Opdateringen er resumeret i tabellerne side 298 til

15 7.6. Generelle resultater vedrørende aposteriorifordelinger Sætning 7.6. Aposteriorifordeling svarende til konjugeret apriorifordeling for sædvanlige dispersionsmodeller Lad X,X 2,...,X n være uafhængige (for givet θ), frembragt med samme θ og med tæthed g(x θ) =d(x)exp{[θx κ(θ)]/σ 2 }, (7.50) og lad apriorifordelingen af θ være den konjugerede fordeling med tæthed w(θ; m, γ) = exp{[θm κ(θ)]/γ} (7.5) C(m, γ) Da afhænger aposteriorifordelingen af θ efter observation af X = x,...,x n =x n alene af n og x. Tætheden i aposteriorifordelingen af θ efter observation af X = x,...,x n = x n er med ( w θ ) X i /n = x = C(m,γ ) exp{[θm κ(θ)]/γ } (7.52) m/γ + n x/σ2 m = m apost = (7.53) /γ + n/σ 2 γ = γ apost = (7.54) /γ + n/σ 2 Aposteriorifordelingen for θ er således af samme form som apriorifordelingen. Der er blot foretaget en opdatering af parametrene m og γ. Bevis: Følger umiddelbart ved opskrivning af udtrykket for aposteriorifordelingen, 29

16 og benyttelse af at Z = X i er sufficient for θ i den betingede fordeling af X,...,X n for givet θ. Bemærkning Opdatering af apriorifordelingens parametre Vi bemærker, at aposteriorifordelingen af θ er af samme form som apriorifordelingen. Der er blot foretaget en opdatering af parametrene m og γ. Opdateringen er af formen: γ apost = γ apriori + n/σ 2 m apost γ apost = m apriori γ apriori + n x/σ 2 (7.55) hvor x = z/n = x i /n. Idet vi erindrer (sætning??), at parameteren /γ = E[V (µ)]/v[µ] er et udtryk for den relative præcision i fordelingen af θ i forhold til præcisionen i fordelingen af målestøjen, finder vi således, idet at γ apost = V[µ x] E[V (µ) x], (7.56) den relative præcision i aposteriorifordelingen er summen af den relative aprioripræcision og den relative stikprøvepræcision, hvor den relative præcision af stikprøven måles som antallet af stikprøveenheder divideret med dispersionsparameteren σ 2. Groft sagt, kan man altså fortolke parameteren /γ i apriorifordelingen som den aprioripræcision, der svarer til en stikprøve af størrelsen σ 2 /γ fra en given gruppe. For γ =, d.v.s. /γ = 0 har man en ikke-informativ apriorifordeling. Sammenholder vi (7.55) og (7.56) ser vi, at 292

17 forholdet mellem aposteriorivariansen V[µ x] af µog aposteriorimiddelværdien E[V (µ) x] af variansfunktionen V (µ) afhænger alene af stikprøvestørrelsen n (og aprioriforholdet γ apriori ), men ikke af det aktuelle stikprøveresultat x. Vi kan således bestemme aposteriorivariansen V[µ x] ud fra aposteriorimiddelværdien E[V (µ) x] af variansfunktionen V (µ) ved V[µ x]=γ apost E[V (µ) x] = E[V(µ) x] /γ apriori + n/σ 2 (7.57) Bemærkning 2 : Aposteriorifordelingen af µ nærmer sig en etpunktsfordeling Vi ser, at γ apost 0 for n Endvidere finder vi, at m apost = m apriori/γ apriori + n x/σ 2 x for n /γ apriori + n/σ 2 For store stikprøvestørrelser vil aposteriorifordelingen af µ således nærme sig en étpunktsfordeling omkring stikprøvegennemsnittet x. Bemærkning 3 : Den prædiktive fordeling af nye observationer fra samme gruppe Lad X,X 2,...,X n og X være sådan, at for fastholdt θ er X,X 2,...,X n,x uafhængige og identisk fordelte med en tæthed g( θ) givet ved (7.50), dvs. X er frembragt af det samme θ som X erne, og lad apriorifordelingen af θ være den konjugerede med tætheden w(θ; m, γ) givet ved (7.5). Den prædiktive fordeling af X er af samme form som den marginale fordeling af X. Der er blot foretaget en opdatering af parametrene m og γ. 293

18 Lad X,...,X r angive et sæt nye observationer, der er uafhængige og identisk fordelte, og med samme fordeling som X,...,X n, dvs specielt frembragt med samme værdi af θ. Lad Z = r j= X j angive summen af disse nye observationer, og lad X = Z /r = r X j /r j= angive gennemsnittet. Den prædiktive fordeling af Z og af X er af samme form som fordelingen af hhv Z = X i og X. Der er blot foretaget en opdatering af parametrene m og γ. Vi kan derfor benytte (7.38) og (7.39) til beskrivelse af momenterne i den prædiktive fordeling af Z og X, og vi finder at momenterne i den prædiktive fordeling af gennemsnittet X af r fremtidige observationer er: E[X + x] = m apost (7.58) ) V[X + x] = E[V(µ) x] (γ apost + σ2 (7.59) r Tilsvarende har vi for den prædiktive fordeling af summen Z af r fremtidige observationer E[Z x] = rm apost (7.60) V[Z x] = r E[V(µ) x](σ 2 + rγ apost ) (7.6) 294

19 Bemærkning 4 : Forventningsværdien i den prædiktive fordeling er et vejet gennemsnit Forventningsværdien i den prædiktive fordeling af X er Der gælder m apost = E[X X = x,x 2 =x 2,...,X n =x n ]= m apost = E[V (µ)] m + nv[µ] x/σ2 E[V (µ)] + nv[µ]/σ 2 m/γ + n x/σ2 /γ + n/σ 2 Aposterioriforventningsværdien af en fremtidig observation fra den givne gruppe er således et vejet gennemsnit mellem aprioriforventningsværdien, m, og stikprøvegennemsnittet x, hvor vægtene er de tilsvarende komponenter i opspaltningen af den totale variation. med w n = m apost = w n m apriori +( w n ) x (7.62) σ 2 σ 2 + nγ og w n = nγ σ 2 + nγ Parameteren γ i den prædiktive fordeling af X er γ apost = σ2 n ( w n) (7.63) Bemærkning 5 : Fortolkning af den prædiktive forventningsværdi som lineær prædiktor Lad situationen være som i den foregående bemærkning. Da kan forventningsværdien i den prædiktive fordeling af X fortolkes som regressionen af X på xved udtrykket: m apost = m +( w n )( x m) (7.64) med w n = σ 2 σ 2 + nγ og w n = 295 nγ σ 2 + nγ

20 Vi kan fortolke vægten w n = nγ σ 2 + nγ = COV[X,X ] V[X] som koefficienten til x i regressionen af X på xi den simultane fordeling af X og X. Jo større værdi af nγ, d.v.s jo mindre aprioripræcision, /γ, (eller jo større stikprøvestørrelse, n), desto større vægt får stikprøvekorrektionen, ( x m) til aprioriforventningsværdien, m, ved fastsættelsen af aposterioriforventningsværdien. 7.7 Aposteriorifordeling for Poisson Gamma model Vi betragter modellen fra afsnit 7..2, dvs vi betragter Z µ P(nµ), hvor fordelingen af µ er en G(α, β)-fordeling. Aposteriorifordelingen af µ efter observation af Z = z fås da af h(µ z) = f µ,z(µ, z; α, β) g Z (z; α, β) hvor f µ,z (µ, z; α, β) er den simultane tæthed for µ og Z, f µ,z (µ, z; α, β) =f Z µ (z;µ)f µ (µ;α, β) og g Z (z; α, β) angiver den marginale sandsynlighed for Z = z. Idet f Z µ = (nµ)y y! f µ (µ; α, β) = βγ(α) exp( nµ) ( ) α µ exp( µ/β) β finder man ved at betragte faktorerne, der indeholder µ h(µ z) = C(n, z, α, β) (nµ) y exp( nµ)µ α exp( µ/β) = C (n, z, α, β) µ z+α exp( µ(n +/β)) 296

21 der identificeres som kernen i en G(z + α, /(n +/β)) fordeling, og så ved man jo godt, hvordan normeringskonstanten C (n, z, α, β) skal se ud. Det væsentlige er, at man har konstateret at aposteriorifordelingen af µ efter observation af Z = z er en G(z + α, /(n +/β))- fordeling, for så vedman også at E[µ z]= i overensstemmelse med (7.53). α+z /β + n = m/γ + n(z/n) /γ + n 7.8 Normalfordelingen som miksturfordeling I stedet for at benytte den standard konjugerede fordeling som miksturfordeling ser man undertiden at man modellerer den tilfældige variation ved en normalfordeling af den kanoniske parameter (for binomialmodel, altså normalfordeling af logit erne). En sådan fremgangsmåde kaldes ofte en generaliseret lineær mixed model, mens brugen af en standard konjugeret fordeling kaldes en hierarkisk generaliseret lineær model, jvf Lee, Y. and Nelder, J. A. (996) Hierarchical Generalized Linear Models (with discussion). Journ. Roy. Statist. Soc. B, 58, og Lee, Y. and Nelder, J. A. (200) Hierarchical Generalised Linear Models: A Synthesis of Generalised Linear Models, Random-Effect Models and Structured Dispersions. Biometrika, 88,

22 E[X + ]=m; ( V[X + ]=E[V(µ)] γ + ) n Stikprøvefordeling af X i θ µ = E[X θ] V (µ) Strukturfordeling w( ) m = E[µ] E[V (µ)] γ = V[µ] E[V (µ)] Reference 298 B(,p) p µ( µ) p Be(α, β) π = α α + β Geo(,p) p p µ( + µ) p Be(α, β) ψ = β α π( π) +γ ψ( + ψ) γ α+β α Afsn. 6.2 Afsn. 6.3 P(µ) µ µ µ G(α, /β) m = α β m β Afsn. 6.4 Ex(µ) µ µ 2 µ RGam(α, /β) m = β α m 2 γ α Afsn. 6.5 N(µ, σ 2 ) µ σ 2 N(m, σ 2 b ) m σ2 σ 2 b /σ2 Afsn. 5.3

23 Momenter i de marginale fordelinger ved hierarkisk variation Z = X + X 2 + +X n ; Y =Z/n E[Y ]=m ( V[Y]=E[V(µ)] γ + ) n Stikprøvefordeling af Z Strukturfordeling w( ) Marginal fordeling af Z µ = E[X θ] V (µ) m = E[µ] γ = V[µ] E[V (µ)] E[V (µ)] 299 B(n, p) p Be(α, β) Pl(n, α, α + β) p µ( µ) π = α α + β α + β V (π) +γ NB(n, p) p Be(α, β) NPl(n, β, α + β) p p µ( + µ) ψ = β α α V (ψ) γ P(nµ) µ G(α, /β) NB(α, β/(β + n)) µ µ m = α β G(n, µ) µ RGam(α, /β) RBet(α, n, β) µ µ 2 m = β α Tabel 7.: Momenter i de marginale fordelinger ved hierarkisk variation β α V (m) V (m) γ

24 Stikprøvefordeling af Z µ Strukturfordeling w( ) Aposteriorifordeling af µ efter observation af Z = z Prædiktiv fordeling af Z Reference Z p B(n, p) p Be(α, β) Be(α + z, β + n z) Pl(r, α + z, α + β + n) Afsn Z p NB(n, p) p Be(α, β) Be(α + n, β + z) NPl(r, β + z, α + β + n + z) Afsn Z µ P(nµ) µ G(α, /β) G(α + z, /(β + n)) NB(α + z, (β + n)/(β + n + r)) Afsn Z µ G(nµ) µ RGam(α, β) RGam(α + n, β + z) RBet(α + n, r, β + z) Afsn µ N(m,σ2 ) Z µ N(nµ, nσ 2 ) µ N(m, σb 2) m = m/γ + z N(nm,rσ2 +r2σ2 ) Afsn /γ + n /σ 2 =/σ2 b + n/σ2 Z σ 2 σ 2 χ 2 (f) σ 2 RGam(α, β) σ 2 RGam(α + f/2,β+z/2) RBet(α + f/2,r/2,z+2β) Aposteriorifordelinger for endimensionale eksponentielle familier med naturlige konjugerede strukturfordelinger I linien for σ 2 χ 2 -fordelingen angiver Z en kvadratafvigelsessum med r frihedsgrader.

25 Kapitel 8 sasdata Nedenstående data (fra Danmarks Statistik) angiver antallet af fødsler i hvert af årene 963 til 976 samt antallet af disse, hvor barnet var dødfødt. Registreringerne er opdelt efter hvorvidt moderen var gift, eller ugift på tidspunktet for barnets fødsel. Vurder udviklingen i andel af dødfødte børn i denne periode. OPTIONS LINESIZE=75 PAGESIZE=58; TITLE Andel dodfodte born ; DATA FODSL; INPUT aar STA$ fodsl dod; IF STA= ugift THEN STATUS=0; IF STA = gift THEN STATUS = ; ANDEL = DOD/FODSL; MYAAR = AAR -963 ; CARDS; 963 ugift ugift ugift ugift ugift ugift ugift ugift

26 97 ugift ugift ugift ugift ugift ugift gift gift gift gift gift gift gift gift gift gift gift gift gift gift RUN; PROC LOGISTIC; MODEL DOD/fodsl = MYAAR; OUTPUT OUT= alle PRED= FIT RESCHI = CHIRES RESDEV=DEVRES ; RUN; PROC PRINT DATA = ALLE; VAR MYAAR ANDEL FIT CHIRES DEVRES; PROC SUMMARY DATA = alle ; VAR CHIRES DEVRES; OUTPUT OUT=SUMMOD USS=SUMCHI SUMDEV; PROC PRINT; PROC SORT DATA=FODSL ; BY STATUS; PROC LOGISTIC; MODEL DOD/fodsl = MYAAR; OUTPUT OUT= opdelt PRED= FIT RESCHI = CHIRES RESDEV=DEVRES ; 302

27 BY STATUS; RUN; PROC PRINT DATA = opdelt; VAR MYAAR ANDEL FIT CHIRES DEVRES; PROC SUMMARY DATA = opdelt; VAR CHIRES DEVRES; OUTPUT OUT=SUMMOD2 USS=SUMCHI SUMDEV; BY STATUS; RUN; PROC PRINT; RUN; * tex/stat3/udg02/bustilf.sas * DATA sasdata.bustilfr ; INPUT fors mutil util bog tilf mtilf ialt; Utilfr = mutil + util ; andel = Utilfr/ialt ; logit = log(andel/(-andel)); CARDS; ; 303

28 Litteratur [] Ronald Christensen: Plane Answers to Complex Questions. Springer Verlag. [2] Page, Luigi and Salvan, Allessandra: Principles of Statistical Inference - from a Neo-Fisherian Perspective, World Scientific 997 [3] Bickel, Peter and Doksum, Kjell: Mathematical Statistics - Basic Ideas and Selected Topics, Vol., 2nd ed. Prentice Hall 200. [4] Jørgensen, Bent: The Theory of Dispersion Models, Chapman & Hall 997 [5] Jørgensen, Bent: The Theory of Linear Models, Chapman & Hall 993 [6] McCullagh, P. and Nelder, J. : Generalized Linear Models, Chapman and Hall (.udg 983, 2. stærkt udvidede udgave 989). [7] Lee, Y. and Nelder, J: Two ways of modelling overdispersion in nonnormal data. Applied Statistics 49, (2000), pp [8] Fahrmeir and Tutz: Multivariate Statistical Modelling Based on Generalized Linear Models, 2nd edition, Springer 200, [9] Lindsey, J. K.: Parametric Statistical Inference, Oxford University Press (996) [0]Lindsey,J.K.:Applying Generalized Linear Models, Springer 997. Anvendelsesorienteret, indeholder også overlevelsesmodeller, modeller for tælleprocesser, modeller for spatielle data, dynamiske modeller [] McCulloch and Searle : Generalized, linear and mixed models Wiley, 200) 304

29 [2] Myers, R. H., Montgomery, D. C. and Vining G. G.: Generalized Linear Models with Applications in Engineering and the Sciences, Wiley 2002 [3] Shao, Jun: Mathematical Statistics, Springer Verlag 999. [4] Barndorff-Nielsen, O.E. (978): Information and Exponential Families. Wiley, Chichester. [5] Letac, G. (992): Lectures on Natural Exponential Families and Their Variance Functions. Monografias de Matematica 50. Instituto de Matematica Pura e Aplicada. Rio de Janeiro. [6] Morris, C.N. (982): Natural exponential families with quadratic variance functions. Ann. Statist. 0, [7] Seshadri, V. (993)The Inverse Gaussian Distribution. Clarendon Press, Oxford [8] Wilkinson, G. N., and Rogers, C. E. (973), Symbolic description of factorial models for analysis of variance, Applied Statistics, 22, [9] Stein, C. (955): Inadmissibility of the Usual Estimator for the Mean of a Multivariate Normal Distribution. Proceedings of the Third Berkeley Symposium, University of California Press, pp [20] C.K.Hansen og P.Thyregod (996): Modelling and Estimation of Wafer Yields and Defect Densities from Microelectronics Test Structure Data, Quality and Reliability Engineering International, 2, pp 9-7. [2] Dorfman an Alf: Maximum likelihood estimation of parameters of signal detection theory - a direct solution, Psychometrika 33 (968), pp 7-24 [22] Dorfman and Alf: Maximum likelihood estimation of parameters of signal detection theory and determination of confidence intervals - rating method data. Journal of Mathematical Psych. 6 (969) pp [23] Zhang, D.D, Zhou,X-H, Freeman D.H and Jean L. Freeman: A nonparametric method for the comparison of partial areas under ROC curves and its application to large health care data sets, Statistics in Medicine 2 (2002) pp [24] Agresti: Categorical Data Analysis, Wiley, New York (990) 305

30 [25] Y. Pawitan: In All Likelihood, Statistical Modelling and Inference Using Likelihood, Oxford Science Publications (200). [26] José C. Pinheiro and Douglas M. Bates: Mixed-Effects Models in S and S-plus, Springer New York (2000) [27] Müller-Funk, U. and Pukelsheim, F. (987) How Regular are Conjugate Exponential Families? Statistics & Probability Letters [28] Consonni, G. and Veronese, P. (992) Conjugate priors for Exponential Families Having Quadratic Variance Functions. Journal of the American Statistical Association [29] Breslow, N.R. and Clayton, D.G. (993): Approximate inference in generalized linear mixed models. Journal of the American Statistical Asssociation, 88, pp [30] Lee og Nelder (2000): Two ways of modelling overdispersion in nonnormal data. Applied Statistics 49, pp [3] Wolfinger, R. and O Connell, M. (993): Generalized linear models: a pseudo-likelihood approach. Journ.Statist.Comput.Simul., 48, [32] Pawitan, Y. (200) Two-staged Estimation of Variance Components in Generalized Linear Mixed Models. Journal of Statistical Computation and Simulation 69-7 [33] Belsley, D.A., Kuh, E. and Welsh, R.E. (2004): Regression Diagnostics: Identifying Influential Data and Sources of Collinearity, Wiley, New York [34] Cook,R.D. and Weisberg, S (982): Residuals and Influence in Regression Kluwer Academic Publishers [35] Cameron, J.M.: The use of Components of Variance in preparing schedules for sampling of baled wool. Biometrics 7, (95) pp [36].Price, C.J., Kimmel,C.A., George,J.D. and Marr, M.C.: The developmental toxity of diethylene glycol dimethyl ether in mice. Fund. Appl. Toxicol. 8, (987), pp [37] Gutiérez-Peña, E. and Smith, A.F.M: Conjugate Parametrizations for Natural Exponential Families, Journ. Amer. Statist. Assoc., 90 (995)