Model. k = 3 grupper: hvor ǫ ij uafhængige og normalfordelte med middelværdi nul og varians σi 2, i = 1,2,3.

Transkript

1 Model Program ( ): 1. ensidet variansanalyse. 2. forsøgsplanlægning: blocking. Bruger nu to indices: i = 1,...,k for gruppenr. og j = 1,...,n i for observation indenfor gruppe. k = 3 grupper: µ 1 + ǫ ij i = 1 Y ij = µ 2 + ǫ ij i = 2 µ 3 + ǫ ij i = 3 hvor ǫ ij uafhængige og normalfordelte med middelværdi nul og varians σi 2, i = 1,2, Ensidet variansanalyse: analyse af grupperede data Nedbrydningsrate for tre typer af opløsningsmidler (opgave 8 side 473) Sorption rate Solvents A A... C C... E E... Boxplot af observationer for de tre grupper: Formulering af model som multipel regression Antag varianshomogenitet. Y ij = µ i + ǫ ij i = 1,2,3 hvor ǫ ij N(0,σ 2 ) A C E 2 Ens middelværdi i grupper? (Ens varianser?) Model formuleret som multipel regression: y = α + β 2 x 2 + β 3 x 3 + ǫ hvor x 2 1 hvis gruppe 2 og nul eller og x 3 en hvis gruppe 3 og nul ellers. 4

2 F-test generelt Antag vi har 2 modeller 1 og 2, hvor Model 1 fremkommer ved at sætte nogle parametre i Model 2 lig nul. F = (SSE 1 SSE 2 )/d SSE 2 /(n p) hvor d forskel i antal parametre og p antal parametre i Model 2. > inde=as.numeric(solvents=="e") > indc=as.numeric(solvents=="c") > > sorp.fit=lm(sorption.rate~indc+inde) > summary(sorp.fit) Coefficients: (Intercept) e-12 *** indc inde e-06 *** --- Residual standard error: on 29 degrees of freedom Multiple R-Squared: ,Adjusted R-squared: F-statistic: on 2 and 29 DF, p-value: 5.855e-07 s 2 = F-test for ens middelværdi H 0 µ 1 = µ 2 = = µ k = µ mod ikke alle µ i ens. Nogle kvadrat-summer: SSE = SST = k n i (y ij ȳ i ) 2 SSA = i=1 j=1 k n i (ȳ i ȳ ) 2 i=1 j=1 k n i (y ij ȳ ) 2 = SSE + SSA s 2 = SSE N k,n = n 1 + n ,n k i=1 j=1 NB: SSA svarer til SSR i kapitlet om multipel regression (ŷ i = ȳ i og ȳ = ȳ )). F = SSA/(k 1 s 2 som er F(k 1,N k) fordelt under forudsætning af varianshomogenitet (alle grupper lige præcist målt). Afvigelse fra varianshomogenitet mindre kritisk for F-test hvis grupper af ensartet størrelse (balanceret forsøg). 6 Grupperings variable/kategoriske variable/faktorer i R > summary(solvents) A C E > levels(solvents) [1] "A" "C" "E" > x=c(1,1,2,3,3,4) > summary(x) Min. 1st Qu. Median Mean 3rd Qu. Max #danner faktor udfra den numeriske variabel x > xfact=factor(x) > summary(xfact) > levels(xfact) [1] "1" "2" "3" "4" NB: i data sættet er Solvents værdier A, B, og C og derfor opfatter R automatisk Solvents som en faktor. 8

3 Bruges faktor i lm danner R automatisk de relevante indikator variable og kører multipel regression: > sorp.fit=lm(sorption.rate~solvents) > summary(sorp.fit) Coefficients: (Intercept) e-12 *** SolventsC SolventsE e-06 ***. Residual standard error: on 29 degrees of freedom Multiple R-Squared: ,Adjusted R-squared: F-statistic: on 2 and 29 DF, p-value: 5.855e-07 Bartlett test i R > boxplot(sorption.rate~solvents) > bartlett.test(sorption.rate~solvents) Bartlett test of homogeneity of variances data: Sorption.Rate by Solvents Bartlett s K-squared = , df = 2, p-value = Residual analyse vha. studentiserede residualer analog med residual analyse for multipel regression. Boxplots af residualer indenfor hver gruppe er også relevante. Bartlett-test for varians-homogenitet. 9 Dvs. med signifikansniveau 5% forkastes varianshomogenitet. 11 Bartlett-test for ens varianser (varianshomogenitet) H 0 : σ 2 1 = σ 2 2 = = σ 2 k = σ2 mod ikke alle varianser ens. Lad s 2 i = 1 n i 1 være empirisk variansestimat for σ 2 i n i j=1 (y ij ȳ i ) 2 baseret på ite gruppe. Kombineret variansestimat for σ 2 (n = n 1 + n n k ) Bartlett-teststørrelse: s 2 = 1 n k k (n i 1)s 2 i = SSE/(n k) i=1 B = hvor B 1 og = 1 hvis alle s 2 i = s2. k i=1 ( ) s 2 ni 1 i s 2 log B 0 er approximativt χ 2 (k 1) fordelt. 10 > rstud=rstudent(sorp.fit) > qqnorm(rstud) > qqline(rstud) > boxplot(rstud~solvents) Sample Quantiles Normal Q Q Plot Theoretical Quantiles A C E Igen: varians ikke homogen, så F-test måske ikke pålidelig (specielt da forsøg ikke balanceret: henhv. 9, 8 og 15 obs i de tre grupper). 12

4 Parametriseringer Man parametriserer ofte som µ i = α + β i Her er umiddelbart en parameter for mange! (k grupper og k + 1 parametre for de k middelværdier) Begrænsninger: β 1 = 0 (som i R) hvor gruppe 1 (α) er reference eller k β i = 0 i=1 (bruges i bogen) hvor α middelniveau. Begrænsninger på β i er sikrer entydig parametrisering. 13 Randomisering og Blocking Antag, vi har gentagne målinger på forskellige individer (batches, cellekulturer i petri-glas etc.) og at der er stor variation mellem individer. I et medicinsk forsøg kunne man da risikere f.eks. at give behandlingen til alle de stærke patienter og placebo til alle de svage hvormed man ville estimere en for stor behandlingseffekt. Løsninger: parret t-test (men max 2 målinger pr. individ) randomisering: behandlinger tildeles tilfældigt til personer. I snit vil vi da estimere den korrekte behandlingseffekt. eksplicit hensyn til variationen mellem individer vha. blocking 15 Parret t-test Parvise målinger med 30 minutters mellemrum af androgen på samme individ (Example 10.7 side 310) efter behandling med succinylcholine. Er der nogen ændring i androgen koncentration efter de 30 minutter? Individ Første måling Anden måling Mulighed: almindelig ensidet variansanalyse med 2 grupper. Problem: potentielt set megen variation mellem dyr Y ij = µ i + B j + ǫ ij hvor B j individ specifik effekt. Løsning: t-test for µ = 0 baseret på differenser D j = Y 2j Y 1j som har middelværdi µ = µ 2 µ Randomized complete blockdesign Afprøvning af fire slags gødninger: marken inddeles i 3 blokke så hver blok har homogen fertilitet. Hver blok inddeles i 4 delplot og indenfor hver blok tildeles de 4 gødninger tilfældigt til hver delplot (opgave 3 side 499): Block 1 f1 f3 f4 f2 Block 2 f3 f1 f2 f4 Block 3 f4 f2 f1 f3 Complete: alle 4 gødninger optræder indenfor hver block. Randomized: tildeling indenfor block er tilfældig. Model: Y ijk = µ + α i + β j + ǫ ijk hvor α i effekt af gødning, β j effekt af block (fertilitet) og k er index for gentagelser indenfor delplot. Ved at estimere β j kan vi nu eksplicit korrigere for variationen i fertilitet. 16

5 RCB in R > fert.fit.block=lm(yield~factor(fertilizer)+factor(block)) > summary(fert.fit.block) (Intercept) e-06 *** factor(fertilizer) * factor(fertilizer) factor(fertilizer) factor(block) factor(block) ** Residual standard error: 3.45 on 6 degrees of freedom Multiple R-Squared: ,Adjusted R-squared: F-statistic: on 5 and 6 DF, p-value: Pas på fortolkning af F og t tests! 17 Model check vha. residualer Sample Quantiles Fertilizer Normal Q Q Plot Theoretical Quantiles res[rank(yhat)] blocks res sorted according to yhat Index NB: kun 3 obs pr. fertilizer og 4 obs pr. block. 19 Test for ingen gødningseffekt under hensyntagen til blockvariation > block.fit=lm(yield~factor(block)) > anova(block.fit,fert.fit.block) Analysis of Variance Table Model 1: yield ~ factor(block) Model 2: yield ~ factor(fertilizer) + factor(block) Res.Df RSS Df Sum of Sq F Pr(>F) * F = (SSE block SSE block+fert )/(6 3) SSE block+fert /(12 6) (6-3: forskel i antal parametre, 12-6:antal obs-antal parametre for model med block og fertilizer) NB: SSE kaldes RSS i R. Uden at tage hensyn til blocks: > fert.fit=lm(yield~factor(fertilizer)) > summary(fert.fit) (Intercept) e-07 *** factor(fertilizer) factor(fertilizer) factor(fertilizer) Residual standard error: on 8 degrees of freedom Multiple R-Squared: ,Adjusted R-squared: F-statistic: on 3 and 8 DF, p-value: Hvad er årsagen til de forskellige konklusioner? Signifikant gødningseffekt

6 Blocking ikke altid en fordel: reducerer residualvariation, men kan introducere mange ekstra parametre som skal deles om informationen i data. 21 Multiple sammenligninger k(k 1)/2 mulige sammenligner µ i vs. µ j når k grupper. Problem med at kontrollere sandsynlighed for Type I fejl. Afrapporter i stedet konfidensintervaller for µ i. 22