Basal statistik. 30. oktober 2007

Transkript

1 Basal statistik 30. oktober 2007

2 Den generelle lineære model Repetition af variansanalyse og multipel regression Interaktion Kovariansanalyse Parametriseringer

3 Lene Theil Skovgaard, Biostatistisk Afdeling Institut for Folkesundhedsvidenskab, Københavns Universitet

4 Den generelle lineære model, oktober Multipel regressionsanalyse (Repetition) Generel form: Y = β 0 + β 1 x β k x k + ǫ Ide: x erne kan være hvadsomhelst! De behøver ikke være kvantitative (højde, vægt...) Begrebet lineær model dækker over en model der kan skrives op som ovenfor med hvad som helst som x er. SAS Analyst: Statistics/ANOVA/Linear models

5 Den generelle lineære model, oktober Eksempel: Ensidet varians-analyse Identifikation af k grupper vha dummy variable: x 1 er 1 hvis person er i første gruppe og 0 ellers x 2 er 1 hvis person er i anden gruppe og 0 ellers. x k 1 er 1 hvis person er i k-1 gruppe og 0 ellers model: Y = β 0 + β 1 x β k 1 x k 1 + ǫ Med denne kodning vil β 0 svare til niveau for k te gruppe; β 1 er forskel i niveau mellem første og k te gruppe; β 2 er forskel i niveau mellem anden og k te gruppe; osv...

6 Den generelle lineære model, oktober Ensidet variansanalyse i SAS Det er netop den kodning der bruges i SAS, når gruppe-variabel angives som kategorisk ( Statistics/Anova/Linear Models/Class ). Standard Parameter Estimate Error t Value Pr > t Intercept B <.0001 Traening Aktiv B Traening Ingen B Traening Kontrol B Traening Passiv B... SAS output fra den velkendte øvelsesopgave Alder ved gang Bemærk: Ved omkodning af gruppe niveauer kan man få en vilkårlig forskel frem!

7 Den generelle lineære model, oktober Eksempel: Tosidet varians-analyse uden interaktion k 1 k 2 grupper, identificeret ved to Class-variable med hhv k 1 og k 2 niveauer: x (1) i z (2) j er 1 hvis person antager i te level af første variabel og 0 ellers er 1 hvis person antager j te level af anden variabel og 0 ellers Model: Y = µ + α 1 x (1) α k1 1x (1) k β 1z (2) β k2 1z (2) k ǫ. µ svarer til niveau for gruppe med k 1 te level hhv k 2 te level af første hhv anden variabel; α i er forskel i niveau mellem personer med hhv i te level og k 1 te level af første variabel; β j er forskel i niveau mellem personer med hhv j te level og k 2 te level af anden variabel.

8 Den generelle lineære model, oktober Tosidet variansanalyse uden interaktion i SAS Igen er det den kodning der bruges i SAS, når variable angives som kategoriske ( Statistics/Anova/Linear Models/Class ). Standard Parameter Estimate Error t Value Pr > t Intercept B <.0001 abstid B abstid B abstid B... sas_ansat ja B sas_ansat ne B... SAS output fra den velkendte øvelsesopgave Sædkvalitet

9 Den generelle lineære model, oktober Eksempel: Tosidet variansanalyse med interaktion Ekstra dummy variabel Model: vi,j = x (1) i z (2) j Y =µ + α 1 x (1) α k1 1x (1) k β 1z (2) β k2 1z (2) k γ 1 v 1,1 + + γ (k1 1) (k 2 1)v k 1 1,k ǫ. γ erne er den del af forskel i niveau mellem personer der kan tilskrives synergi-effekten mellem variabel 1 og 2. I epidemiologiske termer: Variabel 1 modificerer effekten af variabel 2. Bemærk: Når der er interaktion, giver det ikke længere mening at tolke α er og β er som overall forskelle i niveauer!

10 Den generelle lineære model, oktober Tosidet variansanalyse med interaktion i SAS Igen er det den kodning der bruges i SAS, når variable angives som kategoriske ( Statistics/Anova/Linear Models/Class ) og vekselvirkning inkluderes ( Statistics/Anova/Linear Models/Model/Cross ). Standard Parameter Estimate Error t Value Pr > t Intercept B <.0001 sas_ansat ja B sas_ansat ne B... abstid B abstid B abstid B...

11 Den generelle lineære model, oktober sas_ansat*abstid ja B sas_ansat*abstid ja B sas_ansat*abstid ja B... sas_ansat*abstid ne B... sas_ansat*abstid ne B... sas_ansat*abstid ne B... Source DF Type I SS Mean Square F Value Pr > F sas_ansat abstid sas_ansat*abstid Source DF Type III SS Mean Square F Value Pr > F sas_ansat abstid sas_ansat*abstid

12 Den generelle lineære model, oktober Generelt: Mere parametrisering µ ij = µ + α i + β j + γ ij. I eksempel ovenfor: Niveau for sas ansat ne med abstid 1 = ( 0.753), Niveau for sas ansat ne med abstid 2 = ( 0.244), Niveau for sas ansat ne med abstid 3 = 4.468, Niveau for sas ansat ja med abstid 1 = ( 0.493) + ( 0.753) , Niveau for sas ansat ja med abstid 2 = ( 0.493) + ( 0.244) + ( 0.121), Niveau for sas ansat ja med abstid 3 = ( 0.493).

13 Den generelle lineære model, oktober Men: Outcome var jo logaritmetransformeret! Vi skal transformere tilbage: Frem med log, tilbage med exp sas_ansat abstid på log-skala tilbagetransformeret 1: kort nej 2: mellem : lang : kort ja 2: mellem : lang

14 Den generelle lineære model, oktober Sådan ser de fittede værdier (ŷ) ud rent grafisk

15 Den generelle lineære model, oktober Tænkt eksempel på vekselvirkning (interaktion): To inddelingskriterier: køn og rygestatus Outcome: FEV 1 Effekten af rygning afhænger af køn Forskellen på kønnene afhænger af rygestatus

16 Den generelle lineære model, oktober Mulige forklaringer: biologisk forskel på effekt af rygning holder vist ikke i praksis, men eksemplet er jo også blot tænkt måske ryger kvinderne ikke helt så meget antal pakkeår confounder for køn måske virker rygningen som en relativ (%-vis) nedsættelse af FEV 1 kunne undersøges ved en longitudinel undersøgelse

17 Den generelle lineære model, oktober Eksempel: Rygnings effekt på fødselsvægt

18 Den generelle lineære model, oktober Interaktion/vekselvirkning mellem mængden og varigheden af rygningen Der er effekt af mængden, men kun hvis man har røget længe. Der er effekt af varigheden, og denne effekt øges med mængden. Effekten af mængden afhænger af... og effekten af varigheden afhænger af...

19 Den generelle lineære model, oktober Modelreduktion - kvadratsummer Når man arbejder med mere komplicerede lineære modeller (f.eks. Class-variable med mere end 2 niveauer), så er det ikke tilstrækkeligt at lave t test på regressionskoefficienter. I stedet bruges F test til sammenligning af kvadratsummer. Modelkvadratsum i (ŷ i ȳ) 2 Forklaret variation: Hvor meget varierer de predikterede værdier? (stort er godt, men pas på fortolkningen af selve størrelsen!) Residualkvadratsum i (y i ŷ i ) 2 Tilbageblevet variation: Hvor store er modelafvigelserne? (småt er godt)

20 Den generelle lineære model, oktober Skematiseret= Variansanalysetabel DF Model k Residual n k 1 Total n 1 Sum Sq i (ŷ i ȳ) 2 i (y i ŷ i ) 2 i (y i ȳ) 2 Mean Sq = Sum Sq/DF F = Mean Sq(Model) Mean Sq(Residual) Sædkoncentration, 6 grupper: oeko*abstinenstid Sum of Source DF Squares Mean Square F Value Pr > F Model Error Corrected Total

21 Den generelle lineære model, oktober Modelreduktion - F test Vi skal sammenligne to modeller: Kan vi nøjes med at bruge den simpleste af dem? NB: Modellerne skal være nestede, dvs. den ene fremkommer af den anden, typisk ved at sætte parametre til nul ( fjerne effekter ). Se på ændring i kvadratsum. Hvor meget mindre forklares af den simplere model? Sum Sq = Sum Sq(Model 1 ) Sum Sq(Model 2 ) Sum Sq > 0, altid (flere parametre kan forklare mere variation). Hvor stor må den blive? F = Mean Sq Mean Sq(Residual) Mean Sq = Sum Sq/ DF

22 Den generelle lineære model, oktober Variansanalysetabel Source DF Type I SS Mean Square F Value Pr > F sas_ansat abstid sas_ansat*abstid Source DF Type III SS Mean Square F Value Pr > F sas_ansat abstid sas_ansat*abstid Bemærk at der er 2 slags kvadratsummer! (I virkeligheden er der 4...) Brug altid Type III og test kun en relevant virkning af gangen (ingen hovedvirkninger, der indgår i vekselvirkninger!). Hvis reduceret model accepteres, lav da ny analyse for denne model.

23 Den generelle lineære model, oktober Fittede værdier (ŷ) i den reducerede model uden interaktion

24 Den generelle lineære model, oktober Et nyt begreb: Kovariansanalyse er blot en betegnelse for en (generel) lineær model med netop en gruppering (Class-variabel) og en kvantitativ variabel. Formålet kan være at fjerne bias eller at øge styrken i undersøgelsen. Bias ved sammenligning af grupper Forekommer, hvis der er forskel på fordelingen af en betydningsfuld kovariat i to grupper Eksempel: Sammenligning af lungefunktion hos mænd og kvinder de er jo ikke lige høje

25 Den generelle lineære model, oktober Metoder til at undgå bias Matchning. Dvs. udvælge individer, således at de er nogenlunde ens med hensyn til de vigtige forstyrrende kovariater. (Dette kan gøres parvist eller i større grupper) Randomisering. Dvs. trække lod om behandling (gruppe) NB: Dette kan naturligvis kun lade sig gøre, hvis grupperne er noget, man selv bestemmer over. Men læg mærke til følgende: Selv om fordelingen af kovariater er ens i de to grupper, kan det være af stor betydning at medtage dem i analysen. Det giver større styrke!

26 Den generelle lineære model, oktober Eksempel om lungekapacitet, TLC 32 patienter skal have foretaget hjerte/lunge transplantation TLC (Total Lung Capacity) bestemmes ved hjælp af helkrops plethysmografi Er der forskel på mænd og kvinder? OBS SEX AGE HEIGHT TLC 1 F F M M M M

27 Den generelle lineære model, oktober Box plots til sammenligning af kønnene: Tydelig kønsforskel for såvel TLC som HEIGHT

28 Den generelle lineære model, oktober Marginale sammenligninger (t-tests) Variable: TLC SEX N Mean Std Dev Std Error F M Variances T DF Prob> T Unequal Equal For H0: Variances are equal, F = 1.22 DF = (15,15) Prob>F = Variable: HEIGHT SEX N Mean Std Dev Std Error F M Variances T DF Prob> T Unequal Equal For H0: Variances are equal, F = 1.30 DF = (15,15) Prob>F =

29 Den generelle lineære model, oktober Relation mellem tlc og height: Kan højdeforskellen alene forklare forskellen i lungekapacitet?

30 Den generelle lineære model, oktober Kovariansanalyse Sammenligning af parallelle regressionslinier Model: y gi = α g + βx gi + ǫ gi g = 1, 2; i = 1,...,n g Hvad sker der, hvis vi glemmer x i modellen? 1. Bias. Hvis x 1 x 2, bliver forskellen forkert vurderet. 2. Inefficiens. Selv om x 1 = x 2, mister vi styrke (spredning for stor).

31 Den generelle lineære model, oktober Illustration af kovariansanalyse

32 Den generelle lineære model, oktober Bemærk: Selv om fordelingen af kovariater er ens i de to grupper, kan det være af stor betydning at medtage dem i analysen. Det giver større styrke! Uden x i modellen: Ingen særlig forskel på grupperne Med x i modellen: Tydelig forskel på grupperne

33 Den generelle lineære model, oktober Vekselvirkning Hvem siger, at linierne nødvendigvis skal være parallelle? Mere generel model: y gi = α g + β g x gi + ǫ gi g = 1,2; i = 1,...,n g Når β 1 β 2, siger vi, at der er vekselvirkning, eller interaktion. Det betyder: Effekten af højde afhænger af kønnet Forskellen på kønnene afhænger af højden Her kan man ikke udtale sig om en generel effekt af højde eller køn.

34 Den generelle lineære model, oktober Relation mellem tlc og height:

35 Den generelle lineære model, oktober I forsøg på at skaffe varianshomogenitet, logaritmerer vi tlc... men det hjælper ikke rigtigt...

36 Den generelle lineære model, oktober Specifikation af model Model med vekselvirkning: I SAS Analyst: Statistics/ANOVA/Linear models indsætte height som kvantitativ variabel indsætte sex som kategorisk (Class-variabel) Under Model-knap kan man indsætte cross -led

37 Den generelle lineære model, oktober Output Dependent Variable: ltlc Sum of Source DF Squares Mean Square F Value Pr > F Model <.0001 Error Corrected Total R-Square Coeff Var Root MSE ltlc Mean Source DF Type I SS Mean Square F Value Pr > F sex height height*sex

38 Den generelle lineære model, oktober Source DF Type III SS Mean Square F Value Pr > F sex height height*sex Standard Parameter Estimate Error t Value Pr > t Intercept B sex F B sex M B... height B height*sex F B height*sex M B...

39 Den generelle lineære model, oktober Omregning til de to linier: Linie for mænd: log10(lung capacity) = height Linie for kvinder: log10(lung capacity) = ( 0.281) + ( ) height = height

40 Den generelle lineære model, oktober SAS-udregning af de to linier Bibehold interaktionen sex*height Udelad den marginale effekt height Udelad intercept (under Model) Output: Dependent Variable: ltlc Sum of Source DF Squares Mean Square F Value Pr > F Model <.0001 Error Uncorrected Total

41 Den generelle lineære model, oktober Source DF Type III SS Mean Square F Value Pr > F sex height*sex Standard Parameter Estimate Error t Value Pr > t sex F sex M height*sex F height*sex M

42 Den generelle lineære model, oktober Modelreduktion Vi kunne ikke se nogen vekselvirkning og udelader den af modellen Dependent Variable: ltlc Sum of Mean Source DF Squares Square F Value Pr > F Model Error Corrected Total R-Square C.V. Root MSE LTLC Mean Source DF Type I SS Mean Square F Value Pr > F sex height

43 Den generelle lineære model, oktober Source DF Type III SS Mean Square F Value Pr > F sex height Standard Parameter Estimate Error t Value Pr > t Intercept B sex F B sex M B... height Bemærk: Nu er kønseffekten forsvundet!

44 Den generelle lineære model, oktober I dette eksempel så vi Fortolkning Den observerede forskel i (log 10 ) lungekapacitet mellem mænd og kvinder kan tilskrives højdeforskellen mellem kønnene. Der kan dog stadig være en kønsforskel op til ± = ( 0.030,0.114), svarende til intervallet (0.933, 1.300) for ratio en, dvs. op til en 30% øget lungefunktion hos mænd

45 Den generelle lineære model, oktober Det kan også forekomme, at Tilsyneladende ens grupper (f.eks. blodtryk hos mænd og kvinder) udviser forskelle, når der bliver korrigeret for inhomogeniteter (f.eks. fedmegrad) Man skal huske alle variable med potentiel betydning for outcome!

46 Den generelle lineære model, oktober Husk modelkontrol, f.eks:

47 Den generelle lineære model, oktober Tænkt eksempel på relaterede kovariater (confounding): Kolesterol vs. chokoladespisning og køn... Kolesterol og chokoladespisning er positivt relaterede for hvert køn separat negativt relaterede for mennesker Ingen særlig kønsforskel i kolesterol og dog...

48 Den generelle lineære model, oktober Eksempel: Fedmegrad og blodtryk obese: vægt/idealvægt bp: systolisk blodtryk OBS SEX OBESE BP 1 male male male male female female

49 Den generelle lineære model, oktober Marginale sammenligninger af kønnene (t-tests): Først outcome, logaritmeret blodtryk, lbp Statistics Lower CL Upper CL Lower CL Variable sex N Mean Mean Mean Std Dev Std Dev lbp female lbp male lbp Diff (1-2) T-Tests Variable Method Variances DF t Value Pr > t lbp Pooled Equal lbp Satterthwaite Unequal Equality of Variances Variable Method Num DF Den DF F Value Pr > F lbp Folded F Vi ser ikke nogen udtalt forskel på mænd og kvinder.

50 Den generelle lineære model, oktober og så kovariaten, logaritmeret fedmegrad, lobese Statistics Lower CL Upper CL Lower CL Variable sex N Mean Mean Mean Std Dev Std Dev lobese female lobese male lobese Diff (1-2) T-Tests Variable Method Variances DF t Value Pr > t lobese Pooled Equal <.0001 lobese Satterthwaite Unequal <.0001 Equality of Variances Variable Method Num DF Den DF F Value Pr > F lobese Folded F Her ses en oplagt forskel i fedmegrad for mænd og kvinder, så hvis fedmegrad også hænger sammen med blodtryk...

51 Den generelle lineære model, oktober Og det gør den, i hvert fald for kvinder: sex=female The CORR Procedure 2 Variables: bp obese sex=male The CORR Procedure 2 Variables: bp obese Spearman Correlation Coefficients, N = 58 Prob > r under H0: Rho=0 Spearman Correlation Coefficients, N = 44 Prob > r under H0: Rho=0 bp obese bp obese bp <.0001 obese <.0001 bp obese

52 Den generelle lineære model, oktober Model med vekselvirkning: Dependent Variable: lbp Sum of Source DF Squares Mean Square F Value Pr > F Model Error Corrected Total R-Square Coeff Var Root MSE lbp Mean Source DF Type I SS Mean Square F Value Pr > F lobese sex lobese*sex

53 Den generelle lineære model, oktober Source DF Type III SS Mean Square F Value Pr > F lobese sex lobese*sex Standard Parameter Estimate Error t Value Pr > t Intercept B <.0001 lobese B sex female B sex male B... lobese*sex female B lobese*sex male B... Ingen tydelig vekselvirkning, vi udelader den.

54 Den generelle lineære model, oktober Model uden vekselvirkning (parallelle linier): Dependent Variable: lbp Sum of Source DF Squares Mean Square F Value Pr > F Model Error Corrected Total R-Square Coeff Var Root MSE lbp Mean Source DF Type I SS Mean Square F Value Pr > F lobese sex

55 Den generelle lineære model, oktober Source DF Type III SS Mean Square F Value Pr > F lobese <.0001 sex Standard Parameter Estimate Error t Value Pr > t Intercept B <.0001 lobese <.0001 sex female B sex male B... Så kom der pludselig en rimeligt tydelig kønsforskel!!

56 Den generelle lineære model, oktober Illustration af blodtryk vs. fedmegrad

57 Den generelle lineære model, oktober Outcome= Forklarende variable = Kovariater Respons Dikotom Kategorisk Kategoriske og kontinuerte Dikotom Ordinal ikke basalt odds ratio er, prediktion af sandsynlighed for event 2*2-tabeller 2*k-tabeller Logistisk regression odds ratio er, prediktion af sandsynligheder for f.eks. stadier f.eks. proportional odds modeller Kvantitativ forskelle i niveau for behandlinger, køn etc. med Normalf. parret/uparret ensidet/tosidet Multipel regression residualer T-test Variansanalyse Kovariansanalyse uden Normalf. desværre kun let at teste, dvs. ingen estimater residualer Mann-Whitney Kruskal-Wallis Robust multipel ikke alt basalt Wilcoxon signed rank Friedman regression Censureret hazard ratio er, effekt på dødsintensiteter ikke basalt Log-rank test Cox regression Multi-level struktur af tidsforløb, forskel på behandlingsgrupper ikke basalt Varianskomponentmodeller Modeller for gentagne målinger