Noter til Specialkursus i videregående statistik

Transkript

1 Noter til Specialkursus i videregående statistik Poul Thyregod IMM, februar 2005

2 Indhold Forord 6 1 Momenter og flerdimensionale stokastiske variable Indledning Notation Momenter Momenter for flerdimensionale variable Fordelinger afledt af normalfordelingen The log-normal distribution model The χ 2 -distribution model Relation to the normal distribution model The t-distribution model The F-distribution model The Gamma-function Oversigt over en række sædvanlige fordelinger Likelihoodfunktion Introduktion og oversigt Likelihoodfunktion, Scorefunktion og Informationsmatrix Eksempler Lidt om den generelle lineære model (normalfordelingsteori) Introduktion og oversigt Statistisk model, den flerdimensionale normalfordelingsmodel Den generelle lineære model Estimation i en GLM

3 3.4 Fordeling af β, fittede værdier og residualer, estimation af σ Fordeling af β, fittede værdier og residualer Kvadratiske former, spaltningssætningen Fordeling af residualkvadratsummen, estimation af σ Test af enkelte parametre Eksempel, simpel lineær regressionsmodel Reduktion af en generel lineær model Introduktion Kvotienttest for modelreduktion Testet udtrykt i en parametriseret model Modelreduktion ved partielle tests Successiv testning, type I opspaltning Repræsentation af modeller, modelformler og analytiske udtryk Intercept led Kontinuerte kovariable Kvalitative kovariable, faktorvariable Modelformler Inklusionsdiagrammer for hypotesekæder, Type I og Type III opspaltning Eksempel, Blodgennemstrømningsindeks hos malere Vurdering af modeltilpasning, diagnostiske størrelser Residualer, standardisering og studentisering Kontrol af enkeltobservationer, leverage Kontrol af enkeltobservationers overensstemmelse, residual Kontrol af enkeltobservationers indflydelse (influens) Ortogonalitet, leverage, Lille eksempel og øvelse Indskud om Yates algoritme: Introduktion til generaliserede lineære modeller Oversigt Baggrund og hovedideer Motiverende eksempel Naturlige eksponentielle familier, eksponentielle dispersionsfamilier Naturlige eksponentielle familier

4 4.3.2 Eksponentielle dispersionsfamilier Middelværdiafbildning, kanonisk link, variansfunktion, og enhedsdevians Model, likelihood og scorefunktion Model for et observationssæt Likelihoodfunktion, scorefunktion og informationsmatrix Generaliserede lineære modeller Generaliseret lineær model, dimension og modelmatrix Komponenter i en generaliseret lineær model Fuld model Lokal design matrix Maksimum likelihood estimation Estimation Fordeling af maksimum-likelihood estimat Eksempel på endimensional regression med kanonisk link Fejlophobningsloven, iterativt genvægtet mindste kvadraters metode Fordeling af fittede værdier og residualer Fittede værdier og residualer Fordeling af fittede værdier og residualer Andre former for residualer Test for modeltilpasning Test af enkelte parametre Test af delhypotese Successiv testning Eksempel, tofaktor model med binomialt respons Modeller med overdispersion Quasi-devians og quasi log-likelihood Værktøjer i SAS og S-plus Generaliserede lineære modeller i SAS Insight Andre SAS-procedurer Generaliserede lineære modeller i S-plus Eksempler på regressionsmodeller Logistisk link ved binomial respons, odds Andre linkfunktioner for binært respons Indskud om sensitivitet, specificitet af klassifikation, ROC-kurve

5 Ordnet kategorisk respons Poisson regression, brug af OFFSET Empiriske varianser for normaltfordelte observationer Bartlett s test Tofaktormodeller, vekselvirkning Grafisk kontrol, profilplot Tofaktormodel for Poissonfordelte data Vekselvirkning og valg af linkfunktion Linkfunktioner Lidt mere om eksponentielle familier Normalfordelingsmodeller med hierarkisk variation Betingede, simultane og marginale fordelinger Lidt om betingede og marginale middelværdier og varianser Envejsanalyse, tilfældig model Eksempel Model Marginale og simultane fordelinger Test af homogenitetshypotese Estimation af faste parametre Estimation af de tilfældige effekter, BLUP-estimation Lidt mere om hierarkiske modeller Generelt Aposteriorifordeling svarende til normal-normal fordeling I SAS Mixed Empirisk Bayes estimation, BLUP estimation Flere eksempler på hierarkisk variation for normalfordelingsmodeller Analyse af blokforsøg Varierende regressionslinier Flerdimensional normalfordeling Aposteriorifordelinger for flerdimensionale normalfordelinger Generelle lineære mixede modeller Introduktion Formulering af den generelle lineære mixed model

6 6.1.1 Eksempel: Envejs model med tilfældig effekt Estimation Estimation af fixed effects og variansparametre Estimation af de tilfældige effekter Samtidig estimation af β og u Empirisk Bayes-fortolkning SAS-proceduren PROC MIXED Eksempel påbrugafprocmixed Hierarkisk variation for exponentielle dispersionsfamilier Indledning, modellering af overdispersion Hierarkisk Poisson Gamma model Eksempel, Variation mellem episoder af tordenvejr ved Cape Kennedy Formulering af hierarkisk model SAS PROC GENMOD Eksempel, tordenvejr igen Hierarkisk binomial beta model Data Formulering af hierarkisk model Hierarkisk model for empiriske varianser for normaltfordelte variable Den systematiske model Den tilfældige model Fortolkning af parametre i strukturfordelingen af σ Marginal fordeling af stikprøvevariansen Normalfordelingsmodeller med tilfældigt varierende varians Generel formulering af hierarkiske modeller for exponentielle dispersionsfamilier Aposteriorifordeling Generelle resultater vedrørende aposteriorifordelinger Aposteriorifordeling for Poisson Gamma model Normalfordelingen som miksturfordeling sasdata Diverse om information