I dag. Statistisk analyse af en enkelt stikprøve med kendt varians Sandsynlighedsregning og Statistik (SaSt) Eksempel: kobbertråd

Transkript

1 I dag Statistisk analyse af en enkelt stikprøve med kendt varians Sandsynlighedsregning og Statistik SaSt) Helle Sørensen Først lidt om de sidste uger af SaSt. Derefter statistisk analyse af en enkelt stikprøve med kendt varians: Statistisk model og maksimum likelihood estimation. Konfidensinterval the basics Test af hypotese om middelværdi the basics Når kun det helt grundlæggende om konfidensinterval og test i dag. Mere på fredag om fortolkninger mm. SaSt Uge 5, tirsdag) En stikprøve, kendt varians 1 / 22 SaSt Uge 5, tirsdag) En stikprøve, kendt varians 2 / 22 Normalfordelingsmodeller Eksempel: kobbertråd Data: y = y 1,...,y n ) udfald af Y = Y 1,...,Y n ) Antagelser: Y 1,...,Y n uafhængige simultan tæthed er lig produkt af marginale tætheder Alle Y i er normalfordelte med samme varians σ 2 Mangler kun at specifiere middelværdier, EY i ). Skal se på følgende middelværdistrukturer: Alle Y i har samme middelværdi varians σ 2 kendt eller ukendt) Obs. kommer fra to grupper med hver sin middelværdi, 1 hhv. 2. Middelværdien afhænger lineært af forklarende variabel: EY i ) = a + βx i hvor x 1,...,x n er givne tal. Produktion af kobbertråd. Stikprøve bestående af ni stykker kobbertråd. Vægt i gram: Produktionsstandard: ønsker en gennemsnitlig vægt i produktionen på g. Tyder data på afvigelse fra denne standard? Ved fra mange lignende stikprøver eller frac maskinstandard) at spredningen er g. Varians g 2. Altsammen specialtilfælde af et mere generelt set-up senere kurser. SaSt Uge 5, tirsdag) En stikprøve, kendt varians 3 / 22 SaSt Uge 5, tirsdag) En stikprøve, kendt varians 4 / 22

2 Eksempel: Aktieudbytte Eksempel: blodglukose og Vcf Data: værdistigning af aktier fra to typer investeringsforeninger i femårsperiode værdi 100 ved starten af perioden). Danske aktier: Udenlandske aktier: Tyder data på at der er forskel på værdistigningen i investeringsforeninger der hovedsageligt investerer i danske hvv. udenlandske aktier? Vcf %/sec) blodglukose mmol/l) 23 diabetespatienter Sammenhørende par x i,y i ) blodglukose under faste hastighed for sammentrækning af venstre hjertekammer Hvad er sammenhængen? Bedste rette linie i maksimum likelihood forstand SaSt Uge 5, tirsdag) En stikprøve, kendt varians 5 / 22 SaSt Uge 5, tirsdag) En stikprøve, kendt varians 6 / 22 Statistisk model for en enkelt stikprøve Likelihoodfunktionen Tilbage til tilfældet med en enkelt stikprøve, fx. kobbertrådene. Data: y = y 1,...,y n ), udfald af Y = Y 1,...,Y n ). Statistisk model: Y 1,...,Y n er stokastiske uafhængige Alle Y i N,σ 2 0 ) Variansen σ0 2 er et kendt tal. Middelværdien R ukendt. Parametermængde Θ = R. Hvordan skal vi mon estimere? Antagelsen om kendt varians er kun sjældent rimelig men gør matematikken simplere så terminologien bliver tydeligere! For givet er tætheden for Y = Y 1,...,Y n ) givet ved 1 f y) = exp 1 n 2πσ0 2 )n/2 2σ 0 2 y i ) ), 2 y R n, i=1 Fortolkning: sandsynlighed for at Y havner i lille) område omkring y er f y) gange volumen af området. Tæthed: f y) er en funktion af y for givet. Likelihoodfunktionen: Opfat i stedet f y) som funktion af for givet y. L y : R R 1 L y ) = exp 2πσ0 2 )n/2 1 2σ 2 0 n i=1 y i ) 2 ) SaSt Uge 5, tirsdag) En stikprøve, kendt varians 7 / 22 SaSt Uge 5, tirsdag) En stikprøve, kendt varians 8 / 22

3 Maksimum likelihood estimat Likelihoodfunktionen Tror mere på værdier af der gør det ret sandsynligt at få en observation omkring y end værdier af der gør det knapt så sandsynligt. Find værdi af der gør obs. y mest sandynlig : Find ˆ Θ = R så L y ˆ) L y ), R Sætning 3.3: ML estimatet for er entydigt bestemt og givet ved ˆ = ȳ. Bevis: Kig på log-likelihooodfunktionen Kig efter stationære punkter Kig på den andenafledede For y lig observationerne fra eksemplet om kobbertråde. L) 0e+00 2e+12 4e+12 6e+12 8e l) SaSt Uge 5, tirsdag) En stikprøve, kendt varians 9 / 22 SaSt Uge 5, tirsdag) En stikprøve, kendt varians 10 / 22 Fordeling af ML estimator Konfidensinterval for ML estimatet ȳ er et udfald af den stokastiske variabel Ȳ. Altså: Estimatoren ˆ = Ȳ er en stokastisk variabel. Tæthed for Y y Hvad er fordelingen af ˆ? Er ˆ en central estimator? Hvad sker der når n vokser? Estimeret fordeling af ˆ? Kobbertråde: Estimat? Fordeling af estimator? Estimeret fordeling? Fordelingen af Ȳ beskriver usikkerheden i estimatet. Opsummerer ofte usikkerheden i et konfidensinterval. I denne model kan vi gøre det ordentligt til forskel fra binomialford.) Ønsker interval LY ),UY ) ) som indeholder den sande værdi af med sandsynlighed 95%: P LY ),UY ) )) = 0.95 Laver et interval der er symmetrisk om Ȳ. Husk at Ȳ N,σ0 2 /n). Standardisér til N0,1) Brug 97.5% fraktilen i N0,1), dvs Isolér i midten SaSt Uge 5, tirsdag) En stikprøve, kendt varians 11 / 22 SaSt Uge 5, tirsdag) En stikprøve, kendt varians 12 / 22

4 Fortolkning af konfidensinterval 95% konfidensinterval for : Ȳ ± 1.96 σ 0 n = Ȳ 1.96 σ 0, Ȳ σ ) 0 n n Gentagelser af dataindsamling Data simuleret fra N0, 1). Kig på den venstre figur. De andre tager vi på fredag... 95%, n=10, σ 2 0 =1 95%, n=40, σ 2 0 =1 95%, n=10, σ 2 0 =2 75%, n=10, σ 0 2 =1 Fortolkning: Endepunkterne er stokastiske variable. Sandsynlighedsudsagnet er et udsagn om disse stokastiske variable. Tænk på gentagelser af eksperimentet/dataindsamlingen For en given værdi 0 : sandsynligheden for at observere data y som opfylder at 0 ligger i det tilhørende konfidensinterval er 95% sandsynligheden for at observere data y som opfylder at 0 ikke ligger i det tilhørende konfidensinterval er 5% SaSt Uge 5, tirsdag) En stikprøve, kendt varians 13 / 22 SaSt Uge 5, tirsdag) En stikprøve, kendt varians 14 / 22 Eksempel: kobbertråd Test af hypotese Husk: ˆ = ȳ = , σ 2 0 = % konfidensinterval for : ± 1.96 = ± = , ). Bemærk: Konfidensintervallet indeholder ikke værdien som var den ønskede gennemsnitsvægt af kobbertrådene i produktionen. Data er altså ret usædvanlige hvis gennemsnitsvægten i produktionen er Interesseret i en bestemt værdi af : 0. Hypotese H : = 0. Hypotesen er en restriktion på den oprindelige model. Under hypotesen har vi at alle Y i N 0,σ0 2 ). Ingen ukendte parametre. Teste hypotesen: afgøre om data er i modstrid med hypotesen eller ej. Intuition: størrelsen ȳ 0 er vigtig i den sammenhæng... ȳ 0 stor hypotesen passer dårligt ȳ 0 lille hypotesen passer godt Vi spørger: Hvis er sand, hvor sandsynligt er det så at få data der passer lige så dårligt eller dårligere med hypotesen som dem vi har observeret? SaSt Uge 5, tirsdag) En stikprøve, kendt varians 15 / 22 SaSt Uge 5, tirsdag) En stikprøve, kendt varians 16 / 22

5 Kvotientteststørrelsen p-værdi Lad os indføre et formelt og generelt testprincip likelihood ratio testet. Husk: Likelihoodfunktionen L y ) udtryk for hvor sandsynligt det er at få observation i nærheden af y når parameteren er. Kvotientteststørrelse Qy) = L y 0 ) L y ˆ) ; QY ) = L Y 0 ) L Y ˆ) Måler hvor meget dårligere hypotesen = 0 passer til data end den oprindelinge model R. Hvad er de mulige værdier af Qy)? Hvilke værdier passer godt med hypotesen? Dårligt? Men hvad betyder stor og lille mere konkret? p-værdi: sandsynligheden for givet at hypotesen er sand at observere en værdi af QY ) der passer lige så dårligt eller dårligere med hypotesen end værdien Qy) som vi faktisk observerede: εy) = P QY ) Qy) ). Pointe: Skal altså kun) kende fordelingen af QY ) under hypotesen. Fortolkning: εy) lille de observerede data eller nogle endnu værre) er usædvanlige hvis hypotesen er sand data taler imod hypotesen. εy) stor de observerede data eller nogle værre) er ikke usædvanlige hvis hypotesen er sand data støtter hypotesen. Skiller oftest ved 5%: Hypotesen afvises hvis εy) 0.05, ellers ikke. Mere generelt: skiller ved α som er valgt på forhånd. Mere på fredag. SaSt Uge 5, tirsdag) En stikprøve, kendt varians 17 / 22 SaSt Uge 5, tirsdag) En stikprøve, kendt varians 18 / 22 Likelihood ratio testet Illustration af p-værdi Husk at hypotesen er H : = 0. Sætning 3.8: Kvotientteststørrelsen og p-værdien er givet ved Qy) = exp 1 ) 2σ0 2 nȳ 0 ) 2 εy) = 21 Φ u )) hvor Φ er fordelingsfunktionen for N0, 1) og Bevis: u = ȳ 0 σ 0 / n. Hvis udtrykket for Qy) er ok, så følger p-værdien nemt Udtryk for Qy): vis at n i=1 yi 0 ) 2 y i ȳ) 2) = nȳ 0 ) 2. Tæthed for N0,1) Generelt set-up u u Tæthed for N0,1) Kobbertråde u SaSt Uge 5, tirsdag) En stikprøve, kendt varians 19 / 22 SaSt Uge 5, tirsdag) En stikprøve, kendt varians 20 / 22

6 Kobbertråde Resumé Husk at man ønsker en gennemsnitsvægt på g i produktionen. Hvad er den relevante hypotese? Hvilken værdi har teststørrelsen? Hvad er p-værdien? Hvad er konklusionen? Sammenlign med konklusionen fra konfidensintervallet. Naturligvis ikke tilfældigt... Analyse af en enkelt stikprøve med kendt varians Statistisk model: uafhængighed, normalfordeling, ukendt middelværdi, kendt varians σ 2 0. Estimat ˆ = ȳ. Estimator ˆ = Ȳ N,σ2 0 /n). 95% konfidensinterval for : Ȳ ± 1.96 σ 0 n. Likelihood ratio testet for hypotesen = 0. Udføres på u = ȳ 0 σ 0 / n. Vurderes i N0, 1). p-værdi. Konklusion på test. På fredag: Mere om fortolkning af konfidensinterval, test, signifikansniveau mm. Sammenhængen mellem konfidensinterval og test En enkelt stikprøve med ukendt varians. Hvad ændrer sig? SaSt Uge 5, tirsdag) En stikprøve, kendt varians 21 / 22 SaSt Uge 5, tirsdag) En stikprøve, kendt varians 22 / 22