Statistiske modeller

Transkript

1 Statistiske modeller Statistisk model Datamatrice Variabelmatrice Hændelse Sandsynligheder Data Statistiske modeller indeholder: Variable Hændelser defineret ved mulige variabel værdier Sandsynligheder Mængden af sandsynligheder omtales som variablenes fordeling 1

2 Data fra de europæiske værdiundersøgelser 1999 V234 = Holdning til abort (1 = kan aldrig accepteres, 10 = kan altid accepteres To typer af variable Design-variable (land) (varierer ikke tilfældigt) Stokastiske variable (ser ud til at variere tilfældigt: Køn, Holdning til abort) 2

3 Den statistiske model indeholder sandsynligheder for hændelser defineret ved Køn (K) og Holdning til abort (H): Simultan sandsynlighed: P(H=7, K=mand) Marginal sandsynlighed: P(H=8-10) Betinget sandsynlighed: P(H<5 K = Kvinde) Den statistiske model forenkler modelen ved at påstå nogle ting om disse sandsynligheder. F.eks.: Køn og Holdning er uafhængige P(H,K)=P(H)P(K) Holdningen til abort er normalfordelt, med middelværdi og varians, der afhænger af køn Holdningen til abort er normalfordelt, med middelværdi og varians, der ikke afhænger af køn Modelproblemet: Disse påstande kan være forkerte. 3

4 Stokastisk uafhængige variable Stokastisk uafhængige begivenheder P(A,B) = P(A)P(B) Stokastisk uafhængige variable To variable, X og Y, siges at være stokastisk uafhængige, hvis enhver hændelse defineret ved variablen, X, er stokastisk uafhængig af enhver hændelse defineret ved variablen Y. To variable X og Y er stokastisk uafhængige hvis, P(Y=y X=x) = P(Y=y) P(X=x,Y=y) = P(X=x)P(Y=y) for alle mulige værdier af de to variable 4

5 Stokastisk uafhængige identisk fordelte individer Stokastisk uafhængige individer To individer er stokastisk uafhængige, hvis samtlige hændelser defineret ved variablene for det ene individ er uafhængige af samtlige hændelser defineret ved variablene for det andet individ. Identisk fordelte individer Person nr. a og b er identisk fordelte hvis P(X ai =x) = P(X bi =x) Det er en forudsætning for alle de statistiske metoder, der vil blive omtalt på dette kursus, at der er tale om identisk fordelte stokastisk uafhængige individer P( X = x,..., X = x ) = P( X = x,... X = x ) nk nk 1 i1 k ik i 5

6 Reference mellem empiriske og teoretiske begreber Karakterer i statistik for 10 tilfældigt udvalgte studerende: Middelværdi = ( )/10 = 7.4 = ( )/10 = 7.4 Den empiriske middelværdi 1 1 nx x = xn = x = xh n n n i x x i= 1,.., n x= 0,..,13 x= 0,..,13 x= 0,..,13 Den relative hyppighed, h x, er tal mellem 0 og 1. Sandsynlighedsregningen er konstrueret således at der er en høj grad af korrespondance mellem sandsynligheder og relative frekvenser. 6

7 Empiriside n observationer: x 1,,x n Den absolutte fordeling: n x = antal personer med værdien x Den relative fordeling: h x = n x /n Den kumulerede fordeling: x x 1 ni = hx n i= 1 i= 1 Percentiler defineret ud fra den kumulerede fordeling Empirisk middelværdi: M X = x xh Empirisk varians: n VAR( X ) = hx ( x M X ) n 1 x x 2 Modelside Én stokastisk variabel, X Det forventede antal med en bestemt værdi: e x = np x Sandsynligheden for at X=x: p x = P(X=x) Fordelingsfunktionen: x F( x) = p = P( X x) i= 1 i Percentiler defineret ud fra fordelingsfunktionen Teoretisk middelværdi: (forventet værdi) E( X ) = xp x Teoretisk varians: 2 σ X = p x x E X 2 x x ( ( )) Variablens fordeling = mængden af sandsynligheder, der kan defineres for de hændelser, der kan defineres ud fra variables forskellige mulige værdier. 7

8 Nogle tatistiske standardfordelinger 1) Bernoullifordelingen sandsynligheden svarende til en enkelt binær variabel. 2) Binomialfordelingen sandsynlighederne for antallet af positive udfald på et vist antal Bernoullifordelte variable. 3) Polynomialfordelingen sandsynligheder for antallet af forekomne værdier af kategorivariable med mere end to forskellige udfald. 4) Normalfordelingen en symmetrisk fordeling af en ubegrænset kontinuert intervalskalavariabel. Er entydigt fastlagt af middelværdi og varians. 5) Den standardiserede normalfordeling. En normalfordeling med middelværdi lig med 0 og varians lig med 1. 6) Chi-i-anden fordelingen. En fordeling på den positive talakse. kan defineres som summen af et vist antal standardiserede normalfordelinger. 8

9 Bernoulli fordelingen: En fordeling af en variabel, X, med to forskellige udfald: X = 0 X = 1 En bestemt begivenhed forekommer ikke E bestemt begivenhed forekommer Fordelingen indeholder én sandsynlighed: p = P(X=1) Sandsynligheden for at begivenheden ikke forekommer er lig med P(X=0) = 1-p 9

10 Fordelingsindikatorer for Bernoullifordelingen E(X) = Σ x (xp x )= 0 (1-p) + 1 p = p σ 2 (X) = Σ x [(x-e(x)) 2 p x ] = (0-p)²(1-p) + (1-p)²p = p²(1-p) + (1-p)²p = p(1-p)(p+1-p) = p(1-p) 10

11 Fordelingsindikatorer efter omkodning Samme regneregler som for empiriske fordelingsindikatorer med én nyttig forskel S = X + Y E(S) = E(X) + E(Y) σ 2 (S) = Σ s p s (s-e(s))² =Σ xy p xy (x+y-e(x)-e(y))² = Σ xy p xy ((x-e(x))+(y-e(y)))² = Σ xy p xy ((x-e(x))²+(y-e(y))²+2(x-e(x))(y-e(y))) = Σ xy p xy (x-e(x))² + Σ xy p xy (y-e(y))² + 2Σ xy p xy (x-e(x))(y-e(y)) = σ 2 (X) + σ 2 (Y) + 2σ 2 (X,Y) Hvis X og Y er stokastisk uafhængige, er den kovarians, σ 2 (X,Y) lig med nul σ 2 (X+Y) = σ 2 (X) + σ 2 (Y) 11

12 Binomialfordelingen Y er binomialfordelt, Y ~ Bin(n,p), hvis den er lig med summen af n indbyrdes uafhængige identisk fordelte Bernoulli fordelte variable med sandsynligheden p: Dvs. Y = i=1..n X i Hvor X i er en Bernoulli-fordelt variabel med sandsynlighed p. Teoretisk middelværdi = E(Y) = n p Teoretisk varians = σ 2 (Y) = n p (1-p) Teoretisk standardafvigelse = σ(y) = n p (1-p) 12

13 Standardiserede variable Variable, der er omkodet, således at middelværdien er lig nul og variansen er lig med 1 Z = X E( X ) σ ( X ) hvor σ(x) er variablens standardafvigelse Z E( X ) 1 = + ix σ ( X ) σ ( X ) E( X ) σ ( X ) og 1 σ ( X ) er konstanter. I flg. regnereglerne for middelværdier og varianser er E(Z) = 0 og σ 2 (Z) = 1. 13

14 Hvor stor usikkerhed er der på en middelværdiberegning? Teoretisk middelværdi og varians for den empiriske middelværdi E(M x ) = E(X) σ 2 (M x ) = σ 2 (X)/n σ ( M ) σ ( X ) n x = Fordelingsindikatorer for binomialfordelingen E(S) = np σ 2 (S) = np(1-p) E S = p σ 2 S p( 1 p) = n n n 14

15 Fordelingsindikatorer for politisk opinionsundersøgelse i september Undersøgelsen antages at omfatte 900 personer. S = Absolut fordeling E(S) Relativ fordeling σ 2 (S) E(S/900) σ 2 (S/900) Ej stemt+ugyldig A. Socialdemokratiet B. Radikale C. Konservative D. Centrum demokrater F. Socialistisk folkeparti Q. Kristeligt folkeparti V. Venstre Z. Fremskridtspartiet Ø. Enhedslisten * Udenfor parti

16 Om tætheder for kontinuerte variable Et histogram over tiden til en hændelse målt i femårsgrupper 600 Frequency Mean =4,90 Std. Dev. =5,025 N = ,00 5,00 10,00 15,00 20,00 25,00 30,00 35,00 40,00 COMPUTE x5 = RV.EXP(0.2) Søjlens højde/1000 er et estimat af en sandsynlighed 16

17 Frequency Mean =4,90 Std. Dev. =5,025 N = ,00 10,00 20,00 30,00 40,00 COMPUTE x5 = RV.EXP(0.2) To-års alders intervaller Højden af søjlen/1000 er et estimat af sandsynligheden Søjlerne er mindre, fordi sandsynlighederne er mindre, fordi intervallerne er mindre 17

18 Frequency Mean =4,90 Std. Dev. =5,025 N = ,00 10,00 20,00 30,00 40,00 COMPUTE x5 = RV.EXP(0.2) 1-års intervaller Søjlerne er ca. halvt så høje som for to-års intervallerne fordi sandsynlighederne er ca. halvt så store 18

19 Frequency Mean =4,90 Std. Dev. =5,025 N = ,00 10,00 20,00 30,00 40,00 COMPUTE x5 = RV.EXP(0.2) ½ års intervaller 19

20 Når intervalbredden nærmer sig nul kommer toppen af histogrammet til at ligne en kontinuert kurve, der omtales som fordelingens tæthed 0,20 0,15 density 0,10 0,05 0,00 0,00 10,00 20,00 X 30,00 40,00 I dette tilfælde f(x) = λ e λx hvor λ = 0.2 Eksponential fordelingen 20

21 Sandsynligheder og tætheder Hvis er et meget lille tal vil sandsynligheden næsten være lig med P(x - < X x + ) 2 f(x) P(x < X x + ) f(x+ /2) f(x) Samme regneregler for tætheder som for sandsynligheder, men summation skal erstattes af integration P (x1 < X x 2 ) = f(x) dx x 2 x 1 21

22 Tætheder, fordelingsfunktioner og overlevelsesfunktioner Fordelingsfunktionen F (x) = P(X f (x) = x) d dx = x F(x) f(x)dx 22

23 Normalfordelingen Figur 4.3 Tre normalfordelinger 0 5 Standardiseret normalfordeling P(Z < -1.96) = P(Z > +1.96) = P( Z >1.96) = % af værdierne af en normalt fordelt variabel med middelværdi,ξ, og standardafvigelse,σ, vil ligge inden for intervallet ξ ± 1.96σ 23

24 Udvalgte sandynligheder fra den standardiserede normalfordeling: Tabel 4.3 Udvalgte sandsynligheder defineret ved en standardiseret normalfordelt variabel, Z Udfald Sandsynlighed Z Z Z Z Z Z Z Z Z Z

25 Er variable nogensinde normalfordelte? Venstre-højre position Tilfredshed med livet 25

26 Middelværdisætningen Antag, at X 1,..,X n er n identisk fordelte uafhængige variable med middelværdi, E(X), og varians, σ X2, og at M X 1 er den empiriske middelværdi. = X n i i Lad endvidere ε være et vilkårlig positivt tal. Når antallet af observationer forøges, vil sandsynligheden for at forskellen på den empiriske og teoretiske middelværdi er mindre end ε nærme sig 1, P( M E( X ) < ε) 1 når n X 26

27 De store tals lov Antag, at X 1,..,X n er n identisk Bernoullifordelte uafhængige variable med sandsynlighed, p, for et positivt udfald. Lad endvidere h X være den relative hyppighed af positive udfald, mens ε er et vilkårlig positivt tal. Når antallet af observationer forøges vil sandsynligheden for at forskellen på sandsynligheden og den relative hyppighed er mindre end ε nærme sig 1, P( h p < ε) X 1 når n 27

28 Den centrale grænseværdisætning Antag, at X 1,..,X n er n identisk fordelte uafhængige variable med middelværdi, E(X), og varians, σ X 2. Under denne forudsætning vil den empiriske middelværdi, M X 1 i, altid være approksimativt normalt i = X n fordelt med middelværdi, E(X), og varians, σ X 2 /n. Approksimationen vil blive bedre og bedre, jo flere observationer, der indsamles. 28

29 Figur 4.5 Fordeling af svarene på spørgsmålet om den generelle tilfredshed med livet. Kurven svarer til en normalfordeling med samme middelværdi og spredning som i fordelingen af tilfredsheden. Figur 4.6 Fordeling af den gennemsnitlige tilfredshed med livet i 220 tilfældigt udvalgte grupper på 10 personer. Kurven svarer til en normalfordeling med samme middelværdi og samme varians som fordelingen af gennemsnitsværdierne. 29

30 Figur 4.7 Fordeling af den gennemsnitlige tilfredshed med tilværelsen i 88 tilfældigt sammensatte grupper med 25 personer. Kurven svarer til en normalfordeling med samme middelværdi og samme spredning som i fordelingen af gennemsnitsværdierne Figur 4.8 Fordeling af den gennemsnitlige tilfredshed med tilværelsen i 44 tilfældigt sammensatte grupper med 50 personer. Kurven svarer til en normalfordeling med samme middelværdi og samme spredning som i fordelingen af gennemsnitsværdierne 30

31 Sandsynlighed Figur 4.9 Eksakt og approksimativ fordeling af antallet af socialdemokrater i en Gallup undersøgelse omfattende 900 personer. Trappefunktionen angiver de eksakte sandsynligheder Figur 4.10 Fordelingen af tilslutningen til Socialdemokratiet blandt alle gyldige stemmer i 1994 i 200 simulerede opinionsundersøgelser, der hver omfattede 900 personer. 31

32 Regnereglen for normalfordelinger: En hvilken som helst lineær funktion af k normalfordelte variable, (X 1,..,X k ) er selv normalfordelt: Y = a 0 + a 1 X a k X k er normalfordelt Y s middelværdien og variansen skal beregnes ud fra de sædvanlige regneregler for middelværdier og varianser. 32

33 χ 2 fordelingen Antag, at Z er en variabel med en standardiseret normalfordeling. X = Z 2 er en variabel, der kun kan have positive værdier. Fordelingen af X kan beregnes og kortlægges. Denne fordeling omtales som en χ 2 fordelingen med 1 frihedsgrad. χ 2 fordelingen optræder i en lang række forskellige situationer og har en række bekvemme egenskaber. Bl.a. gælder, at fordelingen af summen af k uafhængige χ 2 fordelte variable kan beregnes. Den omtales som en χ 2 fordeling med k frihedsgrader (df = k). 33

34 df=1 df=5 df=10 Tæthedsfunktionen for tre forskellige χ 2 fordelinger 34