Hvad vi mangler fra onsdag Momenter som deskriptive størrelser Sandsynlighedsmål er komplicerede objekter de tildeler numeriske værdier til alle hændelser i en σ-algebra. Vi har behov for simplere, deskriptive størrelser af to grunde: Vi starter med at gennemgå slides 34-38 fra onsdag. Fortolkning og sammenligning. Hvor er målet lokaliseret, hvad er skalaen, er fordelingen skæv, og hvor stejl er fordelingen omkring sit center? Tekniske grunde: Vi har brug for matematiske resultater til begrænsning af sandsynligheder med beregnelige størrelser. Slide 1/17 Niels Richard Hansen MI forelæsninger 6. December, 213 Slide 2/17 Niels Richard Hansen MI forelæsninger 6. December, 213 Momenter for sandsynlighedsmål Lad ν være et sandsynlighedsmål på (R, B). Momenter for stokastiske Moments of stochastic variable variables X x k Definition (EH 16.7) Vi siger at ν har k te moment for k N, hvis (Ω, F,P) (R, B) (R, B) x x k, er ν-integrabel. I så fald er det k te moment af ν. Størrelsen x k dν(x) x R x k dν(x) kaldes det k te absolutte moment af ν. Slide 3/17 Niels Richard Hansen MI forelæsninger 6. December, 213 Moments of X are moments of the image measure ν = X(P ) (the distribution). Momenterne af X er momenterne af billedmålet ν = X (P) (fordelingen). Den abstrakte integraltransformationssætning giver x k dx (P)(x) = X k dp = EX k. Lemma (EH 16.3) Hvis X har middelværdi, så har α + βx middelværdi for α, β R og E ( α + βx ) = α + βex. Slide 4/17 Niels Richard Hansen MI forelæsninger 6. December, 213. p.3/27
Det empiriske sandsynlighedsmål Hvis x 1,..., x n X defineres det empiriske sandsynlighedsmål ved ε n (A) := 1 n 1 A (x i ), for A E. Dvs. ε n (A) er den relative frekvens af x i er i A. Bemærk at ε n = 1 n med δ xi diracmålet i x i. δ xi Empiriske momenter Antag at fordelingen af X er den empiriske fordeling, dvs. X (P) = ε n eller P(X A) = 1 n så er 1 A (x i ) for all A B X begrænset, og har alle momenter, og E ( X k) = 1 n xi k. Forestil dig at X trækkes tilfældigt fra en urne, som indeholder x 1,..., x n. Slide 5/17 Niels Richard Hansen MI forelæsninger 6. December, 213 Slide 6/17 Niels Richard Hansen MI forelæsninger 6. December, 213 Eksistens af momenter Lad X og Y være reelle stokastiske variable defineret på (Ω, F, P). Lemma (EH 16.12) Hvis X og Y har k te moment, så har X + Y også k te moment. Lemma (EH 16.13) Hvis X har k te moment, så har X også m te moment for m k. Bemærk at X har k te netop hvis X L k (Ω, F, P). Det første lemma er (en del af) beviset for at L k (Ω, F, P) er et vektorrum. Det andet lemma viser at for m k. Slide 7/17 Niels Richard Hansen MI forelæsninger 6. December, 213 L k (Ω, F, P) L m (Ω, F, P) Centrale momenter Hvis X har k te moment er det k te moment omkring c defineret som E (X c) k. Da X og konstanten c har k te moment, har X c også k te moment. Det k te centrale moment af X er det k te moment omkring c = EX, E (X EX ) k. Definition Variansen af X, skrevet VX, er det andet centrale moment. Slide 8/17 Niels Richard Hansen MI forelæsninger 6. December, 213 V X = E (X E X ) 2.
Formler Lad X være en reel stokastisk variabel defineret på (Ω, F, P). Lemma (EH 16.16 & 16.17) Antag at X har andet moment. Så gælder V X = E X 2 (E X ) 2 V X = E X (2) (E X ) (2) V (α + βx ) = β 2 VX for alle α, β R. For alle c R gælder endvidere E (X c) 2 = V X + (E X c) 2. Fortolkning: Middelværdien, EX, er det punkt omkring hvilket X har det mindste andet moment. Slide 9/17 Niels Richard Hansen MI forelæsninger 6. December, 213 Flere resultater om variansen Lad X være en reel stokastisk variabel (Ω, F, P). Lemma (EH 16.15) Antag at X har andet moment. Så er V X med lighed hvis og kun hvis X = E X næsten sikkert. Bevis: Med c = EX gælder per definition at V X = E(X c) 2 = (X c) 2 dp. Da (X c) 2 er ikke-negative med integral er integranden P-næsten overalt. Slide 1/17 Niels Richard Hansen MI forelæsninger 6. December, 213 Momenter for normalfordelingen For k lige anvender vi substitutionen y = x 2 /2 til at beregne det k te (absolutte) moment for N (, 1)-fordelingen: x k 1 e x2 2 k 1 2 ( x 2 2 dx = 2 2π 2π = 2 k 2 π 2 = 2 k ( ) 2 k + 1 Γ π 2 y k+1 2 1 e y dy = (k 1)(k 3) 3 1. ) k+1 2 1 e x2 2 x dx Alle lige (absolutte) momenter er endelige, så alle momenter findes. Når k er ulige er integranden en ulige funktioner, og så er det k te moment nul. Specielt hvis X N (ξ, σ 2 ) er EX = ξ og VX = σ 2. Slide 11/17 Niels Richard Hansen MI forelæsninger 6. December, 213 Standardisering I stedet for at se på de rå højereordens momenter, ser vi som regel på højereordens momenter for standardiserede variable. Definer Y = X E X V X. hvor VX kaldes standardafvigelsen (eller spredningen). Bemærk at Slide 12/17 Niels Richard Hansen MI forelæsninger 6. December, 213 E Y =, V Y = 1.
Standardiserede momenter Momenter for Γ-fordelingen Hvis X er Γ-fordelt med formparameter λ er Y = X E X V X Hvis X har tredje moment defineres skævheden af X som γ(x ) = E Y 3 = E(X EX )3 (VX ) 3/2. Hvis X har fjerde moment defineres kurtosis eller topstejlheden af X som κ(x ) = E Y 4 E(X EX )4 3 = (VX ) 2 3. Normalfordelingen N (, 1) har skævhed og topstejlhed. EX k = = = 1 x k x λ 1 e x dx Γ(λ) 1 x λ+k 1 e x dx Γ(λ) Γ(λ + k) = (λ + k 1)(λ + k 2) (λ + 1)λ Γ(λ) hvor vi har brugt funktionalligningen Γ(λ + 1) = λγ(λ). Γ-fordelingen har alle momenter, EX = λ og VX = EX 2 (EX ) 2 = λ(λ + 1) λ 2 = λ. γ(x ) = 2 λ og κ(x ) = 6 λ. Slide 13/17 Niels Richard Hansen MI forelæsninger 6. December, 213 Slide 14/17 Niels Richard Hansen MI forelæsninger 6. December, 213 Markovs og Chebychevs uligheder Uligheder Lad X være en reel stokastisk variabel defineret på (Ω, F, P). Sætning (EH 16.5) Hvis P(X ) = 1 og X har første moment gælder for alle c > at Sætning (EH 16.19) P(X > c) EX c. Hvis X har andet moment gælder for alle ε > at P( X EX > ε) VX ε 2. Chebyshevs ulighed er nyttig med en minimal antagelse: Eksistensen af andet moment. Den giver ikke generelt et stramt øvre bånd på sandsynligheden P( X EX > ε). Lad Y = e t(x EX ) for t R. Hvis EY < og c = e tε så følger ved Markovs ulighed at P(X EX > ε) = P(Y > c) e tε Ee t(x EX ), som for passede t kan give meget stramme bånd på sandsynligheden på bekostning af kravet om integrabilitet af e t(x EX ). Slide 15/17 Niels Richard Hansen MI forelæsninger 6. December, 213 Slide 16/17 Niels Richard Hansen MI forelæsninger 6. December, 213
Exponentielle uligheder for Γ-fordelingen Hvis X er Γ-fordelt med formparameter λ > og t < 1, så er Dvs. Ee tx = 1 Γ(λ) x λ 1 e (1 t)x dx = e tλ P(X λ > ε) e εt (1 t) λ. 1 (1 t) λ. Standard minimering over t af højresiden giver et minimum for t = ε/(ε + λ), som giver det øvre bånd Sammenlign med fra Chebychevs ulighed. Slide 17/17 Niels Richard Hansen MI forelæsninger 6. December, 213 ( ) ε + λ λ P(X λ > ε) e ε. λ P( X λ > ε) λ ε 2