Supplement til sandsynlighedsregning og matematisk statistik

Transkript

1 Supplemet tl sadsylghedsregg og matematsk statstk 1. Bevs for lgg (4b) 22.4 ( 23.3) 8. (7.) udgave. Teorem 3 (4): Atallet af forskellge kombatoer med k elemeter, der ka daes ud af forskellge elemeter, er ( ) ( ) + k 1 ude getagelser: med getagelser: k k Det er teorem (4b), hvor de ekelte elemeter ka optræde fra tl k gage de ekelte kombatoer, der skal bevses. Læreboge foreslår at bevse sætge ved dukto: Teoremet er korrekt for = 1 for e vlkårlg værd af k:der er ku de ee mulghed, at alle k elemeter er es. Teoremet atages korrekt for 1 elemeter (for e vlkårlg værd af k), og skal med dee forudsætg vses at være gyldg for elemeter: V starter med de 1 elemeter og daer alle mulge kombatoer med k elemeter (med getagelser): ( ) 1+k 1 k. Tl dette atal mulgheder skal adderes dem, hvor det te elemet optræder 1 gag. Dette er lg med atallet af kombatoer med k 1 elemeter valgt ud bladt de resterede 1elemeter: ( ) 1+k 1 1 k 1. Næste led er de kombatoer, hvor det te elemet optræder to gage, og hvor der skal vælges k 2 elemeter ud af de 1 elemeter, osv. dtl v år frem tl, at alle k-elemeter er det te elemet. Dermed blver det samlede atal kombatoer: ( ) ( ) ( ) ( ) ( ) + k 2 + k 3 + k k k 1 k som ka omskrves tl ( ) ( ) k 2+s k 2+s = s 2 s= Beyttes lgg (13) boge (med k erstattet med 2 og øverste sum græse 1medk) fås, at summe er lg ( ) ( ) ( ) k k 1 + k 1 = = Q.E.D k Lgg (13), som beyttes bevset, ka ge bevses ved dukto samt brug af lgg (11) (regeøvelse-opgave). Revderet efterår 2. s=

2 Supplemet 2 Alteratvt bevs for Teorem 4b Teorem 4b ka omformuleres tl, at atallet af måder k kugler ka fordeles kasser er ( ) + k 1 k hvs der kke er begræsger på hvor mage kugler, der ka være de ekelte kasser (svarede tl Bose-statstk). E kugle e kasse, svarer tl at dette elemet er udtrukket. De kasser stlles på erække,ogdek (sorte) kugler fordeles, fx som vst fgur a). De k kugler plus de 1 skllevægge betragtes uder et, agvet som hvde kugler fgur b). E vlkårlg kombato ka fdes ved at udvælge k af de hvde kugler b) tl at være sorte og de resterede tl at være skllevægge. Et eksempel er vst fgur c). Her er skllevæggee vst som hvde kugler, dvs. der er 1 kugle 1. kasse, 2. kasse, 1 3. kasse, 2 4. kasse, osv. Atallet af kombatoer er derfor det samme som atallet af måder, v ka udvælge k af de 1+k hvde kugler b) tl at være sorte kugler, hvlket etop er ( ) + k 1 k a) b) c)

3 2. Movre s sætg 3 2. Movre s sætg Sadsylghedstæthede for bomalfordelge: f(x) = ( ) p x q x (x =, 1,,) (2.1) x (q =1 p) ka betragtes to græser: (I) For og p, således at λ = p holdes kostat går bomalfordelge mod Posso-fordelge:Idføres λ ka f(x) skrves hvor for og f(x) = ( 1) ( x +1) x ( 1) ( x +1) x λ x x! =1 ( 1 1 ( 1 λ ) ( λ ) x 1 (2.2) ) x 1) ( 1 1 (2.3) ( λ ) λ ( 1) λ 2 ( 1)( 2) λ 3 1 =1 + 1! 2! 2 3! 3 + =1 λ + ( 1 1 ) λ 2 2! ( 1 1 )( 2 ) λ 3 1 3! + 1 λ + λ2 2! λ3 + = e λ 3! Sdste faktor (2.2) går mod 1, dvs. (2.4) f(x) λx x! e λ for (2.5) som er Posso-sadsylghedstæthede med mddelværd µ = λ. (II) Ud fra bomal-fordelge ka v å frem tl e kotuert fordelg ved at fastholde p uder græseovergage.hervedgår mddelværde µ = p og spredge σ = pq begge mod. Dette ødvedggør e ormerg af de oprdelge stokastske varabel X, som erstattes med Z = X µ σ (2.6) Igræse blver Z e kotuert stokastsk varabel og F (z =(x µ)/σ) går over stadard ormalfordelge, med mddelværde og spredge 1, dvs. F (z) Φ(z) (De Movre og Laplace s græseværdsætg), svarede tl lgg (11) på sde 19 (1189) 8. (7.) udgave af boge (hvs ±.5 α og β eglgeres).

4 Supplemet 4 I bevset udyttes det, at det ku er opførsle af f(x) e tæt omeg af x = µ, der er afgørede, f(x) hvs x µ > rσ, hvorr er af størrelsesordee 5. Det betyder at omege relatvt set, rσ/µ = r pq/p for,ogdermed at v dels ka beytte Strlgs formel for alle faktorere bomalkoeffcete, over x, og dels udytte e rækkeudvklg mht. /µ, hvor =x µ: Avedes Strlgs formel [lgg (7) sde 167 (1163)] (2.1) fås: f(x) = 2π e 2πxx x e x 2π( x)( x) x e +x px q x 2πx( x) ( ) p x ( q ) x (2.7) x x Rækkeudvkles kvadratrode tl te orde erstattes de af 1/ 2πpq. For det æste led fås: ( ) p x [ =exp x l ( µ ) ] [ =exp (µ + )l ( µ ) ] x x µ + hvor og dermed ( p x l ( µ µ + ) ( ) = l 1+ µ µ ) ] [ x exp [ 2 =exp p x 2µ ( ) 2 µ ] (x p)2 2p (2.8) og helt aalogt ( ) q x exp [q ( x) x ] [ ] ( x q)2 =exp 2 2q 2q (2.9) Gager v de to faktorer samme fås ( ) p x ( ) q x exp [ 2 x x 2p + 2 ] [ 2 ] =exp 2(1 p) 2p(1 p) og år pq = p(1 p) erstattes med σ 2 blver slutresultatet f(x) 1 [ ] σ 2π exp (x µ)2 2σ 2 (2.1) som er gyldgt græse µ = p 1. Det ka tlføjes, at beyttes samme fremgagsmåde ka det vses at sadsylghedstæthede for Posso fordelge for store værder af µ ka tlærmes med de ormale fordelg (2.1) med σ = µ. Bemærk, at boges tabel A6 over Posso-fordelge ku medtager værder af µ 5. For større værder af µ ka ma beytte Φ(z).

5 2. Movre s sætg Fgure vser sadsylghedstæthede for e bomalfordelg med p =.3 og = 5, 2 og 4 (puktere) og de tlsvarede ormale fordelgstæthed (de kotuerte kurver).

6 Supplemet 6 3. χ 2 -fordelg og Studet s t-fordelg χ 2 -fordelge afhæger ku af atallet af frhedsgrader, og er deferet ved: Y = U 2 (3.1) hvor U,forhvert, er e uafhægg stokastsk varabel med e frekvesfukto, som er de stadardserede ormale fordelgstæthed: φ(u )= 1 2π e u2 /2 Y er de stokastske varabel svarede tl χ 2 (bemærk, at χ 2 opfattes som e betegelse for e varabel y som er kke-egatv). Fordelgsfuktoe F (χ 2 ) er produktet af frekvesfuktoere (dbyrdes uafhægge stokastske varable) tegreret over volumeet gvet ved y = u 2 χ2 : F (χ 2 )= du y χ 2 1 du 2 du (2π) 2 e y/2 (3.2) Fuktoe, der skal tegreres, afhæger ku af r = y, som ka opfattes som rade af e -dmesoal kugle. Volumeet af de -dmesoal kugle er V = r C, hvor ehedskugles volume (se appedx) er C = π 2 Γ(1 + 2 ) (3.3) og Γ(1 + a) =aγ(a) er gammafuktoe. Volumeet V ka fdes ved tegrato af overfladearealet S (r) =dv /dr = r 1 C mht. r. I lgg (3.2) ka v ude vdere tegrere over alle de 1 frhedsgrader, der er uafhægge af y = r 2, hvlket gver: og dermed, at F (χ 2 )= r= χ 2 S (r)(2π) 2 e r 2 /2 dr (3.4) f (χ 2 )=F (χ2 )= df dr dr dχ 2 = S ( χ 2) (2π) 2 e χ 2 /2 1 2 = ( χ 2) 1 π 2 Γ(1 + 2 e χ 2 /2 1 2 )(2π) 2 eller f (χ 2 1 ( ) )= χ e χ 2 /2 2 2 Γ( 2 ) som er sadsylghedstæthede for χ 2 -fordelge med frhedsgrader. χ 2 χ 2 (3.5) (3.6)

7 3. χ 2 -fordelg og Studet s t-fordelg 7 Det ka vses, at mddelværde og varase af χ 2 -fordelge er heholdsvs og 2: χ 2 f (χ 2 )dχ 2 = (3.7) χ 4 f (χ 2 )dχ 2 2 =2 For at udlede teorem (teorem ) betragter v de stokastske størrelse S 2 = 1 (X µ) 2 (3.8) hvor X er ormalt fordelt med mddelværde µ og varase σ 2,såer S2 σ 2 = ( ) X µ 2 = U 2 (3.9) σ beskrevet ved χ 2 -fordelge med -frhedsgrader [højresde er de samme som lgg (3.1)]. Idfører v de stokastske mddelværd X = 1 X (3.1) ka (3.8) omskrves tl S 2 = [ (X X)+(X µ) ] 2 = (X X) 2 + (X µ) 2 (3.11) det lgg (3.1) medfører, at produktet mellem de to led de frkatede paretes summerer tl. Dermed har v, at S2 σ 2 = ( X X σ ) 2 ( ) X µ 2 + σ/ (3.12) Ifølge 23.3 teorem 1 ( 24.6 teorem 2) er X ormalfordelt med mddelværde µ og varase σ 2 /, dvs.atsdsteledpåhøjre sde af (3.12) etop er kvadratet på e stokastsk varabel, som har e stadardserede ormalfordelg, og dermed, at dette led har e χ 2 -fordelg med 1 frhedsgrad. Deftosmæssgt er summe af to (uafhægge) χ 2 -fordelger med frhedsgradere 1 og 2 gvet ved χ 2 - fordelge med frhedsgrader. Det ka vses, at de to led på højresde af (3.12) er statstsk uafhægge (kovarase er ), hvoraf følger, at første led har e χ 2 -fordelg med 1 frhedsgrader. Stkprøveværde af vestre sde af lgg (3.12) (store bogstaver erstattes med stkprøveværder gvet ved de tlsvarede små bogstaver) er tlærmet lg med mddelværde af højre sde, og beyttes (3.7) fås, at s 2 /σ2 ( 1) + 1 eller som forvetet, at s σ. Betragter v alee det første led (3.12), fås (x x) 2 /σ 2 1, eller at s 2 = 1 (x x) 2 σ 2 (3.13) 1

8 Supplemet 8 hvor s 2 er størrelse, der ka bestemmes drekte ud fra stkprøve, hvormod bestemmelse af s 2 kræver kedskab tl µ. Studet s t-fordelg: V har etop betragtet de stokastske varabel U = X µ σ/ hvor U 2 er χ 2 -fordelt med 1 frhedsgrad. For, at vurdere påldelghedstervallet ved e bestemmelse af µ ud fra stkprøveværde af varase betragter v u stedet T = X µ S/ = U σ (3.14) S Ifølge (3.12) og (3.13) er S 2 σ 2 = Y p (3.15) p hvor Y p har e χ 2 -fordelg med p = 1 frhedsgrader. Dvs. v har T 2 p = Y 1 Y p med Y 1 = U 2 (3.16) og dermed er fordelgsfuktoe G(t 2 /p) for de stokastske varabel T 2 /p bestemt, som arealet af f 1 (y 1 )f p (y p )overområdet, hvor y 1 /y p t 2 /p G(t 2 yp t 2 /p /p) = f 1 (y 1 )f p (y p )dy 1 dy p (3.17) y p = y 1 = Deftoe af fordelgsfuktoer medfører, at G(t 2 /p) =±[F t (t) F t ( t)], hvor + ( ) svarertlt postv (egatv). Dermed ka t-frekvesfuktoe, f t (t) =F t(t), bestemmes som 2f t (t) =± d(t2 /p) dg(t 2 /p) [ dt d(t 2 =(2 t /p) f1 (y /p) 1 ) ] y1=ypt 2/p y pf p (y p )dy p (3.18) og beyttes lgg (3.6) fås [ 1 f t (t) =( t /p) y 1 ] 2 1 e y 1 /2 1 y p 2π y 1 =y p t 2 /p 2 p 2 Γ( p 2 )(y p) p 2 1 e yp/2 dy p = t p π p t p+1 2 Γ( p 2 ) (y p ) p 1 2 e (1+ t2 p )y p/2 dy p hvor tegralet udreges tl [ ] p Γ( p+1 1+t 2 /p 2 ), og dermed slutresultatet (3.2) f t (t) = 1 Γ( p+1 2 ) (1+ t2 pπ Γ( p 2 ) p ) p+1 2 (3.21)

9 3. χ 2 -fordelg og Studet s t-fordelg 9 som er frekvesfuktoe tl T lgg (3.14), år p = 1. Dermed har v udledt teorem (teorem ). E ærmere aalyse af de to fordelger ka fdes som Mathematca programmer på hjemmesde. Teorem (teorem ), det såkaldte Cetral lmt theorem, fortæller at begge fordelger ærmere sg ormalfordelge, år atallet af frhedsgrader vokser. Som ævt har χ 2 -fordelge med frhedsgrader mddelværde µ = og varase σ 2 =2. Studet s t-fordelge med p frhedsgrader har mddelværde µ = (frekvesfuktoe er lge t). Varase dvergerer for p =1ogp =2. Forp 3ervaraseσ 2 = p/(p 2). Dvs. at for store p blver varase 1, som reflekterer at uskkerhede kyttet tl bestemmelse af σ ud fra s blver llle. Appedx Ehedskugles volume dmesoer, C, ka bestemmes ved at udrege tegralet I = e (x2 1 +x x2) dx 1 dx 2 dx (3.22) dels drekte, som et produkt af Gauss tegraler: e x2 dx = π I = π 2 (3.23) dels ved at udytte at fuktoe uder tegraltegee ku afhæger af de radære varabel r (x x x2 )1/2. Volumeet af e -dmesoal kugle med radus r er V (r) = r dx 1 dx 2 dx = S (r )dr = r C (3.24) og dermed dv = S (r)dr = r 1 C dr. Det betyder, at udføres alle de 1 tegratoer (3.22), der er uafhægge af r, fås I = S (r) e r2 dr = r 1 C e r2 dr (3.25) 1 = C 2 z 2 1 e z dz = 2 C Γ( 2 )=C Γ(1 + 2 ) Ved at sammeholde de to resultater for I,fås C = π 2 Γ(1 + 2 ) (3.26)

10 Supplemet 1 4. Cetral lmt teorem V skal supplere boge med ogle vgtge resultater. V vl starte med at betragte de momet-geererede fukto, som dføres 22.8 opgave 14 ( 23.5 opgave 2 og 23.6 opgave 16 19): som har egeskabe: G(t) = e tx etx f(x)dx = e tx f(x ) ( d X ) G(t) = dt t= (4.1) For de to dskrete fordelger, heholdsvs bomalfordelge (µ = p, σ 2 = pq) og Posso-fordelge, har v fra boges opgaver, at G b (t) =(pe t + q) og G P (t) =e µ e µet (4.2) For Gauss-fordelge er: G(t) = e tx = 1 σ (x µ) 2 ] 2π e[tx 2σ 2 dx hvor ekspoete ka omskrves tl og dermed, at tx (x µ)2 2σ 2 = µt σ2 t 2 (x µ σ2 t) 2 2σ 2 G(t) =e (µt+ 1 2 σ2 t 2 ) 1 σ (x µ σ 2 t) 2 2π e 2σ 2 dx Gauss-tegralet er uafhæggt af, at µ er erstattet af µ + σ 2 t, og resultatet for de momet-geererede fukto for ormalfordelge er: G(t) =e (µt+ 1 2 σ2 t 2 ) (4.3) Geerelt har v, at hvs Y er e learkombato af to uafhægge stokastske varable X 1 og X 2, Y = a 1 X 1 + a 2 X 2 så er de momet-geererede fukto for y-fordelge produktet af de to momet-geererede fuktoer G 1 (a 1 t)ogg 2 (a 2 t)forx 1 -ogx 2 -fordelgere: G y (t) = e ty = e ta 1X 1 e ta 2X 2 = e ta 1X 1 e ta 2X 2 = G 1 (a 1 t)g 2 (a 2 t) (4.4)

11 4. Cetral lmt teorem 11 Dsse to resultater, (4.3 og (4.4), ka beyttes tl at eftervse teorem (teorem ): Summe af to uafhægge stokastske varable, Y = X 1 +X 2, som begge har ormalfordelger med mddelværd µ 1, µ 2 og varas σ1 2, σ2 2 har ormalfordelge med µ = µ 1 + µ 2 og σ 2 = σ1 2 + σ2 2. Ifølge (4.4) er G y (t) =G 1 (t)g 2 (t) =e (µ 1t+ 2 1 σ2 1 t2) e (µ 2t+ 2 1 σ2 2 t2) = e [(µ 1+µ 2 )t+ 2 1 (σ2 1 +σ2 2 )t2 ] (4.5) som er de momet-geererede fukto for de agve y-fordelg. [Idskud: Frekvesfuktoe for Y = X 1 + X 2,bestemtvedvlkårlge (kotuerte) frekvesfuktoer, f 1 (x) ogf 2 (x), ka skrves som et foldgstegral: F (y) er produktet af de to frekvesfuktoer tegreret over arealet y = x 1 + x 2 y eller x 2 y x 1,dvs.: y x1 F (y) = f 1 (x 1 )f 2 (x 2 )dx 1 dx 2 = f 1 (x 1 )F 2 (y x 1 )dx 1 x 1 = x 2 = eller f(y) =F (y) = f 1 (x)f 2 (y x)dx (4.6) Foldgstegralet optræder fx år e resoaskurve, f 1 (x), udmåles med e ekspermetel uskkerhed beskrevet ved e opløsgsfukto, R(x) = f 2 (x) med µ 2 =. Atages begge fuktoer, at være (eller kue tlærmes med) Gauss-fuktoer, blver resultatet e Gauss-fukto cetreret omkrg µ 1 med varase σ1 2 + σ2 2.] V har tdlgere vst, at bomalfordelge for store værder af ka tlærmes med ormalfordelge (med µ = p og σ 2 = pq), og tlsvarede for Possofordelge (for µ 5). Resultatere (4.3) og (4.4) ka u beyttes tl at bevse de geerelle sætg the cetral lmt theorem : Atag X, =1,..., er uafhægge stokastske varable, som beskrves ved frekvesfuktoere f (x ) (der alle ka være forskellge) med mddelværd µ og varas σ 2. De stokastske varabel Y = 1 X (4.7) har følgede egeskaber: () Mddelværde er µ = Y = 1 µ () Varase er σ 2 = 1 2 σ 2 () Fordelgsfuktoe for Z = Y µ vl (asymptotsk) Φ(z) (de stadardserede ormalfordelg) for σ.

12 Supplemet 12 Bemærk, at teoremet dee udgave er mere geerelt ed læreboges verso, teorem (teorem ). Puktere () og () følger drekte af teorem 1 og ( 23.8). Pukt () ka bevses ved at udytte (4.4), geeralseret tl led med a =1/, dvs. G y (t) = G (t/) E Taylor-rækkeudvklg af G (t/) =G () + G ()(t/) G ()(t/)2 gver ærmest deftosmæssgt: ( ) t G =1+µ t (σ2 + µ 2 ) t2 2 + =exp [ µ t σ2 og dermed, at for 1: G y (t) t 2 ] ( ) O 3 [ t exp µ + 1 t 2 ] [ 1 2 σ2 2 =exp µ t ] 2 2 σ 2 t2 som etop, fl. (4.3), er de momet-geererede fukto for ormalfordelge med mddelværd µ () og varas σ 2 (). Ophobgslove ka betragtes som et korrolar tl the cetral lmt theorem. Er Y e geerel fukto af X ka v tlærmelsesvs erstatte fuktoe med et leært udtryk et område omkrg Y s mddelværd: Y = ψ(x 1,...,X ) ψ ( X 1,..., X ) + ( ) ψ X X j = X j ( X X ) Hvs de forskellge varable har e Gauss-fordelg, eller hvs der er mage forskellge bdrag (uskkerhedsberegger!), vl Y, fl. heholdsvs (4.5) og (4.7), (tlærmelsesvs) have e ormalfordelg med mddelværde Y = ψ ( X 1,..., X ) (4.8a) og varase σ 2 = ( ) ψ 2 X X j = X j σ2 (4.8b) V skal beytte ophobgslove tl at udrege varase af parametree k og k 1 bestemt ved e leær regresso: y = k + k 1 x (4.9) E stkprøve på talsæt (x,y ), atages gvet, hvor x atages bestemt ude uskkerheder (eller sarere at k 1 σ x σ y ). Maksmum lkelhood metode fører tl resultatet, at de mest sadsylge værder af de to parametre bestemmes

13 4. Cetral lmt teorem 13 ved at mmere summe af de kvadratske afvgelser (y y ) 2,hvorvhar dført y = k + k 1 x : Resultatet er, overesstemmelse med 23.9 eller 18.5 ( eller 19.5), D = x 2 ( ) 2 x x 2 k = y x x y D k 1 = x y x y D (4.1) hvor alle summer går fra = 1tl =. I e ekspermetel stuato vl stadardafvgelse af y (σ y ) ofte være ukedt, me atager v, at de er de samme for alle målepuktere (alle ) vl (y y ) 2 /σy 2 have χ2 -fordelge med 2 frhedsgrader, og dermed er σ y s(y), hvor s 2 (y) = 1 2 (y y ) 2 ; y = k + k 1 x (4.11) Beytter v ophobgslove er stkprøve-varase af k : eller xj s 2 (k )= ( ) k 2s 2 (y) = ( x 2 j x ) 2s 2 (y) y D [ = ( ) x 2 2 ( ) 2 j 2 xj x 2 j + ( ) 2 ] xj x 2 s 2 (y) j D 2 s 2 (k )= x 2 j D s2 (y) (4.12) Helt aalogt ka varase af k 1 udreges tl: s 2 (k 1 )= D s2 (y) (4.13) Dette sdste resultat svarer tl boges opskrft Tabel (Tabel 24.13): q = ( 2)s 2 (y) og( 1)s 2 x = D/ og dermed K = cs(k 1 )[s x beæves s 1 7. udgave; bemærk at s y 8. udgave kke er de samme parameter som s(y) her på sde]. Kostate c der agver de relatve lægde af kofdestervallet forhold tl stadardafvgelse, bestemmes af Studet s t-fordelg med 2 frhedsgrader. Frhedsgradere reduceres med 2 ford stkprøve beyttes tl at fastlægge 2 parametre k og k 1, aalog med at frhedsgradere reduceres med 1 ved bestemmelse af kofdestervallet for µ, år stkprøveværde af stadardafvgelse beyttes.