1 Sandsynlighed Sandsynlighedsbegrebet Definitioner Diskret fordeling Betinget sandsynlighed og uafhængighed...

Transkript

1 Indhold 1 Sandsynlighed Sandsynlighedsbegrebet Definitioner Diskret fordeling Betinget sandsynlighed og uafhængighed Sandsynlighedsfordeling 5 3 Diskret fordeling Middelværdi Kontinuert fordeling Stikprøve Normalfordeling Sandsynligheder i standard normalfordelingen z-værdier i standard normalfordelingen Fordeling af en stikprøvestatistik Estimatorer Fordeling af stikprøvegennemsnit Central grænseværdisætning Sandsynlighed 1.1 Sandsynlighedsbegrebet Tænkt eksperiment Måling af ventetid i en kø, hvor vi registrerer 1, hvis denne ligger over 2 minutter og 0 ellers. Eksperimentet udføres n gange med registreringer y 1, y 2,..., y n. Eksperimentet antages at være genstand for tilfældig variation, dvs nogle gange registrer vi 1 og andre gange 0. Empirisk sandsynlighed for overskridelse: p n = n i=1 y i n. Teoretisk sandsynlighed for overskridelse: p = lim n p n. 1

2 Er p > 0.1, dvs er mere end 10% af kunderne udsat for en ventetid over 2 minutter? Statistisk inferens beskæftiger sig med sådanne spørgsmål, når vi kun har en endelig stikprøve. Aktuelt eksperiment John Kerrich, a South African mathematician, was visiting Copenhagen when World War II broke out. Two days before he was scheduled to fly to England, the Germans invaded Denmark. Kerrich spent the rest of the war interned at a camp in Jutland and to pass the time he carried out a series of experiments in probability theory. In one, he tossed a coin 10,000 times. His results are shown in the following graph. (The horizontal axis is on a log scale). 1.2 Definitioner Generelt set-up for eksperiment Udfaldsrum: Alle de mulige udfald af eksperimentet. Hændelse: En delmængde af udfaldsrummet. Vi udfører eksperimentet n gange. Lad #(A) angive hvor mange gange vi observerer hændelsen A. Empirisk sandsynlighed for hændelsen A: p n (A) = #(A) n Teoretisk sandsynlighed for hændelsen A: P (A) = lim n p n (A) 2

3 Der gælder at 0 P (A) 1. Hvis A og B er disjunkte, dvs ikke har nogle udfald til fælles, så gælder #(A og B) = 0 og #(A eller B) = #(A) + #(B) hvoraf følger P (A og B) = 0 P (A eller B) = P (A) + P (B) 1.3 Diskret fordeling Udfaldsrummet inddeles i 9 gensidigt udelukkende hændelser svarende til kombinationer af uddannelsesniveau og antalord. De empiriske sandsynligheder fremgår af tabellen. Lad A 1, A 2,..., A k være en opsplitning af udfaldsrummet i parvis disjunkte hændelser. Sandsynlighederne P (A 1 ), P (A 2 ),..., P (A k ) kaldes en diskret fordeling og opfylder k P (A i ) = 1 Example - 3 coin tosses Probability distribution for the number of heads obtained if 3 coins are tossed. 0 heads (TTT) 1 head (HTT, THT, TTH) 2 heads (HHT, HTH, THH) i=1 3

4 3 heads (HHH) There are 8 mutually exclusive and exhaustive outcomes. Assume these are equally likely - i.e. each has a probability of 1/8 Then P(no heads) = P(TTT) = 1/8 P(one head) = P(HTT or THT or TTH) = P(HTT) + P(THT) + P(TTH) = 1/8 + 1/8 + 1/8 = 3/8 Similarly for 2 or 3 heads. The probability distribution is 1.4 Betinget sandsynlighed og uafhængighed Hændelsen A={uddannelsesNiveau=høj} har sandsynlighed = 33, 3% Antag at vi observerer hændelsen B={antalOrd=(146,230]}. Det er da naturligt at ændre sandsynligheden for uddannelsesniveau=høj til #(A og B) #(B) = = 45% Vi definerer den betingede sandsynlighed af hændelsen A givet hændelsen B: P (A B) = P (A og B) P (B) 4

5 Hvis information om B ikke ændrer sandsynligheden for A tales om uafhængighed, dvs A er uafhængig af B hvis P (A B) = P (A) P (A og B) = P (A)P (B) Den sidste relation er symmetrisk i A og B, hvorfor vi også vil tale om at A og B er uafhængige hændelser. Generelt er hændelserne A 1, A 2,..., A n uafhængige hvis P (A 1 og A 2 og... og A n ) = P (A 1 )P (A 2 )... P (A n ) 2 Sandsynlighedsfordeling Fordeling Vi skal udføre et eksperiment, hvor vi foretager en kvantitativ måling Y - eksempelvis antal ord i en reklame eller ventetiden i en kø. På forhånd er der mange mulige udfald af eksperimentet, dvs Y s talværdi er behæftet med en usikkerhed, som vi kvantificerer vha af Y s sandsynlighedsfordeling P (a < Y < b), < a < b < dvs for ethvert interval angiver fordelingen sandsynligheden for en observation i dette interval. Y er diskret, hvis vi kan nummerere de mulige talværdier for Y, fex antal ord i en reklame. Y er kontinuert, hvis den kan antage alle mulige værdier i et interval, fex en måling af ventetid i en kø. 3 Diskret fordeling Diskret fordeling: Mulige værdier for Y : {y 1, y 2,..., y k } Y s fordeling: p i = P (Y = y i ), i = 1, 2,..., k Fordelingen opfylder: k i=1 p i = 1 5

6 Eksempelvis binomialfordelingen: Vi udfører et succes/fiasko eksperiment n gange med sandsynlighed p for succes. Hvis Y angiver antal successer kan det vises at P (Y = y) = ( n y ) p y (1 p) n y hvor ( ) n y = n! m heltal. y!(n y)! og m! er produktet af de første 3.1 Middelværdi Middelværdi Mulige værdier for Y : {y 1, y 2,..., y k } Y s fordeling: p i = P (Y = y i ), i = 1, 2,..., k Middelværdien af Y er givet ved µ = y 1 p 1 + y 2 p y n p n = Eksempelvis Y = number of heads i 3 møntkast: n y i p i i=1 hvor middelværdien er = 1.5 Bemærk at dette er en værdi, som ikke kan forekomme. 6

7 4 Kontinuert fordeling Kontinuert fordeling: Fordelingen karakteriseres ved den såkaldte tæthedsfunktion f Y. Arealet under grafen for tætheden mellem a og b er lig med sandsynligheden for en observation i dette interval. f Y (y) 0 for alle y. Arealet under grafen for f Y er lig med 1. Eksempelvis ligefordeling fra A til B: f(y) = { 1 B A A < y < B 0 ellers 4.1 Stikprøve Model for stikprøve/sample Vi udfører et eksperiment n gange, hvor udfaldet af det i te eksperiment svarer til måling af en stokastisk variabel Y i, hvor vi antager Eksperimenterne er uafhængige 7

8 Variablene Y 1,..., Y n har samme fordeling Histogrammer, hvor arealet af en søjle er lig den relative frekvens af observationer i det tilhørende delinterval. Ved en kontinuert stokastisk variabel Y vil histogrammerne nærme sig fordelingens tæthedsfunktion, når samplestørrelsen går mod uendelig. 5 Normalfordeling Normalfordeling Der er en hel famile af normalfordelingskurver, som er bestemt af 2 parametre: µ er middelværdien, som bestemmer hvor fordelingen er centreret. σ er standardafvigelsen, som bestemmer hvor koncentreret fordelingen er omkring middelværdien. Tæthedsfunktion: f(y; µ, σ) = 1 exp( 1 2πσ 2 2σ (y 2 µ)2 ) Når en stokastisk variabel Y har denne fordeling, så vil vi angive dette ved Y N(µ, σ). Hvis Y N(0, 1), så siges Y at være standard normalfordelt. Normalfordelingens udstrækning 8

9 Tæthed for normalfordelingen µ 3σ µ 2σ µ σ µ µ + σ µ + 2σ µ + 3σ 68% 95% 99.7% middelværdi µ og standardafvigelse σ 5.1 Sandsynligheder i standard normalfordelingen Sandsynligheder i standard normalfordelingen halesandsynlighed svarende til z værdi Arealet mellem z og z er lig med 1 2p Vi kender z. Find arealet p af det skraverede område Distributions Continuous distributions Normal distribution Normal probabilities z z 2 3 Tæthed for standard normalfordelingen Vi beregner sandsynligheder svarende til z = 1, 2, 3. For z = 1 er p = , så sandsynligheden 9

10 for observation mellem -1 og 1 er = z-værdier i standard normalfordelingen z-værdier(fraktiler) i standard normalfordelingen z værdi svarende til halesandsynlighed p Arealet mellem z og z er lig med 1 2p Vi kender p. Find z så arealet af det skraverede område er lig med p Distributions Continuous distributions Normal distribution Normal quantiles z z 2 3 Tæthed for standard normalfordelingen Vi beregner z-værdier svarende til p = 1, 2, 3,..., 15 0 / 00. For p = 5 0 / 00 er sandsynligheden for observation mellem og lig med = 99%. 6 Fordeling af en stikprøvestatistik 6.1 Estimatorer Eksempler på stikprøvestatistikker. Vi er givet en stikprøve y 1, y 2,..., y n. Stikprøve middelværdien ȳ er den mest almindelige estimator af populations middelværdi µ. Stikprøve standard afvigelsen, s, er den mest almindelige estimator af populations standard afvigelse σ. 10

11 Vi bemærker at disse statistikker er behæftet med usikkerhed, hvorfor vi er interesseret i at beskrive deres fordeling. 6.2 Fordeling af stikprøvegennemsnit Vi er givet en stikprøve y 1, y 2,..., y n fra en population med middelværdi µ og standardafvigelse σ. Stikprøvemiddelværdien har da en fordeling hvor Fordelingen har middelværdi µ. ȳ = 1 n (y 1 + y y n ) Fordelingen har standardafvigelse σȳ = σ n, hvilket også benævnes standardfejlen. Når n vokser, så nærmer fordelingen sig en normalfordeling. Dette kaldes den centrale grænseværdisætning. 6.3 Central grænseværdisætning Central grænseværdisætning De ovenstående pointer kan opsummeres således ȳ N(µ, σ n ) dvs ȳ er approksimativt normalfordelt med middelværdi µ og standardfejl σ n. Dette tillader os at gøre følgende observationer: Vi er 95% sikre på at ȳ ligger i intervallet fra µ 2 σ n til µ + 2 σ n. Vi er i praksis sikre på at ȳ ligger i intervallet fra µ 3 σ n til µ + 3 σ n. Dette er ikke brugbart, når µ er ukendt, men lad os omformulere det første udsagn til: Vi er 95% sikre på at µ ligger i intervallet fra ȳ 2 σ n til ȳ + 2 σ n, dvs vi udtaler os direkte om usikkerheden på bestemmelsen af µ. 11