Regressions modeller Hvad regresserer vi på og hvorfor? Anders Stockmarr Axelborg statistikgruppe 6/

Transkript

1 Regressos modeller Hvad regresserer v på og hvorfor? Aders Sockmarr Aelborg saskgruppe 6/ 0

2 Geerel Regresso Y f( ) ε f er e UKENDT fuko der beskrver relaoe mellem de uafhægge varabel og de afhægge varabel Y. V vl gere afdække hvorledes og Y er relaere (dvs. udersøge egeskaber ved f) geem aalyser af parrede observaoer ( Y )

3 Aag a f C (R) Så er Leær Regresso f ( ) 0 a ( ) hvor a f Dermed er (0) /!. f ( ) a0 a o( ) hvor o()ε(). 3

4 Leær Regresso fukoer af flere varable. ordes Taylor-udvklg: I modelermer ersaes f Med Y f( ) ε f def f ) f (0) (0) o( ) a0 a o( ( ) hvor resledde sæes l ul og hvor a 0 a er ukede dvs. de mulple regressosmodel Y αβ β k k ε. 4

5 Leær Regresso fukoer af flere varable. ordes Taylor-udvklg: I modelermer ersaes Y f( ) ε Med 5 ) ( (0) (0) (0) ) ( o f f f f. Y ε β β α

6 Leær Regresso fukoer af flere varable. ordes Taylor-udvklg: I modelermer ersaes Y f( ) ε Med Leær regressosmodel med. ordes erakoer (og kvadraske effeker; udelades ofe). 6 ) ( (0) (0) (0) ) ( o f f f f. Y ε β β α

7 Polyomel regresso af høere orde Prcp: Yøagghede o( ) mdskes l e prs af roduko af flere forklarede varable; Når yøagghede o( ) er af e sørrelsesorde så de ka korporeres resdualvarase ε er modelle lsrækkelg modellergsforsad. 7

8 Polyomel regresso af høere orde Prcp: Yøagghede o( ) mdskes l e prs af roduko af flere forklarede varable; Når yøagghede o( ) er af e sørrelsesorde så de ka korporeres resdualvarase ε er modelle lsrækkelg modellergsforsad. De ka prakss kræve mage led: Eksempel f ( ) ep( ) 8

9 Skalerg Høere ordes regresso øsker v kke; mege vaskelg a forolke og kommukere. Løsge er daa-rasformao. V asreger os e del for a fde skalaer hvor sammehæge ka beskrves med e Taylorapproksmao af lav orde; sammehæge er approksmav leær log-rasformao Bo-Co rasformao kvadrarods-raformao ec. 9

10 Ageda V vl gere ersae ukede fukoer med adre ukede som dog har e ked srukur; polyomer. Formåle er selvfølgelg som al modellerg a forekle vrkelghede så ma ka rege på de ude a begå for grove fel. Me samdg skal v også gere kue se og kommukere logkke vores approksmao så de må kke være for komplcere. Subekv kokluso: V bør approksmere med e Taylor-udvklg der er af. eller. orde oge gage 3. orde og aldrg over 4. Daa skal skaleres så dee ka lade sg gøre. 0

11 Orogoalserg Modelle Er af forme hvor v blo lader opræde som e selvsædg kovara. Dee gør de leære regressosmodel mege geerel.. Y ε β β α Y ε β α

12 Orogoalserg II I modelle Y Som v skrver α β ε T Y β ε på sædvalg vs beyer v ML/LS/PE-esmaore ˆ T β ( A A) Y hvor A er marce besåede af sølere med værdere for de ekele kovaraer. A T ( : ) A : k

13 Orogoalserg II Med ormalfordele søled er ormalfordel; Me u er hvorfor uafh. af hvss < >0. 3 ). ) ( ( ~ ˆ A A N T σ β β > < > < > < > < k k k T A A βˆ βˆ βˆ

14 Orogoalserg III Modelle T Y β ε udrykker o blo a Y på ær sø er e lear-kombao af sølere marce A. MAO: Fder v e ade måde a udrykke learkombaoer af sølere A ædrer v kke modelle. 4

15 Orogoalserg IV Øsker v sokassk uafhægge esmaer ka v derfor lave e y desg mar B således a sølere B er orogoale og således a sølere B og A udspæder de samme rum. 5

16 Orogoalserg V Dee gøres rekursv: B B A ; A < A B B > B 6

17 Orogoalserg VI Eksempel: 7 Y 0 ε β β β : 3 A A A ). ( 3 SSD SPD B B B

18 Orogoalserg VII I modelle er esmaere derfor sokassk uafhægge. Tlbageregg: 8 SSD SPD Y )) ( ( ) ( 0 ε γ γ γ ) ( ; ; 0 0 SSD SPD SSD SPD γ γ γ β γ γ β γ β

19 Orogoalserg VIII Hvlke fordele ser I?? 9

20 Regresso på ade ed polyomer Grude l a v ka bruge polyomer er a polyomere udgør e bass for C (R) udsyre med opologe for uform koverges på kompake mægder; Me ma ka foreslle sg suaoer hvor de er mere aurlg a forlage a f lhører e ade klasse ed C (R) og hvor ma derfor skal kgge på adre baser. 0

21 Regresso på ade ed polyomer Eksempel: Perodske fukoer (de-redede sæsodaa). Her udgør fukoere π h ( ) s( ) ω II hvor ω er perode e bass for e passede gruppe af fukoer; ma ka derfor modellere a la Y π α β s( ) ε ω hvor dsse susfukoer ka orogoalseres lgesom dlgere.

22 Regresso hvor de afhægge varabel er sokassk E forudsæg for a esmaere modelle T Y β ε er uafhægge er a desg-marce er e dagoal-mar. Me e ade mplc forudsæg er a er deermssk. Hvs er sokassk er sage geerel e ade.

23 Regresso hvor de afhægge varabel er sokassk II Aag a både og Y er sokasske varable med e kausal relao mellem sg gve ved a T Y β ε Her hvs gælder f.eks. a ~ N( µ σ ) er f.eks E( ) µ σ og dermed er de kke oplag a sædvalge polyomer er de forufgse ve a gå hvs ma f.eks. eresserer sg for hvad effeke af er ermer af poeser af μ. 3

24 Regresso hvor de afhægge varabel er sokassk III Samdg ka ma eressere sg for e hel ade form for orogoale; emlg om de uafhægge varable som ma regresserer på er uafhægge eller de mdse ukorrelerede. Dee er e gaske ade orogoale ed geomersk orogoale af observaoer alså orogoale R. 4

25 Regresso hvor de afhægge varabel er sokassk IV Hvs er ormere ormalfordel er fukoer f og g af ukorrelerede hvs f ( ) g( ) e / d 0 Deferer v de dre produk < f g > def f ( ) g( ) e d er dee krerum præcs orogoale L- forsad. / 5

26 Regresso hvor de afhægge varabel er sokassk V E følger af fukoer der opfylder dee er Herme polyomere He gve ved He He He He He 0 3 ( ) ; ( ) ; ( ) ( ) ( ) 3 He ; 3; ( ) ( ) He ( ). 6

27 Egeskaber ved Hermepolyomere I Herme-polyomere udgør e bass for vekorrumme { f : R R : E ( f ( ) ) < ~ N(0)} Dermed ka de flese fukoer approksmeres med summer af Herme polyomer. 7

28 Egeskaber ved Hermepolyomere II def < He Hem > He ( ) He ( ) e hvs m således a He () og He m () er ukorrelerede hvs er ormere ormal-fordel. Hvs ~ N( µ ) er E ( He ( )) µ. def [ σ ] / [ σ ] Deferes He ( ) σ He ( / σ ) er He ( ) og [ σ He m ] ( ) orogoale/ukorrelerede for m hvs er ormalfordel (0σ ). m / d 0 8

29 Egeskaber ved Hermepolyomere III Herme-polyomer er alså skræddersyede l suaoe hvor ma modellerer dyamske sysemer ude feed-back mellem uafhægge og afhægge varable. Herme polyomer har orde så Herme polyomer op l orde modellerer præcs også Taylorudvklg op l orde ( dmeso). 9

30 Herme-polyomer Hvad er eres erfarger? 30

31 Tak for opmærksomhede 3