Ganganalyse. Modellering og estimation. Klaus Kähler Holst. 5. Januar 2006

Transkript

1 Ganganalyse Modellering og estimation Klaus Kähler Holst 5. Januar 2006

2 Oversigt 1 Introduktion 2 Model for ledvinkelsrotation 3 PCA 4 Perspektivering

3 Ganganalyse er studiet af hvordan et menneske bevæger sig. Introduktion

4 Introduktion Ganganalyse er studiet af hvordan et menneske bevæger sig. Motivation: Medicinske anvendelser.

5 Introduktion Ganganalyse er studiet af hvordan et menneske bevæger sig. Motivation: Medicinske anvendelser. Hjælp til diagnostisering af visse sygdomme.

6 Introduktion Ganganalyse er studiet af hvordan et menneske bevæger sig. Motivation: Medicinske anvendelser. Hjælp til diagnostisering af visse sygdomme. Har en behandling en effekt?

7 Introduktion Ganganalyse er studiet af hvordan et menneske bevæger sig. Motivation: Medicinske anvendelser. Hjælp til diagnostisering af visse sygdomme. Har en behandling en effekt? Forbedring af bevægelsesmønstre.

8 Introduktion Ganganalyse er studiet af hvordan et menneske bevæger sig. Motivation: Medicinske anvendelser. Hjælp til diagnostisering af visse sygdomme. Har en behandling en effekt? Forbedring af bevægelsesmønstre. Biometri: Identifikation og verifikation baseret på gang. En stor fordel i forhold til eksisterende biometriske metoder er, at identifikationen kan ske på lang afstand.

9 Hvad er menneskelig gang? Menneskelig gang kan ses som translationer og rotationer af forskellige led.

10 Hvad er menneskelig gang? Menneskelig gang kan ses som translationer og rotationer af forskellige led. For at beskrive vinkelrotationerne benytter vi anatomiske vinkler:

11 Vi begrænser os til at betragte bevægelse i medianplanen af hofte, knæ og ankel. For knæ- og hofteleddet taler vi om fleksion/ekstension og for ankelledet dorsifleksion/plantarfleksion.

12 Vi begrænser os til at betragte bevægelse i medianplanen af hofte, knæ og ankel. For knæ- og hofteleddet taler vi om fleksion/ekstension og for ankelledet dorsifleksion/plantarfleksion. En gangcyklus er intervallet fra venstre hæl slipper kontakten med gulvet, og til hælen igen slipper kontakt. Standfasen er perioden hvor foden har kontakt med jorden (ca. 3/5 af cyklusen) og svingfasen.

13 procent af gangcyklus Hofte vinkel procent af gangcyklus Knæ vinkel procent af gangcyklus Ankel vinkel procent af gangcyklus

14 procent af gangcyklus procent af gangcyklus procent af gangcyklus

15 Rotationsvinkler for knæ vinkel procent af gangcyklus

16 Model for ledvinkel i en gangcyklus

17 Model for ledvinkel i en gangcyklus Data fra en person for et led over en gangcyklus: y = (y 1,..., y d )

18 Model for ledvinkel i en gangcyklus Data fra en person for et led over en gangcyklus: y = (y 1,..., y d ) Målefejlen beskrives ved en additiv model y = a + ε hvor a er de sande værdier og ε er målefejlen.

19 Model for ledvinkel i en gangcyklus Data fra en person for et led over en gangcyklus: y = (y 1,..., y d ) Målefejlen beskrives ved en additiv model y = a + ε hvor a er de sande værdier og ε er målefejlen. Bemærk at a naturligt kan opfattes som observationer fra en C 2 -funktion: f.

20 Model for ledvinkel i en gangcyklus Data fra en person for et led over en gangcyklus: y = (y 1,..., y d ) Målefejlen beskrives ved en additiv model y = a + ε hvor a er de sande værdier og ε er målefejlen. Bemærk at a naturligt kan opfattes som observationer fra en C 2 -funktion: f. Metoder til at separere de sande værdier fra støjen: Lineær filtrering

21 Model for ledvinkel i en gangcyklus Data fra en person for et led over en gangcyklus: y = (y 1,..., y d ) Målefejlen beskrives ved en additiv model y = a + ε hvor a er de sande værdier og ε er målefejlen. Bemærk at a naturligt kan opfattes som observationer fra en C 2 -funktion: f. Metoder til at separere de sande værdier fra støjen: Lineær filtrering Repræsentation vha ONB

22 Model for ledvinkel i en gangcyklus Data fra en person for et led over en gangcyklus: y = (y 1,..., y d ) Målefejlen beskrives ved en additiv model y = a + ε hvor a er de sande værdier og ε er målefejlen. Bemærk at a naturligt kan opfattes som observationer fra en C 2 -funktion: f. Metoder til at separere de sande værdier fra støjen: Lineær filtrering Repræsentation vha ONB...

23 Finde ONB, (ϕ i ) i=1, så K f (t) = β k ϕ k (t), t [0, 1]. k=1

24 Finde ONB, (ϕ i ) i=1, så f (t) = Egenskaber for f K β k ϕ k (t), t [0, 1]. k=1 Approksimativt periodisk. C 2 ([0, 1]). Frekvenskomponenter i intervallet [0, 6].

25 Finde ONB, (ϕ i ) i=1, så f (t) = Egenskaber for f K β k ϕ k (t), t [0, 1]. k=1 Approksimativt periodisk. C 2 ([0, 1]). Frekvenskomponenter i intervallet [0, 6]. Oplagt kandidat: Fourierrækker. Vi kigger altså på basisen {1, cos(2πx), sin(2πx), cos(2π2x), sin(2π2x),...}.

26 Vi definerer matricen 1 cos(2πt 1 ) sin(2πt 1 ) cos(2πnt 1 ) sin(2πnt 1 ) A = cos(2πt d ) sin(2πt d ) cos(2πnt d ) sin(2πnt d ) Antagelsen er at a = Aλ

27 Vi definerer matricen 1 cos(2πt 1 ) sin(2πt 1 ) cos(2πnt 1 ) sin(2πnt 1 ) A = cos(2πt d ) sin(2πt d ) cos(2πnt d ) sin(2πnt d ) Antagelsen er at a = Aλ og λ kan estimeres ved OLS: λ = ( A t A ) 1 A t y = λ + diag( 1 d, 2 d,..., 2 d )At ε.

28 Flere individer

29 Flere individer Når vi observerer flere forskellige individer, har vi observationer y 1,..., y n som hver antages at opfylde modellen y i = Aλ i + ε i.

30 Flere individer Når vi observerer flere forskellige individer, har vi observationer y 1,..., y n som hver antages at opfylde modellen y i = Aλ i + ε i. λ i erne kan nu opfattes som stokastiske, og vi antager, at λ i erne er iid og uafhængige af målefejlene ε i.

31 Flere individer Når vi observerer flere forskellige individer, har vi observationer y 1,..., y n som hver antages at opfylde modellen y i = Aλ i + ε i. λ i erne kan nu opfattes som stokastiske, og vi antager, at λ i erne er iid og uafhængige af målefejlene ε i.vi antager at λ i (µ, Σ), ε i (0, σ 2 I).

32 Flere individer Når vi observerer flere forskellige individer, har vi observationer y 1,..., y n som hver antages at opfylde modellen y i = Aλ i + ε i. λ i erne kan nu opfattes som stokastiske, og vi antager, at λ i erne er iid og uafhængige af målefejlene ε i.vi antager at λ i (µ, Σ), ε i (0, σ 2 I). Indledende modelkontrol giver ikke anledning til at tro på at y i erne eller λ i erne følger normalfordelinger.

33 På mixed model form β: faste virkninger. u i : iid tilfældige virkninger. y i = Aβ + Au i + ε i

34 På mixed model form β: faste virkninger. u i : iid tilfældige virkninger. y i = Aβ + Au i + ε i u i (0, Σ), ε i (0, σ 2 I). (3.1) u i ε i (3.2)

35 På mixed model form β: faste virkninger. u i : iid tilfældige virkninger. y i = Aβ + Au i + ε i u i (0, Σ), ε i (0, σ 2 I). (3.1) u i ε i (3.2) V = var(y i ) = AΣA t + σ 2 I.

36 På mixed model form β: faste virkninger. u i : iid tilfældige virkninger. y i = Aβ + Au i + ε i u i (0, Σ), ε i (0, σ 2 I). (3.1) u i ε i (3.2) V = var(y i ) = AΣA t + σ 2 I. Estimation af de faste virkninger: β = 1 n ( A t A ) 1 A t y n i i=1

37 På mixed model form β: faste virkninger. u i : iid tilfældige virkninger. y i = Aβ + Au i + ε i u i (0, Σ), ε i (0, σ 2 I). (3.1) u i ε i (3.2) V = var(y i ) = AΣA t + σ 2 I. Estimation af de faste virkninger: β = 1 n ( A t A ) 1 A t y n i i=1 Assymptotisk har vi D n( β β) N (0, Σ + σ 2 (A t A) 1 ), n.

38 Estimation af varianskomponenterne For at estimere σ 2 beregnes og β i = ( A t A ) 1 A t y i e i = y i Aβ i. Vi definere estimatet σ 2 (i) = 1 d p et i e i

39 Estimation af varianskomponenterne For at estimere σ 2 beregnes og β i = ( A t A ) 1 A t y i e i = y i Aβ i. Vi definere estimatet σ 2 (i) = 1 d p et i e i n σ 2 n = 1 n i=1 σ 2 (i)

40 Variansen af y i erne estimeres ved: V n = 1 n n (y i A β)(y i A β) t i=1 som er konsistent V n P AΣA t + σ 2 I, n.

41 Variansen af y i erne estimeres ved: V n = 1 n n (y i A β)(y i A β) t i=1 som er konsistent V n P AΣA t + σ 2 I, n. Endelig kan vi estimere variansen af u i erne: som også er konsistent. Σ = ( A t A ) 1 A t ( V n σ 2 ni)a(a t A) 1

42 Variansen af y i erne estimeres ved: V n = 1 n n (y i A β)(y i A β) t i=1 som er konsistent V n P AΣA t + σ 2 I, n. Endelig kan vi estimere variansen af u i erne: Σ = ( A t A ) 1 A t ( V n σ 2 ni)a(a t A) 1 som også er konsistent. Hvis Σ ikke positiv semi-definit, kan vi projicere ned på den nærmeste symmetriske, positiv semidefinitte matrix.

43 Prediktion af de tilfældige virkninger

44 Prediktion af de tilfældige virkninger Best Predictor (BP): û (BP) i = E(u i y i )

45 Prediktion af de tilfældige virkninger Best Predictor (BP): û (BP) i = E(u i y i ) Best Linear Unbiased Predictor (BLUP): û (BLUP) i = ΣA t V 1 (y i Aβ)

46 Prediktion af de tilfældige virkninger Best Predictor (BP): û (BP) i = E(u i y i ) Best Linear Unbiased Predictor (BLUP): û (BLUP) i = ΣA t V 1 (y i Aβ) Estimated Best Linear Unbiased Predictor (EBLUP): û i = ΣA t V 1 (yi A β)

47 Prediktion af de tilfældige virkninger Best Predictor (BP): û (BP) i = E(u i y i ) Best Linear Unbiased Predictor (BLUP): û (BLUP) i = ΣA t V 1 (y i Aβ) Estimated Best Linear Unbiased Predictor (EBLUP): En pragmatisk prediktor: û i = ΣA t V 1 (yi A β) û 0 i = ( A t A ) 1 A t (y i A β) = u i + ( A t A ) 1 A t ε i 1 n n (u j + ( A t A ) 1 A t ε j ) j=1

48 10th observation of 100 vinkel u0 eblup blup y tid

49 Konklusion: De tilfældige virkninger kan med fordel predikteres ved og variansen estimeres ved û 0 i = ( A t A ) 1 A t (y i A β) Σ = 1 n 1 n i=1 û 0 i û0 i t

50 Konklusion: De tilfældige virkninger kan med fordel predikteres ved og variansen estimeres ved û 0 i = ( A t A ) 1 A t (y i A β) Σ = 1 n 1 n i=1 û 0 i û0 i t Modellen kan udvides til at tage højde for flere gangcykler for hvert individ, ved at benytte en additiv model for de tilfældige virkninger: u ij = ν i + γ ij.

51 Principalkomponentanalyse (PCA)

52 Reducering i dimension. Principalkomponentanalyse (PCA)

53 Principalkomponentanalyse (PCA) Reducering i dimension. Fortolkning af variationen i data.

54 Principalkomponentanalyse (PCA) Reducering i dimension. Fortolkning af variationen i data. Ukorrelerede koordinater.

55 Principalkomponentanalyse (PCA) Reducering i dimension. Fortolkning af variationen i data. Ukorrelerede koordinater. Tegn på at gang kan fungere som biometrisk mål.

56 Klassisk PCA

57 Klassisk PCA Lad X = (X 1,..., X n ) være stokastisk variable med værdier i R n og middelværdi 0 og kovariansmatrix var(x) = Σ X = P X σ(σ X )P t X,

58 Klassisk PCA Lad X = (X 1,..., X n ) være stokastisk variable med værdier i R n og middelværdi 0 og kovariansmatrix var(x) = Σ X = P X σ(σ X )P t X, hvor P X = ( e 1 e n ) og σ(σx ) = diag(λ 1,..., λ n ) og egenværdierne antages at være sorterede: λ 1 λ n 0.

59 Klassisk PCA Lad X = (X 1,..., X n ) være stokastisk variable med værdier i R n og middelværdi 0 og kovariansmatrix var(x) = Σ X = P X σ(σ X )P t X, hvor P X = ( e 1 e n ) og σ(σx ) = diag(λ 1,..., λ n ) og egenværdierne antages at være sorterede: λ 1 λ n 0. Definition Principalkomponenterne hørende til X er de stokastiske variable Y = ( Y 1 Y n ) t = P t X X

60 X N (0, Σ X ) P X = 1 ( ) 1 1, ( ) 4 0 σ(σ X ) =. 0 1 Dvs. at Σ X = ( ).

61 X N (0, Σ X ) P X = 1 ( ) 1 1, ( ) 4 0 σ(σ X ) =. 0 1 Dvs. at Σ X = ( ). x[,2] teoretiske principalakser empiriske principalakser x[,1]

62 Sætning (Karhunen-Loéve - diskret version) For principalkomponenterne, Y = P t XX, gælder at var(y) = σ(σ X ). tr[var(y)] = tr[var(x)] = tr(σ X ). X = P X Y.

63 Vi kan rekonstruere X vha. de første k < n egenvektorer. Vi sætter P k X = ( e 1 e k 0 0, ) og lader Y k = P k X t X. Approksimationen er så X k = P k X Y k

64 Vi kan rekonstruere X vha. de første k < n egenvektorer. Vi sætter P k X = ( e 1 e k 0 0, ) Dette er den bedste approksimation: ε(φ) n i=k+1 λ i for alle ONB, Φ. og lader Y k = P k X t X. Approksimationen er så X k = P k X Y k Sætning (Approksimation vha. PCA) Forholdet mellem den totale variation af X k og X er p k = tr[var(x k)] tr[var(x)] = k i=1 λ i n i=1 λ i og middel-kvadratfejlen er givet ved n ε(p X ) = E[(X X k ) t (X X k )] = λ i. i=k+1

65 Funktional PCA Lad (X t ) t [0,1] være stokastisk proces på baggrundsrummet (Ω, F, P), med t X t (ω) L 2 ([0, 1]). Desuden antages µ t = E X t = X t dp <, Ω V (s, t) = cov(x t, X s ) = (X t µ t )(X s µ s ) dp <, s, t [0, 1] og at V er kontinuert. Ω

66 Funktional PCA Lad (X t ) t [0,1] være stokastisk proces på baggrundsrummet (Ω, F, P), med t X t (ω) L 2 ([0, 1]). Desuden antages µ t = E X t = X t dp <, Ω V (s, t) = cov(x t, X s ) = (X t µ t )(X s µ s ) dp <, s, t [0, 1] Ω og at V er kontinuert. Autokovariansfunktionen sættes til A V f (t) = f (u)v (u, t) du, f L 2 (I ). (4.1) I

67 Funktional PCA Lad (X t ) t [0,1] være stokastisk proces på baggrundsrummet (Ω, F, P), med t X t (ω) L 2 ([0, 1]). Desuden antages µ t = E X t = X t dp <, Ω V (s, t) = cov(x t, X s ) = (X t µ t )(X s µ s ) dp <, s, t [0, 1] Ω og at V er kontinuert. Autokovariansfunktionen sættes til A V f (t) = f (u)v (u, t) du, f L 2 (I ). (4.1) I Spørgsmålet er nu om vi kan opstille resultater analogt til resultaterne vedr. PCA i det endeligt dimensionale tilfælde. Kan A V diagonaliseres?

68 Funktional PCA Lad (X t ) t [0,1] være stokastisk proces på baggrundsrummet (Ω, F, P), med t X t (ω) L 2 ([0, 1]). Desuden antages µ t = E X t = X t dp <, Ω V (s, t) = cov(x t, X s ) = (X t µ t )(X s µ s ) dp <, s, t [0, 1] Ω og at V er kontinuert. Autokovariansfunktionen sættes til A V f (t) = f (u)v (u, t) du, f L 2 (I ). (4.1) I Spørgsmålet er nu om vi kan opstille resultater analogt til resultaterne vedr. PCA i det endeligt dimensionale tilfælde. Kan A V diagonaliseres? Ja, da A V er en kompakt normal operator.

69 A V har tælleligt spektrum, der netop er lig egenværdierne. Egenværdierne er ikke-negative og egenfunktionerne er kontinuerte. Lad λ 1, λ 2,... være de positive egenværdier og e 1, e 2,... de tilhørende egenfunktioner, da er V (s, t) = λ i e i (s)e i (t) = ϕ(t)λϕ(s) t i=1

70 A V har tælleligt spektrum, der netop er lig egenværdierne. Egenværdierne er ikke-negative og egenfunktionerne er kontinuerte. Lad λ 1, λ 2,... være de positive egenværdier og e 1, e 2,... de tilhørende egenfunktioner, da er V (s, t) = λ i e i (s)e i (t) = ϕ(t)λϕ(s) t i=1 Sætning (Karhunen-Loéve) (X t ) t [0,1] har dekompositionen med som er parvist uafhængige. X t L 2 = µ t + Z i e i i=1 Z i = (X t µ t )e i (t) dt. I

71 Udglatning Lad x i (t) L 2 ([0, 1]), i = 1,..., n, være realisationer af (X t ) t [0,1], med empirisk kovariansfunktion V (s, t) = 1 n n [x i (s) µ(t)][x i (t) µ(t)] i=1 hvor µ(t) = x i (t). Under antagelse at x i erne såvel som egenfunktionerne hørende til V har en endelig fourierekspansion, da findes egenfunktionerne og egenværdierne for A V ved at finde egenvektorer og egenværdier for den empiriske kovariansmatrix for fourierkoefficienterne.

72 PCA for gang-data

73 PCA for gang-data 1. principalkomponent (63.5%) 2. principalkomponent (22.8%) vinkel tid principalkomponent (7.5%) vinkel vinkel tid 4. principalkomponent (2.4%) vinkel

74 k p k λ k

75 k p k λ k vinkel fit med pca basis alm. ols opr. data t

76 Flere samtidige led-observationer Observationer fra knæ, hofte og ankel: y k Ac k ε k y = y h = Ac h + ε h. y a Ac a ε a

77 Flere samtidige led-observationer Observationer fra knæ, hofte og ankel: y k Ac k ε k y = y h = Ac h + ε h. y a Ac a ε a Sættes på en formel hvor A 3 = A A A. y = A 3 c + ε

78 Flere samtidige led-observationer Observationer fra knæ, hofte og ankel: y k Ac k ε k y = y h = Ac h + ε h. y a Ac a ε a Sættes på en formel hvor A 3 = A A A. Koefficienterne predikteres ved y = A 3 c + ε ĉ = ( A t 3 A 3) 1 A t 3 y, og de udglattede værdier er så givet ved A 3 ĉ.

79 Flere samtidige led-observationer Observationer fra knæ, hofte og ankel: y k Ac k ε k y = y h = Ac h + ε h. y a Ac a ε a Sættes på en formel hvor A 3 = A A A. Koefficienterne predikteres ved y = A 3 c + ε ĉ = ( A t 3 A 3) 1 A t 3 y, og de udglattede værdier er så givet ved A 3 ĉ. Funktional PCA foretages nu ved almindelig flerdimensional PCA på ĉ erne. Dækningsgraden p k 97% opnås med k = 10.

80 Ankel Hofte Knæ

81 Gang som mulig biometrisk mål?

82 Gang som mulig biometrisk mål? 2. principalkomponent principalkomponent

83 Gang som mulig biometrisk mål? Principalscores for knæ,hofte,ankel vinkler 2. principalkomponent (28%) principalkomponent (41.3%)

84 Perspektivering

85 Perspektivering Opstillet model for ledvinkels-rotationer med mulighed for at arbejde med flere forskellige gangcykler og observerede led. En ikke-parametriske metode til estimation af varianskomponenterne er foreslået.

86 Perspektivering Opstillet model for ledvinkels-rotationer med mulighed for at arbejde med flere forskellige gangcykler og observerede led. En ikke-parametriske metode til estimation af varianskomponenterne er foreslået. Der er eftervist en pæn sammenhæng mellem flerdimensionale og funktional PCA. Via PCA er der opnået en stor dimensionsreduktion af data.

87 Perspektivering Opstillet model for ledvinkels-rotationer med mulighed for at arbejde med flere forskellige gangcykler og observerede led. En ikke-parametriske metode til estimation af varianskomponenterne er foreslået. Der er eftervist en pæn sammenhæng mellem flerdimensionale og funktional PCA. Via PCA er der opnået en stor dimensionsreduktion af data. Vha. PCA ser vi at gang har potentiale som biometrisk mål.

88 Perspektivering Opstillet model for ledvinkels-rotationer med mulighed for at arbejde med flere forskellige gangcykler og observerede led. En ikke-parametriske metode til estimation af varianskomponenterne er foreslået. Der er eftervist en pæn sammenhæng mellem flerdimensionale og funktional PCA. Via PCA er der opnået en stor dimensionsreduktion af data. Vha. PCA ser vi at gang har potentiale som biometrisk mål. Bud på fremtidige arbejdsområder: Ikke-balancerede data. Mere generelle modeller for målefejlen.

89 Perspektivering Opstillet model for ledvinkels-rotationer med mulighed for at arbejde med flere forskellige gangcykler og observerede led. En ikke-parametriske metode til estimation af varianskomponenterne er foreslået. Der er eftervist en pæn sammenhæng mellem flerdimensionale og funktional PCA. Via PCA er der opnået en stor dimensionsreduktion af data. Vha. PCA ser vi at gang har potentiale som biometrisk mål. Bud på fremtidige arbejdsområder: Ikke-balancerede data. Mere generelle modeller for målefejlen. Transformation af data. REML. NPMLE. Opstille en decideret teststørrelse for at afgøre om to observationer stammer fra samme individ. Diskriminantanalyse.

90 Perspektivering Opstillet model for ledvinkels-rotationer med mulighed for at arbejde med flere forskellige gangcykler og observerede led. En ikke-parametriske metode til estimation af varianskomponenterne er foreslået. Der er eftervist en pæn sammenhæng mellem flerdimensionale og funktional PCA. Via PCA er der opnået en stor dimensionsreduktion af data. Vha. PCA ser vi at gang har potentiale som biometrisk mål. Bud på fremtidige arbejdsområder: Ikke-balancerede data. Mere generelle modeller for målefejlen. Transformation af data. REML. NPMLE. Opstille en decideret teststørrelse for at afgøre om to observationer stammer fra samme individ. Diskriminantanalyse.

91 holst/speciale

92 p.36 (prediktion): û i 0 = ( A t A ) 1 A t (y i A β) = u i + ( A t A ) 1 A t ε i 1 n n (u j + ( A t A ) 1 A t ε j ) j=1

93 p.77 (prediktion): y i A β = Bν i + ε i A ( A t A ) 1 A t 1 n A ( A t A ) 1 A t 1 n n j=1 ε j n Bv j j=1 ν i ν i = ( B t B ) 1 B t ε i ( B t B ) 1 B t A ( A t A ) 1 A t 1 n ( B t B ) 1 B t A ( A t A ) 1 A t 1 n n j=1 ε j n Bv j j=1