Mat 6 projekt Projektoplæg 22. januar 2013

Transkript

1 1 Generelt om projektet For nogle af de studerende er 6. semester det semester hvor man skal skrive bachelorprojekt. Andre har allerede skrevet bachelorprojekt i et andet fag. For dem er det et almindeligt projekt. Ifølge studieordningen er der ingen forskel på disse to typer projekt. Projektet i dette semester forløber som alle de tidligere, fra 2. semester til 5. semester. Altså gruppearbejde og udarbejdelse af en rapport, hvori der holdes eksamen. Fra foråret 2013 er der på Aalborg Universitet indført gruppeeksamen ved projekteksamen. Jeg henviser til generel mail fra administrationen til alle studerende. 1.1 Generelt om litteratur Jeg har samlet et antal referencer sidst i dokumentet, og jeg giver henvisninger undervejs. Men I kommer til at finde en del af materialet selv. De referencer jeg har angivet varierer fra helt elementære introduktioner til anvancerede forskningsmonografier. Som udgangspunkt for projektet kan I starte med at læse [7, Chapter 4]. Denne bog er absolut elementær. Men den er velskrevet og letlæst. 2 Projekt i Anvendt Matematisk Analyse Overordnet er temaet begreberne approksimation og interpolation indenfor den anvendte matematiske analyse. Det er muligt at koncentrere sig om de teoretiske aspekter, men det er også muligt at inddrage aspekter af computerstøttet beregning (scientific computing) i projektet. 2.1 Polynomial Approksimation Her er et eksempel på en problemstilling vedrørende polynomial approksimation af en kontinuert funktion på et endeligt interval. Der er givet en funktion f : [a, b] R. 1. Er det muligt at finde en følge af polynomier p n, således at p n (x) konvergerer mod f(x) for alle x [a, b] (punktvis konvergens)? 2. Er det muligt at finde en følge af polynomier p n, således at at p n (x) konvergerer mod f(x) uniformt for x [a, b]? 3. Hvis svaret på et af ovenstående spørgsmål er bekræftende, kan man så konstruere en approksimerende følge af polynomier eksplicit, d.v.s. opskrive formler for koefficienterne i polynomierne? 4. Kan man finde en algoritme til at bestemme en approksimerende følge af polynomier for enhver kontinuert reel funktion på et endeligt interval, som kan implementeres på en computer? 5. Kan man finde en mængde P af polynomier, således at P er tællelig, og således at der til enhver kontinuert funktion f : [a, b] R kan findes en approksimerende følge af polynomier fra mængden P? Der er en vigtig generel sætning, der giver et positivt svar på nogle af spørgsmålene. Vi tager < a < b < og de reelle kontinuerte funktioner på intervallet [a, b]. De betegnes Side 1 af 11

2 med C([a, b]). Dette er et vektorrum og mere generelt en algebra. Vi indfører en norm på rummet: f = sup f(x), f C([a, b]). (2.1) x [a,b] Sætning 2.1 (Weierstrass). Til enhver funktion f C([a, b]) findes en følge af polynomier {p n } n N, således at lim n f p n = 0. Denne sætning er fundamental, og er udgangspunkt for mange andre vigtige sætninger om approksimation. Konvergens i normen er ækvivalent med uniform konvergens på intervallet. En alternativ måde at formulere resultatet på er at sige, at mængden af polynomier, restringeret til intervallet [a, b] (betegnes med P([a, b])) er tætte i C([a, b]) i normen. Formuleret på denne måde findes der en vidtgående generalisation af sætningen. En af formuleringerne er følgende. Lad X være et kompakt metrisk rum (eller mere generelt et kompakt Hausdorff rum). Rummet C(X) af kontinuerte reelle eller komplekse funktioner er et Banach rum med normen f = sup f(x). x X Den sætning, der kaldes Stone-Weierstrass sætningen giver en betingelse for, at en delalgebra B C(X) er tæt i C(X). Betingelserne er forskellige for funktioner med reelle værdier og komplekse værdier. Disse sætninger og deres beviser bør indgå i projektet. Litteratur. Både Weierstrass sætning og Stone-Weierstrass sætning findes i utallige lærebøger i reel analyse og funktionalanalyse. Der findes et konstruktivt bevis for Weierstrass sætningen, der er knyttet til navnet Bernstein. Nogle referencer: [1, 2, 3, 4]. 2.2 Polynomial Interpolation Polynomial approksimation har både praktiske og teoretiske anvendelser. Udgangspunktet er N + 1 reelle talpar, (x 0, y 0 ), (x 1, y 1 ),..., (x N, y N ), med x j x k, j k, og målet er at konstruere et polynomium af grad højst N, p(x), således at p(x j ) = y j, for j = 0, 1,..., N. (2.2) Det første vi observerer er, at der højst findes ét polynomium med egenskaben (2.2). Antag at p og q er polynomier af grad højst N, som begge opfylder (2.2). Så gælder, at (p q)(x j ) = 0, j = 0, 1,..., N. Det betyder, at polynomiet p q af grad højst N har N + 1 nulpunkter. Det er derfor identisk nul. Dernæst viser vi, at der eksisterer en løsning til interpolationsproblemet (2.2). Vi definerer Lagrange polynomierne som l k (x) = N (x x j ) j=0 j k, k = 0, 1,..., N. (2.3) N (x k x j ) j=0 j k Side 2 af 11

3 Det følger umiddelbart af definitionen, at hvert enkelt polynomium l k (x) har grad N, og at der gælder { 1 for k = j, l k (x j ) = (2.4) 0 for k j. Dermed er løsningen til eksistensproblemet for interpolationsegenskaben (2.2) givet som p(x) = N y k l k (x). (2.5) k=0 Der er mange spørgsmål, som kan stilles om interpolationsproblemet og dets løsning. Nogle af dem er praktiske, og nogle af dem er teoretiske. Her er et par eksempler. 1. Antag, at vi starter med en funktion f : [a, b] R, vælger punkter x j [a, b], j = 0,... N, med x 0 = a, x j < x k, j < k, og x N = b, og y j = f(x j ) (det kaldes sampling af funktionen). Brug nu disse data til at definere det interpolerende polynomium, kaldet p N her. Er der en fejlvurdering for f(x) p N (x), x [a, b]? 2. I fortsættelse af det første spørgsmål, antag at vi vælger punkter og et interpolerende polynomium for alle N = 1, 2,.... Gælder der lim N p N (x) = f(x)? Hvis JA, under hvilke betingelser og med hvilken form for konvergens? 3. Der er også beregningsmæssige spørgsmål, som man kan stille. For eksempel, det er klart fra definitionen af Lagrange polynomierne (2.3), at hvis vi tilføjer et nyt talpar (x N+1, y N+1 ), så skal vi starte forfra med at beregne nye polynomier. Er der en mulighed for at formulere interpolationsproblemet på, således at en opdatering kan gennemføres med et minimum af nye beregninger? Svaret på det første spørgsmål er let, og er en simpel anvendelse af Rolles sætning fra Analyse 1. Antag, at f er N + 1 gange kontinuert differentiabel. Så gælder, at der til ethvert x [a, b] findes et ξ [a, b], således at f(x) p N (x) = N (x x j ) j=0 (N + 1)! f (N+1) (ξ). (2.6) Svaret på det andet spørgsmål er meget mere kompliceret. Der findes en optimal følge af polynomier, med passende valg af sampling punkter, så at man får uniform konvergens med f, hvis f blot er kontinuert. Det er de såkaldte Chebyshev polynomier. Der er også eksempler på, at man ikke får konvergens, end ikke punktvis, under visse omstændigheder. Et klassisk eksempel på ikke-konvergens skyldes Runge. Her er en version af eksemplet. Vi tager funktionen 1 f(x) =, x [ 1, 1] x2 Vi tager ækvidistante punkter til vores sampling. Det betyder for et givet N 1 tager vi x j = 1 + 2j, j = 0, 1,..., N. N + 1 Her er nogle figurer, der viser både funktion, sample punkter, og interpolerende polynomium, for forskellige værdier af N. I Figur 1 er N = 4, i Figur 2 er N = 8, og i Figur 3 er N = 16. Side 3 af 11

4 Figur 1: N=4. Grøn kurve er f(x). Blå kurve er interpolerende polynomium, og røde punkter er sample punkter Disse figurer sandsynliggør, at nær endepunkterne er der ikke konvergens. Det kan bevises stringent. Man får konvergens på en interval, der er cirka [ 0.8, 0.8], men divergens udenfor. Beviset har dybe forbindelser med kompleks funktionsteori. Chebychev løsningen på problemet bygger på at vælge følgende sample punkter x j = cos(πj/n), j = 0, 1,..., N. (2.7) Figurerne 4, 5, og 6 er for de samme værdier af N, og illustrerer at dette valg af punkter løser Runge problemet og faktisk giver uniform konvergens på intervallet [ 1, 1]. Beviset for uniform konvergens, og konstruktion af brugbare formler for Chebyshev polynomierne er interessante problemstillinger at arbejde med i projektet. Det sidste spørgsmål ovenfor har både et meget gammelt svar, der går tilbage til Newton ( divided differences ) og et meget moderne, der hedder barycentrisk Lagrange interpolation. Disse emner er tilsammen fremragende projektemner, der samtidig giver mulighed for en historisk vinkel på interpolation. Der er mange generalisationer af polynomial interpolation. En af dem tillader sammenfald af x j -værdierne. Antag for eksempel at vi har x 3 = x 4 = x 5. Så bruges de tilhørende y-værdier til at bestemme p(x 3 ) = y 3, p (x 4 ) = y 4, og p (x 5 ) = y 5. Denne variant kaldes Hermite interpolation eller Hermite-Lagrange interpolation i litteraturen. Litteratur. Generelt om interpolation, se [7]. En indgang til Runge fænomenet er [5]. I [7] er Newtons tilgang til interpolation forklaret. Den barycentriske interpolation er beskrevet i [6]. 2.3 Splines En anden tilgang til at interpolere er gennem splines. Ideen går ud på at begrænse sig til polynomier af relativt lav grad, for eksempel højst 3, for at undgå de oscillationsfænomener, Side 4 af 11

5 Figur 2: N=8. Grøn kurve er f(x). Blå kurve er interpolerende polynomium, og røde punkter er sample punkter som polynomier af høj grad kan give anledning til (Runge fænomenet). Her er en kort forklaring. Der er igen givet a = x 0 < x 1 < < x N = b Man vælger så som interpolerende funktion en funktion s der stykkevis består af polynomier af grad højst m. Det betyder, at på et delinterval [x j 1, x j ] er funktionen et polynomium af grad højst m, således at s(x j 1 ) = y j 1 og s(x j ) = y j (interpolationsegenskaben). Yderligere forlanger man, at alle afledede op til orden m 1 fra højre og venstre i de indre punkter x j, j = 1,..., N 1, skal stemme overens. Splines er også et godt projektemne, og der er mange anvendelsesorienterede problemstillinger, man kan give sig i kast med. Litteratur. Meget mere udførlig forklaring og mange eksempler findes i [7, Section 4.4]. Se også [8]. Standardreferencen til splines er [10]. Dette er en meget omfattende bog, med både de teoretiske og de praktiske aspekter af splines. 2.4 Numerisk Differentiation og Numerisk Løsning af Differentialligninger Et helt andet område hvor interpolation spiller en central rolle er i forbindelse med numerisk differentiation. De formler man kan udlede teoretisk på denne måde bruges til at udlede formler og metoder til numerisk løsning af differentialligninger. Vi starter med at se på numerisk differentiation. Det betyder, at vi kender en funktion f i punkterne x j, j = 0, 1,..., N. Ved at sætte y j = f(x j ) kan vi konstruere det interpolerende polynomium p(x). Som numerisk approksimation til f (x j ) kan vi derfor vælge at tage z j = p (x j ). Ideen er altså at interpolere, differentiere, og dernæst evaluere det differentierede polynomium i sample punkterne. Man kan bruge det til teoretisk at udlede approksimationer til de afledede udtrykt ved Side 5 af 11

6 de oprindelige værdier. En af disse metoder er endelig differens metoder. Her er punkterne valgt ækvidistant. Igen for at undgå oscillationsproblemerne med polynomier af høj grad, så vælger man lav grad og anvender i stedet metoden for hvert punkt x j og nogle tilhørende nærmeste nabo punkter. Vi ser på tilfældet hvor man vælget nærmeste punkt til højre og til venstre for det givne. Vi anvender så ovenstående idé til at udlede en approksimation til den afledede. Vi ændrer notationen lidt. Vi tager punkterne og de tilsvarende værdier x 1, x 0, x 1 y 1, y 0, y 1. Ækvidistante punkter betyder, at x j = x 0 + jh, j = 1, 0, 1, for skridtlængden h > 0. Lagrange interpolationspolynomiet er da følgende: p(x) = y 1 (x x 0 ) (x x 1 ) (x 1 x 0 ) (x 1 x 1 ) + y 0 (x x 1 ) (x x 1 ) (x 0 x 1 ) (x 0 x 1 ) + y 1 (x x 1 ) (x x 0 ) (x 1 x 1 ) (x 1 x 0 ) eller udtrykt ved brug af kun x 0 og h: p(x) = 1 y 1 (x x 0 ) (x x 0 h) y 0 (x x 0 + h) (x x 0 h) 2 h 2 h y 1 (x x 0 + h) (x x 0 ) 2 h 2 Vi differentierer med hensyn til x. Det giver p (x) = 1 y 1 (x x 0 h) + 1 y 1 (x x 0 ) y 0 (x x 0 h) 2 h 2 2 h 2 h 2 y 0 (x x 0 + h) + 1 y 1 (x x 0 ) + 1 y 1 (x x 0 + h) h 2 2 h 2 2 h 2 Endelig sætter vi x = x 0 i formlen ovenfor og får p (x 0 ) = y 1 y 1. (2.8) 2h Det er en symmetrisk første ordens numerisk afledet af vores data. Udregningerne kan føres et trin videre og give en approksimation til den anden afledede. Vi får ved at differentiere igen p (x) = y 1 2y 0 + y 1 h 2. Som forventet er den anden afledede af et anden grads polynomium lig en konstant. Dette er den mest anvendte symmetriske approksimation til den anden afledede, og er udgangspunkt for mange teoretiske og praktiske beregninger. Med udgangspunkt i disse metoder kan man gå i mange forskellige retninger. En af dem er at se på ovennævnte approksimation til den anden afledede, og bruge den til numerisk løsning af en anden ordens differentialligning. I den forbindelse er der centrale spørgsmål vedrørende konvergens og konvergenshastighed. Med andre ord, hvor meget bedre bliver approksimationen, når man gør h mindre, og er der konvergens i grænsen h 0? Ved hjælp af Taylors formel kan man vise, at for den symmetriske første ordens afledede er fejlen af størrelsesordenen h 2 og for den anden afledede h. Det er ofte for langsomt. Her Side 6 af 11

7 kan man så gå i gang med at studere mange andre approksimationsmetoder til løsning af differentialligninger. En af dem er Runge-Kutta metoderne. Et alternativ er at bruge polynomier af højere grad, som interpolerer alle punkter, og så bruge den afledede af dette ene polynomium i alle sample punkter. Hvis man selv har kontrol over valg af punkterne, og kan vælge Chebyshev punkterne, så er det en fremragende metode, der går under navnet spectral method. Til numerisk løsning af differentialligninger er det ofte en fremragende metode. Litteratur. Til emnerne i dette afsnit, og faktisk næsten alle nævnt ovenfor, er lærebøger i numerisk analyse anvendelige (for eksempel [11, 12, 13]), og for de praktiske dele også lærebøger i computerstøttet beregning (på engelsk kaldet scientific computing ). Til det sidste er [7] en letlæst introduktion. En præsentation af den spektrale metode er i [9]. Denne bog har et tilhørende websted med Matlab kode til alle eksemplerne. 3 Chebyshev interpolation og approksimation Det er muligt at koncentrere sig om Chebyshev interpolation og approksimation. Hvis man gør dette, er det vigtigt at sikre, at man har læst og forstået indholdet i næste afsnit. For dette emne gælder, at det nødvendigvis vil inkludere omfattende arbejde med Matlab. Hvis man aldrig har brugt Matlab før, så er det op ad bakke i starten. Maple er uanvendelig her. Litteratur. Der er en ny bog, som bedre end jeg kan gøre det her præsenterer emnet og en stor mængde resultater indenfor dette område. Det er [14]. De første seks kapitler kan læses her. 4 Vigtigt! I skal i forbindelse med rapportskrivning overholde reglerne for god skik vedrørende kildeangivelse etc. Hvis I er i tvivl, er det noget vi skal diskutere. Men som hovedregel er det ganske enkelt, når man først er bevidst om at der er relativt klare regler for dette. Aalborg Universitets regler vedrørende plagiat findes på følgende side: Litteratur [1] [2] W. Rudin, Principles of Mathematical Analysis, Third Edition, McGraw-Hill, [3] E. Hewitt, K. Stromberg, Real and Abstract Analysis, Springer-Verlag [4] M. Reed, B. Simon, Methods of Modern Mathematical Physics: I Functional Analysis, Revised Edition, Academic Press [5] s_phenomenon [6] J.-P. Barrut, L. N. Trefethen, Barycentric Lagrange interpolation, SIAM Review (2004) 46 (3), [7] P. R. Turner, Guide to Scientific Computing, Second Edition, CRC Press, Side 7 af 11

8 [8] [9] L. N. Trefethen, Spectral Methods in Matlab, SIAM [10] C. de Boor, A Practical Guide to Splines, Revised edition, Springer-Verlag [11] J. Stoer, R. Bulirsch, Introduction to Numerical Analysis, Third edition, Springer-Verlag [12] G. W. Stewart, Afternotes goes to Graduate School, SIAM [13] G. Dahlqvist, Å. Björck, Numerical Mathods in Scientific Computing, Volume I, SIAM [14] L. N. Trefethen, Approximation Theory and Approximation Practice, SIAM Side 8 af 11

9 Figur 3: N=16. Grøn kurve er f(x). Blå kurve er interpolerende polynomium, og røde punkter er sample punkter Side 9 af 11

10 Figur 4: N=4. Chebyshev punkter. Grøn kurve er f(x). Blå kurve er interpolerende polynomium, og røde punkter er sample punkter Figur 5: N=8. Chebyshev punkter. Grøn kurve er f(x). Blå kurve er interpolerende polynomium, og røde punkter er sample punkter Side 10 af 11

11 Figur 6: N=16. Chebyshev punkter. Grøn kurve er f(x). Blå kurve er interpolerende polynomium, og røde punkter er sample punkter Side 11 af 11