Afsluttende udledes en dekompositions- og rekonstruktions-algoritme for diskrete signaler.

Transkript

1

2 Abstract Dansk: Dette bachelorprojekt indeholder en gennemgang af de grundlæggende begreber i wavelet- og Multi esolutions Analyse (MA)-teorien, heriblandt konstruktionen af wavelet-funktioner ud fra skaleringsfunktionen hørende til en MA. Derefter gennemgås nødvendige og tilstrækkelige betingelser for at en funktion ψ, hvis Fourier-transformerede ˆψ har støtte i et kompakt interval, er en ortonormal wavelet. Betingelser for konvergensen i L p ()-normen og punktvis konvergens af projektioner på wavelet- og skaleringsfunktions-baser præsenteres for funktioner f L p (). Afsluttende udledes en dekompositions- og rekonstruktions-algoritme for diskrete signaler. Der gøres rede for dens anvendelsesområder og effektivitet vha. anvendelsen af algoritmen på billeder og der gives eksempler på skaleringsfunktioner og wavelets med forskellige egenskaber og anvendelsesområder. English: This thesis contains a presentation of the basic concept of the Wavelet- and Multi esolution Analysis (MA)-theory, including construction of wavelet-functions through the scalingfunction related to a MA. Then necessary and sufficient conditions are presented for a function ψ, whose Fourier-transformed ˆψ has support on a compact interval, to be an orthonormal wavelet. esults about the convergence in the L p ()-norm and pointwise convergence are shown for projections onto scalingfunction- and wavelets-bases for functions f L p (). Finally, a decomposition- and reconstruction-algorithm for discrete signals is derived and its applications and efficiency are presented through an example, where the algorithm is applied to a picture. Examples of scalingfunctions and wavelets are presented and their properties and applications are discussed. I

3 Forord Dette bachelor-projekt giver en kort introduktion til wavelet- og MA-teorien. Der er nogle krav til læseren for at kunne følge argumentationen. Der forudsættes grundlæggende kendskab til Mål- og integral-teori Hilbertrum / indre produktrum Fourier-transformation Der bruges følgende konventioner i dette projekt: Vi bruger symbolet χm for at betegne indikatorfunktionen for mængden M. Det indre produkt for L () er defineret som f, g L () = f(x)g(x)dx f, g L () og det indre produkt for L ([ π, π)) er defineret som f, g L ([ π,π)) = π π π f(x)g(x)dx f, g L ([ π, π)) Dette projekt har sit udgangspunkt i bogen A First Course on Wavelets af E. Hernández og G. Weiss (i det følgende [HW]), som alle beviser (i modificeret form) er taget fra. God fornøjelse med læsningen. II

4 Indhold Internettets udfordringer MA - Multi esolution Analysis. Definitioner og et lemma Fra skaleringsfunktion til wavelet Fuldstændighed 4 Konvergens 5 5 DWT - Diskret Wavelet Transformation 3 5. Algoritmer Eksempler 3 6. Haar-wavelet Daubechies-wavelets Shannon-wavelet Lemarié-Meyer-wavelets Appendix Tal-eksempel - et 4x4-billede Bibliografi 36 III

5 Internettets udfordringer En af de største udfordringer for nettet, videnskaben og informationssamfundet er de enorme mængder data, der skabes, skal transporteres og lagres. Tidlige muligheder for kompression af data har siden opfindelsen af bogtrykket været mindre bogstaver på tyndere papir. Da computeren og dermed den elektroniske databehandling blev udviklet, skulle der bruges nye former for kompression. Disse nye kompressionsformer er algoritmer, dels specialtilfælde af matematiske teorier, dels udgangspunktet for udviklingen af nye teorier. Transformationer spiller en vigtig rolle i kompressionen af data, ved at afbilde funktioner og signaler på andre rum, i håb om at disse fylder mindre i rummet, f.eks. har kompakt støtte. Hvis vi betragter et signal, det kunne f.eks. være et lydsignal hvor amplituden aftastes gange pr. sekund, transformerer signalet, f.eks. ved at beregne Fourierrækken, og bagefter fjerner alle Fourier-koefficienter der er mindre end en fastlagt værdi, kan vi komprimere signalet ved at gemme de tilbageværende Fourier-koefficienter. Men Fourier-transformationen er ikke altid det bedste valg. Lad os antage at vi er seismologer og skal analysere et jordskælv. Vi har data og har brug for at vide hvilke frekvenser der optræder i skælvet på forskellige tidspunkter. Ud over at sinus-svingninger ligner udslaget af en seismograf ret dårligt, så kan vi med en almindelig Fourier-transformation kun give et globalt billede af udslagene. En metode der blev udviklet for at undgå dette problem er Short-time-Fourier-transformation, der deler signalet op i lige store stykker og analyserer dem hver for sig. En nyere metode bygger på wavelets og Multi esolution Analysis, som giver os redskaber til at studere en funktion/et signal på forskellige detalje-trin. Det skal vi se nærmere på nu. MA - Multi esolution Analysis Vi vil i dette afsnit definere en Multi esolutions Analyse (MA) og forklare hvad en skaleringsfunktion og en ortonormal wavelet er. I den sammenhæng vil vi også bevise nogle sætninger der giver os nødvendige og tilstrækkelige betingelser for at en følge af funktioner i L (), frembragt af én funktion ved translation, er ortonormale.. Definitioner og et lemma Definition.. En MA (Multi esolution Analyse) er en voksende følge {Vj}j Z af afsluttede underrum af L () der opfylder Vj Vj+ (.) f(x) V f( j x) Vj j Z (.) j Z j Z Vj = {} (.3) Vj = L () (.4) ϕ V, så {ϕ(x k) k Z} er en ortonormalbasis for V (.5) Ved at kombinere (.) og (.5) er { j ϕ( j x k) k Z} en ortonormalbasis for Vj (faktoren j er nødvendig for normaliseringen). Funktionen ϕ kaldes en skaleringsfunktion. Signalet i vores lydfiler er normalt aftastet 44. gange pr. sekund

6 Betingelserne er ikke uafhængige: F.eks. medfører (.), (.) og (.5) at underrummene Vj kun har nulelementet tilfælles. et bevis kan findes i [HW] (afsnit., sætning.6). Hvad er en ortonormal wavelet? Definition.. En ortonormal wavelet er en funktion ψ L () sådan at { j ψ( j x k) j, k Z} er en ortonormalbasis for L (). Funktionerne i { j ψ( j x k) j, k Z} frembringes af ψ ved skalering og translation. Den ortonormale basis {e ikt k Z} for L ( π, π), relateret til Fourier-transformationen, frembringes kun ved skalering. Jo større skaleringsfaktoren k er, jo større er også frekvensen. Vi vil derfor i det følgende også omtale skaleringen som frekvens. Det skal dog bemærkes at ψ ikke generelt er periodisk. Vi bemærker også at vores teori udvikles i L () og funktionerne dermed har en Fourier-transformerede der også ligger i L (). Det gør det muligt at definere vores ortonormale wavelets enten direkte eller ved deres Fourier-transformerede som vi vil gøre i sætning.5. Vi bruger i dette projekt ĝ for at betegne Fourier-transformationen for en funktion g L () som er defineret ved ĝ(t) = g(x)e ixt dx (.6) Vi introducerer en funktion m(t) der kaldes for ϕ s lavpasfilter. Der gælder nemlig ˆϕ(t) = m(t) ˆϕ(t) for n.a. t (.7) som vi skal se i lemma.6. Lad f.eks. ˆϕ have støtten (, b) så har m(t) ˆϕ(t) støtten (, b/). m er defineret ved m(t) := ak := ϕ( ake ikt x)ϕ(x + k)dx ak ligger i l, rummet af kvadratisk summable følger, da Bessels ulighed giver os at ϕ( L x)ϕ(x + k)dx ϕ( x) = () hvor sidste lighedstegn følger af at ϕ( x) er en ortonormalbasis for V. Heraf følger nu at summen, der definerer m konvergerer i L ([ π, π)), if. sætning 4. i [NY]. m(t) er π-periodisk (da e ikt er det) og opfylder følgende ligning: m(t) + m(t + π) = for n.a. t Vi vil bruge ligningen i nogle af de følgende beviser. Den følger ved at bruge det efterfølgende lemma.3 med g = ϕ. Ved så at bruge (.7) og dele summen op i lige og ulige indeks, kan man trække m udenfor summerne og bemærke at summerne er lige med, da ϕ er et ortonormalt system. Lemma.3. Lad g L (). Så er {g(x k) k Z} et ortonormalt system hvis og kun hvis for næsten alle t ĝ(t + πk) = (.8)

7 Bevis: Princippet i beviset er at vi bruger definitionen af ortonormalitet og viser at Fourier-rækken for (.8) er lige med for n.a. t. Lad g være som i lemmaet, så er det indre produkt for to funktioner g(x l) og g(x k) i det ortonormale system, hvis og kun hvis l = k. For l = : δ,k = g(x)g(x k)dx Ved nu at Fourier-transformere de to funktioner, bruge at den Fourier-transformerede for g(x k) er ĝ(t)e ikt og at Fourier-transformationen bevarer det indre produkt får vi g(x)g(x k)dx = = m Z = π ĝ(t) e ikt dt π ( m Z ĝ(t + πm) e ikt dt ĝ(t + πm) ) e ikt dt Dette er udtrykket for Fourier-koefficienterne for funktionen m Z ĝ(t+πm), som kun er for k og for k =, dvs. Fourier-rækken for summen er lige med. {χ[,π) ĝ(t + πm) e ikt }m Z er en følge af målelige funktioner og da der gælder at m Z χ[,π) ĝ(t + πm) e ikt dt = m Z [,π) ĝ(t + πm) dt = ĝ(t) L () < følger det af sætning 7. i [EH] (en modificeret form af Lebesgues majorant sætning) at summation og integration kan byttes om. Ved at vende argumentationen om, startende med (.8), hvor højresiden tolkes som Fourier-række, viser man at g er et ortonormalt system. Da vi har Vj Vj+ og Vj+ L () kan vi definere det ortogonale komplement Wj af Vj i Vj+, og da Vj er afsluttet kan vi skrive Vj+ som direkte sum: Vj+ = Vj Wj (.9) På samme måde kan Vj skrives som Vj Wj, og endelig Vj = V j k= W k for j og mere generelt Vj = VN j k=n Wk for N < j (.) Da Wk Wl = {} for k l og Wj er afsluttet kan L () skrives som direkte sum L () = Wk (.) Wj. For en funktion f L () vil vi definere projektionerne Pj og Qj af f på hhv. Vj og 3

8 Definition.4. For f L () er projektionsoperatorerne Pj og Qj på hhv. Vj og Wj givet ved Pjf = f, ϕj,k ϕj,k (.) Qjf = f, ψj,k ψj,k (.3) Det er klart at Pj og Qj er projektionsoperatorer, da de opfylder hhv. P j = Pj og Q j = Qj (er idempotente). Faktisk er Pj og Qj lineære operatorer der er selvadjungerede og har norm, dvs. de er ortonormale projektioner. Det skal vi bruge senere, da der så gælder at Pjf L p () Pj L p () f L p () = f L p ().. Fra skaleringsfunktion til wavelet Vi ønsker nu at finde en funktion ψ så {ψ(x k) k Z} er en ortonormalbasis for W. Denne funktion er tæt relateret til ϕ ved følgende sætning, dette afsnits hovedresultat: Sætning.5. Lad ϕ være en skaleringsfunktion for en MA {Vj}j Z og lad m være det tilhørende lavpas-filter. Så er en funktion ψ W en ortonormal wavelet for L () hvis og kun hvis ˆψ(t) = e it ν(t)m (t + π) ˆϕ(t), n.a. t for en π-periodisk, målelig funktion ν for hvilken der gælder ν(t) = for næsten alle t. Denne sætning vil vi bevise i resten af dette afsnit. Lad os dog først se på et standardeksempel og give en motivation for, hvorfor vi interesserer os for ψ og hvilke egenskaber vi er interesseret i. Et standard-eksempel på en MA er underrummene Vj bestående af de funktioner der er stykvis konstante på {[ j k, j (k + )) k Z}. Nedenfor er vist to eksempler på funktioner i hhv. V og V. Det er let at indse at betingelserne Vj Vj+ og f(x) Vj f(x) Vj+ er opfyldt. Betingelsen j Z V j = {} følger af at den eneste funktion der er konstant på hele og tilhører L () er nul-funktionen. At j Z V j = L () følger af konstruktionen af målelige funktioner ved brug af simple funktioner. Konstruktionen kan bl.a. findes i bogen Measure Theory [EH] af Ernst Hansen. Skaleringsfunktionen for denne MA er indikator-funktionen for intervallet [, ), ϕhaar(x) = ϕ,(x) = χ[,)(x). Det ortonormale system {ϕhaar(x k) k Z} blev først beskrevet som et ortonormalt system af Alfred Haar, dengang uden brug af MAteorien, som først blev udviklet senere. For at vi kan bevise sætning.5, har vi brug for nogle egenskaber ved W, som lettest vises ved at give en karakterisering af funktionerne der ligger i hhv. V og V. Vi har følgende lemma: Lemma.6. Lad ϕ være en skaleringsfunktion for en MA {Vj}j Z og lad m(t) = a ke ikt, med ak = x)ϕ(x + k)dx. Så er ϕ( ˆϕ(t) = ˆϕ(t)m(t) (.4) og V = {f ˆf(t) = m(t)m (t) ˆϕ(t) for en π-periodisk funktion m(t) L ([ π, π)} (.5) V = {f ˆf(t) = l(t) ˆϕ(t) for en π-periodisk funktion l(t) L ([ π, π)} (.6) 4

9 Figur : En funktion fra V (rød/mørk) og en funktion fra V (grøn/lys) fra en MA relateret til Haar-skaleringsfunktionen ϕ(x) = χ [,) (x) Bevis: Første påstand følger ved at skrive ϕ( x) = a kϕ(x + k), hvor ak er som i lemmaet. Denne omskrivning er muligt da ϕ( x) ligger i V (er skaleringsfunktion for V ), og dermed også ligger i V. ϕ( x) kan derfor skrives som en række-udvikling i basis-elementerne for V. Ved nu at Fourier-transformere begge sider, fås: ˆϕ(t) = ˆϕ(t) ake ikt = ˆϕ(t)m(t) hvor m(t) er som beskrevet i lemmaet. Der er brugt at den Fourier-transformerde for ϕ(x + k) er ˆϕ(t)e ikt og at Fourier-transformationen bevarer indre produkt, så summen konvergerer i L ([, π))-norm og dermed er ˆϕ(t) er veldefineret og ligger i L () da ˆϕ(t) L () = ˆϕ(t) L ([πk,π(k+))) = π m(t) ˆϕ(t) L ([πk,π(k+))) π m(t) L ([πk,π(k+))) ˆϕ(t) L ([πk,π(k+))) = π m(t) L ([,π)) ˆϕ(t) L ([πk,π(k+))) = m(t) L ([,π)) ˆϕ(t) L () < Dette viser første påstand. Lad nu f V. Så kan f skrives som f(x) = ckϕ( x k) for en passende følge {ck} l, hvor l er rummet af kvadratisk summable følger. Ved at Fourier-transformere f får vi: ˆf(t) = ˆϕ(t) cke ikt = m(t)m(t) ˆϕ(t) hvor m(t) = c ke ikt, som tydeligt er π-periodisk og ligger i L ([ π, π)). Alle funktioner i V kan altså skrives på den måde, som angivet i lemmaet. At alle funktioner 5

10 på den form også ligger i V ses ved at starte med en funktion ˆf(t) = m(t)m(t) ˆϕ(t) og regne baglæns. Kravet om at m(t) skal være π-periodisk og ligge i L ([, π)) er nødvendigt for at enhver funktion på formen m(t)m(t) ˆϕ(t) ligger i L (), for så er m(t)m(t) π-periodisk og der gælder m(t)m(t) ˆϕ(t) dt = π π m(t)m(t) ˆϕ(t + πk) dt m(t)m(t) dt = π m(t)m(t) L ([,π)) = π m(t)m(t) L ([,π)) π π ˆϕ(t + πk) dt π = (π) m(t)m(t) L ([,π)) < ˆϕ(t + πk) dt ˆϕ(t + πk) dt Vi har her brugt sætning.3 og Cauchy-Schwartz-uligheden og ombytning af summation og integration følger af at ˆϕ L () og vi dermed kan bruge sætning 7. i [EH]. Det viser at V består af de funktioner f hvor den Fourier-transformerede ˆf har formen m(t)m(t) ˆϕ(t) med en L ([ π, π))-, π-periodisk funktion m. Proceduren gentages for V med {ϕ(x k)} som basis-elementer. Vi vil nu finde en karakterisering af funktionerne i W. Da vi har V = V W, og vi lige har fundet en karakterisering af funktionerne i V og V, skal vi søge efter funktioner hvor den Fourier-transformerede har formen l(t) ˆϕ(t), hvor l er som beskrevet i lemma.6, og hvor det indre produkt med enhver funktion på formen m(t)m(t) ˆϕ(t) er, per definition af det ortogonale komplement. Dvs. = l(t)m(t)m(t) ˆϕ(t) dt Ved at summere over de hele tal og tilpasse integrationsgrænserne får vi = = π(k+) πk π l(t)m(t)m(t) ˆϕ(t) dt l(t + πk)m(t + 4πk)m(t + πk) ˆϕ(t + πk) dt Vi vil nu bruge at l, m og m er π-periodiske og. Da vi ved at {ϕ(x + k) k Z} er en ortonormalbais for V og dermed specielt et ortonormalt system kan vi bruge lemma.3 Kravet om at m(t) skal ligge i L ([, π)) er ækvivalent med at m(t) skal ligge i L ([ π, π) hvis m(t) er π-periodisk 6

11 med g = ϕ. Vi får så = = = = = π π π π π l(t)m(t)m(t) ˆϕ(t + πk) dt l(t)m(t)m(t)dt l(t)m(t)m(t)dt + l(t)m(t)m(t)dt + ( m(t) π π π l(t)m(t)m(t)dt l(t + π)m(t)m(t + π)dt l(t)m(t) + l(t + π)m(t + π) ) dt Da det skal gælde for alle π-periodiske funktioner m, må l(t)m(t) + l(t + π)m(t + π) = Dvs. der findes en funktion λ så ( l(t) l(t + π) ) = λ(t) ( m (t + π) m(t) ) (.7) λ må altså opfylde λ(t) = l(t) m(t + π) + π) = l(t m(t) Vi kan altså se at λ er π-periodisk og opfylder λ(t) = λ(t + π). Dermed får vi at λ må være på formen λ(t) = e it s(t) for en π-periodisk funktion s. Så får vi fra (.7) at l(t) = λ(t)m(t + π) = e it s(t)m(t + π). Vi får dermed at W er rummet af funktioner f L () hvor ˆf = l(t) ˆϕ(t) for en π-periodisk funktion og hvor l(t) = e it s(t)m(t + π). Af denne udledning for W følger også karakteriseringen for Wj ved at bruge betingelse (.) fra MA-definitionen (definition.): Lemma.7. Lad ϕ være en skaleringsfunktion for en MA {Vj}j Z og lad m være det tilhørende lavpas-filter. Så er Wj = {f ˆf( j+ t) = e it s(t)m(t + π) ˆϕ(t) for en π-periodisk funktion s L ([ π, π))} (.8) Vi er nu klar til at bevise sætning.5: Bevis for sætning.5: Vi viser først at ψ W og ψ er en ortonormal wavelet hvis ˆψ(t) = e it ν(t)m (t + π) ˆϕ(t), n.a. t og ν(t) =, hvor ν er en π-periodisk funktion. Det er klart at ψ W, da ψ(t) er på formen e it s(t)m(t + π) ˆϕ(t). Vi har lige vist (lemma.7) at alle funktioner af den form tilhører W for en π-periodisk funktion s L ([ π, π)). 7

12 Vi vil vise at ψ,k = {ψ(x k) k Z} er et ortonormalt system for W. Dertil bruger vi lemma.3 med ĝ = ˆψ, bruger ˆψ(t) = e it ν(t)m(t + π) ˆϕ(t) og at normen for både e it og ν(t) er : ˆψ(t + kπ) = ϕ( t + kπ) m( t + kπ + π) Vi deler summen op i lige og ulige indeks ved at lave et indeksskift l = k i første sum og l = k + i anden sum. Ved at bruge at m er π-periodisk, m(t) + m(t + π) = og lemma.3, viser vi at summen er og dermed at ψ,k = {ψ(x k) k Z} er et ortonormalt system: ˆψ(t + kπ) = l Z ˆϕ( t + lπ) m( t + lπ + π) + l Z ˆϕ( t + lπ + π) m( t + lπ + π) = l Z ˆϕ( t + lπ) m( t + π) + l Z ˆϕ( t + lπ + π) m( t) = m( t + π) ˆϕ( t + lπ) l Z } {{ } + m( t) ˆϕ( t + lπ + π) l Z } {{ } = m( t + π) + m( t) = Dette viser at ψ,k = {ψ(x k) k Z} er et ortonormalt system. Vi skal endnu vise at ψ,k = {ψ(x k) k Z} er en basis for W. Lad derfor g W. Så følger det af lemma.7 at g har formen ĝ(t) = s(t) ν(t) ei t ν(t)m( t + π) ˆϕ( t) med s(t) som π-periodisk funktion. Ved at indsætte ψ for e it ν(t)m( t + π) ˆϕ( gange med ν(t)ν(t) = fås t) og ĝ(t) = s(t) ν(t) ν(t)ν(t) ˆψ(t) = s(t)ν(t) ˆψ(t) Da både s og ν ligger i L ([ π, π)) følger det af Cauchy-Schwartz-uligheden at også sν ligger i L ([ π, π)) og derfor kan vi skrive s(t)ν(t) som Fourier-række: s(t)ν(t) = cke ikt 8

13 Da sν er π-periodisk gælder dette for alle t ved at bruge Fejérs sætning 3 og dermed kan vi skrive den Fourier-transformerede for ĝ som g(x) = ĝ = = ĝ(t)e ixt dt = s(t)ν(t)ψ(t)e ixt dt cke ikt ixt ˆψ(t)e dt = ikt ˆψ(t)e e ixt dt ck = ckψ(x + k) som viser at {ψ(x k) k Z} er en basis for W. Sidste sum er konvergent i L (), da {ck} ligger i l og ψ er ortonormalt og ligger i L (). På samme måde følger det for Wj med en funktion g Wj og ĝ( j+ t) på formen som i lemma.7 at { j ψ( j x k) k Z} er en basis for Wj. Og dermed følger det at { j ψ( j x k) j, k Z} er en ortonormalbasis for L () da L () = j Z W j. Vi har altså vist at ψ er et ortonormalt system og dermed en ortonormalbasis for Wj og dermed en ortonormal wavelet. Vi viser nu at alle ortonormale wavelets ψ i W har formen ˆψ(t) = e it ν(t)m(t + π) ˆϕ(t). Lemma.7 giver os at ˆψ(t) skal have denne form med ν(t) en π-periodisk funktion. Vi skal derfor kun vise at ν(t) = for næsten alle t. Vi bruger at {ψ(x k) k Z} skal opfylde (.8) i lemma.3 for at være et ortonormalts system: = ˆψ(t + kπ) = ν(t) { }} { ν(t + kπ) m( t + kπ + π) ˆϕ( t + kπ) Vi deler som før summen op i lige og ulige indeks: ( = ν(t) m( t + π) ˆϕ( t + lπ) + l Z l Z ) m( t) ˆϕ( t + lπ + π) = ν(t) m( t + π) ˆϕ( t + lπ) l Z } {{ } + m( t) ˆϕ( t + lπ + π) l Z } {{ } = ν(t) Altså er ν(t) = for n.a. t og alle ortonormale wavelets i W har formen ˆψ(t) = e it ν(t)m (t + π) ˆϕ(t) 3 Se [NY] kapitel 5, Theorem = ν(t) ( m( t + π) + m( t) )

14 3 Fuldstændighed Vi vil i dette afsnit vise at to enkle ligninger karakteriserer alle ortonormale wavelets. Sætningen er meget nyttig for at teste om en funktion er en ortonormal wavelet og gør det let at vælge en funktion der passer til den funktion eller datasæt som man vil analysere. Vi begrænser os i det følgende til wavelets ψ, hvor den Fourier-transformerede ˆψ har kompakt støtte. Lad støtten supp( ˆψ) være indeholdt i ( J π, J π). Vi vil så vise følgende sætning: Sætning 3.. Lad ψ L () hvor ˆψ har en kompakt støtte og der findes E > så ˆψ(t) = for t ( E, E). Hvis {ψ j,k j, k Z} er et ortonormalt system for L (), så er systemet fuldstændigt (ψ en ortonormal wavelet) hvis og kun hvis j Z ˆψ( j t) = for n.a. t (3.) og j= ˆψ( j t) ˆψ( j (t + qπ)) = for n.a. t, q Z + (3.) De to ligninger (3.) og (3.) kaldes for basis-ligningerne. En funktions egenskab at ˆf har støtte i en kompakt mængde kalder vi i det følgende band-limited. Vi begrænser os i det følgende til band-limited -wavelets, da vi vil bruge egenskaben for at gøre beviserne mere enkle, f.eks. i følgende lemma: Lemma 3.. Antag at f L () og at støtten for ˆf I = (a, b), hvor b a J π og I [ π, π] =. Så gælder for alle j Z (Qjf)(t) ˆ = ˆf(t) ˆψ( j t) for n.a. t I (3.3) For at kunne bevise lemmaet har vi brug for følgende sætning som vi kommer til at bruge en del gange i de følgende beviser: Sætning 3.3. Lad f L () og ψ være en ortonormal wavelet. Da gælder. f er ortogonal på Wj hvis og kun hvis ˆf(t + j+ kπ) ˆψ( j t + kπ) = for n.a. t (3.4). For projektionsoperatoren Qj gælder: (Qjf)(t) ˆ = ˆψ( j t) ˆf(t + j+ kπ) ˆψ( j t + kπ) for n.a. t (3.5) Et bevis for sætningen kan findes i [HW] afsnit 3. (sætning.7). Bevis for lemma 3.: Vi vil bruge sætning 3.3 og vise at summens elementer i punkt er for k. Vi deler argumentationen op i j J og j < J, hvor J er valgt så støtten af ˆf er indeholdt i (a, b) med b a J π og støtten af ψ er indeholdt i ( J π, J π) (vi forudsætter at der findes et J der opfylder denne betingelse).

15 j J: Antag at t I og k Z, k. Så ligger t + j+ kπ ikke i I, da vi har for hhv. k > og k < b = a + (b a) a + J π a + j+ kπ < t + j+ kπ k > a = b (b a) b J π b + j+ kπ > t + j+ kπ k < Altså er ˆf(t + j+ kπ) = for k og dermed (Qjf)(t) ˆ = ˆf(t) ˆψ( j t) for j J. j < J: Betingelsen I [ π, π] = medfører for et punkt t i støtten af ˆf at t / [ π, π], ækvivalent t > π, og dermed j t J t > J π. Ved nu at bruge antagelsen om at ψ er band-limited har vi at ˆψ( j t) = da vi lige har vist at j t ligger udenfor ( J π, J π). I det tilfælde skulle (Qjf)(t) ˆ = j ˆf(t) ˆψ( t) = for j < J if. lemmaet og der gælder da også for t + j+ kπ I at j t + kπ J t + J j+ kπ J t + j+ kπ > J π Vi har i sidste ulighed brugt at t + j+ kπ t > π. Det betyder at ˆψ(t + j+ kπ) = og dermed følger det af sætning 3.3 punkt at (Qjf)(t) ˆ =. Beviset for sætning 3. består af 3 dele: Vis at enhver ortonormal, band-limited wavelet ψ opfylder j Z ˆψ( j t) = for n.a. t Vis at hver ortonormal, band-limited wavelet opfylder j= ˆψ( j t) ˆψ( j (t + qπ)) = for n.a. t, q Z + Herunder vise at for en ortonormal, band-limited wavelet, hvor ψ er kontinuert i, er ˆψ(t) = for n.a. t i et åbent interval omkring origo. Antage ligning (3.) og (3.) og vise at ψ er en ortonormal wavelet. Vi starter med første del: Sætning 3.4. Hvis ψ er en band-limited ortonormal wavelet, så er j Z ˆψ( j t) = for n.a. t (3.6)

16 Bevis For at vise ligningen vil vi først sikre at summen konvergerer og derefter vise at den konvergerer mod. Summen j ˆψ( j t) opfylder j Z ˆψ( j ( n t)) = j Z ˆψ( j+n t) = m Z ˆψ( m t) med m = j + n. Den egenskab gør at vi kan nøjes med at vise sætningen for et vilkårligt interval der indeholder et interval af formen ( k t, k+ t) med k Z. Vi vil derfor bruge lemma 3. og vil betragte intervallet I og en funktion f som beskrevet i lemma 3., dvs. hvor den Fourier-transformerede ˆf har støtte i I = (a, b) med b a J π. Vi vil vise at M j= M ˆψ( j t) for alle M Z. Ved at anvende ligningen i lemma 3. får vi I M j= M (Qjf)(t) ˆ dt = I ˆf(t) M j= M ˆψ( j t) dt I ˆf(t) dt hvor sidste ulighed følger af at Qj er en projektionsoperator og dermed opfylder Qjf L () f L () = ˆf L () Dermed følger at M j= M ˆψ( j t) for n.a. t I. Vi viser endnu at summen konvergerer mod, ved at vise at ˆf(t) ( M j= M ˆψ( j t) ) går mod for M, og da ˆf(t) antages at være forskellig fra på en delmængde af ( I med mål større end, må M j= M ˆψ( ) j t) = M j= M ˆψ( j t) = for n.a. t I. Ved at integrere udtrykket får vi I ˆf(t) ( M j= M ˆψ( j t) ) dt = = I I ˆf(t) ˆf(t) = f(t) M j= M M j= M M j= M ˆf(t) ˆψ( j t) dt (Qjf)(t) ˆ dt (Qjf)(t) ˆ L () Da vi ved at L ()-normen for ˆf M j= M ˆ Qjf konvergerer mod for M, dvs. lim inf f(t) M (Qjf)(t) L () = (se også [HW], afsnit 3.), kan vi med Fatous j= M lemma slutte at ˆf(t) M ˆ j= M (Qjf)(t) for M for n.a. t I: = lim inf M f(t) M I lim inf ˆf(t) M j= M M j= M (Qjf)(t) ˆ L () = lim inf M (Qjf)(t) ˆ dt n.a. t I I ˆf(t) M j= M (Qjf)(t) ˆ dt

17 Før vi kan vise det næste resultat skal vi vise Sætning 3.5. Hvis ψ er en band-limited ortonormal wavelet med ˆψ kontinuert i, så er ˆψ = næsten overalt i en åben omegn af origo, dvs. der findes et E > så ˆψ(t) = for t ( E, E). Bevis: Vi bruger sætning 3.3 punkt med f = ψ da ψ = ψ, Wj for j, så ˆψ(t + j+ kπ) ˆψ( j t + kπ) = for n.a. t (3.7) Vi observerer at t + j+ kπ ikke ligger støtten af ˆψ for t supp( ˆψ), k og j J og ækvivalent t j+ kπ ikke ligger i støtten. Der gælder nemlig t j+ kπ t j+ kπ J π J+ kπ = J π( k ) J π Ligning (3.7) kan så reduceres til ˆψ(t) ˆψ( j t) = for n.a. t supp( ˆψ), j J (3.8) Vi bemærker at ligningen er trivielt opfyldt når t / supp( ˆψ), så ligningen ovenfor gælder faktisk for n.a t. Ved at lave et variabelskift t = j s ser vi at dette også gælder for j J. Altså er ˆψ( j t) = for n.a t og j J. Vi kan derfor begrænse indeks-mængden i sætning 3.4 til j < J for t supp( ˆψ): j <J ˆψ( j t) = for n.a. t Da der er højst J- led forskellig fra følger det af skuffeprincipet at der må findes et j i {j Z j < J} så ˆψ( j t). J Vi vil nu vise at ˆψ() =, for så følger der af kontinuiteten af ˆψ at der findes et E > så ˆψ(µ) ( ) µ < E J men så må for næsten alle t supp( ˆψ) gælde E j t J t da ellers summen j <J ˆψ( j t) < for en ikke-nulmængde. Dermed må der for n.a. t ( J E, J E) gælde at t / supp( ˆψ) og dermed ˆψ(t) =. At ˆψ() = følger af (3.8) ved at lade j, så får vi ˆψ(t) ˆψ() = ˆψ(t) ˆψ() = for næsten alle t. Da vi havde antaget at ˆψ er kontinuert og ˆψ ikke er nul-funktionen, findes der et t så ˆψ(t), men så må ˆψ() =. Vi vil nu vise næste del af beviset for sætning 3.: Sætning 3.6. Hvis ψ er en band-limited ortonormal wavelet med ˆψ kontinuert i, så er for ethvert ulige tal q og næsten alle t j= ˆψ( j t) ˆψ( j t + qπ) = (3.9) 3

18 Bevis: Vi bruger igen sætning 3.3 punkt med et vilkårligt f L () og isolerer k = : (Qjf)(t) ˆ = ˆψ( j t) ˆf(t) + j ˆψ( t) k ˆf(t + j+ kπ) ˆψ( j t + kπ) Fra sætning 3.5 har vi at støtten af ˆψ er indeholdt i [ J π, J π]\( J π, J π) for et passende stort J. ˆψ( j t) ˆf(t k + j+ kπ) ˆψ( j (t + kπ)) er derfor kun forskellig fra for et endeligt antal j og k. Da t + j kπ kan skrives t + p qπ, hvor p j og q ulige, kan vi omskrive til (Qjf)(t) ˆ = ˆψ( j t) ˆf(t) + ˆf(t + p+ qπ) j ˆψ( t) ˆψ( j (t + p+ kπ)) p j q ulige og ved at summe over alle j og bruge sætning 3.4 får vi ˆf(t) = = j Z (Qjf)(t) ˆ { }} { j Z ˆψ( j t) ˆf(t) + j Z p j q ulige ˆf(t + p+ qπ) ˆψ( j t) ˆψ( j (t + p+ qπ)) Vi bytter nu om på indekseringen så p Z og j p og bruger at kun et endeligt antal led er forskellig fra og vi dermed kan bytte om på summerne: ˆf(t) = ˆf(t) + q ulige p Z ˆf(t + p+ qπ) j p ˆψ( j t) ˆψ( j (t + p+ qπ)) (3.) Vi indfører hjælpefunktionen hk(t) := j= ˆψ( j t) ˆψ( j (t + kπ)) Vi sætter l = p j og får dermed = ˆf(t + p+ qπ) l ˆψ( p t) ˆψ( l ( p t + qπ)) (3.) q ulige q ulige = p Z p Z l ˆf(t + p+ qπ)h q( p t) Vi observerer nu at vi for ethvert t ( b, a) (a, b) (hvor (a, b) indeholder støtten af ˆf) kan finde et δ > så U = (t + qπ δ, t + qπ + δ) kun indeholder t + qπ som punkt der har formen t + p+ qπ, da der kun er endelig mange og de er isolerede. Vi vil nu vise at hk(t) = for næsten alle t. Det gør vi ved at vælge et arbitrært ˆf L (), da (3.) skal være opfyldt for alle f L (). Vi vælger ˆf = χu og får så for næsten alle t (t δ, t + δ) (( b, a) (a, b)) = q ulige p Z ˆf(t + p+ qπ)h q( p t) = hq(t) 4

19 da ˆf(t + p+ qπ) hvis og kun hvis p = og q = q, per definiton af U. Ved nu at udvide ( b, a) (a, b) ved at lade b og a får vi at hq(t) = for næsten alle t. Et mere generelt resultat, hvor bl.a. band-limited -kravet er fjernet, er Sætning 3.7. En funktion ψ L () med ψ L () =, er en ortonormal wavelet hvis og kun hvis (3.) og (3.) er opfyldt. Vi vil ikke bevise dette resultat her. Beviset kan findes i kapitel 7 i [HW]. Et andet vigtigt resultat, der er relateret til (3.) og (3.) er Sætning 3.8. Hvis ψ L (), så er følgende udsagn ækvivalente: ψ opfylder (3.) og (3.) (3.) f = f, ψj,k ψj,k med konvergens i L (), f L () (3.3) j Z j Z f, ψj,k = f f L () (3.4) Beviset kan ligeledes findes i kapitel 7 i [HW]. Sætningen er særlig interessant da den giver os et redskab til at teste nye funktioner fra L () på deres evne til at repræsentere funktioner i L (). Hvis denne funktion opfylder (3.) og vi kan normalisere funktionen giver sætning 3.7 os at vi har fundet en ortonormal wavelet. 4 Konvergens Vi vil nu se nærmere på konvergensen af rækkeudviklingen f(x) = f, ψj,k ψj,k(x) (4.) j Z for en funktion f L p (). Vi vil kalde denne rækkeudvikling for Wavelet-udviklingen. Funktionen ψ er en ortonormal wavelet der er frembragt af en funktion ϕ, som er skaleringsfunktionen for en MA. Det kunne f.eks. være ved brug af sætning.5. Ovenstående udvikling kan også skrives som f(x) = j Z Qjf Qj havde vi defineret i definition.4. Da Vj+ = Vj Wj Wj = Vj+ Vj kan Qj også skrives som Qj = Pj+ Pj. Det kan vi så bruge til at skrive wavelet-udviklingen som f(x) = lim N N j= N Pj+f Pjf = lim P Nf P Nf = lim P Nf N N 5

20 ved at bruge at {Vj}j Z er en voksende følge og kun har nulfunktionen tilfælles, så limn P Nf = for enhver funktion f L p (). Vi vil i dette afsnit vise at limn PNf konvergerer mod f i L p ()-norm for p og punktvis. Vi introducerer en klasse af funktioner (betegnet med W ) som på engelsk hedder radial decreasing L -majorants for en funktion g når g(x) W ( x ) og W opfylder W L ([, )) (4.) W er aftagende (4.3) W () < (4.4) Funktionen er overalt begrænset af de sidste to egenskaber. Ordet radial antyder at denne klasse af majoranter er en restriktion til [, ) af funktioner Wn defineret på n. Det kunne f.eks. være med polære koordinater (θ, r). Så er W en funktion af θ og r og aftager med voksende r. Figuren herunder illustrerer princippet med W(θ, r) = e r. Vi skal endnu definere Lebesgue-mængden for en funktion f: Definition 4.. Lad f være en målelig funktion der er lokal integrabel 4, så er Lebesguemængden for f, mængden bestående af Lebesgue-punkter x for hvilke der gælder lim δ + δ x+δ x δ f(x) f(x) dx = (4.5) Vi vil gerne vise at Pjf(x) konvergerer punktvis mod f(x) for næsten alle x. Det følger som korollar af følgende mere generelle sætning. Sætning 4.. Lad {Tj j Z} være en familie af operatorer defineret ved Tjf(x) = j K( j x, j y) (f(y) f(x)) dy (4.6) hvor K(x, y) CW ( x y af W. Vi har så for f L p (), p ), W er en radial decreasing L -majorant og C kun afhænger lim T jf(x) = (4.7) j for alle x i Lebesgue-mængden af f. 4 En definition kan findes i [EH], definition 7. 6

21 Som det kan ses af sætningen er den ikke begrænset til funktioner i L () men mere generelt for funktioner i L p for p. Vi skal derfor starte med at se på konvergensen af wavelet-udviklingen for funktioner f L p () f = j Z f, ψj,k ψj,k (4.8) Vi starter med at vise følgende lemma for radial decreasing L -majoranter : Lemma 4.3. For radial decreasing L -majoranter gælder ( ) x y W ( x k )W ( y k ) CW x, y (4.9) Bevis: For at vise uligheden bruger vi trekantsuligheden for at bemærke at x y x k + y k og dermed må enten x k x y eller y k x y. Altså må, da W er aftagende, W ( x k ) W ( x y ) eller W ( y k ) W ( x y ) og dermed W ( x k )W ( y k ) W ( x k )W ( x y ) + ( = W ( x y ) ( W ( x y ) W ( W ( x k ) + W ( y k ) W ( k ) ) } {{ } C x y )W ( y k ) ) = CW ( x y ) hvor C kun afhænger af W og summen som definerer C konvergerer, da W L ([, )) 5. Vi omskriver operatoren Pj: (Pjf)(x) = ϕj,k ϕj,k f, = f(y) j ϕ( j y + k)dy j ϕ( j x + k) Vi antager at ϕ og ψ har radial decreasing L -majoranter og dermed sikrer lemma 4.3 os konvergensen af summerne og godtgører dermed for at vi kan bytte om på summation og integration, så vi får (Pjf)(x) = j f(y) ϕ( j x + k)ϕ( j y + k)dy = j f(y)kϕ( j x, j y)dy 5 jf. [TL], sætning..3 Integraltesten. Brug at W er symmetrisk og begrænset i 7

22 hvor Kϕ(x, y) = ϕ(x + k)ϕ(y + k). På samme måde kan vi omskrive Qj: (Qjf)(x) = j f(y)kψ( j x, j y)dy med Kψ(x, y) = ψ(x + k)ψ(y + k). Vi har brug for et lemma mere for at kunne bevise den første konvergens-sætning for L p -rum med p. Vi havde i afsnit formuleret sætning 4.5, som medfører at ˆϕ() = for en skaleringsfunktion ϕ. Vi vil i resten af afsnittet antage at ˆϕ() =, svarende til at vi ganger en konstant e iθ på ϕ, med et passende θ. Den antagelse sikrer at følgende gælder: Lemma 4.4. Antag at skaleringsfunktionen ϕ har en radial decreasing L -majorant og opfylder ˆϕ() =. Så gælder for næsten alle x og j Z ϕ(x + k) = (4.) j Kϕ( j x, j y)dy = (4.) I beviset for lemmaet vil vi bruge følgende sætning uden bevis: Sætning 4.5. Lad {Vj}j Z være en følge af afsluttede underrum af L () som opfylder (.), (.) og (.5) fra definition. og hvor ϕ er kontinuert i. Så er følgende to udsagn ækvivalente. ˆϕ(). (.4) er opfyldt Når et af udsagnene er opfyldt er ˆϕ() =. Bevis for lemma 4.4: Lad A(x) = k ϕ(x + k) A(x) er -periodisk. For at vise at k ϕ(x + k) = for n.a. x vil vi vise at Fourier-koefficienterne kun er forskellig fra for præcis ét indeks-element. Vi beregner Fourier-koefficienterne for A(x): A(x)e πixl dx = = k k = k k = ˆϕ(πl) k+ ϕ(x + k)e πixl dx ϕ(x + k)e πixl dx ϕ(x)e πixl dx Ombytningen er tilladt, da ϕ har en L -majorant og dermed er Vi vil nu inddrage et resultat fra [HW] kapitel : ϕ(x + k) <. 8

23 Sætning 4.6. Hvis ϕ er en skaleringsfunktion for en MA og ϕ er kontinuert, så er ˆϕ(kπ) = k Z\{} [..] Af sætningen følger nu det ønskede resultat idet ˆϕ = for l og for l = har vi fra sætning 4.5 punkt at ˆϕ() da ϕ er en skaleringsfunktion for en MA, så der gælder ˆϕ() =. Specielt havde vi antaget at ˆϕ() =. Fourierrækken for A(x) har altså kun et led, nemlig konstantledet, som er lige med ˆϕ() =. Anden del følger ved at omskrive første del: = ˆϕ() = = { }} { k ϕ( j x k) = k ϕ( j x k) = ϕ(v)e dv j Kϕ( j x, j y)dy ϕ(v)dv j ϕ( j y k)dy hvor vi har brugt at integrationen over er translations-invariant ( f(x)dx = f(x + k)dx ) og vi har substitueret v = j y. Summation og integration kunne byttes om, da summen konvergerer, som vi havde vist i første del. Vi vil i resten af dette afsnit antage at ˆϕ() = uden at nævne det eksplicit. Nu skal vi vise vores første hovedresultat Sætning 4.7. For operatorerne Tj defineret i (4.6) gælder: lim jf L j p () = f L p (), p < (4.) lim jf = j f begrænset, uniform kontinuert (4.3) Bevis: Vi husker på at operatoren Tj er defineret som Tjf(x) = j K( j x, j y) (f(y) f(x)) dy og vi husker på at K(x, y) CW ( x y ) for en passende radial decreasing L -majorant W. Vi har så for en funktion f L p () Tjf j W ( j x y ) f(y) f(x) dy (4.4) = C j W ( j t ) f(x t) f(x) dt (4.5) 9

24 Ved at bruge har vi Tjf L p () = ( = C (C p f L p () = ) Tjf p p ( jp W ( j t ) p j W ( j t ) ( ) f p p f(x t) f(x) p dxdt f(x t) f(x) p dx ) p ) p dt (4.6) hvor vi har brugt et korollar af Tonelli s sætning for at bytte om på integrationsrækkefølgen (alle involverede funktioner er M + -funktioner). Ved at substituere s = j t får vi C = C j W ( j t ) W ( s ) ( ( f(x t) f(x) p dx ) f(x j s) f(x) p dx p dt ) p ds (4.7) Ved nu at anvende Lebesgues majorant sætning med CW ( s ) f L p () som majorant, følger det at limj Tjf L p () =. For (4.3) har vi per definition af uniform kontinuitet at w (t) := sup x f(x t) f(x) for t Ved at indsætte w (t) i stedet for ( f(x t) f(x) p dx ) p i (4.6) og gennemfører samme substitution som i (4.7) får vi også at limj Tjf =. Af sætningen følger som korollar: Korollar 4.8. Antag at ϕ har en radial decreasing L -majorant og er en skaleringsfunktion for en MA. Så er lim jf f L j p () = f L p (), p < (4.8) lim jf f = j f begrænset, uniform kontinuert (4.9) Bevis: Da vi har (Pjf)(x) = j Kϕ( j x, j y)f(y)dy er (Tjf)(x) = (Pjf)(x) f(x) og dermed følger korollaret direkte af sætning : Vi vil nu vende tilbage til den punktvise konvergens af operatoren Tj og bevise sætning

25 Bevis for sætning 4.: Vi tager igen (som i beviset for sætning 4.7) udgangspunkt i uligheden Tjf C j W ( j t ) f(x t) f(x) dt Vi skal bruge at rw (r) r x r W ( x )dx for r (se illustration nedenfor) Per definition af f s Lebesgue-mængden Lf findes der for ethvert x Lf et δ > så f(x t) f(x) dt δ < r η (4.) r t r for et passende lille η. Vi deler beviset op i to dele: C T jf(x) j W ( j t ) f(x t) f(x) dt t <η } {{ } I + j W ( j t ) f(x t) f(x) dt t η } {{ } I Vi vil først finde et estimat der går mod for j for første integral. Dertil integrerer vi I partielt: η I = j W ( j r) f(x r) f(x) dr ( r ) ] η = [ j+ f(x s) f(x) ds W ( j r) r= η ( r ) f(x s) f(x) ds j j W ( j r)dr [ j+ rδw ( j r) ] ( jη j r η f(x s) f(x) ds r= Cδ j η j rδ j W ( r)dr ) j W ( r)dr hvor vi har brugt estimatet r f(x s) f(x) ds rδ for < r η og at W ( r) (ikke-positiviteten af W er en konsekvens af at W er aftagende). For at estimere j η j rδ j W ( j η rw ( r)dr = j+ ηw ( j η) + r)dr yderligere, integrerer vi igen partielt: = j+ ηw ( j η) + 4 j η j η W ( r)dr W (s)ds

26 Når vi nu lader j går første led mod, da W (r) for r, og andet led går mod 4 W L ([, )). Vi har så det af j uafhængige estimat I Cδ + 4 W L ([, )) For at vurdere I, bruger vi trekantsuligheden og Hölders ulighed med de duale eksponenter 6 p, q > I = t η j W ( j t ) f(x t) f(x) dt j W ( j t ) f(x t) dt + t η ( ) j W ( j t ) q dt } t η {{ } I q t η f L p () + f(x) j W ( j t ) f(x) dt j W ( j t ) dt t η } {{ } I Vi har at I = W ( s )ds s j η og dermed for j I For integralet I har vi, ved at bruge f q p f = f q, følgende estimat I = = ( ( t η t η sup t η j W ( j t ) q p j W ( j t ) dt ( sup t η j W ( j t ) = C ( ) q W L ([, )) j W ( j t ) ) p ( ( sup t η ) q p t η ) j W ( j t ) dt q j W ( j t ) j W ( j t ) ) p ) q q Da vi med rw (r) for r og at W er aftagende har at sup t η j W ( j t ) = j W ( j η) j hvor W aftagende blev brugt idet W (η) så er den største værdi i mængden {W ( t ) t η}. Vi kan derfor konkludere at I går mod for j og samlet har vi det ønskede resultat lim T jf(x) = x Lf j hvor Lf betegner f s Lebesgue-mængde. 6 Definition: Duale eksponenter kaldes et tal-par p, q så p + q =

27 Vi har igen, som for konvergensen i L p () følgende korollar for Pj: Korollar 4.9. Lad ϕ være en skaleringsfunktion for en MA og have en radial decreasing L -majorant. Hvis f L p (), p, så er lim jf(x) = f(x) j for alle x i f s Lebesgue-mængde (4.) dvs. for n.a. x. 5 DWT - Diskret Wavelet Transformation Vi har nu fundet en metode til at bestemme en funktion ψ, ud fra en skaleringsfunktion, knyttet til en MA (sætning.5). Og vi har fundet to ligninger der karakteriserer alle de funktioner der enten er ortonormale, fuldstændige systemer (sætning 3. og 3.7) eller i det mindste kan række-udvikle (wavelet-udvikle) en funktion og bevare funktionens L -norm (sætning 3.8). Med denne teoretiske baggrund vil vi nu rette blikket mod vores udgangspunkt, at bruge wavelet-udviklingen for at reducere og analysere data. Vi skal derfor udlede en algoritme der kan dekomponere og genskabe et diskret signal ved at bruge filter-koefficienterne ak, som er relateret til en MA-skaleringsfunktion ϕ og dens lavpasfilter m. De signaler der kodes i billeder, lydfiler og andre måledata stammer for det meste fra en kilde der leverer et kontinuert signal. Analogt radiosignal transmitteres bl.a. ved at modulere frekvensen, dvs. frekvensen for en radiostation er ikke konstant. Når vi i København indstiller radioen på D P3 sætter vi den på frekvensen 93,9 MHz FM 7. FM står for frekvens-moduleret 8 (en: frequency-modulated ). Frekvensen bevæger sig trods alt i et afgrænset spektrum 9. Hvor ofte et signal skal måles for entydigt at kunne genskabes fortæller følgende sætning, der hedder Shannon Sampling Theorem, opkaldt efter Claude Shannon (96-) : Sætning 5.. Lad f L () og lad ˆf have støtte i ( Bπ, Bπ). Så kan f skrives som f(x) = f( k B k)) )sin(π(bx π(bx k) (5.) og summen konvergerer i L ()-norm Bemærkning : Vi forudsætter her at ˆf har støtte i det åbne interval ( Bπ, Bπ). Andre steder, bl.a. i [HW] er sætningen defineret med et lukket interval [ Bπ, Bπ]. Der er dog et problem når ˆf antager værdierne forskellig fra i Bπ eller Bπ, som der kan ses på følgende figur, hvor f er rene sinus-svingninger med frekvensen Bπ, men med forskellig amplitude og fase I kontrast til AM (en: amplitude-modulated ) 9 Variationen i frekvensen plejer at ligge på ca. khz 3

28 Figur : Original beskrivelse: This shows three different sinusoids all at precisely the Nyquist frequency (or critical frequency) and how the samples do not provide enough information to differentiate between them. Kilde: Bevis: Vi finder først Fourier-rækken for ˆf på intervallet ( Bπ, Bπ): ˆf(t) = c ke ikb t hvor c k er Fourier-koefficienter for ˆf: c k = πb Bπ Bπ ˆf(t)e ikb t dt Vi vil nu udtrykke ˆf ved f, ved at bruge formlen for den inverse Fourier-transformation ixt f(x) = ˆf(t)e dt og demed får vi for ˆf s Fourier-koefficienter c k = ( ) ikb ˆf(t)e t dt πb = πb f(kb ) Ved nu at bruge Fourier-rækken for ˆf i den inverse Fourier-transformation, får vi ixt f(x) = ˆf(t)e dt ( ) = c ke ib kt e ixt dt = = πb f( k kt+ixtdt B )e ib f( k ) B k)dt πb eit(x B Stamfunktionen for e it(x B k) er s [ e it(x B k) dt = k) i(x B k) eit(x B ] s = k) i(x B k) eis(x B i(x B k) 4

29 og ved at huske på at supp( ˆf) ( Bπ, Bπ) kan vi nøjes med at integrere på dette interval. Dermed kommer vi frem til den ønskede formel for f. f(x) = = = f( k ) B πb f( k ) B πb Bπ Bπ f( k ) B π(bx k) e it(x B k) dt (x B k) ( e ibπ(x B k) e ibπ(x B k) sin(π(bx k)) i ) = f( k B k)) )sin(π(bx π(bx k) Bemærk at vi, når vi betragter et udsnit af en funktion, f.eks. når vi analyserer et lydsignal stykvis, indføjer en diskontinuitet og dermed har den Fourier-transformerede af signalet ikke længere støtte på et begrænset interval. Det gør anvendelsen af sætningen meget vanskeligt i praksis, men fejlen, der laves ved at anvende et bånd-filter, der, teoretisk, fjerner alle frekvenser over og under en fastlagt værdi, er ofte lille nok til at kunne se bort fra problemet ved at bruge ( Bπ, Bπ) eller et større interval som støtte for supp( ˆf). En anden udgave af sætningen, mest brugt i de anvendte fag, hvor der ikke findes negative frekvenser, kræver at signalet aftastes med det dobbelte af den højeste frekvens. For et radio-signal, med en frekvens på khz skulle man altså tage mere end B =. målinger pr. sekund for at kunne genskabe signalet fuldstændigt. På samme måde kan vi også bestemme hvilke frekvenser en lydfil kan repræsentere. Et almindeligt lydsignal har en sampling rate på 44. Hz, svarende til at kunne indeholde lydsignaler på op til en frekvens på.5 Hz, som ligger lidt over den frekvens som mennesket kan høre. 5. Algoritmer For at bruge wavelet-teorien i praksis skal vi give en algoritme for at transformere et signal. Hvis signalet er kontinuert bruger vi sætning 5. Shannon Sampling Theorem for at få et diskret signal. Vi skal nu finde en måde at fortolke de diskrete værdier i en MA-sammenhæng, dvs. hvordan kan vi forene den teori vi har udviklet for funktioner på med diskrete signaler? Vi husker på at wavelet-udviklingen for en funktion f er f = j Z f, ψj,k ψj,k Hvis f nu aftastes B gange per sekund, hvor B er et naturligt tal større end den frekvens der kræves af sætning 5., kan vi tolke målepunkterne som koefficienterne f, ϕb,k og antage at f ligger i VB, hvor VB hører til en MA med skaleringsfunktion ϕ. Vi betragter så f = PBf = f, ϕb,k ϕb,k 5

30 For signaler af endelig længde, indekseret fra til N, som er tilfældet i praksis er der ingen konvergensproblemer, idet vi sætter f, ϕb,k = for k,..., N. Men vi har allerede mødt et eksempel på en wavelet-udvikling der er konvergent for et uendeligt signal, nemlig i sætning 5., med ϕj,k = sinc(π(jx k)), hvor vi kræver at følgen {f(b k)} ligger i l, rummet af kvadratisk summable følger og hvor sinc(x) er funktionen sinc(x) = { sin(x) for x x for x = (5.) Vi betegner målepunkterne med cj,k = f, ϕj,k (5.3) Det indre produkt af f med waveletfunktionerne ψj,k betegner vi dj,k = f, ψj,k (5.4) og bruger betegnelsen cj og dj for at betegne hhv. {cj,k k Z} og {dj,k k Z} og kræver at begge følger ligger i l. Vi vil nu udlede algortimen for at beregne cj,k = f, ϕj,k og dj,k = f, ψj,k ud fra elementerne cj,k = f, ϕj,k. Svarende til at skrive f som f = f, ϕb,k ϕb,k = f, ϕb,k ϕb,k + f, ψb,k ψb,k som er muligt da f VB, som er et Hilbertrum, og da VB er et afsluttet underrum med ortogonalt komplement WB, gælder for alle elementer i VB at de kan skrives som sum af VB og WB (jf. [NY], sætning 4.4). Vi husker på at ϕ( x) er indeholdt i underrummet V og dermed kan udtrykkes i dette rums basis {ϕ,k}: ϕ( x) = akϕ(x k) hvor ak er det indre produkt ϕ( ak = x), ϕ(x k) : ϕ( x)ϕ(x k)dx Den generelle form for rækkeudviklingen af ϕj,k i basen {ϕj,k j, k Z} er så ϕj,k(x) = j ϕ( j x k) = j+ = j+ l Z ϕ( (j x k)) akϕ(( j x k) l) = l Z alϕj,k l Samme resultat gælder også for ψ da også ψj,k er indeholdt i Vj: ψj,k(x) = l Z blϕj,k l 6

31 hvor bl = ψ( x)ϕ(x l)dx Med disse resultater får vi cj,k = f, ϕj,k = f, l Z = al f, ϕj,k l = l Z l Z alϕj,k l alcj,k l Tilsvarende for dj,k: dj,k = f, ψj,k = f, l Z = bl f, ϕj,k l = l Z l Z blϕj,k l blcj,k l Vi kan dermed dekomponere signalet i Vj (f.eks. V) i en projektion på Vj og Wj. Proceduren kan så fortsættes for signalet i Vj. Fra formlerne for cj,k og dj,k bemærker vi at kun ca. halvt så mange koefficienter er forskellig fra i forhold til cj,k. Det gælder dog kun for filtre af endelig længde, dvs. al og bl er kun forskellig fra for endelig mange l Z. Fra sætning 5. har vi så at frekvensbåndet for cj -koefficienterne er halvt så bredt som for cj-koefficienterne. Algoritmen kan også beskrives som en konvolution af rækkerne {al}l Z og {cj,l}l Z med en efterfølgende lavpas-filtrering ved at fjerne hvert andet element (de ulige-indekserede elementer). Vi vender nu blikket mod en algoritme der genskaber signalet i Vj ud fra signalerne i Vj og Wj. Algoritmen er ligetil: Da Vj = Vj Wj og Vj og Wj er afsluttede bruger vi igen at et element i Vj kan skrives som sum af et element i Vj og Wj. Udtrykt i projektionsoperatorerne Pj og Qj betyder det at Pjf = Pj f + Qj f og Pjf = f, ϕ j,k ϕj,k. Vi har dermed Pjf = cj,kϕj,k = Pj f + Qj f = cj,kϕj,k + dj,kψj,k Ved nu at erstatte ϕj,k med rækkeudviklingen i ϕj,k, som vi havde fundet tidligere og tilsvarende for ψj,k får vi Pjf = ( ) cj,k alϕj,k l + ( ) dj,k blϕj,k l l Z l Z ved nu at gennemføre et variabel-skift m = k l l = k m og bytter om på summerne kommer vi frem til ( ) Pjf = m Z cj,kak m + dj,kbk l } {{ } cj,m ϕj,m Vi sammenfatter resultaterne i en sætning: 7

32 Sætning 5.. Lad f Vj, hvor Vj er et element i en MA med skaleringsfunktion ϕ og tilhørende wavelet ψ. Følgen {cj,k} bestående af koefficienterne cj,k = f, ϕj,k kan dekomponeres i to følger bestående af koefficienter cj,k = f, ϕj,k og dj,k = f, ψj,k, tilhørende f s projektion på hhv. Vj og Wj. Koefficienterne beregnes ved cj,k = l Z alcj,k l dj,k = l Z blcj,k l (5.5) hvor al = ϕ( x)ϕ(x l)dx (5.6) og bl = ( ) n+ a l. Omvendt kan koefficienterne cj,m beregnes ved cj,m = cj,kak m + dj,kbk m (5.7) Bevis: Vi havde allerede udledt formlerne for cj,k, dj,k og cj,m. Der er kun tilbage at vise bl = ( ) n+ a l. Af ligningen ψ( x) = bkϕ(x + k) følger ved at Fourier-transformere at ˆψ(t) = bk ˆϕ(t)e ikt = m(t) ˆϕ(t) hvor m(t) = b ke ikt (analogt til definitionen af m(t)). Fra sætning.5 får vi så med ν(t) = at m(t) = e it m(t + π) Dermed får vi bke ikt = m(t) = e it m(t + π) = e it ake ik(t+π) = ake it( k) e ikπ = n Z a ne int ( ) n+ hvor vi har brugt n = k. Vi kan dermed se at bk = ( ) k+ a k. Vi vil nu give nogle eksempler på anvendelser af algoritmen og begrunde fordelen af dekompositionen, selv om den ikke generelt har samme længde som udgangs-signalet og endda kan være længere end det originale signal! 8

33 9 Huffmann-kodningen giver hyppigt forekommende værdier en kortere kode end sjældent forekommende værdier, der tilsvarende fa r længere koder Pa figur 3 og 4 kan ses en kompilation af billeder, besta ende af et billede der er blevet opdelt i felter af størrelsen 6x6 billedpunkter og billedpunkterne i disse felter er blevet lineariseret og omsorteret og derefter dekomponeret ved at anvende ovensta ende algoritme, med hhv. Haar-wavelet / -skaleringsfunktionerne (D) og Daubechies-D4-wavelet / -skaleringsfunktionerne. Dekompositionen kan bl.a. bruges til at komprimere et signal, ved at sætte koefficienterne dj,k som er mindre end en fastlagt værdi lige med og dataene kan dermed effektivt komprimeres med en entropi-kodning som f.eks. Huffmann-kodningen.. Kom- Figur 4: D4-wavelet-dekomponerede billeder Figur 3: Haar-/ D-wavelet-dekomponerede billeder

34 pilationen viser billeder hvor signalerne fra det originale billede blev dekomponeret og forskelligt mange dj,k-koefficienter sat lige med. F.eks. blev der i billede (øverst til venstre) i hhv. figur 3 og 4 sat 55 af de 56 værdier i dekompositionen lige med, og derefter blev rekonstruktions-algoritmen anvendt på dekompositionen. Nedenfor er en oversigt over hvor mange koefficienter der ikke blev sat til i de viste billeder. Derved skal bemærkes at mit program genererer 9 billeder. Når billederne indekseres fra til 8 har billede i + i k= k elementer i dekompositionen som ikke er sat til. Oppe venstre: Oppe højre: Midten venstre: 6 Midten højre: 3 Nede venstre: 64 Nede højre: 56 Praktisk kan denne dekomposition og fjernelse af små værdier bruges til at vise et billede på nettet så snart en passende mængde af dataene er transmitteret. Så kan billedet vises meget hurtigere end ved en almindelig lineær transmission af dataene, hvor billedet scannes oppefra og ned (de flest har nok oplevet dette på nettet). Som det kan ses på billederne ovenfor har billederne allerede fornuftig kvalitet efter at en forholdsvis lille del af dataene er overført. En anvendelse af dette multiresolutions-princip kunne være digitale kort, f.eks. Google Maps, Google Earth, Krak eller lignende, hvor kun de ønskede billed-udsnit sendes til modtageren. 6 Eksempler Vi vil nu se på nogle af de vigtigste eksempler på wavelets, der har meget forskellige egenskaber. Det skal dog bemærkes at wavelets kan antage mange andre udformninger, som vi ikke vil dække her. Blandt andet vil vi kun give eksempler på orthonormale wavelets og se bort fra biortonormale wavelets, hvor wavelet-transformationen er invertibel, men wavelet-basen ikke er ortonormal. Disse wavelets spiller en meget vigtig rolle i anvendelser, f.eks. bruger JPEG-billedalgoritmen en biotonormal CDF-wavelet opkaldt efter Cohen-Daubechies-Feauveau som er den første beskrevne familie af biortonormale wavelets (se [CDF]). 6. Haar-wavelet Vi starter med den historisk første wavelet der blev beskrevet i 99 af Alfred Haar. Definitionen af skalerings- og wavelet-funktionen varierer lidt afhængigt af hvilken bog man læser. Vi giver to eksempler på definitionen af skalerings-funktionen for Haar-systemet: ϕ(x) = χ[,)(x) eller ϕ(x) = χ[,)(x) 3