Analyse af algoritmer. Algoritmedesign med internetanvendelser ved Keld Helsgaun. Køretid. Algoritmebegrebet D. E. Knuth (1968)

Transkript

1 Algoritmedesig med iteretavedelser ved Keld Helsgau Aalyse af algoritmer Iput Algoritme Output E algoritme er e trivis metode til løsig af et problem i edelig tid 1 2 Algoritmebegrebet D. E. Kuth (1968) Køretid E algoritme er e edelig, præcis og effektiv procedure med output Edelig: Algoritme vil termiere efter et edeligt atal tri Præcis: Hvert tri skal være defieret i præcise og utvetydige termer Effektiv: Hvert tri skal kue udføres i edelig tid De fleste algoritmer omformer iput til output Køretide for e algoritme vokser typisk med størrelse af iput Geemsitlig køretid er ofte vaskelig at bestemme Køretid bedste tilfælde geemsitlige tilfælde værste tilfælde Procedure: Algoritme består af tri Output. Algoritme må producere et resultat Vi fokuserer på værste tilfælde, da det (1) er lettere at aalysere (2) ofte er vigtigt (ja måske kritisk) Størrelse af iput 3 4

2 Eksperimetel aalyse Ulemper ved eksperimetel aalyse (1) Skriv et program, der implemeterer algoritme (2) Kør programmet med iput af varierede størrelse (3) Brug e metode som System.curretTimeMillis() i Java til at måle køretider (4) Plot resultatere Køretid (ms) Størrelse af iput Det er ødvedigt at implemetere algoritme, hvilket ka være svært Resultatere behøver ikke at være retigsgivede for iput, der ikke er medtaget i eksperimetere Hvis to algoritmer skal sammeliges, skal det ske med det samme materiel og programmel 5 6 Teoretisk aalyse Pseudokode Beytter e højiveau-beskrivelse af algoritme i stedet for e implemeterig Karakteriserer køretide som e fuktio af iputstørrelse Tager hesy til alle mulige iput Muliggør vurderig af e algoritmes hastighed uafhægigt af materiel og programmel Højiveau-beskrivelse af e algoritme Mere struktureret ed prosa Midre detaljeret ed programkode Eksempel: fid det største elemet i et array Algorithm arraymax(a, ) Iput array A of itegers Output maximum elemet of A curretmax! A[0] for i! 1 to " 1 do if A[i] > curretmax the curretmax! A[i] retur curretmax 7 8

3 Pseudokode-detaljer Radom Access Machie (RAM) model Kotrolstrukturer if the [else ] while do repeat util for do Idrykig erstatter pareteser Metodeerklærig Algorithm method(arg [, arg ]) Iput Output Metodekald method(arg [, arg ]) Returerig af værdi retur expressio Udtryk Tildelig! (svaret til = i Java) Test for lighed = (svarer til == i Java) 2 Matematisk otatio er tilladt E CPU E ubegræset mægde lagerceller, som hver ka ideholde et tal eller et teg Lagercellere er ummererede, og e tilgag til e hvilke som helst celle tager e tidsehed Primitive operatioer Optællig af primitive operatioer De basale operatioer foretaget af e algoritme Ka idetificeres i pseudokode Stort set uafhægige af programmerigssprog Atages at tage kostat tid i RAM-modelle Eksempler: Evaluerig af et udtryk Tildelig af e værdi til e variabel Idekserig i et array Kald af e metode Returerig fra e metode Ud fra pseudokode ka vi bestemme det maksimale atal primitive operatioer, der udføres af e algoritme, som e fuktio af iputstørrelse Algorithm arraymax(a, ) # operatioer (max)) curretmax! A[0] 2 for i! 1 to " 1 do 1 + if A[i] > curretmax the 2( " 1) curretmax! A[i] 2( " 1) { icremet couter i } 2( " 1) retur curretmax 1 I alt 7 "

4 Estimerig af køretid Vækstrate for køretide Algoritme arraymax udfører i værste tilfælde 7 " 2 primitive operatioer Defier a = De tid, det tager at udføre de hurtigste primitive operatio b = De tid, det tager at udføre de lagsomste primitive operatio og lad T() være de værste tid for arraymax Da gælder a(7 " 2) # T() # b(7 " 2) Et skift til e ade maskie påvirker T() med e kostat faktor, me ædrer ikke på vækstrate for T() Lieær vækst af køretide T() er e fudametal egeskab ved algoritme arraymax Køretide er altså opadtil og edadtil begræset af to lieære fuktioer Vækstrater Kostate faktorer Eksempler på vækstrater: Lieær $ Kvadratisk $ 2 Kubisk $ 3 I et log-log diagram svarer lijes hældigskoefficiet til fuktioes vækstrate T() 1E+30 1E+28 1E+26 Kubisk 1E+24 Kvadratisk 1E+22 1E+20 Lieær 1E+18 1E+16 1E+14 1E+12 1E+10 1E+8 1E+6 1E+4 1E+2 1E+0 1E+0 1E+2 1E+4 1E+6 1E+8 1E+10 Vækstrate påvirkes ikke af kostate faktorer og lavereordes termer Eksempler: er e lieær fuktio er e kvadratisk fuktio T() 1E+26 1E+24 Kvadratisk 1E+22 Kvadratisk 1E+20 Lieær 1E+18 Lieær 1E+16 1E+14 1E+12 1E+10 1E+8 1E+6 1E+4 1E+2 1E+0 1E+0 1E+2 1E+4 1E+6 1E+8 1E

5 O-otatio (store-o) Eksempel Givet fuktioere f() og g() Vi siger, at f() er O(g()), hvis der fides positive kostater c og 0, således at f() # cg() for % 0 Eksempel: er O() # c (c " 2) % 10 % 10/(c " 2) Vælg c = 3 og 0 = 10 10,000 1, ,000 Eksempel: Fuktio 2 er ikke O() 2 # c # c Dee ulighed ka ikke tilfredsstilles, da c skal være e kostat 1,000, ,000 10,000 1, ^ , Flere eksempler O og vækstrater 7-2 er O() Bestem c > 0 og 0 % 1, så 7-2 # c for % 0 Det gælder for c = 7 og 0 = 1 O-otatioe giver e øvre græse for vækstrate for e fuktio Udsaget f() er O(g()) betyder, at vækstrate for f() ikke er større ed vækstrate for g() er O( 3 ) f() er O(g()) g() er O(f()) Bestem c > 0 og 0 % 1, så # c 3 for % 0 Det gælder for c = 4 og 0 = 21 g() vokser hurtigst f() vokser hurtigst Ja Nej Nej Ja Samme vækstrate Ja Ja 3 log + log log er O(log ) Bestem c > 0 og 0 % 1, så 3 log + log log # c log for % 0 Det gælder for c = 4 og 0 =

6 Regler Asymptotisk algoritmeaalyse Hvis f() er et polyomium af orde d, så gælder, at f() er O( d ). Fjer lavere-ordes led Fjer kostate faktorer Beyt så lille orde som muligt: Sig 2 er O() i stedet for 2 er O( 2 ) Beyt så simpelt et udtryk som muligt: Sig er O() i stedet for er O(3) Sig er O(1) i stedet for er O(100) Asymptotisk aalyse af e algoritme udtrykker køretide i O-otatio (1) Fid det værste tilfælde og bestem atallet af primitive operatioer som e fuktio af iputstørrelse (2) Udtryk dee fuktio ved O-otatio Eksempel: Vi afgør, at algoritme arraymax højst udfører 7 " 2 primitive operatioer. Vi siger, at algoritme arraymax udføres i O() tid Eftersom kostate faktorer og lavere-ordes led udelades, ka vi se bort fra dem, år vi tæller atallet af primitive operatioer Eksempel på asymptotisk aalyse Beregig af løbede geemsit Løbede geemsit (i kvadratisk tid) Det i te løbede geemsit, A[i], af et array X er geemsittet af de første (i +1) elemeter i X: A[i] = (X[0] + X[1] + + X[i])/(i+1) Algorithm prefixaverages1(x, ) Iput array X of itegers Output array A of prefix averages of X #operatioer A! ew array of itegers for i! 0 to " 1 do s! X[0] for j! 1 to i do ( " 1) s! s + X[j] ( " 1) A[i]! s / (i + 1) retur A 1 23 Summe af de første heltal er ( + 1) / 2 Køretide er derfor O( 2 ) 24

7 Løbede geemsit (i lieær tid) Nedeståede algoritme bestemmer løbede geemsit i lieær tid ved at vedligeholde e løbede sum. Algorithm prefixaverages2(x, ) Iput array X of itegers Output array A of prefix averages of X #operatioer A! ew array of itegers sum! 0 1 for i! 0 to " 1 do sum! sum + X[i] A[i]! sum / (i + 1) retur A 1 Slægtige til store-o Store-Omega f() er!(g()), hvis der fides e kostat c > 0 og e heltalskostat 0 % 1, således at f() % cg() for % 0 Store-Theta f() er "(g()), hvis der fides kostater c > 0 og c > 0, samt e heltalskostat 0 % 1, således at c g() # f() # c g() for % 0 Lille-o f() er o(g()), hvis der for ehver kostat c > 0 fides e heltalskostat 0 % 0, således at f() # cg() for % 0 Lille-omega f() er #(g()), hvis der for ehver kostat c > 0 fides e heltalskostat 0 % 0, således at f()! cg() for % Ituitiv beskrivelse af asymptotisk otatio Ituitiv beskrivelse af asymptotisk otatio Store-O f() er O(g()), hvis f() er asymptotisk midre ed eller lig med g() Store-Omega f() er!(g()), hvis f() er asymptotisk større ed eller lig med g() Store-Theta f() er "(g()), hvis f() er asymptotisk lig med g() Lille-o f() er o(g()), hvis f() er asymptotisk skarpt midre ed g() Lille-omega f() er #(g()), hvis f() er asymptotisk skarpt større ed g() For e fuktio f er o(f), O(f), "(f),!(f) og #(f) mægder af fuktioer karakteriseret på følgede måde: o(f) : vokser lagsommere ed f O(f) : vokser højst så hurtigt som f "(f) : vokser som f &(f) : vokser midst så hurtigt som f #(f) : vokser hurtigere ed f 27 28

8 Citat People who aalyze algorithms have double happiess. First of all they experiece the sheer beauty of elegat mathematical patters that surroud elegat computatioal procedures. The they receive a practical payoff whe their theories make it possible to get other jobs doe more quickly ad more ecoomically. Doald E. Kuth 29