DM02 Kogt ned. Kokken. Januar 2006

Transkript

1 DM02 Kogt ned Kokken Januar

2 INDHOLD Indhold 1 Asymptotisk notation 2 2 Algoritme analyse 2 3 Sorterings algoritmer 2 4 Basale datastrukturer 3 5 Grafer 5 6 Letteste udspændende træer 7 7 Disjunkte mængder 7 8 Relationer 8 9 Del og hersk algoritmer 8 10 Rekursions ligninger 9 11 Grådige algoritmer Dynamisk programmering Binære søgetræer Rød-Sorte træer Hash tabeller 13 1

3 1 Asymptotisk notation Udtryk Beskrivelse f(n) lim n g(n) o(f) Vokser langsommere end f =0 O(f) Vokser højst så hurtigt som f < Θ(f) Vokser som f = c (c > 0) Ω(f) Vokser mindst så hurtigt som f > 0 ω(f) Vokser hurtigere end f = L Hôpital er nyttig til at reducere grænseværdien 2 Algoritme analyse Korrekthed Rigtigt output (typisk løkke-invariant bevist med induktion) Terminerer Køretid/tidskompleksitet Pladsforbrug/pladskompleksitet 3 Sorterings algoritmer Algoritme Worst-case Average-case Best-case In-place Insertion sort Θ(n 2 ) Θ(n 2 ) Θ(n) Ja Merge sort Θ(n log(n)) Θ(n log(n)) Θ(n log(n)) Nej Quicksort Θ(n 2 ) Θ(n log(n)) Θ(n log 2 (n)) Ja Heap sort Θ(n log(n)) Θ(n log(n)) Θ(n log(n)) Ja Radix sort Θ(n log k (M)) Θ(n log k (M)) Θ(n log k (M)) Nej M: Største tal i input k: # spande log k (M) : # cifre 2

4 4 Basale datastrukturer 4.1 Stack Karakteristisk: Sidst ind - først ud Metoder Beskrivelse Tid Stack-Empty(S) Er den tom? O(1) Push(S,x) Tilføj element O(1) Pop(S) Hent øverste element O(1) 4.2 Queue Karakteristisk Først ind - først ud (FIFO) Benytter head og tail Metoder Beskrivelse Tid Enqueue(Q,x) Tilføj O(1) Dequeue(Q) Hent element O(1) 4.3 Linked list Karakteristisk: emkelt linked eller dobbelt linked Evt sentinel-element Elementer har prev,key,next del (dobbelt) Metoder Beskrivelse Tid List-search(L,x) Søg efter element Θ(n) List-Insert(L,x) Indsæt element O(1) List-Delete(L,x) Fjern element O(1) reelt Θ(n) pga List-Search 3

5 4.4 Hob/heap 4.4 Hob/heap Karakteristika for en min-hob: Bruges som prioritetskø Kun nederste lag ikke helt fyldt Nederste lag fyldt op fra venstre Nøglen i en knude er mindre end (eller lig med) dens børn Parent(i) = i/2 Left(i) = 2i Right(i) = 2i + 1 Metoder Beskrivelse Tid Max-Heapify(A,i) Bobler i på plads O(lg n) Build-Max-Heap(A) Bygger hob fra et array O(n) Max-Heap-Insert Indsæt element O(lg n) Heap-Extract-Max(A) Hent største element O(lg n) Heap-Increase-Key(A,i,key) Hæv værdien for et element O(lg n) Heap-Maximum(A) Største værdi Θ(1) 4

6 5 Grafer Begreber og notation Sti: Vej gennem en graf Kreds: Vej gennem graf med samme start og slut Naboer = adjacente (U,V) er incident til U og V Orienterede grafer: Kanterne har en retning G = (V,E) G = graf V = Vertex = knude E = Edge = kant Representeret ved adjacens lister eller adjacent matrix O(n) kanter: Sparse (tynd) Ω(n 2 ) kanter: Dense (tæt) 5.1 BFS - Bredde Først Søgning Giver korteste afstande i en graf O(v + E) 5.2 DFS - Dybde Først Søgning Θ(V + E) Anvendes bl.a. til topologisk sortering og stærke sammenhængskomponenter 5

7 5.3 Topologisk sortering 5.3 Topologisk sortering I orienterede grafer Man kan kun lave en topologisk sortering, hvis der ingen kredse er Kan fx benyttes til arbejdsopgave sortering Udfør DFS(S) hver gang en knude farves sort, indsættes den forrest i en liste 5.4 DAG og korteste veje DAG: Orienteret og acyklisk Korteste veje i orienterede grafer: DAG: Topologisk sortering Ingen negative vægte: Dijkstras algoritme Ingen negative kredse: Bellman-Ford (DM69) 5.5 Dijkstra Korteste veje i grafer med ikke negative kantvægte O(Elog V) 5.6 Kruskals algoritme Vælg letteste kant der ikke danner en kreds O(E log E) men også O(Elog V) da kanter og knuder i det færdige træ er næsten ens 5.7 Prims algoritme Start med en knude i træet tilføj letteste kant mellem træet og de andre knuder hver gang O(E log V) men ved brug af fibonnacci heap O(E + V log V) 6

8 6 Letteste udspændende træer For letteste udspændende træer gælder følgende: G er et træ Ethert par af knuder er forbundet af præcis én vej G er sammenhængende, men fjernes bare én kant, er den ikke længere sammenhængende E = V 1 G er acyklisk, men tilføjer vi én kant bliver den cyklisk 7 Disjunkte mængder Abstrakt datastruktur, implementeret på to måder, med hægtet liste og som et træ. Metoder Beskrivelse Tid Make-Set(x) opretter mængde O(1) Findset(x) ref. til x s mængde O(1) som liste Findset(x) ref. til x s mængde O(log n) som træ Union(x,y) Forener mængder Θ(n) som liste Union-Vægtet(x,y) Forener mængder On log(n) Union-By-Rank(x,y) (m. path compression) Omα(n) reelt O(m) n: #make-set operationer m: #operationer ialt 7

9 8 Relationer Refleksiv: a R a - for alle a A Symmetrisk: a R b b R a - for alle a,b A Transitiv: a R b b R c a R c - for alle a,b,c A Antisymmetrisk: a R b b R a a = b - for alle a,b A Partiel ordning: Refleksiv Antisymetrisk transitiv Total ordning: Partiel ordning a R b b R a - for alle a,b A 9 Del og hersk algoritmer Eksempel: Mergesort Opdel i mindre delproblemer, som kan løses rekursivt Små problemer løses direkte Kombiner løsningerne igen Kompleksitet Θ(1) T(n) = D(n) + at( n) + C(n) b n c n > c 8

10 10 Rekursions ligninger Løsningsmetoder 1. Substitutionsmetoden Gæt en løsning Bevis ved induktion at den er korrekt 2. Rekursionstræ 3. Master metoden 10.1 Master metoden at( n b ) + f(n) f(n) O(n log b a ǫ ) ǫ > 0 T(n) Θ(n log b a ) f(n) Θ(n log b a ) T(n) Θ(n log b a log n) f(n) Ω(n log b a+ǫ ) ǫ > 0 Samt af( n b ) cf(n), T(n) Θ(f(n)) c < 1 og n tilstrækkelig stor 9

11 11 Grådige algoritmer Eksempelvis letteste udspændende træer Optimal delstruktur: En optimal løsning indeholder optimale løsninger til delproblemer Grådigt valg egenskab: Man kan opnå en globalt optimal løsning ved at træffe lokalt optimale valg. Giver: Starten på en optimal løsning til hele problemet Et mindre problem af samme type 12 Dynamisk programmering Optimal delstruktur Delproblemer overlapper Ikke grådigt valg egenskab (Her bruges grdig algoritme Knapsack problemet og Længste fælles delfølge løses ved dynamisk programmering 10

12 13 Binære søgetræer F.eks. til Ordbøger Binært søgetræ: Hver knude har 0, 1 eller 2 børn Man skelner mellem højre og venstre barn (også hvis der kun er ét) Fuldstændigt binært søgetræ: Alle blade i samme dybde Alle indre knuder har 2 børn Højden = log 2 n Balanceret søgetræ: Eksempel: Rød-sort træ h Θ(log n) Højre og venstre rotation ophæver hinanden Metoder Hægtet liste Sorteret Array Binært søgetræ Søg O(n) O(log n) O(h) Indsæt O(1) O(n) O(n) Slet O(n) O(n) O(h) h = højden af træet 11

13 14 Rød-Sorte træer Binært søgetræ, hvor: Hver knude er rød eller sort Roden er sort Hvert blad er sort Røde knuder har sorte børn For enhver knude gælder: Alle stier fra knuden til et blad har samme antal sorte knuder. Sort højde: Af en knude: # sorte knuder på en sti fra knuden til et blad Af et træ: Rodens sorte højde 12

14 15 Hash tabeller Forventet gennemsnitlig køretid O(1) for Søg, indsæt og slet Worst-case: O(n) 15.1 Hash-funktion Skal fordele elementerne jævnt ud over tabellen kan beregnes i konstant tid Simpel uniform hashing Forventet søgetid: Θ(1+α), hvor α = tal mellem 0 og 1 h(k) = km antal elementer Nøglerne er tilfældige antal spande i tabellen h(k) = k mod m, m helst primtal langt væk fra 2 er potens h(k) = (ka ka )m, hvor 0 A 1. Her er valget af m ikke kritisk, det er derimod A. Åben addressering Alle elementer opbevares i tabellen kræver at α < 1 To argumenter til hash funktionen h(k, 0),h(k, 1),...,h(k,m 1) Lineær probing h(k,i) = (h (k) + 1) mod m Tendens til at data klmper sig sammen Kvadratisk probing h(k,i) = (h (k) + c 1 i + c 2 i 2 + 1) mod m m 2 mulige probesekvenser Dobbelt hashing h(k,i) = (h 1 (k)+ih 2 (k)) mod m m 2 forskellige probesekvenser 13