Dynamisk programmering. Flere eksempler

Transkript

1 Dynamisk programmering Flere eksempler

2 Eksempel 1: Længste fælles delstreng Alfabet = mængde af tegn: {a,b,c,...,z}, {A,C,G,T}, {,1} Streng = sekvens x 1 x 2 x 3... x n af tegn fra et alfabet: helloworld GATAAATCTGGTCTTATTTCC Delstreng = delmængde af tegnene i streng, i uændret rækkefølge: G A T A A A T C T G G A T C

3 Længste fælles delstreng Fælles delstreng for to strenge: G A T A A A T C T G G A T C Eller: A G T T A T T C G A T A A A T C T G A G T T A T T C Længste fælles delstreng: Givet to strenge X = x 1 x 2 x 3... x m Y = y 1 y 2 y 3... y n af længde m og n, find en længste fælles delstreng for dem. Længden af denne kan ses som et mål for similaritet mellem strenge (f.eks. dna-strenge).

4 Rekursiv løsning? Vi vil arbejde på at lave en rekursiv løsning. Vi definerer derfor mindre problemstørrelser: X i = x 1 x 2 x 3... x i for 1 i m. Y j = y 1 y 2 y 3... y j for 1 j n. X og Y er den tomme streng. lcs(i, j) er længden af længste fælles delstreng af X i og X j. Vi vil gerne finde lcs(m, n). Mere generelt: Vi søger en rekursiv formel for lcs(i, j). Basistilfælde: Det er klart at lcs(, j) = lcs(i, ) =.

5 Optimale delproblemer I Formel for lcs(i, j): Case I: x i = y j Observation: en fælles delstreng Z for X i og Y j består af Et sidste tegn z k. En streng Z = z 1 z 2 z 3... z k 1, som må være en fælles delstreng af X i i og Y j 1 (tegnene i Z skal komme i samme rækkefølge som i X og Y, så kun sidste tegn i Z har mulighed for at være x i og y j ). Den essentielle egenskab (optimale delproblemer) for Case I: Hvis Z er en længste fælles delstreng for for X i og Y j, må Z være en længste fælles delstreng af X i 1 og Y j 1. For hvis der fandtes en længere fælles delstreng for X i 1 og Y j 1, kunne den tilføjes tegnet x i (= y j ) og blive en længere fælles delstreng for X i og Y j.... x 1 x 2 x 3 x 4... x i 1 C y 1 y 2 y 3 y 4... y j 1 C

6 Optimale delproblemer I Af den essentielle egenskab haves i Case I (x i = y j ): lcs(i, j) = lcs(i 1, j 1) + 1 En længste fælles delstreng for X i 1 og Y j 1 tilføjet tegnet x i (= y j ) er en længste fælles delstreng for X i og Y j.... x 1 x 2 x 3 x 4... x i 1 C y 1 y 2 y 3 y 4... y j 1 C

7 Optimale delproblemer II Formel for lcs(i, j): Case II: x i y j Observation: en fælles delstreng Z = z 1 z 2 z 3... z k for X i og Y j kan ikke have z k værende en parring af x i og y j (da disse jo er forskellige). Så Z må være en fælles delstreng for enten X i 1 og Y j eller for X i og Y j 1 (eller evt. begge). Den essentielle egenskab (optimale delproblemer) for Case II: Hvis Z er en længste fælles delstreng for X i og Y j, må den være en længste fælles delstreng for enten X i 1 og Y j eller for X i og Y j 1 (eller evt. begge). For hvis der fandtes en længere fælles delstreng for enten X i 1 og Y j eller for X i og Y j 1, ville denne også være en længere fælles delstreng for X i og Y j. x 1 x 2 x 3 x 4... x i 1 A... y 1 y 2 y 3 y 4... y j 1 C... x 1 x 2 x 3 x 4... x i 1 A y 1 y 2 y 3 y 4... y j 1 C

8 Optimale delproblemer II Lad T 1 være en længste fælles delstreng for X i 1 og Y j, og lad T 2 være en længste fælles delstreng for X i og Y j 1. Af den essentielle egenskab i Case II (x i y j ) haves at blandt T 1 og T 2 er der (mindst) en som er en længste fælles delstreng for X i og Y j. Ingen af T 1 og T 2 kan være længere end den længste fælles delstreng for X i og Y j (da de begge er delstrenge af X i og Y j ). Så af den essentielle egenskab haves i Case II (x i y j ): lcs(i, j) = max(lcs(i 1, j), lcs(i, j 1)) Hvis lcs(i 1, j) lcs(i, j 1), er en længste fælles delstreng for X i 1 og Y j også en længste fælles delstreng for X i og Y j. Et symmetrisk udsagn gælder for og X i og Y j 1. x 1 x 2 x 3 x 4... x i 1 A... y 1 y 2 y 3 y 4... y j 1 C... x 1 x 2 x 3 x 4... x i 1 A y 1 y 2 y 3 y 4... y j 1 C

9 Rekursiv formel for lcs(i, j) Alt i alt har vi fundet flg. rekursive formel for lcs(i, j): if i = or j = lcs(i, j) = lcs(i 1, j 1) + 1 if i, j > and x i = y j max(lcs(i 1, j), lcs(i, j 1)) if i, j > and x i y j Den giver anledning til en naturlig, simpel rekursiv algoritme. MEN: det er nemt at se at der er gentagelser blandt delproblemers delproblemer. Så samme delproblemer bliver gentagne gange beregnet forskellige steder i rekursionstræet, og køretiden bliver meget dårlig. Kan evt. løses med memoization: hav en tabel med plads til svaret på alle de mulige delproblemer lcs(i, j), og gem svaret når det er beregnet første gang. Siden, slå det bare op. Dynamisk programmering: udfyld i stedet direkte denne tabel bottom-up på struktureret måde.

10 Dynamisk programmering Dynamisk programmering: udfyld tabel over lcs(i, j) bottom-up på struktureret måde. j i 1 2 n j i 1 2 n 1 2 m 1 2 m j i 1 2 m 1 2 if i = or j = lcs(i, j) = lcs(i 1, j 1) + 1 if i, j > and x i = y j max(lcs(i 1, j), lcs(i, j 1)) if i, j > and x i y j

11 Køretid Dynamisk programmering: udfyld tabel over lcs(i, j) bottom-up på struktureret måde. j i 1 2 m 1 2 n Tabelstørrelse: mn Udfyld tabelindgang: O(max størrelse af røde graf) = O(1). Tid i alt: O(produktet af de to) = O(mn).

12 Find en konkret løsning lcs(m, n) er længden af en længste fælles delstreng for X = X m og Y = Y n. Hvis vi gerne vil finde en konkret fælles delstreng af denne længde: Gem for hvert felt i tabellen hvilken af de tre røde pile som gav lcs(i, j)-værdien i dette felt. Følg gemte pile baglæns fra lcs(m, n). Når en skrå pil følges er det en Case I, og x i (=y j ) udskrives. Ellers er den en Case II, og intet udskrives. I alt udskrives en længste fælles delstreng for X og Y i baglæns orden.

13 Eksempel 2: Multi-Matrix-multiplikation Fra DM527/MM524: En p q matrix A 1 og en q r matrix A 2 kan multipliceres i tid O(pqr). Resultatet er en p r matrix. j j i = i p q q r p r Matrix-multiplikation er associativ: A 1 (A 2 A 3 ) = (A 1 A 2 ) A 3

14 Multi-Matrix-multiplikation Matrix-multiplikation er associativ: A 1 (A 2 A 3 ) = (A 1 A 2 ) A 3 Men køretiden er IKKE ens. Eksempel: A 1 A 2 A Tid for A 1 (A 2 A 3 ): er = 75. Tid for (A 1 A 2 ) A 3 : er = 7.5

15 Multi-Matrix-multiplikation Spørgsmålet: Givet et produkt af n matricer med kombatible dimensioner A 1, A 2, A 3,..., A n p p 1, p 1 p 2, p 2 p 3,..., p n 1 p n hvad er den billigste rækkefølge at gange dem sammen i?

16 Beregningstræer Rækkefølge = parentessætning = binært beregningstræ: A 1 A 1 A 2 A 3 A 1 (A 2 A 3 ) A 1 A 2 A 3 (A 1 A 2 )A 3 A 2 A 3 A 4 A 1 ((A 2 A 3 )A 4 )

17 Optimale delproblemer og rekursiv ligning Lad m(i, j) være prisen for bedste måde at gange A i,..., A j sammen på. Observation af den essentielle egenskab: Undertræerne for roden af et optimalt træ må selv være optimale beregningstræer. A i... A k A k+1... A j Prøv alle placeringer af rod, dvs. alle split A i,..., A k og A k+1,..., A j : { if i = j m(i, j) = min i k<j {m(i, k) + m(k + 1, j) + p i 1 p k p j } if i < j

18 Tabel Gentagelser blandt delproblemers delproblemer. Lav tabel og udfyld systematisk. Målet er at kende m(1, n). j i n n Tabelstørrelse: n 2 /2 Udfyld tabelindgang: O(max størrelse af røde graf) = O(n). Tid i alt: O(produktet af de to) = O(n 3 ). Find konkret løsning: følg de optimale valg baglæns.