Løs til optimalitet i eksponentiel tid Find tilnærmet løsning i polynomiel tid

Transkript

1 6 april Løsning af N P -hårde problemer Løs til optimalitet i eksponentiel tid Find tilnærmet løsning i polynomiel tid Oversigt Grænseværdier (repetition) Branch-and-bound algoritmens komponenter Eksempler på branch-and-bound algoritmer Eksempler på grænseværdier Dominans af grænseværdi Kritiske og semikritiske knuder Selv om alle N P -fuldstændige problemer kan reduceres til hinanden skal specifik struktur udnyttes i praksis 1

2 Grænseværdier z max f x x S f.x. S delproblem nedre grænseværdi L : L z øvre grænseværdi U : U z For enhver løsning x g x S er f x nedre grænseværdi f x T S Definition 1 P : z max f x x S R : z R max g x x T R er en relaksering af P hvis (i) S T (ii) g x f x for alle x S 2

3 Grænseværdier Hvis R er en relaksering af P så er z R en øvre grænseværdi for S S Grænseværditest: hvor x optimale løsning U S i z x S i Hvis leder efter forbedret værdi f x f x U S i z x S i 3

4 Branch-and-bound 1 L : ; L : z max f x x S S 2 while L /0 3 vælg et delproblem S i fra L 4 L : L S i 5 if S i /0 then 6 find en øvre grænseværdi U S i 7 find en lovlig løsning x i S i 8 if U S i L then (grænseværditest) 9 if f x L then L : f x ; x : x 10 opdel S i i delproblemer S 1 i S k i 11 tilføj delproblemerne til L, dvs. sæt L : L Si 1 Si k 12 endif 13 endif 14 endwhile L liste af delproblemer S i ofte organiseret prioritetskø Delproblemerne i L er åbne delproblemer Behandlede deproblemer er lukkede delproblemer global nedre grænseværdi L, tilhørende løsning x 4

5 Branch-and-bound, fire komponenter 1. Øvre grænseværdifunktion lineær relaksering lagrange relaksering surrogat relaxering semidefinite relaxering 2. Nedre grænseværdi (hidtil bedst kendte løsning) i hver branch-and-bound knude, check om S i 1 omform øvre grænseværdi til lovlig løsning heuristik for hvert delproblem god initiel løsning inden branch-and-bound 3. Søgestrategi (rækkefølge af delproblemer) dybde-først søgning bedste-først søgning bredde-først søgning heuristisk styret søgning 4. Forgreningsregel (opdeling af løsningsrum) tilføj ekstra begrænsning (problem skal stadig kunne løses effektivt) opdeling i 2 eller flere delproblemer (ikke for mange) søgetræet bør vokse symmetrisk 5

6 Knapsack problem, øvre grænseværdi Fraktionelle knapsack problem i Cormen U 1 KP max n n p j x j w j x j c 0 x j 1 j 1 j 1 Køretid O n mediansøgning Relaksering Originale knapsack problem f x S n j 1 p jx j x 1 x n n j 1 w j x j c x j Fraktionelle knapsack problem 0 1 g x n j 1 p j x j T x 1 x n n j 1 w jx j c 0 x j 1 Kontrollerer betingelser (i) S T (ii) g x f x for alle x S 6

7 Knapsack problem, nedre grænseværdi Grådig algoritme j p j w j c 9, n 7 Øvre grænseværdi: genstande 1 2 brøk af b 3 U 1 KP kan rundes ned til U 1 KP 16 Nedre grænseværdi: genstande L 14 7

8 Knapsack problem, branch-and-bound j p j w j c 9, n 7 Dybde-først søgning (stak lagrer åbne delproblemer L) Heuristisk styret søgestrategi Hvor BRANCHBOUNDKNAPSACK p w i if w c then return if p L then L p; x : x if i n then return Udregn U 1 defineret på genstande i n og med kapacitet c w. KP Øvre grænseværdi for det betragtede delproblem er U p U 1 KP. if U L then x i : 1; BRANCHBOUNDKNAPSACK p p i w w i i 1 x i : 0; BRANCHBOUNDKNAPSACK p w i 1 endif i: næste genstand vi skal forgrene på p: profitsummen af valgte genstande w: vægtsummen af valgte genstande init: x 0 0 0, L 0 (eller bedre) kald: BRANCHBOUNDKNAPSACK

9 Knapsack problem, branch-and-bound 16 x 1 1 x x 2 1 x x 3 1 x 3 0 x 3 1 x x 4 1 x 4 0 x 4 1 x x 5 1 x 5 0 L

10 Dense subgraph problem komplet (orienteret) graf G udvælg U V af størrelse U k V E c, heltal k sum af kantvægte mellem knuder i U maksimeres N P -hårdt ved reduktion fra klike z max i U Eksempel G V E c k 3 Optimal løsning U c i j U V U k j U j i , løsningsværdi 48 10

11 Dense subgraph problem, øvre grænseværdi Sæt en parantes i objektfunktionen z max i U c i j U V U k j U Lad c i øvre grænse på kantvægt-sum fra knude i Grænseværdi c i max c i j U V U k j U U 1 DSP max c i U V U k i U Køretid V O V vælg k største kantvægte fra knude i (Problem 9-1 side 194 i Cormen) O V vælg k største af c 1 c 2 c n Samlet: O V 2 tid 11

12 Dense subgraph problem, øvre grænseværdi Relaksering Originale problem f x i U j U c i j S Nye problem g x i U c i T Kontrollerer betingelser (i) S T (ii) g x f x for alle x S U V U k U V U k Eksempel n 7 k 3 i j c i Øvre grænseværdi U 1 DSP 73 12

13 Dense subgraph problem, branch-and-bound Heuristisk styret søgestrategi c i øvre grænseværdi for kantvægt-summen fra knude i j i V 3 U V 3 U j i j i Knude i forbydes: slet tilhørende række og søjle Knude i vælges: slet den tilhørende række og søjle modificer c i j c j j : c j j c i j c ji for hvert j 1 n hvor j i 13

14 Traveling salesman problem Symmetrisk traveling salesman problem vægtet graf V E d, hvor d i j afstand symmetriske afstande d i j d ji find minimal længde Hamilton-kreds H z min d i j H E H er en Hamilton-kreds i j H Otte byer på Bornholm

15 Traveling salesman problem, eksempel Optimal løsning: i j længde af Hamilton-kreds z

16 Traveling salesman problem, nedre grænseværdi Vægtet graf V E d 1-træ: udspændende træ på knuderne 2 3 n knude 1 forbindes med to vilkårlige kanter minimalt 1-træ: mindste udspændende træ på knuderne 2 3 n knude 1 forbindes med billigste kanter Bevis: uafhængige delproblemer optimeres hver for sig Eksempel 1-træ relaksering L 1 TSP= 97 Køretid O E log V MST Kruskal O E V log V MST Prim, Fibonacci hobe O V to billigste kanter fra 1 Samlet: O E V log V 16

17 Traveling salesman problem, nedre grænseværdi L 1 min TSP d i j H E H er et 1-træ i j H Relaksering Originale problem f x d i j i j H Nye problem g x d i j i j H S T Kontrollerer betingelser (i) S T (ii) g x f x for alle x S H E H er en Hamilton-kreds H E H er et 1-træ 17

18 Traveling salesman problem, forgreningsstrategi Metode 1 Vælg en kant fra knude 1 Vælg næste kant Ikke god Metode 2: Udgangspunkt i 1-træ Hvis alle knuder har valens 2, har vi Hamilton-kreds (og kan bortskære delproblem) Ellers vælg en knude med valens større end 2 Forbyd på skift de kanter, som udgår fra knuden 18

19 Traveling salesman problem, forgreningsstrategi forbyd (1,7) forbyd (6,7) forbyd (7,8) Knude 7 har valens 3 Forbyd 1 7 prisen af 1-træet L 97 Forbyd 6 7 prisen af 1-træet L 98 Forbyd træet giver L U

20 Kvalitet af grænseværdifunktionen maksimeringsproblem z max f x x S to øvre grænseværdifunktioner U 1 og U 2 Definition 2 grænseværdifunktion U 1 dominerer grænseværdifunktion U 2 hvis U 1 U 1 U 2 for alle instanser U 2 for mindst en instans NB: kræver ikke at U 1 altid er bedre end U 2 20

21 Dominans af grænseværdier, knapsack problem U 0 KP max n n p j x j w j x j c x j 0 j 1 j 1 Relaksering Originale knapsack problem f x S nye knapsack problem n j 1 p j x j x 1 x n n j 1 w j x j c x j 0 1 g x n j 1 p jx j T Kontrollerer betingelser (i) S T x 1 x n n j 1 w j x j c 0 x j (ii) g x f x for alle x S Køretid Hvis sorteret profit-vægt forhold, udregnes O 1 tid U 0 c p 1 KP w 1 21

22 Dominans U 1 KP U0 KP for alle instanser To relakseringer har samme objektfuktion U 1 KP : T U 0 KP : T Da T T er x 1 x n x 1 x n max x T U 1 KP U0 KP for en instanser n w j x j c 0 x j 1 j 1 n w j x j c 0 x j j 1 f x max x T f x eksemplet: U 0 KP 27 mens U 1 KP

23 Dominans af grænseværdier, traveling salesman Strammere grænseværdi ved at omformulere afstandsmatricen d i j længden af en Hamilton-kreds er uændret 1-træ relakseringen returnerer strammere grænseværdi Vi straffer 1-træer som ikke er en Hamilton-kreds Omformuler afstandsmatrix straf knuder med valens større end 2 beløn knuder med valens mindre end 2 di j d i j v i 2 v j 2 ny grænseværdi ved mindste 1-træ for di j L 2 min TSP di j H E H er et 1-træ i j H 23

24 Dominans af grænseværdier, traveling salesman i j i j L 1 TSP 97 L 2 TSP 97 Man kan gentage iterationsprocessen et antal gange Efterfølgende iterationer L 2 TSP

25 Relaksering Originale problem f x S Nye problem g x T d i j i j H H E H er en Hamilton-kreds H i j H di j Kontrollerer betingelser (i) S T E H er et 1-træ (ii) g x f x for alle x S For enhver Hamilton-kreds H gælder g x i j H d i j i j H d i j v i 2 v j 2 v i 2 v j 2 i j H i j H d i j 2 v i 2 V d i j f x i j H i V i j H 25

26 Dominans L 3 TSP max i 1 k L 2 TSP bedste grænseværdi med k iterationer i L 3 dominerer L 1 da TSP TSP L 3 L 2 for alle instanser TSP TSP første iteration foregår med originale afstandsmatrix L 3 TSP L 2 TSP for en instanser eksemplet 26

27 Kritiske og Semikritiske delproblemer optimeringsproblem z max f x x S forgreningsregel som opdeler S i S 1 S m øvre grænseværdi-funktion U S i Definition 3 Et delproblem S i er kritisk U S i z alle kritiske delproblemer skal behandles Definition 4 Et delproblem S i er semikritisk U S i z Sætning 1 Hvis z er kendt fra starten, vil enhver branchand-bound algoritme kun gennemsøge de kritiske delproblemer (svarende til den valgte forgreningsregel og grænseværdi-funktion). 27

28 Kritiske og Semikritiske delproblemer Sætning 2 Uanset den initielle nedre grænseværdi vil bedste-først søgestrategien kun behandle de semikritiske delproblemer Indirekte bevis Antag bedste-først behandler S i hvor U S i L z på givne tidspunkt Bedste-først søgning: så for alle S j L z U S i U S j for alle S j L U S j U S i z z kan ikke findes i nogen af delløsningsrummene Dvs: Bedste-først søgning sikrer at z bliver fundet inden man betragter delproblemer S i med U S i z. 28