Branch-and-bound. Indhold. David Pisinger. Videregående algoritmik, DIKU ( )

Transkript

1 Brach-ad-boud David Pisiger Videregåede algoritmik, DIK (005-06) 6 Kvalitet af græseværdifuktioe 3 6. Eksempler på domias Kritiske og Semikritiske delproblemer 34 8 Kuste at desige e god brach-ad-boud algoritme 36 9 Opgaver 38 Idhold Idex 4 Itroduktio 5. Geemgåede eksempler Brute-force metoder 0 3 Divide ad Coquer 4 Græseværdier 5 4. Eksempler på græseværdier Græseværditest Mootoitet af græseværdier Brach-ad-boud 5. Øvre græseværdifuktio Nedre græseværdi Søgestrategi Forgreigsregel Eksempler på brach-ad-boud algoritmer

2 Forord Disse oter er skrevet til kurset Videregåede algoritmik på Datalogisk Istitut, Købehavs iversitet. Formålet med otere er at give e samlet idførig til brach-ad-boud paradigmet. I modsætig til maoritete af tilsvarede tekster forudsætter otere ikke kedskab til lieær programmerig. Til gegæld bygger de videre på termiologi og pricipper fra Corme m.fl. [7]. Da otere er tiltækt algoritmik-udervisig på.-3. studieår er otere skrevet på dask. Dette giver samtidig mulighed for at idføre e dask termiologi på kurset. Nogle begreber har det dog ikke været muligt (eller hesigtsmæssigt) at oversætte til dask, hvorfor de egelske betegelser er bibeholdt. Som ispiratio er beyttet otere Brach-ad-boud algorithms, af Clause [6], samt bøgere Iteger Programmig af Wolsey [4] og Elemets of the Theory of Computatio af Lewis og Papadimitriou [6]. For at otere også ka bruges som mii-opslagsbog, er der udarbedet et stikordsregister sidst i otere. E stor tak til alle som har læst første versio af disse oter, og som har bidraget til at forbedre dem. Kommetarer til. udgave E række fel, heribladt figur 3 er blevet rettet. Kapitel 8 er blevet opdateret med yeste litteratur omkrig brach-ad-boud paradigmet. 9. oktober 005, DP. 3 4

3 Itroduktio Teorie om N P -fuldstædighed giver os e velbegrudet formodig om, at der er e lag række problemer, som vi ikke ka forvete at løse i polyomiel tid. Da problemere dog ka være vigtige at løse for idustri eller samfud, er det essetielt at fide løsigsmetoder til sådae problemer. Selv om vi ikke ka garatere polyomiel køretid af sådae algoritmer, ka ma håbe på at køretide er rimelig for de fleste istaser, som forekommer i praksis. Teorie om N P - fuldstædighed udtaler sig ku om, at der eksisterer istaser med ubehagelig køretid, me de udelukker ikke at mage istaser ka løses i polyomiel tid. vor vi i teorie om N P -fuldstædighed fadt det hesigtsmæssigt at betragte afgørlighedsproblemer, vil ma i praktiske avedelser sarere betragte det tilhørede optimerigsproblem. F.eks. vil ma for travelig salesma-problemet æppe være tilfreds med at få et a-e svar på, om der fides e amilto-kreds af lægde høst k i grafe. Ma vil sarere spørge efter de korteste amilto-kreds. Formelt set ka et optimerigsproblem i maksimerigsform defieres som: z f x er agiver f x obektfuktioe, mes S er løsigsrummet og z er de optimale løsigsværdi. Ofte vil ma også være iteresseret i de optimale løsig, dvs. det x hvor z f x. E række optimerigsproblemer som f.eks. travelig salesmaproblemet er defieret i miimerigsform z mi f x Ma ka omforme et miimerigsproblem på forme () til et maksimerigsproblem ved at maksimere f x. Vi vil i disse oter idføre alle defiitioer for et maksimerigsproblem. Det overlades til læsere at defiere de tilsvarede begreber for miimerigsproblemer. Da klasse N P ku er defieret for afgørlighedsproblemer, giver det ikke meig at sakke om N P -fuldstædighed af optimerigsproblemer. Vi defierer derfor, at et optimerigsproblem er N P -hårdt, hvis det tilhørede afgørlighedsproblem er N P -fuldstædigt. Bemærk, at selv om ma får forelagt de optimale løsig x for et N P -hårdt optimerigsproblem, keder vi ikke e effektiv metode til at verificere at de give løsig er optimal. Ret faktisk ka det ku bevises at e løsig er optimal ved at geemløbe hele løsigsrummet. 5 x x S S () () vor polyomielle problemer typisk ka løses ved hælp af e kostruktiv algoritme, der gradvist opbygger e løsig, må vi for N P -hårde problemer ty til søgebaserede algoritmer, dvs. algoritmer som geemløber hele eller dele af løsigsrummet for at fide de optimale løsig. I disse oter vil vi betragte brach-ad-boud paradigmet, som etop er e søgebaseret algoritme. Der fides e række daske betegelser for brach-ad-boud, f.eks. del-og-hersk, forgre-og-begræs. Ige af disse betegelser er dog slået igeem i stort omfag, hvorfor ma typisk blot fastholder de egelske betegelse. Brach-ad-boud er ok det mest beyttede værktø til løsig af N P -hårde kombiatoriske optimerigsproblemer. Brach-ad-boud er dog et paradigme (dvs. e slags skabelo) hvor e række kokrete valg skal træffes for hvert ekelt optimerigsproblem. Som disse oter vil vise, er der e bred vifte af muligheder for hver kompoet af brach-ad-boud paradigmet, og det er e kustart at kombiere de rette kompoeter til e vellykket algoritme. Pricippet i brach-ad-boud er e total geemsøgig af løsigsrummet, hvor ma bruger ogle matematiske overveelser til at udelukke dele af løsigsrummet. E vel-desiget brach-ad-boud algoritme bør udelukke store dele af løsigsrummet, således at de for de fleste praktisk forekommede istaser ku skal geemsøge e lille del af løsigsrummet. I afsit vil vi først desige e simpel algoritme til løsig af kombiatoriske optimerigsproblemer baseret på total geemsøgig af løsigsrummet. I det følgede afsit 3 beytter vi dividead-coquer paradigmet til at geemsøge løsigsrummet, ved fortløbede at dele problemet op i midre delproblemer og samle løsigere op fra disse. For at udgå e geemsøgig af alle delløsigsrum beytter vi græseværdier, som defieres i afsit 4. E græseværdi er et tal kyttet til et delløsigsrum, som siger oget om, hvor gode løsiger vi ka forvete at fide i det give delløsigsrum. vis vi ved hælp af græseværdie for et delløsigsrum ka se, at vi ikke vil være i stad til at forbedre de uværede løsig, ka vi forkaste delløsigsrummet. Dette er idee i græseværditeste, som beskrives i afsit 4.. Sætter vi disse grudelemeter samme, har vi brach-ad-boud paradigmet, som beskrives i afsit 5. Vi vil gere have så stramme græseværdier som muligt, idet disse vil gøre det muligt at bortskære større dele af løsigsrummet. I afsit 6 opstiller vi e formel ramme for at sammelige kvalitete af græseværdier. Afsit 7 ser på, hvilke delproblemer vi altid vil skulle behadle uaset søgestrategi og iitiel løsig. Notere afsluttes i afsit 8 med forskellige tips til at desige vellykkede brach-ad-boud algoritmer i praksis. 6

4 I disse oter vil vi beytte tre geemgåede optimerigsproblemer til at illustrere pricippere. De første to er maksimerigsproblemere kapsack-problemet og dese subgraph-problemet, mes det sidste problem er miimerigsproblemet travelig salesma-problemet. Vær opmærksom på, at alle defiitioer skal vedes om år vi betragter et miimerigsproblem. Travelig salesma-problemet er med vile medtaget for at træe læsere i dee proces. Alle eksempler med travelig salesma-problemet vil dog tydeligt være mærket med e overskrift som mider om, at det er et miimerigsproblem.. Geemgåede eksempler Eksempel Kapsack-problemet Kapsack-problemet ka defieres på følgede vis: Lad der være givet gestade, som hver har e tilkyttet profit p og vægt w. dvælg e delmægde af gestadee således, at de samlede profitsum bliver maksimeret ude, at de tilhørede vægtsum overstiger e give græse c, kaldet kapacitete. Trods de simple struktur har kapsack-problemet utallige avedelser. Det opstår i adskillige trasportproblemer (f.eks. ladig af gestade i cotaiere med vægtbegræsig c), udskærigsproblemer (f.eks. udskærig af tømmer som har lægde c i midre stykker w med forskellig salgspris p ), ivesterig (der er e mægde kapital c til rådighed, som ka ivesteres i et atal proekter med profit p og pris w ) eller budgetlægig (afdeliges budget er c, og der skal udvælges et atal proekter, som har størst mulig samlet ytteværdi). For e komplet oversigt over eksakte algoritmer og approximatiosalgoritmer for kapsack-problemet, se [3]. E samlig af testistaser for kapsack-problemet fides i [9]. vis vi bruger de biære variabel x til at agive om gestad vælges eller e, får vi følgede matematiske defiitio af problemet: z p x w x c x Bemærk, at hvis gestad vælges, dvs. x, så tælles p og w med i heholdsvis profitsumme og vægtsumme, mes hvis x 0 bidrager gestad ikke til oge af summere. Det atages ormalt, at alle koefficieter p, w og c er positive heltal. Se evt. Corme m.fl. [7] s. 38 for yderligere beskrivelse af problemet. 7 0 (3) I det følgede eksempel er c profitter og vægte: 9, og der er givet p w gestade med følgede De optimale løsig er at vælge gestadee og 4, hvilket giver e optimal løsig på z 5. Eksempel Dese subgraph-problemet E Givet e komplet vægtet graf G V c og et heltal k. Dese subgraph-problemet beder os udvælge e delmægde V af størrelse k, således at summe af katvægte mellem kuder i bliver maksimeret. Vi vil tæke på grafe som orieteret, dvs. mellem hvert par af kuder i og fides to kater, som har vægt c i heholdsvist c i. Selv om vi tillader, at c i c i så ka ma altid opå e symmetrisk form c i c i ved at dele summe c i c i ligeligt på de to kater (overve!). de tab af geeralitet ka vi atage, at alle katvægte er ikke-egative, dvs. c i 0, idet vi ellers ka lægge e kostat M til alle katvægte for at opå dette (se også opgave 4 side 39). I de fleste praktiske avedelser vil c ii 0, me i det følgede ka c ii også atage positive værdier. Dese subgraph-problemet er e umiddelbar geeraliserig af klike-problemet, hvorfor det dukker op i mage sammehæge idefor grafteori. Praktiske avedelser omfatter bl.a. lokaliserig af sedemaster, således at trafik mellem mastere maksimeres, samt lokaliserig af takstatioer, supermarkeder, bradstatioer, eller hospitaler, således at de spredes mest muligt geografisk. 8

5 Ku få eksakte algoritmer er præseteret for dese subgraph-problemet [8, 0], mes der er udviklet adskillige approximatiosalgoritmer [4, 0,, 4,, ]. Formelt ka problemet defieres som følgede maksimerigsproblem: z c i i De følgede tabel agiver katvægtee for e graf med 7 kuder, hvori der skal udvælges e delgraf af størrelse k 3. V i , hvilket giver e løs- De optimale løsig er at vælge kudere igsværdi på 48. Eksempel 3 Travelig salesma-problemet (miimerigsproblem) k 4 6 (4) Travelig salesma-problemet har utallige avedelser, og er blevet studeret idgåede i litterature, se f.eks. de omfattede bog [5]. De p.t. bedste algoritme til løsig af Travelig salesma-problemet er Cocorde-løsere [] desiget af Applegate, Bixby, Chvátal og Cook [3]. Vi vil betragte de symmetriske versio af travelig salesma-problemet, der formelt ka defieres som følgede optimerigsproblem: Lad V E d være e vægtet graf, hvor d i for i E agiver afstade mellem kudere i og. Da vi betragter de symmetriske variat gælder at d i d i. Problemet er da at fide e amilto-kreds i grafe, som har e miimal lægde med hesy til d. amilto-kredse er e delmægde af katere i E, hvorfor vi ka formulere problemet som: z mi i d i E er e amilto-kreds På det følgede kort er der markeret otte byer på Borholm. 9 (5) Afstade mellem de otte byer er givet ved følgede tabel, og vi øsker at fide de korteste amilto-kreds geem byere i De optimale løsig er at besøge byere (kudere) i rækkefølge: , hvilket giver e samlet lægde af amilto-kredse på z 00. Brute-force metoder Som tidligere ævt er brach-ad-boud paradigmet e søgebaseret algoritme, som i værste fald geemsøger alle lovlige løsiger. Vi vil i dette afsit skitsere 0

6 e første søgebaseret algoritme samt vurdere des køretid. Algoritme udytter, at ethvert N P -problem har et kort (dvs. polyomielt) certifikat, samt at ethvert certifikat ka verificeres i polyomiel tid. Vi ka derfor geemløbe alle kombiatiosmuligheder af certifikatet, og hver gag kotrollere om verifikatiosalgoritme returerer a. De samlede køretid bliver ekspoetiel. Defiitio Klasse EX P er mægde af afgørlighedsproblemer, som ka løses i ekspoetiel tid på e determiistisk Turig-maskie. Formelt sagt siger vi, at et afgølighedsproblem L EX P, hvis der fides et polyomium p, således at ehver streg x af lægde ka afgøres i tide p. Sætig vis L N P, så gælder også at L EX P. Bevis: Atag at L N P, så fides e verifikatiosalgoritme A x y, som kører i polyomiel tid p x y. Lægde af certifikatet y skal overholde at y p x for et polyomium p, så køretide af A x y må også være polyomiel i x, dvs. begræset af et polyomium p x. Vi kostruerer u e algoritme, som afgør L i ekspoetiel tid. de tab af geeralitet ka vi atage, at certifikatet y er e biær streg. Vi opremser u samtlige værdier af y i tide y p x. For hver værdi af y aveder vi verfikatiosalgoritme A x y. vis A x y for et givet y returerer vores algoritme værdie. vis A x y 0 for alle y returerer algoritme værdie 0., hvilket viser at algoritme af- Køretide af algoritme bliver O gør L i ekspoetiel tid. p x p x Løsigsmetode i oveståede bevis kaldes brute-force opremsig og trods des dårlige køretid, er de grudlaget for de følgede algoritmer. Fra beviset bemærker vi også, at løsigsrummet for et N P -hårdt optimerigsproblem må være begræset. Faktisk er det begræset af y, hvor y er de biære lægde af e løsig. 3 Divide ad Coquer Brute-force paradigmet fra forrige afsit fugerede ku for N P -fuldstædige afgørlighedsproblemer. Når vi skal løse et N P -hårdt optimerigsproblem på forme z f x x S har vi ikke e verifikatiosalgoritme til rådighed. I stedet ka vi avede dividead-coquer paradigmet fra Corme m.fl. [7]. Vi øsker at opdele problemet i e række midre problemer, løse de midre problemer, og samle iformatioe samme til e optimal løsig. Der gælder Sætig Lad S z i f x x Da gælder z i Bevis: z f x S S i x S k være e opdelig af S i midre mægder, og lad være løsigsværdie svarede til de i te delmægde. k zi. S S k k f x i x S i i kzi. Vi vil bruge betegelse delproblem til at betege vores optimerigsproblem begræset til delmægde S i. I det følgede vil vi sprogligt ikke skele mellem e delmægde og det tilhørede delproblem. Eksempel 4 Kapsack-problemet Af pladshesy vil vi betragte e reduceret udgave af kapsack-problemet fra eksempel, hvor der ku er 3 gestade, og kapacitete er c 6. Løsigsrummet er S x 3 p w 6 4 x c x w x På figur ses e opdelig af løsigsrummet S svarede til, om e give beslutigsvariabel x i sættes til 0 eller. I de første opdelig får vi to delproblemer: S S x x x x S x 0 S x 0 Tilsvarede får vi ved opdelig af S de to mægder S 3 og S 4 givet ved Og så fremdeles. S 3 S 4 x x x x S S x 0 x 0 x 0 x. (6) (7)

7 S S x 0 x S S S S x 0 x x 0 x S S 6 S 4 S S 3 S 4 S 5 S 6 x 3 0 x 3 x 3 0 x 3 x 3 0 x 3 x 3 0 x 3 S 7 S 8 S 9 S 0 S S S 3 S 4 S S 3 S 9 S x f x ulovlig 6 9 ulovlig ulovlig S 8 S 0 S S 4 Figur : Søgetræ for kapsack-problemet. De uderstregede mægder agiver ulovlige løsiger, dvs. løsigsvektorer x hvor w x c. Figur : Opdelig af løsigsrum. De uderstregede tal svarer til ulovlige løsiger, dvs. løsigsvektorer x hvor w x c. 3 4

8 Sætig viser, at vi ka fide e optimal løsig til f.eks. S 5 som z z 6 9 9, hvor z er de optimale løsig til S, og z er løsige til S. Ma ka illustrere opdelige af S med et søgetræ, som vist i figur. ver kude i søgetræet svarer til et delproblem S i. vis vi betragter to kuder i og i søgetræet, hvor ligger uder i, så kalder vi for et uderproblem til i. 4 Græseværdier Vi betragter ige et optimerigsproblem P på forme z f x x S. S behøver ikke at være det origiale løsigsrum for et problem, me ka godt være et delproblem S i fremkommet ved brug af divide-ad-coquer paradigmet. E edre græseværdi L er et reelt tal, som overholder at L z. På samme måde ka vi defiere e øvre græseværdi som et reelt tal, der overholder at z. Ehver lovlig løsig x S til problemet P er e edre græseværdi, idet der oplagt gælder at f x z f x x S. Det er aderledes udfordrede at fide e øvre græseværdi. Til dette formål har vi brug for at betragte e relakserig: Defiitio Givet et problem P defieret som z f x x S. Problemet R givet ved z R g x x T er e relakserig af P, hvis der gælder: (i) S (ii) g x T, f x for alle x S. Følgede figur illustrerer pricippet i e relakserig. Vi maksimerer fuktioe f over mægde S. Fuktioe g må ikke ligge uder f i hele defiitiosmægde S, me der stilles ige krav til g udefor S. g x Sætig 3 vis R er e relakserig af P, så gælder der at z R Bevis: Atag, at de optimale løsig for P er x, dvs. der gælder f x z. Da x S har vi fra (ii) at g x f x. Fra (i) ved vi edvidere at x T. Dermed må gælde at z R g x x T g x f x z. Oveståede sætig giver os e opskrift til at bestemme øvre græseværdier, idet vi for et problem P ka løse e tilhørede relakserig R og bestemme z R. Da gælder at : z R er e øvre græseværdi, idet vi har z R z f x x S f x for ethvert x S. Ma ka altid fide e triviel relakserig ved at vælge g x f x og T S. Dee relakserig vil returere de bedst tækelige græseværdi z, me de er lige så dyr at berege, som at løse det origiale problem. Ma vil derfor ormalt kræve, at e relakserig ka løses i polyomiel tid. Det er måske ikke videre ituitivt, at et problem ka bliver lettere at løse ved at udvide løsigsrummet S til e større mægde T, me edeståede eksempler vil vise, at dette ret faktisk ofte er tilfældet. Tilsvarede ka ogle problemer blive lettere at løse ved at modificere obektfuktioe. For ethvert problem P vil der kue defieres mage relakseriger, som vil resultere i et atal forskellige græseværdier. Det er e kustart at fide e relakserig, som giver gode græseværdier, og som ka bereges effektivt. Divide-ad-coquer paradigmet fra afsit 3 ka også avedes til at bestemme græseværdier ved opdelig af problemet i midre delproblemer. Idet vi defierer f x x, gælder følgede to sætiger: z i S i Sætig 4 Lad S S S k være e opdelig af S i midre mægder, og lad L i være e edre græseværdi for delmægde S i. Da gælder at L i k Li er e edre græseværdi for S. z. f x Bevis: Da L i z i har vi L i kli i kzi z. S T 5 Sætig 5 Lad S S S k være e opdelig af S i midre mægder, og lad i være e øvre græseværdi for delmægde S i. Da gælder at i k i er e øvre græseværdi for S. 6

9 Bevis: Da z i i har vi Edelig har vi sætige: i ki i kzi z. Sætig 6 Betragt et maksimerigsproblem z f x x S, hvor f x returerer e heltallig løsigsværdi for ethvert x S. Atag at er e øvre græseværdi. Da er også e øvre græseværdi. Bevis: Da f x er heltallig, må z z, og dermed z. 4. Eksempler på græseværdier Eksempel 5 Kapsack-problemet, og følgelig z z. Da z gælder For at fide øvre græseværdier for kapsack-problemet betragter vi e simpel relakserig, hvor det er tilladt at medtage brøkdele af gestadee. Dette problem kaldes det fraktioelle kapsack-problem i Corme m.fl. [7], givet ved KP p x w x c 0 For at se, at der er tale om e relakserig, bemærker vi først at kapsack-problemet er defieret på forme () med f x p x S x x w x x c x Det fraktioelle kapsack-problem er defieret på samme form med g x p x T x x w x c 0 Da f x g x er kriterium (ii) i defiitio overholdt. Evidere er S kriterium (i) også er opfyldt. x 0 (8) T, hvorfor Det fraktioelle kapsack-problem ka løses i polyomiel tid ved brug af de grådige algoritme, som beskrevet i Corme m.fl. [7] s. 38. Først sorteres gestadee efter aftagede effektivitet p w, således at p w p w p3 w 3 7 p (9) w hvorpå rygsække fyldes som følger: Gestadee 3 lægges i rygsække, idtil ma støder på de første gestad b, som der ikke er plads til. De optimale løsig er da at medtage de første b gestade (dvs. x for b ), mes e brøkdel af gestad b medtages, således at hele kapacitete udyttes: x b c w w b b Ige af gestadee efter b medtages (dvs. x 0 for b ). Dette giver os følgede direkte formel til at bestemme de øvre græseværdi KP b p p b c w w b b (0) Græseværdie ka fides i O log tid, hvor de tugeste beregig er sorterige (9). De grådige algoritme ka også bruges til at fide e edre græseværdi L. Atag, at gestadee er sorteret efter (9) og betragt gestadee i rækkefølge 3. vis der stadig er plads til e give gestad i medtages de i rygsække, ellers fortsættes med gestad i. For kapsack-problemet fra eksempel bemærker vi, at gestadee allerede er sorteret efter aftagede profit-vægt forhold p w Da rygsække har kapacitet c 9 fylder vi gestade i rygsække og medtager e fraktioel del af gestad b 3. Beslutigsvariablee bliver x x, 9 5 og x 3. De øvre græseværdi bliver 6 3 KP som ifølge sætig 6 ka rudes ed til KP E edre græseværdi fides ved at vælge gestade L , der giver værdie

10 Eksempel 6 Dese subgraph-problemet Ved at sætte e parates i obektfuktioe ka problemet skrives som z i c i Lad c i være e øvre græse på ehver katvægt-sum, der ka udgå fra kude i. Formelt ka dette defieres som c i c i Da ka udtrykket ide i paratese af () begræses opadtil ved c i V V k k () () c i (3) og vi får følgede øvre græseværdi for dese subgraph-problemet DSP c i i For at idse, at der er tale om e relakserig af det origiale problem, bemærker vi, at det origiale problem havde obektfuktio og løsigsrum f x i c i S Det ye problem har obektfuktio og løsigsrum g x i c i T V V V k k k (4) Da S T er kriterium (i) i defiitio opfyldt. Tilsvarede har vi kriterie (ii) opfyldt, da g x f x for alle x S på grud af (3). Det relakserede problem (4) ka løses i O V tid. Først fider vi for hver kude i V værdie c i givet ved (). Dette problem består i at vælge de k største katvægte, som udgår fra kude i. Dette ka gøres i O V tid for hver kude i, f. Problem 9- side 94 i Corme m.fl. [7]. I det relakserede problem (4) skal vi ige vælge de k største tal bladt tallee c c, hvilket ka gøres i O V tid. Samlet får vi køretide V O V O V c. Som eksempel på græseværdiberegige ka vi betragte istase fra eksempel : 9 i er har vi 7 kuder, hvoraf k 3 skal udvælges. Ved at vælge de k største tal i hver række fider vi c 4, c 5, c 3 0, c 4 8, c 5 8, c 6 4 og c 7 7. Dermed bliver e øvre græseværdi DSP 73. I opgave 9 vises e strammere versio af ovetåede græseværdi. Eksempel 7 Travelig salesma-problemet (miimerigsproblem) Der er geem tide foreslået mage græseværdier for travelig salesma-problemet. E af de køeste er baseret på -træ relakserig. Givet e vægtet graf V E d fremkommer et -træ ved at fide et udspædede træ på kudere 3 og herefter forbide kude med to vilkårlige kater. Et miimalt -træ fides ved at løse et midste udspædede træ på kudere 3, og herefter udvælge de to billigste kater, som udgår fra kude (overve, hvorfor dette er et miimalt -træ). 3 For Borholm-istase fra eksempel 3 kostrueres et miimalt -træ ved at fide et midste udspædede træ på kudere 8. De to billigste kater, som udgår fra kude er og 7, som tilføes katmægde. Samlet har vi følgede -træ, som koster 97 eheder:

11 Køretide for at fide et midste -træ domieres af, at vi skal fide et midste udspædede træ (MST). Dette ka gøres i tide O E log V med Kruskals algoritme, f. Corme m.fl. [7] afsit 3. side 568. Alterativt ka ma bruge Prims algoritme, som har køretide O E V log V, hvis ma beytter Fiboacci hobe. Ma ka bruge -træer til at fide e edre græseværdi for travelig salesmaproblemet givet ved L TSP mi i d i E er et -træ For at idse at et miimalt -træ er e relakserig, bemærker vi, at det origiale problem ka skrives på forme () med f x i d i S Tilsvarede har vi for problem (5) at g x i d i T E er e amilto-kreds E er et -træ Da både travelig salesma-problemet og det midste -træ har samme obektfuktio er kriterium (ii) opfyldt. Edvidere har vi, at e amilto-kreds også er et -træ, hvilket ses ved at fere kude og bemærke, at de tilbageværede kater udgør et træ (faktisk udgør de e ve, der aturligvis også er et træ). Da S T har vi vist kriterium (i). 4. Græseværditest I forrige afsit defierede vi e græseværdifuktio som e fuktio f, der for ethvert delproblem S i returerer et reelt tal, således at f x for alle x S i. Sagt i ord giver græseværdifuktioe e garati for, at ma ikke ka fide e løsig i S i, som er bedre ed. Ma ka bruge dee vide kostruktivt til at bortskære delproblemer. vis ma for et delproblem S i ved, at ma ikke ka fide e bedre løsig ed de uværede edre græseværdi, så er der ige grud til at udersøge delproblemet ærmere. Lidt mere formelt har vi følgede græseværditest: (5) (6) Sætig 7 vis et delproblem S i har græseværdi, således at så ka vi forkaste S i. S i L (7) Bevis: Græseværdie sikrer, at f x L for alle x S i. Så ige løsig x i S i vil have e bedre løsigsværdi ed de allerede kedte L. 4.3 Mootoitet af græseværdier E øvre græseværdifuktio siges at være mooto, hvis der gælder at S S, år S S. Løst sagt skal græseværdie blive midre, år vi maksimerer over et midre løsigsrum. Dette gælder oplagt for alle relakseriger, hvor S T i defiitio, og det vil også gælde for de fleste foruftige relakseriger, hvor S T. vis e græseværdifuktio er mooto, vil de øvre græseværdi aftage efterhåde, som vi bevæger os ed i søgetræet af delproblemer. Dette hæger samme med de trivielle observatio, at vi hver gag opdeler problemet i midre delproblemer, således at oveståede kriterium er opfyldt for e kude og des uderliggede kude. 5 Brach-ad-boud Vi er u i stad til at skitsere e geerisk brach-ad-boud algoritme for et maksimerigsproblem på forme z f x I de edeståede algoritme agiver L e liste af delproblemer S i givet ved de tilhørede løsigsrum. Liste L vil ofte være orgaiseret som e prioritetskø. Vi kalder delproblemere i L for åbe delproblemer, mes delproblemer, der allerede er blevet behadlet, kaldes lukkede delproblemer. Edvidere vedligeholder vi e global edre græseværdi L samt de tilhørede løsig x. x S (8)

12 L : S while L /0 3 vælg et delproblem S i fra L 4 L : L S i 5 if S i /0 the 6 fid e øvre græseværdi S i 7 if S i L the 8 fid e lovlig løsig x S i 9 if f x L the L : f x ; x : x 0 opdel S i i delproblemer Si i tilfø delproblemere til L, dvs. sæt L : edif 3 edif 4 edwhile ; L : E brach-ad-boud algoritme for et maksimerigsproblem vil derfor bestå af følgede fire kompoeter:. E øvre græseværdifuktio, der for et givet delproblem returerer e øvre græse på værdie af de bedste løsig, som vi ka fide i delrummet.. E edre græseværdi, som på ethvert tidspukt agiver de hidtil bedst kedte løsig. 3. E søgestrategi, som fastlægger e rækkefølge for behadlige af delproblemer. 4. E forgreigsregel, som for alle delproblemer, der ikke ka forkastes af græseværditeste, agiver, hvorledes det tilhørede løsigsrum skal opdeles. Dermed skabes to eller flere ye delproblemer. L S i Sk i dee sammehæg, f.eks. lieær-relakserig, Lagrage-relakserig, surrogatrelakserig og semidefiit-relakserig. Det ville være for vidtgåede at beskrive de ævte tekikker i dee itroduktio, me f.eks. Wolsey [4] beskriver mage af dem. Se dog opgave 7 for et eksemple på Lagrage-relakserig, og bemærk at lieær-relakserig blev beyttet i eksempel Nedre græseværdi Jo bedre edre græseværdi vi ka fide, des flere delproblemer ka vi bortskære, og des hurtigere vil algoritme termiere. Der fides e række metoder til opdaterig af de edre græseværdi: De simpleste metode er at lade brach-ad-boud algoritme kotrollere om det uværede delproblem S i ku ideholder e ekelt løsig x. I så fald er det relativt simpelt at kotrollere om løsige er lovlig, samt om de tilhørede løsigsværdi er bedre ed L. I sidstævte tilfælde opdateres L. I brach-ad-boud algoritme skal vi udrege e øvre græseværdi for hvert delproblem. Dee udreges ved at løse et relakseret problem. Ofte ka det relakserede problem omformes til e lovlig løsig for det origiale problem. For hvert delproblem ka ma bruge e heuristik til at fide e lovlig løsig. Dee ka være e grådig algoritme, eller de ka baseres på adre tilsvarede pricipper. Ide brach-ad-boud algoritme udføres, ka ma bruge e del kræfter på at fide e god iitiel edre græseværdi. Da dette ku skal gøres ee gag, behøver algoritme ikke at være specielt hurtig, om ed ma ofte vil forvete at de er polyomiel. 5. Øvre græseværdifuktio E god græseværdifuktio er afgørede for, at e brach-ad-boud algoritme bliver vellykket. Jo strammere græseværdier vi ka få, des midre bliver søgetræet. Som beskrevet i afsit 4 fides græseværdier ved relakserig af optimerigsproblemet. Der fides e række stadardtekikker, som ka beyttes i Søgestrategi Som tidligere ævt agiver søgestrategie et kriterium for hvilket delproblem S i, der er det æste, vi skal betragte i brach-ad-boud algoritme. Ma ka umiddelbart forestille sig e række forskellige hesigtsmæssige strategier: F.eks. kue det være e fordel hurtigt at fide e lovlig løsig, da værdie 4

13 af dee efterfølgede ka bruges som edre græseværdi L. Ma kue også vælge at betragte de delproblemer først, som ser mest lovede ud. Til vurderig af hvilke delproblemer, der er mest lovede, ka ma bruge de øvre græseværdi. Edelig kue ma forestille sig, at ma gere vil holde atallet af åbe delproblemer ede. Derfor kue e strategi være først at vælge de dårligste delproblemer (målt vha. deres øvre græseværdi), idet disse formetlig hurtigt ka bortskæres med e græseværditest. Mere formelt har vi:. Dybde-først-søgig. er vælges altid e kude på laveste iveau i søgetræet. Da bladkudere i søgetræet (ude bortskærig med græseværditest) svarer til lovlige løsiger, vil dee strategi hurtigt føre os til ogle lovlige løsiger. Dette giver os e edre græseværdi L, som vi ka bruge til at bortskære kuder med. Strategie er edvidere pladsmæssigt fordelagtig. vis vi atager, at hvert delproblem høst forgrees i et kostat atal ye delproblemer, så vil der aldrig være mere ed O m åbe delproblemer, år søgetræet har høde m.. Bedste-først-søgig. I dee søgestrategi betragter ma de delproblemer først, som har de største øvre græseværdi. Ma håber her på at delproblemer med e god øvre græseværdi også rummer de gode løsiger. Dermed vil vi formetlig fide e edre græseværdi L af god kvalitet. Bedste-førstsøgig har edvidere de fordel, at vi betragter det midst mulige søgetræ (se sætig 9 side 35). For at bruge bedste-først-søgig skal liste L af åbe delproblemer udvides til par af forme S i i, hvor i er e øvre græseværdi for S i. De øvre græseværdier ka bereges umiddelbart efter opdelige af S i i delproblemer (liie 0). 3. Bredde-først-søgig. er vil ma behadle alle delproblemer på et givet iveau i søgetræet, ide ma fortsætter til æste iveau i søgetræet. Sagt med adre ord vil bredde-først-søgig udvælge det åbe delproblem som ligger høest i søgetræet. Argumetet for at bruge bredde-først-søgig kue f.eks. være, at ma øsker samlet at behadle delproblemer, som har de samme mægde variable sat til e værdi. lempe ved bredde-førstsøgig er, at søgetræet ka blive ekspoetielt stort. For ogle problemer vil bredde-først-søgig svare til e slags dyamisk programmerigsalgoritme, som illustreret i opgave euristisk styret søgig. vis ma keder e god heuristik (f.eks. e grådig algoritme) for det give problem, ka det være hesigtsmæssigt at basere søgestrategie på dee algoritme. Brach-ad-boud algoritme vil da blive styret mod løsiger af god kvalitet, hvilket ka bruges til at opå e god edre græseværdi L. euristisk styret søgig ka kombieres med alle oveståede søgestrategier, idet ma bladt ligeværdige kadidater vælger de kude som heuristisk set ser mest lovede ud. 5.4 Forgreigsregel Forgreigsregle defierer, hvorledes et delproblem S i skal opdeles i et atal midre delproblemer Si Sk i. Forgreigsregle vil typisk være problemspecifik, me ved valg af opdelig skal ma tage følgede i betragtig: Forgreig sker ofte ved tilføelse af ekstra begræsiger. F.eks. ka e variabel sættes til e give værdi, e kat medtages eller feres, eller ma ka tilføe e geerel ulighed til problemet. Det er vigtigt at de ekstra begræsiger ikke ædrer problemets atur for meget, idet ma ellers skal udvikle helt ye græseværdier for delproblemere. Det er sædvaligvis ikke oge god ide at opdele S i i alt for mage delproblemer Si Sk i. vis ma i sit problem har e variabel xi 0 00 vil det æppe være oge god ide at geerere et delproblem for hver af de ekstra begræsiger x i 0, x i, x i,, x i 00. E biær forgreig efter x i 50, og x i 50 ville være bedre. Ved opdelig i delproblemer skal ma tilstræbe at søgetræet vokser symmetrisk. F.eks. hvis det ee delproblem ku ideholder e ekelt løsig, eller det ee delproblem umiddelbart ka bortskæres vha. e græseværditest, så har ma reelt set ikke fået opdelt kere af svære delproblemer. 5.5 Eksempler på brach-ad-boud algoritmer Eksempel 8 Kapsack-problemet De simpleste måde at implemetere e brach-ad-boud algoritme på er ved brug af dybde-først-søgig, idet algoritme da ka formuleres som e rekursiv procedure, hvor stakke bruges til at lagre alle delproblemer i L. 6

14 Vi vil illustrere dette pricip for kapsack-problemet. Vi aveder heuristisk styret søgig med de grådige strategi som udvælgelseskriterie. Derfor sorteres alle gestade efter aftagede profit-vægt forhold (9) ide udførelse af brach-adboud-dele, således at vi først forgreer på de gestad, som har størst profitvægt forhold. I tråd med de grådige strategi vælger vi altid at behadle delproblemet med x i ide delproblemet med x i 0. De rekursive brach-ad-boud algoritme for kapsack-problemet bliver da: w BRANCBONDKNAPSACK p w i if w c the retur udreg defieret på gestade i og med kapacitet c KP e øvre græseværdi for det betragtede delproblem er p KP. if L the if p L the L p; x : x x i : ; BRANCBONDKNAPSACK p p i w i i x i : 0; BRANCBONDKNAPSACK p w i edif Ved hvert kald til BRANCBONDKNAPSACK er i de æste gestad, vi vil forgree på, mes p i p x er profitsumme af de allerede valgte gestade, og w i w x er vægtsumme af de valgte gestade. Ide algoritme køres skal ma sætte x De edre græseværdi L ka iitielt sættes til 0, eller ma ka beytte de grådige løsig fra eksempel 5. erefter startes brachad-boud algoritme med kaldet BRANCBONDKNAPSACK 0 vis vi aveder oveståede brach-ad-boud algoritme på istase fra eksempel, fremkommer søgetræet vist på figur 3. Træet geemløbes dybde-først fra vestre mod høre. I hver kude agiver tallet de pågældede øvre græseværdi. Brach-ad-boud algoritme begyder med e iitiel edre græseværdi L 4, der er fudet med de grådige algoritme. På figure er markeret, hvor de edre græseværdi opdateres til L 5. De uderstregede tal svarer til ulovlige løsiger, dvs. løsigsvektorer x hvor w x c. 0. w. 6 x x x x x 3 x 3 0 x 3 x x 4 x 4 0 x 4 x 4 0 x 4 x L 5 x 5 x 5 0 x 5 x Figur 3: Brach-ad-boud træ for kapsack-problemet 7 8

15 Eksempel 9 Dese subgraph-problemet For at vælge e forgreigsstrategi for dese subgraph-problemet ka ma tage udgagspukt i græseværdie fra eksempel 6. Værdiere c i rummer e øvre græseværdi for, hvor stor katvægt-summe fra kude i ka blive. Dee øvre græseværdi ka bruges til at desige e heuristisk baseret forgreigsstrategi. Vi ka atage, at kuder med store værdier af c i er attraktive, hvorfor vi først forgreer på disse kuder, hvor det første delproblem vælger kude, mes det adet delproblem udelader kude. vis vi følger det grådige pricip, betragter vi først delproblemet, hvor e kude vælges. V 3 i i V 3 i Når e kude i forbydes i grafe, ka vi blot slette de tilhørede række og søle. Når e kude i vælges i grafe, skal vi slette de tilhørede række og søle i katmatrice og samtidig modificere matrice ved at sætte c : c i c for hvert, hvor i. Dee modifikatio af matrice betyder at hvis kude på et seere tidspukt vælges, vil ma automatisk få bidraget c i c i reget med i c. 9 c i c i Eksempel 0 Travelig salesma-problemet (miimerigsproblem) For travelig salesma-problemet kue ma i pricippet vælge e forgreigsstrategi svarede til de for kapsack-problemet: først vælges e kat fra kude, derefter vælges e kat fra de kude, hvortil ma år, etc. Erfarig viser dog, at dette ikke er oge god forgreigsstrategi. E lagt bedre strategi er at tage udgagspukt i det -træ, som blev fudet ved græseværdiberegige. vis alle kuder har vales, har vi fudet e amilto-kreds, og da vores øvre græseværdi høst svarer til værdie af dee amilto-kreds, vil vi kue bortskære delproblemet med e græseværditest. Ellers må midst e kude have vales større ed. Vælg dee kude og forbyd på skift de kater, som udgår fra kude. Bemærk, at dee forgreigsstrategi vil have varierede forgreigsgrad alt afhægig af de valgte kudes vales. Forbud af e kat i er temmelig simpelt at implemetere. Ma sætter blot de tilhørede katvægt d i d i. Når brach-ad-boud algoritme veder tilbage fra uderproblemet, sættes katvægte til de gamle værdi. 3 forbyd (,7) forbyd (6,7) forbyd (7,8) I eksempel 7 fadt vi et -træ, hvor kude 7 havde vales 3. Derfor forbyder vi u på skift katere 7, 6 7 og 7 8. I det første delproblem bliver prise

16 af -træet L 97. I det adet delproblem fider vi L 98, mes i det sidste delproblem bliver L 05. Bemærk, at det sidstævte delproblem giver os e lovlig løsig, som vi ka bruge som øvre græseværdi. 6 Kvalitet af græseværdifuktioe Atag for et givet maksimerigsproblem, at der fides to øvre græseværdifuktioer og. Vi øsker at kue sammelige kvalitete af de to græseværdifuktioer. Defiitio 3 De øvre græseværdifuktio domierer de øvre græseværdifuktio, hvis der gælder at: for alle istaser for midst e istas Med adre ord skal græseværdifuktio returere midst lige så gode græseværdier som, og der skal fides istaser, hvor giver skarpt bedre græseværdier. Defiitioe kræver ikke, at altid giver bedre græseværdier ed. Dette ville være meget svært at overholde. 6. Eksempler på domias Eksempel Kapsack-problemet I eksempel 5 fadt vi e øvre græseværdi for kapsack-problemet ved at løse det fraktioelle kapsack-problem. Vi vil u præsetere e alterativ græseværdi 0 givet ved relakserige KP 0 KP p x w x c x 0 (9) Atag, at gestadee er sorteret i aftagede profit-vægt forhold som givet ved (9). Græseværdie 0 ka da udreges som: KP 0 KP c w p (0) Ma vil typisk sortere gestadee i hehold til (9) før ma kører e brach-adboud algoritme. Græseværdie 0 ka da fides i tide O ide i brachad-boud KP dele. Bemærk, at domierer 0. Dette ses af, at fides ved relakserig til KP KP KP løsigsrummet T x x w x c 0 x, mes 0 KP fides ved relakserig til T defieret uder (9). Da T T og begge relakseriger bruger samme obektfutktio gælder 0. KP KP Det er relativit simpelt at fide et eksempel på at 0. For istase fra KP KP eksempel er 0 7 mes 6 KP KP 3. Eksempel Travelig salesma-problemet (miimerigsproblem) I eksempel 7 så vi, hvorledes -træ relakserige ka bruges til at fide de edre græseværdi L TSP. Vi vil her beskrive, hvorledes ma ka stramme dee græseværdi. Pricippet er at omformulere afstadsmatrice d i, således at lægde af e amilto-kreds er uædret, me -træ relakserige returerer e strammere græseværdi. Løst sagt, så vil vi straffe -træer, som ikke er e amilto-kreds. I e amilto-kreds vil der være etop to valgte kater for hver kude. Lad derfor v i være valese af e kude i, dvs. atallet af icidete kater, som blev valgt ved løsig af -træ relakserige. Vi øsker at straffe kuder med vales større ed, mes kuder med vales midre ed beløes. Derfor modificeres afstadsmatrice d på følgede vis: d i d i v i De ye græseværdi fides ved at bestemme et midste -træ med hesy til katvægtee : d i v Bemærk, at der er tale om e relakserig, idet vi har udvidet løsigsrummet til T x x w x c x 0. Edvidere har begge problemer samme obektfuktio. L TSP mi i d i E er et -træ () 3 3

17 vis vi betragter -træ relakserige fra eksempel 7, så har kudere følgede vales: v, v, v 3, v 4, v 5, v 6, v 7 3, og v 8. Dette betyder, at alle kater, som er icidete med kude 7, gøres dyrere, mes alle kater, som er icidete med kude 5, gøres billigere. Dermed får vi følgede modificerede afstadsmatrix : d i i Ved løsig af -træ relakserige for det modificerede problem fides x 3 x 34 x 48 x 56 x 58 x 78 x x 8, hvor de første seks kater agiver det midste udspædede træ bladt kudere. Samlet fås e edre græseværdi på L TSP For at vise, at L er e lovlig edre græseværdi, skal vi godtgøre, at der er TSP tale om e relakserig. Løsigsrummet S E er e amilto-kreds er e delmægde af T E er et -træ, som bemærket i slutige af eksempel 7. Obektfuktioe ka skrives: g x i d i i Me for ehver amilto-kreds har vi g x i i i d i d i d i v i i 0 d i v i 0 v i v f x i v v () (3) hvor f x agiver de origiale obektfuktio som defieret i (6). Bemærk, at summere i v bliver ul for ehver amilto-kreds, idet katere i vil gå igeem hver kude etop ee gag, og summe af valesere er etop. Vi ka u se, at problemet () har de egeskab, at g x f x for alle løsiger x S. Ma ka getage iteratiosprocesse et atal gage. For oveståede eksempel giver de efterfølgede iteratioer græseværdiere i Lad L 3 TSP i k L TSP betege de bedste græseværdi fudet ved oveståede metode med k iteratioer. Da gælder, at L 3 domierer L. Det ses emt TSP TSP at L 3 L, idet de første iteratio foregår med de origiale afstadsmatrix, TSP TSP således at vi fider samme græseværdi som L TSP. Edvidere viser oveståede eksempel, at der fides e istas, hvor L 3 L. TSP TSP 7 Kritiske og Semikritiske delproblemer Vi betragter som tidligere et optimerigsproblem på forme z f x x S. Lad der være givet e forgreigsregel som opdeler S i midre delproblemer S Sm, og e øvre græseværdi-fuktio S i. Et delproblem S i siges at være kritisk hvis og ku hvis der gælder at hvor z er de optimale løsig. S i 34 z (4)

18 Det er oplagt, at uaset hvilke søgestrategi og startløsig L vi beytter, så skal alle kritiske delproblemer behadles af brach-ad-boud algoritme. På tilsvarede måde siger vi, at et delproblem S i er semikritisk hvis og ku hvis, der gælder at z (5) S i Sætig 8 vis z er kedt fra starte, vil ehver brach-ad-boud algoritme ku geemsøge de kritiske delproblemer (svarede til de valgte forgreigsregel og græseværdi-fuktio). Bevis: Et delproblem er kritisk, hvis S i z. vis vi bruger de edre græseværdi L z i alle delproblemer, ka vi forkaste alle delproblemer med z. Det iteressate ved oveståede sætig er, at hvis vi keder de optimale løsig fra starte, er der ige forskel på bedste-først-, dybde-først-, eller breddeførst-søgig. Ma ka derfor avede de mest pladsbesparede variat. Sætig 9 aset de iitielle edre græseværdi vil bedste-først søgestrategie ku behadle de semikritiske delproblemer. Bevis: Vi beviser dette idirekte. Atag, at bedste-først søgestrategie behadlede et delproblem S i, der ikke var semikritisk, dvs. at S i z. Dette ka ku lade sig gøre, hvis vi på det give tidspukt har L z, idet vi ellers ville forkaste delproblemet med græseværditeste (7). Da vi bruger bedste-først-søgig må der gælde, at S i S for alle adre delproblemer S L. Me så har vi for alle delproblemer i L, at z S dvs. z ka ikke fides i oge af delløsigsrummee, så z fides ikke. Sætige siger med adre ord, at bedste-først-søgig sikrer, at de optimale løsig z vil blive fudet, ide ma betragter delproblemer S i med z. 35 S i S i S i 8 Kuste at desige e god brach-ad-boud algoritme Da brach-ad-boud paradigmet bruges til løsig af N P -hårde optimerigsproblemer, ka ma sældet matematisk bevise, at e give brach-ad-boud algoritme er bedre ed adre. I stedet må ma foretage e empirisk afprøvig med typiske datasæt for at godtgøre, at e algoritme er godt desiget. Følgede tommelfigerregler ka beyttes ved desig af algoritmer: Det formetlig vigtigste valg i desig-processe er græseværdifuktioe. er skal ma tilstræbe de strammest mulige græseværdi, som ka opås i polyomiel tid. Da søgetræet vokser ekspoetielt vil ehver polyomiel græseværdi, som effektivt ka bortskære store dele af søgerummet, asymptotisk set kue betale sig. Erfarigsmæssigt skal græseværdifuktioe give græseværdier, som ligger % fra optimum, for at de ka bruges til oget. vis græseværdie ligger 0 30% fra optimum, ka ma lige så godt bruge brute-force opremsig. Når først græseværdifuktioe er valgt, skal ma vælge forgreigsregle, således at de ekstra begræsiger i delproblemere ka hådteres effektivt af græseværdifuktioe. Det er e god ide at lægge mage kræfter i at kostruere e god startløsig. De ideelle situatio er at fide e ær-optimal løsig med heuristikker, således at brach-ad-boud algoritme ku bruges til at bevise optimalitet af dee løsig. I praksis vil ma ofte have e tidsfrist for, hvad brugere vil acceptere som rimelig køretid. Samtidig vil brugere have et atal istaser, som øskes løst i dee tid. I e såda situatio er det kuste at afvee ytte af stramme (me tidsmæssigt dyre) græseværdier overfor løsere (me tidsmæssigt billige) græseværdier. Brach-ad-boud eger sig til parallel beregig, dvs. at mage processorer deltager i løsig af et optimerigsproblem. Ideelt set ka M processorer geemsøge løsigsrummet M gage hurtigere ed på e ekelt processor. Dette gælder dog ku såfremt, der ikke spildes e væsetlig del af cputide på kommuikatio mellem processorere, og såfremt processoreres 36

19 arbede ikke overlapper. Se Clause [6] eller Xu og Lau [5] for e dybere diskussio af parallelle algoritmer. Der fides et atal softwarepakker til rådighed, som ka gøre algoritmeudviklige hurtig, se f.eks. [3]. Der er i de seeste år præseteret e del forbedriger til brach-ad-boud metode, heribladt strog brachig af Lideroth og Savelsbergh [7], local brachig af Fischetti og Lodi [9], pseudocost brachig af Beichou m.fl. [5], samt edelig reliability brachig af Achterberg, Koch og Marti []. Local brachig har til formål at fastholde søgige i områder med gode løsiger. vis algoritme allerede har fudet e god kadidat-løsig, vil local brachig forhidre brach-ad-boud algoritme i at søge lagt væk fra dee løsig. Dette gøres ved at tilføe e y begræsig til problemet som sætter e øvre græse på atallet af variable der må ædres i forhold til kadidat-løsige. Først år hele det tilhørede løsigsrum er blevet udersøgt, udersøges løsiger som afviger mere fra de give kadidatløsig. Strog brachig er e tekik til at udvælge e god forgreigs-variabel i brach-ad-boud algoritme. Strog brachig udersøger et atal kadidatvariable specificeret af brugere. For hver kadidat-variabel testes samtlige forgreiger og de tilhørede græseværdi udreges. Baseret på disse stikprøver vælges e af de foreslåede kadidat-variable til de egetlige forgreig i brach-ad-boud algoritme. Pseudocost brachig vedligeholder iformatio om hvor succesfuldt det har været at forgree på hver ekelt variabel. Reliability brachig kombierer ideere fra pseudocost brachig og strog brachig. Achterberg, Koch og Marti [] sammeliger e række af de bedste brachig strategier eksperimetelt. Der fides e række ope-source pakker tilgægelige på ettet som gør det emmere at udvikle e brach-ad-boud algoritme. Disse omfatter bl.a. COIN [8] og ABACS []. Begge er specielt veleget til at udvikle brach-ad-cut og brach-ad-price algoritmer. Som med alt adet her i livet er erfarig e uvurderlig hælp. Jo flere brachad-boud algoritmer ma har desiget, des bedre har ma følig for, hvorda de ekelte kompoeter skal kombieres for at skabe e god algoritme Opgaver Opgave I afsit blev det ævt at teorie om N P -fuldstædighed ikke udelukker, at mage istaser for et N P -hårdt optimerigsproblem ka løses i polyomiel tid. s Betragt subset-sum-problemet defieret på e mægde heltal S s s samt heltallet t. Subset-sum-problemet i optimerigsversioe søger e delmægde S S, så S s kommer så tæt på t som muligt ude at overskride t. Vis, at subset-sum-problemet ka løses i O t tid vha. dyamisk programmerig I Corme m.fl. [7] afsit vises, at subset-sum-problemet i afgørlighedsversioe er N P -fuldstædigt ved reduktio fra 3CNF-satisfiability. Opskriv et udtryk for størrelsesorde af t ved dee reduktio i forhold til iput-størrelse af 3CNF-satisfiability. 3 Siger reduktioe fra 3CNF-satisfiability oget om sværhede af at løse subset-sum for små værdier af t? Er subset-sum svært at løse i praksis, hvis de fleste realistiske problemer omfatter moderat små værdier af t? Opgave Bevis, at hvis de optimale løsig z kedes fra starte af e brachad-boud algoritme, vil alle søgestrategier besøge lige mage kuder. Opgave 3 Betragt kapsack-problemet, som blev defieret i eksempel. Brug bredde-først-søgig for istase fra eksempel, hvor du beytter græseværdi 0 til at bortskære delproblemer. KP Vi defierer domias af delproblemer som følger: Betragt to delproblemer S og S, hvor begge problemer rummer præcis de samme mægde frie variable. Lad edvidere p være profit-summe svarede til de variable, der er blevet låst fast til e værdi ved forgreig i S, og w være de tilhørede vægtsum. På samme måde defierer vi p og w for delproblem S. Vi siger, at S domierer S, hvis p p og w Vis, at hvis S domierer S, så ka S forkastes ude, at vi går glip af e optimal løsigsværdi. 38 w

20 λ Brug domias i bredde-først-søgige fra første del af opgave. Ka ma give e øvre græseværdi for køretide af algoritme? Sammelig bredde-først-søgig, hvor ma bruger domias, med dyamisk programmerig. Opgave 4 I dese subgraph-problemet blev det ataget at alle katvægte er ikkeegative. Vis, at hvis der fides egative katvægte, så ka problemet trasformeres til et ækvivalet problem ude egative katvægte. Ækvivalet betyder her, at ma vil fide de samme løsig, me ikke ødvedigvis de samme løsigsværdi. Opgave 5 I defiitioe af et optimerigsproblem () er vi ku iteresseret i e ekelt løsig, som maksimerer obektfuktioe. Der fides dog avedelser, hvor ma har behov for at fide samtlige optimale løsiger. vorledes skal brach-ad-boud paradigmet ædres, således at ma ka bestemme samtlige optimale løsiger? Opgave 6 Betragt et optimerigsproblem på forme (), hvor vi atager at alle beslutigsvariable er 0- variable. Det vil tydeligvis være e fordel, hvis ma på forhåd kue låse ogle af variablee fast på deres optimale værdi. Dermed ville brach-ad-boud algoritme kue øes med at geemløbe et midre søgetræ, således at køretide reduceres. Variabelreduktio ka ses som et specialtilfælde af brach-ad-boud algoritme. vis der er beslutigsvariable x x, vil ma geemløbe disse for i og hver gag abrige variabel xi i rodkude af brach-ad-boud algoritme. Algoritme vil da forgree på to delproblemer Si 0 (hvor x i 0) og Si (hvor x i ). Græseværdiere for de to delproblemer bestemmes til 0 i og i. Bevis, at hvis 0 i L for e give edre græseværdi L, så ka vi låse værdie af x i til. Bevis tilsvarede, at hvis i L, så ka vi låse værdie af x i til 0. Det kue være øskværdigt at bruge kriteriet 0 i L til at låse værdie af x i til (og tilsvarede ved låsig til 0). der hvilke omstædigheder ka ma beytte dee strammere test? 39 0 origiale problem x 0 x Figur 4: Forgreig på de to forskellige værdier af x. Aved begge reduktiospricipper på kapsack-problemet fra eksempel, hvor L 4. Geeraliser pricippet til problemer, hvor beslutigsvariablee ikke ødvedigvis er 0- variable. Opgave 7 Lagrage-relakserig. Betragt kapsack-problemet z For et givet reelt tal λ stedet straffe z LR λ p x w x c x 0 (6) 0 sletter vi begræsige w x c og tilføer i w x c i obektfuktioe. Dermed får vi problemet p x w x Vis at (7) er e relakserig af (6) for ethvert λ c x 0. 0 (7) For istase fra eksempel afteg z LR som fuktio af λ i itervallet 0 5. For hvilke værdi af λ fås de strammeste græseværdi? Betragt kapsack-problemet i geerel form (6), og lad b være givet som i (0). Vis at λ p b w b fører til de strammeste græseværdi. Vi vil betege dee græseværdi. KP Gælder der, at domierer eller vice versa? KP KP 40