Lineær programmering. Maksimer c T u.b.b. A b hvor > 0. Vores metode er også nytteløs her. Ekstrema- teori og praksis

Transkript

1 Lineær programmering Ekstrema- teori og praksis Maksimer c T u.b.b. A b hvor > 0 Vores metode er også nytteløs her MAT3, EFTERÅR 2011 GROUP G3-112 INSTITUT FOR MATEMATISKE FAG AALBORG UNIVERSITET 16. DECEMBER 2011

2

3 Titel: Lineær programmering Tema: Ekstrema- teori og praksis Projektperiode: MAT3, efterår 2011 Projektgruppe: G3-112 Gruppemedlemmer: Institut for Matematiske Fag Aalborg Universitet Frederik Bajers Vej 7G DK-9220 Aalborg Øst Tlf.: Synopsis: Michael Garde Haixia Wen Thomas Rune Hansen Anette Westberg Hansen Kristian Nørgaard Jakobsen Denne rapport er skrevet under semestertemaet Ekstrema - teori og praksis og har til formål at studere optimering af funktioner af flere variable med fokus på lineære programmer og løsning af disse. I særdeleshed sigtes der mod en dybere forståelse af simplex metoden. Vi viser derudover, at optimale løsninger ligger i den tilladelige mængdes hjørnepunkter, og argumenterer for, at simplex metoden returnerer sådanne løsninger. Til sidst anvender vi teorien og løser et diætproblem, baseret på konkrete data, der formuleres som et lineært program med 68 variabler og 22 bibetingelser. Vejleder: Mikkel Haggren Brynildsen Oplagstal: 8 Antal sider: 54 Bilag: 1 Afsluttet: 16. december 2011 Rapportens indhold er frit tilgængeligt, men offentliggørelse (med kildeangivelse) må kun ske efter aftale.

4

5 Forord Denne projektrapport blev udformet i perioden fra 2. september til 16. december Den er resultatet af et studie udført af 5 matematikstuderende på 3. semester på Institut for Matematiske Fag ved Aalborg Universitet og er skrevet under projekttemaet Ekstrema, teori og praksis. Temaet for denne rapport er Lineær programmering. Hovedformålet er at studere optimering af funktioner af flere variable med fokus på lineære programmer og løsning af disse. I særdeleshed sigtes der herunder mod en dybere forståelse af den mest udbredte løsningsmetode simplex metoden. Forsiden er inspireret af

6

7 INDHOLD Indhold Forord Indhold iii v Indledning 1 1 Grundlæggende teori Mængder Euklidisk rum Åbne og lukkede kugler Åbne og lukkede mængder Begrænsede mængder Indre punkter Kontinuitet Konvekse mængder Optimering Ekstrema for differentiable funktioner af én variabel Ekstrema for differentiable funktioner af flere variable Ekstrema for reelle funktioner i R n Ekstrema for differentiable funktioner i R n Nødvendige og tilstrækkelige betingelser for ekstremum Optimeringsproblemer og løsningsmetoder Lineære optimeringsproblemer Ikke-lineære optimeringsproblemer Lineær programmering Definition af et kanonisk lineært program Problematikker i lineære programmer Formulering af et lineært program Ækvivalente omskrivninger Regneregler Standard form Dualitet Eksistensen af en optimal løsning Basisløsninger Geometrisk løsningsmetode Simplex metoden INDHOLD v

8 3.7.1 Historie Overblik Simplex Algoritmen Problematikker i simplex algoritmen Simplex metodens validitet Diætproblemet Databeskrivelse Formulering af diætproblemet som et lineært program Begrænset udsnit af diætproblemet Formulering i Excel Resultater Diskussion og perspektivering Opsummering 49 A Bilag 51 A.1 Ekstrema for åbne delmængder i R n Litteratur 53

9 INDHOLD Indledning Optimering er en matematisk disciplin, der finder stor anvendelse på en lang række områder. I alle tænkelige sammenhænge kan der opstå behov for at finde en optimal løsning på et givet problem. Man ønsker at minimere eller maksimere udfaldet af en situation, der typisk er underlagt nogle betingelser. Forfølgelsen af dette mål starter i formuleringen af det pågældende problem som en matematisk funktion underlagt matematiske betingelser. Arten af den matematiske formulering, man giver problemet, viser sig at have stor betydning for det mulige i at identificere og beregne den eftersøgte løsning og for de metoder, man har til rådighed. I denne rapport beskæftiger vi os med den klasse af optimeringsproblemer, der kaldes lineære programmeringsproblemer, og vi fokuserer navnligt på én konkret løsningsmetode - simplex metoden. Simplex metoden er interessant, da det er den mest udbredte lineære løsningsmetode. Dette studie sigter både på en teoretisk redegørelse for grundlaget af eksistensen af optimale løsninger, og teorien eksemplificeres i et tænkt diætproblem baseret på data fra Danmarks Statistik og Fødevaredatabanken ved DTU. Det opstillede lineære diætproblem løses ved hjælp af Microsoft Excels Problemløser, som anvender simplex metoden. Læsevejledning Da rapporten behandler emner i matematik relevant for Matematiks andet studieår ved Aalborg Universitet, anbefales det, at man er bekendt med emner fra lineær algebra (se evt. [Lay, 2006a] el. [Spence et al., 2007]) og calculus (se evt. [Adams and Essex, 2009] el. [Edwards and Penney, 2008]), foruden matematik på gymnasialt niveau. Der er i rapporten krydshenvisninger til andre dele af rapporten. Der er gjort brug af dette for at gøre det nemmere for læseren at finde relateret teori. Henvisninger er skrevet i rapportens tekst og kan eksempelvis være: se afsnit 2.2. Henvisninger til kilderne i litteraturlisten er angivet ved [efternavn, årstal], f.eks. [Wade, 2010, s. 288], hvor der i dette tilfælde er refereret til side 288. Literaturlisten er sorteret i alfabetisk orden efter kildeforfatternes efternavne. Vi refererer til figurer, tabeller, sætninger og definitioner m.m. med f.eks. sætning 1.9, og ligninger får tildelt nummer på samme måde men med parentes om. F.eks. se (3.1). Kapitel 1 til 3 udgør rapportens teoretiske redegørelse, der bevæger sig fra det mere INDHOLD 1

10 INDHOLD grundlæggende og generelle til det mere specifikke. Kapitel 1 giver forudsætninger for at påbegynde et studie af ekstrema for funktioner. Hernæst følger i kapitel 2 en generel indførelse i, hvordan man kan identificere og karakterisere ekstrema. Endelig indsnævrer vi i kapitel 3 optimeringsstudiet til lineær programmering samt den specifikke løsning af disse ved hjælp af simplex metoden. Den netop gennemgåede teori anvendes og demonstreres herefter som problemløsende værktøj i kapitel 4. Der formuleres og løses et større lineært program på baggrund af et tænkt optimeringsproblem. Dette diætproblem, formuleret i Excel, er at finde på den vedlagte cd-rom eller kan downloades på Afslutningsvis opsummeres rapportens hovedpunkter. Vedlagt herefter er et bilag, der indeholder teori, som er relevant, men ikke essentielt for rapportens indhold. Sidst i rapporten findes litteraturlisten. Kildekritik Størstedelen af kilderne, som benyttes i denne rapport, er lærebøger. De mest anvendte kilder af denne art er [Wade, 2010] og [Lay, 2006b]. En central kilde er desuden [Goemans, 1994], som er undervisningsnoter til en forelæsning på Massachusetts Institute of Technology omhandlende lineær programmering. I kapitel 4 benyttes to kilder som base for de data, som diætproblemet bygges op omkring. De omtalte data stammer fra [Danmarks Statistik, 2010] og [Saxholt et al., 2009]. I den første af kilderne, der er en fødevareprisliste, er dataene forældede, og listen er begrænset. Den anden kilde, som lister fødevarer i sammenhæng med deres næringsindhold, er mere repræsentativ, da den omfatter over 1000 forskellige fødevarer. En større diskussion af disse forefindes i afsnit INDHOLD

11 1 Grundlæggende teori Forud for rapportens overordnede emne optimering med hovedfokus på lineær programmering studeres først en række tilgrundliggende emner for at få en bedre forståelse for den lineære programmerings grundlag. Dette kapitel udgør starten af dette studie, og vi træder således et skridt tilbage og opbygger et fundament baseret på mængder, kontinuitet af funktioner og konvekse mængder. Formålet er at give et mere solidt grundlag for den videre forståelse af emnerne i kapitel 2, der omhandler optimering generelt. 1.1 Mængder Mængder er et fundamentalt emne i mange af områderne i denne rapport. Eksempelvis er reelle funktioner af flere variable (se afsnit 2.2 på side 14) defineret på mængder (af punkter) i R n analogt med måden, hvorpå funktioner af én variabel er defineret på reelle intervaller. Det antages, at læseren er bekendt med basale egenskaber omkring mængder, og dette afsnit fokuserer derfor blot på at introducere relevante emner til senere brug Euklidisk rum Dette afsnit er baseret på [Wade, 2010, s ] Et Euklidisk rum er R n, hvor der også gælder det Euklidiske skalarprodukt x y := x 1 y 2 + x 2 y x n y n, hvor x = (x 1,..., x n ), y = (y 1,...,y n ) R n. Normen x a er den Euklidiske afstand imellem punkterne x og a, som er defineret ved: dist(x,a) = x a = (x 1 a 1 ) 2 + (x 2 a 2 ) (x n a n ) Åbne og lukkede kugler Dette og det næste afsnit er baseret på [Wade, 2010, s. 288]. Vi indfører begrebet kugle, som rummer alle punkter indeholdt i kuglen og evt. på kuglefladen. 1. Grundlæggende teori 3

12 1.1 Mængder DEFINITION 1.1 Lad a R n i. For ethvert r > 0, er en åben kugle med centrum i a og radius r mængden af alle punkter givet ved B r (a) := {x R n : x a < r}. ii. For ethvert r 0, er en lukket kugle med centrum i a og radius r mængden af alle punkter givet ved B r [a] := {x R n : x a r}. Vi kalder alle punkter i {x : x a = r} for randpunkter eller ofte blot randen af kuglen. En åben kugle B r (a) rummer dermed alle punkter x, der ligger indenfor randen af kuglen, men ingen af punkterne på randen, hvorimod den lukkede kugle B r [a] indeholder alle punkter indenfor og på randen. Bemærk at hvis n = 1, så er en åben kugle B r (a) med centrum i a og radius r intervallet; (a + r, a r) i R Åbne og lukkede mængder Vi får brug for en notation omkring mængder, som er analog med åbne og lukkede intervaller i R. Med følgende definition er det muligt at vise, hvorvidt en mængde er åben eller lukket. DEFINITION 1.2 Lad n N. i. En delmængde V af R n siges at være åben (i R n ), hvis og kun hvis der for alle a V, eksisterer et ε > 0, således at B ε (a) V. ii. En delmængde E af R n siges at være lukket (i R n ), hvis og kun hvis E c := R n \ E er åben. Med (i) forstås, at en mængde V er åben, hvis og kun hvis man i alle punkter i V kan lave en åben kugle som er indeholdt i V. (ii) fortæller, at en mængde E er lukket, hvis og kun hvis komplementærmængden E c er åben Grundlæggende teori

13 1.1 Mængder Begrænsede mængder Dette afsnit er baseret på [Wade, 2010, s. 16, 20]. For at kunne beskrive en mængde som værende begrænset, defineres først den øvre og den nedre grænse for mængden. DEFINITION 1.3 Lad E R være en ikke-tom mængde. i. Mængden E siges at være opadtil begrænset, hvis og kun hvis der eksisterer et M R, således at a M for alle a E, i hvilket tilfælde M kaldes en øvre grænse for E ii. Et tal s kaldes et supremum for mængden E, hvis og kun hvis s er en øvre grænse for E, og s M for alle øvre grænser M for E. (I dette tilfælde siger vi, at E har et endeligt supremum s og skriver s = sup E.) Vi kan nu afgøre, om en mængde har en øvre grænse, men for at kunne betegne en mængde som begrænset skal der også være en nedre grænse for mængden. DEFINITION 1.4 Lad E R være en ikke-tom mængde. i. Mængden E siges at være nedadtil begrænset, hvis og kun hvis der eksisterer et m R, således at a m for alle a E, i hvilket tilfælde m kaldes en nedre grænse for E ii. Et tal t kaldes et infimum for mængden E, hvis og kun hvis t er en nedre grænse for E, og t m for alle nedre grænser m for E. (I dette tilfælde siger vi, at E har et infimum t og skriver t = inf E.) Ud fra definition 1.3 og 1.4 defineres en begrænset mængde således: DEFINITION 1.5 Lad E R være en ikke-tom mængde. E siges at være begrænset, hvis der eksisterer både en nedre og en øvre grænse for E. Vi kender nu betingelserne for en begrænset mængde E. Der skal eksistere M, m R, således at m a M for alle a E. Hvis dette er tilfældet, så kaldes M den øvre grænse og m den nedre grænse for den begrænsede mængde E. 1. Grundlæggende teori 5

14 1.2 Kontinuitet I R har vi, at et interval I kaldes begrænset, hvis og kun hvis det har formen [a,b], (a,b), [a,b) eller (a,b] for et < a b <, i hvilket tilfælde a og b kaldes endepunkter for I. Begrænset mængde i R n En mængde E R n siges at være begrænset, hvis der findes r > 0, således at E B r (0). Det vil sige, at der for alle x E gælder x < r Indre punkter Dette afsnit er baseret på [Wade, 2010, s. 297, ]. Med følgende definition kan man se, at alle mængder E har en størst åben mængde indeholdt i E og en mindst lukket mængde, der indeholder E. DEFINITION 1.6 Lad E R n, hvor R n er et Euklidisk rum. i. Indre punkter af E er mængden E 0 := {V : V E og V er åbent på R n }. ii. Aflukningen af E er mængden E := {B : B E og B er lukket på R n }. E 0 er altid åben, og E er altid lukket. E 0 er den største åbne mængde, som er indeholdt i mængden E. E er den mindste lukkede mængde, som indeholder mængden E. Når E er en åben mængde, er E 0 = E. Når E er en lukket mængde, er E = E. Betragt et lukket interval [a,b]. E 0 af dette interval er (a,b), og E af intervallet er [a,b]. Bemærk at alle mængder E indeholder den tomme mængde, og at E er indeholdt i R n, hvor er en åben mængde, og R n er en lukket mængde. 1.2 Kontinuitet Dette afsnit er baseret på [Wade, 2010, s. 321, 85-86]. Vi har siden gymnasiet antaget, at en funktion er kontinuert på E R, hvis der findes et a E, og f (x) konvergerer mod f (a), når x konvergerer mod a for funktioner defineret på begge sider af a. I det følgende gives en mere generel definition af kontinuitet, som også gælder for funktioner defineret på kun en side af a Grundlæggende teori

15 1.2 Kontinuitet DEFINITION 1.7 Lad E R n, hvor E =, og f : E R m. i. f siges at være kontinuert i a E, hvis og kun hvis der for alle ε > 0 findes et δ > 0, således at x a < δ, og x E medfører f(x) f(a) < ε. ii. f siges at være kontinuert på E, hvis og kun hvis f er kontinuert i ethvert punkt x E. Når n = 1 og m = 1, har vi normal kontinuitet i R. I resten af dette afsnit betragter vi kun funktioner defineret på R. Figur 1.1 viser punkt (i) af definition 1.7 for en funktion defineret i R. y f (a) + ε f (a) f (a) ε f (x) a δ a a + δ x Figur 1.1: Illustration af punkt (i) i definition 1.7 På figur 1.2 på næste side ses grafen for f (x) med definitionsmængde i R. Grafen er ikke kontinuert i punktet a, da lim x a f (x) ikke eksisterer. Grunden til, at der ikke findes en grænseværdi for x gående mod a, er, at grafen gør et spring i punktet a. Desuden er den nederste del af grafen ikke defineret i a, og den øverste del er defineret i a. DEFINITION 1.8 Lad E R, E =. En funktion f : E R siges at være begrænset på E, hvis og kun hvis der findes et M R, således at f (x) M for alle x E. Med definition 1.7 og 1.8 har vi lagt op til en af de fundamentale sætninger indenfor kontinuitet, som viser, at en kontinuert funktion defineret på et lukket og begrænset interval altid er begrænset. 1. Grundlæggende teori 7

16 1.2 Kontinuitet y f (x) a x Figur 1.2: Diskontinuitet i punktet a. SÆTNING 1.9 (Ekstremværdisætning) Hvis I er et lukket, begrænset interval, og f : I R er kontinuert på I, så er f begrænset, og hvis M = sup x I f (x) og m = inf x I f (x) så findes der punkter x m, x M I, således at f (x M ) = M, og f (x m ) = m. Vi benytter i følgende bevis to sætninger, som udelades: Bolzano-Weierstrass sætning [Wade, 2010, s. 56] hvis en følge af reelle tal er begrænset, så har den en konvergent delfølge. Sammenligningssætningen [Wade, 2010, s. 50] hvis et x n [a,b] konvergerer mod et punkt c, så tilhører c intervallet [a,b]. BEVIS Antag, at f ikke er begrænset på I. Dette betyder, at der eksisterer et x n I, således at f (x n ) > n, hvor n N. Da I er begrænset, har {x n } en delfølge {x nk }, som konvergerer mod a, når k konvergerer mod. Da I er lukket, er a I, og f (a) R. Fra antagelsen f (x n ) > n, erstattes n med n k. Tages grænseværdien af f (x n ) > n for k gående mod, har vi f (a) =, hvilket er i modstrid med at a I og f (a) R. Altså er f begrænset på I. Vi mangler nu at vise, at der findes et x M I, således at f (x M ) = M. Antager man i stedet, at f (x) < M for alle x I, så er funktionen g(x) = 1 kontinuert og M f (x) dermed begrænset på I. Dette betyder at g(x) = g(x) C, hvor C > 0. Dermed er f (x) M 1 C for alle x I. Tag supremum af f (x) M 1 C for alle x I, og vi får M M 1 C < M, hvilket er en modstrid. Derfor findes der et x M I, således at f (x M ) = M. Man kan bruge et analogt argument til at bevise, at der findes et x m I, således at f (x m ) = m. M er altså maksimum, og m er minimum for en funktion defineret på et lukket, begrænset interval. Maksimums- og minimumsbegreberne studeres i større detalje i afsnit 2.1 på side Grundlæggende teori

17 1.3 Konvekse mængder 1.3 Konvekse mængder Dette afsnit bygger på [Christensen, 2004, Afsnit 0] og [Wade, 2010, s. 418]. En mængde C i et reelt vektorrum kaldes konveks, hvis den lige linje imellem alle par af punkter i C også er indeholdt i C. Dette gælder for R 2 såvel som for hele R n. På figur 1.3 vises en konveks henholdsvis ikke-konveks delmængde af R 2 : mæng- (a) Konveks de. (b) Ikke-konveks mængde. Figur 1.3: Illustration af konvekse og ikke-konvekse delmængder af R 2 [Wikimedia Commons, 2011]. Af andre konvekse mængder kan nævnes f.eks. regulære polygoner og polyedre. Regulære polygoner er plane n-kanter i R 2, hvor siderne er lige lange, og vinklerne mellem dem er ens, i modsætning til irregulære polygoner. Regulære polyedre er dermed rumlige n-kanter, dvs. i R 3, hvor de samme betingelser gælder. Men polygoner og polyedre behøver ikke at være regulære for at være konvekse. DEFINITION 1.10 Lad x 0, x 1 være punkter i R n. Linjen l i planen gennem punkterne x 0 og x 1 med retningsvektoren x 1 x 0 har parameterfremstillingen: l(x 0,x 1 ) = {x 0 + t(x 1 x 0 ) t R}. Linjestykket L mellem x 0 og x 1 betegnes L(x 0,x 1 ), og er givet ved: L(x 0,x 1 ) = {x 0 + t(x 1 x 0 ) t [0,1]} Det bemærkes for L, at t nu kun kan ligge i intervallet [0,1], da længden af linjestykket, i modsætning til hele linjen l, ikke kan være længere end længden af dens retningsvektor x 1 x 0. Desuden kan linjestykket x 0 + t(x 1 x 0 ) omskrives til (1 t)x 0 + tx 1. Definition af en konveks mængde er dermed: 1. Grundlæggende teori 9

18 1.3 Konvekse mængder DEFINITION 1.11 Lad C være en delmængde af R n. C siges at være konveks, hvis og kun hvis L(x 0,x 1 ) C for alle x 0,x 1 C Det vises i sætning 3.10 på side 28, at den tilladelige mængde, som afgrænses af bibetingelserne i et lineært programmeringsproblem (se kapitel 3 på side 21), udgør en konveks mængde Grundlæggende teori

19 2 Optimering I matematik er optimering en disciplin, hvor der søges efter en optimal løsning til et givet problem. Et optimeringsproblem handler således om at finde den løsning, hvormed en funktion har maksimums- eller minimumsværdier. Man kalder dette at maksimere eller minimere funktionen. Optimering er en højst relevant disciplin. I utroligt mange sammenhænge opstilles der optimeringsproblemer, som man ønsker at finde en løsning på. Det anvendes indenfor så forskellige områder som f.eks.: Ernæring - at sammensætte den mest nærende kost på den billigste måde. Logistik - at få transporteret mest muligt til flest steder og på kortest tid. Skemaplanlægning - hvordan man får mest mulig produktion med mindst mulig bemanding. Netværk - at finde den mest optimale rute for internettrafik. Økonomi - at maksimere profit. Et lineært program (som vi går i detaljer med i kapitel 3) består af en lineær funktion og en række lineære bibetingelser. Vi er interesserede i at finde de løsninger til funktionen, som giver funktionen den mest optimale værdi under de begrænsninger, som de lineære bibetingelser definerer. Det være sig maksimal eller minimal værdi eller under ét: Ekstremum. Dette rejser imidlertid nogle spørgsmål omkring, hvordan man kan være sikker på, at der eksisterer løsninger til sådan en funktion, og hvordan man kan være sikker på, at sådanne løsninger er optimale. I dette kapitel fokuseres der på at fastlægge, hvad der med matematiske øjne forstås ved ekstremum og under hvilke betingelser, vi kan finde ekstremum. Desuden undersøges også under hvilke betingelser, vi kan være sikre på, at ekstremum eksisterer. Vi runder af med en kort diskussion af forskellige typer af optimeringsproblemer og deres tilhørende løsningsmetoder. 2.1 Ekstrema for differentiable funktioner af én variabel Dette afsnit er baseret på [Edwards and Penney, 2008, s. 147], [Wade, 2010, s. 105] og [Adams and Essex, 2009, s. 242]. Vi har fra sætning 1.9 på side 8, at der eksisterer punkter M og m, hvor en reel funktion, hvis definitionsmængde restringeres til et lukket interval i R, antager henholdsvis maksimum og minimum. Den følgende definition præciserer, hvornår en funktion siges at have maksimum eller minimum i et punkt. 2. Optimering 11

20 2.1 Ekstrema for differentiable funktioner af én variabel DEFINITION 2.1 Lad f være defineret på et lukket interval I og M,m I. Så siges f (M) at være et maksimum for f, hvis f (M) f (x) for alle x I. Tilsvarende siges f (m) at være et minimum for f, hvis f (m) f (x) for alle x I. En funktion f defineret på et åbent interval I har lokalt maksimum i c I, hvis der eksisterer et δ > 0, således at c x < δ og x I medfører, at f (c) f (x). Tilsvarende har f lokalt minimum i c I, hvis der eksisterer et δ > 0, således at c x < δ og x I medfører at f (c) f (x). En funktion f, med definitionsmængde I, kan også have enten et globalt minimum eller et globalt maksimum. Et globalt minimum findes i c, hvis f (c) f (x) for alle x I, og et globalt maksimum findes i c, hvis f (c) f (x) for alle x I. Den følgende sætning viser, at lokale ekstremum kan forekomme, hvor en funktions afledede er lig med nul. SÆTNING 2.2 Lad I være et åbent interval, f : I R og c I. Hvis f er differentiabel i c og har lokalt maksimum eller lokalt minimum i c, så er f (c) = 0. BEVIS Antag at f har lokalt maksimum i c, så er f (c + h) f (c) 0 for et lille h. Dermed er f (c + h) f (c) h Tag grænseværdien i (2.1). 0 for h > 0 og f (c + h) f (c) h 0 for h < 0. (2.1) f (c + h) f (c) lim 0 for h > 0 h 0 + h f (c + h) f (c) lim 0 for h < 0 h 0 h (2.2) Da f er differentiabel i c, eksisterer grænseværdierne i (2.2), og vi får f (c). Dermed er 0 f (c) 0, ved hjælp af klemmesætningen [Wade, 2010, s. 73], og det følger, at f (c) = 0. Tilsvarende kan beviset gennemføres for et lokalt minimum. BEMÆRKNING 2.3 Sætning 2.2 gælder kun, hvis f har lokalt ekstremum i c, hvilket betyder, at det omvendte derfor ikke generelt er sandt. F.eks. er den afledede af funktionen, f (x) = x 3, lig med nul i punktet (0,0). Dette punkt er dog hverken et maksimum eller et minimum, men derimod et punkt med såkaldt vendetangent. Vi studerer disse observationer i større detalje i afsnit på side Optimering

21 2.1 Ekstrema for differentiable funktioner af én variabel På figur 2.1 vises en kurve på et lukket interval I = [a,b], og det ses, at kurven har seks ekstremumspunkter. Ekstremumspunkterne findes i punkterne a, c, d, e, f og b. Der er et lokalt minimum i både c, e og b, og der er et lokalt maksimum i både a, d og f. Desuden er c et globalt minimum, og f er et globalt maksimum. y a c d e f x b Figur 2.1: Illustration af en graf på et lukket interval med ekstremumspunkter. For funktioner defineret på åbne intervaller er ekstremumspunkter, ved hjælp af differentialregning, særdeles lette at finde, da man blot behøver at finde løsningerne til funktionens differentialkvotient sat lig med nul. Disse skal så vurderes til enten at være maksimums-, minimumspunkt eller et punkt med vendetangent, hvilket vurderes ved at undersøge funktionens monotoniforhold (også kaldet en fortegnsundersøgelse). Er funktionen imidlertid defineret på et lukket interval, er det også nødvendigt at undersøge funktionen i intervallets endepunkter, da disse også må være lokale minima eller maksima. Vi præciserer disse observationer til R n i afsnit på side 17. En anden metode til at finde ud af, om en funktion enten har minimum, maksimum eller vendetangent, er ved hjælp af funktionens dobbelte afledede, f (x 0 ). Metoden hedder anden afledet testen og gives i følgende sætning, som ikke bevises 1. SÆTNING 2.4 Lad f være en to gange differentiabel funktion defineret på et åbent interval I og med kontinuert anden afledede. Lad x 0 I, og antag at f (x 0 ) = 0. Så gælder der, at i. hvis f (x 0 ) > 0, så er f (x 0 ) et lokalt minimum i x 0. ii. hvis f (x 0 ) < 0, så er f (x 0 ) et lokalt maksimum i x 0. iii. hvis f (x 0 ) = 0, kan en fortegnsundersøgelse af f (x) benyttes til at afgøre, om der er ekstremum eller vendetangent i x 0 Anden afledet testen giver for simple funktioner en hurtig måde at identificere lo- 1 For bevis af sætning 2.4 henvises læseren til [Adams and Essex, 2009, s. 242] 2. Optimering 13

22 2.2 Ekstrema for differentiable funktioner af flere variable kale ekstrema, men som punkt (iii) i sætningen siger, kan der ikke udledes et entydigt svar, hvis f (x 0 ) = 0, og vi må foretage en traditionel fortegnsundersøgelse. Vi har kort gennemgået ekstrema for funktioner i R for at give et indblik i, hvad ekstrema er. Funktioner i R frembringer relative simple tilfælde. Vi fokuserer derfor i det følgende på ekstrema for funktioner i R n for at udvide begrebet ekstrema. 2.2 Ekstrema for differentiable funktioner af flere variable Dette afsnit er baseret på [Wade, 2010, s. 398, ], hvis ikke andet er angivet. Vi lægger i dette afsnit ud med definition af ekstremum for en reel funktion defineret i R n og undersøger efterfølgende sammenhængen mellem ekstrema og en funktions afledede Ekstrema for reelle funktioner i R n Definitionen 2.5 udvider definition A.1 på side 51, så også randpunkter i funktionens definitionsmængde kan inkluderes. Desuden anvendes begrebet om kugler fra afsnit på side 3. DEFINITION 2.5 Lad V være en delmængde af R n, lad a V og antag at f : V R, så gælder der at: i. f (a) kaldes et lokalt minimum af f, hvis og kun hvis der er et r > 0, således at f (a) f (x) for alle x (B r (a) V). ii. f (a) kaldes et lokalt maksimum af f, hvis og kun hvis der er et r > 0, således at f (a) f (x) for alle x (B r (a) V). iii. f (a) kaldes et lokalt ekstremum af f, hvis og kun hvis f (a) er et lokalt maksimum eller lokalt minimum af f. Bemærk at x (B r (a) V) sikrer, at x ligger i funktionens definitionsmængde V, hvis kuglen B r (a) har punkter, som ligger udenfor V. Denne notation giver også mulighed for, at x kan være et randpunkt i V. Disse observationer er illustreret på figur 2.2 på næste side. Ækvivalent med funktioner i R kan en funktion defineret i R n også have globale ekstrema Optimering

23 2.2 Ekstrema for differentiable funktioner af flere variable r a x V B r (a) V Figur 2.2: Illustration af mængden B r (a) V fra definition 2.5. Da V er en lukket mængde, er det muligt, at x kan være et randpunkt i V. DEFINITION 2.6 Lad V være en delmængde af R n, lad a V og antag at f : V R, så gælder der at: i. f (a) kaldes et globalt minimum af f, hvis og kun hvis f (x) f (a) for alle x V. ii. f (a) kaldes et globalt maksimum af f, hvis og kun hvis f (x) f (a) for alle x V. Vi har dermed klarlagt, hvordan man kan afgøre, hvorvidt et punkt er et ekstremumspunkt. I næste afsnit undersøges, hvordan ekstrema kan identificeres, og hvorvidt det er muligt at finde ekstremumspunkter Ekstrema for differentiable funktioner i R n Som vi skal se i det følgende, kan ekstremum af reelle differentiable funktioner i R n ligeledes forekomme i punkter, hvor den afledede er lig nul. For funktioner f : R n R bruges notationen for gradienten f : R n R n, hvor alle første ordens partielle afledede eksisterer; f (a) := ( f (a), f (a),..., f ) (a). x 1 x 2 x n Gradienten af f (a) er således en vektor indeholdende alle første ordens partielle afledede af f (x) i punktet a. Gradienten siges ikke at eksistere, hvis mindst én af de første ordens partielle afledede ikke eksisterer, eller hvis a er et randpunkt. Sidstnævnte følger af, at alle gradientens første ordens partielle afledede ikke er defineret i et randpunkt, men kun på en åben mængde. 2. Optimering 15

24 2.2 Ekstrema for differentiable funktioner af flere variable LEMMA 2.7 Hvis alle første ordens partielle afledede af en funktion f eksisterer i punktet a, og f (a) er et lokalt ekstremum af f, så er f (a) = 0. BEVIS Lad g(t) = f (a 1,..., a j 1,t, a j+1,..., a n ). g(t) er en endimensional funktion, som har et lokalt ekstremum i t = a j, hvor j = 1,...,n. Fra sætning 2.2 gælder der, at f (a) = g (a j ) = 0 x j For funktioner af én variabel har vi, at det er nødvendigt at undersøge en funktions montoniforhold for at kunne identificere, hvorvidt et givet punkt kan være et punkt med vendetangent og dermed ikke et ekstremum. Det er vigtigt at bemærke, at der som i det endimensionale tilfælde gælder for R n, at lemma 2.7 er en nødvendig betingelse for eksistensen af et ekstremumspunkt. Imidlertid er det ikke en tilstrækkelig betingelse for, at f (a) er et lokalt ekstremum. Vi præciserer i det følgende betydningen af disse betingelser, men giver først et par motiverende eksempler. EKSEMPEL 2.8 Funktionen f (x,y) = x 2 y 2 (se figur 2.3), hvis gradient i punktet (0,0) er f (0,0) = (0,0), men hvor f (0,0) ikke er et lokalt ekstremum, men derimod et såkaldt saddelpunkt. EKSEMPEL 2.9 Funktionen g(x,y) = x 2 + y 2 (se figur 2.4) har lokalt minimum i punktet (0,0), men g(0,0) eksisterer ikke, da g er ikke-differentiabel i punktet (0,0). (0,0) (0,0) x 0-5 y x 0-5 y Figur 2.3: Illustration af f (x, y) = x 2 y 2. f (0,0) = (0,0), men funktionen har hverken lokalt maksimum eller lokalt minimum i punktet (0,0). Figur 2.4: Illustration af g(x,y) = x 2 + y 2. g(x,y) har lokalt minimum i punktet (0,0), men g(0, 0) eksisterer ikke, da g er ikke-differentiabel i punktet (0,0) Optimering

25 2.2 Ekstrema for differentiable funktioner af flere variable På baggrund af ovenstående observationer indføres i følgende definition en betegnelse for punkter, hvor gradienten af en funktion er enten lig med nul eller ikke eksisterer. DEFINITION 2.10 Et kritisk punkt for en funktion f er et punkt a i definitionsmængden af f, hvor f (a) = 0, eller hvor ikke alle funktionens partielle afledede eksisterer. Undersøger vi igen figur 2.3 og 2.4 på modstående side, ser vi, at begge funktioner har kritiske punkter i (0,0) Nødvendige og tilstrækkelige betingelser for ekstremum De følgende sætninger 2.11 og 2.12, baseret på [Adams and Essex, 2009, s. 744], viser, hvornår der er henholdsvis nødvendige og tilstrækkelige betingelser for, at et ekstremum af en funktion eksisterer. Egenskaberne omkring gradienten fra afsnit kan sammenfattes i følgende korollar, som beskriver nødvendige betingelser for ekstremum. KOROLLAR 2.11 (Nødvendige betingelser for ekstremum) Lad f være en funktion defineret på E R n. Så kan f kun have lokalt eller globalt ekstremum i et punkt a E, hvis der for a gælder et af følgende tilfælde: i. f (a) = 0, ii. f (a) ikke eksisterer, specielt hvis a er et punkt på randen af E. Sætning 2.11 garanterer dermed ikke, at en given funktion har ekstremum, men fortæller os kun, hvor vi skal lede for at kunne afgøre, om ekstremum eksisterer. Konceptet i definition 1.8 på side 7 fortæller os på hvilken måde, vi kan afgøre, om en funktion er begrænset. Omvendt kan en funktion f : E R, hvor E R n, have en ubegrænset værdimængde, hvis der for alle b R findes et x E, således at f (x) > b. Eksempelvis er f (x) = 1 x ubegrænset i intervallet (0,1). Det er også muligt, at værdimængden er begrænset, men på en sådan måde at en funktion intet ekstremum har. F.eks. er g(x) = x i intervallet I = [0, 1) opadtil begrænset med sup x I g(x) = 1, men f har intet maksimum i dette interval. Eksistensen af ekstremum for en funktion afhænger således både af funktionens definitionsmængde men også af funktionen selv. Den følgende sætning fortæller os under hvilke betingelser, vi kan være sikre på, at et ekstremum eksisterer. 2. Optimering 17

26 2.3 Optimeringsproblemer og løsningsmetoder SÆTNING 2.12 (Tilstrækkelige betingelser for ekstremum) Lad f være en kontinuert funktion på en lukket, begrænset mængde E R n, så er funktionens værdimængde en begrænset delmængde af R. Desuden eksisterer der punkter i E, hvor f antager globalt maksimum og minimum. BEVIS Beviset er analogt med beviset for ekstremværdisætningen i sætning 1.9 på side 8 og udelades derfor her. Modsat sætning 2.11 giver sætning 2.12 en garanti for eksistensen af ekstremum for funktioner på lukkede mængder. Vi har dermed et sæt regler for, hvor vi kan lede efter, og hvornår vi kan være garanterede, at en optimal løsning til et maksimerings- eller minimeringsproblem eksisterer. 2.3 Optimeringsproblemer og løsningsmetoder Som nævnt i kapitelindledningen anvendes optimering i omfattende grad indenfor mange forskellige områder. Formuleringen af optimeringsproblemer kan falde indenfor to hovedkategorier; lineære eller ikke-lineære. Følgende bygger på [Boyd, 2009, s. 6, 9], hvis ikke andet er angivet Lineære optimeringsproblemer Opstillingen af et lineært problem kaldes ofte for et lineært program, hvis alle dele af problemet, herunder den funktion man vil optimere, er lineære. Funktionen begrænses typisk af en række lineære uligheder eller ligheder. Der findes adskillige løsningsmetoder til at løse lineære programmer med. Én af disse metoder er simplex metoden [Dantzig, 1951], som finder optimale løsninger ved at bevæge sig imellem tilstødende hjørnepunkter, i det område den funktion, der skal optimeres, er begrænset indenfor. Simplex metoden er specielt udbredt på grund af dens effektivitet i praksis, selvom det er vist, at metoden kan have eksponentiel tidskompleksitet [Luenberger and Ye, 2008, s. 111] Derudover kan nævnes ellipsoide-metoden [Khachiyan, 1979], som omkranser optimale løsninger i en følge af ellipsoider, hvor den ene er mindre end sin forgænger. Ellipsoide-metoden har polynomiel tidskompleksitet, men den er i praksis markant langsommere end simplex metoden [Luenberger and Ye, 2008, s. 112]. En anden efterhånden også meget udbredt metode, er en indre-punkts metode, som præsenteres i [Karmarkar, 1984]. Karmarkars metode bevæger sig udelukkende i indre punkter, men konvergerer til sidst mod en optimal løsning i et rand- eller hjørnepunkt. Metoden har også polynomiel tidskompleksitet, men er derudover i praksis hurtigere end simplex metoden [Luenberger and Ye, 2008, s. 139] Optimering

27 2.3 Optimeringsproblemer og løsningsmetoder Ikke-lineære optimeringsproblemer Opstillingen af et ikke-lineært problem kaldes ofte et ikke-lineært program, hvis dele af problemet, f.eks. den funktion man vil optimere, er ikke-lineær. Det forsøges ofte i første omgang at undersøge, om man tilnærmelsesvis kan omformulere det til et lineært problem, da disse typisk vil være mere enkle at arbejde med. Er dette ikke muligt, anvendes ikke-lineær programmering. I lineære programmer er alle dele konvekse, og det samme gælder også for nogle ikke-lineære programmer, men det typiske ikke-lineære problem indeholder derimod dele, der ikke er konvekse. Et eksempel på et ikke-lineært optimeringsproblem kan eksempelvis være at finde maksimum for funktionen f (x,y) = x 2 2xy + y 2 x 4 y 4. Det er klart, at f er ikke-lineær, idet funktionen er af fjerde grad. Hvis den dobbelte afledede af f eksisterer, f (x,y) = 0, og det antages, at maksimum er et indre punkt, kan kritiske punkter klassificeres ved hjælp af Hesse matricen [Luenberger and Ye, 2008, s ]. I næste kapitel dykker vi dybere ned i de lineære optimeringsproblemer og fokuserer specifikt på emnet lineær programmering. Lineær programmering er interessant, da mange optimeringsproblemer er lineære af natur. Derudover er det på grund af lineariteten den mest enkle og derfor også den mest attraktive måde at formulere et problem på. Som løsningsmetode indrages simplex metoden, som er specielt interessant, eftersom det er den første løsningsmetode, og da den er yderst udbredt. 2. Optimering 19

28 2.3 Optimeringsproblemer og løsningsmetoder Optimering

29 3 Lineær programmering Lineær programmering er en matematisk metode til at optimere en lineær funktion. Sådan en funktion kalder vi en målfunktion, og denne består af variablerne x 1,..., x n, der er under lineære bibetingelser (u.b.b.), dvs. variablerne skal tilfredsstille et antal lineære uligheder, som er med til at begrænse målfunktionen. Et lineært program med n variable og m bibetingelser kan eksempelvis udtrykkes ved: Minimer u.b.b. n j=1 n j=1 c j x j (3.1) a ij x j = b i, i = 1...m (3.2) hvor x j 0, j = 1...n (3.3) hvor {a ij,b i,c j } er givet. For et sådant lineært program er (3.1) målfunktionen, (3.2) de lineære bibetingelser og (3.3) kaldes de ikke-negative betingelser. 3.1 Definition af et kanonisk lineært program Dette afsnit er baseret på [Lay, 2006b, s. 20]. Det viser sig, at alle lineære programmer har en associeret kanonisk form, som vi definerer på følgende måde: DEFINITION 3.1 Lad en m 1 vektor b = (b 1,...,b m ) R m, en n 1 vektor c = (c 1,...,c n ) R n og en m n matrix A = [a ij ] være givet. Der kan nu formuleres et lineært program: Find en n 1 vektor x = (x 1,..., x n ) R n for at maksimere under bibetingelse af f (x 1,..., x n ) = c 1 x 1 + c 2 x c n x n a 11 x 1 + a 12 x a 1n x n b 1 a 21 x 1 + a 22 x a 2n x n b 2. a m1 x 1 + a m2 x a mn x n b m hvor x j 0, j = 1,...,n 3. Lineær programmering 21

30 3.2 Problematikker i lineære programmer Et sådan lineært program siges at være på kanonisk form. Dette har ækvivalent matrixnotation kendt fra lineær algebra: Maksimer f (x) = c T x u.b.b. Ax b hvor x 0 hvor en ulighed mellem to vektorer gælder for hver af deres koordinater. Enhver vektor x, der tilfredsstiller bibetingelserne og de ikke-negative krav til x, kaldes en tilladelig løsning, og mængden af tilladelige løsninger F kaldes den tilladelige mængde. En vektor x F kaldes en optimal løsning, hvis f (x ) = max x F f (x) Vi vil i afsnit på side 25 se, at det ovenstående maksimeringsproblem altid kan formuleres som et tilsvarende lineært minimimeringsproblem. Vi har dermed beskrevet, hvad et lineært program er. Fra afsnit 3.3 beskriver vi, hvordan et lineært program kan formuleres ud fra et givet problem, og vi fokuserer på, hvordan det kan opstilles på forskellige måder. 3.2 Problematikker i lineære programmer Dette afsnit er baseret [Lay, 2006b, s. 21] Ved et arbitrært kanonisk lineært program kan to ting gå galt. i. Hvis bibetingelserne er i uoverensstemmelse på en sådan måde, at bibetingelserne ikke afgrænser en tilladelig mængde, så er F =. ii. Hvis målfunktionen påtager arbitrært store (tilsvarende små) værdier i F, så eksisterer det ønskede maksimum (tilsvarende minimum) ikke. I det første tilfælde siges det lineære program at være udenfor den tilladelige mængde. I det andet tilfælde kaldes det lineære program ubegrænset. 3.3 Formulering af et lineært program Følgende er et eksempel på, hvordan man kan formulere et lineært program ud fra et tænkt problem. EKSEMPEL 3.2 En landmand har et stykke land til sin rådighed. Han skal så rug og hvede. Han må højst så 30 tønder land med rug og højst 20 tønder land med hvede. Han har Lineær programmering

31 3.3 Formulering af et lineært program kr. at bruge af. Hver tønde land med rug koster 1000 kr. at så, og hver tønde land med hvede koster 2000 kr. at så. Udbyttet er 2000 kr. for hver tønde land med rug og 3000 kr. for hver tønde land med hvede. Landmanden ønsker at maksimere sit udbytte og dermed finde ud af, hvor mange tønder land af hver kornsort han i så fald bør så. Vi starter med at opstille en målfunktion. Vi kalder 1 tønde land med rug for x 1 og 1 tønde land med hvede for x 2. Da det, han ønsker at optimere, er udbyttet, bliver målfunktionens koefficienter det ovenfor angivne udbytte for henholdsvis rug og hvede: f (x 1, x 2 ) = 2000x x 2. For at holde antallet af cifre nede ønsker vi at regne i enheder af 1000 kr., således at vi får: f (x 1, x 2 ) = 2x 1 + 3x 2 Denne målfunktion er imidlertid underlagt nogle begrænsninger - bibetingelser. De bibetingelser, man kan uddrage af landmandens problembeskrivelse, er som følger. Han har kr., og såsæden koster henholdsvis 1000 kr. og 2000 kr. Dvs. (i enheder af 1000 kr.): 1x 1 + 2x 2 54 Han må højst så rug på 30 tønder land. Dvs. x 1 30 Han må højst så hvede på 20 tønder land. Dvs. Man kan ikke så et negativt areal. Dvs. x 2 20 x 1 0, x 2 0. Samler vi ovenstående til et kanonisk lineært program, ser det således ud: Maksimer f (x 1, x 2 ) = 2x 1 + 3x 2 u.b.b. x 1 30 x 2 20 x 1 + 2x 2 54 hvor x 1 0 x 2 0 Eksemplet ovenfor er et to-dimensionalt lineært program og kan derfor løses grafisk - se afsnit 3.6 på side 31. Se afsnit 3.7 på side 33 for en løsning vha. af simplex metoden. 3. Lineær programmering 23

32 3.4 Ækvivalente omskrivninger 3.4 Ækvivalente omskrivninger Dette afsnit er baseret på [Lay, 2006b, s , 30, 45-50] Et lineært program har adskillelige ækvivalente former, hvilket betyder, hvis en af formerne har en løsning, har dens ækvivalente former også en løsning. Vi gennemgår i dette afsnit de mest relevante Regneregler For et problem, hvor funktionen h(x) skal minimeres, kan problemet erstattes med et maksimeringsproblem, hvor funktionen h(x) skal maksimeres. Ligeledes er bibetingelsen; a i1 x a in x n b i ækvivalent med a i1 x 1 a in x n b i. En bibetingelse ved lighed a i1 x a in x n = b i er ækvivalent med: a i1 x a in x n b i a i1 x 1 a in x n b i Standard form Et kanonisk lineært program kan omskrives ved at konvertere ulighederne i bibetingelserne til ligheder. Denne form kalder vi standard form. Dette gøres ved at introducere én ny variabel kaldet en restvariabel for hver ulighed. Denne variabel er midlertidig og er ikke en del af den endelige løsning. DEFINITION 3.3 (Restvariabel) En restvariabel er en variabel, som tilføjes til et kanonisk lineært program for at omskrive en bibetingelse, af form som en ulighed, til en lighed. Bibetingelserne i det lineære program omskrives dermed til ligheder, således at de ikke-negative bibetingelser x 0 er de eneste uligheder i det lineære program. EKSEMPEL 3.4 Til det kanoniske lineære program fra eksempel 3.2 på side 22 introduceres restva Lineær programmering

33 3.4 Ækvivalente omskrivninger riablerne x 3, x 4 og x 5, som giver følgende lineære program på standard form; Maksimer f (x 1, x 2 ) = 2x 1 + 3x 2 u.b.b. x 1 + x 3 = 30 x 2 + x 4 = 20 x 1 + 2x 2 + x 5 = 54 hvor x 1 0, x 2 0, x 3 0, x 4 0, x 5 0 Definer P = {x : [A I m ]x = b, x 0}, P = { x : A x b, x 0} og f (x 1,..., x n, x n+1,..., x n+m ) := f (x 1,..., x n ), hvor f er målfunktionen. SÆTNING 3.5 Når man maksimerer eller minimerer målfunktionen over P svarer det til at maksimere eller minimere over P, det vil sige: max y P f (y) = max x P f (x) og min y P f (y) = min x P f (x) Det fulde bevis vil ikke blive præsenteret her, men en strategi vil indeholde transformationerne: U 1 : P P : U 1 (y 1,...,y n,y n+1,...,y n+m ) = (y 1,...,y n ) U 2 : P P :[U 2 (x 1,..., x n )] j = x j, j {1,...,n}, [U 2 (x 1,..., x n )] j = b j [Ax] j, j {1,...,n} hvor [v] j betyder den j te komponent af vektoren v. Vi ved dermed, at en optimal løsning til et kanonisk lineært program og en optimal løsning til et lineært program på standard form er ækvivalente Dualitet I forbindelse med dualitet kalder vi et kanonisk lineært programmeringsproblem for det primære problem. Til dette kan vi altid finde et tilsvarende dualt problem, som er et minimeringsproblem. 3. Lineær programmering 25

34 3.4 Ækvivalente omskrivninger DEFINITION 3.6 Givet et kanonisk lineært program udtrykt ved matrixnotation, har vi det primære problem: Maksimer f (x) = c T x u.b.b. Ax b hvor x 0 (3.4) Det duale problem for (3.4) er nu, for y R m : Minimer g(y) = b T y u.b.b. A T y c hvor y 0 Det duale problem går dermed ud på at finde et y R m, således at målfunktionen g(y) = b T y minimeres under bibetingelserne A T y c og y 0. Vi betragter et lineært program: Maksimer h(y) = b T y u.b.b. A T y c hvor y 0 (3.5) Vi kan derved se, at det duale problem for (3.5) bliver: Minimer F(w) = c T w u.b.b. ( A T ) T w b hvor w 0 (3.6) I kanonisk form vil (3.6) svare til: Maksimer G(w) = c T w u.b.b. Aw b hvor w 0 (3.7) Hvis vi erstatter w med x i (3.7), bliver (3.7) det samme som det primære problem (3.5), dvs. dualen af det duale problem er det primære problem Lineær programmering

35 3.4 Ækvivalente omskrivninger EKSEMPEL 3.7 Vi betragter det kanoniske lineære program fra eksempel 3.2 på side 22: Maksimer f (x 1, x 2 ) = 2x 1 + 3x 2 u.b.b. x 1 30 x 2 20 x 1 + 2x 2 54 hvor x 1 0 x 2 0 Vi kan nu opstille det duale problem til vores primære problem: Minimer g(y 1,y 2,y 3 ) = 30y y y 3 u.b.b. y 1 + y 3 2 y 2 + 2y 3 3 hvor y 1 0, y 2 0, y 3 0 Med følgende sætning kan man bestemme, hvornår en optimal løsning til både det primære lineære program og det duale problem findes. Derudover kan man konkludere, at det duale problem har en optimal løsning, hvis man ved, at det primære lineære program har en optimal løsning. SÆTNING 3.8 Lad Q være det primære lineære program, og F være mængden af tilladelige løsninger for Q. Lad Q være det duale problem, og F være mængden af tilladelige løsninger for Q. i. Hvis både F og F er ikke-tomme mængder, så har både Q og Q optimale løsninger, f.eks. x og y, hvilket betyder at f (x ) = g(y ). ii. Hvis et af problemerne Q eller Q har en optimal løsning x eller y, så har det andet problem også en optimal løsning, hvor f (x ) = g(y ). iii. Hvis Q eller Q bliver løst med simplex metoden, kan løsningen på det duale problem ses i den nederste række af den sidste tabel i søjlerne associeret med restvariablerne. Vi gennemfører ikke et bevis for denne sætning, da vi har beskrevet dualitet kun for at vise, at der er forskellige måder at opstille det samme lineære program. For detaljer omkring beviset refereres læseren til [Lay, 2006b, s. 46]. 3. Lineær programmering 27

36 3.5 Eksistensen af en optimal løsning 3.5 Eksistensen af en optimal løsning Dette afsnit er baseret på [Goemans, 1994, s. LP4-LP7] 1. Lad P = {x : Ax = b, x 0} R n være mængden af tilladelige løsninger til et lineært program på standard form. DEFINITION 3.9 x er et hjørnepunkt i P, hvis der ikke findes et y = 0, således at x + y, x y P Definition 3.9 kan være svær at kapere i første omgang. Princippet illustreres derfor på figur 3.1, som giver et eksempel på et tilfælde, hvor x er et hjørnepunkt, og på figur 3.2 som viser et eksempel på et punkt, som ikke er et hjørnepunkt. P P -y x y -y x y Figur 3.1: Bemærk hvordan x + y ligger uden for P, og at det derfor ikke er muligt at lave en vektor y, således at betingelserne i definition 3.9 er opfyldt. Dermed er x et hjørnepunkt i P. Figur 3.2: Fra definition 3.9 har vi at x ikke er et hjørnepunkt, idet vi kan lave en vektor y, således at både x + y og x y ligger i P. Man kan også vælge et x, som er et indre punkt i P, men i dette tilfælde kan der altid findes et y, således at x + y, x y P, og x kan i dette tilfælde aldrig være et hjørnepunkt. De mest interessante tilfælde er derfor i randpunkterne af P. Det kan desuden også observeres, at definition 3.9 kun holder for hjørnepunkter, hvor vinklen imellem de tilstødende kanter er mellem 0 og 180. SÆTNING 3.10 P = {x : Ax = b, x 0} er konveks. BEVIS Givet P = {x : Ax = b, x 0} lad x 0, x 1 P. For et vilkårligt 0 α 1, undersøger vi punktet αx 0 + (1 α)x 1. Vi har, at A(αx 0 + (1 α)x 1 ) = αax 0 + (1 α)ax 1 = (α + 1 α)b = αb + b αb = b, da Ax 0 = b og Ax 1 = b. Eftersom A(αx 0 + (1 α)x 1 ) = b, medfører det at L(x 0,x 1 ) = αx 0 + (1 α)x 1 P. Fra definition 1.11 følger det, at P er konveks. 1 Bemærk at Goemans betragter lineære minimeringsproblemer og ikke lineære maksimeringsproblemer som i denne rapport. Det følger dermed, at relevante sætninger i [Goemans, 1994] er baseret på dette valg. Det skulle ikke give anledning til forvirring at bevare disse sætningers originale form, da afsnit på side 25 viser, at de to lineære problemer er tilsvarende Lineær programmering

37 3.5 Eksistensen af en optimal løsning Resultatet af følgende sætning er, at den mindste værdi, målfunktionen c T x kan antage i P, opnås i et hjørnepunkt x. SÆTNING 3.11 Antag min{c T x : x P} er endeligt, så gælder der for alle x P, at der findes et hjørnepunkt x P således at c T x c T x. BEVIS Hvis x er et hjørnepunkt, så er x = x. Hvis x ikke er et hjørnepunkt, så gælder der ifølge definition 3.9, at der eksisterer et y = 0, således at x + y, x y P. Da A(x + y) = b, og A(x y) = b, er Ay = 0. Uden tab af generalitet, antag at c T y 0 (tag enten y eller -y). Hvis c T y = 0 vælg et y på en sådan måde, at der findes et j således at y j < 0. Eftersom y = 0 og c T y = c T ( y) = 0, må dette være sandt for enten y eller -y. Betragt x + λy, λ > 0. Så har vi, at c T (x + λy) = c T x + λc T y c T x, da c T y antages at være ikke-positiv. Tilfælde 1: Der eksisterer et j således at y j < 0 Når λ vokser, aftager det j te element indtil at x + λy ikke længere er tilladelig. Vælg λ = min {j:yj <0}{x j / y j } = x k / y k. Dette er det største λ, således at x + λy 0. Da Ay = 0, A(x + λy) = Ax + λay = Ax = b. Så ligger x + λy P, og desuden har x + λy et nul-element mere, (x + λy) k, end x. Sæt x := x + λy, og undersøg om x er et hjørnepunkt. Tilfælde 2: y j 0 for alle j. Som vi har antaget, er c T y < 0, og x + λy er tilladelig for alle λ 0, eftersom A(x + λy) = Ax + λay = Ax = b og x + λy x 0. Men da c T (x + λy) = c T x + λc T y når λ, medfører dette, at det lineære program er ubegrænset, hvilket er en modstrid. Det første tilfælde kan højst ske n gange, da x har n elementer. Ved induktion over antallet af elementer forskellig fra nul i x, får vi et hjørnepunkt x. Sætning 3.11 beskriver, hvordan målfunktionen c T x antager minimum i et hjørnepunkt i mængden P. Det følgende korollar viser sammenhængen mellem dette resultat og optimale løsninger til et lineært minimeringsproblem. KOROLLAR 3.12 Hvis min{c T x : Ax = b, x 0} er endeligt, så eksisterer der en optimal løsning x, som er et hjørnepunkt. BEVIS Antag det modsatte. Tag en optimal løsning x. Ifølge sætning 3.11 eksisterer der et hjørnepunkt x, således at c T x c T x, og derfor må dette hjørnepunkt nødvendigvis også være optimal. 3. Lineær programmering 29