Home

ZIMPL User Guide

1. 1 2 3 Ts 0 G 12 x 3 12 2025 6 Abb 1 1 Die Zielfunktion ist nat rlich keine Gerade sie repr sentiert eine Schar paralle ler Geraden Nehmen wir 7 den Vektor 3 2 der alle Ungleichungen 1 5 erf llt Sein Zielfunktionswert ist 19 d h bei diesem Produktionsni veau treten Gesamtkosten in H he von 19 GE auf In Abbildung 1 1 ist die Gerade G a 3x 5x2 19 gestrichelt gezeichnet Die Menge aller derjenigen Punkte die auf dieser Geraden liegen und 1 5 erf llen stellen Produkti onsniveaus mit Gesamtkosten 19 GE dar Geometrisch ist nun klar wie wir einen Punkt finden k nnen der 1 5 erf llt und die Zielfunktion minimiert Wir verschieben die Gerade G so lange parallel in Richtung auf den Punkt 0 0 bis die verschobene Gerade die L sungs MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 menge von 1 5 nur noch tangiert F hren wir dies graphisch durch so se hen wir dass wir die Tangentialstellung im Punkt x 2 2 erreichen Die zu parallele Gerade x 3a 5x2 8 5 ber hrt die L sungsmenge von 1 5 in nur einem Punkt n mlich x je de weitere Parallelverschiebung w rde zu einem leeren Durchschnitt mit dieser L sungsmenge f hren Wir schlie en daraus dass die Optimall sung unseres Problems ist d h alle Lieferverpflichtungen k nnen bei diesem Produktionsniveau erf llt wer
2. ergibt T b 10 26 A yp Iyn y gt 0 Durch eine lange Kette von Umformungen ist es uns also gelungen ein LP in Standardform 9 1 in ein anderes LP in Standardform 10 26 zu transformieren Was haben wir gewonnen Nicht viel es sei denn die Basis A g ist dual zul ssig Denn in diesem Falle gilt dass die rechte Seite von 10 26 also c nichtne gativ ist Also ist die Matrix J eine zul ssige Ausgangs basis f r 10 26 und wir k nnen auf 10 26 den Simplexalgorithmus direkt mit Phase II beginnend anwenden Eine besonders interessante Anwendung ergibt sich wenn das urspr ngliche Pro blem die Form cl x lt b zU hat wobei c lt 0 und b 2 0 ist Hier ist eine dual zul ssige Basis direkt gegeben w hrend eine primal zul ssige Basis erst mittels Phase I gefunden werden m sste 10 27 Algorithmus duale Simplexmethode Input A Km Mem Output optimale L sung des LP max c x b x gt 0 Phase I 160 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Bestimmung eines Subsystems Ax b x gt 0 mit P A b welches 9 2 erf llt falls m glich und Bestimmung einer dual zul ssigen Basis Ag von A Berechne A Ag An b Ag b ch ch Ag An Dieser Teil des Algorithmus wird analog zur Phase I 9 24 der Grundver sion des Simplexalgorithmus ausgef hrt Phase II Optimierung II 1 Optimalit
3. gt 0 derart dass f r alle 0 lt lt eu jede zul ssige Basis von 9 12 zum einen eine nichtdegenerierte Basisl sung von 9 1 bestimmt und zum anderen eine zul ssige Basis von 9 1 ist Ferner bestimmt die zu einer optimalen Basisl sung von 9 le geh rige Basis eine optimale Basisl sung von 9 1 Beweis P Kall Mathematische Methoden des Operations Research Teubner Studienb cher Stuttgart S 52 53 U Aufgrund von Satz 9 23 k nnte also jedes LP durch St rung in ein nichtentar tetes LP umgewandelt werden und damit w re die Konvergenz der Grundversion des Simplexalgorithmus gew hrleistet In der Praxis wird diese Methode jedoch kaum angewendet da das nicht einfach zu bestimmen ist und der Ansatz mit irgendeiner Zahl gt 0 nicht zum Ziele f hren muss Ferner k nnten durch eine geringe St rung des Problems durch Rundungsfehler numerische Schwierigkeiten auftreten deren Auswirkungen nicht immer absch tzbar sind Wir werden im n chsten Kapitel andere Methoden zur Vermeidung des Kreisens kennenlernen In der Praxis werden diese h ufig jedoch gar nicht implementiert 136 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 da bei praktischen Problemen trotz gelegentlicher Degeneration ein Kreisen sehr selten beobachtet wurde Einer der Gr nde daf r d rfte darin zu sehen sein dass der Computer durch seine begrenzte Rechengenauigkeit sozusagen von allein eine St rungsmethode durchf hrt S
4. 1 uT Gilt m 41 lt 0 so bleibt aufgrund von 9 13 b die alte L sung optimal An dernfalls f hren wir mit der Anfangsbasis Az den primalen Simplexalgorithmus aus Dabei ist F 1 A n m 1 Im ersten Schritt wird die neue Variable in die Basis aufgenommen 183 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 11 5 Hinzuf gung einer neuen Restriktion Zu den bestehenden Nebenbedingungen f gen wir die neue Restriktion n Am 1 0 er hinzu 1 Fall Die Basisl sung 7 zu Az erf llt Au In diesem Fall ist 7 auch die optimale L sung des erweiterten Problems Ist die neue Zeile linear abh ngig von den brigen Zeilen von A so ist die neu hinzugef gte Gleichung irrellevant f r das Problem und kann gestrichen werden Ist die neue Zeile linear unabh ngig von den brigen so ist 7 eine entartete Basisl sung Eine der Nichtbasisvariablen wird mit Wert 0 in die Basis aufgenommen und die Basis entsprechend erweitert 2 Fall Die Basisl sung 7 erf llt die neue Gleichung nicht Wir f hren eine neue Schlupfvariable 2 0 ein und ver ndern die neue Gleichung in n gt Gent L E Tat bm 1 i 1 wobei wir ein Zeichen schreiben falls An gt dm gilt andern falls ziehen wir x 1 ab Wir verl ngern um eine Komponente und setzen B m 1 n 1 d h wir nehmen 2 4 mit dem Wert bi bm 1 Ann PI in die Basis auf Da bm 1 negativ i
5. m gehe zu 2 126 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 II 2 Bestimmung der Austausch oder Pivotspalte W hle einen Index s 1 n m so dass gt 0 gilt Zur konkreten Realisierung dieser Auswahl falls mehrere reduzierte Kostenkoeffizienten positiv sind gibt es sehr viele verschiedene Varianten die wir in Abschnitt 10 2 besprechen werden II 3 Pr fung auf Beschr nktheit des Optimums Gilt A lt 0 so ist das lineare Programm unbeschr nkt siehe 9 14 a STOP Falls G gt 0 f r ein i 1 m gehe zu 11 4 Berechne _ b Ais min een 11 5 Bestimmung der Austausch oder Pivotzeile W hle einen Index r 1 m so dass gilt le 5 TS Hierzu gibt es verschiedene M glichkeiten die wir in 10 2 erl utern wer den II 6 Pivotoperation Basisaustausch Setze B Dress Pr 1 qs 1 N di lt 3 1 siehe 9 10 0 7 Updating Berechne A b und neu Hierzu gibt es viele numerische Varianten Wir geben nachfolgend ein di daktisch klares Verfahren an das aber numerisch umst ndlich und h chstens f r Handrechnung und kleine lineare Programme geeignet ist Bessere Me thoden werden in den bungen besprochen 127 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 a Neuberechnung von A 1 Se
6. p p q pa q p2 ps AT p 9 pi pa piq 4 4 4 gt 474 gt 0 Daraus folgt p g b p3 gt 0 ein Widerspruch 5 17 Hausaufgabe Formulieren und beweisen Sie den Satz vom starken kom plement ren Schlupf f r das Paar dualer linearer Programme 5 12 5 13 63 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Es gibt eine nat rliche Merkregel f r die verschiedenen S tze vom komplemen t ren Schlupf Wir wissen bereits dass zu jeder primalen Variablen eine dua le Restriktion auch komplement re Restriktion genannt und zu jeder primalen Restriktion eine duale komplement re Variable geh ren Die S tze 5 15 und 5 16 zeigen nun dass zur Charakterisierung von Optimall sungen vorzeichen beschr nkte Variable und Ungleichungen besonders wichtig sind Zu jeder vor zeichenbeschr nkten primalen dualen Variablen geh rt eine duale primale Un gleichung und umgekehrt Ist a x lt o eine Ungleichung und ein Vektor so nennen wir die Ungleichung straff bez glich 7 falls air gilt andern falls nennen wir sie locker Der Satz vom schwachen komplement ren Schlupf 5 15 sagt dann aus Gewisse Vektoren sind optimal f r 5 12 bzw 5 13 genau dann wenn f r jede lockere Nichtnegativit tsbedingung die komplementire Un gleichung straff ist d h wenn in der komplement ren Ungleichung kein Schlupf auftritt Sa
7. 0 1 Der Durchmesser von E A 0 ist 2VA 8 VS SA Abb 12 1 197 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Zu jeder positiv definiten Matrix A gibt es eine eindeutig bestimmte symmetrische regul re Matrix die mit A bezeichnet und Wurzel von A genannt wird mit Die Einheitskugel S 0 1 R um den Nullpunkt mit Radius 1 ist das Ellipsoid E I 0 Man rechnet leicht nach dass gilt 12 22 E A a A S 0 1 a Damit sei die Aufz hlung von Eigenschaften von Ellipsoiden beendet Wir wollen nun die geometrische Idee die hinter der Ellipsoidmethode steckt erl utern 12 23 Geometrische Beschreibung der Ellipsoidmethode Gegeben sei ein Polytop P Wir wollen einen Punkt in P finden oder beweisen dass P leer ist 1 Konstruiere ein Ellipsoid Ey ao das P enth lt Setze k 0 2 Ist das gegenw rtige Ellipsoid zu klein so brich ab mit der Antwort P ist leer 3 Teste ob der Mittelpunkt a von in P enthalten ist 4 Gilt a dann haben wir unser Ziel erreicht STOP 5 Gilt a P dann gibt es eine definierende Ungleichung sagen wir cx lt die von verletzt wird d h cla gt y Mit Ep N x Tx lt bezeichnen wir das Halbellipsoid von das P enth lt Wir konstruieren nun das Ellipsoid kleinsten Volumens das Ej enth lt und nennen es Ep41 6 Setze k k 1 und gehe zu 2 Das Prinz
8. 87 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 dann gilt z uw 1 u veP ZLCKCIund Aiz b Vie L Aiz lt b Vie K L Daraus folgt z ist ein innerer Punkt von F fa L U eq P Nach 7 15 gilt dann eq F eq z L U eq P und das bedeutet dass F eine nichttriviale Seitenfl che von P miteq F I U eq P ist Wir werden nun wichtige Eigenschaften von Facetten bestimmen Nichtredundanz kennzeichnen und Facetten charakterisieren 7 23 Satz Sei F eine Facette von P P A b dann gilt a eq P eq F b F r alle i eq F eq P gilt F fa i x P Az bi Beweis a gilt offensichtlich f r alle nichttrivialen Seitenfl chen von P b Die Abbildung fa ist inklusionsumkehrend d h IC J gt fa I D fa J Daraus folgt F fa eq F fa i Da i eq P muss fa i eine echte Seitenfl che von P sein Aus der Maximalit t von F folgt die Behauptung 7 24 Folgerung Sei ein Polyeder und F die Menge der Facetten von P Dann gilt a Fi fo E F gt N eq F2 eq P b F lt eq P c Es gibt eine Menge I C M mit folgenden Eigenschaften c M eq P I F F F lt J genau eini I mit F fa i 88 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Jede Menge J C M mit den Eigenschaften wollen wir Facetten Indexmenge nennen Satz 7
9. lt abi Ai Aale lt bi 85 Daraus folgt dass A und b zwar P P A b eindeutig bestimmen dass aber P unendlich viele Darstellungen der Form P D d hat 24 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 2 2 Beispiel Wir betrachten das Ungleichungssystem 1 2a lt 5 2 225 lt 3 m lt l 4 2 4 922 lt 23 5 62 2 lt 13 Hieraus erhalten wir die folgende Matrix und den Vektor b 2 0 5 0 2 1 A gt 1 1 b 1 2 9 28 6 2 18 Das Polyeder P A b ist die L sungsmenge des obigen Ungleichungssy stems 1 5 und ist in Abbildung 2 1 graphisch dargestellt MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Die Mengen zul ssiger L sungen linearer Programme treten nicht immer in der Form Ax lt b auf H ufig gibt es auch Gleichungen und vorzeichenbeschr nkte Variable Vorzeichenbeschr nkungen sind nat rlich auch lineare Ungleichungssy steme und ein Gleichungssytem Dx d kann in der Form von zwei Unglei chungssystemen Dx lt d und Dz lt d geschrieben werden Allgemeiner gilt 2 3 Bemerkung Die L sungsmenge des Systems Bz Cy c Ey lt d 1 gt 0 yek ist ein Polyeder Beweis Setzen p q und B C B C A D E b d I 0 0 dann ist P A b die L sungsmenge des vorgegebenen Gleichungs und Unglei chungssystems Ein spezieller Polyedertyp wird uns h uf
10. Seit mit Z 0 sei der j te Einheitsvektor und seien Z die in Schritt 1 von 3 1 definierten Mengen Setzen wir 1 b f r alle i PUN Qij pul falls N falls N 0 _ J too falls P min A i P falls P 9Q Dann gilt 4 e P D d L lt U und7 re P A b vXe L U dg P A b L U und7 P D d Beweis a Falls D die leere Matrix ist so ist die Behauptung nat rlich richtig Wurde eine Zeile von D in Schritt a definiert so ist dj 0 da 0 Andernfalls gilt d atjasj Gut 0 nach Konstruktion Das hei t die j te Spalte D von D ist der Nullvektor Man beachte auch dass im Falle N oder D nur aus den Zeilen von A besteht mit Z b ist offensichtlich nach Definition und impliziert c d Seit mit 75 0 ein beliebiger Vektor d Angenommen P D d Wir zeigen zun chst dass L lt U gilt Ist P 0 oder N 9 so gilt offensichtlich L lt U nach Definition Wir k nnen also annehmen dass 4 0 gilt Es seien s N t Pundg R so gew hlt dass p q s t und A L At U gelten Dann gilt OAs T lt dq u asjbt 34 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 woraus folgt 0 lt 05 A E und somit wegen gt und as lt 0 1 1 U
11. u Aeq P keine L sung a u hat Wegen F C x P b ist dies ein Widerspruch zu v 7 29 Folgerung Seien ein volldimensionales Polyeder und x y eine Seitenfl che Dann sind quivalent 1 ist Facette ii dim F n 1 iii F r alle g ltigen Ungleichungen d x lt d 0 mit F x P gilt Es existiert ein o gt 0 mit 91 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 7 30 Beispiel Wir betrachten das Polyeder R das wie folgt gegeben ist Ar 1 1 0 As 2 2 0 i 1 0 2 1 0 1 hat 4 Seitenfl chen n mlich 0 P und JIL Fo 1 A und F sind Facetten von P Es gilt eq P 1 2 eq F 1 2 3 4 eq Fo 1 2 5 6 eo 1 6 Die Mengen 3 5 3 6 4 5 4 6 sind die Facettenindexmengen von P Eine irredundante Beschreibung von P ist z B ge geben durch P A x 0 lt As x lt bs brigens sind die Ungleichungen A x lt 3 4 5 6 redundant bez glich P A b Die Ungleichungssysteme Aur lt br mit J 3 5 oder I 4 6 sind z B ebenfalls redundant Aber A x lt Dr ist nicht redundant bez glich falls 3 4 5 0 92 Kapitel 8 Ecken und Extremalen Im vorhergehenden Kapitel haben wir allgemeine Seitenfl chen und speziell ma ximale Seitenfl
12. Nur solche Preise y1 yo y3 die die Bedingungen 2 20 lt 3 yi Zus 4y3 lt 5 11 Y2 Y3 gt 0 erf llen k nnen also das Management veranlassen auf dem Markt zu kaufen statt selbst zu produzieren Der beim Kauf der durch Liefervertr ge ben tigten Mengen zu bezahlende Preis bel uft sich auf us 4y3 Wenn wir diese Funktion unter den obigen Nebenbedingungen maximieren erhal ten wir Preise in unserem Falle yf 0 y3 2 die die Eigenproduktion gerade noch profitabel erscheinen lassen Diese Preise werden Schattenpreise ge nannt Sie sagen nichts ber den tats chlichen Marktpreis aus sondern geben in gewisser Weise den Wert des Produktes f r den Hersteller an Das Resultat ui 0 besagt z B dass das Schwer l S f r den Hersteller wertlos ist Warum Das liegt daran dass bei der optimalen Kombination der Crackpro zesse mehr Schwer l anf llt n mlich 4 5 ME als ben tigt wird 3 ME Das hei t bei jeder Lieferverpflichtung f r Schwer l die zwischen 0 und 4 5 ME liegt w rde sich die optimale Prozess kombination nicht ndern und die gesam ten Kosten w ren in jedem Falle die gleichen Ein gutes Management wird in einer solchen Situation die Verkaufsmitarbeiter dazu anregen Schwer l zu verkaufen Bei jedem beliebigen Verkaufspreise winkt innerhalb eines begrenzten Lieferum fangs Gewinn Und es gibt weniger Entsorgungsprobleme M sste der Hersteller 10 MARTIN GR TSCH
13. Der Bereich der nicht in Dreiecksform gebracht werden kann wird Bump ge nannt Diese Methode wird z B verwendet in der Preassigned Pivot Procedure Heller man und Rarick und ist implementiert in OPTIMA CDC und MPS IH IBM Wir betrachten nun 168 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 10 38 Eliminationsform der Inversen EFI Die Grundlage dieser Methode bildet die folgende Beobachtung 10 39 Satz LU Zerlegung Ist B eine regul re m m Matrix so gibt es ei ne Matrix B die durch Spaltenvertauschungen aus B hervorgeht und sich in der Form B LU darstellen l sst wobei L eine untere und U eine obere Dreiecks matrix ist Es gilt 0 17 Prinzipielles Vorgehen Gau sches Eliminationsverfahren Die Festlegung der Pivotpositionen und ihrer Reihenfolge erfolgt wie bei der PFI in einer vorgeschalteten Booleschen Phase Da U U2 U3 Um mit 1 U 1 U 1 1 gilt ist der Rechenaufwand bei der Inversion geringer als bei der PFI was sofort aus der Tatsache folgt dass die U bereits durch die Spalten von U gegeben sind und die L sich durch weniger Rechenoperationen ergeben als die entsprechenden Elementarmatrizen bei der PFI Die nachfolgende Beschreibung der Inversionsroutine des LP Codes MPSX 370 der Firma IBM ist dem oben genannten Buch von Bastian Seite 31 ff entnom men 10 40 Die Inversionsroutine von MPSX 370 Die Routine INVERT von MPSX 370 beruht auf der im vorhe
14. Somit sind bei Anwendung der 1 Lexikographischen Regel stets alle Zeilen Tg i 0 des Simplextableaus lexikographisch positiv d h es gilt f r 2 aufeinan derfolgende Basen B und B vgl 9 18 a en se ars denn Tg os gt 0 Also sind alle Simplextableaus verschieden und da nur endlich viele zul ssige Basisl sungen und somit Simplextableaus existieren folgt nun die Behauptung 0 10 7 2 Lexikographische Zeilenauswahlregel W hler R so dass Ree SE Ji Az r lex min Az Ja Tis gt 0 i 1 Ars Qis 0 Die Anwendung der 2 Lexikographischen Regel garantiert auch Endlichkeit des Simplexverfahrens analog zu Satz 10 6 siehe Kall oder Dantzig S 269 diese folgt aus der St rungsmethode 10 8 Weitere Zeilenauswahlregeln 1 Kleinster Index Regel r min R 2 Kleinster Variablenindex Regel W hle r R so dass p min p B ie R Keine der beiden Regeln in 10 8 kann fiir sich allein Endlichkeit des Simplex verfahrens bewirken Aber eine Kombination von 10 8 2 und 10 2 2 schafft es 148 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 10 9 Bland Regel R Bland New finite pivoting rules for the simplex me thod Mathematics of Operations Research 2 1977 103 107 hat gezeigt dass das Simplexverfahren auch endlich ist wenn sowohl bei der Spaltenauswahl PRICE Routine als auch bei der Zeilenauswahl die Kleinster Variablen I
15. zul ssige Basis Wir wollen nun Entartung und ihre Ursachen untersuchen und betrachten zun chst drei Beispiele 9 6 Beispiel Degeneration a Im K gibt es keine richtigen degenerierten Probleme da man solche Pro bleme durch Entfernung von redundanten Ungleichungen nichtdegeneriert machen kann Im folgenden Beispiel ist die Ungleichung 2 amp 2 lt 2 redundant igo lt 1 221 Xo lt 2 21 292 gt 0 2 E4 E3 gt x E2 E Abb 9 1 114 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Das durch das Ungleichungssystem definierte Polyeder siehe Abbildung 9 1 hat die drei Ecken Wir formen durch Einf hrung von Schlupfvariablen um 21 T2 81 1 221 X2 89 11 29 81 82 E 0 Also ist gegeben durch 1110 1 1 0 ch II Die folgende Tabelle 9 1 enth lt die Basen von A und die zugeh rigen Ba sisl sungen Tabelle 9 1 Im obigen Falle ist jede 2 2 Untermatrix von A eine Basis Dies ist nat rlich nicht immer so Zur Ecke geh ren drei verschiedene Basen Hier liegt also Entartung vor Alle anderen Basisl sungen sind nichtdegeneriert Die zu B 2 3 geh rige Basis ist unzul ssig Zu unzul ssigen Basisl sungen sagt man manchmal auch unzul ssige Ecke von b Ey ist also eine unzul ssige Ecke 115 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 b Bei dreidimensionalen Polyedern im R tritt echte Entartung auf
16. K v 0 dann gilt b gt A u Av Au AAv fiir alle Daraus folgt A Av lt 0 f r alle A K und somit v v rec P d h 0 50 3 v ist eine Konvex kombination Also ist 0 keine Ecke von 6 3 Ist rec P nicht spitz so ist 0 echte Konvexkombination von Vekto ren aus rec P sagen wir 0 1 A v 0 v 0 lt lt 1 Dann aber 101 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 ist G Au A K eine Gerade in rec P und f r alle x ist x G eine Gerade in P Die Aquivalenz von 7 und 8 zu den brigen Aussagen ist nun offensicht lich 0 8 13 Folgerung Sei dann gilt 20 lt gt spitz b Beweis Es ist P P D d mit D A d b und offenbar hat D I 0 den Rang n Aus 8 12 folgt dann die Behauptung 8 14 Folgerung Sei P C R ein Polytop dann gilt P 0 lt gt P spitz Beweis Da P beschr nkt ist gibt es einen Vektor u mit PC x x lt u Gilt P A b so folgt daraus P P D d mit D 4 d D hat den Rang n daraus folgt mit 8 12 die Behauptung 0 8 15 Folgerung Das Polyeder P sei spitz und das lineare Programm x habe eine Optimall sung dann hat dieses lineare Programm auch eine optimale L sung die eine Ecke von P ist eine sogenannte optimale Ecklosung Beweis F x P cx max c y y P ist eine nichtleer
17. Wie oben erw hnt wird in dieser Vorlesung besonders viel Wert auf die geometri sche Fundierung der linearen Optimierung gelegt Die L sungsmengen von linea ren Programmen sind Polyeder Im Internet findet man viele Seiten die Polyeder bildlich darstellen Hier sind zwei Webseiten mit animierten Visualisierungen von Polyedern e gehe 7 zu Classical Models Regu lar Solids oder Discrete Mathematics Polytopes e http mathworld wolfram com topics Polyhedra html Software H ufig m chte man Polyeder von einer Darstellungsform z B L sungsmenge von Ungleichungssystemen in eine andere Darstellungsform z B konvexe H lle von endlich vielen Punkten verwandeln um gewisse Eigenschaften besser zu ver stehen Auch hierzu gibt es eine Reihe von Codes die meisten stehen Kostenlos zum Download bereit Eine Sammlung solcher Verfahren ist zu finden unter Die Programmsammlung PORTA stammt aus einer Diplomarbeit die Thomas ii MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 Christof bei mir geschrieben und dann mit anderen Kollegen u a A L bel ZIB weiterentwickelt hat Das deutlich umfangreichere Programmpaket Polymake von E Gawrilow und M Joswig wurde im mathematischen Institut der TU Berlin ent wickelt und wird hier weiter gepflegt und ausgebaut Es gibt eine Vielzahl von Codes zur L sung linearer Programme und Modellie rungssprachen mit Hilfe derer man praktische Probleme einigerma en bequem in Da
18. es Pr 1 ls Deise Pm N 91 Zeg 45 1 0 arts Inam wobei 9 pr falls min Ao A1 bzw q pr falls min A Berechne Agr b An Un Begr ndung Die Pivotzeilenauswahl CHUZR Routine dient dazu die Zeilen auswahl so zu bestimmen dass die transformierten Variablen nach erfolgter Pi votoperation wieder zul ssig sind Entsprechend der Transformationsregeln beim Pivotisieren mit dem Pivotelement vergleiche 9 10 muss gew hrleistet sein dass nach Ausf hrung des Pivotschrittes f r die neue E Basisl sung folgendes gilt Oe a 0 lt a bi b lt up k Ars i 0 lt ty lt Uq TS y Tp 0 Up 153 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 6 Ty E 0 Ug f r i 8 Wollen wir nun den Wert der Variablen z um A gt 0 ndern d h erh hen falls 9 gt 0 bzw um erniedrigen falls 9 lt 0 so k nnen wir das so lange tun bis entweder eine Basisvariable den Wert ihrer oberen oder unteren Schranke annimmt oder die Nichtbasisvariable den Wert ihrer anderen Schranke annimmt Aus letzterem folgt nat rlich dass lt u gelten muss ansonsten w rden wir bei Erh hung q gt 0 die obere Schranke bzw bei Erniedrigung 9 lt 0 die untere Schranke f r x verletzen Dies erkl rt die Bestimmung von Au in 4 Ist 7 gt 0 so bewirkt eine Erh hung von x um den Wert A da
19. gentlich durch sup ersetzt werden S kann leer sein ohne dass dies a priori klar ist etc Der Leser m ge sich Beispiele mit derartigen Eigenschaften berlegen Bei der Formulierung von Problemen dieser Art muss man sich also Gedanken dar ber machen ob die betrachtete Fragestellung berhaupt eine sinnvolle Ant wort erlaubt In unserer Vorlesung werden wir uns lediglich mit den Problemen 1 12 und 1 13 besch ftigen Das lineare Optimierungsproblem 1 12 ist sicherlich das derzeit f r die Praxis bedeutendste Problem da sich au erordentlich viele und sehr unterschiedliche reale Probleme als lineare Programme formulieren lassen Au erdem liegt eine sehr ausgefeilte Theorie vor und mit den modernen Verfah ren der linearen Optimierung k nnen derartige Probleme mit Hunderttausenden und manchmal sogar mehr von Variablen und Ungleichungen gel st werden Dagegen ist Problem 1 13 viel schwieriger Die Einschr nkung der L sungs menge auf die zul ssigen ganzzahligen L sungen f hrt direkt zu einem Sprung im Schwierigkeitsgrad des Problems Verschiedene spezielle lineare ganzzahlige Programme k nnen in beliebiger Gr enordnung gel st werden Bei wenig struk turierten allgemeinen Problemen des Typs 1 13 versagen dagegen die L sungs verfahren manchmal bereits bei weniger als 100 Variablen und Nebenbedingun gen ber Kontrolltheorie Probleme des Typs 1 8 Approximationstheorie Proble me des Typs 1 9 Nichtline
20. gt 0 und lt 0 Sei x 1 Al dann gilt gt 0 f r i 1 n da gt 20 r gt 0 Ent 1 Zait Sen Tn 1 F n41 S nl Le H 1 H nn nTn 2512141 injilni 1 0 Also gilt 2 gt 0 und ferner T T l exw 1 ET U N gt cF ai gt dr Daraus folgen die Zul ssigkeit und Optimalit t von x 185 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 186 Kapitel 12 Die Ellipsoidmethode In 10 10 haben wir angemerkt dass man Beispiele von Polyedern und Zielfunk tionen konstruieren kann so dass der Simplexalgorithmus alle Ecken der Poly eder durchl uft Die in den bungen besprochene Klasse von Klee amp Minty Beispielen bei denen dieser Fall auftritt ist definiert durch n Variable und 2n Ungleichungen Die zugeh rigen Polyeder haben 2 Ecken Es ist offensichtlich dass 2 Iterationen des Simplexalgorithmus zu nicht tolerierbaren Rechenzeiten f hren Man kann zwar zeigen Borgwardt The Average Number of Pivot Steps Required by the Simplex Method is Polynomial Zeitschrift f r Operations Re search 26 1982 157 177 dass das Laufzeitverhalten des Simplexalgorithmus im Durchschnitt gut ist aber dennoch bleibt die Frage ob es nicht m glich ist ei ne generelle niedrige Schranke f r die Anzahl der Iterationensschritte des Sim plexalgorithmus mit einer speziellen Zeilen und Spalten
21. lt b anwenden Finden wir einen Punkt in P A b dann sind wir fertig Andernfalls wissen wir dass P A b nicht volldimensional ist In diesem Falle k nnen wir auf Satz 12 35 zur ckgreifen und starten die Ellipsoidmethode neu und zwar z B mit dem ganzzahligen Ungleichungssystem 12 36 DAN Age AEGEA Entscheidet die Ellipsoidmethode dass das zu 12 36 geh rige strikte Unglei chungssystem keine L sung hat Abbruch in Schritt 2 a so k nnen wir aus 12 35 folgern dass leer ist Andernfalls findet die Ellipsoidmethode einen Vektor x der 12 36 erf llt Gilt x P A haben wir das gew nschte gefunden falls nicht kann man mit einfachen Methoden der linearen Algebra aus x einen Punkt x P A b konstruieren siehe 12 35 Zur L sung linearer Programme kann man die in Abschnitt 12 2 besprochenen Reduktionen benutzen Entweder man fasst das lineare Programm 12 6 und das dazu duale 12 7 zu 12 8 zusammen und sucht wie oben angegeben im nicht volldimensionalen Polyeder 12 8 einen Punkt oder man wendet N mal siehe 205 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 12 18 die Ellipsoidmethode f r niederdimensionale Polyeder des Typs P aus 12 16 2 im Rahmen eines bin ren Suchverfahrens 12 16 an In jedem Falle ist das Gesamtverfahren polynomial wenn die Ellipsoidmethode 12 32 polynomial ist 12 4 Laufzeit der Ellipsoidmethode Wir wollen nun die Laufzeit der Ell
22. nungen f r Mengenoperationen S T S yET S T zr yeK reS S yeTh as az r 5S Einige Vektoren aus K werden h ufig auftreten weswegen wir sie mit besonde ren Symbolen bezeichnen Mit bezeichnen wir den Vektor aus dessen j te Komponente 1 und dessen brige Komponenten 0 sind Mit 0 bezeichnen wir den Nullvektor mit 1 den Vektor dessen Komponenten alle 1 sind Also 0 0 1 ej 1 0 1 0 S 0 1 0 Welche Dimension die Vektoren 0 1 haben ergibt sich jeweils aus dem Zu sammenhang F r eine Menge R und m n N bezeichnet Ren oder 17 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 die Menge der m n Matrizen m Zeilen n Spalten mit Eintr gen aus R Aus technischen Gr nden werden wir gelegentlich auch n 0 oder m 0 zulassen d h wir werden auch Matrizen mit m Zeilen und ohne Spalten bzw n Spalten und ohne Zeilen betrachten Dieser Fall wird jedoch immer explizit erw hnt somit ist in der Regeln gt 1und m gt 1 vorausgesetzt Ist A Ri so schreiben wir A aij i 1 m und meinen damit dass A die folgende Form hat Ou Gin 21 Se Ami Am2 Amn Wenn nichts anderes gesagt wird hat A die Zeilenindexmenge 1 m und die Spaltenindexmenge N 1 n Die j te Spalte von A ist ein m Vektor den wir mit bezeichnen anj Die te Zeile von A ist ein Zeilen
23. x P so gilt P conv v V 5 e Aus Folgerung 7 4 ii ergibt sich dann Pr z RPH zTu lt 0VYu P z KPH Ess lt 0Vve V 27 5 lt 0VeeE le ee Mit Folgerung 6 7 erhalten wir nun e Kb VE hog P 0 E geb Die zweite Charakterisierung von hog P folgt aus einer anderen Darstellung von Es gilt n mlich mit Satz 7 2 96 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 YVa lt oVzeP ER Ya lt AVzeP AT 0 0 8 4 cone jr _ AT 0 Folgerung 6 10 impliziert nun ZC AT VK A hog P PP cone Sch P E 0 In Abbildung 8 3 sind ein Polyeder KR die im obigen Beweis definierte Menge und hog P dargestellt Abb 8 3 8 6 Bemerkung Sei K ein Polyeder dann gilt a zeP lt gt f hog P b zErec P lt gt 6 hog P Beweis a ist trivial b Sei P P A b eine Darstellung von P dann gilt hog P P B 0 mit B Ke SS Folglich gilt nach 8 5 und 8 3 9 hog P 5 P B 0 Ar lt 0 lt 97 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 8 2 Charakterisierungen von Ecken Wir beginnen mit der Kennzeichnung von Ecken und Extremalstrahlen von Ke geln 8 7 Satz Sei K C ein polyedrischer Kegel dann gilt Ist x Ecke von
24. 5 Minimierungsproblem Es ist blich hierf r eine der folgenden Schreibweisen zu benutzen 1 7 maxzcs f z oder max f x x 5 minses f x oder min f xr xe S In der Praxis treten als geordnete Mengen T lt meistens die reellen Zahlen R die rationalen Zahlen Q oder die ganzen Zahlen Z auf alle mit der natiirlichen Ordnung versehen die wir deswegen auch gar nicht erst notieren Die Aufgabe 1 7 ist viel zu allgemein um dar ber etwas Interessantes sagen zu k nnen Wenn S durch die Auflistung aller Elemente gegeben ist ist das Problem entweder sinn los oder trivial man rechnet ganz einfach f x f r alle x S aus Das hei t 5 muss irgendwie explizit oder implizit strukturiert sein so dass vern nftige Aus sagen ber 5 m glich sind ohne dass man alle Elemente in S einzeln kennt Das gleiche gilt f r die Funktion f 5 T Ist sie nur punktweise durch x f x 11 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 gegeben lohnt sich das Studium von 1 7 nicht Erst wenn f durch hinreichend strukturierte Formeln bzw Eigenschaften bestimmt ist weden tieferliegende mathematische Einsichten m glich Die Optimierungsprobleme die in der Praxis auftreten haben fast alle irgendeine vern nftige Struktur Das muss nicht unbedingt hei en dass die Probleme da durch auf einfache Weise l sbar sind aber immerhin ist es meistens m glich sie in das zur Zeit bekannte und untersuchte Universum
25. A lt 1 Ist F cone z ein Extremalstrahl von rec P so gibt es eine bez glich rec P g ltige Ungleichung lt 0 mit F x rec P cx 0 Nun gilt 0 10 u 1 Aw Adu 1 A chv lt 0 Aus chu lt 0 cv lt 0 folgt cu c v 0 und somit u v F ein Widerspruch Aussagen ber Extremalen machen also nur f r spitze Polyeder Sinn Ist K speziell ein spitzer polyedrischer Kegel so ist wegen rec K K eine Extremale von K ein Vektor z K so dass cone z ein Extremalstrahl von K ist Das hei t jeder auf einem Extremalstrahl von K gelegener und von Null verschiedener Vektor ist eine Extremale von K 8 19 Satz Seien ein spitzes Polyeder und z rec P 0 Dann sind quivalent 103 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 1 z ist eine Extremale von 2 cone z ist ein Extremalstrahl von rec P 3 z l t sich nicht als echte konische Kombination zweier linear unabh ngiger Elemente von darstellen 4 rec P cone z U 0 ist ein Kegel 5 rang Aeq z n 1 eq bez glich Ax lt 0 Beweis 1 lt gt 2 Definition 2 gt 3 Ist F cone z ein Extremalstrahl von rec P so ist F ei ne eindimensionale Seitenfl che von rec P d h F kann keine zwei linear un abh ngigen Vektoren enthalten Insbesondere gibt es eine bez glich rec P g lti ge Ungleichung c x lt 0 mit F x rec
26. Ax AAy lt 0 b also ist y rec P b P A 0 cone E Trivial 0 1 Insbesondere folgt aus 8 3 dass y Va P und YA gt 0 gilt Ay P Ist P ein Kegel so gilt nat rlich P rec P und offenbar ist ein Polyeder P genau dann ein Polytop wenn rec P 0 Abbildung 8 2 zeigt ein Polyeder und seinen Rezessionskegel P A b rec P A b Abb 8 2 Aus Definition 8 2 folgt lineal P rec P N rec P Offenbar ist lineal P ein linearer Teilraum des und zwar ist es der gr te lineare Teilraum L dass 2 L C P fiir alle x P gilt Analytisch k nnen wir lineal P wie folgt darstellen 8 4 Satz Sei P A b conv V cone E ein nichtleeres Polyeder 95 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 dann gilt lineal P x Ax 0 e cone E Beweis Wegen lineal P rec P N rec P folgt die Behauptung direkt aus 8 3 Die Definition der Homogenisierung erscheint etwas kompliziert Man wende zweimal die Kegelpolarit t auf die Menge 5 an Geometrisch betrachtet ist hog S der Durchschnitt aller Ungleichungen mit rechter Seite 0 die g ltig bez glich 7 x S sind 8 5 Satz Sei P P A b conv V cone ein nichtleeres Polyeder Sei A E hog P P B 0 cone v V cone e E dann gilt Beweis Setzen wir ki
27. Der Karmarkar Algorithmus Im Jahre 1984 hat N Karmarkar AT amp T Bell Laboratories einen neuen Algorith mus zur L sung linearer Programme entwickelt Karmarkar s Aufsatz A New Po lynomial Time Algorithm for Linear Programming wird in der Zeitschrift Com binatorica ver ffentlicht ist zur Zeit d h im Februar 1985 noch nicht erschie nen zirkuliert aber als Preprint Im Herbst 1984 hat Karmarkar auf Vortr gen mitgeteilt dass sein Verfahren nicht nur theoretisch polynomial ist wie auch die in Kapitel 12 beschriebene Ellipsoidmethode sondern in der Praxis erheblich rascher als das Simplexverfahren arbeitet Karmarkar behauptet dass eine Imple mentation seines Algorithmus etwa 50 mal schneller ist als MPSX ein von der Firma IBM angebotenes und auf dem Simplexalgorithmus basierendes Software paket zur L sung linearer Programme das als eines der besten LP Pakete gilt Die Implementation von AT amp T Bell Laboratories soll allerdings auf einigen Modifi kationen beruhen die nicht in Karmarkar s Preprint enthalten sind Da bei gro en Industriefirmen sehr gro e LP s t glich in nicht unerheblicher Zahl gel st werden ist die Ank ndigung Karmarkars auf sehr gro es Interesse bei Praktikern gesto en Ja sein Verfahren hat sogar Aufsehen in der Presse verur sacht Zum Beispiel haben New York Times Science Time Der Spiegel falsch wie bei Artikeln ber Mathematik blich Die Zeit S ddeutsche Zeitung sehr orde
28. So ist z B die Spitze der folgenden Pyramide entartet w hrend alle brigen vier Ecken nichtentartet sind Abb 9 2 c Dagegen sind alle Ecken der obigen Doppelpyramide entartet Abb 9 3 Die S tze 9 5 und 8 10 und ihre Beweise sagen uns wie Ecken von b mit den Basen von Az zusammenh ngen Aus der linearen Algebra wissen wir zun chst dass jeder Punkt x im K als Durchschnitt von n Hyperebenen darge stellt werden kann deren Normalenvektoren linear unabh ngig sind Algebraisch ausgedr ckt jeder Punkt x K ist eindeutig bestimmte L sung eines regul ren n n Gleichungssystems Dy d mit rang D n 116 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Ecken von P A b erhalten wir dadurch dass wir nur L sungen von regul ren Gleichungssystemen Ay b 0 jEJ mit J C 1 n betrachten und pr fen ob die L sungen in P b enthal ten sind Dabei kann es zu folgenden Situationen kommen Ist Az eine Basis von A mit 510 0 f r alle i so gibt es nur eine einzige M glichkeit das System Ay b durch ein System ery 0 7 J so zu erg nzen dass das Gesamtsystem regul r wird Man muss J 1 n B w hlen andernfalls sind nicht gen gend Gleichungen vorhanden Daraus folgt speziell 9 7 Bemerkung Ist x eine nichtdegenerierte Basisl sung von Ay b y gt 0 dann gibt es eine eindeutig bestimmte zu x geh rige Basis von A g A
29. b Ist p i s t N x P dann setze Arc As A c A di A c b As c bi 4 Gib D und d aus Ende 38 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 3 9 Satz Seien D Kiral und d die in 3 1 konstruierte Matrix bzw Vektor Dann gilt a Die Zeilen von D sind orthogonal zu c d h die Zeilenvektoren von D sind in L y c y 0 enthalten und konische Kombinationen der Zeilen von b P D d NL ist die orthogonale Projektion von P A auf L 3 10 Satz Die Projektion eines Polyeders ist ein Polyeder Durch sukzessive Projektion kann man ein Polyeder auf einen beliebigen Unter raum y By 0 projizieren 3 2 Lineare Optimierung und Fourier Motzkin Elimination Die Fourier Motzkin Elimination ist nicht nur eine Projektionsmethode man kann sie auch zur L sung linearer Programme verwenden Dies geht wie folgt Wir be ginnen mit einem linearen Programm der Form Ax lt sa mit A K a und setzen P P A Wir f hren nun eine zus tzliche Variable x ein und f gen zur Matrix eine zus tzliche Spalte und Zeile hinzu Diese Matrix nennen wir B Die m 1 te Zeile von B enth lt in den ersten n Spalten den Vektor c wir setzen 0 1 0 f r i 1 m und bm 1n 1 1 Wir verl ngern den Vektor a K um eine Komponente die den Wert 0 enth lt und nennen diesen m 1 Vektor b zial Wenden wir die Fourier Motzkin E
30. br nach Voraussetzung eine ein deutig bestimmte L sung n mlich x Daraus folgt F y P br x also ist x eine nulldimensionale Seitenfl che 0 F r Polyeder der Form P A b x Ax b x gt 0 gibt es eine weitere n tzliche Kennzeichnung der Ecken Ist x K so setzen wir supp z i 1 n x 0 Die Indexmenge hei t Tr ger von x 8 10 Satz F rx Kn sind folgende Aussagen quivalent 99 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 1 x ist Ecke von P A b 2 rang A supp z supp x 3 Die Spaltenvektoren A j supp x sind linear unabh ngig Beweis 2 gt 3 trivial A b 1 2 Sei D b dann gilt P D d P A b Mit f 0 Satz 8 9 gilt nun x Ecke von P A b Ecke von P D d lt gt rang Deg 2 A lt gt rang A 1 n supp z Streichen der Spalten j J lt gt rang n J supp amp supp z tang A supp Isupp 8 3 Spitze Polyeder Nicht alle Polyeder haben Ecken so z B der Durchschnitt von weniger als n Halbr umen des K Polyeder mit Ecken sind besonders f r die lineare Optimie rung wichtig 8 11 Definition Ein Polyeder hei t spitz wenn es eine Ecke besitzt Wir wollen im nachfolgenden spitze Polyeder charakterisieren und einige Aussa gen ber spitze Polyeder
31. bzw T festgelegt so ist der Wert der Komplement rvaria blen bzw x bereits eindeutig bestimmt Diesen Vorteil kann man nun so 149 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 ausnutzen dass man im Simplexverfahren nur eine der beiden Variablen mit schleppt und die zus tzliche Gleichung v llig wegl sst F r jede Zeile oder Spal te muss jedoch festgehalten werden ob sie x oder der Komplement rvariablen x entspricht Die Zeilenauswahlregeln sind ebenfalls etwas komplizier ter da eine neue in die Basis hineinzunehmende Variable nur maximal bis zu ihrer Beschr nkung erh ht werden darf und die brigen Basisvariablen ebenfalls ihre Schranken nicht berschreiten d rfen Wir wollen im folgenden die sogenannte Obere Schranken Technik zur Be handlung von linearen Programmen der Form max cx 10 11 amp 0O lt a lt u besprechen Diese upper bound technique behandelt nur explizit nach oben be schr nkte Variablen Sind einige der Variablen nicht explizit nach oben beschr nkt so legen wir um die weitere Diskussion und die Formeln zu vereinfachen fest dass ihre obere Schranke ist Das hei t die Komponenten von u haben Werte aus der Menge R U 00 Weiter ben tigen wir eine erweiterte Definition von Basis und Nichtbasis Wir halten uns im Prinzip an Konvention 9 3 lassen jedoch zu dass der Vektor der Indizes von Nichtbasisvariablen positive und negative Indizes enthalten kann
32. chen Facetten von Polyedern behandelt Die Facetten sind bei der u eren Beschreibung von Polyedern wichtig Wir werden nun minimale Sei tenfl chen untersuchen und sehen dass sie bei der inneren Darstellung von Be deutung sind 8 1 Definition Es seien ein Polyeder und F eine Seitenfl che von Gibt es x und0 ze mit F x Ecke F z lin z so hei t F Extremallinie F 2 Extremalstrahl Ist F x eine Ecke so sagen wir einfach x ist eine Ecke Wir werden uns im weiteren insbesondere f r Ecken interessieren und sie charakteri sieren Offenbar sind Ecken Seitenfl chen der Dimension 0 w hrend Extremal linien und Extremalstrahlen Seitenfl chen der Dimension 1 sind Allgemein hei en Seitenfl chen der Dimension 1 Kanten Kanten sind entweder Extremallini en Extremalstrahlen oder Verbindungsstrecken zwischen zwei Ecken Sind zwei Ecken x eines Polyeders P durch eine Kante verbunden d h conv y ist eine Seitenfl che von P so nennt man x und y adjazent auf P 93 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Extremalstrahlen Abb 8 1 8 1 Rezessionskegel Linienraum Homogenisierung An dieser Stelle ist es n tzlich einige weitere Objekte einzuf hren die man Po lyedern bzw allgemeinen Mengen zuordnen kann Das Studium dieser Objekte ist f r sich selbst betrachtet sehr interessant Wir wollen diese Men
33. dass cx y gilt Zu jedem J gibt es nach 7 10 einen Vektor mit u gt 0 gt 0 c und 4 Setze 1 i 5 iE dann gilt nach Konstruktion u gt 0 Vi I und ferner u 0 Vie M I andernfalls w re 2 J nach 7 10 Die Vektoren x und u sind zul ssig f r die linearen Programme P D des Beweises von 5 10 Aus dem Satz vom schwa chen komplement ren Schlupf 5 15 folgt dass sie auch optimal sind Daraus folgt cT x y und somit z F ii gt iii folgt direkt aus dem obigen Beweis 0 Aus Satz 7 11 folgt dass zur Darstellung einer Seitenfl che von P A kei ne zus tzliche Ungleichung ben tigt wird Man braucht lediglich in einigen der Ungleichungen des Systems Az lt b Gleichheit zu fordern Da jede nichtleere Seitenfl che auf diese Weise erzeugt werden kann folgt 7 12 Folgerung Sind b dann hat das Polyeder P A b h chstens 2 1 Seitenfl chen Beweis M 1 m hat 2 Teilmengen F r jede Teilmenge I C M ist P a Ay br eine Seitenfl che P Dazu kommt u U noch die leere Seitenfl che Man kann Seitenfl chen auf hnliche Weise durch Einf hrung von Abbildungen analog zu eq bzw fa bez glich der Darstellung conv V cone E cha rakterisieren Diese Kennzeichnungen von Seitenfl chen sind jedoch technisch aufwendiger Der interessierte Leser sei dazu auf Bachem amp Gr
34. ein Kegel ist Wir erinnern hier an das in der linearen Algebra definierte orthogonale Komplement St y EK y r 0VxeS Offensichtlich gilt S C S Unter Benutzung der obigen Definition k nnen wir Bemerkung 6 6 nun auch wie folgt aufschreiben 6 7 Folgerung F r alle Matrizen e Klima gilt P A 0 cone A7 68 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Folgerung 6 7 und die vorher gemachten Beobachtungen wollen wir an einem Beispiel erl utern Es sei 3 1 an dann sind die Kegel P A 0 und P A 0 in Abbildung 6 1 gezeichnet P A 0 0 besteht also aus allen Vektoren die mit den Elementen des Kegels P A 0 einen stumpfen Winkel bilden und das sind gerade diejenigen Vektoren die als konische Kombination der Normalenvektoren A dargestellt werden k nnen also P A 0 cone _3 Ferner gilt b x gt 0 ist genau dann l sbar wenn b P A 0 gilt Daraus folgt z B dass x gt nicht l sbar ist w hrend Ar Gal x gt 0 eine L sung hat r Abb 6 1 Aus der Definition des polaren Kegels und des orthogonalen Komplements erge ben sich unmittelbar einige triviale Beziehungen deren Beweis wir dem Leser zur Ubung berlassen Wir schreiben im Weiteren 6 8 Hausaufgabe F r 5 5 1 1 gilt 69 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 5 5 gt 57 5 b 5
35. mensionale konvexe K rper im R sind die eine besonders einfache Darstellung 196 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 haben Und zwar ist eine Menge R ein Ellipsoid mit Zentrum a ge nau dann wenn es einen Vektor a R und eine symmetrische positiv definite Matrix A gibt so dass gilt 12 20 E E A a x R x a A x a lt 1 Aus der linearen Algebra wissen wir dass f r symmetrische Matrizen A RO die folgenden Aussagen quivalent sind i A ist positiv definit ii 7 ist positiv definit 12 21 Gii Alle Eigenwerte von A sind positive reelle Zahlen iv det Az gt 0 f r alle Mengen J 1 i i 1 n v A f r eine regul re Matrix B Das Ellipsoid E A ist durch die ebenfalls positiv definite Inverse A von A definiert Das erscheint zun chst seltsam liegt aber daran dass sich viele Ei genschaften von a aus algebraischen Eigenschaften von A ableiten lassen Z ist der Durchmesser d h die L nge der l ngsten Achse von E A a gleich 2VA wobei A der gr te Eigenwert von A ist Die l ngsten Achsen sind durch die Eigenvektoren die zu A geh ren gegeben Die Symmetrieachsen von E A a entsprechen ebenfalls den Eigenvektoren von A In Abbildung 12 1 ist das Ellip soid 0 dargestellt mit 16 0 0 Die Eigenwerte von A sind A 16 und 4 mit den zugeh rigen Eigenvektoren e1 1 0 und
36. redundanten Ungleichungen Es gibt jedoch Polyeder wie z B die Dop pelpyramide in 9 6 die genuin entartet sind Der Grund liegt hier darin dass die Ecken berbestimmt sind d h es gibt Ecken x von P in denen mehr als dim P Facetten zusammentreffen Dann bestimmen je dim P der diese Facetten definierenden Ungleichungen eine Basis von A die als zugeh rige Basisl sung liefert 9 2 Basisaustausch Pivoting Simplexkriterium Da jede zul ssige Basis der Matrix A eine Ecke von b definiert kann man ein lineares Programm der Form 9 1 dadurch l sen dass man alle Basen von A bestimmt dies sind endlich viele den Zielfunktionswert der zugeh rigen Basisl sung errechnet und die beste L sung ausw hlt Da eine m n Matrix bis zu Gel zul ssige Basen haben kann ist dieses Verfahren aufgrund des gewaltigen Rechenaufwandes in jedem Schritt Bestimmung einer inversen Matrix so gut wie undurchf hrbar Man sollte also versuchen z B ein Verfahren so zu entwerfen dass man von einer zul ssigen Basisl sung ausgehend eine neue Basisl sung bestimmt die zul ssig ist und einen besseren Zielfunktionswert hat Ferner muss das Verfahren so ange legt sein dass der bergang von einer Basis zur n chsten nicht allzuviel Rechen aufwand erfordert Im Prinzip kann man damit nicht gew hrleisten dass nicht alle Basen enume riert werden aber aufgrund heuristischer berlegungen scheint ein solcher An satz
37. spitz sind und nach Folgerung 8 15 lineare Programme ber spitzen Polyedern optimale Eckl sungen haben falls sie berhaupt Optimall sungen haben folgt 12 12 Satz Das lineare Programm 12 6 hat eine Optimall sung genau dann wenn die beiden linearen Programme ctg Ax lt b 12 13 So Ti lt XAHO 1 max lt b 12 14 F lt MH ML 1 eine Optimall sung haben und die Werte der Optimall sungen bereinstimmen Die Zielfunktionswerte von 12 13 und 12 14 stimmen genau dann nicht be rein wenn 12 6 unbeschr nkt ist 12 6 ist genau dann nicht l sbar wenn 12 13 oder 12 14 nicht l sbar ist Wir haben damit das lineare Programmierungsproblem 12 6 ber einem all gemeinen Polyeder auf die L sung zweier linearer Programme ber Polytopen reduziert Wir m ssen also im Prinzip nur zeigen wie man LP s ber Polytopen l st 12 15 Satz Ist P 5 0 ein Polytop der Form P A b P A oder P x lt b x gt 0 mit A U b 0 so kann f r Q das lineare Programm max x P nur Optimalwerte in der endlichen Menge S 2 E Q p lt 2A b 2 c n n 1 lt q lt Dame annehmen Beweis Da alle Optimalwerte Zielfunktionswerte von Ecken von P sind brau chen wir nur die Werte cl o v Ecke von abzusch tzen Sei also v igs Vn 194 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 eine Ecke von P Wie
38. sung des dualen Programms nicht ohne Weiteres aus dem Tableau ablesen 10 30 Beispiel dualer Simplexalgorithmus Wir betrachten die folgenden zueinander dualen Programme P und D Die L sungsmenge von P sei mit P bezeichnet die von D mit D P und D sind in Abbildung 10 2 dargestellt max x 229 min 2y3 11 T2 lt 2 a3 2 gt 1 ey D 211 T lt 8 Y3 Ya gt 2 y2 T1 T2 gt 0 Ya gt 0 163 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 A Y4 Abb 10 2 Wir schreiben das Tucker Tableau zu diesem Problem auf 3 1 1 2 0 0 4 2 y T4 8 Yy N 1 2 primale Nichtbasis duale Basis B 3 4 primale Basis duale Nichtbasis Die gegenw rtige Basis ist dual aber nicht primal zul ssig Wir machen einen Update mit dem Pivotelement 95 2 Das neue Tableau hat folgende Form 4 2 N 4 2 3 1 1 1 1 3 ZC 1 1 3 1 3 3 32 3 a 23 2 I D t2 0 Y4 3 Es folgt ein Pivotschritt mit a 911 5 164 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Dieses Tableau ist optimal 0 10 5 Zur Numerik des Simplexverfahrens Dieser Abschnitt ist nur u erst kursorisch und oberfl chlich ausgearbeitet Eine sorgf ltige Behandlung des Themas w rde eine gesamte Spezialvorlesung erfor dern Wir empfehlen dem
39. tschel New Aspects of Polyhedral Theory in B Korte ed Modern Applied Mathema tics Optimization and Operations Research North Holland Amsterdam 1982 verwiesen 82 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 7 3 Dimension Wir wollen nun zeigen dass man auch die Dimension einer Seitenfl che eines Polyeders explizit berechnen kann Zun chst f hren wir einen Hilfsbegriff ein 7 13 Definition Ein Element x eines Polyeders P hei t innerer Punkt von P wenn x in keiner echten Seitenfl che von P enthalten ist Achtung Innere Punkte eines Polyeders sind nicht notwendig auch topolo gisch innere Punkte im Sinne der nat rlichen Topologie des K Unsere inneren Punkte sind topologisch innere Punkte im Sinne der Relativtopologie auf P 7 14 Satz Jedes nichtleere Polyeder besitzt innere Punkte Beweis Sei P A b und I eq P A b J M I Gilt I M so hat P keine echten Seitenfl chen also ist jedes Element von P ein innerer Punkt Andernfalls ist das System Ax lt b quivalent zu br A J T lt b J hat innere Punkte hei t dann dass es ein x gibt mit A x br und A x lt by Zu jedem J existiert nach Definition ein Vektor P mit lt bi Setze y 7 zen Yi dann ist Konvexkombination von Elementen von P also y P und es gilt A y lt Mithin ist y ein innerer Punkt von 0 7 15 Satz Sei F Seitenfl che eines Polyed
40. 0 Das Farkas Lemma 4 2 in seiner Version a charakterisiert also a Die L sbarkeit eines linearen Ungleichungssystems in seiner Version 4 2 b 44 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 b die nichtnegative L sbarkeit eines linearen Ungleichungssystems in seiner Version 4 2 c c die nichtnegative L sbarkeit eines linearen Gleichungssystems in seiner Version 4 2 d d die L sbarkeit eines linearen Gleichungssystems wobei d nat rlich bereits aus der linearen Algebra bekannt ist Die zweite Alter native in d ist nichts anderes als eine Umformulierung von rang A 5 rang A b Die linken Alternativen in 4 1 und 4 2 a b c d sagen aus dass gewisse Polyeder nicht leer sind Die L sungsmengen der rechten Alternativen sind da gegen keine Polyeder weil jeweils eine strikte Ungleichung in den Gleichungs und Ungleichungssystemen vorkommt Da in allen F llen die rechten Seiten der rechten Alternativen Nullvektoren sind sind die L sungsmengen ohne die strik te Ungleichung nach 2 6 Kegel Folglich K nnen die L sungsvektoren skaliert werden Aus dieser Beobachtung folgt 4 3 Farkas Lemma polyedrische Version Es seien A und b K dann gilt a P A b 0 20 6 P A b 0 Pat at 0 JP A b 0 rl 40 Polyedrische Formulierungen von 4 2 b d und 4 1 seien dem Leser ber lassen 4 2 Alternativ und Transpos
41. 18 Update Formeln f r ein Simplextableau Sei ein Simplextableau zur Basis Ist gq N so da B p D qs Pr 1 Wieder eine zul ssige Basis ist so gelten f r das Simplextableau folgende Transformati onsregeln Te Del Zis i Tp r f ri 0 m i T Te r ars b E 129 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 1 To 1 ai E SC Sr I 1 Ir Trs 1 Die Transformationsformeln 9 18 sind im wesentlichen die gleichen wie in Satz 9 10 nur dass diesmal die Zielfunktion gleich mittransformiert wird Beweis Formel a cl ch Ap A ch Ag b 1 d h mit Satz 9 10 gilt ee KS ch E Ag A Sei K 1 m Aus ergeben sich die beiden unteren Transformationsformeln in a Sei z K und y Ap z dann gilt Cpr Ap Cp BAy Cy Car Cp Yr T GE E Also mit 7 aus Satz 9 10 Mit 9 13 folgt nun chin Cy gilt 0 ch Ap c7 0 cp Ag A b r 8 Die Formeln b ergeben sich direkt aus a 9 19 Beispiel Wir betrachten das lineare Programm 2 5 1 lt 4 221 X2 lt 10 f 42 lt 5 U1 22 20 dessen L sungsmenge in Abbildun
42. 2 K 2 d 2 und der Zielfunktionswert erh ht sich um 2 3 3 Mithin erhalten wir als n chstes Tableau mit 9 1 2 3 4 3 4 Tor 28 EEE 2 N 12 4 1 1 0 1 2 5 Als Pivotspalte kommt nur die 2 Spalte 95 2 in Frage CHUZR ergibt _b G22 1 3 Au nicht definiert Ag ug 1 Die Wahl der Austauschzeile in 4 b ergibt ein eindeutig bestimmtes r 2 Wir f hren dann 5 in Tableautechnik aus Wir f hren also einen Standardpivotschritt auf dem Element 22 1 durch und korrigieren anschlie end b und co um b und zu erhalten 1 2 3 4 1 0 0 1 2 Z 3 2 To 3 2 00 1 2 3 N 1 4 2 1 1 0 1 2 3 Dieses Tableau ist optimal mit z 2 Zur Erl uterung der brigen F lle beginnen wir noch einmal mit Tableau T w hlen aber die 2 Spalte als Pivotspalte CHUZR ergibt 1 S nicht definiert Az 1 In diesem Falle machen wir einen Standardpivotschritt mit dem Pivotelement 156 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Oz M12 1 T 2 Die gegenw rtige Basisl sung wird wie blich in eine E Basisl sung transfor miert Als Pivotspalte kommt nur die erste in Frage CHUZR ergibt b 3 De 1 3 5 ER Ag 5 Amin T 2 2 Wir f hren nun Schritt 5 des Algorithmus 10 6 durch einen Pivotschritt auf rs 1 aus und berechnen das gesamte Tableau neu Ans
43. 23 b zeigt dass man Facetten von P dadurch erh lt dass man in nur einer Ungleichung A x lt b des Systems Ax lt b Gleich heit fordert Jedoch ist es keineswegs so dass f r alle i die Menge fa i eine Facette von P ist Dies gilt nur f r solche 2 M die in einer Facettenindex menge enthalten sind 7 25 Satz Seien P A b 0 ein Polyeder und F die Menge der Facetten von P Seien die Zeilenindexmenge von A M eq P und J C eq P Sei P x by Ar x lt br dann gilt P P a VF EF giltINeq F 40 und a rang Aj rang Aca p b P P Area p gt Y F F gilt T N eq F 0 Beweis Mit J eq P folgt b direkt aus a Wir beweisen a Nach Definition gilt offenbar J eqp P Angenommen ag ist nicht erf llt d h rang Aj lt rang Acqp Dann folgt aus der Dimensionsformel 7 17 a dim P gt dim P und somit muss P gelten Widerspruch Angenommen o ist nicht erf llt Dann gibt es eine Facette F von P mit eq F M I M J U eq P Folglich gilt P nach Satz 7 22 Widerspruch Wir zeigen zun chst dass unter der Voraussetzung ag gilt by gt Da P 0 giltrang Aj by rang Aj rang Aeqp rang Aeq p DegP Das hei t f r alle i eq P existieren K C J und Ay k K mit Aj per AkAk bi Yonex Ande Erf llt also der Vektor
44. 6 2 Kegelpolaritat Es gibt mehrere M glichkeiten die Umkehrung von 6 5 zu beweisen Eine be sondere elegante die eine geometrische Version des Farkas Lemmas benutzt f hrt ber die Kegelpolarit t Diese Operation mag zun chst nur als technisches Hilfs mittel erscheinen Sie und ihre Verallgemeinerungen allgemeine Polarit ten Blo cker Antiblocker sind jedoch bedeutende Methoden in der Polyedertheorie und der linearen sowie ganzzahligen Optimierung Wir beginnen mit einer Neuinterpretation des Farkas Lemmas 4 2 c Dieses besagt da gt 0 Ax b lt gt Vu ATu gt 0 ub gt 0 Durch diese Aussage sind offenbar auch alle rechten Seiten b charakterisiert f r die x gt 0 Ax b eine L sung hat Nach Definition gilt cone A b 3x gt 0 mit Ax b also k nnen wir aus 4 2 c folgern 6 6 Bemerkung F r alle Matrizen Kim gilt cone A b K u b lt 0 Vue P A 0 0 Bemerkung 6 6 kann man geometrisch wie folgt beschreiben Die Menge der zul ssigen rechten Seiten b von Ax b x gt 0 ist genau die Menge aller Vektoren b welche einen stumpfen Winkel mit allen Vektoren des Kegels P A 0 bilden Allgemeiner definieren wir nun f r jede beliebige Menge 5 S y E R lt 0 5 5 ist die Menge aller Vektoren die einen stumpfen Winkel mit allen Vektoren aus 5 bilden 5 hei t polarer Kegel von S berzeugen Sie sich dass 5
45. Beweis analog b Ist D 0 so impliziert der schwache Dualit tssatz 1 5 z lt min y b y E D u lt c Analog zu b d Angenommen P und u gt oo Dann gilt entweder u und somit D oder nach a folgt 2 u endlich also 4 Widerspruch e Analog zu d Man k nnte vermuten dass in 5 9 b und auch die umgekehrte Richtung gilt Die Aussagen d und e zeigen aber dass beim Versuch eines Beweises der R ckrichtung Komplikationen auftreten k nnen Das nachfolgende Beispiel zeigt dass es in der Tat zueinander duale lineare Programme gibt die beide leere L sungsmengen haben 5 10 Beispiel Es seien EET hee Uc Dann sind die linearen Programme 21 z2 und min y ze P yeD zueinander dual und es gilt 1 U1 U2 0 u2 lt 0 eine L sung hat z B uy u2 1 9 da nach 4 2 a das System u1 u2 0 0 b D da nach 4 2 das System v1 v2 S Si gt 0 0 v Vo lt 0 eine L sung hat z B v v2 1 58 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Wir haben bereits die Sprechweise zueinander duale lineare Programme be nutzt ohne daf r eine Begr ndung zu geben Sie erfolgt hiermit 5 11 Bemerkung Gegeben seien dimensionsvertr gliche Matrizen A B D und Vektoren a b c d dann gilt Das zum primalen linearen Programm max dx By l
46. C a a K a Die Ungleichung a x lt hei t g ltig bez glich 5 falls 5 x K lt a b Die Menge 57 2 lt S hei t y Polare von 5 Eine Hyperebene H x a x a hei t St tzhyperebene von S falls 2 57 und SNH 2 0 Zu sagen dass or g ltig bez glich 5 ist hei t nichts anderes als 5 ist im Halbraum afz lt enthalten Die y Polare 57 kann als die Menge aller g ltigen Ungleichungen bez glich 5 betrachtet werden Wir wollen nun die y Polare eines Polyeders charakterisieren 7 2 Satz Es sei ein Polyeder mit den Darstellungen P A b conv V cone E dann gilt a P UI 0 7 lt a 0 cone pr or ae 0 4 0 giffe 76 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Beweis a PY lt gt lt 0 gt inkonsistent Ju gt 0 v gt 0 mitu A va 0 u7 b va lt 0 0 fu TREIE a a A 0 e cone 1 b 2 alv lt sa VveV und 49 lt gt Ju gt 0 mitut A lt a lt lt 0 lt VvveV eeE A gt 0 ale lt 0 andernfalls w re a v gt a f r gen gend gro es Gilt umgekehrt das letztere Ungleichungssystem und ist x P so existieren Ui Up V und e1 q E A1 A gt 0
47. Darstellungssatz Eine Teilmenge C ist genau dann ein Polyeder wenn P die Summe eines Polytops und eines polyedrischen Kegels ist d h wenn es endliche Mengen V C gibt mit conv V cone E Beweis Kombiniere 6 12 6 13 6 14 und 6 5 Ist K ein Polyeder so wissen wir nunmehr dass es f r zwei m gliche Darstellungen gibt Es gilt n mlich P A b conv V cone E wobei A eine m n Matrix b K und V E endliche Mengen sind Die se beiden Darstellungen sind grunds tzlich verschieden was nat rlich in vierlei Hinsicht n tzlich sein kann Manche Aussagen ber Polyeder sind v llig trivi al wenn man von der einen Beschreibung ausgeht w hrend sie aus der anderen Beschreibung nicht unmittelbar folgen Die Darstellung P A b nennt man auch u ere Beschreibung von P Der Grund f r diese Bezeichnung liegt darin dass man wegen Aux lt bi C 2 Aix lt bi i 1 das Polyeder P als Durchschnitt von gr eren Mengen betrachten kann P wird sozusagen von au en durch sukzessives Hinzuf gen von Ungleichungen bzw Halbr umen konstruiert Hingegen nennt man conv V cone E eine innere Beschreibung von P Ist E so ist die Bezeichnung offensichtlich denn V P und somit wird P 72 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 durch konvexe Hiillenbildung von Elementen von sich selbst erzeugt Analoges gilt wenn ein polyedrisc
48. Durch das Vorzeichen wollen wir uns merken ob eine Nichtbasisvariable die obe re oder untere Schranke annimmt und zwar legen wir fest dass f r eine Nicht basisvariable q der Wert x Null ist falls das Vorzeichen von q positiv ist andernfalls ist der Wert von x die obere Schranke u Um dies formeltech nisch einfach aufschreiben zu k nnen treffen wir die folgenden Vereinbarun gen Ist B pi Pm ein Spaltenindexvektor so dass eine Basis ist und N 9 Qn m Wie in 9 3 definiert dann sei 10 12 N D Tn m mit q qi oder J lt q N gt 0 10 13 I Nos qi 7 lt 0 Die N und N enthaltenen Indizes bilden also eine Partition der Spal tenindexmenge 1 n von A Bei einer Rechnerimplementation gen gt es nat rlich sich N zu merken denn N Q m Ist Ag regul r so nen nen wir Ag eine E Basis erweiterte Basis von A und N eine E Nichtbasis von 150 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 A Der Vektor x mit In 0 10 14 TN Uy Agb Ap An un hei t E Basisl sung zur E Basis 3 E Basis Ag 5 Eine E E hei t zul ssig wenn 0 lt up und hei t nicht degeneriert nicht entartet falls 0 lt g lt andernfalls degeneriert entartet Gibt es keine oberen Schranken so gilt offen bar N N Nt und alle Formeln reduzieren sich auf den bereits behandelten Fall 10 15 Satz Gegeben sei ein
49. Gleichung oder Ungleichung Variable Ungleichung nichtnegative Variable Gleichung nicht vorzeichenbeschr nkte Variable nichtnegative Variable Ungleichung nicht vorzeichenbeschr nkte Variable Gleichung Tabelle 5 2 Speziell bedeutet dies z bez glich des LP max Ax lt b x gt 0 60 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Jeder primalen Ungleichung A x lt b ist eine nichtnegative duale Variable zugeordnet Jeder primalen nichtnegativen Variablen x ist die duale Ungleichung vi A p2 cj zugeordnet Aus dem Vorhergehenden d rfte klar sein dass der Dualit tssatz nicht nur f r das spezielle Paar linearer Programme P D aus Satz 5 8 gilt sondern f r alle Paare dualer linearer Programme Um sp ter darauf Bezug nehmen zu k nnen wollen wir den Dualit tssatz in voller Allgemeinheit formulieren 5 14 Allgemeiner Dualit tssatz Es seien P ein lineares Programm und D das zu P duale Programm a Haben P und D zul ssige L sungen so haben P und D Optimall sun gen und die Zielfunktionswerte aller Optimall sungen stimmen berein b Hat eines der beiden Programme P oder D eine Optimall sung so auch das andere c Hat eines der Programme P oder D keine zul ssige L sung so ist das andere unbeschr nkt oder hat keine zul ssige L sung d Ist eines der Programme P oder D unbeschr nkt so hat das andere keine zul ssige L sung Wir wollen nu
50. Leser die Bemerkungen zur Numerik in V Chv tal Linear Programming Freeman New York 1983 80 SK 870 C 564 oder das Buch M Bastian Lineare Optimierung gro er Systeme Athen um Hain Skriptor Hanstein K nigstein 1980 80 ST 130 B 326 zu lesen das einem Spezialaspekt dieses Themas gewidmet ist und diesen eini germa en ersch pfend behandelt Das Buch B A Murtagh Advanced Linear Programming Computation and Practice McGraw Hill New York 1981 80 QH 400 M 984 ist ganz Rechen und Implementierungstechniken der linearen Optimierung ge widmet Generelle Methoden zur Behandlung spezieller z B d nn besetzter oder triangulierter oder symmetrischer Matrizen im Rahmen numerischer Verfahren etwa Gau Elimination Matrixinvertierung finden sich in S Pissanetsky Sparse Matrix Technology Academic Press London 1984 80 SK 220 P 673 Generell wird bei Implementationen die revidierte Simplexmethode verwendet Es gibt zwei grunds tzliche Varianten f r die Reinversion Produktform der In versen Eliminationsform der Inversen EFT 165 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 10 31 Produktform der Inversen B t liegt in Produktform vor Bo Ek E mit aus Satz 9 10 Prinzip Gau Jordan Verfahren Freiheitsgrade a Positionen der Pivotelemente b Reihenfolge der Pivots a hat Einfluss auf die numerische Stabilit t b hat Ei
51. Pivotelemente sind in den Ta bleaus gekennzeichnet 5 2 3 4 5 6 3 4 3 2 3 0 3 12 1 1 0 3 105 15 0 4 3 2 32 3 117 2 05 5 15 1 5 6 1 4 5 1 2 1 33 2 0 2 15 6 0 De 6 6 2 903 a 0 2 i i 800 4 0 0 1 0 17 0 0 1 0 17 3 6 1 2 3 4 1 2 0 0 4 24 36 0 5 12 8 44 84 0 5 2 15 0 4 2 2 1 5 0 6 0 0 1 0 17 0 0 1 011 7 135 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Das letzte Tableau ist bis auf Spaltenvertauschung das gleiche wie das erste Alle Basen der oben generierten Folge geh ren zur Ecke 17 0 0 0 0 des Aus gangsproblems Die bei der Berechnung des Beispiels benutzte Variante des Sim plexverfahrens w rde also nicht nach endlich vielen Schritten abbrechen 0 Wie Satz 9 21 zeigt funktioniert die Grundversion der Simplexmethode gleich g ltig welche Arten von Auswahlregeln man in den Schritten II 2 und 11 5 benutzt wenn alle Basisl sungen nicht entartet sind Es ist daher sinnvoll zu fragen ob man nicht das Ausgangsproblem so modifizieren st ren kann dass das neue Problem nicht entartet ist Dass dies geht zeigt der folgende Satz Wie blich bezeichnen wir das LP max c x b x gt 0 mit 9 1 Sei f r ein ET E gt 0 max cT g Ax b Ae gt 0 9 23 Satz Perturbationsmethode a Das lineare Programm 9 1 ist genau dann l sbar wenn das LP 9 1e l sbar ist f r jedes gt 0 b Es gibt
52. Pivoting der nu merisch aufwendigste und schwierigste Schritt im Simplexverfahren Es gibt hier 121 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 zahllose Update Varianten von denen wir einige Produktform der Inversen LU Dekomposition Cholesky Zerlegung sp ter bzw in den bungen noch kurz besprechen wollen durch die eine schnelle und numerisch stabile Berechnung von erreicht werden soll Insbesondere f r gro e und d nn besetzte Matrizen n m gt 5000 large scale linear programming gibt es spezielle Techniken 0 Die quivalente Darstellung des Gleichungssystems b in Bemerkung 9 9 gibt uns ebenso die M glichkeit die Kosten auf einfache Weise ber die Nichtba sisvariablen zu berechnen woraus sich ein sehr einfaches Optimalit tskriterium gewinnen l sst 9 13 Satz Gegeben sei ein lineares Programm in Standardform 9 1 und Ag sei eine Basis von A a F r den Zielfunktionswert cr von x gilt b ch An en Der Term ch cA An hei t reduzierte Kosten von x die Komponenten von hei en reduzierte Kostenkoeffizienten b Simplexkriterium Ist Ag eine zul ssige Basis und sind die reduzierten Kosten nicht positiv d h cHAg An lt 0 dann ist die zugeh rige Basisl sung x mit zg 0 optimal f r 9 1 Ist eine zul ssige Basis und ist die zugeh rige Basisl sung nichtde
53. Polyeder x Ar b0 lt x lt u mit rang A m Ein Vektor x ist genau dann eine Ecke von wenn x zul ssige E Basisl sung ist Beweis Es gilt P P D d mit A b A b D I d I 0 Also folgt mit Satz 8 9 x Ecke von gt rang Deq 2 n Seien J eq x und Ji Jo J3 J4 so gew hlt dass Gilt rang D n so besitzt Ann vollen Rang und mit K l n J3 U J4 ist Ag regul r Man verifiziert sofort dass zul ssig ist wenn J3 N J gew hlt wird Die R ckrichtung ist nun evident 0 Wir kennzeichnen also im Weiteren Basen Nichtbasen und Basisl sung von 10 11 mit einem E um sie von den in Kapitel 9 eingef hrten Begriffen zu unterscheiden 151 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 10 16 Algorithmus Upper Bound Technique zur L sung von linearen Programmen der Form 10 11 Wie nehmen an dass u R U oo gilt und dass eine zul ssige E Basis vorliegt Wie beschreiben lediglich die Phase Es seien also gegeben zul ssige E Basis Ag he p1 Pm und N D nn Gan EN N N k nnen daraus bestimmt werden b Az b Az An Uy 1 BTRAN Berechne 2 Berechne nT An und w hle eins 1 n m mit _ gt 0 falls q gt 0 ln falls lt 0 mittels irgendeiner der Pivotspaltenauswahlregeln Gibt es keinen sol
54. S 3 Steilster Anstieg Regel W hle s S so dass j 5 4 Gr ter Fortschritt Regel Berechne f r jedes j 5 zun chst min 2 Tij gt 0 2 1 m und gj W hle s 5 so dass gs max g j S Varianten von 4 Es gibt unz hlige Varianten von 4 einige davon sind be schrieben in D Goldfarb J K Reid A practicable steepest edge simplex algorithm Mathe matical Programming 12 1977 361 371 P M S Harris Pivot selection methods for the Devex LP code Mathematical Programming 5 1973 1 28 H Crowder J M Hattingh Partially normalized pivot selection in linear pro gramming Math Progr Study 4 1975 12 25 Die Regel 10 2 1 ist die rechentechnisch einfachste Man durchl uft den Vek tor sobald ein Index s mit gt 0 gefunden ist h rt man auf und geht zum n chsten Schritt Die reduzierten Kosten m ssen also nicht alle berechnet werden Dadurch wird viel Aufwand gespart aber aufgrund der simplen Wahl von s ist die Gesamtzahl der Pivotoperationen im Vergleich zu anderen Regeln recht hoch hnliches gilt f r Regel 2 Hier m ssen jedoch alle reduzierten Kostenkoeffizi enten berechnet werden Diese Regel ist jedoch aus einem theoretischen Grund der noch diskutiert werden soll interessant 145 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Die Regel 3 ist die Regel die bei einfachen Implementationen
55. Satz Es seien K b dann existieren endliche Mengen V E C RK mit P A b conv V cone E e O dann gilt P A b 7 H ist nach Definition ein polyedrischer Kegel Also gibt es nach Satz 6 12 eine Matrix B K mit H cone B Aufgrund der Definition von H hat die letzte Zeile von B nur nichtnegative Ele mente Durch Skalieren der Spalten von B und Vertauschen von Spalten k nnen wir B in eine Matrix B so umformen dass gilt Beweis Setze B 2 el cone B Daraus folgt zeP Ab lt 2 1 1 gt 0 conv V 0 6 14 Folgerung Eine Teilmenge ist genau dann ein Polytop wenn die konvexe H lle endlich vieler Vektoren ist 71 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Beweis Sei V RK endlich und conv V dann ist P nach 6 3 ein Polyeder Ist x P so gilt x An vi E V A gt 0 SE le und somit ll lt Z lvill d h P x ll lt Sey Also ist beschr nkt d h P ist ein Polytop Ist umgekehrt P ein Polytop so gibt es nach Satz 6 13 endliche Mengen V E mit P V cone E Gibt es einen Vektor e E mit e 0 so gilt f r allen N 2 fir alle x conv V Also ist P unbeschr nkt falls E 0 5 0 Daraus folgt E 0 0 und dann gilt trivialerweise V conv V cone E P 0 6 15
56. Spaltenindexvektoren von A wie in 9 3 b festgelegt so dass Ag eine Basis von A ist Wir setzen A Ayla 1 lt r lt m _ 1 lt 5 lt b AgberR Ist oe 0 so ist Ag mit B p Pr 1 Us Pr i Pm eine Basis von A Ferner gilt Api wobei E eine sogenannte m m Elementarmatrix ist die wie folgt definiert ist 1 In E Nr GEERT Nm 1 119 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Dabei ist die r te Spalte von E der Vektor m Nm genannt Eta Spalte gegeben durch Ne tz is Ni ie 1 m r TS Das Element hei t Pivot Element Sind x x die zu A geh rigen Basisl sungen so gilt De Ezg 1 lt i lt m i fr neueBasisvariable Urs 1 ch Erb neueBasisvariable 0 andernfalls neueNichtbasisvariable Beweis Es seien d Ay yo d Apd As Ag erh lt man aus Az dadurch dass die r te Spalte A von Ag durch d ersetzt wird F ist daher eine m m Elementarmatrix deren r te Spalte der Vektor d ist Offenbar gilt daher 1 d 1 1 d 1 1 F E d Tr 1 1 1 dm 1 Nm 1 daraus folgt E EI d 0 war vorausgesetzt Da F und invertierbar sind ergibt sich aus Ag AgF sofort Ag EA Die brigen Formeln ergeben sich durch einfache Rechnung 0 Bei dem in Satz 9 10 beschriebenen Basisaustausch wird al
57. dann gilt x 0 b F ist ein Extremalstrahl von K lt gt 3z 0 so dass F cone z eine Seitenfl che von K ist Beweis Nach 2 6 gibt es eine Matrix A mit K P A 0 Aufgrund von 7 11 ist daher jede nichtleere Seitenfl che von K ein Kegel der den Nullvektor enth lt a Ist x Ecke dann gilt also 0 x und somit x 0 b lt nach Definition Nach 8 1 existieren und z 0 mit F x cone z Nach obiger Bemerkung gilt 0 F und somit existiert ein gt 0 mit 0 x Az d h x Az Da F ein Kegel ist gilt Ax A K A Az F Falls 0 gilt aber Az gt 0 Z x cone z ein Widerspruch Daraus folgt x 0 0 Der folgende Hilfssatz ber innere Punkte wird im Weiteren ben tigt 8 8 Lemma Ist F eine nichtleere Seitenfl che von P A b gilt I eq F und ist B y y eine Basis des Kerns von dann gibt es zu jedem inneren Punkt x F von Feine gt 0 so das z f r alle 1 gilt Beweis Sei x innerer Punkt von F und J l m I Nach 7 15 gilt eq r I also A x lt by und ferner A e cy br f r alle K F r gen gend klein gilt dann offenbar auch A Lr ey lt by 0 Wir wollen nun die Ecken eines Polyeders charakterisieren 8 9 Satz Seien P A b ein Polyeder und x Dann sind die folgenden Aussa
58. der verschiedenen Typen von Optimierungsproblemen einzureihen und zu klassifizieren Im Laufe des Studiums werden Ihnen noch sehr unterschiedliche Optimierungs aufgaben begegnen Viele werden von einem der folgenden Typen sein 1 8 Ein Kontrollproblem Gegeben sei ein Steuerungsprozess z B die Be wegungsgleichung eines Autos etwa der Form f t a t u t wobei u eine Steuerung ist Benzinzufuhr Ferner seien eine Anfangsbedingung x 0 Xo z B das Auto steht sowie eine Endbedingung RRE z B das Auto hat eine Geschwindigkeit von 50 km h gegeben Gesucht ist eine Steuerung u f r den Zeitraum 0 T so dass z T jul dt 0 minimal ist etwa minimaler Benzinverbrauch 0 1 9 Ein Approximationsproblem Gegeben sei eine numerisch schwierig aus zuwertende Funktion f finde eine Polynom p vom Grad n so dass If pl oder pllo minimal ist 12 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 1 10 Nichtlineares Optimierungsproblem Es seien f g 1 m hj j 1 p differenzierbare Funktionen von R dann hei t min f x GSO i 1 m ein nichtlineares Optimierungsproblem Ist eine der Funktionen nicht differen zierbar so spricht man von einem nichtdifferenzierbaren Optimierungsproblem Im Allgemeinen wird davon ausgegangen da alle betrachteten Funktionen zu mindest stetig sind 1 11 Konvexes Optimierungsproblem Eine Menge S C R
59. des durch die Restriktionen definierten Poly eders ist Dieses Ergebnis haben wir in Folgerung 8 15 dahingehend versch rft dass wir nachweisen konnten dass bei spitzen Polyedern das Optimum falls es existiert stets in einer Ecke angenommen wird Wollen wir also ein Verfahren entwerfen das lineare Programme ber spitzen Polyedern l st so gen gt es ein Verfahren anzugeben dass eine optimale Ecke derartiger Polyeder findet Aus Kapitel 2 wissen wir dass wir uns auf lineare Programme ber Polyedern der Form P A b x R Ar b x gt 0 beschr nken k nnen In Folgerung 8 13 haben wir gezeigt dass ein solches Polyeder stets spitz ist falls es nicht leer ist Wenn wir also einen Algorithmus angeben k nnen der die optimale Ecke eines linearen Programms der Form max cr x P A b findet so k nnen wir mit diesem alle linearen Programmierungsprobleme l sen 9 1 Definition Ein lineares Programm der Form max cl g gt 0 hei t ein lineares Programm in Standardform Wenn nichts anderes gesagt wird nehmen wir immer an dass A b K und c gilt 111 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Ist der Rang von A gleich n so wissen wir dass das Gleichungssystem Ar b entweder gar keine oder eine eindeutig bestimmte L sung hat die mit dem Gau schen Eliminationsverfahren berechnet werden kann Da also entweder kei ne L sung existiert oder der einzige zul ssige Pun
60. durch mathematische Formalisierung abgeleitet und daraus durch mathematische berlegungen ein neues lineares Programm 1 4 gewonnen Aber auch dieses Programm hat einen konomischen Sinn 1 6 konomische Interpretation von 1 4 Als Manager eines lkonzerns sollte man dar ber nachdenken ob es berhaupt sinnvoll ist die drei Olsorten S 9 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 L selbst herzustellen Vielleicht ist es gar besser die ben tigten Olmengen auf dem Markt zu kaufen Die Manager m ssen sich also berlegen welche Preise sie auf dem Markt f r 5 L gerade noch bezahlen w rden ohne die Produktion selbst aufzunehmen Oder anders ausgedr ckt bei welchen Marktpreisen f r S L lohnt sich die Eigenproduktion gerade noch Bezeichnen wir die Preise f r eine Mengeneinheit von S M L mit y yo Y3 SO sind beim Ankauf der ben tigten Mengen f r S M L genau 3y 5y2 4y3 GE zu bezahlen Der erste Crackprozess liefert bei 10 ME Roh leinsatz 2 ME 5 2 ME und 1 ME L und verursacht 3 GE Kosten W rden wir den Ausstoss des ersten Crackprozesses auf dem Markt kaufen so m ssten wir daf r Zu Zus y3 GE bezahlen Ist also 2y 2y2 gt 3 so ist es auf jeden Fall besser den Crackprozess 1 durchzuf hren als auf dem Markt zu kaufen Analog gilt f r den zweiten Prozess Erf llen die Marktpreise die Bedingung y 2y2 4y3 gt 5 so ist die Durchf hrung des Crackprozesses 2 profitabel
61. en dass P leer ist oder nicht Will man einen Konvergenzbeweis ber Volumen f hren so sollte man strikte statt normale Ungleichungssysteme betrachten Denn ein striktes Un gleichungssystem ist entweder unl sbar oder seine L sungsmenge hat ein positives relativ gro es Volumen 202 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Damit k nnen wir die Ellipsoidmethode formulieren 12 32 Die Ellipsoidmethode Input Ace Oman 0 Output Ein Vektor x Q mit lt b oder die Feststellung dass x R lt b leer ist 1 Initialisierung Setze Ao mit R n2 4 6 2 oder R durch andere Vorinformationen kleiner gew hlt ao 0 k 0 N 2 3 1 A 2n 1 b n Das Anfangsellipsoid ist Eo E Ao 2 Abbruchkriterium 2 a Giltk N dann hat Ax lt b keine L sung STOP 2 b Gilt Aa lt b dann ist eine L sung gefunden STOP 2 c Andernfalls sei c irgendeine Zeile von A derart dass der Mittelpunkt von die entsprechende Ungleichung verletzt 3 Update Setze 3 2 On Axe k 1 k n l SeT Aye k 3 b Arpi th 527 Arce AT Enz E Ak 1 gx ist das neue Ellipsoid k k 1 Gehe zu 2 12 33 Satz Die Ellipsoidmethode arbeitet korrekt 203 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Beweis Gibt es k lt N so dass Aa lt b so ist offenbar ein Vektor aus P A b
62. glich P A 0 x ist Ecke von g2 rang Ar n lt rang B Ep n denn die neu hinzugekommene Ungleichung ist 1 nicht mit Gleichheit erf llt 219 7 ist Extremale von hog P b zist Extremale von gt z ist Extremale von rec P gy rang Agq z 1 rang B 4 n 9 5 ist Extremale von hog P 8 5 Einige Darstellungss tze Wir kn pfen hier an Abschnitt 6 3 an wo wir bereits verschiedene Darstellungss tze bewiesen haben Einige dieser S tze k nnen wir nun mit Hilfe der in diesem Ka pitel gewonnenen Erkenntnisse versch rfen Ist K ein polyedrischer Kegel und gilt K cone E dann nennen wir E eine Ke gelbasis von K wenn es keine echte Teilmenge E von E gibt mit K cone E und wenn jede andere minimale Menge F mit K cone F dieselbe Kardinalit t wie E hat Ist P ein Polytop dann hei t eine Menge V mit P conv V kon vexe Basis von P wenn V keine echte Teilmenge besitzt deren konvexe H lle ist und wenn jede andere minimale Menge W mit conv W dieselbe Kardinalit t wie V hat Trivialerweise sind die Elemente einer Kegelbasis E konisch unabh ngig d h kein e ist konische Kombination der brigen Elemente von E und die Ele mente einer konvexen Basis sind konvex unabh ngig d h kein Element von V ist Konvexkombination der brigen Elemente von V Es gilt aber keineswegs dass jeder Vektor x cone E bzw x conv V eine eindeutige konische bzw konvex
63. hei t konvex falls gilt Sind S und ist R 0 lt A lt 1 dann gilt 1 A yE 5 Eine Funktion f R R hei t konvex falls fiir alle A R 0 lt lt 1 und alle x y gilt 1 A FY 2 fr 1 Ist S konvex z B kann 5 wie folgt gegeben sein 5 x R g x lt 0 i 1 m wobei die g konvexe Funktionen sind und ist f R R eine konvexe Funktion dann ist min f x zes ein konvexes Minimierungsproblem 0 1 12 Lineares Optimierungsproblem Lineares Programm Gegeben seien R A e b R dann hei t max c x lt b ze Kn lineares Optimierungsproblem 0 13 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 1 13 Lineares ganzzahliges Optimierungsproblem Gegeben seien R e R b R dann hei t lt b rEZ lineares ganzzahliges oder kurz ganzzahliges Optimierungsproblem Selbst bei Optimierungsproblemen wie 1 8 1 13 die nicht sonderlich all gemein erscheinen m gen kann es sein dass bei spezieller Wahl der Zielfunktion f und der Nebenbedingungen die Aufgabenstellung finde ein x 5 so dass f x so gro oder klein wie m glich ist keine vern nftige Antwort besitzt Es mag sein dass f ber 5 unbeschr nkt ist f kann beschr nkt sein ber 5 aber ein Maximum kann innerhalb 5 nicht erreicht werden d h das max m te ei
64. ist der Durchschnitt von G und Punkt y 2 5 und der Durchschnitt und der Punkt y 3 2 Der Punkt y erf llt jedoch die Ungleichung 2 nicht Wir m ssen also zun chst alle Durchschnitte ausrechnen dann berpr fen ob der je weils errechnete Punkt tats chlich alle Ungleichungen erf llt und unter den so gefundenen Punkten den besten ausw hlen Dieses Verfahren ist zwar endlich aber bei m Ungleichungen und n Variablen erfordert es 7 Aufrufe der Gau Elimination und weitere berpr fungen Es ist also praktisch nicht in vern nftiger Zeit ausf hrbar Dennoch steckt hierin der Kern des heutzutage wichtigsten Verfahrens zur L sung von linearen Program men des Simplexverfahrens Man berechnet zun chst eine L sung die im Durch schnitt von n Hyperebenen liegt und dann versucht man systematisch weitere derartige Punkte zu produzieren und zwar dadurch dass man jeweils nur eine Hy perebene durch eine andere austauscht und so von einem Punkt auf zielstrebige Weise ber Nachbarpunkte zum Optimalpunkt gelangt berlegen Sie sich ein mal selbst wie Sie diese Idee verwirklichen w rden Eine wichtige Komponente des Simplexverfahrens beruht auf der Tatsache dass man effizient erkennen kann ob ein gegebener Punkt tats chlich der gesuchte Optimalpunkt ist oder nicht Dahinter steckt die sogenannte Dualit tstheorie die wir anhand unseres Beispiels 1 1 erl utern wollen Wir wolle
65. ist ein polyno mialer Algorithmus wenn es ein Polynom p N N gibt so da faln lt p n Yn N gilt Polynomiale Algorithmen sind also solche Verfahren deren Schrittzahl multipli ziert mit der Kodierungsl nge der gr ten auftretenden Zahl durch ein Polynom in der Kodierungsl nge der Problemdaten beschr nkt werden kann F r die Klasse der linearen Programme der Form max Ax lt b muss also die Laufzeit eines Algorithmus durch ein Polynom in A b c beschr nkt werden k nnen wenn er polynomial sein soll Wie die Klee amp Minty Beispiele zeigen ist der Sim plexalgorithmus kein polynomialer Algorithmus zur L sung linearer Programme 12 2 Reduktionen Die Ellipsoidmethode ist kein Optimierungsverfahren sondern lediglich eine Me thode die in einem gegebenen Polyeder einen Punkt findet falls ein solcher exi stiert Wir m ssen daher das allgemeine lineare Optimierungsproblem auf diesen 190 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Fall zur ckf hren Aus Kapitel 2 allgemeine Transformationsregeln wissen wir dass jedes lineare Programm in der Form 12 6 Ar lt b gt 0 geschrieben werden kann Das zu 12 6 duale Programm ist min 07 12 7 gt gt 0 Aus dem Dualit tssatz 5 14 wissen wir dass 12 6 und 12 7 genau dann opti male L sungen haben deren Werte gleich sind wenn beide Programme zul ssige L sungen haben Daraus folgt dass je
66. l sbar wenn w 1 o s Cr E E 55 13 6 un b 17 1 D gt 0 i 1 n 2 l sbar ist Von der i ten Zeile der Matrix C i 0 ziehen wir nun das fache der letzten Gleichung 172 1 ab Dadurch machen wir die ersten m 1 Gleichungen homogen und erreichen dass aus dem Ungleichungs und Gleichungssystem 13 6 ein quivalentes System der folgenden Form wird Dr 0 13 7 Tr 1 gt 0 Um die Voraussetzung 13 2 herzustellen f hren wir eine weitere Schlupfvaria ble n 3 wie folgt ein Wir betrachten Dre pipes 0 13 8 Vertes 1 a EN Offenbar hat 13 7 genau dann eine L sung wenn 13 8 eine L sung mit n 3 0 hat Setzen wir A D D ed 0 0 1 7 eV und betrachten wir x als Vektor im R so hat also 13 7 genau dann eine L sung wenn 13 9 Ar 0 Yxr 1 x gt 0 re eine L sung hat Ferner erfiillt nach Konstruktion der Vektor at le bal e Org bez glich des Systems 13 9 die Forderung 13 2 Folglich kann jedes lineare Program durch polynomial viele Aufrufe eines Algo rithmus zur L sung von 13 1 mit Zusatzvoraussetzung 13 2 gel st werden 218 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 13 2 Die Grundversion des Karmarkar Algorithmus Wir wollen nun das Karmarkar Verfahren zur L sung von 13 1 unter der Zu satzvoraussetzung 13 2 beschreiben Wie wir am Ende des letzten Abschnittes gesehen haben k nnen wir jedes LP in eine Folge
67. mentation der Updates eingehen Es seien hier jedoch bereits einige Vorteile der revidierten Simplexmethode festgehalten Wesentlich weniger Rechenaufwand speziell bei Programmen mit erheb lich mehr Variablen als Gleichungen Die Ausgangsmatrix A kann auf externem Speicher bzw bei d nn besetzten Matrizen durch spezielle Speichertechniken gehalten werden Spalten von A werden je nach Bedarf generiert Sparse Matrix Techniques Die Kontrolle ber die Rechengenauigkeit ist besser Insbesondere kann bei Bedarf mit Hilfe eines Inversionsunterprogramms neu berechnet wer den Es gibt besondere Speichertechniken die eine explizite Speicherung von vermeiden Man merkt sich lediglich die Etavektoren und berechnet dann ber die Formel aus 9 10 aus der ersten Basisinversen durch Links multiplikation mit den Elementarmatrizen die gegenw rtige Basisinverse 144 5 KN MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 10 2 Spalten und Zeilenauswahlregeln Wir wollen uns nun damit besch ftigen wie die noch unspezifizierten Schritte des Simplexverfahrens vern nftig ausgef hrt werden k nnen 10 2 Varianten der PRICE Routine 10 1 2 Sei 5 j 1 n gt 0 0 Folgende Regeln werden h ufig angewendet bzw sind in der Lite ratur eingehend diskutiert worden 1 Kleinster Index Regel W hle s min j 5 2 Kleinster Variablenindex Regel W hle s 5 so dass qs min g EN j
68. oberste Zeile f r die k nstliche Zielfunktion hinzu T XQ 8 S2 53 6 10 0 0 0 0 0 k nstliche Zielfunktion 1 1 2 0 0 Of 0 akt Zielfunktion To 1 2 1 0 0 3 s2 ee es ee 83 3 5 0 0 0 Ij 4 s 21 53 z3 21 53 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 Das Tableau 73 ist optimal bez glich der k nstlichen Zielfunktion Es gilt OI Ob BN 1 n m n 3 0 d h 53 ist in der Basis Schritt 1 4 wird nicht ausgef hrt da dan 0 also d rfen wir entsprechend 1 5 die letzte Zeile und die Spalten 4 5 und 6 streichen Dies ergibt das folgende zul ssige Tableau f r das urspr ngliche Problem 11 T2 T3 Dieses Tableau ist optimal bez glich der urspr nglichen Zielfunktion x T2 0 3 4 z 2 142 Kapitel 10 Varianten der Simplex Methode Nachdem wir nun wissen wie der Simplexalgorithmus im Prinzip funktioniert wollen wir uns in diesem Kapitel berlegen wie die noch offen gelassenen Schrit te am besten ausgef hrt und wie die verschiedenen Updates numerisch g nstig implementiert werden K nnen 10 1 Der revidierte Simplexalgorithmus Betrachtet man die Grundversion des Simplexalgorithmus 9 15 so stellt man fest dass w hrend einer Iteration i a nicht s mtliche Spalten der Matrix A ben tigt werden Der revidierte Simplexalgorithmus nutzt diese Tatsache aus indem er stets nur solche Spalten von A berechnet die im jeweili
69. p 2 xE Q rr 0702 gt 07 gt v c u a vie Aus der Voraussetzung folgt dass Punkte P und q Q existieren mit Bp lt b und Dq lt d Die Absch tzungen 1 2 zeigen dass aus wT yT 4 07 folgt dass vfp lt p oder vfq gt p gilt Somit gilt v 0 und PU Q Z das aber hei t H ist eine trennende Hyperebene Gibt es eine und Q trennende Hyperebene H x p dann gibt es einen Punkt in PU Q der nicht in ist sagen wir Z H Daraus folgt P x a Bx lt bus lt und z Az a Bx lt b q Bx lt tata lt p und somit R x c Bz lt b v x lt p Dx lt d 0 dann x Cr c Dz lt d v x lt p 0 weil Q x Cx c Dx lt d C x vfz gt p 50 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Satz 4 10 folgt aus 4 9 wenn man sich berlegt dass f r ein Polytop a lt b mit der Eigenschaft dass keine der Ungleichungen in Bx lt b durch alle Punkte aus P mit Gleichheit erf llt ist die Menge x Ax Bx lt b das relativ Innere von P ist 51 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 52 Kapitel 5 Der Dualitatssatz der linearen Programmierung In Satz 1 5 haben wir bereits den sogenannten schwachen Dualit tssatz ange geben und bewiesen Die Gleichheit der optimalen Zielfunktionswerte kann man unter anderem mit Hil
70. r die euklidische Norm von v Si lt nmaxfo lt yn 240 2 i 1 199 101 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 Also ist jede Ecke von S 0 R enthalten Ist insbesondere P ein Polytop so folgt daraus P C S 0 R 0 Damit haben wir durch 12 24 oder 12 25 ein Anfangsellipsoid gefunden mit dem wir die Ellipsoidmethode beginnen k nnen Die Konstruktion von Ex aus Ep geschieht wie folgt 12 26 Satz Sei ol R ein Ellipsoid R 0 und x R cha lt cha N Ep Setze 74 12 27 Ce Jean 12 28 ak 1 12 29 Au Ar 52447 dann ist A positiv definit und En E Ak 1 k 1 ist das eindeutig be stimmte Ellipsoid minimalen Volumens das E enth lt Beweis Siehe R G Bland D Goldfarb amp M J Todd The Ellipsoid Method A Survey Operations Research 29 1981 1039 1091 oder M Gr tschel L Lov sz amp A Schrijver The Ellipsoid Method and Combinatorial Optimization Sprin ger Heidelberg erscheint 1985 oder 1986 U Wir wollen kurz den geometrischen Gehalt der Schritte in Satz 12 26 erl utern Ist c R und wollen wir das Maximum oder Minimum von x ber finden so kann man dies explizit wie folgt angeben F r den in 12 27 definierten Vektor d und Zmax td Zmin d gilt CT zmax max c z x Ek t Axe Canin minfcz Ep v cT Arc Di
71. rechnen kann 7 10 Satz Seien P A b ein Polyeder und 4 F x P y eine Seitenfl che von P Dann gilt eq F i M Ju gt 0 mitu gt 0 undu A 4 Beweis Nach Voraussetzung und Folgerung 5 9 haben die beiden linearen Pro gramme wra min ul b PD op D Ase gt 0 optimale L sungen mit gleichem Zielfunktionswert und F ist die Menge der Optimall sungen von P Sei nun eq F Aufgrund des Satzes 5 16 vom starken komplement ren Schlupf existieren Optimall sungen 7 von D gt 0 amp A T bj Wegen T F gilt A T be also gibt es einen Vektor u mit den geforderten Eigenschaften Gibt es umgekehrt einen Vektor u gt 0 mit u gt 0 und uf A cf y so ist optimal f r D und aus dem Satz vom schwachen komplement ren Schlupf 5 15 folgt A x b f r alle x F d h i eq F 7 11 Satz Seien P A b ein Polyeder und 0 eine Teilmenge dann sind quivalent i F ist eine Seitenfl che von i SIC M mit F 1 x P Ara br F fa eq F 81 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Beweis Gelten ii oder 111 dann ist H offenbar eine Seitenfl che von P i 0 SeiF x P y eine Seitenfl che Setzen wir I eq F dann gilt nach Definition F C P br F Istx F so gilt x es bleibt zu zeigen
72. row und column counts erfolgt entsprechend Durch besondere Ma nahmen wird versucht das Durchsuchen von Li sten sowie die Suche nach NNE in Vektoren einzuschr nken eine de taillierte Beschreibung der eingesetzten Methoden findet man bei Gu stavson So wird die Pivotwahl z B dadurch vereinfacht dass zu je der Spalte 7 in der noch nicht pivotisiert wurde nicht nur der column count sondern auch der minimale row count unter den Zeilen mit NNE in Spalte 7 mitgef hrt wird Spalten mit gleichem column count und minimalem row count werden verkettet Zus tzlich werden die Listen der Zeilen und Spaltenindices von NNE zu der vorbestimmten Pivot position f r die numerische Phase aufgehoben die Liste der Spaltenindices in der Pivotzeile gibt die Spalten an die aktualisiert werden m ssen durch Umspeicherung erh lt man zu jeder Spalte die Adressen derjenigen Etavektoren die zur Ak tualisierung dieser Spalte herangezogen werden m ssen die Liste der Zeilenindices in der Pivotspalte entspricht der Beset zung mit NNE in der aktualisierten Pivotspalte und ihre Speiche rung verhindert dass die gesamte Spalte nach NNE durchsucht werden muss Werden die Listen im Verlaufe zu umfangreich und damit auch die Ak tualisierung zu aufwendig so wird die Boolesche Matrix explizit als Matrix umgespeichert ein Byte pro Element Ist diese Matrix voll besetzt oder erreicht sie eine vom Benutzer zu spezifizierende Dichte so wird die Bo
73. tspr fung Gilt b gt 0 1 m so ist die gegenw rtige Basisl sung optimal Ag ist primal und dual zul ssig Setze xg b und zy 0 andernfalls gehe zu 11 2 II 2 Bestimmung der Pivotzeile W hle einen Index r mitb lt 0 II 3 Pr fung auf Beschr nktheit des Optimums Gilt A gt 0 so hat das duale Programm keine endliche L sung also ist P A b 0 STOP 4 Berechne ming I lt 0 j 1 Arj 5 Bestimmung der Pivotspalte 8 W hle Index s j l n ie Ar 6 Pivotoperation Setze Ag EA mit E aus Satz 9 10 und berechne alle notwendigen Parameter neu Gehe zu II 1 10 28 Tableauform des dualen Simplexalgorithmus Wollen wir das duale Simplexverfahren auf das Problem 10 23 mit dual zul ssiger Basis Az anwen den so k nnen wir das verk rzte Tableau VT MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 verwenden und auf dieses Tableau die Update Formeln des verk rzten Simplexta bleaus diese sind in Schritt II 7 von 9 15 angegeben anwenden Jedoch zeigt eine einfache berlegung dass wir bei der Auswahl der Indizes r und s entspre chend II 2 bzw II 5 die Updateformeln II 7 aus 9 15 auch direkt auf die Matrix A bzw b und anwenden k nnen und zwar genau in der Form wie sie in 9 15 I 7 aufgeschrieben wurden um das neue Tableau VT zu erhalten VT Wir fiihren also die Transponierung b
74. von max cz x P Andernfalls gehe zu 1 Die Korrektheit dieses Verfahrens ist offensichtlich Ist die Bin rsuche auch effi zient Da in jedem Schritt die Kardinalit t S von 5 fast halbiert wird ist klar dass h chstens 12 17 N log S 1 Aufspaltungen von 5 in zwei Teile notwendig sind um eine einelementige Menge zu erhalten Also muss Schritt 2 von 12 16 N mal ausgef hrt werden Nach 12 15 gilt S lt Ouren H und daraus folgt dass Test 2 von 12 16 h chstens 12 18 N 2A b 3 c 2n 2n logn 2 mal durchgef hrt wurde Ist Test 2 in einer Zeit ausf hrbar die polynomial in A b c ist so ist auch die bin re Suche ein polynomialer Algorithmus da ein polynomialer Algorithmus f r 2 nur N mal also nur polynomial oft aus gef hrt werden muss 12 19 Folgerung Es gibt einen polynomialen Algorithmus zur L sung linearer Programme genau dann wenn es einen Algorithmus gibt der in polynomialer Zeit entscheidet ob Polytop P leer ist oder nicht und der falls 4 0 einen Punkt in P findet Damit haben wir das lineare Programmierungsproblem reduziert auf die Frage der L sbarkeit von Ungleichungssystemen deren L sungsmenge beschr nkt ist 12 3 Beschreibung der Ellipsoidmethode In diesem Abschnitt setzen wir n gt 2 voraus Wir wollen zun chst einige Eigen schaften von Ellipsoiden beschreiben Wir erinnern daran dass Ellipsoide volldi
75. wenn er realisiert werden kann besser als das obige Enumerationsverfahren funktionieren zu K nnen Im weiteren werden wir zeigen wie man einen Basis austausch der von einer zul ssigen Basisl sung zu einer besseren zul ssigen Ba sisl sung mit relativ wenig Rechenaufwand f hrt durchf hren kann 9 9 Satz Gegeben sei ein Gleichungssystem Ay b mit rang A m und sei eine Basis von A Dann gilt x erf llt Ay b gt x erf llt zg Ag b Ag Anan 118 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Beweis O B d A sei 1 m d h A Ag Ay x 7 ann IN gilt LB IN b gt An An b 4 gt azs Ay 22 Ab N 4 LU AS An amp IN lt AZ Anan lt gt Az An n Die obige Beziehung ist simpel von rechentechnischer Bedeutung ist jedoch die Tatsache dass wir die Basisvariablen 7 in Abh ngigkeit von den Nicht basisvariablen darstellen k nnen Wir wollen uns nun berlegen wie wir den bergang von einer Ecke zu einer an deren Ecke vollziehen k nnen d h wie wir aus einer Basis eine andere Basis ohne viel Aufwand konstruieren k nnen Um dies rechentechnisch exakt vorf hren zu k nnen m ssen wir die Indexmengen B N wie in 9 3 b angegeben als Vekto ren auffassen 9 10 Satz Basisaustausch Pivotoperation Gegeben sei ein Gleichungssystem Ay b mit rang A p Pm und N qi n m Seien
76. x das System Aur by so gilt f r alle eq P Aut A Ant A Ab bi kek kek Nach gilt f r Facette F von P eq F Z und da Facetten maximale echte Seitenfl chen sind und eq inklusionsumkehrend ist folgt daraus eq G Z f r alle echten Seitenfl chen von P Aus Satz 7 22 folgt daher PSP 0 89 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 7 26 Folgerung Seien P A b 0 Polyeder eq P J C eq P und P x bj Ar x lt br Diese Darstellung von P ist genau dann irredundant wenn gilt a I ist eine Facetten Indexmenge von P b ist eine rang Aeqp n Matrix mit vollem Zeilenrang 7 27 Folgerung Sei P A b ein volldimensionales Polyeder also eq P 0 bzw dim P n dann gilt f r alle I C P Ar br ist eine irredundante Beschreibung lt gt I ist Facetten Indexmenge von 7 28 Satz Sei P A b ein Polyeder und F sei eine nichttriviale Seiten fl che von P Dann sind quivalent i F ist eine Facette von ii F ist eine maximale echte Seitenfl che von dim F dim P 1 iv F enth lt dim P affin unabh ngige Vektoren v Sei cr lt y eine bez glich P g ltige Ungleichung mit F x cr y dann gilt f r alle g ltigen Ungleichungen d r lt 6 mit F x d x Es gibt einen Vektor u unda K a gt
77. 0 Unsere Aufgabe besteht nun darin unter allen Vektoren 1 2 die die 5 Ungleichungen in 1 2 erfiillen einen Vektor zu finden der minimale Kosten verursacht d h bei dem z Dia einen m glichst kleinen Wert annimmt Es hat sich eingeb rgert eine derartige Aufgabe ein lineares Programm oder ein lineares Optimierungsproblem zu nennen und es wie folgt zu schreiben min 321 5x2 unter den Nebenbedingungen 1 221 z2 gt 3 S Ungleichung 2 221 229 gt 5 M Ungleichung 1 3 3 42 zi L Ungleichung 4 ti 0 5 25 2 0 3 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Dabei nennt man die zu minimierende Funktion 32 5z die Zielfunktion des Problems Jeder Vektor der 1 5 erf llt hei t zul ssige L sung des Pro blems Da wir nur 2 Variablen haben k nnen wir unsere Aufgabe graphisch analysieren Ersetzen wir das gt Zeichen in 1 5 durch ein Gleichheitszeichen so er halten wir 5 Gleichungen Die L sungsmenge einer Gleichung im R ist bekannt lich eine Gerade Diese 5 Geraden beranden die L sungsmenge des Systems der Ungleichungen 1 5 Diese L sungsmenge ist in Abbildung 1 1 graphisch dargestellt Der Leser m ge sich unbedingt mit der geometrischen Interpretation von Ungleichungen vertraut machen i Gs xlx 0 4 L sungsmenge von 1 5 M x13x 5m 19 G I x 4x 4 G t
78. 0 mit d a u Aep ay Beweis 1 gt ii nach Definition iv gt ili trivial 90 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 ii 1 Angenommen F ist keine Facette dann existiert eine echte Seiten fl che von P mit F GC P Aus 7 17 folgt dann dim F lt dim G 1 lt dim P 2 Widerspruch 1 v Sei F eine beliebige Facette von P Wir nehmen zun chst an dass Aur lt bj Aur eine irredundante Darstellung von P A b ist mit 1 J und dass F x b gilt Sei nun d x lt 6 eine g ltige Ungleichung mit F C x P 5 Aufgrund von Folgerung 7 4 gibt es Vektoren v gt 0 und w mit vT Ay wT 47 und 07 wTb lt in der Tat gilt hier Gleichheit da x d z 6 eine St tzhyperebene ist Angenommen es gibt einen Index i J 1 mit v gt 0 dann gilt nach 7 10 7 eq F Dies ist aber ein Widerspruch dazu dass J eine Facettenindexmenge ist Hieraus folgt v v Da F eine echte Seitenfl che von P ist gilt dim F lt dim P 1 Angenommen dim F lt dim P 2 b d A k nnen wir annehmen dass F x P A x gilt Aus 7 16 folgt rang Aeqr rang Aeqp 2 Mithin gibt es einen Index i eq F eq P U 1 so dass der Zeilenvektor Aj linear unabh ngig von den Zeilenvektoren A 7 eq P U 1 ist Das aber hei t dass das System Ai
79. 1 De siehe Beweis von 13 20 41 2 Li a n n 1 IS zt ma Dytt IT Be k k 1 Qll Gehe zu 2 0 Die Geschwindigkeit des Algorithmus h ngt nat rlich nur von der Implemen tierung des Schrittes 3 ab Wir haben hier die aus Lemma 13 20 gewonnene Formel 13 21 f r den n chsten Iterationspunkt x gew hlt Man kann zb nat rlich auch ber 13 23 13 24 bestimmen Wesentlich ist dass man eine Update Formel findet in der m glichst wenig arithmetische Operationen auftre ten 226 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Es ist offensichtlich dass die Hauptarbeit von 3 im Schritt 3 b liegt F hrt man ihn kanonisch aus so werden O n Rechenschritte ben tigt Man beachte dass sich in jedem Schritt nur die Diagonalmatrix D ndert Diese Tatsache kann man wie Karmarkar gezeigt hat ausnutzen um 3 in 0 n Rechenschritten zu erledigen Die Laufzeit betr gt dann insgesamt O n A Wie bei der Ellipsoidmethode k nnen bei der Ausf hrung des Karmarkar Algo rithmus irrationale Zahlen durch Wurzelziehen in 3 c auftreten Wir sind also gezwungen alle Rechnungen approximativ auszuf hren Die dadurch auftreten den Rundungsfehler akkumulieren sich nat rlich Wir m ssen also unsere Run dungsvorschriften so einrichten dass beim Abbruch des Verfahrens eine korrekte Schlussfolgerung gezogen werden kann Auch das kann man wie bei der Ell
80. 13 22 durch eine direkte Formel gel st werden kann das folgt nat rlich auch aus 13 20 durch die obige Gleichung und zwar gilt 13 23 prec ch 1 DU DA AT AD 2117 en Idaa IO DAF AD2AT TAD 217 Del Hieraus ergibt sich ber 13 21 eine neue einfache Formel zur Berechnung des n chsten Iterationspunktes 1 1 kul 1 _ 1 13 24 pe ort Damit haben wir die wesentlichen Bestandteile eines Iterationsschrittes des Karmarkar Algorithmus beschrieben und k nnen ihn zusammenfassend darstellen wobei noch das Abbruchkriterium zu begr nden ist 225 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 13 25 Der Karmarkar Algorithmus Input A e Q undc Zus tzlich wird vorausgesetzt dass A1 0 und c 1 gt 0 gilt Output Ein Vektor x mit Ax 0 172 1 gt 0 und lt 0 oder die Feststellung dass kein derartiger Vektor existiert 1 Initialisierung Setze 8 o Ir KA gt m w gt bo 2 Abbruchkriterium 2 a Gilt k N dann hat Ax 0 1 x 1 gt 0 lt 0 keine Losung STOP 2 b Gilt Tx lt 29 0 dann ist eine L sung gefunden Falls cT x lt 0 dann ist x eine L sung andernfalls kann wie bei der Ellipsoidmetho de Satz 12 34 aus x ein Vektor konstruiert werden mit lt 0 0 177 1 7 gt 0 STOP Update 3 8 a D diag x 3 b I DAT AD AT AD 1
81. 5 GURS en d 5 5 cone S 5 lin S gt 5 S Gilt die Umkehrung Ersetzen wir in a d o durch 1 sind dann auch noch alle Behaup tungen wahr 0 6 9 Hausaufgabe F r welche Mengen 5 gilt a Ke Se 6 5 5 Die Aussage 6 8 d impliziert insbesondere 6 10 Folgerung 7 0 Beweis AT a Ax lt 0 P A 0 O Das folgende Korollar aus 6 7 und 6 10 wird in der Literatur h ufig mit einem Namen belegt 6 11 Polarensatz F r jede Matrix Kaal gilt 0 0 Beweis 6 10 P A 0 ED 0 6 7 T mo 6 10 cone A P A 0 Unser kurzer Exkurs ber Kegelpolarit t ist damit beendet 70 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 6 3 Darstellungssatze Wir wollen nun zeigen dass Polyeder nicht nur in der Form P A b dargestellt werden k nnen und benutzen dazu die bisher entwickelte Maschinerie 6 12 Satz Minkowski 1896 Eine Teilmenge K ist genau dann ein polyedrischer Kegel wenn K die konische H lle von endlich vielen Vektoren ist Mit anderen Worten Zu jeder Matrix A K gibt es eine Matrix KO so dass P A 0 cone B gilt und umgekehrt Beweis P A 0 cone AT P BT 0 P cone B 0 6 13
82. 8 124 G B Dantzig R P Harvey R D McKnight amp S S Smith 1969 Sparse Ma trix Techniques in Two Mathematical Programming Codes in R A Willough by ed Sparse Matrix Proceedings RA 1 IBM Research Center Yorktown Heights New York 1969 85 99 173 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 R Fletcher amp S J Matthews 1984 Stable Modification of Explicit LU Factors for Simplex Updates Mathematical Programming 30 1984 267 284 J J H Forrest amp J A Tomlin 1972 Updated Triangular Factors of the Basis to Maintain Sparsity in the Product Form Simplex Method Mathematical Program ming 2 1972 263 278 A M Geoffrion amp R E Marsten 1972 Integer Programming Algorithms a Framework and State of the Art Survey Management Science 18 1972 465 491 D Goldfarb amp J K Reid 1977 A Practicable Steepest Edge Simplex Algorithm Mathematical Programming 12 1977 361 371 D Goldfarb 1976 Using the Steepest Edge Simplex Algorithm to Solve Sparse Linear Programs in J Bunch and D Rose eds Sparse Matrix Computations Academic Press New York 1976 227 240 F G Gustavson 1972 Some Basic Techniques for Solving Sparse Systems of Linear Equations in D J Rose amp R A Willoughby eds Sparse Matrices and Their Applications Plenum Press New York 1972 41 52 J Harris 1975 Pivot Selection Methods of the Devex LP Code Mathema tica
83. At b gt b L H Hei Wir zeigen nun A T X lt b f r alle L U undallei M PUNUZ wobei e den j ten Einheitsvektor bezeichnet Isti Z so gibtes ein j e Rmitp j i und Dj A dj b Aus lt dj folgt daher die Behauptung Ist P dann gilt U lt und somit Analog folgt die Behauptung f r N Der Beweis d2 sei dem Leser berlassen 0 3 3 Folgerung 0 P D d 0 o Sprechweise f r 3 3 Ax lt b ist konsistent l sbar gt Dr lt ist konsistent l sbar Die Fourier Motzkin Elimination der j ten Variablen kann man nat rlich auch auf ein System von normalen und strikten Ungleichungen anwenden Eine Nachvoll ziehung des obigen Beweises liefert 3 4 Satz Seien A eine n Matrix b j 1 n und I J eine Partition der Zeilenindexmenge 1 m Seien D die durch Fourier Motzkin Elimination der Variablen j gewonnene Matrix bzw Vektor Setze E H Z A N x I x J F R E wobei p die in 3 1 Schritt 2 definierte Abbildung ist dann gilt Das System Ar x lt br A x lt hat eine L sung genau dann wenn 35 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 das System lt dg Dr x lt dp eine L sung hat Beweis Hausaufgabe Wir k nnen nun die Fourier Motzkin Elimination sukzessive auf alle Spaltenin dizes
84. BUN 1 n Insbesondere k nnen wir danni B und j N schreiben d Zur schreibtechnischen Vereinfachung schreiben wir im folgenden Az und An statt und 112 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 e Ist ein Spaltenindexvektor B wie oben angegeben definiert so bezeichnet falls nicht anders spezifiziert N 91 immer den Spaltenin dexvektor der alle brigen Spaltenindizes enth lt wobei q lt q f r lt j gilt 9 1 Basen Basisl sungen Entartung 9 4 Definition Gegeben sei ein Gleichungssystem Ax b mit A Klima b und rang A m Spaltenindexvektoren B und N seien entsprechend Konvention 9 3 gegeben a Ist regul r so hei t Basismatrix oder kurz Basis von A und Ay hei t Nichtbasismatrix oder Nichtbasis von A Der Vektor x mit und xg hei t Basisl sung von Ax b zur Basis Az oder die zu geh rige Basisl sung oder kurz Basisl sung b Ist Ag eine Basis dann hei en die Variablen x 7 Basisvariable und die Variablen x 7 N Nichtbasisvariable c Ist Ag eine Basis dann hei en Ag und die zugeh rige Basisl sung x zul ssig bez glich P A b wenn 0 gt 0 gilt d Eine Basisl sung x zur Basis Ag hei t nichtentartet oder nichtdegene riert falls cg Ag b gt 0 andernfalls hei t sie entartet oder degene riert Die oben eingef hrten Begriffe geh ren zur Standard
85. C gt 07 V 07 zU uWa tv b lt 0 Es existieren x y mit lt a b gt 0 Hierbei bezeichnet V das entweder oder d h eine der beiden Aussagen gilt aber niemals beide gleichzeitig also eine Alternative Beweis Durch die Transformationsregeln 2 4 f hren wir die obige Aussage auf Folgerung 3 5 zur ck Die linke Aussage der Alternative l sst sich schreiben als 43 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Jz mit Az lt T wobei a b 0 A C C I e D D D Nach 3 5 hat dieses System genau dann keine L sung wenn gilt ve vr mit y A 0 und lt 0 Ausf hrlich geschrieben hei t dies 8 u 770 9 07 ES U 2 Ber J 20 mt wB D 7D OI 0760 b lt 0 Setzen wir v 7 7 und betrachten wir w als einen Vektor von Schlupfvariablen so l sst sich dieses System quivalent schreiben als uT A gt OF Ju v mit gt 0 ulatvutd lt 0 und dies ist das gew nschte Resultat 0 Durch Spezialisierung von 4 1 erhalten wir 4 2 spezielles Farkas Lemma Es seien e Klima und b Km dann gilt mit lt 3u gt 0 mit 07 und lt 0 ir gt 20 mit Ar lt b V Au gt 0 mit wWA gt 07 und lt 0 3z gt 0 mit 6 V Au mit uTA gt 07 und lt 0 d 3x mit Ax b V Ju mit 07 und lt
86. CBN gt 0 Ars denn T T 4 1 TA m 0 lt Cq Cq KR Cp Qis Cq Br Cp rs Trs CBN Cp 124 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 und aus s gt 0 folgt nun die Behauptung Somit gilt _ Ta _ T 1 9 10 Ce Cp Tp Age c EA b Erg dE Cer NX Cp Xp gt Cap a Hieraus folgt b Ist x nichtdegeneriert so gilt xp gt 0 und somit ist die letzte Ungleichung in der obigen Absch tzung strikt Daraus ergibt sich c 0 Der obige Beweis macht den geometrischen Inhalt des Satzes 9 14 nicht deut lich Dem Leser wird dringend empfohlen sich zu berlegen welche geometri sche Bedeutung der Parameter b hat und welche Beziehung A im Falle A s lt 0 zum Rezessionskegel von P A b hat 9 3 Das Simplexverfahren Die Grundidee des Simplexverfahrens haben wir schon erl utert sie kann kurz wie folgt beschrieben werden Finde eine zul ssige Basis Konstruiere aus Ag eine zul ssige Basis Ag so dass die zul ssige Ba sisl sung von besser als die von Az ist Gibt es keine bessere Basisl sung so ist die letzte optimal Die vorhergehenden S tze geben uns nun die M glichkeit die oben informell beschriebene Idee analytisch darzustellen und algorithmisch zu realisieren Die Grundversion des Simplexverfahrens laut
87. EL SKRIPTUM ADM II WS 2003 2004 dagegen eine ME mehr an leichtem l L liefern so m sste die Kombination der Crackprozesse ge ndert werden und zwar w rden dadurch insgesamt Mehrkosten in H he von 3 GE anfallen Analog w rde bei einer Erh hung der Produktion von 5 ME mittleren ls auf 6 ME eine Kostensteigerung um T GE erfolgen Diesen Sachverhalt k nnen wir dann auch so interpretieren Angenommen die lfirma hat die Prozess niveaus 2 x3 0 5 gew hlt Ein Mineral lh ndler m chte 1 ME leichten ls L zus tzlich kaufen Ist der Marktpreis mindestens 2 GE pro L wird die Firma das Gesch ft machen andernfalls w re es besser die zus tzliche Einheit nicht selbst zu produzieren sondern von einem anderen Hersteller zu kaufen W rde der Mineral lh ndler 1 ME schweres l nachfragen w rde die Firma bei jedem Preis verkaufen denn sie hat davon zu viel 1 2 Optimierungsprobleme Wir wollen zun chst ganz informell ohne auf technische Spitzfindigkeiten ein zugehen Optimierungsprobleme einf hren Sehr viele Probleme lassen sich wie folgt formulieren Gegeben seien eine Menge 5 und eine geordnete Menge lt d h zwischen je zwei Elementen s t T gilt genau eine der folgenden Beziehungen s lt t s gt t oder s t Ferner sei eine Abbildung f 5 T gegeben Gesucht ist ein Element x S mit der Eigenschaft f x gt f x f r alle x 5 Maximie rungsproblem oder f x lt f x f r alle x
88. GR TSCHEL SKRIPTUM ADM WS 2003 2004 sagen wir 7 lt 0 so gilt 9 lt 1 lt TET 4 nen lt 0 ein Widerspruch Daraus folgt y gt 0 und 13 21 ergibt direkt et Aus 13 21 folgt ebenalls sofort dass 17 x 1 gilt 0 Entscheidend f r die Absch tzung der Anzahl der Iterationsschritte ist die folgen de Beobachtung 13 28 Lemma Gibt es ein gt 0 mit 0 1 x 1 und cz lt 0 dann gilt f r alle k 9 beem af Wir wollen uns nun berlegen wieviele Iterationen im Verfahren 13 25 h chstens durchgef hrt werden m ssen Der erste Iterationspunkt ist der Vektor 10 1 Daraus folgt mit einer groben Absch tzung aus 12 10 a Ca a Aus Lemma 13 28 ergibt sich unter den dort gemachten Voraussetzungen el kim 9 k el 2 ak i lt 1 und ff 29 Ur SS k und somit wegen 27 lt 13 29 In jedem Schritt schrumpft also der Zielfunktionswert um den nur von der Dimen sion n abh ngigen Faktor 2 Setzen wir 13 30 N 3n A 2n c n dann gilt 228 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 13 31 Satz Es gibt ein gt 0 mit Ax 0 17x 1 lt 0 genau dann wenn es eink 0 N gibt mit dar lt a9 Beweis gt Angenommen es gibt ein x P N Q mit cz lt 0 dann sind die Voraussetzungen von Lemma 13 28 erf llt und fo
89. Lineare Optimierung Algorithmische Diskrete Mathematik Skriptum zur Vorlesung im WS 2003 2004 Prof Dr Martin Gr tschel Institut f r Mathematik Technische Universit t Berlin Version vom 13 Januar 2004 Vorwort Die Vorlesung Lineare Optimierung ist die zweite Vorlesung ADM im Zy klus des Studienschwerpunktes Algorithmische Diskrete Mathematik an der TU Berlin in den Studieng ngen Mathematik Techno und Wirtschaftsmathema tik Detaillierte Kenntnis der vorausgegangenen Vorlesung Graphen und Netz werkalgorithmen wird nicht vorausgesetzt Graphen und Netzwerke und damit zusammenh ngende Probleme werden lediglich als Beispielmaterial verwendet In dieser Vorlesung werden haupts chlich die Grundlagen der linearen Optimie rung auch lineare Programmierung genannt behandelt also einige Aspekte der linearen Algebra und der Polyedertheorie Nat rlich steht die Entwicklung von Algorithmen zur L sung von Optimierungsproblemen im Vordergrund Sehr ausf hr lich werden der Simplexalgorithmus und seine Varianten behandelt aber ebenso werden wir Innere Punkte Verfahren die Ellipsoidmethode und Schnittebenen verfahren der ganzzahligen Optimierung diskutieren Oktober 2003 M Gr tschel MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 Vorbemerkungen Literatur Die Literatur zum Thema Lineare Programmierung ist berw ltigend umfang reich Hierzu rufe man einfach einmal die Datenbank MATH des Zen
90. M ADM Il WS 2003 2004 Wert der gegenw rtigen E Basisl sung berechnet wird Ist also der gegenwiarti ge Wert der Basisl sung und xg Az b b so hat die zus tzliche Spalte in der ersten Komponente den Eintrag cy Tn un und die restlichen Kompo nenten berechnen sich durch b b Are Urn 10 17 Beispiel Wir betrachten das folgende LP dessen L sungsmenge in Ab bildung 10 1 dargestellt ist max 221 T2 1 42 lt 3 z T2 lt 2 T lt u T2 lt 1 up T1 T2 gt 0 Abb 10 1 Wir f hren 2 Schlupfvariablen x3 x4 ein mit oberen Schranken 00 und erhal ten als Anfangstableau mit zus tzlicher Spalte 2 die mit der Spalte 3 identisch ist da keine Nichtbasisvariable von Null verschieden ist l Sill To 3 1 4 1 eS je N lo Lu m aA Ne o 11 w oll 2 amp II 0 1 2 2 Wir w hlen die erste Spalte als Pivotspalte d h 9 1 Schritt 4 CHUZR ergibt Bs 2 3 o 2 An ist wegen nicht definiert 1 2 155 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 d h Amin Wir f hren also Schritt 4 d aus setzen 9 Q d h q 1 und berechnen b neu Die neue letzte Spalte d h die neue E Basisl sung zur Basis Az erhalten wir aus der normalen Basisl sung wegen 1 wie folgt 1 3 1 2 b b A
91. P 0 Gibt es zwei linear unabh ngige Vektoren u v rec P und Au gt 0 mit z wv so gilt 0 cz d u pv Ac u ucv lt 0 Daraus folgt chu cv 0 d h u v F ein Widerspruch 3 gt 4 trivial 3 gt 5 Sei J eq z dann ist z innerer Punkt F x rec P A x 0 Ist rang A lt n 1 dann enth lt der Kern von einen von z linear unabh ngigen Vektor u Nach Lemma 8 8 gibt es eine gt 0 so dass z eu rec P gilt Dann aber gilt z z cu z eu d h z ist echte konische Kombination von zwei linear unabh ngigen Elementen von rec P Wi derspruch Offenbar ist rang A n 5 gt 2 Sei I eq z dann folgt f r F x rec P Aur 0 aus der Voraussetzung dass dim F 1 gilt Da rec P spitz ist enth lt nach 8 12 rec P keine Gerade also muss die eindimensionale Seitenfl che F der Strahl cone z sein 0 Wir wollen nun noch eine Beziehung zwischen den Ecken und Extremalen eines spitzen Polyeders und den Extremalen seiner Homogenisierung aufzeigen 8 20 Satz Sei ein spitzes Polyeder dann gilt a x ist Ecke von lt gt Cl ist Extremale von hog P 2 b z ist Extremale von lt gt ist Extremale von hog P 104 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Beweis Sei P P A b dann gilt nach Satz 8 5 hog P P B 0 mit B ch a Sei eq x bez
92. P und Q strikt trennt falls P x c x lt y und Q xl x gt y Das Farkas Lemma impliziert einige interessante Trenns tze f r Polyeder P C K Wir wollen hier einen Satz dieser Art angeben der als Prototyp f r die allge meineren Trenns tze angesehen werden kann 4 8 Trennsatz Es seien P P A und Q P B b zwei Polyeder im Es gibt eine P und Q strikt trennende Hyperebene genau dann wenn P Q gilt es sei denn eines der Polyeder ist leer und das andere der Beweis Gibt es eine P und Q strikt trennende Hyperebene dann ist P N Q offensichtlich leer Sei P N Q 0 Zu zeigen ist die Existenz eines Vektors 0 und einer Zahl y so dass lt y und PC gt y gilt Sind P und Q leer so leistet jede beliebige Hyperebene das Gewiinschte Ist eines der Polyeder leer sagen wir Q 0 0 dann ist wegen eine der Zeilen von A von Null verschieden sagen wir A 4 0 Dann haben A y a 1 die geforderten Eigenschaften Sind P und Q nicht leer dann gilt nach Voraussetzung Halt Folglich existiert nach 4 2 a ein Vektor gt 0 mit u A v B 07 und vb lt 0 Wir setzen c uT A v B und ufa 070 Daraus folgt zeP gt lt ua lt ua ula vTb u a 010 zeQ gt dx v Br gt v b gt 0764 07 076 u a 07 Der Vektor c ist offenbar von Null ver
93. S 2003 2004 Dieser Sachverhalt ist in gr erer Allgemeinheit g ltig Erinnern wir uns daran dass jede affine Abbildung f K gegeben ist durch eine Matrix D Kr und einen Vektor d so dass Dita Vre F r derartige Abbildungen gilt 6 2 Satz Affine Bilder von Polyedern sind Polyeder Beweis Seien P P A b ein Polyeder und f x Dz d eine affine Abbildung von K in den K dann gilt f P R 3x mit Ar lt bundy Dr d y 3x mit BC lt 0 wobei A 0 b B D I b d D d Wenden wir nun unser Verfahren 3 6 iterativ auf b und die Richtungsvektoren 1 2 n an so erhalten wir nach Satz 3 8 ein System c lt cmit y 0 und es gilt Vy K Are mit DC lt b gt Jre mit CC lt c lt Daraus folgt f y K Cy lt ist ein Polyeder Man beachte dass der Beweis von 6 2 sogar ein Verfahren zur expliziten Kon struktion des affinen Bildes von P A b beinhaltet Aus 6 2 ergibt sich direkt die folgende auch aus anderen Gr nden unmittelbar einsichtige Beobachtung 6 3 Folgerung Satz von Weyl F r jede Matrix A gilt lin A aff A conv A cone A ist ein Polyeder 66 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Beweis Wir zeigen die Behauptung fiir die konische Hiille Alle anderen Falle beweist man analog co
94. SKRIPTUM ADM II WS 2003 2004 176 Kapitel 11 Postoptimierung und parametrische Programme Wir haben bisher die Theorie und Praxis des Simplexverfahrens entwickelt unter der Annahme dass die Daten A b und c fest vorgegeben sind Bei praktischen Problemen k nnen jedoch h ufig nicht alle der ben tigten Zahlen mit Sicherheit angegeben werden d h es kann Unsicherheit ber die Beschr nkungen b oder den zu erwartenden Gewinn c x geben Man muss also die Tatsache mit in Betracht ziehen dass die Wirklichkeit nicht exakt in das lineare Modell abgebildet wurde bzw werden konnte Dar ber hinaus k nnen im Nachhinein zus tzliche Variablen oder Restriktionen auftreten die bei Aufstellung des Modells bersehen wurden oder nicht ber cksichtigt werden konnten Wir werden uns nun berlegen wie wir gewisse auftretende nderungen behan deln k nnen wenn wir 7 die optimale L sung des urspr nglichen Programms gefunden haben Wir wollen uns auf die folgenden F lle beschr nken 1 Variation der rechten Seite b 2 Variation der Zielfunktion c 3 nderung einer Nichtbasisspalte 4 Hinzuf gung einer neuen Variablen 5 Hinzuf gung einer neuen Restriktion Im Prinzip k nnten wir nat rlich versuchen eine Theorie zu entwerfen bei der 177 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Schwankungen aller Daten ber cksichtigt werden Das ist jedoch au erordentlich kompliziert und es gibt dar ber kaum rechneri
95. Schritt 2 Setzer ZU N x P R 1 r und sei P R ZU Nx eine Bijektion d h eine kanonische Indizierung der Elemente von Z U N x P Schritt 3 F hre f r 1 1 2 7 aus a Falls p i Z dann setze Dj di d h die i te Zeile von D ist gleich der p i ten Zeile von A b Falls p i s t N x P dann setze Dj rode AsjAt d 9305 d h das a fache der t ten Zeile von A wird vom der s ten Zeile von A abgezogen und als t te Zeile von D betrachtet Ende Bevor wir den Algorithmus analysieren betrachten wir ein Beispiel 1 7 z 622 lt 25 2 24 522 lt 1 3 2 lt 7 4 lt a 5 325 lt 1 6 221 pa lt 10 Wir wollen die zweite Variable eliminieren und erhalten in Schritt 1 von 3 1 N 2 5 6 Z 3 1 4 32 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Daraus ergibt sich Z U N x P 7 Die Nummerierung der Zeilen von D ist dann R 1 7 und wir setzen 1 3 2 2 1 3 2 4 p 4 5 1 5 5 4 p 6 6 1 p 7 6 7 Die zweite Zeile von D ergibt sich dann als die Summe vom 6 fachen der zweiten Zeile von A und dem 5 fachen der ersten Zeile von A Die zweite Ungleichung des Systems Dx lt d hat somit die Form 292 0x2 lt 131 Insgesamt ergibt sich wenn wir die aus lauter Nullen bestehende zweite Spalte weglassen das folgende S
96. TUM ADM II WS 2003 2004 DEE 158 165 173 177 EE 178 EEN EES 180 11 3 nderungen des Spaltenvektors A i N s 181 EE 183 ee ee ee 184 187 EE 188 bee pe UES EE EE E ee 190 Se ae nn ee 196 ee ee EE 206 Ke Ee RO EE pe ee 207 215 EEN 216 ee 219 vii Kapitel 1 Einf hrung Dieses erste Kapitel dient der Einf hrung in das Gebiet Optimierung Opti mierungsaufgaben werden zun chst ganz allgemein definiert und dann immer mehr spezialisiert um zu Aufgaben zu kommen ber die mathematisch inter essante Aussagen gemacht werden k nnen Anwendungen der mathematischen Modelle werden nur andeutungsweise behandelt Wir besch ftigen uns zun chst haupts chlich mit der Theorie denn ohne theoretische Vorkenntnisse kann man keine Anwendungen betreiben Eine f r die Praxis wichtige T tigkeit ist die Modellbildung oder formulierung also die Aufgabe ein reales Problem der Praxis in eine mathematische Form zu kleiden Diese Aufgabe wird von Mathematikern h ufig ignoriert oder als tri vial betrachtet Aber es ist gar nicht so einfach f r ein wichtiges Praxisproblem ein gutes mathematisches Modell zu finden Dies muss anhand vieler Beispie le ge bt werden um Modellbildungserfahrung zu gewinnen Wir werden dies vornehmlich in den bungen zur Vorlesung abhandeln 1 1 Ein Beispiel Was ist ein Optimierungsproblem Bevor wir diese Frage durch eine allgemei ne Definition bean
97. Vektor d dessen Komponenten Elemente von b oder Nullen sind so dass v die eindeutige L sung von Dx d ist Nach Cramer s Regel gilt dann f r 1 n det D Vi det D wobei D aus D dadurch entsteht dass die 7 Spalte von D durch den Vektor d ersetzt wird Hat D Zeilen die negative Einheitsvektoren sind so bezeichnen wir mit D die Matrix die durch Streichen dieser Zeilen und der Spalten in denen sich die Elemente 1 befinden entsteht Aufgrund des Determinantenentwicklungs satzes gilt det D det D und ferner ist D eine Untermatrix von A Daraus folgt mit 12 10 d det D det D lt 2P lt 24 7 Analog folgt det D lt 2 0 Damit ist a bewiesen Ist det D gt 1 dies ist z dann der Fall wenn A Z gilt so erhalten wir mit a Io lt det D lt AH m Hieraus folgt Ist det D lt 1 so m ssen wir det D nach unten absch tzen Sei q 5 Mj das Produkt der Nenner der Elemente dj SS von D Dann gilt det D un und sowohl q als auch ol det D sind ganze Zahlen Aus 12 10 a b folgt 2 q La lt 9013 lt 92709 lt P lt gan 1 7 Daraus ergibt sich 2 det D det Dilq lt det D q lt 92 A b 2n i San a T jul lt det D q det D 7 193 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Damit ist auch b bewiesen 0 Da nach Satz 8 12 alle Polyeder der Form x lt b x gt 0
98. Xf 1 41 Ha 0 so dass p 4 Act 3 i 1 j l Und daraus folgt p q q q Adut mae lt aY m0 a i 1 j 1 i 1 j 1 fa also gilt P 0 a 7 3 Folgerung Die y Polare eines Polyeders P ist ein polyedrischer Kegel Kn 77 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 7 4 Folgerung Ist P P A b conv V cone ein Polyeder und a x lt eine Ungleichung dann sind quivalent i a x lt a ist g ltig bez glich 11 Ju gt 0 mit lt lt und lt 0 LU e Q 7 2 Seitenfl chen Wir werden nun diejenigen Teilmengen von Polyedern untersuchen die als Durch schnitte des Polyeders mit St tzhyperebenen entstehen 7 5 Definition P C K sei ein Polyeder Eine Menge F P hei t Seiten fl che von P wenn es eine g ltige Ungleichung lt y bez glich P gibt mit P Pde e Eine Seitenfl che F von P hei t echt wenn F 52 gilt F hei t nichttrivial wenn 2 F P gilt lt y g ltig bez glich P dann hei t die x lt y induzierte oder definierte Seitenfl che 0 Offenbar sind Seitenfl chen Polyedern wiederum Polyeder Eine Seitenfl che F kann durchaus von verschiedenen Ungleichungen definiert werden Trivialer weise gilt F PN cha y x Acx Ay f r alle gt 0 a
99. a lt 29 1 d F r jede Matrix A gilt det A lt 29 1 Beweis a und b folgen direkt aus der Definition Sei x In Tell dann gilt nach 1 leli 1 Xi lel lt 1 lael Xen Die Ungleichung lol YV lt Di lol ist trivial d Aus der Hadamard Ungleichung 12 9 und c folgt 1 det A lt 1 Ji 14 312 lt Tj IAs lt glAn aA Diesen Hilfssatz k nnen wir zur Absch tzung der Gr e der Ecken von Poly edern wie folgt benutzen 12 11 Satz F r jede Ecke v v1 Un eines Polyeders der Form oder x Ar lt b x gt 0 A Q b 0 gilt a Der Absolutbetrag des Z hlers von v ist h chstens Aaron der Abso lutbetrag des Nenners von v ist h chstens An i 1 2 b OR Er 2 Falls A Zr so gilt v lt LAHO i 1 192 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Beweis Ist v Ecke von P so gibt es nach Satz 8 9 eine regul re Untermatrix und einen entsprechenden Untervektor des Restriktionensystems von P so dass v die ein deutig bestimmte L sung des hierdurch bestimmten Gleichungssystems ist Wir f hren den Fall P x lt b x gt 0 vor Die beiden anderen F lle verlaufen analog Es gibt also eine n n Matrix D deren Zeilen Zeilen von A oder negative Einheitsvektoren sind und einen entsprechenden
100. aktion Multiplikation Division Vergleich von ganzen Zahlen oder rationalen Zahlen sind Dies reicht aber noch nicht aus denn wie jeder wei dauert z B die Multiplikation gro er ganzer Zahlen l nger als die Multiplikation kleiner ganzer Zahlen Wir m ssen also die Zahlengr en in Betracht ziehen und jede elementare Rechenoperation mit der Kodierungsl nge der dabei involvierten Zahlen multiplizieren F r unsere Zwecke ist folgende De finition angemessen 12 4 Definition Die Laufzeit eines Algorithmus A zur L sung eines Pro blems II kurz L I1 ist die Anzahl der elementaren Rechenschritte die w hrend 189 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 der Ausf hrung des Algorithmus durchgef hrt wurden multipliziert mit der Ko dierungsl nge der bez glich ihrer Kodierungsl nge gr ten Zahl die w hrend der Ausf hrung des Algorithmus aufgetreten ist Die beiden folgenden Begriffe sind entscheidend f r das Verst ndnis des Weite ren 12 5 Definition Sei A ein Algorithmus zur L sung einer Klasse von Proble men z die Klasse aller linearen Optimierungsprobleme Die Elemente Pro bleme dieser Klasse z spezielle lineare Programme bezeichnen wir mit II a Die Funktion f N N definiert durch faln max L4 O die Kodierungsl nge der Daten zur Beschreibung von II ist h chstens n hei t Laufzeitfunktion von A b Der Algorithmus A hat eine polynomiale Laufzeit kurz A
101. allgemeinen Projektionsverfahrens auf lineare Teilr ume des 3 6 Definition Sei L ein linearer Unterraum von Ein Vektor x hei t orthogonale Projektion eines Vektors x auf L falls 7 L und x T 0 gilt 3 7 Bemerkung Sei B K mn eine Matrix mit vollem Zeilenrang L a K Bx 0 dann ist f r jeden Vektor x der Vektor T I BT BBT B e 37 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 die orthogonale Projektion auf L Die Fourier Motzkin Elimination der j ten Variablen kann man wie wir jetzt zei gen als orthogonale Projektion von P A b auf den Vektorraum L x x 0 deuten Wir zeigen nun wie man ein Polyeder auf L 0 c 0 projiziert 3 8 Algorithmus Orthogonale Projektion eines Polyeders auf 0 0 kurz Projektion entlang c Input Ein Vektor c 0 die Projektionsrichtung eine Matrix A e ein Vektor be R Output Eine Matrix D Kran r wird im Algorithmus berechnet ein Vektor d K 1 Partitioniere die Menge M 1 m der Zeilenindizes von A wie folgt N feM Ac lt 0 Z fieM A c 0 P i M gt 0 2 Setze r ZUN x P R 1 2 r und p R ZUN xP eine Bijektion 3 F r i 1 2 r f hre aus a Ist p t Z dann setze Di Apa di 00 D h die i te Zeile von D ist gleich der p i ten Zeile von A
102. anwenden Ist in einem Schritt die neu konstruierte Matrix leer so ist das System konsistent Wir wollen herausfinden was passiert wenn Ax lt b nicht konsistent ist Wir nehmen daher an dass keine der sukzessiv konstruierten Ma trizen leer ist Eliminieren wir die 1 Spalte von A so erhalten wir nach Satz 3 2 eine 71 n Matrix D und einen Vektor d mit lt b konsistent gt Dr lt d konsistent Die erste Spalte von D ist eine Nullspalte Nun eliminieren wir die zweite Spalte von D und erhalten mit Satz 3 2 eine r2 n Matrix D und einen Vektor da mit lt d konsistent lt gt Dar lt d konsistent Die erste und die zweite Spalte von D bestehen aus lauter Nullen Wir eliminieren nun die dritte Spalte von D und fahren auf diese Weise fort bis wir die n te Spalte eliminiert haben Insgesamt erhalten wir Ax lt b konsistent lt gt lt d konsistent gt gt D x lt dp konsistent Was haben wir durch diese quivalenten Umformungen gewonnen Nach Kon struktion hat die n te Matrix D dieser Folge von Matrizen nur noch Nullspal ten ist also eine Nullmatrix Das System D pz lt dpn ist also nichts anderes als 02 lt dn und die Konsistenz dieses letzten Ungleichungssystems ist quivalent zur Konsistenz von Ax lt b Die Konsistenz von 0x lt d ist trivial berpr fbar denn Ur lt hat genau dann keine L sung wenn der Vektor dn Kin eine nega
103. are Optimierung Probleme des Typs 1 10 und 1 11 werden an der TU Berlin Spezialvorlesungen angeboten Es ist anzumer ken dass sich sowohl die Theorie als auch die Algorithmen zur L sung von Pro 14 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 blemen des Typs 1 8 bis 1 11 ganz erheblich von denen zur L sung von Pro blemen des Typs 1 12 und 1 13 unterscheiden 1 3 Notation Wir gehen in der Vorlesung davon aus dass die H rer die Grundvorlesungen Li neare Algebra und Analysis kennen Wir werden haupts chlich Methoden der li nearen Algebra benutzen und setzen eine gewisse Vertrautheit mit der Vektor und Matrizenrechnung voraus 1 3 1 Grundmengen Wir benutzen folgende Bezeichnungen 1 2 3 Menge der nat rlichen Zahlen Menge der ganzen Zahlen Menge der rationalen Zahlen Menge der reellen Zahlen AONZ I und mit M bezeichnen wir die Menge der nichtnegativen Zahlen in M f r M 12 0 Wir betrachten Q und als K rper mit der blichen Addition und Multiplikation und der kanonischen Ordnung lt Desgleichen betrachten wir N und Z als mit den blichen Rechenarten versehen Wir werden uns fast immer in diesen Zahlenuniversen bewegen da diese die f r die Praxis relevanten sind Manche S tze gelten jedoch nur wenn wir uns auf oder beschr nken Um hier eine saubere Trennung zu haben treffen wir die folgende Konvention Wenn wir das Symbol R benutzen so hei t dies
104. artels amp Golub 1969 The Simplex Method of Linear Programming Using LU Decomposition Communications of the Association for Computing Machinery 12 1969 266 268 275 278 E M L Beale amp J A Tomlin 1970 Special Facilities in a General Mathemati cal Programming System for Non Convex Problems Using Sets of Variables in J Lawrence ed Proceedings of the fifth IFORS Conference Tavistock Lon don 1970 447 454 M B nichou J M Gauthier P Girodet amp G Hentges G Ribi re amp O Vincent 1971 Experiments in Mixed Integer Linear Programming Mathematical Pro gramming 1 1971 76 94 M B nichou J M Gauthier G Hentg s amp G Ribi re 1977 The Efficient Solu tion of Large Scale Linear Programming Problems Some Algorithmic Techni ques and Computational Results Mathematical Programming 13 1977 280 322 R G Bland 1977 New Finite Pivoting Rules for the Simplex Method Mathe matics of Operations Research 2 1977 103 107 R K Brayton F G Gustavson amp R A Willoughby 1970 Some Results on Sparse Matrices Mathematics of Computation 24 1970 937 954 H Crowder amp J M Hattingh 1975 Partially Normalized Pivot Selection in Linear Programming Mathematical Programming Study 4 1975 12 25 A R Curtis amp J K Reid 1972 On the automatic Scaling of Matrices for Gaus sian Elimination Journal of the Institute of Mathematics and its Applications 10 1972 11
105. asisvariable austauschen also Nullen gegen Nullen tauschen k nnen wir auch Pivotoperationen auf negati ven Elementen zulassen 1 4 Fallsesr 1 t unds 1 n gibt so dass z keine k nstliche Variable ist und d 0 gilt dann f hre eine Pivotoperation mit dem Pivotelement drs entsprechend Satz 9 10 durch Wir erhalten dadurch eine neue Basis D p mit einer k nstlichen Va riablen weniger setzen B B und gehen zu 1 3 1 5 Falls dj 0 Vie 1 t Vs 1 n f r die z keine k nstliche Variable ist dann hat das Gleichungssystem zg D bis auf Permutationen der Zeilen und Spalten folgende Form Zi 0 KE YN 139 und MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 mit 2 2 TB L ns ZN LN YN Setzen wir also die k nstlichen Variablen Null so ist der obere Teil des Gleichungssystems 0 02 unabh ngig von der Belegung von xy stets erf llt d h wir k nnen al le Zeilen D Dr streichen Ist I t 1 und J j 1 n Zg ist keine k nstliche Variable so gilt 0 Dijin und B Pi 1 Pm ist eine zul ssige Basis von A mitrang A k m t Ist k n so gilt wieder P A b x und wir enden mit Antwort b andernfalls gilt k lt n und wir beenden das Verfahren mit Antwort c STOP Die Korrektheit des Pha
106. auf allgemeine Optimierungsprobleme Hans Mit telmann unterh lt eine Webseite siehe e http plato la asu edu guide html die dabei hilft f r ein vorliegendes Optimierungsproblem geeignete Software aus findig zu machen iv Inhaltsverzeichnis 1 11 Ei Beispiel za 2 sas 20 E Rasen 1 DEER 11 BE Se ae Si A Se a A 15 1 3 1 _ 15 are ee 16 21 23 3 __Fourier Motzkin Elimination und Projektio 31 3 1 __Fourier Motzkin Eliminationl 02 31 39 4 Das Farkas Lemma und seine Konsequenze 43 4 1 __Verschiedene Versionen des Farkas Lemmas 43 4 2 _Alternativ und Transpositionss tzd 45 EEN 47 5_ Der Dualitatssatz der linearen Programmierung 53 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 65 6 1 Transformationen von 65 a ne 68 e EE Ke 71 75 76 en ee E EE EEN 78 a a Bene 83 KR E E He ee 85 93 8 1 Rezessionskegel Linienraum Homogenisierung 94 ee ee E 98 ee ee ee 100 EEE EURE 103 TETEE ee 105 9 Die Grundversion der Simplex Methode 111 9 1 Basen Basisl sungen 113 9 2 _Basisaustausch Pivoting Simplexkriterlum 118 aa Ha Era RE E EE ee 125 9 4 Wie Phasel 137 143 re ee ee 143 NN EE 145 EE 149 vi MARTIN GR TSCHEL SKRIP
107. aus ergibt sich gt b trivial gt d durch Negation Aus 5 15 folgt f r jedes Paar dualer linearer Programme durch Spezialisierung die G ltigkeit eines Satzes vom schwachen komplement ren Schlupf 5 16 Satz vom starken komplement ren Schlupf Besitzen beide dualen li nearen Programme max cla pant TR T P As und D wA c gt 0 zul ssige L sungen so existieren optimale L sungen u so dass f r alle Zeilen indizes i von A gilt Beweis Aufgrund von Satz 5 15 gen gt es zu zeigen dass optimale L sungen existieren mit i A bzw Gi b gt 1 gt 0 62 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Setzen wir cT bT 0 A 0 b A 0 c B A b b 0 0 0 dann gilt u optimal gt 2 lt a T erf llen i und ii lt gt B lt b Zum Beweis der Behauptung geniigt es also zu zeigen dass a z SC SR lt b konsistent ist Mit Satz 5 14 hat nach Voraussetzung 2 lt eine L sung also ist nach Folgerung 4 5 die Konsistenz dieses Systems quivalent zur Inkon sistenz von p20 0 9 gt 20 0 lt 0 Angenommen dieses System besitzt eine L sung sagen wirp A pi p3 pi gt 0 0 q 2 0 dann gilt 4 po A pa q AN 4 75 _ lt 0 Daraus folgt A Um g b p2
108. auswahlregel zu finden Dieses Problem ist bis heute ungel st Im Jahre 1979 hat L G Khachiyan A polynomial algorithm in linear program ming Doklady Akademia Nauk SSSR 244 1979 1093 1096 engl berset zung in Soviet Mathematics Doklady 20 1979 191 194 gezeigt dass lineare Programme in polynomialer Zeit gel st werden k nnen Das Verfahren dass er dazu angegeben hat die sogenannte Ellipsoidmethode arbeitet allerdings v llig anders als der Simplexalgorithmus und scheint in der Praxis im Laufzeitverhalten dem Simplexalgorithmus im Durchschnitt weit unterlegen zu sein Theoretisch beweisbar ist jedoch dass es keine Beispiele linearer Programme 2 vom Klee amp Minty Typ gibt die die Ellipsoidmethode zu exorbitanten Laufzeiten zwingen Die dieser Methode zugrundeliegenden Ideen benutzen ganz andere geometrische berlegungen als wir sie bisher gemacht haben Au erdem sind zu einer kor rekten Implementation so viele numerische Details zu kl ren dass der zeitliche 187 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Rahmen dieser Vorlesung durch eine vollst ndige Diskussion aller Probleme ge sprengt w rde Wir wollen daher nur einen berblick ber die Methode geben und nur einige Beweise ausf hren 12 1 Polynomiale Algorithmen Um das Laufzeitverhalten eines Algorithmus exakt beschreiben zu k nnen ist es notwendig Maschinenmodelle Kodierungsvorschriften Algorithmusbeschrei bungen etc e
109. bei wir von der zul ssigen Basis ausgehen die revidierte Methode ist nat rlich von Vorteil Bei nderung einer Basisspalte kann man kaum Vorhersagen machen Es muss neu invertiert werden Dabei kann sowohl primale als auch duale Zul ssigkeit verloren gehen 11 7 Beispiel Wir betrachten nochmals unser Beispiel 10 30 max z 229 117 lt 2 2r71 9 lt 3 11 T2 gt 0 181 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Das optimale Tucker Tableau ist duale L sung 1 y4 0 primale L sung 2 15 0 Die Spalte A ist eine Nichtbasisspalte Wir untersuchen um wieviel diese Spalte ge ndert werden kann ohne Optimalit t zu verlieren also G 1 1 0 3 l a lt 0 lt gt 1 0 lt 0 a gt 1 Die obige Basisl sung ist also f r alle linearen Programme der Form max 2 a l1 tq lt 2 2 6 l1 t2 lt 3 11 29 gt 0 optimal wenn nur a gt 1 gilt Zur geometrischen Interpretation siehe Abbildung 11 1 0 182 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 gt X a 1 Zielfunktion A gt a 0 Abb 11 1 11 4 Hinzufiigung einer neuen Variablen Sei A n die neue Spalte von A und c der Zielfunktionswert der neuen Varia blen 2 41 Wir verl ngern den Vektor N der Nichtbasisindizes um eine Kompo nente und setzen N n m 1 n 1 Wir berechnen T 4 1 Cn m 1 1
110. ber auch zwei Ungleichungen die nicht durch Skalierung auseinander hervorgehen k nnen definieren 78 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 7 6 Beispiel Sei P A b das durch 1 0 0 b 1 1 1 0 definierte Polyeder siehe Abbildung 7 1 dann ist das Geradenst ck zwischen 1 1 und 0 2 eine Seitenfl che F definiert durch z 72 lt 2 Der PunktG 1 1 T ist ebenfalls eine Seitenfl che von P denn G P A b N x 211 T2 3 P A b 321 59 4 und wie man sieht kann i durch zwei v llig unterschiedliche Ungleichungen definiert werden i z Abb 7 1 7 7 Folgerung Sei P C ein Polyeder dann gilt a P ist eine Seitenfl che von sich selbst b ist eine Seitenfl che von Ist F x P y eine nichttriviale Seitenfl che von P dann gilt c 0 79 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Beweis a P xeEP 0 r 0 b Vetere irre c klar 7 8 Satz Seien P A b ein Polyeder c y K und falls c x auf unbeschr nkt max c z xe andernfalls a lt y ist g ltig bez glich lt gt y gt 2 b 2 lt gt F x P z ist eine nichtleere Seitenfl che von P und x c x z ist eine St tzhyperebene von falls 0 c Die Menge der Optimall sungen eines linearen Program
111. beweisen 8 12 Satz Sei P A b ein nichtleeres Polyeder dann sind quiva lent 100 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 1 P ist spitz 2 rang A n 3 rec P ist spitz d h 0 ist eine Ecke vonrec P 4 Jede nichtleere Seitenfl che von P ist spitz 5 hog P ist spitz 6 P enth lt keine Gerade 7 rec P enth lt keine Gerade 8 lineal P 0 Beweis 1 gt 2 Ist x eine Ecke von P so gilt nach 8 9 lt rang A lt n also rang A n 2 gt 1 Sei P so gew hlt dass J eq x maximal bez glich Men geninklusion ist Sei F y P Ar y br dann ist x innerer Punkt von F Ist rang Az lt n dann enth lt der Kern einen Vektor 0 und mit Lemma 8 8 gibt es ein gt 0 so dass 2 ey P Die Gerade x A K trifft mindestens eine der Hyperebenen y Aj y bj j I da rang A gt rang A Also muss es ein geben so dass x dy und eq x dy D I Dies widerspricht der Maximalit t von J Aus der quivalenz von 1 und 2 folgt direkt die quivalenz der Aussagen 3 4 5 da rec P P A 0 nach 8 3 hog P P de Sa 8 5 re lt b 2 lt 2 lt bail f r alle Seitenfl chen F gilt 3 gt 6 Angenommen enth lt eine Gerade u Av
112. ch der ganzzahligen und gemischt ganzzahligen Optimierung sind dokumentiert in e Robert E Bixby Mary Fenelon Zonghao Gu Ed Rothberg und Roland Wunderling Mixed Integer Programming A Progress Report erscheint 2004 in Gr tschel M ed The Sharpest Cut MPS SIAM Series on Optimiza tion Lineare Optimierung im Internet Vermischtes Umfangreiche Literaturverweise Preprint Sammlungen Hinweise auf Personen die sich mit Optimierung und Spezialgebieten davon besch ftigen verf gbare Computercodes Beispiele zur Modellierung von praktischen Problemen Test beispiele mit Daten linearer Programme etc findet man u a auf den folgenden Internet Seiten Optimization Online is arepository of SE about optimization and rela ted topics MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 www unix mcs anl gov otc InteriorPoint Interior Point Methods Online e http www fp mcs anl gov otc Guide CaseStudies index html NEOS Guide Case Studies e http miplib zib de Testbeispiele f r gemischt ganzzahlige Optimierungsprobleme e http elib zib de pub Packages mp testdata Verwei se auf Sammlungen von Test Beispielen wie die Netlib LP Testprobleme Im Internet gibt es auch verschiedene Einf hrungen in die lineare Optimierung Solche Webseiten gerichtet an Anf nger sind z B http carbon cudenver edu hgreenbe courseware LPshort intro html e http fisher osu edu croxton_4 tutorial
113. ch des Systems Ax lt a Bx lt b Bx lt b enth lt und B vollen Zeilenrang hat Eine nichttriviale Seitenfl che F von P A b hei t Facette von P A falls F in keiner anderen echten Seitenfl che von P A b enthalten ist Wir weisen ausdr cklich darauf hin dass Redundanz bzw Irredundanz keine Ei genschaft des Polyeders P A b ist sondern eine Eigenschaft des Ungleichungs systems Ax lt b Wir werden sehen dass ein Polyeder viele irredundante Be schreibungen haben kann Ferner ist auch die Annahme falsch dass man immer durch das gleichzeitige Weglassen aller unwesentlichen Ungleichungen eines Sy stems Ax lt b eine irredundante Beschreibung von P A b enth lt Wir wollen nun zun chst unwesentliche Ungleichungen charakterisieren 7 20 Satz Ein Ungleichungssystem A x lt br ist unwesentlich bez glich Ax lt b genau dann wenn es eine Matrix U Klon gibt mit UA Ar Ub lt br 0 Beweis F r jedes 7 J ist nach 7 4 die Ungleichung A rz b g ltig bez glich P Am r bar genau dann wenn es einen Vektor T gt 0 gibt mit UA mir und 7b lt b Dies ist genau dann der Fall wenn es eine Matrix U gibt mit UA Ar Ub lt br und 0 7 21 Folgerung A x lt b ist genau dann redundant bez glich Ax lt b wenn es einen Vektor u K gibt mitu A lt 0 0 86 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Der n chste Sa
114. chen Index s so ist die aktuelle E Basisl sung optimal Begr ndung Offenbar gilt x y Ay b 0 lt lt u lt gt Ap Ap An zn Ag An zn und 0 lt 25 204 2y lt Also ist cas chare ch_ty chAp b cha An en 0 b ch MT An an Ch MI An an Da f r die gegenw rtige E Basisl sung gilt zy 2 0 kann der Zielfunktionswert nur verbessert werden wenn f r eine Nichtbasisvariable qs entweder gilt 7 gt 0 und c4 H An s gt 0 oder 7 lt 0 und lt 0 3 FTRAN Berechne d AA A s 4 CHUZR Setze sign q und berechne min amp gt 0 i 1 m Au min om lt 0 i 1 m Ag H 152 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 a Ist keine der Zahlen An Aa endlich so ist das Programm 10 11 unbeschr nkt das kann nat rlich nur vorkommen wenn x nicht ex plizit beschr nkt ist b Ist An min Ao A2 so w hle einen Index ll i efiefl 6 11 4 An Olis gt 0 mittels irgendeiner Pivotzeilenauswahlregel Ist Ay Ai Aa so w hle Bea _ O is lt 0 TS refie l m mittels irgendeiner Pivotzeilenauswahlregel Ist min o so setze J 9 berechne b neu und gehe zur ck zur PRICE Routine 2 5 WRETA Setze B p
115. chlie end m ssen wir die rechteste Spalte des Tableaus korrigieren Da Amin wird die neue Nichtbasisvariable x2 mit ihrer oberen Schranke ua 1 belegt und 7 2 gesetzt Wir m ssen daher vom neuberechneten b 5 3 noch das us fache der zum Index 2 geh rigen Spalte von A also 1 2 subtrahieren Vom Zielfunktionswert subtrahieren wir uz Ca 1 3 Daraus ergibt sich L z 3 4 0 2 0 1 2 B 1 4 Ta 1 1 1 1 0 3 3 N 2 3 4 0 2 1 1 3 bo 1 b 3 2 5 4 el Ms a22 2 a12 2 1 2 T 1 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Als Pivotspalte kommt nur A also die 2 Spalte von 75 in Frage d h qs q 2 q 2 Wir erhalten durch CHUZR 1 Ao undefiniert A i m l 1 2 Unser Pivotelement ist somit 1 Wie blich f hren wir einen Standardpi votschritt durch Da wir die neue Nichtbasisvariable x mit ihrer oberen Schranke 3 belegen ziehen wir wieder vom neuberechneten b das u fache der zu 1 geh rigen Spalte von A das ist 1 2 7 ab um b zu erhalten 1 2 3 4 10 0 1 2 2 B 2 3 Te 2 1 1 0 1 2 2 N 1 4 3 2 0 1 1 3 3 Wir haben wieder die Optimall sung erreicht 0 Analog zu oberen Schranken k nnen nat rlich auch untere Schranken behandelt werden Ferner kann man auch allgemeine obere Schranken generalized upper bounds GUB dies sind Restriktionen der fol
116. den und alle anderen Produktionsnive aus f hren zu Gesamtkosten die h her sind als die Kosten von 8 5 GE die beim Produktionsniveau x anfallen Die vorgef hrte L sung des Beispiels 1 1 ist anschaulich und sieht recht einfach aus Aber es ist klar dass sich diese graphische Argumentation nicht f r mehr als zwei Variable durchf hren l sst Die graphische Methode ist zwar n tzlich um die geometrische Intuition anzuregen aber zur L sung von linearen Programmen taugt sie nicht Und k nnen unsere Schluss folgerungen als ein korrekter Beweis f r die Optimalit t von 7 angesehen werden Wir wollen daher einen zweiten Versuch zur L sung von 1 1 unternehmen und betrachten das Problem etwas allgemeiner W hlen wir statt der speziellen Ziel funktion Ar 522 eine beliebige sagen wir ax bro so sehen wir dass unser Problem gar keine Optimall sung haben muss Ist n mlich einer der Parameter negativ sagen wir a lt 0 so k nnen wir den Zielfunktionswert so klein machen wie wir wollen Z gilt f r die Folge der Punkte x 0 neN erf llt 1 5 f rallen gt 4 ba na Also ist der Wert der Zielfunktion ber der L sungsmenge 1 5 nicht nach unten beschr nkt Von unserem Beispiel ausgehend ist eine derartige Zielfunkti on nat rlich unsinnig aber mathematisch m ssen derartige F lle behandelt und klassifiziert werden Kommt so etwas in der Praxis vor Nat rlich
117. des Element 7 des Polyeders P definiert durch bt 0 A 0 b 12 8 Q C lt c T 0 Y 0 0 eine Optimall sung x von 12 6 und eine Optimall sung y von 12 7 bestimmt Dies impliziert dass es zur L sung von 12 6 gen gt einen Punkt in 12 8 zu finden Der obige Trick das Primal und das Dualprogramm zusammenzufassen bl ht nat rlich das zu bearbeitende System ungeheuer auf Eine andere Methode der Reduktion ist die bin re Suche die wir nun schildern Zur korrekten Darstellung ben tigen wir jedoch noch einige auch f r andere Zwecke wichtige Hilfss tze Zun chst wollen wir einige Parameter durch die Kodierungsl nge absch tzen Zum Beweis des ersten Hilfssatzes ben tigen wir die bekannte Hadamard Ungleichung die besagt dass das Volumen eines Parallelepipeds in R mit Kantenl ngen 1 dn nicht gr er ist als das Volumen des W rfels mit Kantenl ngen d d Be kanntlich ist das Volumen eines Parallelepipeds das durch die Vektoren a n aufgespannt wird nichts anderes als der Absolutbetrag der Determinante der Ma trix A mit Spalten Ai 1 A n an Die Hadamard Ungleichung lautet also 12 9 det A lt j 1 12 10 Lemma 191 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 a F r jede Zahl r Q gilt r lt 2 1 b F r je zwei rationale Zahlen r s gilt rs lt r s F r jeden Vektor x Q gilt 215 lt l
118. durch Einf hrung eines Schlupf variablenvektors y transformiert werden in ein Gleichungssystem mit Vorzeichen bedingung y b y gt 0 Zwischen den L sungsmengen dieser beiden Sy steme bestehen die oben angegebenen Beziehungen P A und Kt Ax b y gt 0 sind jedoch zwei durchaus verschiedene Polyeder in ver schiedenen Vektorr umen Regel Einf hrung von vorzeichenbeschr nkten Variablen Ist x eine eindimensionale nicht vorzeichenbeschr nkte Variable so k nnen wir zwei vorzeichenbeschr nkte Variablen x und x einf hren um x darzustellen Wir setzen 11 27 mit zt gt 0 2 gt 0 Mit den Regeln I und aus 2 4 k nnen wir z B jedem Polyeder P A b Kn ein Polyeder P D d K wie folgt zuordnen Wir setzen D A A Im d b 27 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 d h es gilt z P D d y R Ae Ay z b x y z gt 0 z Es ist blich die oben definierten Polyeder P A b und P D d quivalent zu nennen Hierbei hat quivalenz folgende Bedeutung F r x sei gg a mit zf 0 01 15 mit z7 max 0 2 dann gilt gt x P A z P D d f r z b Ar 2 u v P D d gt z u veP A w Besonders einfache Polyeder auf die sich jedoch fast alle Aussagen der Poly edertheorie zur ckf hren lassen sind polyedrische Kegel 2 5 Definition Ein Kege
119. e 21 und 22 die auf echten Seitenfl chen sagen wir by und F gt von K liegen so dass K N G 20 21 Die Dimensionen der Seitenfl chen Ei Fa sind h chstens d und sind Kegel und die Extremalstrahlen von und F gt sind Extremalstrahlen von Nach Induktionsvoraussetzung werden 21 und 22 durch die in 2 festgelegten Mengen bez glich F und Fa konisch erzeugt Daraus folgt dass y durch jede Menge des Typs 2 konisch erzeugt werden kann Dies impliziert die Behauptung 0 8 22 Folgerung Jeder spitze polyedrische Kegel besitzt eine bis auf positive Skalierung der einzelnen Elemente eindeutige Kegelbasis 8 23 Folgerung Jeder spitze polyedrische Kegel K 0 ist die Summe seiner Extremalstrahlen d h sind cone e i 1 k die Extremalstrahlen von K so gilt K cone e er 106 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Beweis Klar 0 Der folgende Satz versch rft 6 13 f r spitze Polyeder 8 24 Satz Jedes spitze Polyeder P l sst sich darstellen als die Summe der kon vexen H lle seiner Ecken und der konischen H lle seiner Extremalen d h sind V die Eckenmenge von P undcone e e E die Extremalstrahlen von rec P bzw ist E eine Kegelbasis von rec P so gilt conv V Beweis Sei hog P die Homogenisierung von spitz ist ist hog P nach 8 12 ein spitzer Kegel Nach 8 23 ist hog P die Su
120. e Darstellung durch Vektoren aus E bzw V hat In dieser Hinsicht unterscheiden sich also Kegelbasen und konvexe Basen von Vektorraumbasen 8 21 Satz Sei 0 K C ein spitzer polyedrischer Kegel dann sind quivalent 1 ist eine Kegelbasis von K 105 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 2 E ist eine Menge die man dadurch erh lt dass man aus jedem Extremal strahl von K genau einen von Null verschiedenen Vektor also eine Extre male von ausw hlt Beweis Ist z Extremale von K so ist K cone z U 0 nach 8 19 ein Kegel Folglich gilt cone E f r alle Teilmengen E von Kk Also muss jede Kegelbasis von K mindestens ein aus der Basiseigenschaft folgt sofort genau ein Element von cone z 0 enthalten Zum Beweis dass jede wie in 2 spezifizierte Menge eine Kegelbasis ist benut zen wir Induktion ber d dim K F r Kegel der Dimension 1 ist die Behauptung trivial Sei die Behauptung f r Kegel der Dimension d richtig und K ein Kegel mit dim K d 1 Sei y K 0 beliebig und c 0 ein Vektor so dass die Ecke 0 von K die eindeutig bestimmte L sung von max c z K ist existiert nach 8 9 Sei z x c x 0 0 Dann ist f r die Gerade G y z E K die Menge KNG ein endliches Streckenst ck andernfalls w re z rec K K und wegen 0 w re 0 nicht der eindeutige Maximalpunkt Folglich gibt es zwei Punkt
121. e Seiten fl che von P die nach Satz 8 12 eine Ecke hat 8 16 Folgerung Ist P ein nichtleeres Polytop dann hat jedes lineare Programm maxc x x eine optimale Eckl sung Das folgende Korollar wird sich als sehr wichtig erweisen 8 17 Folgerung Lineare Programme der Form 102 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 2 gt 0 22 0 besitzen genau dann eine endliche Optimall sung wenn sie eine optimale Eckl sung besitzen Beweis Nach 8 13 ist P A b spitz falls nicht leer und somit hat das er ste der obigen LP s nach 8 15 eine optimale Eckl sung falls es berhaupt eine optimale L sung hat Analog folgt die Behauptung f r das zweite LP 0 8 4 Extremalen von spitzen Polyedern Wir wollen nachfolgend einige Aussagen ber spitze Polyeder beweisen die sich entsprechend modifiziert auch f r allgemeine Polyeder zeigen lassen Dabei treten jedoch einige unsch ne technische Komplikationen auf so dass wir hier auf die Behandlung dieser Verallgemeinerung verzichten 8 18 Definition Sei P ein Polyeder Ein Vektor z rec P 0 hei t Ex tremale oder Extremalvektor von P wenn cone z ein Extremalstrahl von rec P ist Nur spitze Polyeder haben Extremalen Denn ist P nicht spitz so ist nach 8 12 rec P nicht spitz also ist der Nullvektor eine echte Konvexkombination zweier von Null verschiedenen Vektoren sagen wir 0 Au 1 A v 0 lt
122. e auff hren wollen Die Funktion L be K P A b Z0 definiert durch 11 2 L b supfc x Ax b x gt 0 178 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 hei t Perturbationsfunktion bzgl des LPs max cr gt 0 Es bezeichne RP A b K P A b 0 den Definitionsbereich von L wegen 0 RP A ist RP A 0 und g S m 1 epi L veRP A sek Hl lt z den Epigraphen von L 11 3 Satz Die Menge epi L ist ein polyedrischer Kegel Beweis Offenbar ist epi L eine Projektion des polyedrischen Kegels x7 vT 2 Az v 0 x gt 0 2 lt 0 auf die z Koordinaten Also ist nach 6 1 epi L ein Polyeder das trivialerweise ein Kegel ist 0 11 4 Bemerkung Jb RP A mit L b lt lt VbeRP A gilt L b lt Beweis Sei V x 0 dann gibt es zu jedem b einen Vektor x b K mit P A b V x b N Folglich gilt f r alle b RP A L b gt 1 0 0 11 5 Satz Ist L so gibt es Vektoren g i 1 so da L v max v g i 1 k f r alle v RP A gilt Beweis Mit Satz 11 3 ist K epi L ein polyedrischer Kegel Also gibt es nach Bemerkung 2 6 eine r m 1 Matrix B so dass K P B 0 gilt Da L 0 gt 0 ist K f r alle z lt 0 Also kann die letzte Spalte von B kein Nullvektor sein und wir
123. e sein die wir sp ter als lineares Programm oder lineares Optimierungsproblem bezeichnen werden Zun chst stellen wir fest dass die Crackprozesse unabh ngig voneinander arbei ten und im Prinzip mit jeder beliebigen Roh lmenge beschickt werden K nnen Wir f hren daher zwei Variable x und x2 ein die das Produktionsniveau der bei den Prozesse beschreiben Wird z x 1 5 gew hlt so bedeutet dies dass der Crackprozess 1 mit 15 ME Roh l beschickt wird w hrend bei x2 0 5 der Crackprozess 2 nur mit 5 ME Roh l gefahren wird Nat rlich macht es keinen Sinn einen Crackprozess mit negativen Roh lmengen zu beschicken aber jeder Vektor x 21 12 x gt 0 beschreibt ein m gliches Produktionsniveau der beiden Prozesse Angenommen durch 1 2 gt 0 sei ein Produktionsniveau beschrieben dann folgt aus den technologischen Bedingungen der beiden Crackprozesse dass sich 2 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 der Aussto an schwerem l S auf 224 T2 ME S bel uft und analog erhalten wir 221 229 1 429 L Die Kosten betragen offenbar z 3z 5z GE Die eingegangenen Lieferverpflichtungen besagen dass gewisse Mindestmengen 5 und L produziert werden m ssen das hei t ein Vektor x1 2 be schreibt nur dann ein Produktionsniveau bei dem auch alle Lieferverpflichtungen erf llt werden k nnen wenn gilt 221 T2 gt 3 221 T2 gt 5 11 gt 0 T2 gt
124. ehen an diesem Beispiel dass es l stig ist immer die Einheitsmatrix im Ta bleau mitzuschleppen Wenn wir uns die gegenw rtigen Basis und Nichtbasisva riablen geeignet z am Rand des Tableaus merken k nnen wir die Einheits matrix weglassen Ein derartiges Tableau nennt man verk rztes Tableau Wir schreiben die vorhergehende Rechnung noch einmal in dieser verk rzten Form auf 1 2 L 2 0 1 0 4 3 2 1110 4 1 1 5 5 132 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 ta 35 3 3 1 _1 3 3 731 3 1 1 2 2 3 3 Z Ein weiteres Beispiel soll zur Ein bung der Rechentechnik dienen 9 20 Beispiel Wir betrachten das folgende lineare Programm max 11 29 T3 321 222 lt 3 224 73 lt 4 21 3 2 223 lt 6 11 292 T3 gt 0 Wir f hren Schlupfvariablen ein und erhalten das folgende zul ssige Anfangsta bleau To 133 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 1 6 5 36 0 0 oe 0 g i 4 9 2 21 19 18 4 2 6 1 3 15 Als Optimall sung ergibt sich somit z di 5 0 mit cl Ir 36 LE ber die Grundversion der Simplexmethode k nnen wir die folgende Aussage machen 9 21 Satz Sei 9 1 ein lineares Programm so dass P A b und alle zul ssigen Basisl sungen nicht entartet sind Dann findet die Grundversion des Simplexalgorithmus d h alle Schritte bei denen eine nicht spezifizierte Auswahl besteht werden in irgende
125. ein Polyeder einer recht speziellen Form einen Punkt enth lt oder nicht Das Pro blem das Karmarkar betrachtet ist das folgende 13 1 Problem Gegeben seien eine Matrix A Q und ein Vektor c entscheide ob das System 0 17r 1 gt 0 ca lt 0 eine Losung hat und falls das so ist finde eine Um den Karmarkar Algorithmus starten zu k nnen ist die Kenntnis eines zul s sigen Startvektors im relativ Inneren von x 0 071 1 x gt 0 notwen dig Wir wollen sogar noch mehr fordern und zwar soll gelten 13 2 E 21 erf llt 0 Trivialerweise erf llt z die Bedingungen 17 1 7 gt 0 lt 0 ist man nat rlich fertig Die eigentliche Aufgabe besteht also darin aus 7 einen Punkt zu konstruieren der alle Bedingungen von 13 1 erf llt Wir werden nun wie bei der Darstellung der Ellipsoidmethode ein allgemeines LP in ein bzw mehrere Probleme des Typs 13 1 umformen Wir wissen bereits dass jedes LP in ein LP in Standardform 9 1 transformiert 216 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 werden kann Gegeben sei also das folgende Problem max 13 3 gt 0 mitw 0 B 00 b Q Wie in Abschnitt 12 2 gezeigt gibt es zwei prin zipielle Reduktionsm glichkeiten Man fasst 13 3 und das dazu duale Problem wie in 12 8 zusammen oder man f hrt die in 12 16 beschriebene Bin rsuche durch Wir stellen hier kurz d
126. eit gilt lediglich bis auf Multiplikation mit positi ven Skalaren H ufig nennt man eine Teilmenge T des endlich erzeugt falls T conv V cone f r endliche Mengen V gilt Nach 6 15 sind also die Polyeder gerade die endlich erzeugten Teilmengen des RK Fassen wir zusammen so gilt 6 16 Bemerkung Ist 7 C so gilt T ist ein linearer Teilraum lt gt ist die lineare H lle einer endlichen Men ge b T ist ein affiner Teilraum gt ist die affine H lle einer endlichen Menge T ist ein polyedrischer Kegel lt gt T ist die konische H lle einer endlichen Menge d T ist ein Polytop gt T ist die konvexe H lle einer endlichen Menge e T ist ein Polyeder gt ist endlich erzeugt 73 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 74 Kapitel 7 Seitenfl chen von Polyedern Wir wollen uns nun mit den Begrenzungsfl chen von Polyedern P besch ftigen und diese charakterisieren Wir gehen dabei so vor dass wir die Objekte die wir untersuchen wollen zun chst abstrakt d h durch eine allgemeine Definition einf hren und dann werden wir diese Objekte darstellungsabh ngig kennzeich nen Das hei t wir werden jeweils zeigen wie die betrachteten Objekte ausse hen wenn durch P A b oder durch V cone E gegeben ist Wir wer den uns meistens auf die Darstellung P A b beziehen da diese f r die Optimie rung die wichtigere ist I
127. erh lt also durch S A k e n 2 n n 1 lell Hieraus folgt die Behauptung 0 Damit haben wir ein Minimum von 13 19 analytisch bestimmten k nnen und unser vereinfachtes Hilfsproblem gel st Den n chsten Iterationspunkt erh lt man durch Anwendung der inversen projektiven Transformation auf den in 13 20 bestimmten Vektor af 1 13 21 kr Tg rpa 224 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Dem Hilfsprogramm 13 19 kann man brigens noch eine andere geometrische Interpretation geben Setzen wir z Dy bzw y D z so kann man 13 19 wie folgt schreiben min c z 13 22 Az SS 13 22 170 12 1 z Den 21 Denn wegen 13 17 gilt cz und aus Dtg 1 folgt 5 8 8 1 1 1 1 1p 1 k 1 1 ly allo Se sae D sall n n 1 z rf D z 11 lt 2 3a 4n n 1 D z z lt 1 12 20 ze Eon 70 21 Gehen wir vom Ursprungsproblem 13 11 aus so bedeutet dies also dass wir in unserem Hilfsprogramm die Originalzielfunktion und den linearen Raum Q un ver ndert lassen Wir ersetzen die Hyperebene E durch 2 rD A ah und die Nichtnegativitatsbedingung Ri durch das Ellipsoid E 7 CE 00598 11 und optimieren hier ber Aus einer Optimall sung sagen wir z von 13 22 erhalten wir eine Optimall sung von 13 19 durch Dtg Wie im Beweis 13 20 kann man zeigen dass
128. ers undZ Der Vektor ist ein innerer Punkt von genau dann wenn eq z eq F Beweis 7 151 genau dann ein innerer Punkt von F wenn die kleinste im Sinne der Mengeninklusion Seitenfl che von F die 7 enth lt F selbst ist Offenbar ist fa eq Z die minimale Seitenfl che von P die 7 enth lt Daraus folgt die Behauptung 0 7 16 Satz Ist 5 0 eine Seitenfl che des Polyeders dann gilt dim F rang Aea m 83 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Beweis Sei J eq F Aus der linearen Algebra wissen wir dass n rang Az dim Kern Ar gilt Zu zeigen ist also dim F dim Kern Seien r dim Kern und s dim F gt Dadim F s gibtes s 1 affin unabh ngige Vektoren o 1 Dann sind die Vektoren x o s zo linear unabh ngig und erf llen Ar amp Zo 0 Kern enth lt also mindestens s linear unabh ngige Vek toren also gilt r gt s s gt r Nach 7 14 besitzt F einen inneren Punkt 7 F Nach 7 15 gilt eq T eq F I und daraus folgt f r J ArT br A lt b Ist r 0 so gilt s gt 0 wegen T F Sei also r gt 1 und x 2 sei eine Basis von Kern F r p 1 r und j J setze falls A x 0 _ E andernfalls e min d j E J p 1 r Setze 0 beliebi
129. ese Beziehung kann man leicht z B aus der Cauchy Schwarz Ungleichung ableiten Daraus folgt dass der Mittelpunkt a des neuen Ellipsoids auf dem Geradenst ck zwischen a und Zin liegt Die L nge dieses Geradenstiicks ist d und erreicht man von ax aus indem man einen Schritt der L nge a d in Richtung d macht Der Durchschnitt des Randes des Ellipsoids Ep41 mit dem Rand wird gebildet durch den Punkt Zmin und EY x 200 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 ap Ax a ap 1 N a cha cag EI ist der Rand eines n 1 dimensionalen Ellipsoids im R In Abbildung 12 2 sind das Ellipsoid aus Abbildung 12 1 und das Ellipsoid E definiert durch Satz 12 26 bez glich des Vektors cl 1 2 darge stellt Ei ist gestrichelt eingezeichnet Als Anfangsdaten haben wir daher Die ver letzte Ungleichung ist 21 2x2 lt 3 Die zugeh rige Gerade x 11 2x2 3 ist ebenfalls gezeichnet lt Die Formeln 12 27 12 28 12 29 ergeben e z 7209 1 A 0 9428 31 575 a 0 4714 2 32 Ags r add E E Ak 1 SM aa N Abb 12 2 Das Stopkriterium der Ellipsoidmethode beruht auf einem Volumenargument Nach Konstruktion ist klar dass das Volumen von bezeichnet mit vol 41 kleiner ist als das von Er Man kann den Volumenschrumpfungsfaktor explizit berec
130. et dann wie folgt 9 15 Grundversion des Simplexverfahrens Input A e Output 125 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Eine optimale L sung x des linearen Programms 9 1 Sab gt 0 falls eine solche existiert Andernfalls stellt das Verfahren fest dass 9 1 unbeschr nkt ist oder keine zul ssige L sung besitzt Phase I Test auf Zul ssigkeit Bestimmung einer zul ssigen Basisl sung Bestimme ein Subsystem b x gt 0 Ax b x gt 0 so dass P A b P A b gilt und die Zusatzvoraussetzungen rang A Zeilenzahl von A lt Spaltenzahl von A erf llt sind falls m glich Sei rang A m lt n Bestimme weiterhin eine zul ssige Basis d h finde p Pm 1 n so dass eine zul ssige Basis von A ist und sei N Q qn m Wie blich definiert Berechne SAL An b SAG Se co chb Wie die gesamte Phase I durchgefiihrt wird und wie zu verfahren ist wenn die gew nschten Resultate nicht erzielt werden k nnen wird in 9 24 an gegeben Im weiteren gehen wir davon aus dass Phase I erfolgreich war Phase II Optimierung II 1 Optimalit tspr fung Gilt lt 0 f r n m so ist die gegenw rtige Basisl sung optimal siehe 9 13 b Gib den Vektor x mit g b y 0 aus Der Optimalwert von 9 1 ist x ckb co STOP Falls gt 0 fiir ein i 1
131. exverfahren unabh ngig von der Spaltenaus wahlregel endlich 10 6 Endlichkeit des Simplexalgorithmus Wird im Simplexverfahren die 1 Lexikographische Regel 10 5 verwendet so endet der Algorithmus nach end lich vielen Schritten gleichg ltig welche Spaltenauswahlregel verwendet wird Beweis Wir zeigen zuerst 1 1 Ag A r lt Vier Ars 18 das hei t das lexikographische Minimum wird eindeutig angenommen Seien r und r Indizes mit e EEN Ay Ar A r und d A sei Ay Dann gilt 5 A r Ar und en Ay und impliziert 2 Ap el Ay Damit folgt e e und somit r r Also gilt a Sei eine zul ssige Basis von A z die Startbasis evtl auch die der Phase I und sei Tg das zugeh rige Simplextableau vgl 9 16 d A sei 0 cHAgb NT Ad evtl ist eine Permutation der Spalten der Ausgangsmatrix notwendig Sei B p Pr 1 s Pr 1 Dm Dann gilt b Col gt 0 147 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 denn gt 0 und G gt 0 vgl Formel 9 18 a Da nach Voraussetzung gt OVi 1 m folgt gt OVi mit Tis lt 0 vel 9 18 a Aus a folgt nun Tg gt 2 Tp r f r alle i r mit T s gt 0 d h d gt 0 Yi mit a gt 0
132. fache Weise sehen kann welche Ungleichungen durch den neuen Mittelpunkt verletzt sind Die Abbildung 12 10 enth lt eine Gesamtschau des Verfahrens Hier sind alle w hrend des Verfah rens generierten Ellipsoide im Ma stab 1 1 gleichzeitig dargestellt Man sieht hier recht gut wie die Mittelpunkte herumh pfen und auf den ersten Blick kei ne Ordnung in der Folge der Mittelpunkte zu erkennen ist 208 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 ag 0 0 0 0 ER 49 000 0 0 0 0 0 49 000 a 1 6499 1 6499 A 43 5555 21 7777 21 7777 43 5555 Abb 12 3 209 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 0 5499 2 7499 SCH 9 6790 2 9 6790 48 3951 Abb 12 4 210 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Abb 12 5 Abb 12 6 211 0 4871 0 6758 A E 4 3018 4 3018 30 1125 44 1 4458 2 2098 Kg er 6 0299 4 7 46 0299 21 351 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 5 0 1297 2 7188 d 6 9286 2 6799 Sr 2 6799 26 3603 Abb 12 7 E ZEN ah 0 6449 1 1618 Se 7 1148 2 8443 2 8443 15 7511 Abb 12 8 212 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 a 1 2661 2 317 63988 1 9726 1 9726 10 2372 Abb 12 9 213 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 214 Kapitel 13
133. fe des Farkas Lemmas beweisen Man kann den nachfol gend formulierten Dualit tssatz als eine Optimierungsversion des Farkas Lemmas ansehen Beide S tze sind in dem Sinne quivalent dass der eine ohne M he aus dem anderen gefolgert werden kann und umgekehrt So wie das Farkas Lemma f r die Polyedertheorie von zentraler Bedeutung ist ist der Dualit tssatz von au eror dentlicher Tragweite in der linearen Optimierung und zwar sowohl in algorithmisch praktischer als auch in theoretischer Hinsicht Wenn man heutzutage in mathema tischen Forschungs Aufs tzen einen Satz wie it follows by an LP argument liest dann hei t das so gut wie immer dass der Dualit tssatz in einer seiner Versionen geschickt anzuwenden ist Wegen seiner Bedeutung widmen wir dem Dualit tssatz ein eigenes Kapitel Er h tte nat rlich auch in Kapitel 4 eingearbei tet werden k nnen Wir wollen zun chst das folgende lineare Programm max cr 5 1 Az lt b wobei A K b und gegeben sind untersuchen Unsere Aufgabe besteht darin unter den Vektoren x K die zul ssig f r 5 1 sind d h die Ax lt b erf llen einen Vektor Ki zu finden der optimal ist d h cd gt cg f r alle zul ssigen x In Kapitel 1 haben wir bereits eine Motiva 53 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 tion f r die Dualit tstheorie gegeben hier wollen wir noch einen weiteren Zugang beschreiben Zun chst wolle
134. g falls f r alle j p F r i J undallep 1 r gilt nun Aj T ETp T CARTS A T bi da A p 0 F r j J gilt Aj E Ezp Aj Lp A Ke bj ge Il Aj Aj Aj bj Daraus folgt T ex F f r alle p 1 r Da die Vektoren ez E linear unabh ngig sind sind die Vektoren T E1 1 T eT affin unabh ngig Das hei t F enth lt mindestens r 1 affin unabh ngige Vektoren und somit gilt dim F gt T 84 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 7 17 Folgerung P A b sei ein nichtleeres Polyeder dann gilt a dim P n rang Aeqp b Ist eq P 0 dann ist volldimensional d h dim P c Ist F eine echte Seitenfl che von P dann gilt dim F lt dim P 1 Mit Hilfe von Satz 7 16 kann man auch die affine H lle einer Seitenfl che auf einfache Weise bestimmen 7 18 Satz Sei F 4 0 eine Seitenfl che des Polyeders P A dann gilt af F x Aegir bear Beweis Es seien J eq F und T x Ar x br Offenbar ist T ein affiner Raum und wegen F C T gilt af F Sei s dim F dann folgt aus Satz 7 16 dass dim Kern A s und somit dim T s gilt Aus dim aff F dimT und aff F T folgt aff F T 0 7 4 Facetten und Redundanz Wie wir bereits bemerkt haben kann man zu einem Ungleichungssystem lt b be
135. g 9 4 graphisch dargestellt ist 130 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Abb 9 4 Wir f hren Schlupfvariablen x3 x4 x5 ein und transformieren unser LP in folgen de Form T T2 max 1 2 0 0 0 x3 T4 T5 T T2 4 T3 10 XA 5 T5 N oo aj gt 0i 1 5 Die Matrix A des Gleichungssystems des transformierten Systems hat 3 Zeilen und 5 Spalten und enth lt eine Einheitsmatrix Folglich hat sie vollen Zeilenrang Daraus folgt dass die Spalten 3 4 5 eine Basis von A definieren und diese ist zul ssig da die zugeh rige Basisl sung x3 4 z4 10 25 5 z 0 z2 0 nichtnegativ ist Diese Basisl sung entspricht brigens der Ecke x 0 x2 0 des urspr nglichen Problems Wir stellen nun das zur Anfangsbasis geh rige Ta bleau auf und f hren den Simplexalgorithmus durch Die Anfangsbasis ist gege 131 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 ben durch 3 4 5 und somit ist N 1 2 1 2 3 4 5 1 2 0 0 0 0 To 3 1 0 100 4 4 2 1 0 1 O 10 Se S O 0 Zu 5 Spaltenauswahl Steilster Anstieg d h der gr te reduzierte Kostenkoeffizient wird gew hlt Das Pivotelement ist a3 1 0 0 0 3 1 0 1 0 0 4 4 OO 1 5 1 Gn 3 2 1 1 0 0 1 5 0 0 0 1 1 7 3 0 0 1 3 a 1 1 5 1 2 20 Das Tableau 7 ist optimal Die optimale L sung ist 2 0 0 bzw 5 19 22 Wir s
136. g b INT 0 Die Umkehrung gilt 1 a nicht wie das folgende Beispiel zeigt 9 8 Beispiel P A b R sei gegeben durch DOT Die Matrix A besitzt zwei Basen mit 1 3 B2 2 3 Die zu Az geh rige Basisl sung ist 22 1 0 0 die zu Ag geh rige Basisl sung ist z 0 1 0 Beide Basisl sungen sind entartet aber die zugeh rigen Basen sind eindeutig bestimmt 0 Ist Az eine Basis A und x die zugeh rige Basisl sung so dass einige nenten von AS bh Null sind d h x ist entartet so enth lt das Gleichungssystem Ay b 0 fiir alle j J j x 0 mehr als n Gleichungen also mehr als notwendig I a ist dann x L sung von mehreren regul ren n Untersystemen dieses Gleichungssystems Man hat also keine eindeutige Zuord nung mehr von der Ecke x zu einem Gleichungssystem der Form Ay b ery 0 j J Wir werden sehen dass Entartung zu rechentechnischen Problemen f hrt Entartung kann drei Ursachen haben berfl ssige Variable im Beispiel 9 8 kann weggelassen werden dann sind alle Basisl sungen nichtentartet 117 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 redundante Ungleichungen Beispiel 9 6 a geometrische Gr nde Beispiele 9 6 b und c Die durch berfl ssige Variablen oder redundante Ungleichungen hervorgerufene Entartung kann 1 a beseitigt werden durch Weglassen der berfl ssigen Variablen bzw der
137. g nicht weiter erw hnen und gehen davon aus dass klar ist wie die Formeln die enthalten zu interpretieren sind Die projektive Transformation hat wie leicht zu sehen ist folgende Eingeschaften 13 15 Eigenschaften von a x gt 0 T x gt 0 1 T7 y ars Dy f r alle y X 1 Dy T X T P TE N Q E N Qg wobei 9 y R 0 f Telat 41 Py 222 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Die Transformation ist also eine bijektive Abbildung und die den Punkt x in das Zentrum i1 von abbildet Aus 13 15 folgt minc s minc s mine TC min voie GE Get 2 zseP yePR T P 0 220 gt 0 Das letzte Programm in 13 16 ist das in der geometrisch anschaulichen Erl ute rung weiter oben genannte Pogramm mit nichtlinearer Zielfunktion TD Dy Wir linearisieren diese durch Weglassen des Nenners wie folgt 13 17 und erhalten das lineare Hilfs Programm mind ADy 0 17 1 2 0 13 18 Wir vereinfachen 13 18 dadurch dass wir die Nichtnegativit tsbedingung in 13 18 durch die Bedingung ersetzen dass y in einer Kugel um 11 liegt Die gr te Kugel mit diesem Zentrum die man dem Simplex einbeschreiben kann hat den Radius m Wie bereits erw hnt m ssen wir aus technischen Gr nden mn eine kleinere Kuge
138. ge neriert und optimal dann gilt lt 0 Beweis a Nach 9 9 gilt b gt Az b Az und damit gilt ch Agb Ap Anan ch Ap b ch ch Ag 122 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 b Sei y P A b beliebig Wenn wir zeigen k nnen dass cr gt gilt sind wir fertig cn Apo lt CRA b chip lt 0 gt 0 Sei die Basisl sung x mit zg zy 0 optimal Dann gilt f r alle y P A b gt dy 4 cHAgb Zeh Ag b Cyn lt gt 0 gt Angenommen die i te Komponente von w re gr er als Null Nach Voraus setzung ist x nichtdegeneriert also Ag b gt 0 Sei der i te Einheitsvektor in Km dann gibt es somit ein A gt 0 mit Az b gt Az An Ag Der Vektor z mit r A b Ag Anke ist somit ein f r 9 1 zul ssiger Vektor und es gilt cha gt c s Widerspruch 0 Aus Satz 9 10 wissen wir wie ein Basis bzw Eckenaustausch vorgenommen werden kann Satz 9 13 besagt unter welchen Umst nden wir eine zul ssige Ba sis verbessern k nnen bzw wann sie optimal ist Setzen wir diese Informationen zusammen so gilt 9 14 Satz Basisverbesserung Gegeben sei ein lineares Programm in Stan dardform 9 1 Sei eine zul ssige Basis mit Basisl sung x Sei A p An b undd ch Ce A An
139. ge S 5 21 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Eine nichtleere endliche Teilmenge S K hei t linear bzw affin unabh n gig falls kein Element von S als echte Linearkombination bzw Affinkombina tion von Elementen von S dargestellt werden kann Die leere Menge ist aff n jedoch nicht linear unabh ngig Jede Menge 5 die nicht linear bzw affin unabh ngig ist hei t linear bzw affin abh ngig Aus der linearen Algebra wis sen wir dass eine linear bzw affin unabh ngige Teilmenge des K h chstens n bzw n 1 Elemente enth lt F r eine Teilmenge S K hei t die Kardina lit t einer gr ten linear bzw affin unabh ngigen Teilmenge von 5 der Rang bzw affine Rang von 5 Wir schreiben daf r rang S bzw arang S Die Di mension einer Teilmenge 5 Bezeichnung dim S ist die Kardinalit t einer gr ten affin unabh ngigen Teilmenge von 5 minus 1 d h dim S arang S 1 Der Rang einer Matrix A bezeichnet mit rang A ist der Rang ihrer Spalten vektoren Aus der linearen Algebra wissen wir dass rang A mit dem Rang der Zeilenvektoren von A bereinstimmt Gilt f r eine m n Matrix A rang A min m n so sagen wir dass A vollen Rang hat Eine n n Matrix mit vol lem Rang ist regul r d h sie besitzt eine eindeutig bestimmte inverse Matrix geschrieben 7 mit der Eigenschaft AA T 22 Kapitel 2 Polyeder Das Hauptanliegen dieser V
140. gefunden Bricht die Ellipsoidmethode in Schritt 2 a ab so m ssen wir zeigen dass P x Ax lt b kein Element besitzt Angenommen 0 Sei P der Durchschnitt von mit Eo Dann gilt nach Lem ma 12 31 dass das Volumen von P mindestens 2 4 betr gt Ist a nicht in P A b 0 lt k lt N so wird in 2 c eine verletzte Ungleichung gefunden sagen wir cl rz y Wegen lt Cl a enth lt das Halbellipsoid Ep N x ca lt cap die Menge P Das durch die Formeln 3 a 3 b konstruierte neue Ellipsoid 1 ist nach Satz 12 26 das volumenm ig kleinste Ellipsoid das enth lt Wegen P lt E gilt nat rlich Daraus folgt Pre Eg Das Volumen des Anfangsellipsoids o kann man wie folgt berechnen vol bal vdet R I R V wobei V das Volumen der Einheitskugel im R ist Wir machen nun eine sehr grobe Absch tzung Die Einheitskugel ist im W rfel W x R z lt 1 i 1 n enthalten Das Volumen W ist offensichtlich 2 Daraus folgt vol Eo lt Ao a2 2n n 1 lt Qn 2 A b n H In jedem Schritt der Ellipsoidmethode schrumpft nach 12 30 das Volumen um mindestens den Faktor Aus der Absch tzung von vol Eo und der in 1 von 12 33 angegebenen Formel f r N erhalten wir somit vol Ey lt e vol Ep lt 2 1 4 Also gilt vol En lt vol P und P C En Dies ist e
141. gen quivalent 1 x ist eine Ecke von 98 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 2 x ist eine nulldimensionale Seitenfl che von P 3 x ist keine echte Konvexkombination von Elementen von P d h 2 P yA z0 lt A lt 1 TS Ant Als 4 P x ist konvex 5 rang Atten lz 6 3c 0 so dass x die eindeutig bestimmte Optimall sung des linea ren Programms max y P ist Beweis 1 lt gt 2 Definition 1 6 Nach Definition ist x eine Seitenfl che also existiert eine bez glich P g ltige Ungleichung lt y so dass y P cy y x gilt Folglich ist x die eindeutig bestimmte Optimall sung von max cty y P Ist P 1 so ist c 0 andernfalls kann 0 gew hlt werden 6 gt 3 Sei x die eindeutige Optimall sung von max ctu u P mit Wert y Gilt x 1 A z f r y z y 2 0 lt lt 1 dann folgt y cz c Ay 1 X Acy l Acz lt Ay l A y Y Dies impliziert y Widerspruch 3 lt 4 trivial 3 gt 5 Sei J eq x dann ist x innerer Punkt von F y br Angenommen rang A lt n dann existiert ein Vektor 0 im Kern von Az und nach Lemma 8 8 gt 0 so dass x y Daraus folgt x x ey also ist x echte Konvexkombination von Elementen von P Widerspruch 5 gt 2 Sei J eq x dann hat A y
142. gen Schritt ben tigt wer den Alle numerischen Implementationen des Simplexverfahrens benutzen als Grund ger st den revidierten Simplexalgorithmus Wir wollen deshalb im folgenden den revidierten Simplexalgorithmus in Unterprogramme Subroutines zerlegen und sp ter zeigen wie diese Subroutines bei den jeweiligen numerischen Implemen tationsvarianten realisiert werden Wir gehen immer davon aus dass wir ein LP in Standardform 9 1 vorliegen haben Alle Bezeichnungen werden wie in Kapitel 9 festgelegt verwendet 10 1 Algorithmus Revidierter Simplexalgorithmus Gegeben seien A As b c und B 1 BTRAN Backward Transformation 143 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 2 1 4 4 4 Berechnet n ch Az Schattenpreise PRICE Pivotspaltenauswahl Berechnet die reduzierten Kostenkoeffizienten Anej f r 3 1 n m und w hlt einen Index s mitc gt 0 FTRAN Forward Transformation Aktualisiert die Pivotspalte d Apd Ap Aw CHUZR Pivotzeilenauswahl Berechnet min di gt 0 i 1 m und w hlt einen Index ie 1 m 2 WRETA Updating der Basis Entferne das r te Element von B und ersetze es durch q Der neue Spalten indexvektor hei e Berechnet Aj b Aach Abbruchkriterium wie blich siehe Schritt II 1 von 9 15 0 Wir werden sp ter und den bungen auf numerische Tricks zur Imple
143. gen jedoch nur als Hilfsmittel zur Vereinfachung von Beweisen verwenden weswegen wir nicht weiter auf theoretische Untersuchungen dieser Mengen eingehen werden 8 2 Definition Sei 5 eine beliebige Menge Wir definieren a rec S y RK s sodass VYA gt 0 giltx Ay S b lineal S y S sodass VA K giltz Ay 5 kr hog S RPH 5 Die Menge rec S hei t Rezessionskegel von S lineal S hei t Linealit tsraum oder Linienraum von 5 und hog S hei t Homogenisierung von 5 Wir wollen nun die oben eingef hrten Mengen bez glich Polyedern charakterisie ren Nennen wir einen Vektor y mit S f r alle A gt 0 eine Richtung nach Unendlich so besteht der Rezessionskegel einer Menge S aus allen Richtungen nach Unendlich F r Polyeder gilt Folgendes 8 3 Satz Sei P A b conv V cone E ein nichtleeres Polyeder dann gilt rec P 0 cone E 94 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Beweis a rec P 0 Ist y rec P so existiert ein x P mit gt 0 Daraus folgt b gt A x AAy G be es eine Komponente von Ay die gr er als Null ist sagen wir Ay gt 0 so w re der Vektor 2 Aoy mit bi a Bo Ay nicht in P A Widerspruch Ist y 0 so gilt f r alle x P A b und gt 0 A x Ay
144. genden Form 3 x lt a auf hnli che Weise ber cksichtigen Bei solchen Restriktionen k nnen ebenfalls Pivotsche mata entworfen werden die wesentlich weniger Speicher und Rechenaufwand erfordern als die Standardmethode Weiterhin gibt es effiziente Techniken zur Be handlung von sogenannten variable upper bounds VUB der Form 0 lt x lt y 10 4 Das duale Simplexverfahren Wir wollen nun eine Variante des Simplexverfahrens darstellen die wie wir noch sehen werden bei bestimmten Problemstellungen von Vorteil ist Sei Ag eine Basis von A und betrachte das Paar dualer linearer Programme max cl 1 min Th P D gt cT gt 0 bzw min u b TB Az b Az Anan ul Ap gt ch 2 20 ul An gt ch 158 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 10 18 Definition Die Basis Ag von A hei t primal zul ssig falls gt 0 und dual zul ssig falls ch An lt 0 Die zugeh rigen Basisl sun gen x bzw u mit rg Ag b zy 0 bzw u clAz hei en dann primal bzw dual zul ssig 10 19 Satz Sei P u K u A gt cT Der Vektor u ist genau dann eine Ecke von P wenn u eine dual zul ssige Basisl sung ist Beweis Sei 7 Ecke von P AT c und I eq u Mit Satz 8 9 folgt rang A m d h es existiert I mit Az Basis von A und es gilt U Ag ch UT gt ch Also ist 17 Ce und EAR An gt ch d h Ag ist dual z
145. global schlechtes Konvergenzver halten Man muss sich also bem hen einen guten Kompromiss zwischen Qua lit t der Richtung und m gliche Schrittl nge zu finden um insgesamt gute Fortschritte zu machen Ist man wie im vorliegenden Fall im relativen Inneren der Menge P aber nah am Rand und geht man z B in Richtung des Normalenvektors der Zielfunk tion so kann man sehr schnell an den Rand von P gelangen ohne wirklich weiter gekommen zu sein siehe Abbildung 13 1 Zielfunktion 1 gute Richtung geringer Fortschritt schlechtere Richtung aber gro er Fortschritt 220 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Abb 13 1 Karmarkars Idee zur L sung bzw Umgehung dieser Schwierigkeit ist die folgen de Er f hrt eine projektive Transformation aus die den Simplex 3 auf sich selbst den aff nen Teilraum Q auf einen anderen affinen Teilraum Q abbildet und den re lativ inneren Punkt x auf das Zentrum 10 wirft wird dabei auf ein neues Polyeder abgebildet Offenbar kann man von 10 aus recht gro e Schritte in alle zul ssigen Richtungen machen ohne sofort den zul ssigen Bereich Py zu ver lassen Man bestimmt so durch Festlegung einer Richtung und einer Schrittl nge von 11 ausgehend einen Punkt und transformiert diesen zur ck um den n chsten zul ssigen Iterationspunkt 2 zu erhalten Zur Bestimmung der Richtung macht Karmarkar folgende berleg
146. her Kegel ist Sind jedoch V und nicht leer dann ist E nicht notwendigerweise eine Teilmenge von P jedoch gelingt es eben aus den Vektoren v V zusammen mit den Vektoren e E das Polyeder von innen her zu Konstruieren Die S tze 6 12 6 14 und 6 15 beinhalten weitere wichtige Charakterisierun gen von polyedrischen Kegeln Polytopen und Polyedern Wir erinnern uns aus der linearen Algebra daran dass jeder lineare Teilraum L des eine endliche Basis hat d h eine endliche Teilmenge B besitzt so dass B linear unabh ngig ist und L lin B gilt Die linearen Teilr ume des K sind also diejenigen Teilmen gen des K deren Elemente durch Linearkombinationen einer endlichen Menge erzeugt werden k nnen Nach 6 14 sind Polytope genau diejenigen Teilmengen des K die durch Konvexkombinationen einer endlichen Menge erzeugt werden k nnen Wir werden in Kapitel 8 sehen dass es sogar eine eindeutig bestimmte minimale im Sinne der Mengeninklusion endliche Menge V R gibt mit P conv V d h Polytope haben sogar eine eindeutig bestimmte konvexe Basis Nach 6 12 sind polyedrische Kegel genau diejenigen Teilmengen des K die ein endliches Kegelerzeugendensystem haben Auch hier gibt es nat rlich minimale endli che Mengen die die Kegel konisch erzeugen Aber nur unter zus tzlichen Vor aussetzungen haben zwei minimale konische Erzeugendensysteme auch gleiche Kardinalit t und Eindeutigk
147. hnen Er h ngt nur von der Dimension n des Raumes R und nicht etwa von Update Vektor c ab 201 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 12 30 Lemma 1 1 1 2 vol El n n Lea vol Ex 1 1 Beweis Siehe Gr tschel Lov sz amp Schrijver 1985 Wir sehen also dass mit den Formeln aus Satz 12 26 eine Folge von Ellipsoiden konstruiert werden kann so dass jedes Ellipsoid H das Halbellipsoid und somit das Polytop P enth lt und dass die Volumina der Ellipsoide schrumpfen Die Folge der Volumina konvergiert gegen Null muss also einmal das Volumen von P falls P ein positives Volumen hat unterschreiten Daher muss nach endlich vielen Schritten der Mittelpunkt eines der Ellipsoide in P sein falls 4 0 Wir wollen nun ausrechnen nach wievielen Schritten dies der Fall ist 12 31 Lemma Seien P A b P x R Ax lt b und R N Oe a Entweder gilt oder vol P NS 0 R gt 2 004 0 2 b Ist P volldimensional d h dim P n dann gilt vol PN S 0 R vol P NS 0 R gt 0 0 Lemma 12 31 zusammen mit Lemma 12 25 sind geometrisch und algorith misch interessant Die beiden Hilfss tze implizieren folgendes Wenn ein Polyeder P nicht leer ist dann gibt es Elemente des Polyeders die nah beim Nullvektor liegen d h in 5 0 R enthalten sind Es reicht aus zu berpr fen ob PN S 0 R leer ist oder nicht Daraus kann man schlie
148. htet werden Also nochmals wenn immer wir das Symbol im weiteren gebrauchen gilt K R Q und K ist ein K rper mit den blichen Rechenoperationen und Strukturen Nat rlich ist K reK r gt 0 Die Teilmengenbeziehung zwischen zwei Mengen M und N bezeichnen wir wie blich mit M C N Gilt MC N und M N so schreiben wir M CN bezeichnet die mengentheoretische Differenz x M x N 1 3 2 Vektoren und Matrizen Ist R eine beliebige Menge n N so bezeichnen wir mit R die Menge aller n Tupel oder Vektoren der L nge n mit Komponenten aus R Aus technischen Gr nden ist es gelegentlich n tzlich Vektoren x also Vektoren ohne Komponenten zu benutzen Wenn wir dies tun werden wir es explizit erw hnen andernfalls setzen wir immer n gt 1 voraus Wir betrachten Vektoren amp i 1 n R immer als Spaltenvektoren d h MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 wollen wir mit Zeilenvektoren rechnen so schreiben wir x lies x transpo niert Die Menge K ist bekanntlich ein n dimensionaler Vektorraum ber Mit ya i 1 bezeichnen wir das innere Produkt zweier Vektoren Wir nennen und y senkrecht orthogonal falls 27 0 gilt Der ist f r uns immer wenn nichts anderes gesagt wird mit der euklidischen Norm T VaT z ausgestattet F r Mengen 5 K und K benutzen wir die folgenden Standardbezeich
149. ie Reduktion ber Bin rsuche dar Daraus ergibt sich auch wie man die Kombination des primalen mit dem dualen Problem behandeln kann Genau wie in 12 16 angegeben und mit den in den davor angegebenen S tzen vorgelegten Begr ndungen f hren wir eine bin re Suche durch ber der Menge C 2 EQ ol lt 2 8 0 2 0 1 lt q lt der m glichen optimalen Zielfunktionswerte falls 13 3 eine endliche Optimall sung hat Zur Bestimmung einer optimalen L sung von 13 3 sind nach 12 18 h chstens N 2 b 3 c 2n 2n logan 2 Aufrufe eines Algorithmus n tig der f r ein s S entscheidet ob win lt s 13 4 b x gt 0 eine L sung hat Genau dann wenn wir zeigen k nnen dass 13 4 in polyno mialer Zeit gel st werden kann haben wir also ein polynomiales Verfahren zur L sung von 13 3 Wir wissen aus Satz 12 11 dass wir alle Variablen durch 928 6 2n beschr nken k nnen F hren wir f r die Ungleichung in 13 4 eine Schlupfvariable 1 ein so gilt 0 lt n 1 lt s lt 2 2 _ Setzen wir also 2208 00 20 tege H so ist 13 4 genau dann l sbar wenn 21 B 0 i T Wa 13 5 E vn Li gt 0 i 1 n 1 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 l sbar ist F hren wir eine weitere Schlupfvariable x 2 ein d h es gilt nun x und skalieren wir die Variablen um so ist 13 5 genau dann
150. ie Zeilen die zu Indizes geh ren die nicht in enthalten sind und die Spalten die zu Indizes geh ren die nicht in J enthalten sind streicht und dann die so entstehende Matrix umsortiert Ist i und J j so erhalten wir zwei Darstellungsweisen f r Zeilen bzw Spalten von A An A Aus Gr nden der Notationsvereinfachung werden wir auch die folgende etwas unsaubere Schreibweise benutzen Ist M der volle Zeilenindexvektor von A und I ein Zeilenindexvektor so schreiben wir auch ICM obwohl J und M keine Mengen sind und f r 1 m benutzen wir viel oderigl um festzustellen dass 2 als Komponente von J auftritt oder nicht Analog verfah ren wir bez glich der Spaltenindizes Gelegentlich spielt die tats chliche Anordnung der Zeilen und Spalten keine Rol le Wenn also z B J C 1 n und J C 1 m gilt dann werden wir auch einfach schreiben Ars 19 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 obwohl diese Matrix dann nur bis auf Zeilen und Spaltenpermutationen definiert ist Wir werden versuchen diese Bezeichnungen immer so zu verwenden dass keine Zweideutigkeiten auftreten Deshalb treffen wir ab jetzt die Verabredung dass wir falls wir Mengen und nicht Indexvektoren und J benutzen die Elemente von I i1 ip und von J ji j kanonisch anordnen d h die Indizierung der Elemente von J und J sei so gew hlt dass 71 lt tg lt lt ip
151. ie mit den bereits bestimmten Elementarmatrizen und pivotisier te auf der Komponente mit dem gr ten Absolutbetrag Sp ter nahm man eine Vorsortierung der Basisspalten in der Weise vor so dass die d nn besetzten zu erst bearbeitet wurden dies war ohne gro en Aufwand m glich da aufgrund der spaltenweisen Speicherung der NNE die column counts Anzahl NNE einer be stimmten Spalte bekannt waren Heutzutage wird die Inversion blicherweise in 2 Phasen zerlegt 10 35 Boolesche Phase Entscheidung ber Pivotposition 10 36 Numerische Phase Rechentechnisch g nstige Ausf hrung des Pivot schrittes Die folgende Beobachtung ber Dreiecksmatrizen ist f r Implementationen n tz lich 10 37 Bemerkung Sei B eine untere m m Dreiecksmatrix mit 0 Z0i 1 m Dann ist durch B Ba En Ba EN 167 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 und 1 0 1 1 bij Be dass si i gt j i d An dry 1 oF 1 eine Darstellung von in Produktform gegeben Einige Inversionsverfahren versuchen diese sch ne Eigenschaft von L Matrizen lower triangular auch bei der Inversion anderer d nn besetzter Matrizen auszu nutzen Die gegebenen Basismatrizen werden dabei durch implizites Vertauschen von Zeilen und Spalten so umgeformt dass sie L Matrizen m glichst hnlich wer den und z B folgendes Aussehen haben Bump strukturiert in L Matrix mit Spikes Abb 10 3
152. iert dass 2 inkonsistent ist Also hat nach 4 1 das System 1 eine L sung und Satz 5 8 ist bewiesen 0 5 9 Folgerung bzw D seien die L sungsmengen bzw D Wir setzen 00 falls P unbeschr nkt ST 4 falls P 0 max c x x andernfalls 56 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 X falls D unbeschr nkt u 4 falls D min y b D andernfalls Dann gilt lt 2 u lt lt gt 2 endlich gt u endlich b 2 gt gt d D ei D f oder z Beweis a Aus 2 u endlich folgt nat rlich u und 2 endlich Sei 2 endlich dann ist D 0 und cz lt z lt b ist f r z z l sbar jedoch unl sbar f r jedes 2 gt z Sei also z gt z dann ist nach 4 2 a 07 2 uz y b lt 0 uy 20 l sbar Hat dieses System eine L sung mit u 0 so hat yT 0 y7b lt 0 y gt 0 eine L sung Also folgt aus 4 2 a dass P ein Widerspruch Also gibt es eine L sung von 2 mit u gt 0 Durch Skalieren k nnen wir eine derartige L sung mit u 1 finden Daraus folgt dass das System lt z ya el y 20 57 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 eine L sung besitzt Folglich ist D 5 0 und aus Satz 5 8 folgt die Behauptung Ist u endlich so verl uft der
153. ig begegnen weswegen wir f r ihn eine besondere Bezeichnung w hlen wollen F r A e K b K setzen wir P A b x K Ax 6 2 gt 0 Nicht alle Polyeder k nnen in der Form b dargestellt werden z B nicht P reK r lt 1i Wir werden sp ter viele S tze ber Polyeder P beweisen deren Aussagen darstel lungsabh ngig sind d h die Art und Weise wie P gegeben ist geht explizit in die Satzaussage ein So werden sich z B die Charakterisierungen gewisser Poly edereigenschaften von P A b zumindest formal von den entsprechenden Cha rakterisierungen von b unterscheiden Darstellungsabh ngige S tze wol len wir jedoch nur einmal beweisen normalerweise f r Darstellungen bei denen die Resultate besonders einpr gsam oder einfach sind deshalb werden wir uns nun Transformationsregeln berlegen die angeben wie man von einer Darstel lungsweise zu einer anderen und wieder zur ck kommt 26 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 2 4 Transformationen Regel I Einf hrung von Schlupfvariablen Gegeben seien a Wir schreiben die Ungleichung lt in der Form einer Gleichung und einer Vorzeichenbeschr nkung gt 0 y ist eine neue Variable genannt Schlupfvariable Es gilt x erf llt C erf llt Gi f r y a afz y C erf llt Gi x erf llt i y Allgemein Ein Ungleichungssystem Ax lt b kann
154. im Beweis von 12 11 k nnen wir feststellen dass die Komponenten v von v eine Darstellung der Form NED d haben wobei D eine regul re Untermatrix von A bzw gt ist und D aus D dadurch hervorgeht dass die 7 Spalte von D durch einen Untervektor der rech ten Seite ersetzt wird Satz 12 11 zeigt lt 200 lt 2 4 0 7 Sei nun c SE ga Q eine teilerfremde Darstellung der Zielfunktion so gilt n n T sp 1 t 0 Sipiti Mitti ty th ti gt 3 ai iPiti 1 n i t i 1 R Aus 12 10 a folgt t ti t lt 2 1 2 1 225 amp 1 lt Kon und somit 2 Bei IE Analog folgt 5o 19 A b n 960 2 n i 1 i 1 Satz 12 15 gibt uns nun die M glichkeit das Verfahren der bin ren Suche zur L sung von max c x x P anzuwenden Diese Methode funktioniert bez glich der in Satz 12 15 definierten Menge S wie folgt 12 16 Bin re Suche 1 W hle ein Element s S so dass f r S t 5 t lt s und S te S t gt 5 gilt 6 lt 5 lt 5 1 2 berpr fe ob das Polyeder ed Ax lt b x 0 gt s nicht leer ist 3 Ist P leer so setze 5 5 andernfalls setze 5 5 195 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 4 Ist 5 1 so gilt f r s S s max c x lt b x gt 0 und jeder Punkt P ist eine Optimall sung
155. immer das einer der angeordneten K rper R oder Q ist Sollte ein Satz nur f r oder nur f r gelten so treffen wir die jeweils notwendige Einschr nkung F r diejenigen die sich f r m glichst allgemeine S tze interessieren sei an die ser Stelle folgendes vermerkt Jeder der nachfolgend angegebenen S tze bleibt ein wahrer Satz wenn wir als Grundk rper einen archimedisch angeordneten 15 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 K rper w hlen Ein bekannter Satz besagt dass jeder archimedisch angeordnete K rper isomorph zu einem Unterk rper von R ist der enth lt Unsere S tze bleiben also richtig wenn wir statt K Q R irgendeinen archimedisch ange ordneten K rper K mit Q C K C R w hlen Wir k nnen in fast allen S tzen insbesondere bei denen die keine Ganzzahlig keitsbedingungen haben auch die Voraussetzung archimedisch fallen lassen d h fast alle S tze gelten auch f r angeordnete K rper Vieles was wir im beweisen ist auch in beliebigen metrischen R umen oder R umen mit anderen als euklidischen Skalarprodukten richtig Diejenigen die Spa an derartigen Ver allgemeinerungen haben sind eingeladen die entsprechenden Beweise in die all gemeinere Sprache zu bertragen In dieser Vorlesung interessieren wir uns f r so allgemeine Strukturen nicht Wir verbleiben in den f r die Praxis besonders wichtigen R umen die ber den reel len oder rationalen Zahlen erric
156. in Widerspruch Hieraus folgt dass P und somit x Ax lt b leer sind wenn die Ellipsoidmethode in 2 a abbricht Aus 12 31 b folgt nun unmittelbar 12 34 Folgerung Ist P P A b R ein Polyeder von dem wir wissen dass es entweder volldimensional oder leer ist dann findet die Ellipsoidmethode entweder einen Punkt in P oder beweist dass P leer ist 204 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Nun kann man nat rlich einem durch ein Ungleichungssystem gegebenen Po lyeder nicht unmittelbar ansehen ob es volldimensional ist oder nicht Ferner k nnen gerade diejenigen Polyeder die durch Transformation linearer Programme entstehen siehe 12 8 hier gilt immer c x BI y nicht volldimensional sein so dass die Ellipsoidmethode zu keiner befriedigenden Antwort f hrt Diesen Defekt kann man jedoch durch die folgende Beobachtung reparieren 12 35 Satz Seien A Q und b Q dann hat das Ungleichungssystem lt b hat genau dann eine L sung wenn das strikte Ungleichungssystem lt b 279 0 eine L sung hat Ferner kann man aus einer L sung des strikten Ungleichungssy stems in polynomialer Zeit eine L sung von Ax lt b konstruieren Damit ist die Beschreibung der Ellipsoidmethode bis auf die Absch tzung der Rechenzeit vollst ndig Wollen wir entscheiden ob ein Polyeder P A b einen Punkt enth lt k nnen wir die Methode 12 32 auf das Ungleichungssystem
157. iner beliebigen Form ausgef hrt nach endlich vielen Schritten eine optimale L sung oder stellt fest dass das Problem unbeschr nkt ist Beweis Bei jedem Durchlauf des Simplexalgorithmus wird eine neue Basis er zeugt Da jede Basisl sung nicht entartet ist hat die neue Basisl sung nach 9 14 c einen strikt besseren Zielfunktionswert Ist Ag Az die Folge der mit dem Simplexalgorithmus generierten Basen dann folgt daraus dass keine Basis mehrfach in dieser Folge auftreten kann Da die Anzahl der verschiedenen Ba sen von A endlich ist ist die Folge der Basen endlich Ist As die letzte erzeugte Basis so ist sie entweder optimal oder in Schritt II 3 wurde Unbeschr nktheit festgestellt 0 Besitzt 9 1 degenerierte Ecken so kann es sein dass die Grundversion des Sim plexverfahrens irgendwann einmal nur noch zul ssige Basen erzeugt die alle zu derselben Ecke geh ren und bei der die gleichen Matrizen A immer wiederkehren Man sagt das Verfahren kreist oder kreiselt In der Tat sind Beispiele konstruiert worden bei denen dieses Ph nomen auftreten kann siehe 9 22 9 22 Beispiel Kreiseln Gegeben sei das folgende LP max 211 1825 EA Er 842 1223 824 lt 0 ST 5x2 203 iz lt 0 11 lt 1 11 22 23 T4 gt 0 134 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Das verk rzte Tableau zur Anfangsbasis 5 6 7 lautet Wir f hren nun den Simplexalgorithmus aus Die
158. ip soidmethode erledigen Dies sind auf Absch tzungstechniken der linearen Alge bra und Analysis beruhende Tricks mit deren Hilfe Verfahren 13 25 in einen polynomialen Algorithmus abgewandelt werden kann Da insgesamt h chstens N Iterationen durchgef hrt werden folgt 13 26 Satz Die Laufzeit des geeignet modifizierten Karmarkar Algorithmus 13 25 zur L sung von Problemen des Typs 13 10 ist 0 n A 0 Wir wollen im weiteren die Rundungsfehler vernachl ssigen und annehmen dass wir in perfekter Arithmetik arbeiten Es bleibt noch zu zeigen dass Algorithmus 13 25 mit einem korrekten Ergebnis endet Zun chst berlegen wir uns dass alle Punkte x im relativ Inneren von RI enthalten sind 13 27 Lemma F r alle k 0 1 N gilt 0 z gt 0 1 Beweis Durch Induktion ber k F r k 0 gilt die Behauptung nach Voraus setzung F r k 1 ist die Projektion von c auf x 0 17 x 0 siehe Beweis von 13 20 Daraus folgt ADT 0 TT 0 Mithin ergibt sich 0 T Akt k l 1 _1__1 1 Dy Az AD 1 35 STEN 21 Ar 0 Alil Daraus folgt Axt 0 k Um x gt 0 zu zeigen stellen wir zun chst fest dass K y 21 lt 1 1 e GE Ee lt site CG Ri D ibt in K mit einer nichtpositiven Komponente 27 Denn gibt es ein y einer nichtpositiven Kompone 227 MARTIN
159. ip des Verfahrens ist klar Man z unt das Polytop durch ein Ellipsoid E ein Ist das Zentrum von Ex nicht in P so sucht man sich ein kleineres Ellip soid das P enth lt und f hrt so fort Die Probleme die zu kl ren sind sind die folgenden 198 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Wie findet man ein Ellipsoid das P enth lt Wie kann man Er konstruieren Wann kann man abbrechen d h was hei t zu klein Wieviele Iterationen des Verfahrens sind durchzuf hren Die nachfolgenden S tze beantworten diese Fragen wobei wir nur einige der Be weise die zum Nachweis der Polynomialit t des Verfahrens notwendig sind an geben wollen Unser Anfangsellipsoid soll eine Kugel mit dem Nullpunkt als Zentrum sein Ent halten die Restriktionen die das Polytop P definieren explizite obere und unter Schranken f r die Variablen sagen wir li lt Ti lt ti EE so sei n 12 24 R Wl E i 1 Dann gilt trivialerweise P 5 0 R E R I 0 Andernfalls kann man zeigen 12 25 Lemma Sei ein Polyeder der Form P A b P A oder x R Az lt b x gt 0 mit A 00 b 0 dann gilt a Alle Ecken von P sind in der Kugel S 0 R enthalten mit R Snort en b Ist P ein Polytop so gilt P S 0 R E R I 0 Beweis Nach Satz 12 11 gilt f r jede Ecke v v1 Un von P j lt AH n H und daraus folgt f
160. ipsoidmethode untersuchen und auf einige bisher verschwiegene Probleme bei der Ausf hrung von 12 32 aufmerksam ma chen Offenbar ist die maximale Iterationszahl N 2n 3n 1 A 2n 1 b n polynomial in der Kodierungsl nge von A und b Also ist das Verfahren 12 32 genau dann polynomial wenn jede Iteration in polynomialer Zeit ausgef hrt wer den kann Bei der Initialisierung 1 besteht kein Problem Test 2 a ist trivial und die Schritte 2 b und 2 c f hren wir dadurch aus dass wir das Zentrum in die Ungleichungen einsetzen und berpr fen ob die Ungleichungen erf llt sind oder nicht Die Anzahl der hierzu ben tigten elementaren Rechenschritte ist linear in A und 0 Sie ist also polynomial wenn die Kodierungsl nge des Vektors ax 1 polynomial ist An dieser Stelle beginnen die Schwierigkeiten In der Update Formel 3 a muss eine Wurzel berechnet werden I a werden also hier irrationale Zahlen auftreten die nat rlich nicht exakt berechnet werden k nnen Die m glicherweise irratio nale Zahl yc muss daher zu einer rationalen Zahl gerundet werden Dadurch wird geometrisch bewirkt dass der Mittelpunkt des Ellipsoids E ein wenig ver schoben wird Mit Sicherheit enth lt das so verschobene Ellipsoid nicht mehr die Menge E siehe Satz 12 26 und m glicherweise ist auch P A b nicht mehr in diesem Ellipsoid enthalten Also bricht unser gesamter Beweis der Korrektheit des Verfahrens zusa
161. itel voraussetzen 12 1 Annahme Alle Daten linearer Programme sind rational d h f r jedes LP der Form max Ax lt b gilt c 0 A 0 b e 0 188 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Nun m ssen wir die Frage kl ren wie Daten gegeben sind Da unsere Computer blicherweise mit Bin rcodes arbeiten wollen wir annehmen dass alle vorkom menden ganzen Zahlen bin r kodiert sind Die bin re Darstellung einer ganzen Zahl n ben tigt log n 1 Stellen Bits und eine Stelle f r das Vorzeichen Wir nennen daher 12 2 log In 1 1 die Kodierungsl nge von n Jede rationale Zahl r hat eine Darstellung r 2 mit und g teilerfremd und g gt 0 Wir nehmen immer an dass rationale Zahlen in dieser Form dargestellt sind Also k nnen wir sagen dass die Kodierungsl nge einer rationalen Zahl r A gegeben ist durch Die Kodierungsl nge einer Matrix A a Q oder analog eines Vek tors ist gegeben durch m n 12 3 Mer Na i 1 1 Daraus folgt da die Kodierungsl nge eines linearen Programms der Form max Ax lt b gegeben ist durch c A b Um ber Laufzeiten sprechen zu k nnen m ssen wir uns berlegen wie wir die Laufzeit eines Algorithmus messen wollen Wir legen fest dass wir dazu zun chst die Anzahl der elementaren Rechenschritte z hlen wollen wobei elementare Rechenschritte die arithmetischen Operationen Addition Subtr
162. iterium 9 13 b weiterhin erf llt d h Az bleibt die optimale Ba sis jedoch ndert sich u U der Wert der zugeh rigen Basisl sung wenn 0 Ist einer der Koeffizienten A positiv so wenden wir Phase II des pri malen Simplexalgorithmus mit zul ssiger Anfangsbasisl sung Az auf das neue Problem an 180 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Zur Berechnung von A gen gt die Kenntnis von A oder Az und Ay An den obigen Berechnungen kann man sehen wie man eine Schar von linearen Programmen bei denen entweder nur b oder nur c einer Anderung unterworfen wird l sen kann 11 3 nderungen des Spaltenvektors A j N s Wollen wir die s te Nichtbasisspalte d h die j te Spalte von A um A ndern und kennen wir die Basisinverse Aj so k nnen wir die neue s te Spalte von A berechnen durch A Al A A Die Basisl sung zu Az bleibt weiterhin primal zul ssig da diese nderung keinen Einfluss auf Tg b Ty 0 hat Jedoch bleibt 7 i a nicht optimal da sich der s te Koeffizient der reduzierten Kosten j N s wie folgt ndert cp As Ap A cj chA hAg wobei eine optimale duale L sung ist Die Optimalit t der gegenw rtigen Basisl sung 7 bleibt genau dann erhalten wenn lt u A gilt Andernfalls k nnen wir die neue Optimall sung mit Phase des primalen Simplexalgorithmus berechnen wo
163. itionss tze Wir haben das Farkas Lemma nun in verschiedenen Versionen formuliert Fol gerung 3 5 beschreibt ein zur Unl sbarkeit eines Ungleichungssystems qui valentes Kriterium Die S tze 4 1 und 4 2 haben die Form von Alternativen 45 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 w hrend in 4 3 die L sbarkeit eines Systems mit der Unl sbarkeit eines durch Transposition gewonnenes System festgestellt wird Man nennt deshalb S tze des Typs 4 1 4 2 bzw 4 3 Alternativ bzw Transpositionss tze Die Literatur ist au erordentlich reich an derartigen S tzen da sie wie wir sp ter noch sehen werden auf vielerlei Weise n tzlich sind Wir wollen hier noch einige weitere S tze dieser Art angeben 4 4 Satz Es seien A K K a R b KY dann gilt genau eine der beiden folgenden Alternativen dx mit Ar lt Bx lt b b b b2 u K v KY 0 mitu A 07B 07 ua vb lt 0 oder u mitu A 07 lt 0 Beweis Angenommen a und b2 gelten gleichzeitig dann gibt es also einen Vektor x mit Ax lt a und einen Vektor u RK mit u A 07 lt 0 was 4 2 a widerspricht Angenommen a und b1 gelten gleichzeitig dann gilt 072 ul A vTB z ul Ax v lt 07 lt 0 ein Widerspruch Wir nehmen nun an dass a nicht gilt und wollen zeigen dass dann b gilt Wir wenden die Fourier Motz
164. itsaxiom der reellen Zahlen auf irgendeine Weise benutzt werden Hausaufgabe Leiten Sie Satz 4 10 aus Folgerung 4 5 ab Satz 4 9 k nnen wir jedoch f r Polyeder beweisen Zu seiner Formulierung m ssen wir jedoch sch rfere Anforderungen an die Darstellung der involvierten Polyeder stellen 4 10 Schwacher Trennsatz Sein a Ar a lt b Q x Cz c Dz lt d zwei nichtleere Polyeder so dass keine der Ungleichungen Bx lt b von allen Punkten in P und keine der Ungleichungen Dx lt d von allen Punkten in Q mit Gleichheit erf llt wird Es gibt eine P und Q trennende Hyperebene genau dann wenn R x Ax Cx c Bx lt b Dx lt d leer ist Beweis Ist P N Q 0 so ist R 0 und die Behauptung folgt in sch rferer Form aus Satz 4 8 Sei also 0 49 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Die Menge R ist offenbar die L sungsmenge des Systems lt a Ar lt a Cx lt lt c Bx lt b Ba lt b Dx lt d Dx lt Dieses hat nach Folgerung 4 5 genau dann keine L sung wenn es einen Vektor a a af ST ur yT 07 gibt mit sf A S A U IC V C wB yD 0 17 77 7 lt 07 Setzen wir 7 1 0 U 7 und H x 1 Dann ist eine und Q trennende Hyperebene denn 1 P rr u Ac w Be lt ua wb lt uag wbx u a wtb ve
165. k nnen o B d A annehmen dass die Form 6 A 179 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 mit h 0 besitzt Da L folgt mit 11 4 L 0 lt und daraus folgt direkt L 0 0 Also wissen wir dass Dies impliziert h gt 0 Sei o d A k Dann gilt epi L 0 2 Hu lt 0 Gu lt z und es ist L v z gt Giv z f r ein i Bezeichnen g i 1 k die Zeilen von G so gilt L v max v g i 1 k 0 11 6 Folgerung Die Perturbationsfunktion L ist st ckweise linear und konkav 0 Speziell folgt daraus dass sich der Wert der Zielfunktion eines linearen Pro gramms stetig mit einer Variation der rechten Seite des LP ndert Die stetige nderung l sst sich durch 11 5 explizit angeben Sie ist fast berall linear bis auf einige Knicke 11 2 nderungen der Zielfunktion c Wir gehen wieder davon aus dass wir eine Optimalbasis Az von 9 1 kennen und dass sich die Zielfunktion c um A ndert Da wir eine Basis Az gegeben haben k nnen wir die neuen Kosten der Basisl sung ausrechnen Es gilt T AT x ch AB Ag ht ch A ch An tN chb try Abb AL ay A a Wird keiner der Koeffizienten von c ge ndert ist also Ag 0 ndert sich wegen xy 0 der Zielfunktionswert der Basisl sung zur Basis nicht b Sind die neuen reduzierten Kosten A nicht positiv so ist das Optima lit tskr
166. keine sophistifi zierten Tricks am h ufigsten verwendet wird und bei Problemen bis zu mittleren Gr enordnungen jeweils bis zu 500 Variablen und Zeilen recht gute Ergebnisse zeigt Ihr liegt die Idee zu Grunde dass diejenige Variable in die Basis genommen werden sollte die pro Einheit den gr ten Zuwachs in der Zielfunktion bringt Es kann nat rlich sein dass die Nichtbasisvariable mit dem gr ten Zuwachs pro Einheit nur um sehr wenige Einheiten erh ht werden kann und dass ein Wechsel zu einer anderen Basis einen wesentlich gr eren Gesamtfortschritt bringt Hier zu ist Regel 4 geschaffen Bei ihr wird f r jeden m glichen Basiswechsel der tats chliche Zuwachs der Zielfunktion g berechnet und es wird der Basiswechsel vorgenommen der den insgesamt gr ten Fortschritt bringt Diese Verbesserung wird nat rlich durch einen erheblichen rechnerischen Mehraufwand erkauft bei dem es fraglich ist ob er sich lohnt Aufgrund von Erfahrungen in der Praxis kann gesagt werden dass sich die trivia len Regeln 1 2 und 3 f r kleinere bis mittlere Problemgr en bew hrt haben jedoch f r gro e LPs Modifizierungen von 10 2 4 wie sie in den Literaturan gaben beschrieben sind benutzt werden Die trivialen Regeln f hren im allgemei nen zu insgesamt mehr Pivotoperationen Die komplizierten Regeln versuchen die Anzahl der Pivotoperationen minimal zu gestalten Hierbei ist ein wesentlich h herer Rechenaufwand erforderlich
167. kin Elimination n mal iterativ auf und 5 an Nach 3 4 und erhalten wir nach n Schritten Matrizen und Vektoren d so dass lt a Bx lt b genau dann l sbar ist wenn Cx lt Dx lt d l sbar ist wobei 0 0 gilt Nach Annahme gilt a nicht also muss es einen Zeilenindex i von geben mit lt 0 oder einen Zeilenindex j von D mit d lt 0 Wendet man die Fourier Motzkin Elimination nur auf A a und n mal sukzessiv an so erh lt man nach 3 4 das System Das hei t die L sbarkeit von Ax lt a ist quivalent zur L sbarkeit von Cx lt Ist also Ax lt a nicht l sbar so gibt es nach 3 5 einen Vektor u gt 0 mit u A 07 ufa lt 0 das hei t b2 gilt Ist lt a l sbar so gibt es keinen Vektor u gt 0 mit u A 07 uta lt 0 d h c gt 0 f r alle i Folglich muss d lt 0 f r ein j gelten D 07 ist eine konische Kombination von Zeilen von A und Zeilen von B Nach Definition siehe 3 4 muss dabei mindestens eine Zeile von B mit einem positiven Multiplikator beteiligt sein also gibt es u K v 0 mitu7A v7B D 07 und ua vb d lt 0 das hei t b gilt 4 5 Folgerung Ist P A a 4 0 dann gilt genau eine der beiden folgenden Alternativen 46 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 a da KR mit lt a lt b b 4 v Omit uT A 07 B 07 und ufa 076 lt 0 0 4 6 Satz Gorda
168. kt leicht bestimmt werden kann liegt kein wirkliches Optimierungsproblem vor Wir wollen daher voraussetzen dass rang A lt n gilt Ferner nehmen wir an um die Darstellung einfacher zu machen dass die Zeilen von A linear unabh ngig sind und dass P A b ist Wir treffen also folgende Verabredung 9 2 Generalvorausssetzungen f r Kapitel 9 a A ist eine m n Matrix mitm lt n b rang A m 0 0 Wir werden sp ter zeigen dass lineare Programme bei denen die Voraussetzun gen 9 2 nicht gegeben sind auf solche zur ckgef hrt werden k nnen die diese erf llen dass also alle Voraussetzungen 9 2 d A gemacht werden k nnen Um die weitere Darstellung schreibtechnisch zu vereinfachen legen wir f r dieses Kapitel folgendes fest vergleiche Abschnitt 1 3 9 3 Konventionen in Kapitel 9 Es sei A K wobei nach 9 2 lt n gelten soll a Mit 1 m bezeichnen wir die Zeilenindexmenge von A mit 1 n die Spaltenindexmenge b B und N bezeichnen stets Spaltenindexvektoren von A wobei E 1 eg N q1 qn m Lian gilt Ferner kommt kein Spaltenindex der in B vorkommt auch in N vor und umgekehrt Um Transpositionszeichen zu sparen schreiben wir B und N immer als Zeilenvektoren Wir werden aber und N auch einfach als Mengen auffassen wenn die Anordnung der Indizes keine Rolle spielt dann gilt also nach b N 0
169. l C hei t polyedrisch genau dann wenn ein Polyeder ist 2 6 Bemerkung Ein Kegel C C ist genau dann polyedrisch wenn es eine Matrix A Kim gibt mit 0 Beweis Gilt C 0 so ist ein Polyeder und offensichtlich ein Kegel Sei C ein polyedrischer Kegel dann existieren nach Definition 2 1 c eine Ma trix A und ein Vektor b mit C P A b Da jeder Kegel den Nullvektor enth lt 28 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 gilt 0 AO lt b Angenommen es existiert C mit Z 0 d h es existiert eine Zeile von A sagen wir A mit t A gt 0 Da C ein Kegel ist gilt AT f r alle K Jedoch f r X 1 gilt einerseits AT C und andererseits A AT At gt b ein Widerspruch Daraus folgt f r alle x gilt Ax lt 0 Hieraus ergibt sich 0 0 In der folgenden Tabelle 2 1 haben wir alle m glichen Transformationen aufgeli stet Sie soll als Nachschlagewerk dienen 29 Transformation nach hierbei ist max 0 x max 0 2 Kapitel 3 Fourier Motzkin Elimination und Projektion In diesem Kapitel untersuchen wir die folgende Frage Wie kann man herausfin den ob ein lineares Ungleichungssystem Ax lt b eine L sung hat oder nicht Nehmen wir an dass A und b rational sind wenn man Computer benutzen will muss man diese Annahmen sowieso machen dann k nnen wir die Ele
170. l Programming Study 4 1975 30 57 R G Jeroslow 1973 The Simplex Algorithm with the Pivot Rule of Maximizing Improvement Criterion Discrete Mathematics 4 1973 367 377 V Klee amp J Minty 1972 How Good is the Simplex Algorithm in O Shisha ed Inequalities Academic Press New York 1972 159 175 H Kuhn amp R E Quandt 1963 An Experimental Study of the Simplex Method in N C Metropolis et al eds Experimental Arithmetic High Speed Compu ting and Mathematics Proceedings of Symposia on Applied Mathematics XV American Mathematical Society Providence RI 1963 107 124 M A Saunders 1976 The Complexity of LU Updating in the Simplex Method in R S Anderssen amp R P Brent eds The Complexity of Computational Pro blem Solving Queensland University Press Queensland 1976 214 230 M A Saunders 1976 A Fast Stable Implementation of the Simplex Method Using Bartels Golub Updating in J R Bunch amp D J Rose eds Sparse Matrix Computations Academic Press New York 1976 213 226 174 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 M J Todd 1984 Modifying the Forrest Tomlin and Saunders Updates for Li near Programming Problems with Variable Upper Bounds Cornell University School of 1984 TR 617 J A Tomlin 1975 On Scaling Linear Programming Problems Mathematical Programming Study 1975 146 166 175 MARTIN GR TSCHEL
171. l dieses Kapitels ist nicht die Darstellung einer besonders effizienten Version des Karmarkar Algorithmus son dern dessen prinzipielle Idee 219 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Geometrische Beschreibung eines Iterationsschrittes Zur L sung von 13 11 hat Karmarkar ein Verfahren entworfen das wie fast alle Optimierungsverfahren insbesondere die Methoden der nichtlinearen Optimie rung die wir in der Vorlesung Optimierung II kennenlernen werden auf der fol genden simplen Idee beruht Angenommen man befinde sich an einem zul ssigen Punkt sagen wir dann sucht man eine Richtung also einen Vektor d R bez glich der die Zielfunktion verbessert werden kann Daraufhin bestimmt man eine Schrittl nge p so dass man von x zum n chsten Punkt x a pd gelangt Der n chste Punkt x soll nat rlich auch zul ssig sein und einen we sentlich besseren Zielfunktionswert haben Die Essenz eines jeden solchen Verfahrens steckt nat rlich in der Wahl der Rich tung und der Schrittl nge Bei derartigen Verfahren tritt h ufig die folgende Si tuation ein Man ist in der Lage eine sehr gute Richtung zu bestimmen d h die Zielfunktion wird in Richtung d stark verbessert aber man kann in Richtung d nur einen sehr kleinen Schritt ausf hren wenn man die zul ssige Menge nicht ver lassen will Trotz guter Richtung kommt man also im Bezug auf eine tats chliche Verbesserung kaum vorw rts und erh lt u U
172. l w hlen Es wird sich zeigen dass man mit der H lfte dieses optimalen Radius auskommt Wir betrachten also das Programm mind ADy SH e Das Minimum von 13 19 Kann explizit bestimmt werden 13 20 Lemma Die Optimall sung von 13 19 ist der Vektor Lo 1 1 I DAT AD AT AD 7117 De nn 1 1 1117 Del 223 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Beweis Zun chst projizieren wir orthogonal auf den linearen Raum L x R ADz 0 1 x 0 Setzen wir AD 1 so ist die Projektion von c auf L gegeben durch I denn offenbar gilt BT 0 0 Beachten wir dass AD1 0 gilt so folgt durch einfaches Ausrechnen ge _ ADAT AD ADAT 0 4 401 7 171374 0 n 1 0 BBT 0 1 BT BBT B DAT AD AT 4D 1117 und somit t I DA AD A AD 117 Je F r y L gilt nach Konstruktion Zu und somit ist das Minimum von 13 19 gleich dem Minimum der Funktion Zu unter den Nebenbedingungen von 13 19 Aufgrund unserer Konstruktion ist dieses Minimum gleich dem Mini mum von u mine y bh 211 lt 1 Zlatan also dem Minimum einer linearen Zielfunktion ber einer Kugel Offenbar wird das Minimum hier durch den Vektor angenommen den man durch einen Schritt vom Mittelpunkt 20 aus in Richtung mit der L nge des Kugelradius
173. lglich gilt mit 13 29 und 13 30 N ee 2 9 0 lt wobei wir die Tatsache ausgenutzt haben dass 3 gt gilt 108 2 lt Angenommen c a lt 2 4 0 gilt f r ein k 0 N DaP 9 ein Polytop ist wird min c x x P in einer Ecke von P angenommen Nach Satz 12 15 ist der Optimalwert dieses Programms eine rationale Zahl S mit 2 1 lt g lt NAHM Henn ofA e Aus 2 lt cl ak lt 2 4 folgt dann 2 lt 0 0 229
174. liebig viele Ungleichungen hinzuf gen ohne die L sungsmenge des Systems zu ndern Wir wollen nun untersuchen wie man ein gegebenes Polyeder mit m glichst wenigen Ungleichungen darstellen kann Dies ist speziell f r die li neare Optimierung wichtig da der Rechenaufwand zur Auffindung einer Opti mall sung in der Regel von der Anzahl der vorgelegten Ungleichungen abh ngt Gesucht wird also eine Minimaldarstellung eines Polyeders um rechentechnische Vorteile zu haben Es wird sich zeigen dass hierbei diejenigen Ungleichungen die maximale echte Seitenfl chen eines Polyeders definieren eine wesentliche Rolle spielen Deshalb wollen wir derartige Seitenfl chen untersuchen 7 19 Definition lt b sei ein Ungleichungssystem und M sei die Zeilenin dexmenge von A 85 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 a Sei I dann hei t das System Arr lt br unwesentlich oder redun dant bez glich Ax lt b wenn P A b P Am r ban gilt b Enth lt Ax lt b ein unwesentliches Teilsystem Ar rz br dann hei t lt b redundant andernfalls irredundant c Eine Ungleichung A x lt b hei t wesentlich oder nicht redundant be z glich Ax lt b wenn P A P A mq buy 4a gilt d Eine Ungleichung A x lt b hei t implizite Gleichung bez glich Ax lt b wenn i eq P A b gilt Ein System Ax lt a Bx b hei tirredundant wenn Ax lt a keine unwe sentliche Ungleichung bez gli
175. limination auf Ar lt a an so k nnen wir feststellen ob die L sungsmenge P des linearen Programms leer ist oder nicht F hren wir die Fourier Motzkin Elimination mit Bx lt b durch und eliminieren wir nur die ersten n Variablen so erhalten wir am Ende ein System D x lt dn welches nichts anderes ist als ein Ungleichungssystem der Form a lt n41 lt 55 wobei die 8 die positiven und die a die negativen Eintr ge des Vektors dn sind 39 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Das Minimum ber die Werte 8 liefert den maximalen Wert der Zielfunktion c x des gegebenen linearen Programms Setzen wir 7 0 i 1 n und 41 6 so k nnen wir mit diesem Vektor 7 T beginnend durch R cksubstitution wie in Satz 3 2 d beschrieben eine Optimall sung von max c x Ax lt b berechnen Wenn wir statt des Maximums von c x ber P das Minimum finden wollen so f gen wir bei der Konstruktion der Matrix B statt der Zeile c 1 die Zeile c 1 ein Wollen wir das Maximum und Minimum gleichzeitig bestimmen so f hren wir die Fourier Motzkin Elimination der ersten n Variablen auf der Matrix durch die um die beiden Zeilen c 1 und c 1 erweitert wurde Dieses Verfahren zur L sung linearer Programme ist konzeptionell extrem einfach und klar Wenn es in der Praxis funktionieren w rde k nnten wir das Thema lineare Optimierung beenden Als Hausaufgabe haben Sie die Fourie
176. lmenge P C R hei t Polyeder falls es ein 2 eine Matrix und einen Vektor b Km gibt mit P x RK Ax lt b Um zu betonen dass P durch A und b definiert ist schreiben wir auch P P A b x K Ax lt b d Ein Polyeder P hei t Polytop wenn es beschr nkt ist d h wenn es ein B K B gt 0 gibt mit P C x R 2 lt Polyeder k nnen wir nat rlich auch in folgender Form schreiben P A b Az lt bi i 1 Halbr ume sind offensichtlich Polyeder Aber auch die leere Menge ist ein Po lyeder denn 0 x 07a lt 1 und der gesamte Raum ist ein Polyeder denn x 07x lt 0 Sind alle Zeilenvektoren von A vom Nullvektor verschieden so sind die bei der obigen Durchschnittsbildung beteiligten Mengen Halbr ume Ist ein Zeilenvektor von A der Nullvektor sagen wir A 07 so ist a K lt b entweder leer falls 0 lt 0 oder der gesamte Raum falls b gt 0 Das hei t entweder ist P A b leer oder die Mengen x A lt b mit A 0 k nnen bei der obigen Durchschnittsbildung weggelassen werden Daraus folgt Jedes Polyeder ist Durchschnitt von endlich vielen Halbr umen Gilt P P A so nennen wir das Ungleichungssystem lt b ein P definie rendes System von linearen Ungleichungen Sind gt 0111 lt i lt j lt so gilt offensichtlich P A b P A b A x
177. ls konvexe und konische Kombination von Ecken und Extrema len Man kann jedoch zeigen dass zu einer derartigen Darstellung von Elementen von P nicht allzu viele Ecken und Extremalen ben tigt werden 8 28 Satz Es seien ein spitzer Kegel und0 x Dann gibt es Extremalen y ya von wobei d lt dim K lt n gilt mit d i 1 Beweis Es seien cone e die Extremalstrahlen von K i 1 k dann gibt es nach 8 23 Skalare A gt 0 2 1 k mit k i 1 Unter allen m glichen Darstellungen von x dieser Art sei die obige eine so dass I i 1 A gt 0 minimal ist Sagen wir es gilt Z 1 d An genommen die Vektoren 2 J sind linear abh ngig dann gibt es u Ha K nicht alle jz Null so dass gilt d i 1 Angenommen gt 0 f r 1 d und o B d A seu gt 0 Dann ist e KS 12 eine konische Kombination und nach Satz 8 4 gilt e lineal Dies widerspricht nach 8 12 der Voraussetzung K ist spitz B d A k nnen wir daher annehmen dass gilt lt 0 und A A 21 max u lt 0 Hi Ki Daraus folgt d i 35 mei L 108 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Diese Darstellung von x ist eine konische Kombination denn 20 Ai 2 2 0 eee d lt 0 zo Se A a gi also kann x mit weniger als d Extremalen konisch dargestellt werden Wider spruch zur Minimalit
178. mehr Iterationen sa gen wir N durchf hren muss Daraus folgt dass der Rundungsparameter p und der Aufblasparameter aufeinander so abgestimmt sein m ssen dass alle gerun deten und mit multiplizierten Matrizen A 1 lt k lt N und alle gerundeten Mittelpunkte ax 1 lt k lt N polynomial in A b berechnet werden k nnen so dass alle A positiv definit sind PN S 0 R in allen Ellipsoiden enthalten ist und die Iterationszahl N ebenfalls polynomial in A ist Dies kann in der Tat durch Anwendung von Absch tzungstechniken aus der Analysis und linearen Algebra realisiert werden siehe Gr tschel Lov sz amp Schrijver 1985 Die Ellipsoidmethode mit Rundungsmodifikation ist also ein polynomialer Al gorithmus der entscheidet ob ein Polyeder leer ist oder nicht Mit Hilfe der im Vorhergehenden beschriebenen Reduktion kann sie dazu benutzt werden lineare Programme in polynomialer Zeit zu l sen Wie sich der Leser denken kann gibt es eine ganze Reihe von Varianten der Ellip soidmethode die dazu dienen sollen schnellere Konvergenz zu erzwingen Der artige Varianten sind z B in Bland Goldfarb amp Todd 1982 Gr tschel Lov sz amp Schrijver 1985 und M Akg l Topics in Relaxation and Ellipsoidal Me thods Pitman Boston 1984 80 SK 870 A 315 beschrieben Aus Platz und Zeitgr nden k nnen wir hier nicht weiter daraus eingehen 12 5 Ein Beispiel Wir wollen hier den Ablauf de
179. mente von Q durchnummerieren und iterativ jedes Element dieser Folge in das Sy stem Ax lt b einsetzen Falls Ax lt b l sbar ist werden wir nach endlich vielen Schritten einen zul ssigen Vektor finden Hat Ax lt b keine zul ssige L sung so l uft diese Enumeration unendlich lange Kann man die Unl sbarkeit vielleicht auch mit einem endlichen Verfahren pr fen Wir werden hierauf in diesem Kapi tel eine positive Antwort geben Wir beginnen mit der Beschreibung eines Algorithmus der aus einer m n Matrix A und einem Vektor b K eine r n Matrix D und einen Vektor d macht so dass eine Spalte von D aus lauter Nullen besteht und dass gilt lt b hat eine L sung genau dann wenn Dz lt d eine L sung hat 3 1 Fourier Motzkin Elimination 3 1 Algorithmus Fourier Motzkin Elimination der j ten Variablen Input Eine m n Matrix A ein Vektor b und ein Spaltenindex j 1 der Matrix A Output Eine r n Matrix D 4 r wird im Algorithmus berechnet und ein 31 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Vektor d so dass die j te Spalte von D bezeichnet mit D der Nullvektor ist Schritt 1 Partitioniere die Menge der Zeilenindizes 1 m von A wie folgt N i M lt 0 Z ic 0 P ie M gt 0 Die Menge ZU N x P wird die Zeilenindexmenge D Diese kann brigens leer und 0 sein
180. mme seiner Extre malstrahlen 1 1 k b d A k nnen wir annehmen dass i 1 p und d i p 1 gilt Aus 8 20 folgt V v1 Up ist die Eckenmengen von P und E ey41 ex ist die Extremalenmenge von P Nach 8 6 gilt e lt f hog P und somit folgt tE P r N An ya 3 Ui gt 0 ae A d h x conv V 0 8 25 Folgerung Satz von Krein Milman Sei ein Polyeder und die Men ge seiner Ecken dann gilt P ist ein Polytop lt P conv V 8 26 Folgerung Polytope haben eine eindeutige konvexe Basis F r die lineare Optimierung ist die folgende Beobachtung wichtig 8 27 Satz Seien C ein spitzes Polyeder und Das lineare Pro gramm cz x ist genau dann unbeschr nkt wenn es eine Extremale von P gibt mit c e gt 0 Beweis Seien V die Eckenmenge von P und E eine Kegelbasis von rec P dann gilt nach 8 24 conv V Es ist y max c v v EV lt da V endlich und y max c x x conv V Gilt cfe lt 0 Ve E so 107 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 ist y max c z x lt oo Falls also max c x x P unbeschr nkt ist muss f r mindestens ein e E gelten ce gt 0 Die umgekehrte Richtung ist trivial 0 Wie bereits bemerkt haben Elemente von spitzen Polyedern i a keine eindeu tige Darstellung a
181. mmen Ferner wird beim Update 3 b durch m glicherweise gro e Zahlen geteilt und es ist nicht a priori klar dass die Kodierungsl nge der Elemente von bei wie derholter Anwendung von 3 b polynomial in A b bleibt Also m ssen auch die Eintr ge in Ar gerundet werden Dies kann zu folgenden Problemen f hren Die gerundete Matrix sagen wir A ist nicht mehr positiv definit und das Ver fahren wird sinnlos Oder bleibt positiv definit aber durch die Rundung hat 206 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 sich die Form des zugeh rigen Ellipsoids sagen wir so ge ndert dass das Polyeder P A b nicht mehr enth lt Alle diese Klippen kann man mit einem einfachen Trick umschiffen dessen Kor rektheitsbeweis allerdings recht aufwendig ist Die geometrische Idee hinter die sem Trick ist die folgende Man nehme die bin re Darstellung der Komponenten des in 3 a berechneten Vektors und der in 3 b berechneten Matrix und runde nach p Stellen hinter dem Bin rkomma Dadurch ndert man die Lage des Mit telpunkts und die Form des Ellipsoids ein wenig Nun bl st man das Ellipsoid ein bisschen auf d h man multipliziert A mit einem Faktor gt 1 und zwar so dass die Menge E beweisbar in dem aufgeblasenen Ellipsoid enthalten ist Durch die Vergr erung des Ellipsoids wird nat rlich die in 12 30 bestimmte Schrump fungsrate verschlechtert was bedeutet dass man insgesamt
182. ms ist eine Seiten fl che des durch die Nebenbedingungen definierten Polyeders Beweis a Ist lt 2 dann existiert ein 1 P mit 1 gt y also ist cla lt y nicht g ltig Ist y gt z so giltc x lt 2 lt y Vx P also ist x lt y g ltig b Nach a ist c x lt z g ltig bez glich P und nach Definition existiert ein x P z also ist F eine nichtleere Seitenfl che P Offenbar ist x z eine Stiitzhyperebene falls 0 c folgt aus b 7 9 Definition Sei ein Polyeder und die Zeilenindex menge von A F r F C P sei eq F i M Aiz Va F d h eq F genannt Gleichheitsmenge oder equality set von F ist die Menge der fiir alle x F bindenden Restriktionen F r I M sei fa I z EP Art br Wir nennen fa T die von I induzierte Seitenfl che 80 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Offenbar ist fa tats chlich eine Seitenfl che von P P A b denn setzen wir zer A Y 50 ist lt y g ltig bez glich P A und wie man leicht sieht gilt fall zeP dCr y Zur Veranschaulichung der oben definierten Abbildungen fa und eq betrachten wir Beispiel 7 6 F r das in 7 6 definierte Polyeder P A b gilt M 1 2 3 4 und fa 1 2 G UD 1 3 Wir zeigen nun dass man die Gleichheitsmenge einer Seitenfl che explizit be
183. n 1873 Es gilt genau eine der beiden folgenden Alternativen a mit Ax lt 0 b 3u gt 0 u 0 mitut A OF Beweis Setze in 4 5 B A wobei A die obige Matrix ist b 0 A 0 0 4 7 Satz Stiemke 1915 Es gilt genau eine der folgenden Alternativen gt 0 mit Ax 0 b Ju mitut A gt OT 0 Beweis Setze in 4 5 B I b 0 A 1 a 0 Der Satz von Stiemke charakterisiert also die strikt positive L sbarkeit eines ho mogenen Gleichungssystems w hrend der Satz von Gordan die semipositive L sbar keit des homogenen Gleichungssytems u A 0 kennzeichnet Eine Sammlung weiterer Alternativs tze kann man in O L Mangasarian Nonlinear Programming McGraw Hill New York 1969 80 QH 400 M 277 finden 4 3 Trennsatze So genannte Trenns tze spielen in der Konvexit tstheorie und in noch allge meinerer Form in der Funktionalanalysis eine wichtige Rolle Diese S tze sind 47 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 1 a vom folgenden Typ Seien 5 und zwei Mengen dann gibt es unter gewis sen Voraussetzungen eine Hyperebene H die S und T trennt Geometrisch hei t dies dass S auf der einen auf der anderen Seite von liegt Genauer Sei a c x y c 0 eine Hyperebene dann sagen wir dass H zwei Men gen und Q trennt falls PU Q Z H und P C x z lt yhQZ aldxz gt Y gilt Wir sagen dass H die Mengen
184. n dass jeder Vektor der 1 3 1 5 erf llt einen Zielfunktionswert hat der mindestens 7 ist Der Wert 7 ist somit eine untere Schranke fiir das Minimum in 1 3 Eine tolle Idee oder Das Prinzip ist damit dargestellt Wir skalieren die Ungleichungen unseres Sy stems und addieren sie um untere Schranken zu erhalten Da unsere Ungleichun gen alle in der Form gt geschrieben sind diirfen wir nur positiv skalieren denn zwei Ungleichungen a2 2 lt o und 6222 gt 6 kann man nicht addie ren Gibt jede beliebige Skalierung und Addition eine untere Schranke Machen wir noch zwei Versuche Wir addieren 1 und 2 und erhalten 421 322 gt 8 Das hilft uns nicht weiter denn die linke Seite der Ungleichung kann nicht zum Absch tzen der Zielfunktion benutzt werden Betrachten wir nun das 1 5 fache der Ungleichung 2 so ergibt sich 321 322 gt 7 5 Hieraus schlie en wir Ist 3x 3x2 gt 7 5 dann ist erst recht 32 gt 7 5 denn nach 5 gilt ja x2 gt 0 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Daraus k nnen wir eine Regel f r die Bestimmung unterer Schranken ableiten Haben wir eine neue Ungleichung als Summe von positiv skalierten Ausgangs ungleichungen erhalten und hat die neue Ungleichung die Eigenschaft dass je der ihrer Koeffizienten h chstens so gro ist wie der entsprechende Koeffizient der Zielfunktion so liefert die rechte Seite der neuen Ungleichung eine un
185. n Abschnitt 7 1 werden wir jedoch zeigen wie man Cha rakterisierungen bez glich einer Darstellung auf Charakterisierungen bez glich der anderen Darstellung transformieren kann so dass aus den hier vorgestellten Resultaten die Kennzeichnungen bez glich der Darstellung conv V cone E mit etwas technischem Aufwand folgen Wir wollen nochmals auf eine die Schreibtechnik vereinfachende Konvention hin weisen Wir betrachten Matrizen und endliche Mengen als im Wesentlichen ein und dieselben Objekte Ist z A eine m n Matrix so schreiben wir conv A und meinen damit die konvexe H lle der Spaltenvektoren von A Ist umgekehrt z B V C eine endliche Menge so fassen wir V auch als eine n V Matrix auf und schreiben Lee um die Matrix zu bezeichnen deren Zeilen die Vektoren aus V sind VT ist nat rlich nicht eindeutig definiert da wir keine Reihenfolge der Vektoren aus V angegeben haben Wir werden diese Schreibweise jedoch nur dann benutzen wenn es auf die Reihenfolge der Zeilen nicht ankommt 75 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 7 1 Die y Polare und g ltige Ungleichungen In Abschnitt 6 haben wir bereits einen Polarentyp die Kegelpolare zur Beweis vereinfachung eingef hrt Hier wollen wir eine weitere Polare betrachten die es uns erm glichen wird eine Charakterisierung bez glich P A b in eine Charak terisierung bez glich conv V cone zu bertragen 7 1 Definition Es seien 5
186. n also zeigen dass der Punkt x 2 4 minimal ist Ein Weg dies zu beweisen besteht darin untere Schranken f r das Minimum zu finden Wenn man sogar in der Lage ist eine untere Schranke zu bestimmen die mit dem Zielfunktionswert einer L sung des Ungleichungssystems berein 6 MARTIN GR TSCHEL SKRIPTUM ADM Il WS 2003 2004 stimmt ist man fertig denn der Zielfunktionswert irgendeiner L sung ist immer eine obere Schranke und wenn untere und obere Schranke gleich sind ist der optimale Wert gefunden Betrachten wir also unser lineares Program 1 3 Wir bemerken zun chst dass man alle Ungleichungen 1 5 skalieren kann d h wir k nnen z B die Ungleichung 1 221 9 gt 3 mit 2 multiplizieren und erhalten OU 471 222 gt 6 Die Menge der Punkte des R die 1 erf llt stimmt offenbar berein mit der Menge der Punkte die 1 erf llt Wir k nnen auch mit negativen Faktoren ska lieren aber dann dreht sich das Ungleichungszeichen um Erf llt ein Vektor zwei Ungleichungen so erf llt er auch die Summe der beiden Ungleichungen Das gilt nat rlich nur wenn die Ungleichungszeichen gleichge richtet sind Addieren wir z B zur Ungleichung 1 die Ungleichung 3 so er halten wir 321 5X2 gt Die linke Seite dieser Ungleichung ist natiirlich nicht rein zufallig gerade unse re Zielfunktion Folglich k nnen wir aus der einfachen berlegung die wir ge rade gemacht haben schlie e
187. n dieser Stelle noch einmal Folgendes fest Wenn wir von einer Matrix A sprechen ohne anzugeben welche Dimension sie hat und aus welchem Bereich sie ist dann nehmen wir implizit an dass A gilt Analog gilt immer x K wenn sich nicht aus dem Zusammenhang anderes ergibt 20 MARTIN GR TSCHEL SKRIPTUM ADM Il WS 2003 2004 1 3 3 Kombinationen von Vektoren H llen Unabh ngigkeit Ein Vektor x K hei t Linearkombination der Vektoren zx g K falls es einen Vektor A A Ax K gibt mit k t 1 Gilt zus tzlich A gt 0 konische Ale so hei t x affine Kombination ASV und Afi 1 konvexe der Vektoren x 2 Diese Kombinationen hei en echt falls weder 0 noch A f r ein j l k gilt F r eine nichtleere Teilmenge 5 hei t lin S lineare 5 konische 8 5 die affine H lle von S d h conv S konvexe die Menge aller Vektoren die als lineare konische affine oder konvexe Kombi nation von endlich vielen Vektoren aus 5 dargestellt werden k nnen Wir setzen au erdem lin cone 0 0 conv 0 Ist A eine m n Matrix so schreiben wir auch lin A cone A aff A conv A und meinen damit die lineare konische aff ne bzw konvexe H lle der Spalten vektoren 1 A 2 A n von A Eine Teilmenge S hei t linearer Raum S lin S Kegel falls S 5 affiner Raum S aff S konvexe Men
188. n wir 5 1 polyedrisch darstellen Wir f hren dazu eine neue Variable 2 ein und schreiben 5 1 in der Form max 2 OEO Daraus folgt dass jedes lineare Programm in ein LP umgeformt werden kann bei dem lediglich L sungsvektoren gesucht werden deren erste Komponente so gro wie m glich ist Schreiben wir 5 2 noch einmal um und bringen wir 2 auf die rechte Seite so kann 5 2 folgenderma en geschrieben werden Kid F r festes 2 K ist die L sungsmenge von 5 3 ein Polyeder im Wir setzen f r alle z K 5 4 fa EK KS r lt 7 Nunmehr k nnen wir 5 3 wie folgt darstellen 5 5 max z P 0 Wir suchen also ein z K das so gro wie m glich ist unter der Nebenbedingung dass das Polyeder 0 ist Ublicherweise nennt man die Aufgabe zu zeigen dass eine Menge nicht leer ist ein primales Problem Zu zeigen dass eine Menge leer ist ist ein duales Pro blem Diese beiden Aufgaben sind i a nicht von gleicher Schwierigkeit Be trachten wir z B ein Polyeder Q Legen wir einfach eine Abz hlung 1 2 23 der Elemente von Q fest und berpr fen wir ob x P ist f r i 1 2 so sind wir sicher dass dieses Verfahren nach endlich vielen Schrit ten abbricht falls 5 ist Jedoch kann dieses Verfahren niemals nach endlich vielen Schritten folgern dass leer ist Ein Ziel von Dualit tstheorien ist es gu te Kriterien f r die L sung der dualen Pr
189. n zwei weitere wichtige S tze zur Charakterisierung von Opti mall sungen linearer Programme formulieren und beweisen 5 15 Satz vom schwachen komplement ren Schlupf Es seien A B C D und a b c d dimensionsvertr glich und 5 12 5 13 das zugeh rige Paar dualer linearer Programme Die Vektoren bzw 9 seien zul ssig f r 5 12 bzw 5 13 dann sind die folgenden Aussagen quivalent a G ist optimal f r 5 12 und 2 ist optimal f r 5 13 b Il WA TC T u a AT 0 Sl c F r alle Komponenten der Duall sung gilt U gt 0 A z Bi F r alle Komponenten der Primall sung gilt tT gt 0 gt W Aj CO Cj 61 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 d F r alle Zeilenindizes i von A und gilt 27 BY lt gt T 0 F r alle Spaltenindizes j von A undC gilt W A 0 C j gt Zus 0 Beweis 77 016 nach 5 14 U 71 u a o Cr Dy 0 gt 07 uU a UTOT 71 lf U AT 0 0 C T U 0 lt gt b b 0 Es seien t c u A U C und s a BY Nach Voraussetzung gilt also t lt 0 und s gt 0 Aus gt 0 und gt 0 folgt daher t lt 0 und wu gt 0 mithin TT z 20 s lt 0 Es kann also 77 17 s 0 nur dann gelten wenn t 0 und u s 0 Dar
190. ndex Regel an gewendet wird Von Avis und Chv tal Notes on Bland s pivoting rule Mathematical Program ming Studies 8 1978 24 34 sind Untersuchungen ber die Praktikabilit t der Bland Regel gemacht worden Dabei hat sich gezeigt dass i a die Anzahl der Pi votoperationen bei Anwendung der Bland Regel wesentlich h her liegt als z B bei der Steilster Anstieg Regel 10 2 3 F r Computerimplementierungen scheint die Bland Regel selbst bei hochdegenerierten Problemen nicht gut geeignet zu sein 10 10 Worst Case Verhalten des Simplexverfahrens Zu fast allen bekannten Pivotauswahlregeln speziell zu allen die hier genannt wurden kennt man heute eine Klasse von Polyedern und Zielfunktionen so dass der Simplexalgorithmus bei Anwendung einer zugeh rigen Auswahlregel durch alle Ecken des Polyeders l uft Da die Anzahl der Ecken dieser Polyeder exponentiell mit der Anzahl der Variablen w chst sagt man dass das Simplexverfahren ein exponentielles worst case Verhalten besitzt 10 3 Die Behandlung oberer Schranken In linearen Programmen kommen h ufig Beschr nkungen der folgenden Form vor O lt x lt u Da diese strukturell sehr einfach sind kann man sie algorithmisch besser behan deln als allgemeine Ungleichungen Normalerweise fiihren wir Ungleichungen durch Einfiigung von Schlupfvariablen wie folgt in Gleichungen und Nichtnega tivit tsbedingungen ber cs T u gt 0 12 0 Ist jedoch der Wert von x
191. ne A x K dy gt Omitx Ay I A zeK 3yeR mit 7 0 lt 0 0 I Die letzte Menge ist die Projektion eines Polyeders im K auf den K also nach 6 1 bzw 6 2 ein Polyeder Offenbar besagt die obige Folgerung nichts anderes als Die lineare affine kon vexe oder konische H lle einer endlichen Teilmenge des K ist ein Polyeder F r die konische H lle hat dies WEYL 1935 gezeigt daher der Name f r Folgerung 6 3 6 4 Folgerung Die Summe P zweier Polyeder P ist ein Poly eder Beweis Es seien P A a P B b dann gilt P P P I yeRK Ar lt aBy lt b ze I3x ye mit Ar lt a By lt b z y z dz y mit A z y lt a B z x lt b z dz yeK mit D lt G z 0 A 70 B Also ist P die Projektion eines Polyeders des auf den und somit nach 6 1 ein Polyeder 0 mit Verbinden wir nun die Erkenntnis aus 6 3 dass conv A und cone B Polyeder sind mit 6 4 so erhalten wir 6 5 Folgerung Es seien A Km B Km dann gilt P conv A cone B ist ein Polyeder 0 Die obige Folgerung erscheint durch geschickte Vorbereitung v llig trivial sie ist Jedoch eine durchaus beachtenswerte Erkenntnis denn wir werden bald zeigen dass in der Tat alle Polyeder von der Form conv A cone B sind 67 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004
192. nfluss auf die Anzahl NNE nicht Null Elemente im Etafile Spei cherung der Spalten von E Beispiel 1 1 1 1 1 1 0 0 BE 1 1 0 0 1 0 0 1 besitzt folgende Produktform Darstellungen der Inversen a Pivotisieren auf der Hauptdiagonalen von links oben nach rechts unten b ergibt 1 1 1 1 1 1 1 1 i 1 1 1 1 1 1 1 3 1 1 1 1 2 1 1 2 i 1 1 1 1 3 1 U 1 Zu speichern sind 16 Werte Positionen Pivotisieren auf der Hauptdiagonalen von rechts unten nach links oben ergibt 1 1 1 1 1 1 1 0 1 01 1 1 1 0 1 01 1 Zu speichern sind 10 Werte Positionen Folgende Gegebenheiten sollten bei der Pivotauswahl ber cksichtigt wer den 166 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 10 32 Es ist g nstig in einer Spalte mit wenigen NNE zu pivotisieren da dann die Etavektoren d nn besetzt sind 10 33 Es ist g nstig in einer Zeile mit wenigen NNE zu pivotisieren da dann in anderen Zeilen der umgeformten Restmatrix potentiell weniger neue NNE ent stehen 10 34 Es ist aus Gr nden der Stabilit t nicht g nstig ein Pivotelement zu w hlen dessen Betrag sehr klein ist In den Inversionsroutinen die bei den ersten Implementationen des Simplexver fahrens benutzt wurden beachtete man nur die numerische Stabilit t nahm sich die Spalten der Basismatrix in der Reihenfolge in der sie abgespeichert waren multiplizierte s
193. ng zu erf llen 1 3 Falls 1 0 so befinden sich in der optimalen Basis keine k nstlichen Variablen h es gilt Dg Ag Da Dg regul r 138 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 ist gilt rang A m Falls NN 1 n 0 so sind alle Nichtbasis variablen k nstliche Variablen und wir haben m n Dann gilt x A b und x In diesem Falle k nnen wir das Verfahren beenden mit Antwort b STOP Der Vektor x ist die Optimall sung eines jeden LP ber P A Andernfalls ist m lt n und ein zul ssige Basis von A Wir setzen I M und schlie en das Verfahren mit Antwort ab STOP Die beiden abschlie enden Schritte sind f r den Fall vorgesehen dass sich noch k nstliche Variablen in der Basis befinden d h falls BN n 1 n m 49 Wir versuchen zun chst diese k nstlichen Variablen aus der Basis zu entfernen Da alle k nstlichen Variablen y 1 Haan Null sind ist die Basisl sung z zp ZN 28 050 degeneriert Sei B d A T_ ZB Yp De o piyi pa d h BON n 1 n m Ip p Wenn wir also k nstliche Va riablen aus der Basis entfernen wollen m ssen wir pr fen ob wir sie aus der Basis hinauspivotisieren k nnen d h ob in den Zeilen D i 1 t D d s Dz Dy von Null verschiedene Pivotelemente vorhanden sind Da wir ja nur Nichtbasisvariable gegen degenerierte B
194. ntlich ber Karmarkars Verfahren berichtet wie immer nat rlich unter dem Hauptaspekt dass dadurch Millionen von Dollars gespart werden k nnen Im nachfolgenden wollen wir die Grundidee des Algorithmus von Karmarkar dar stellen A priori ist mir nicht klar warum dieses Verfahren in der Praxis schnell sein soll Ich selbst verf ge ber keinerlei Rechenerfahrung mit diesem Algorith mus und ich wei zur Zeit auch nicht welche Modifikationen bei der Imple mentation von AT amp T Bell Laboratories gemacht wurden Jedoch sind mir einige 215 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 der Wissenschaftler die die Aussagen ber die Effizienz des Verfahrens gemacht haben bekannt und ich messe ihnen einige Bedeutung bei Dennoch bedarf die Methode noch weiterer berpr fungen bevor ein endg ltiges Urteil abgegeben werden kann Unabh ngig davon ist jedoch die geometrische Idee die hinter der Methode steckt sehr interessant 13 1 13 1 Reduktionen Wie der Simplexalgorithmus und die Ellipsoidmethode so ist auch der Karmarkar Algorithmus auf einen speziellen Problemtyp zugeschneidert und nicht auf allge meine lineare Programme anwendbar Wie blich m ssen wir daher zun chst zei gen dass ein allgemeines LP so transformiert werden kann dass es mit Karmar kars Algorithmus gel st werden kann Die Grundversion des Karmarkar Algorithmus und nur die wollen wir hier beschreiben ist ein Verfahren zur Entscheidung ob
195. o optimal Und au erdem ist y eine Opti mall sung von 1 4 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Die hier dargestellten Ideen bilden die Grundgedanken der Dualit tstheorie der linearen Programmierung und sie sind au erordentlich n tzlich bei der Entwick lung von Algorithmen und in Beweisen In der Tat haben wir bereits ein kleines Resultat erzielt das wir wie folgt formal zusammenfassen wollen 1 5 Satz Es seien R und A sei eine reelle m n Matrix Betrachten wir die Aufgaben min unter gt x gt 0 lies bestimme einen Vektor x der Ax gt b x gt 0 erf llt und dessen Wert cl x so klein wie m glich ist 0 max y b unter YA lt c y gt 0 lies bestimme einen Vektor y der ul A lt y gt 0 erf llt und dessen Wert y Tb so gro wie m glich ist dann gilt Folgendes Seien za R und yo R Punkte mit Axo gt b zo gt 0undyA lt c w gt 0 dann gilt Yo b lt fro Beweis Durch einfaches Einsetzen yob lt yo yo A o lt xo Satz 1 5 wird schwacher Dualitatssatz genannt F r Optimall sungen x und y von bzw D gilt nach 1 5 y Tb lt ed Wir werden sp ter zeigen dass in diesem Falle sogar immer y Tb cd gilt Dies ist allerdings nicht ganz so einfach zu beweisen wie der obige Satz 1 5 Unser Beispiel 1 1 stammt aus einer konomischen Anwendung Das lineare Programm 1 3 haben wir daraus
196. o wird bei jedem Auf oder Abrunden eine kleine nderung des vorliegenden Programms vorgenommen die sich positiv auf die Konvergenzeigenschaften des Simplexverfahrens auswirkt 9 4 Die Phase I Zur vollst ndigen Beschreibung der Grundversion der Simplexmethode fehlt noch eine Darstellung der Phase I von 9 15 Diese wollen wir nun nachholen Ist das Ungleichungssystem b x gt 0 gegeben so k nnen wir stets o B d A b gt 0 annehmen denn Multiplikation einer Gleichung mit 1 ver ndert das Polyeder nicht 9 24 Phase I des Simplexverfahrens Input A mal mitb gt 0 Output a P A 0 oder b P A x oder Ausgabe von I 1 m und B p pp mit folgenden Eigen schaften 1 Mit A Ar br gilt PLA HI 0 rang A I k k lt n und P A b 2 ist eine zul ssige Basis von A Wir formulieren zun chst ein lineares Hilfsprogramm Sei D A und betrachte das LP max 17 Ax 9 25 D z Y gt 0 137 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 wobei x 1 2n YT 1 Yntm gesetzt wird 9 25 erf llt die Zusatzvoraussetzungen 9 2 a b und mit B n 1 n m ist Dg eine zul ssige Basis mit zugeh riger Basisl sung x 0 y b Es gilt offenbar D z b Tz Y gt 0 2 7 20 daraus folgt 17 Ax 17b 17 d h 9 25 ist quivalent z
197. obleme zu finden Das Farkas Lemma liefert ein solches Gilt P x lt b so ist nach 4 3 a genau dann leer 54 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 wenn Q Pl 29 nicht leer ist Durch Anwendung des obigen Abz hl verfahrens auf P und Q gleichzeitig k nnen wir also nach endlich vielen Schritten entscheiden ob P leer ist oder nicht Das angegebene Abz hlverfahren sollte nicht als ein ernsthafter Vorschlag zur algorithmischen L sung des primalen und dualen Problems angesehen werden Wir werden sp ter sehen dass dies alles viel besser und schneller gemacht werden kann Diese Bemerkungen sollten lediglich das Problembewusstsein des Lesers sch rfen Zur ck zu 5 5 Es kann sein dass P gilt f r alle z Dann hat 5 1 keine Optimall sung Andernfalls k nnen wir versuchen den Maximalwert in 5 5 nach oben zu beschr nken Die bestm gliche Schranke ist nat rlich gegeben durch 5 6 inf z P 0 Nach 4 2 a ist 0 quivalent dazu dass das System yT A Ac yTb lt Az gt 0 gt 0 eine L sung hat Man berlegt sich leicht dass dieses System im Falle der L sbarkeit von 5 1 genau dann l sbar ist wenn yT A cT yb lt z y gt 0 l sbar ist Wenn wir das kleinste z in 5 6 finden wollen m ssen wir also einen m glichst kleinen Wert 20 bestimmen 5 6 ist somit quivalent zu min yb 5 7 yA y 20 Problem 5 7 ist offenbar wiede
198. olesche Phase abgebrochen b Die Numerische Phase In der Numerischen Phase werden die Pivotspalten in der Reihenfolge die in der Booleschen Phase vorbestimmt wurde aktualisiert und die Etavek toren gebildet Die Etavektoren von L und U werden dabei auf ge trennten Files dem L File und dem U File abgespeichert Die Etavektoren 171 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 zu L und zu U ergeben sich direkt aus den Ausgangsdaten und werden sofort extern gespeichert Bei der anschlie enden Zerlegung der Nukleus spalten h lt man die neu entstehenden Etaspalten des L Files zun chst im Hauptspeicher sofern genug Speicherplatz vorhanden ist Sei d diejenige Basisspalte aus der die Elementarmatrizen und Ur be rechnet werden sollen Ausgangspunkt ist die Spalte Lo EE die man sich in einem Arbeitsbereich erzeugt man beachte dass die Eta vektoren von L Lj nicht ben tigt werden wenn LI aus j Spalten be steht Diejenigen Komponenten von d die in Zeilen liegen in denen bereits pivo tisiert wurde liefern nun den Etavektor von U aus den anderen ergibt sich der Etavektor von LA Wegen der in der Booleschen Phase geleisteten Vorarbeiten sind hierbei nur sehr wenige Suchvorg nge erforderlich die Pivotzeile ist bereits bekannt diejenigen vorausgegangenen Pivots die f r die Berechnung von d re levant sind sind bekannt das L File muss also nicht durchsucht wer den sondern a
199. orlesung ist die Behandlung von Problemen der linea ren Programmierung Man kann die Verfahren zur L sung derartiger Probleme rein algebraisch darstellen als Manipulation von linearen Gleichungs und Un gleichungssystemen Die meisten Schritte dieser Algorithmen haben jedoch auch eine geometrische Bedeutung und wenn man erst einmal die geometrischen Prin zipien und Regeln verstanden hat die hinter diesen Schritten liegen ist es viel einfacher die Algorithmen und ihre Korrektheitsbeweise zu verstehen Wir wol len daher in dieser Vorlesung einen geometrischen Zugang w hlen und zun chst die L sungsmengen linearer Programme studieren Speziell wollen wir unser Au genmerk auf geometrische Sachverhalte und ihre algebraische Charakterisierung legen Dies wird uns helfen aus geometrischen Einsichten algebraische Verfahren abzuleiten 2 1 Definition a Eine Teilmenge G C Ki hei t Hyperebene falls es einen Vektor a Kk 0 unda K gibt mit G x K Der Vektor a hei t Normalenvektor zu G b Eine Teilmenge H hei t Halbraum falls es einen Vektor a 0 und a K gibt mit H x K a r lt a 23 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Wir nennen a den Normalenvektor zu Die Hyperebene x hei t die zum Halbraum geh rende Hyperebene oder die berandende Hyperebene und H hei t der zu G geh rende Halbraum c Eine Tei
200. r Ellipsoidmethode anhand eines Beispiels im geometrisch veranschaulichen Wir starten mit dem folgenden Polyeder P A b 207 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 R definiert durch 117 9 lt 2 321 lt 4 271 222 lt 3 Dieses Polyeder P ist in der Kugel Kreis um den Nullpunkt mit Radius 7 ent halten Diese Kugel soll unser Anfangsellipsoid Eo E Ao 0 sein Wir f hren mit dieser Initialisierung die Schritte 2 und 3 des Ellipsoidverfahrens 12 32 durch Wir rechnen nat rlich nicht mit der eigentlich erforderlichen Genauig keit sondern benutzen die vorhandene Maschinenpr zision In unserem Fall ist das Programm in PASCAL geschrieben und die Rechnungen werden in REAL Arithmetik durchgef hrt d h wir benutzen ein Mantisse von 3 byte und einen Exponenten von 1 byte zur Zahlendarstellung Das Verfahren f hrt insgesamt 7 Iterationen durch und endet mit einem zul ssigen Punkt In den nachfolgenden Abbildungen 12 3 12 9 sind im Ma stab 1 2 jeweils die Ellipsoide Er und Ex mit ihren Mittelpunkten a und k 0 6 aufgezeichnet Man sieht also wie sich die Form und Lage eines Ellipsoids in einem Iterationsschritt ndert Das Startellipsoid ist gegeben durch 49 0 a 0 0 SE Neben jeder Abbildung sind das neue Zentrum und die neue Matrix mit E Ak 1 angegeben Jede Abbildung enth lt die Begrenzungs geraden des Polytops P so dass man auf ein
201. r Motzkin Elimination implementiert Versuchen Sie einmal damit lineare Programme an st ndiger Gr enordnung zu l sen Sie werden sich wundern und wissen warum die Vorlesung weitergeht Wir beschlie en die Diskussion der Fourier Motzkin Elimination als Methode zur L sung linearer Programme durch numerische Berechnung eines Beispiels 3 11 Beispiel Wir beginnen mit folgendem System von 5 Ungleichungen mit 2 Variablen 1 T2 lt 0 2 11 T2 lt 1 3 T1 bei lt 3 4 21 lt 3 5 21 2r2 lt 9 Wir wollen die Zielfunktion x 312 ber der Menge der zul ssigen L sungen sowohl maximieren als auch minimie ren Dazu schreiben wir wie oben erl utert das folgende Ungleichungssystem 1 T2 lt 0 2 T T lt 1 3 Ti La lt 3 4 71 lt 3 5 21 222 lt 9 6 71 329 T3 lt 0 7 01 322 23 lt 0 40 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 auf und eliminieren die Variable x Das Ergebnis ist das folgende Ungleichungs system 1 1 lt 0 2 4 2 lt 2 2 5 3 2 lt 8 3 4 6 22 lt 6 3 5 6 2 lt 4 3 6 7 4r2 lt 3 7 4 8 3x2 z3 lt 3 7 5 9 T2 23 lt 9 Wir haben oben die Variable x weggelassen Die erste Spalte zeigt an woher die neue Ungleichung kommt So ist z B die 5 Ungleichung aus der Kombination der 3 und 4 Ungleichung des vorhergehenden Systems entstanden Ungleich
202. rgehenden besprochenen LU Zerlegung der Basismatrix Sie ist zur Inversion gro er d nn besetzter Matrizen entwickelt wor den es wird daher versucht durch eine sehr weitgehende Listenverarbeitung den Aufwand proportional zur Anzahl der von Null verschiedenen Elemente NNE in der Darstellung der Inversen zu halten a Die Boolesche Phase In der Booleschen Phase dieser Inversionsroutine werden die Pivotpositio nen so vorbestimmt dass die Anzahl der NNE in der Darstellung der Inver sen m glichst gering wird vgl Benichou u a Zun chst wird die Besetzungsstruktur der Ausgangsmatrix in die Form zwei er Listen bertragen die eine Liste enth lt spaltenweise die Zeilenindices 169 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 der NNE und in der anderen werden entsprechend zeilenweise die Spalten indices gespeichert Dar ber hinaus werden noch column und row counts Anzahl der NNE in einer Spalte bzw Zeile festgehalten Auf diese Weise wird ein rascher Zugriff auf Spalten oder Zeilen nach dem Kriterium der Besetzungsdichte erm glicht Die Bestimmung der Pivotpositionen erfolgt in drei Schritten wobei die beiden ersten Schritte der Identifizierung des Bumps in den oben bespro chenen Triangularisierungsverfahren entsprechen 1 W hle Spalten mit row count 1 dadurch sind die zugeh rigen Pivot zeilen ebenfalls eindeutig festgelegt Die Spalten und Zeilenindices der NNE dieser Spalten werden aus den beiden Lis
203. rum ein lineares Programm Wir nennen es das zum primalen Problem 5 1 duale lineare Programm Wir wollen nun zeigen dass 5 1 und 5 7 den gleichen Optimalwert haben 5 8 Dualit tssatz Es seien A b K undc dann haben die beiden linearen Programme max cr mins y P und D yA Ax lt b gt 0 optimale L sungen deren Zielfunktionswerte gleich sind genau dann wenn sie zul ssige L sungen besitzen 55 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 Beweis Wenn P und D optimale L sungen haben dann haben sie auch zul ssi ge Haben P und D zul ssige L sungen so gilt nach 1 5 dass der Wert von P nicht gr er als der von D ist P und D haben zul ssige L sungen mit gleichem Zielfunktionswert genau dann wenn das System e s 0 Aly IA 0 IV Il eine L sung hat Dies ist nach 4 1 quivalent dazu dass das System gt 0 uT A z 0T 2 u gt 0 z gt 0 vic lt 0 keine L sung hat Nehmen wir an dass 2 eine L sung u7 07 z hat Gibt es eine L sung von 2 mit z 0 so hat nach 4 1 das System Az lt b Aly y 20 keine L sung Das aber hei t dass P oder D keine zul ssige L sung haben Widerspruch Gibt es eine L sung von 2 mit z gt 0 so k nnen wir durch Ska lieren eine L sung finden mit z 1 Daraus folgt 0 gt ufb vte gt Av v ATu 0 Widerspruch Dies impliz
204. sch verwertbare Aussagen Wir gehen im weiteren davon aus dass ein LP in Standardform 9 1 gegeben ist und dass wir eine optimale Basis von A kennen 11 1 nderung der rechten Seite b Wir wollen uns zun chst berlegen welchen Einfluss eine nderung der rechten Seite auf die Optimall sung bzw den Wert der Optimall sung hat 11 1 nderung der Optimall sung Gegeben seien ein LP in Standardform 9 1 max c x Ax b x gt 0 und eine optimale Basis Az von A Die neue rechte Seite des LP sei b b A Wir berechnen die neue Basisl sung zur Basis Diese ergibt sich aus Tg Ag b A 0 Gilt gt 0 so ist die neue Basisl sung optimal da sich an den reduzierten Kosten chA An nichts ge ndert hat d h es gilt weiterhin lt 0 Gilt 2 0 so ist die neue Basisl sung primal nicht zul ssig Die Optimalit ts bedingung lt 0 ist jedoch weiterhin erf llt Das aber hei t nach 10 18 dass die Basis dual zul ssig ist Folglich haben wir mit Az eine zul ssige Basis f r die duale Simplexmethode 10 27 und wir k nnen direkt mit Phase II von 10 27 mit der Neuberechnung der Optimall sung beginnen 0 In diesem Zusammenhang sei auf eine wichtige Funktion die die nderung des Zielfunktionswertes eines LP bei Variationen der rechten Seite angibt hingewie sen Diese Funktion hat interessante Eigenschaften von denen wir nachfolgend einig
205. schieden 48 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Der folgende Satz den wir nicht mit den bisher entwickelten Methoden bewei sen k nnen soll als Beispiel f r die oben angesprochene allgemeine Art von Trenns tzen dienen 4 9 Trennsatz f r konvexe Mengen Es seien P und Q zwei nichtleere kon vexe Teilmengen des R Es gibt eine P und Q trennende Hyperebene Ee R dr y d h PUQ Z H P era Q x R c x gt al genau dann wenn der Durchschnitt des relativ Inneren von P mit dem relativ Inneren von Q leer ist Beweis Siehe Stoer amp Witzgall 1970 Seite 98 Satz 3 3 9 oder Leichtweiss Konvexe Mengen VEB Deutscher Verlag der Wissenschaften Berlin 1980 Seite 28 Satz 3 1 Der aufmerksame Leser wird bemerkt haben dass in 4 9 der Vektorraum R und nicht wie blich K benutzt wurde In der Tat ist Satz 4 9 f r konvexe Teilmengen von Q im folgenden Sinne falsch Es ist nicht immer m glich zwei konvexe Mengen in Q deren relativ innere Mengen kein gemeinsames Element besitzen durch eine Hyperebene c x y zu trennen so dass der Vektor c7 rational ist Man betrachte nur P Q lt 0 gt V2 Dieses Beispiel zeigt auch dass die bisher entwickelten konstruktiven Beweistechniken die ja f r Q und R gleicherma en arbeiten nicht m chtig genug sind um 4 9 abzuleiten Offenbar muss das Vollst ndigke
206. se I Verfahrens 9 24 ist aufgrund der oben gemachten Bemerkungen offensichtlich 9 24 zeigt auch dass man bei der L sung von li nearen Programmen im wesentlichen mit der Grundversion des Simplexalgorith mus zur L sung von Phase II auskommt Es ist lediglich zus tzlich etwas Buchhal tung Einf hrung k nstlicher Variablen Streichen von Spalten und Zeilen zus tz lich durchzuf hren Au erdem sind u U im Schritt 1 4 Pivotoperationen auf ne gativen Pivotelementen erforderlich Die Pivotformeln ndern sich dadurch aber nicht 9 27 Bemerkung Liegen Probleme mit nicht vorzeichenbeschr nkten Varia blen vor so wendet man die Transformationsregeln 2 4 aus Kapitel 2 an um das Problem in ein LP mit vorzeichenbeschr nkten Variablen zu transformieren Zur Auffindung einer Anfangsl sung gibt es noch andere Varianten z die M Methode jedoch wird in kommerziellen Codes meist die Zweiphasenmethode verwendet 9 28 Beispiel f r Phase I II Gegeben sei das folgende lineare Programm in 140 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Standardform z Tak 223 221 322 3 1 2 23 1 5x2 4 21 T2 gt 0 Durch Multiplikation der zweiten Zeile mit 1 machen wir die rechten Seiten nichtnegativ Es gilt dann 17 A 6 10 0 17 8 Wir stellen nun unser Simplextableau auf wobei wir k nstliche Variablen 51 52 s3 einf hren Wir f gen dem Simplextableau eine neue
207. seien die reduzierten Kosten Sei q N ein Index mit gt 0 dann gilt a Ist A lt 0 dann ist cl auf P A unbeschr nkt b Ist 0 dann setzen wir fbi N ming i 1 m Tis gt oh is 123 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 und w hlen einen Index re ie D ail ro TS Dann ist mit B 1 qs Pr 1 Pm eine zul ssige Basis mit Basisl sung x so dass cd gt x gilt c Gelten die Voraussetzungen von b und ist Ag nichtdegeneriert dann gilt gt cla Beweis a Nach 9 9 gilt y P A b gt Aeh 5 Anyn gt 0 und yy gt 0 F r beliebiges gt 0 ist daher der Vektor mit y Ae und y Ag b wegen e gt 0 und Ag b AA gt Ag b gt 0 P A b Dac wh ch Az b tyx Az b mit ber alle Schranken w chst ist auf P A unbeschr nkt b W hlen wir r und s wie im Satz angegeben so ist gt 0 Nach Satz 9 10 ist dann B p Pr 1 ls Pr 1 Pm eine Basis mit Basisl sung x wo bei amp Dia bp _ gt bg falls G gt 0 15 Wahl von Lp b e ie Qis ee falls 9 lt 0 ee a gt 0 qs Ong x 0 andernfalls Also ist x eine zul ssige Basisl sung Wir zeigen nun cl x gt x Zun chst gilt f r den in Satz 9 10 definierten Vektor n z T 8
208. so von einer Basis zu einer anderen Basis bergegangen indem eine Nichtbasisvariable x und eine Basisvariable x gesucht werden so dass 0 gilt Wenn diese Bedingung erf llt ist kann die Nichtbasisvariable x zu einer Basisvariablen gemacht wer den wobei xp nichtbasisch wird Alle brigen Basisvariablen bleiben erhalten 120 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 9 11 Beispiel Wir betrachten das Gleichungssystem Ay b gegeben durch 3 11 11 0 1 0 0 3 0 2 5 le Sop cca Bee elle 2 2 SC ge fOr is wh Se ee S 2 2 2 Es seien 1 2 3 4 N 5 6 7 dann ist Ag eine Basis von A und es gilt 1 0 2 1 1 2 4 zn 0 1 0 0 _ a 3 0 2 SE 0 0 1 1l 1 1 0 0 0 0 2 E Die zugeh rige Basisl sung ist 15 1 2 3 4 1 0 0 0 d h z 1 2 3 4 0 0 0 Das Element 23 2 ist von Null verschieden Wir k nnen es also als Pivotele ment 9 5 r 2 s 3 w hlen Daraus ergibt sich 1 7 3 4 5 6 2 1 2 0 0 1 2 2 1 _ 0 0 0 a a DER 4 0 0 2 0 4 0 1 0 4 0 2 und 1 2 0 0 5 2 0 5 2 2 a aE 07 e Ge NY tel ef a B 0 1 0 1 1 0f 7 1 0 03071 23 10 2 1 5 Die zugeh rige Basisl sung ist 12 3 1 3 5 22 0 0 0 daraus ergibt sich x 3 0 3 5 0 0 1 0 9 12 Bemerkung Die neue Basisinverse Az kann also wegen Az leicht aus Az berechnet werden Tats chlich ist jedoch dieses
209. ss b gilt Aus der Bedingung o erhalten wir daher die folgenden Schranken f r IA xl NE f r Tis gt 0 E i f r Gis lt 0 S Ki Ist 7 lt 0 so bewirkt die Verminderung q u um den Wert gt 0 dass b AG gilt Aus erhalten wir somit lt amp lt 0 lt i f r Tis gt 0 Dies begr ndet die Definition von Ag und Au Sei nun Amin minf Ao 1 Gilt Amin Aa so wird einfach der Wert einer Nichtbasisvariablen von der ge genw rtigen Schranke auf die entgegengesetzte Schranke umdefiniert Die Basis ndert sich dadurch nicht jedoch konnte aufgrund der Auswahl in PRICE eine Zielfunktionsverbesserung erreicht werden Gilt Amin Oder Amin SO f hren wir einen blichen Pivotschritt durch Bei Amin A wir die neue Nicht basisvariable 2 mit Null festgesetzt da die untere Schranke von x die st rkste Einschr nkung f r die Ver nderung von z4 darstellte Bei Amin wird analog Lp eine Nichtbasisvariable die den Wert ihrer oberen Schranke annimmt 0 Wir wollen nun anhand eines Beispiels die Ausf hrung von Algorithmus 10 16 in Tableautechnik demonstrieren Dabei werden wir keine neuen Tableau Update Formeln definieren sondern mit den bekannten Formeln f r die Pivotschritte rech nen Wir f hren lediglich eine zus tzliche Spalte ein in der jeweils aus bund co der 154 MARTIN GR TSCHEL SKRIPTU
210. st ist die neue Basis primal nicht zul ssig wir haben jedoch keine nderung an der Zielfunktion vorge nommen d h die reduzierten Kosten sind weiterhin nicht positiv Also ist die gegenw rtige neue Basis dual zul ssig Die neue Basis hat die Form Ap 0 AmB Vy Die Basisinverse l sst sich wie folgt schreiben Az 0 m gA 1 Die neue m 1 te Zeile von A lautet Am gA Ain Am 1 184 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Wir f hren nun einen dualen Pivotschritt auf der m 1 ten Zeile von A durch wobei wir versuchen die Variable 1 aus der Basis zu entfernen Ergibt der duale Beschr nktheitstest TER gt 0 10 27 1 3 dass das duale Problem unbeschr nkt ist so ist das neue primale Problem unzul ssig d h die Hyperebene A 1 bm 1 hat einen leeren Schnitt mit der Men ge der zul ssigen L sungen des alten Problems und wir k nnen den Algo rithmus beenden Andernfalls f hren wir Phase II des dualen Simplexalgorithmus 10 27 aus Endet der Algorithmus mit einer primal und dual zul ssigen L sung so gibt es eine optimale primale L sung x mit 0 Diese kann wie folgt konstruiert werden falls 2 nicht bereits Null ist Sei x die primale zul ssige Basisl sung nach Beendigung des dualen Ver fahrens und 7 die Anfangsbasisl sung bei Beginn des dualen Programms d h Tn 1 Di lt 0 Setzen wir In l a on Zant 7 In l so gilt A gt 0
211. t Da ein Kegel h chstens dim K linear unabh ngige Vek toren enth lt folgt d lt dim K Setzen wir y i 1 d so sind die Vektoren y Extremalen von K mit der gew nschten Eigenschaft 0 8 29 Folgerung Ist ein spitzes Polyeder und ist x P dann gibt es Ecken vo v v und Extremalen e 1 x 2 ea von P mitd lt dim P und nichtnegative Skalare Ao mit ES 1 so dass gilt k d mt De i 0 t k 1 Beweis Nach 8 12 ist hog P ein spitzer Kegel und die Dimension von hog P ist dim P 1 Nach 8 6 gilt x lt gt hog P Nach Satz 8 28 ist 7 konische Kombination von d 1 lt dim P 1 Extremalen von hog P O B d A k nnen wir annehmen dass gilt O O a wobei gt 0 2 0 k F r v tyi gilt dann k d k i 0 i 0 t k 1 Ferner sind nach 8 20 die Vektoren v Ecken von P und die Vektoren e Extre malen von P Also haben wir die gew nschte Kombination von x gefunden 0 Das folgende direkte von 8 29 wird in der Literatur h ufig Satz von Caratheodory genannt 8 30 Folgerung Ist P C R ein Polytop dann ist jedes Element von P Kon vexkombination von h chstens dim P 1 Ecken von P 109 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 110 Kapitel 9 Die Grundversion der Simplex Methode In Satz 7 8 haben wir gezeigt dass die Menge der Optimall sungen eines li nearen Programms eine Seitenfl che
212. t dann sollten Sie einmal in dieses Buch schauen e Schrijver Alexander Theory of Linear and Integer Programming Wiley 1986 Dieses Buch fasst den Kenntnisstand bis zum Jahre 1985 so gut wie vollst ndig zusammen ein herausragendes Buch das sich an den fortge schrittenen Leser richtet e Vanderbei Robert J Linear Programming Foundations and Extensions Kluwer Academic Publishers 1996 Eine sch ne Praxis bezogene Darstel lung von Simplex und Innere Punkte Methoden Source Codes zu den im Buch pr sentierten Verfahren sind online verf gbar siehe http www princeton edu rvdb LPbook MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 e Wright Stephen J Primal Dual Interior Point Methods SIAM Publicati ons 1997 Innere Punkte Methoden sind erst Mitte der 80er Jahre entdeckt und popul r geworden Wrights Buch behandelt die wichtigsten Verfah rensklassen dieses Ansatzes Polyedertheorie ist ein wichtiger Aspekt der Vorlesung Sehr gute B cher hierzu sind e Gr nbaum Branko Convex Polytopes Springer Verlag Second Edition 2003 e Ziegler G nter M Lectures on Polytopes Springer Verlag Revised Editi on 1998 Ein Artikel der die enormen Fortschritte bei der praktischen L sung linearer Pro gramme seit Anfang der 90er Jahre beschreibt ist e Robert E Bixby Solving Real World Linear Programs A Decade and More of Progress Operations Research 50 2002 3 15 Fortschritte in den letzten Jahren im Berei
213. t a 5 12 Ca Dy 1 gt 0 duale lineare Programm ist min ufa vTb gt e 5 13 u B v D d u gt 0 Das zum linearen Programm 5 13 duale Programm ist 5 12 Beweis Wir benutzen die Transformationsregeln 2 4 und schreiben 5 12 in der Form max crtdn lt Dy lt b Dy lt b Ix Oy lt 0 Das hierzu duale Progamm ist nach Definition 59 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 min ufa v b vib u B uD wuD Sg U U1 V2 W gt 0 Setzen wir v v v2 und lassen wir w weg so erhalten wir 5 13 Analog folgt dass 5 12 dual zu 5 13 ist Von nun k nnen wir also sagen dass das duale Programm zum dualen Pro gramm das primale ist bzw von einem Paar dualer Programme sprechen Wir wollen nun zur bersicht und als Nachschlagewerk in Tabelle 5 1 eine Reihe von Paaren dualer Programme auflisten Die Korrektheit der Aussagen ergibt sich di rekt aus 5 11 primales LP duales LP max cr Ax lt b gt 0 min YA gt c y gt 0 min cr Ax gt b x gt 0 max YA lt c y20 max cr Ar b x gt 0 min y b yTA gt ct min ce Ax b z gt 0 max 010 lt ch max Ax lt b min y b YA c y gt 0 min cr Ax gt b max ab YA c y gt 0 Tabelle 5 1 Aus den obigen primal dual Relationen kann man die folgenden Transformations regeln in Tabelle 5 2 ableiten
214. ten entfernt und die row und column counts angepasst Dadurch entstehen m glicherweise wieder Zeilen mit row count 1 die anschlie end ausgew hlt werden 2 Entsprechend wie im Schritt 1 werden dann Spalten mit column count 1 ausgew hlt Pivotspalten und zeilen aus den Indices Listen gestri chen und row sowie column counts angepasst Das Ergebnis der beiden ersten Schritte ist die Umordnung von Spal ten der Ausgangsmatrix so dass die vorbestimmten Pivotelemente auf der Hauptdiagonale liegen Durch symmetrisches Vertauschen der Zei len und Spalten gem der vorgesehenen Pivotfolge erh lt man eine Matrix B der folgenden Gestalt Der Nukleus N entspricht dem Bump beim Verfahren Hellerman und Rarick und in der Tat k nnte dies Verfahren auch zur Zerlegung des Nukleus benutzt werden 170 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 3 Stattdessen beruht der Schritt 3 der Reinversionsroutine von MPS 370 auf einer LU Zerlegung des Nukleus in der Booleschen Matrix wobei die folgenden einfachen Auswahlregeln angewandt werden wahle unter den Spalten mit minimalem column count eine solche als Pivotspalte die ein NNE in einer Zeile mit m glichst kleinem row count besitzt w hle als Pivotzeile eine Zeile mit minimalem row count unter den Zeilen mit NNE in der Pivotspalte Ist eine Pivotposition bestimmt worden so werden die beiden Indices Listen aktualisiert die Anpassung der
215. tens tze verwandeln kann die LP L ser akzeptieren Eine kommentierte bersicht hierzu ist zu finden unter e http www unix mcs anl gov otc Guide faq linear programming faq htm1 02 Eine weitere Liste findet man unter index html Die Zeitschrift OR MS Today ver ffentlicht regelm ig bersichten ber kom merzielle und frei verf gbare Software zur L sung linearer Programme Die letzte bersicht datiert aus dem Jahre 2001 e http lionhrtpub com orms surveys LP LP survey html In dieser Vorlesung haben wir Zugang zu dem kommerziellen Code CPLEX der Firma ILOG Nach Ansicht vieler ist dies derzeit der weltweit beste Code zur L sung linearer und ganzzahliger Programme Ihnen steht allerdings nicht die allerneueste Version zur Verf gung Vom Konrad Zuse Zentrum ZIB wird ein f r akademische Zwecke kostenlos verf gbarer Code namens SoPlex zur L sung von LPs angeboten siehe e http www zib de Optimization Software Soplex Dieses Programm stammt aus der Dissertation von Roland Wunderling aus dem Jahre 1997 an der TU Berlin und wird am ZIB weiterentwickelt Als Modellierungssprache z zur Erzeugung von Daten im lp oder mps Format die von den meisten LP L sern gelesen werden k nnen wird in der Vorlesung Zimpl angeboten die von Thorsten Koch ZIB entwickelt und gepflegt wird sie he iii MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 e http www zib de koch zimpl Zum Schluss noch ein Hinweis
216. tere Schranke f r den Minimalwert von 1 3 Diese Erkenntnis liefert uns ein neues mathematisches Problem Wir suchen nicht negative Multiplikatoren Skalierungsfaktoren der Ungleichungen 1 2 3 mit gewissen Eigenschaften Multiplizieren wir 1 mit y1 2 mit ya und 3 mit y3 so darf die Summe 2y 2y nicht den Wert des ersten Koeffizienten der Zielfunktion also 3 berschreiten Analog darf die Summe y 2y2 4y3 nicht den Wert 5 berschreiten Und die y sollen nicht negativ sein Ferner soll die rechte Seite der Summenungleichung so gro wie m glich werden Die rech te Seite kann man durch 3y 5y2 Au berechnen Daraus folgt dass wir die folgende Aufgabe l sen m ssen Bestimme max Au 5y2 4y3 unter den Nebenbedingungen 2 20 lt 3 1 4 yi Zus 4y3 lt 5 A Un Un 0 Auch 1 4 ist ein lineares Programm Aus unseren berlegungen folgt dass der Maximalwert von 1 4 h chstens so gro ist wie der Minimalwert von 1 3 da je de L sung von 1 4 eine untere Schranke f r 1 3 liefert Betrachten wir z B den Punkt y 01 15 03 0 6 3 Durch Einsetzen in die Ungleichungen von 1 4 sieht man dass y alle Unglei chungen erf llt Addieren wir also zum Z fachen der Ungleichung 2 das 3 fache der Ungleichung 3 so erhalten wir 321 5x2 gt 8 5 Damit wissen wir dass der Minimalwert von 1 3 mindestens 8 5 ist Der Punkt x liefert gerade diesen Wert er ist als
217. terminologie der linearen Programmierung Eine erste begriffliche Br cke zur Polyedertheorie schl gt der n chste Satz 9 5 Satz Seien P A b Kn ein Polyeder mit rang A m lt n und x Dann sind quivalent 1 x ist eine Ecke von 2 x ist eine zul ssige Basisl sung d h es gibt eine Basis von A mit der Eigenschaft Az b gt 0 und zy 0 113 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Beweis 1 gt 2 Sei I supp z Ist x eine Ecke von P A b so sind die Spaltenvektoren A 7 J nach 8 10 linear unabh ngig Wegen rang A m gibt es eine Menge J 1 n J J m I so dass die Spalten A j IU J linear unabh ngig sind Folglich ist Ag mit B I U J eine Basis von A Nehmen wir B d A an dass aus den ersten m Spalten von A besteht also A Ag An mit N m 1 n gilt dann erhalten wir aus x 15 11 25 0 folgendes AS hc Az An 72 I Az An 2 gt 0 gilt ist x eine Basisl sung 2 1 folgt direkt aus 8 10 0 Damit sehen wir dass Ecken von zul sssigen Basisl sungen von Ax b x gt 0 entsprechen Also gibt es zu jeder Ecke eine zul ssige Basis von A Sind zwei Ecken verschieden so sind nat rlich die zugeh rigen Basen verschieden Dies gilt aber nicht umgekehrt eindeutig SEL GE nichteindeutig Ecke gt zul ssige Basisl sung gt
218. tive Komponente hat das hei t d gt 0 ist quivalent zur Konsistenz von Ar lt b Aus Satz 3 3 folgt au erdem Folgendes Es existiert eine Matrix U Kim m mit gt 0 und dD UA 5 d 36 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Erneute Anwendung von 3 3 liefert die Existenz einer Matrix Uz 2 mit Us gt 0 und UD da Uad Setzen wir die Schlussweise fort so erhalten wir eine Matrix U Kr 1 mit Un gt 0 und 0 Dn Da Da dn Undn 1 F r die Matrix U U U Km gilt dann U gt 0 0 UA dp Ub Daraus folgt dass jede Zeile von 0 D eine konische Kombination von Zeilen von A ist Wir haben uns oben berlegt dass lt b genau dann nicht konsistent ist wenn D lt dn nicht konsistent ist Dies ist genau dann der Fall wenn es eine Kom ponente von d gibt die negativ ist anders ausgedr ckt wenn es einen Vektor u eine Zeile der Matrix U gibt mit 07 u A und ufb lt 0 Fassen wir diese Beobachtung zusammen 3 5 Folgerung Es seien A K undb Km dann gilt Das Ungleichungs system lt b hat genau dann keine L sung wenn es einen Vektor u u gt 0 gibt mit u A 07 lt 0 Diese einfache Konsequenz aus unserem Eliminationsverfahren 3 1 ist eines der n tzlichsten Resultate der Polyedertheorie Erg nzende Abschweifung Das Fourier Motzkin Eliminationsverfahren ist ein Spezialfall eines
219. tralblatts f r Mathematik auf und starte eine Suche nach B chern die die W rter linear und programming im Titel enthalten Man erh lt derzeit beinahe 200 Referenzen ber 30 B cher enthalten die beiden W rter lineare Optimierung und fast genau so viele die W rter lineare Programmierung in ihrem Titel Eine Google Suche nach linear programming liefert derzeit fast 240 000 Ergeb nisse Der bei meiner Suche am h chsten bewertete Eintrag war Linear Pro gramming Frequently Asked Questions Diese Webseite gepflegt von Bob Fou rer hat die URL http www unix mcs anl gov otc Guide faq linear programming faqg html und ist eine wirklich gute Quelle mit vielf ltigen und ausgezeichneten Informationen zur linearen Optimierung Unter der Rubrik Textbooks ist hier eine Reihe guter B cher zum Thema zusammen gestellt worden Ich empfehle aus dieser Auswahl e Dantzig George B Linear Programming and Extensions Princeton Uni versity Press 1963 Dies ist der Klassiker des Gebiets auch heute noch eine interessante Quelle und 1998 im Paperback Format erneut erschienen e Chv tal Vasek Linear Programming Freeman 1983 Dies ist ein ausge zeichnetes Einf hrungsbuch das sich insbesondere an Leser mit geringer mathematischer Vorbildung richtet e Padberg Manfred Linear Optimization and Extensions Springer 2001 Wenn sie wissen m chten was die Berliner Luftbr cke mit linearer Op timierung zu tun ha
220. tt einer Kugel K mit einem aff nen Raum Q N Dieses Problem ist ohne Einschaltung eines Algorithmus durch eine explizite Formel l sbar Durch die Optimall sung von 13 13 werden die gesuchte Richtung und die Schrittl nge explizit geliefert 221 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Eine Modifikation ist jedoch noch n tig Das Optimum ber NENK ist i a ir rational und muss gerundet werden Dadurch ist es m glich dass y nicht mehr im relativen Inneren von P bzw der n chste gerundete Iterationspunkt zb nicht mehr im relativ Inneren von P liegt Statt K w hlt man daher eine kleinere Kugel K mit dem gleichen Zentrum so dass auch nach Rundung und R cktrans formation garantiert ist dass der n chste Iterationspunkt ein relativ innerer Punkt ist Analytische Beschreibung eines Iterationsschrittes Die oben gegebene anschauliche Darstellung wollen wir nun explizit vorf hren Wir starten also mit Problem 13 11 Wir setzen wie beim Simplexverfahren voraus dass A vollen Zeilenrang hat Au erdem kennen wir mit x einen rela tiv inneren Punkt von Ist D diag x die n n Diagonalmatrix die die Komponenten 2 2 von 2 auf der Hauptdiagonalen enth lt so ist durch 13 14 T x D S See Sp i 17 D ig eine projektive Transformation definiert T x ist nat rlich nur dann endlich wenn H y R 17D y 0 gilt Wir werden beim Rechnen mit T diese Einschr nkun
221. tworten wollen wir ein Beispiel ausf hrlich besprechen um zu zeigen wie Optimierungsprobleme entstehen und wie man sie mathematisch behandeln kann Wir beginnen mit einem nat rlich f r Vorlesungszwecke aufbe reiteten Beispiel aus der Olindustrie 1 1 Beispiel lraffinierung In lraffinerien wird angeliefertes Roh l durch 1 MARTIN GR TSCHEL SKRIPTUM ADM WS 2003 2004 Anwendung von chemischen und oder physikalischen Verfahren in gewisse ge w nschte Komponenten zerlegt Die Ausbeute an verschiedenen Komponenten h ngt von dem eingesetzten Verfahren Crackprozess ab Wir nehmen an dass eine Raffinerie aus Roh l drei Komponenten schweres l S mittelschweres l M leichtes l L herstellen will Sie hat zwei Crackverfahren zur Verf gung die die folgende Ausbeute liefern und die die angegebenen Kosten Energie Maschi nenabschreibung Arbeit verursachen Zur Verk rzung der Schreibweise k rzen wir das Wort Mengeneinheit durch ME und das Wort Geldeinheit durch GE ab 10 Roh l ergeben in Crackprozess 1 2ME 5 2ME M Kosten 3GE 1 L Crackproze 2 1ME 55 2ME M Kosten 5 GE 4ME L Aufgrund von Lieferverpflichtungen muss die Raffinerie folgende Mindestpro duktion herstellen 3ME 5 ME 4ME L Diese Mengen sollen so kosteng nstig wie m glich produziert werden Wir wollen nun die obige Aufgabe 1 1 mathematisch formulieren Unser Ergeb nis wird eine mathematische Aufgab
222. tz 5 16 kann wie folgt formuliert werden Es gibt Optimall sungen bei denen Schl pfe komplement r auftreten bzw bei denen die duale Nichtne gativit tsbedingung genau dann locker ist wenn die komplement re primale Un gleichung straff ist 64 Kapitel 6 Grundlagen der Polyedertheorie Wir wollen nun die Polyedertheorie weiter ausbauen weitere Darstellungen von Polyedern angeben und neue Operationen mit Polyedern einf hren Wir werden dabei meistens von der geometrischen Anschauung ausgehen und die Begriffe von dieser Sicht aus motivieren Wir werden jedoch unser besonderes Augenmerk auf die analytische Beschreibung der geometrischen Konzepte legen 6 1 Transformationen von Polyedern Wir haben bereits in Kapitel 3 Projektionen von Polyedern entlang eines Rich tungsvektors c untersucht und in Folgerung 3 9 festgestellt dass eine derartige Projektion auf ein Polyeder wieder ein Polyeder ist Wenn man mehrfach hinter einander projiziert bleibt diese Eigenschaft nat rlich erhalten Sind A b K und k r gt 0 mit k r n so nennt man die Menge Q fa K 3ye mit C P d H eine Projektion von P A b auf Hierbei ist A eine Matrix die durch Spaltenvertauschung aus A hervorgeht Offensichtlich folgt aus unseren Re sultaten aus Kapitel 3 6 1 Bemerkung Jede Projektion eines Polyeders P A b auf K k lt n ist ein Polyeder 65 MARTIN GR TSCHEL SKRIPTUM ADM W
223. tz zeigt wann man Ungleichungen nicht mehr weglassen kann ohne das Polyeder zu ndern 7 22 Satz P A b sei ein Polyeder Sei I C eq P und P Am r Dann gilt P P gt Jnichttriviale Seitenfl che F C miteq F I Ueq P Beweis Im Weiteren bezeichnen wir mit die equality set Abbildung bez g lich Es gilt offenbar F eq F lt Angenommen es gilt P und F sei eine beliebige nichttriviale Seitenfl che von und somit auch von P Da F eine nichttriviale Seitenfl che von ist gibt es M I eqp P mit i F Daraus folgt eq F Z I Ueq P Angenommen es gilt P Wegen P hei t dies es existiert ein Vektor v P und somit gibt es eine Indexmenge 0 K I mit der Eigenschaft Av lt bi Vi M K und A v gt b Vi K Nach Satz 7 14 hat P einen inneren Punkt sagen wir w d h es gilt Aj w b Vi eq P und Aw lt Yi eq P Wir betrachten nun einen Punkt y auf der Strecke zwischen v und w d h y 1 mit 0 lt A lt 1 Aufgrund der Voraussetzungen gilt b Vi eq P lt b Vie eq P UK Istz K so gilt lt b lt 1 lt bi lt gt v lt bi Aju gt da v lt 0 Setzen wir i Jie Kh bi Aj v Bas fiex n
224. tze Ars F ri 1 m i r f hre aus Qis 05043 F rj 1 n j 5 s f hre aus aa F rj 1 n m j s undi 1 m i r f hre aus Gis _ lei Qij 0150 3 Qij Qij Ts b Neuberechnung von b b b Ars F ri 1 1 r f hre aus et aea bi b Ars c Neuberechnung von und Setze f r j 1 n m j7 s _ br Co Co Cs TS Cox 7 i Z Cs TS TS all I gl d Setze A A b b c Z und gehe zu 1 1 9 16 Die Tableauform der Simplexmethode Zur Veranschaulichung der Sim plexmethode nicht zur Verwendung in kommerziellen Codes benutzt man manch mal ein Tableau Das Tableau entspricht dem Gleichungssystem ei E b 128 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 bzw bei gegebener Basis Az von A und geeigneter Permutation der Spalten dem System 9 17 Definition Ist max c x Ax b x gt 0 ein LP in Standardform und ist Ag eine zul ssige Basis von A so hei t die m 1 n 1 Matrix ee ch ch Az b SE ASA Az b ein Simplextableau zur Basis mit Zeilen 1 0 1 m und Spalten j 1 r 1 Da ein Simplextableau stets eine volle m m Einheitsmatrix enth lt ist eine sol che Darstellung f r den Rechner redundant Zum Kennenlernen der Simplexme thode und zur bung der Rechentechnik ist sie allerdings sehr n tzlich 9
225. u max 17b 17 Ar y b gt 0 bzw zu 17b min 17 9 26 b y2 0 9 26 bzw 9 25 besagen also dass die k nstlich eingef hrten Variablen m glichst klein gew hlt werden sollen 1 1 Wende die Grundversion 9 15 des Simplexverfahrens auf 9 25 an Die Matrix D hat vollen Zeilenrang und weniger Zeilen als Spalten B n 1 n m definiert eine zul ssige Basis zu der die Matrix A und die Vektoren b und trivial zu berechnen sind Wir k nnen also direkt mit diesen Daten mit Phase II beginnen Das LP 9 26 ist offenbar durch 176 0 176 nach oben beschr nkt also ist 9 25 durch 17 y nach oben beschr nkt Der Dualit tssatz impliziert dass 9 25 eine optimale L sung besitzt Somit endet das Simplexverfahren mit einer optimalen Basis Dg und zugeh riger Basisl sung 2 Ei Wir werden nun die optimale L sung bzw die optimale Basis analysieren um aus Eigenschaften der L sung bzw Basis die Schlussfolgerungen a b oder c ziehen zu k nnen 1 2 Falls 1 lt 17 so wird das Minimum in 9 26 nicht 0 ange nommen Hieraus folgt offenbar dass P A b 0 gilt und wir k nnen das Verfahren mit Antwort a beenden STOP Die folgenden Schritte be handeln den Fall 17 Az 17b D h es gilt 17 Ar 17b 17 17 bzw 17 y 0 Somit gilt y 0 und 2 ist zul ssig bzgl Ar b x gt 0 Wir m ssen nun noch evtl Zeilen von A streichen um die Rangbedingu
226. uf die ben tigten L kann direkt zugegriffen werden die Indices der NNE in der aktualisierten Spalte sind von vornherein bekannt dies erleichtert nicht nur die Abspeicherung der Etavektoren sondern auch das L schen des Arbeitsbereichs f r die nachfolgenden Operationen Ist ein vorbestimmtes Pivotelement dem Betrag nach zu klein bzw durch Differenzbildung tats chlich gleich Null so wird die betreffende Spalte zun chst zur ckgestellt bis alle anderen vorbestimmten Pivots durchgef hrt worden sind Die Verarbeitung dieser Spalten ist wesentlich aufwendiger da keine Informationen aus der Booleschen Phase verwendet werden k nnen Die Pivot Wahl in den zur ckgestellten Spalten sowie in denjenigen Spal ten f r die in der Booleschen Phase kein Pivotelement bestimmt wurde erfolgt nach dem Gesichtspunkt der numerischen Stabilit t man entschei det sich f r die Komponente mit dem gr ten Absolutbetrag in einer Zeile in der noch nicht pivotisiert worden ist Pivoting for Size 172 MARTIN GR TSCHEL SKRIPTUM ADM Il WS 2003 2004 10 6 Spezialliteratur zum Simplexalgorithmus Die folgende Liste ist eine unvollst ndige Sammlung einiger wichtiger Paper zu dem in den Kapiteln 9 und 10 behandelten Themen D Avis amp V Chv tal 1978 Notes on Bland s Pivoting Rule Mathematical Pro gramming Studies 8 1978 24 34 RH Bartels 1971 A Stabilization of the Simplex Method Numerische Mathe matik 16 1971 414 434 RH B
227. ul ssig Ist umgekehrt Az dual zul ssig so ist 7 Che aufgrund von Satz 8 9 eine Ecke von P 0 10 20 Bemerkung Ist Az eine Basis von A und sind x bzw u die zu Ag geh renden primalen bzw dualen aber nicht notwendigerweise zul ssigen Ba sisl sungen so gilt cx u b Beweis u b ch 0 charg CT 10 21 Folgerung Ist Az eine Basis von A so ist optimal genau dann wenn primal und dual zul ssig ist Beweis Dualit tssatz 10 22 Folgerung Ist eine optimale Basis f r das Programm dann ist Aal eine optimale L sung des zu P dualen Programms D Der Vektor 7 GA mit Az dual zul ssig hei t der Vektor der Schatten preise vgl konomische Interpretation der Dualit t und Schritt 1 in 10 1 Wir wollen nun die dem dualen Simplexverfahren zugrunde liegende Idee ent wickeln und bemerken dass im Prinzip das duale Simplexverfahren das primale Simplexverfahren angewendet auf das duale Problem ist Sei eine Basis von A so l sst sich 9 1 umformen in max ch Ag 10 23 Ary Ing 10 b gt 0 159 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 oder ch Az b rw 10 24 lt b TN gt 0 Das zu 10 24 duale Programm lautet bei Weglassung des konstanten Terms ch Az b der Zielfunktion min u b 10 25 Au u 0 IV IV Die Einf hrung von Schlupfvariablen yy und Variablenumbenennung
228. un gen der Form 0x2 023 lt a haben wir weggelassen Eine solche ist z die Ungleichung die aus der Kombination der 7 und 6 Ungleichung entsteht Die Elimination der Variablen x2 liefert nun analog Gay re CR E FE 2 4 3 oz 3 2 7 4 lt HU 8 3 5 r3 lt 27 8 4 6 oz 3 8 7 9 r lt 21 9 3 10 23 lt 17 9 4 11 lt 17 9 5 12 3 lt 15 9 6 13 23 lt 13 9 7 14 823 lt 39 Die gr te untere Schranke fiir x3 ist 1 Sie wird von der ersten Ungleichung geliefert Die kleinste obere Schranke hat den Wert 13 dieser folgt aus den Un gleichungen 13 und 14 Damit ist 13 der Maximalwert der Zielfunktion 1 ist der Minimalwert Setzen wir x3 13 in das vorhergehende Ungleichungssystem ein so ergibt sich der Wert x2 4 Durch Substitution dieser beiden Werte in das 41 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Ausgangssystem erhalten wir x 1 Der maximale Zielfunktionswert wird also im zul ssigen Punkt x 1 x2 4 angenommen 42 Kapitel 4 Das Farkas Lemma und seine Konsequenzen Wir werden zun chst Folgerung 3 5 auf verschiedene Weisen formulieren um sie f r den sp teren Gebrauch aufzubereiten Dann werden wir einige interes sante Folgerungen daraus ableiten 4 1 Verschiedene Versionen des Farkas Lemmas 4 1 allgemeines Farkas Lemma F r dimensionsvertr gliche Matrizen A B C D und Vektoren a b gilt Es existieren u v mit uwA tvut
229. und j lt Jo lt lt j gilt Bei dieser Verabredung ist dann die Matrix die aus A durch Streichen der Zeilen 2 2 I und der Spalten j j Z J entsteht Ist J C 1 m und 1 n oder sind J und J Zeilen bzw Splalten indexvektoren dann schreiben wir auch Ay statt Arn statt entsteht also aus A durch Streichen der Zeilen 7 7 I durch Streichen der Spalten j 7 J Sind A Be Km a so sind die Summe das Produkt aA das Matrixprodukt wie in der linearen Algebra blich definiert F r einige h ufig auftretende Matrizen haben wir spezielle Symbole reserviert Mit 0 bezeichnen wir die Nullmatrix alle Matrixelemente sind Null wobei sich die Dimension der Nullmatrix jeweils aus dem Zusammenhang ergibt Das Sym bol 0 kann also sowohl eine Zahl einen Vektor als auch eine Matrix bezeich nen Mit J bezeichnen wir die Einheitsmatrix Diese Matrix ist quadratisch die Hauptdiagonalelemente von sind Eins alle brigen Null Wollen wir die Di mension von J betonen so schreiben wir auch und meinen damit die n n Einheitsmatrix Diejenige m n Matrix bei der alle Elemente Eins sind bezeich nen wir mit E Wir schreiben auch Em n bzw En um die Dimension zu spezifizie ren E ist eine n Matrix Ist x ein n Vektor so bezeichnet diag x diejenige n n Matrix A mit x i 1 n und a 0 i Z j Wir halten a
230. und zwar fter als man denkt Gr nde hierf r liegen in der Regel bei fehlerhafter Dateneinga be falschem Zugriff auf Datenbanken oder irgendwelchen bertragungsfehlern Auch L sungsmengen die aufgrund der eigentlichen Daten nicht leer sein sollten k nnen auf diese Weise pl tzlich leer sein 5 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Sind a und b nichtnegativ so ist klar dass es eine Optimall sung gibt F hren wir unser Parallelverschiebungsexperiment mehrmals durch so werden wir feststel len dass wir immer eine Optimall sung finden k nnen die den Durchschnitt von zwei der f nf Geraden G1 bildet Man k nnte also vermuten dass dies immer so ist d h dass immer Optimall sungen gefunden werden k nnen die bei n Variablen den Durchschnitt von n Hyperebenen bilden Wir werden sp ter sehen dass dies bis auf Pathologien in der Tat der Fall ist und dass dies eine der fruchtbarsten Beobachtungen in Bezug auf die L sungstheorie von Problemen des Typs 1 1 ist Die L sungsmenge von 1 3 1 5 enth lt unendlich viele Punkte Unse re obige berlegung hat die Suche auf endlich viele Punkte reduziert und die se Punkte k nnen wir sogar effektiv angeben Wir schreiben die Ungleichungen 1 5 als Gleichungen und betrachten alle m glichen 10 Systeme von 2 Gleichungen in 2 Variablen dieses Systems Jedes dieser 10 Gleichungssyste me k nnen wir mit Hilfe der Gau Elimination l sen Z B
231. ung Ideal w re es nat rlich direkt das Optimum des transformierten Problems zu bestimmen Aber die lineare Zielfunktion des urspr nglichen Problems wird durch die pro jektive Transformation in eine nichtlineare Abbildung bergef hrt so dass dies nicht so einfach zu bewerkstelligen ist Dennoch kann man diese transformierte Zielfunktion auf nat rliche Weise linearisieren Mit x sei die neue linearisierte Zielfunktion bezeichnet Man hat nun ein neues Problem Es soll eine lineare Ziel funktion ber dem Durchschnitt eines Simplex mit einem affinen Raum optimiert werden wir erhalten mind x Dieses Problem ist offenbar wiederum vom Typ unseres Ausgangsproblems 13 11 Aber diese neue Aufgabe ist ja nur ein Hilfsproblem M glicherweise ist daher ei ne gute Approximation der Optimall sung von 13 12 ausreichend f r das was wir bezwecken Durch die L sung einer Vereinfachung dieses Problems 13 12 k nnten u U ein Richtungsvektor und eine Schrittl nge gefunden werden die von hinreichend guter Qualit t bez glich globaler Konvergenz des Verfahrens sind Die Vereinfachung die wir betrachten wollen geschieht dadurch dass die bei der Druchschnittsbildung beteiligte Menge durch die gr te Kugel sagen wir mit Zentrum 20 die im Simplex enthalten ist ersetzt wird Statt 13 12 wird also die Aufgabe mind x 13 13 169 nENK betrachtet Man optimiere eine lineare Zielfunktion ber dem Durchschni
232. vektor der L nge n den wir mit A bezeichnen d h 9 Qin Wir werden in dieser Vorlesung sehr h ufig Untermatrizen von Matrizen konstru ieren sie umsortieren und mit ihnen rechnen m ssen Um dies ohne Zweideutig keiten durchf hren zu k nnen f hren wir zus tzlich eine etwas exaktere als die oben eingef hrte Standardbezeichnungsweise ein Wir werden wann immer es aus technischen Gr nden notwendig erscheint die Zeilen und Spaltenindexmengen einer m n Matrix A nicht als Mengen son dern als Vektoren auffassen Wir sprechen dann vom vollen Zeilenindexvektor M 1 2 m vollen Spaltenindexvektor N 1 2 n von A Ein Zeilenindexvektor von A ist ein Vektor mit h chstens m Kompo nenten der aus M durch Weglassen einiger Komponenten von M und Permuta tion der brigen Komponenten entsteht Analog entsteht ein Spaltenindexvektor 18 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 durch Weglassen von Komponenten von N und Permutation der brigen Kompo nenten Ist also I i1 ein Zeilenindexvektor von A und J ji j2 jq ein Spaltenindexvektor von A so gilt immer is fe 1 m und i Zu f r 1 lt s lt t lt und analog gilt js jt 1 n und js A 3 f r 1 lt s lt t lt Wir setzen 5131 Qi jo sart 0513 Aipj Qipj2 a und nennen Ar Untermatrix von Ar ist also eine p g Matrix die aus A dadurch entsteht dass man d
233. viele Spalten von A sind zu generieren und f r jede Spalte ist An zu berechnen der bei kleineren Problemen durchaus einem mehrfachen Basisaustausch entspricht und sich daher nicht auszahlt Bei gro en Problemen ist i a der Basiswechsel rechenaufwendiger als die komplizierte Aus wahl der Pivotspalte Hier zahlt sich dann die sorgf ltige Auswahl der Pivotspalte bei der Gesamtrechenzeit aus Bei der Auswahl von Pivotzeilen gibt es nicht so viele interessante Regeln aber hier kann durch geschickte Wahl die Endlichkeit des Simplexverfahrens erzwun gen werden Im folgenden gehen wir davon aus dass der Spaltenindex s durch eine Spaltenaus wahlregel 10 2 bestimmt wurde und setzen R i 1 m 24 Wir treffen zun chst eine Definition 10 3 Definition Ein Vektor 11 z1 n K hei t lexikographisch positiv wir schreiben x gt 0 wenn die erste von Null verschiedene Komponente positiv ist d h ist i minsupp x dann ist x gt 0 Wir schreiben x gt y falls x y gt 0 gilt 146 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 10 4 Bemerkung gt definiert eine totale Ordnung im Wir schreiben x gt V x y und bezeichnen mit lex min S das lexikographische Minimum einer endlichen Menge 5 Ki 0 10 5 1 Lexikographische Zeilenauswahlregel W hler R so dass ABA lex min 43 A Gis gt 0 4 1 0 Mit Regel 10 5 wird jedes Simpl
234. von Problemen der Form 13 1 transformieren und wir k nnen sogar das Zentrum des Simplex x R 177 1 2 gt 0 als Startpunkt w hlen Im weiteren betrachten wir also das folgende 13 10 Problem Gegeben seien eine Matrix A Q und ein Vektor c e Es seien E x R 17r 1 Hyperebene EAR Simplex Q R Ax 0 linearer Raum Ferner wird vorausgesetzt dass der VektorT 1 in YAQ enthalten ist Gesucht ist ein Vektor x mit zeP 3nD dr lt 0 Problem 13 10 kann sicherlich dadurch gel st werden da eine Optimall sung des folgenden Programms bestimmt wird min cfg Az 0 min c x aa 1a a bzw zen Ri gt 0 Offenbar ist der optimale Zielfunktionswert 13 11 genau dann gr er als Null wenn 13 10 keine L sung hat Unser Ziel wird nun sein 13 11 statt 13 10 zu l sen wobei wir voraussetzen dass 11 f r 13 11 zul ssig ist Es erscheint nat rlich reichlich umst ndlich ein lineares Programm sagen wir der Form 13 3 durch Bin rsuche auf eine Folge von Zul ssigkeitsproblemen 13 10 zu reduzieren die dann wieder durch spezielle lineare Programme der Form 13 11 gel st werden Diesen Umweg kann man durch die sogenannte Sli ding Objective Function Technique begradigen Die dabei notwendigen zus tzli chen berlegungen tragen jedoch nicht zu einem besseren Verst ndnis der Grund version des Verfahrens bei um die es hier geht Zie
235. xakt einzuf hren Dies wird z B in der Vorlesung Komplexit ts theorie gemacht Hier wollen wir die wichtigsten Konzepte dieser Theorie infor mell f r den Spezialfall der linearen Programmierung einf hren Eine mathema tisch exakte Darstellung der Theorie findet man z B in dem Buch M R Garey amp D S Johnson Computers and Intractability A Guide to the Theory of NP Completeness Freeman San Francisco 1979 80 ST 230 G 229 Zun chst m ssen wir unser Konzept dass Zahlen aus dem K rper gew hlt wer den k nnen aufgeben Jede Zahl die wir in unserem Berechnungsmodell betrach ten muss endlich kodierbar sein Es gibt aber kein Kodierungsschema so dass z B alle reellen Zahlen durch endlich viele Symbole beschrieben werden k nn ten Wir beschr nken uns daher auf rationale Zahlen Haben wir eine Ungleichung axz lt a mita 0 a Q so k nnen wir auf einfache Weise das kleinste gemeinsame Vielfache p der Nenner der Komponenten von a und des Nenners von o bestim men Die Ungleichung pa lt pa hat offenbar die gleiche L sungsmenge wie lt a w hrend alle Koeffizien ten dieser Ungleichung ganzzahlig sind Der Fall rationaler Daten l sst sich also direkt auf den Fall ganzzahliger Daten reduzieren Es ist zwar h ufig einfacher un ter der Voraussetzung ganzzahliger Daten zu rechnen und fast alle Aufs tze zur Ellipsoidmethode machen diese Annahme wir wollen aber dennoch f r dieses Kap
236. ystem Da lt 1 11 lt 7 2 n lt 131 3 n lt 62 Are dr ee 5 54 lt 38 6 5a lt 85 Ganz offensichtlich k nnen einige der Koeffizienten gek rzt werden Wir sehen dass die Zeilen 1 6 7 obere und die Ungleichungen 2 3 4 5 unte re Schranken auf den f r x zul ssigen Wert liefern Wir sehen aber auch dass die Eliminationsmethode viele berfl ssige wir werden das sp ter redundante nennen Ungleichungen liefert Wir wollen nun das Ergebnis der Elimination der j ten Variablen analysieren Wir schauen zun chst einige Trivialf lle an Wenn alle Elemente der Spalte Null sind so ist A D und wir haben noch nichts erreicht Gilt P oder N sind also alle Elemente der Spalte A von Null verschieden und haben dasselbe Vorzeichen dann ist r 0 und somit D die leere Matrix mit 0 Zeilen und n Spalten P D d ist dann der gesamte Raum 3 2 Satz Sei b Jj ein Spaltenindex von A und seien D de die in 3 1 konstruierte Matrix bzw Vektor Es gilt a Die j te Spalte von D ist der Nullvektor b Jede Ungleichung D x lt di i 1 ist eine konische Kombination der Ungleichungen A zz by k 1 m d h es existiert ein Vektor u R u gt 0 mitu A D dj 33 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 Daraus folgt es existiert eine r m Matrix U U gt 0 mit UA D und Ub d
237. zw den Vorzeichenwechsel nicht explizit durch sondern beachten den Vorzeichenwechsel bzw die Transponierung implizit bei der Bestimmung der Pivotzeile bzw Pivotspalte Dann k nnten wir aber auch wieder das primale verk rzte Tableau verwenden und anhand dieses Tableaus sowohl den primalen als auch den dualen Simplexal gorithmus durchfiihren 10 29 Das Tucker Tableau F r die nachfolgende spezielle Form linearer Pro gramme erhalten wir primale und duale Optimall sungen direkt aus der Tableau rechnung Wir betrachten cl x min lt b D uTA gt c N gt 0 oder mit Schlupfvariablen max 20 max 20 dra 0 ul 20 0 Ar b u C ufA r ZU gt 0 x gt 0 oder in Tableauschreibweise 162 MARTIN GR TSCHEL SKRIPTUM ADM II WS 2003 2004 N Nichtbasisvariable des primalen Programms Basisvariable des dualen Programms B Basisvariable des primalen Programms Nichtbasisvariable des dualen Programms Ein solches Tucker Tableau hei t primal zul ssig wenn b gt 0 und dual zul ssig wenn lt 0 F hren wir den primalen oder dualen Simplexalgorithmus bis zum Optimaltableau durch so sind die jeweiligen Optimall sungen gegeben durch TB D 1 m optimale L sung des primalen Programms In i 0 L St ER optimale L sung des dualen Programms Hat man eine Optimall sung von einem LP in Standardform ausgehend berechnet so l sst sich die Optimall

ZIMPL User Guide

Contents

Download Pdf Manuals

Related Search

Related Contents