Vorlesung 04: Dualität & Zweiphasen

Grundlagen Operations Research

Zweiphasen

Kein einfacher Start

Vlćek u. a. (2023)

Kein zulässiger Startpunkt

Bisher lieferte $X_1 = X_2 = 0$ stets eine zulässige Startlösung. Bei $\ge$-Restriktionen gilt das nicht mehr:

$$\begin{aligned} \max \; & F = 2 X_1 + X_2 \\ & X_1 + X_2 \ge 8 \\ & 2 X_1 + X_2 \ge 10 \\ & X_1 + X_2 \le 10 \\ & X_1, X_2 \ge 0 \end{aligned}$$

Mit Schlupfvariablen:

$$\begin{aligned} X_1 + X_2 - Y_1 &= 8 \\ 2 X_1 + X_2 - Y_2 &= 10 \\ X_1 + X_2 + Y_3 &= 10 \end{aligned}$$

Für $X_1 = X_2 = 0$ folgt $Y_1 = -8$, $Y_2 = -10$: unzulässig.

Der zulässige Bereich

Der Ursprung (×) liegt außerhalb des zulässigen Bereichs.

Frage: Wo darf der Simplex dann starten?

Er braucht erst eine zulässige Basislösung. Genau die liefert Phase 1.

Künstliche Variablen

Wir fügen in die $\ge$-Zeilen künstliche Variablen $Z_1, Z_2 \ge 0$ ein:

$$\begin{aligned} X_1 + X_2 - Y_1 + Z_1 &= 8 \\ 2 X_1 + X_2 - Y_2 + Z_2 &= 10 \\ X_1 + X_2 + Y_3 &= 10 \end{aligned}$$

Jetzt ist $Z_1 = 8$, $Z_2 = 10$, $Y_3 = 10$ eine formal zulässige Startlösung.

Inhaltlich zulässig erst, wenn $Z_1 = Z_2 = 0$: die künstlichen Variablen müssen wieder aus der Basis.

Grundsätzliches Vorgehen

TippIdee der Zweiphasenmethode

1. Phase 1: künstliche Variablen eliminieren $\Rightarrow$ zulässige Lösung.
2. Phase 2: primaler Simplex $\Rightarrow$ optimale Lösung.

In Phase 1 minimieren wir die Summe der künstlichen Variablen:

$$\text{Minimiere } Z = \sum_i Z_i \quad\Longleftrightarrow\quad \text{Maximiere } Z = -\sum_i Z_i$$

Zielfunktion der ersten Phase

Wir drücken $Z$ durch die Nichtbasisvariablen aus:

$$Z = -\underbrace{(8 - X_1 - X_2 + Y_1)}_{Z_1} - \underbrace{(10 - 2X_1 - X_2 + Y_2)}_{Z_2}$$

$$Z = -18 + 3 X_1 + 2 X_2 - Y_1 - Y_2$$

Diese Hilfszielfunktion steuert Phase 1, bis $Z = 0$ erreicht ist.

Alternative: M-Methode

HinweisM-Methode

Statt einer eigenen Phase 1 bestraft die M-Methode die künstlichen Variablen direkt in der Originalzielfunktion: $\max F = 2X_1 + X_2 - M Z_1 - M Z_2$ mit sehr großem $M$.

Eine Phase statt zwei, aber numerisch heikler. Wir rechnen mit der Zweiphasenmethode.

Ablauf im Tableau

Phase 1 startet mit $Z_1, Z_2, Y_3$ in der Basis; die $F$-Zeile wird nur mitgeführt, die Pivotwahl trifft die $Z$-Zeile:

BV	$X_1$	$X_2$	$Y_1$	$Y_2$	$Y_3$	$Z_1$	$Z_2$	$b$
$Z_1$	1	1	−1	0	0	1	0	8
$Z_2$	2	1	0	−1	0	0	1	10
$Y_3$	1	1	0	0	1	0	0	10
$F$	−2	−1	0	0	0	0	0	0
$Z$	−3	−2	1	1	0	0	0	−18

$Z$-Zeile: $-3$ unter $X_1$ $\Rightarrow$ $X_1$ aufnehmen; minimaler Quotient $\min\{8/1,\, 10/2,\, 10/1\} = 5$ $\Rightarrow$ $Z_2$ verlässt die Basis.

Die Tableaufolge

Eine künstliche Variable, die die Basis verlässt, wird gesperrt und im Tableau mit einem Strich markiert:

BV	$X_1$	$X_2$	$Y_1$	$Y_2$	$Y_3$	$Z_1$	$Z_2$	$b$
$Z_1$	1	1	−1	0	0	1	0	8
$Z_2$	2	1	0	−1	0	0	1	10
$Y_3$	1	1	0	0	1	0	0	10
$F$	−2	−1	0	0	0	0	0	0
$Z$	−3	−2	1	1	0	0	0	−18

Start mit Pivot [2]: $X_1$ hinein, $Z_2$ hinaus.

BV	$X_1$	$X_2$	$Y_1$	$Y_2$	$Y_3$	$Z_1$	$Z_2$	$b$
$Z_1$	0	1/2	−1	1/2	0	1	–	3
$X_1$	1	1/2	0	−1/2	0	0	–	5
$Y_3$	0	1/2	0	1/2	1	0	–	5
$F$	0	0	0	−1	0	0	–	10
$Z$	0	−1/2	1	−1/2	0	0	–	−3

$Z$-Zeile: $-1/2$ unter $X_2$ und $Y_2$; Quotienten für $Y_2$: $\min\{3/\tfrac12,\, 5/\tfrac12\} = 6$ $\Rightarrow$ Pivot [1/2], $Z_1$ hinaus.

BV	$X_1$	$X_2$	$Y_1$	$Y_2$	$Y_3$	$Z_1$	$Z_2$	$b$
$Y_2$	0	1	−2	1	0	–	–	6
$X_1$	1	1	−1	0	0	–	–	8
$Y_3$	0	0	1	0	1	–	–	2
$F$	0	1	−2	0	0	–	–	16
$Z$	0	0	0	0	0	–	–	0

$Z = 0$: Phase 1 beendet! Jetzt wählt die $F$-Zeile: $-2$ unter $Y_1$, einziger positiver Quotient $2/1$ $\Rightarrow$ Pivot [1], $Y_3$ hinaus.

BV	$X_1$	$X_2$	$Y_1$	$Y_2$	$Y_3$	$Z_1$	$Z_2$	$b$
$Y_2$	0	1	0	1	2	–	–	10
$X_1$	1	1	0	0	1	–	–	10
$Y_1$	0	0	1	0	1	–	–	2
$F$	0	1	0	0	2	–	–	20

Alle $F$-Zeilen-Einträge sind $\ge 0$, also optimal: $X_1^* = 10$, $X_2^* = 0$, $F^* = 20$.

Grafische Kontrolle

Das Optimum liegt im Eckpunkt $(10, 0)$, auf der Restriktion $X_1 + X_2 \le 10$.

WichtigOptimale Lösung

$$X_1^* = 10, \quad X_2^* = 0, \quad F^* = 20$$

Dualität

Zwei Sichten, ein Problem

Zu jedem primalen Problem gehört ein duales Problem.

HinweisGrundregel

Ein primales Minimierungsproblem mit ausschließlich $\ge$-Relationen wird zu einem dualen Maximierungsproblem mit ausschließlich $\le$-Relationen.

Herleitung über die beste untere Schranke für den optimalen Zielwert des Minimierungsproblems.

Eine untere Schranke für $F^*$

Primales Problem

$$\begin{aligned} \min \; & F = 5 X_1 + 9 X_2 \\ & X_1 + X_2 \ge 20 \\ & X_1 + 3 X_2 \ge 30 \\ & X_1, X_2 \ge 0 \end{aligned}$$

Aus der zweiten Restriktion ($\times 3$):

$$3 X_1 + 9 X_2 \ge 90$$

Da $X_1 \ge 0$:

$$F = 5 X_1 + 9 X_2 \ge 3 X_1 + 9 X_2 \ge 90$$

$$\Rightarrow \underline{F} = 90$$

Frage: Geht es noch besser als 90?

TippGleich ausprobieren

Auf der nächsten Folie suchen Sie beides selbst: links einen Plan, der $F^*$ von oben begrenzt, rechts Gewichte für die Restriktionen, die $F^*$ von unten begrenzen. Wie klein bekommen Sie die Lücke?

Sie sind dran

Bessere Schranken

Primales Problem

$$\begin{aligned} \min \; & F = 5 X_1 + 9 X_2 \\ & X_1 + X_2 \ge 20 \\ & X_1 + 3 X_2 \ge 30 \\ & X_1, X_2 \ge 0 \end{aligned}$$

Erste Restriktion $\times 5$:

$$5 X_1 + 5 X_2 \ge 100 \;\Rightarrow\; \underline{F} = 100$$

$4 \times$ erste $+\; 1 \times$ zweite Restriktion:

$$5 X_1 + 7 X_2 \ge 110 \;\Rightarrow\; \underline{F} = 110$$

Frage: Welche Linearkombination liefert die schärfste Schranke?

Die beste Linearkombination

Faktoren $W_1, W_2 \ge 0$ für die beiden Restriktionen:

$$(W_1 + W_2) X_1 + (W_1 + 3 W_2) X_2 \ge 20 W_1 + 30 W_2$$

• Damit die rechte Seite eine untere Schranke für $F = 5X_1 + 9X_2$ bleibt, dürfen die Koeffizienten $F$ nicht überschreiten: $$W_1 + W_2 \le 5, \qquad W_1 + 3 W_2 \le 9$$
• Ein negatives $W_i$ würde die $\ge$-Relation umkehren, die Schranke ginge verloren $\Rightarrow W_1, W_2 \ge 0$.
• Die beste Schranke maximiert $20 W_1 + 30 W_2$.

Primales und duales Problem

HinweisPrimal

$$\begin{aligned} \min \; & 5 X_1 + 9 X_2 \\ & X_1 + X_2 \ge 20 \\ & X_1 + 3 X_2 \ge 30 \\ & X_1, X_2 \ge 0 \end{aligned}$$

TippDual

$$\begin{aligned} \max \; & 20 W_1 + 30 W_2 \\ & W_1 + W_2 \le 5 \\ & W_1 + 3 W_2 \le 9 \\ & W_1, W_2 \ge 0 \end{aligned}$$

Frage: Kommt Ihnen das duale Problem bekannt vor?

Ein alter Bekannter

Das duale Problem ist (bis auf die Variablennamen) genau das Frachtführer-Problem aus Vorlesung 1:

$$\max\; 20 X_1 + 30 X_2, \quad X_1 + X_2 \le 5, \quad X_1 + 3 X_2 \le 9$$

Dessen Optimum kennen Sie bereits aus Vorlesung 2: $F^* = 120$ bei $(3, 2)$.

WichtigStarke Dualität

$$\min F_{\text{primal}} = \max F_{\text{dual}} = 120$$ Die $W_i$ sind die Schattenpreise der primalen Restriktionen. Beide Sichten treffen sich im selben Optimum.

Dualisierungsregeln

Restriktionen unterschiedlichen Typs werden zunächst auf $\ge$ gebracht:

• $\le$-Restriktion $\Rightarrow$ mit $-1$ multiplizieren ($\ge$).
• $=$-Restriktion $\Rightarrow$ in zwei Ungleichungen ($\ge$ und $\le$) aufspalten.
• Die Dualvariable einer $=$-Restriktion wird dadurch unbeschränkt ($W_3 = W_3^{+} - W_3^{-}$).

So lässt sich jedes LOP dualisieren.

Gemischte Relationen

Ein Beispiel mit allen drei Relationstypen:

$$\begin{aligned} \min \; F = 5 X_1 &+ 2 X_2 - X_3 \\ 2 X_1 + 3 X_2 + X_3 &\ge 20 \\ 2 X_1 + 3 X_2 - X_3 &\le 30 \\ X_1 + 5 X_2 + 2 X_3 &= 40 \\ X_1, X_2, X_3 &\ge 0 \end{aligned}$$

Frage: Wie bringen wir alles auf $\ge$?

Transformation auf ≥

Die Regeln von eben, angewandt:

Restriktion	wird zu	Dualvariable
$2X_1 + 3X_2 + X_3 \ge 20$	(bleibt)	$W_1$
$2X_1 + 3X_2 - X_3 \le 30$	$-2X_1 - 3X_2 + X_3 \ge -30$	$W_2$
$X_1 + 5X_2 + 2X_3 = 40$	$X_1 + 5X_2 + 2X_3 \ge 40$	$W_3^{+}$
	$-X_1 - 5X_2 - 2X_3 \ge -40$	$W_3^{-}$

Die $=$-Restriktion liefert zwei Dualvariablen, zusammengefasst $W_3 = W_3^{+} - W_3^{-}$, im Vorzeichen unbeschränkt.

Das duale Problem

HinweisPrimal

$$\begin{aligned} \min \; 5 X_1 &+ 2 X_2 - X_3 \\ 2 X_1 + 3 X_2 + X_3 &\ge 20 \\ 2 X_1 + 3 X_2 - X_3 &\le 30 \\ X_1 + 5 X_2 + 2 X_3 &= 40 \end{aligned}$$

TippDual

$$\begin{aligned} \max \; 20 W_1 - 30 W_2 &+ 40 W_3 \\ 2 W_1 - 2 W_2 + W_3 &\le 5 \\ 3 W_1 - 3 W_2 + 5 W_3 &\le 2 \\ W_1 + W_2 + 2 W_3 &\le -1 \end{aligned}$$

$W_1, W_2 \ge 0$; $W_3$ unbeschränkt. Für die Rechnung nutzen wir $W_3 = W_3^{+} - W_3^{-}$ mit $W_3^{+}, W_3^{-} \ge 0$.

Startaufstellung

Mit Schlupfvariablen $Y_1, Y_2, Y_3$ wird die dritte Zeile zu $W_1 + W_2 + 2 W_3^{+} - 2 W_3^{-} + Y_3 = -1$.

Die Startlösung $Y_3 = -1$ ist unzulässig.

Frage: Welches Verfahren kennt genau diese Situation?

Der duale Simplex aus Vorlesung 3: Pivotzeile ist die unzulässige Zeile $Y_3$.

Ein Pivot genügt

BV	$W_1$	$W_2$	$W_3^{+}$	$W_3^{-}$	$Y_1$	$Y_2$	$Y_3$	$b$
$Y_1$	2	−2	1	−1	1	0	0	5
$Y_2$	3	−3	5	−5	0	1	0	2
$Y_3$	1	1	2	−2	0	0	1	−1
$F$	−20	30	−40	40	0	0	0	0

Einziger negativer Koeffizient der Zeile $Y_3$: $-2$ unter $W_3^{-}$ $\Rightarrow$ Pivot [−2].

BV	$W_1$	$W_2$	$W_3^{+}$	$W_3^{-}$	$Y_1$	$Y_2$	$Y_3$	$b$
$Y_1$	3/2	−5/2	0	0	1	0	−1/2	11/2
$Y_2$	1/2	−11/2	0	0	0	1	−5/2	9/2
$W_3^{-}$	−1/2	−1/2	−1	1	0	0	−1/2	1/2
$F$	0	50	0	0	0	0	20	−20

Alle $b_i \ge 0$ und alle $F$-Zeilen-Einträge $\ge 0$, also ist das Tableau bereits optimal: $F^* = -20$.

Warum die $F$-Zeile $X^*$ enthält

Für den Zielfunktionswert des dualen Problems gilt (Vorlesung 2):

$$F = \sum_i b_i\, \pi_i = 5\, \pi_1 + 2\, \pi_2 - 1\, \pi_3$$

Die primale Zielfunktion hat dieselben Koeffizienten:

$$\min\; F = 5 X_1 + 2 X_2 - X_3$$

Die rechten Seiten des dualen Problems sind die Zielfunktionskoeffizienten des primalen: $\pi_i$, der Wert unter $Y_i$, steht an der Stelle von $X_i$.

Primallösung ablesen

Die $F$-Zeile unter den Schlupfvariablen liefert die primale Lösung:

$$-\bar c_{Y_1} = X_1^* = 0, \qquad -\bar c_{Y_2} = X_2^* = 0, \qquad -\bar c_{Y_3} = X_3^* = 20$$

Kontrolle im primalen Problem: $F = 5 \cdot 0 + 2 \cdot 0 - 20 = -20$ ✓ und $X_1 + 5 X_2 + 2 X_3 = 40$ ✓.

WichtigZwei Probleme, eine Rechnung

Das duale Optimaltableau enthält die primale Lösung gleich mit. Sie lösen immer beide Probleme auf einmal.

Kontrolle mit Julia

Der Solver übernimmt Phase 1

HiGHS findet selbst eine zulässige Startlösung:

using JuMP, HiGHS

modell = Model(HiGHS.Optimizer)
set_silent(modell)

@variable(modell, X1 >= 0)
@variable(modell, X2 >= 0)
@objective(modell, Max, 2X1 + X2)
@constraint(modell, X1 + X2 >= 8)
@constraint(modell, 2X1 + X2 >= 10)
@constraint(modell, X1 + X2 <= 10)

optimize!(modell)
println("F* = ", objective_value(modell),
        " mit X1 = ", value(X1), ", X2 = ", value(X2))

F* = 20.0 mit X1 = 10.0, X2 = 0.0

Dualwerte direkt aus JuMP

Für das primale Minimierungsproblem liefert JuMP die Dualwerte der Restriktionen, genau die $W_i$:

modell = Model(HiGHS.Optimizer)
set_silent(modell)

@variable(modell, X1 >= 0)
@variable(modell, X2 >= 0)
@objective(modell, Min, 5X1 + 9X2)
@constraint(modell, r1, X1 + X2 >= 20)
@constraint(modell, r2, X1 + 3X2 >= 30)

optimize!(modell)
println("F* = ", objective_value(modell))
println("W1 = ", round(dual(r1), digits = 2),
        ", W2 = ", round(dual(r2), digits = 2))

F* = 120.0
W1 = 3.0, W2 = 2.0

Kontrolle des Beispiels

Auch das Beispiel mit gemischten Relationen bestätigt HiGHS:

modell = Model(HiGHS.Optimizer)
set_silent(modell)

@variable(modell, X[1:3] >= 0)
@objective(modell, Min, 5X[1] + 2X[2] - X[3])
@constraint(modell, 2X[1] + 3X[2] + X[3] >= 20)
@constraint(modell, 2X[1] + 3X[2] - X[3] <= 30)
@constraint(modell, X[1] + 5X[2] + 2X[3] == 40)

optimize!(modell)
println("F* = ", objective_value(modell),
        " mit X = ", round.(value.(X), digits = 2))

F* = -20.0 mit X = [0.0, 0.0, 20.0]

Zusammenfassung

Das Wichtigste auf einen Blick

• Fehlt eine zulässige Startlösung, schaffen künstliche Variablen eine. Die Zweiphasenmethode eliminiert sie in Phase 1.
• Zu jedem primalen Problem gehört ein duales; es entsteht aus der besten unteren Schranke.
• Starke Dualität: primales Minimum = duales Maximum.
• Das duale Optimaltableau liefert die primale Lösung gleich mit.

Literatur

Literaturverzeichnis

Domschke, Wolfgang, Andreas Drexl, Robert Klein, und Armin Scholl. 2015. Einführung in Operations Research. 9. Aufl. Springer Gabler. https://doi.org/10.1007/978-3-662-48216-2.

Vlćek, Tobias, Knut Haase, Matthes Koch, Lena Dolz, Anneke Weygandt, und Jan Pape. 2023. „Controlling Passenger Flows into Metro Systems to Mitigate Overcrowding During Large-Scale Events“. Working Paper.