6 Differenzialrechnung

Die Differenzialrechnung befasst sich mit der Änderung von Funktionen. Sie bildet einerseits die Grundlage für die mathematische Modellierung dynamischer Systeme mithilfe von Differenzialgleichungen, also der Beschreibung von Funktionen anhand ihrer Änderungsraten. Zum anderen bildet die Differenzialrechnung die Grundlage der Optimierung, also des Bestimmens von Extremstellen von Funktionen. In Kapitel 6.1 führen wir zunächst den Begriff der Ableitung und mit ihm verbundene elementare Rechenregeln ein. In Kapitel 6.2 widmen wir uns dann der Frage, wie man mithilfe von Ableitungen Extremstellen von Funktionen bestimmen kann.

6.1 Definitionen und Rechenregeln

Wir beginnen mit folgender Definition.

Definition 6.1 (Differenzierbarkeit und Ableitung) Es sei \(I \subseteq \mathbb{R}\) ein offenes Intervall und \(f : I \to \mathbb{R}\) eine univariate reellwertige Funktion. Die Funktion \(f\) heißt differenzierbar in \(a \in I\), wenn der Grenzwert \[\begin{equation} f'(a) := \lim_{h \to 0} \frac{f(a + h) - f(a)}{h} \end{equation}\] als reelle Zahl existiert. Dabei wird der Quotient nur für \(h \neq 0\) und \(a + h \in I\) betrachtet. Die Zahl \(f'(a)\) heißt Ableitung von \(f\) an der Stelle \(a\). Ist \(f\) in jedem \(x \in I\) differenzierbar, so heißt \(f\) differenzierbar auf \(I\). Die Funktion \[\begin{equation} f' : I \to \mathbb{R}, x \mapsto f'(x) \end{equation}\] heißt dann Ableitung von \(f\).

Für \(h>0\) heißt der Ausdruck \[\begin{equation} \frac{f(a+h)-f(a)}{h} \end{equation}\] Newtonscher Differenzquotient. Wie in Abbildung 6.1 dargestellt, misst der Newtonsche Differenzquotient die Änderung \(f(a+h)-f(a)\) von \(f\) auf der \(y\)-Achse pro Strecke \(h\) auf der \(x\)-Achse. Wenn also zum Beispiel \(f(a)\) und \(f(a+h)\) die Position eines Objektes zu einem Zeitpunkt \(a\) und zu einem späteren Zeitpunkt \(a+h\) repräsentieren, dann ist \(f(a+h)-f(a)\) die von diesem Objekt in der Zeit \(h\) zurückgelegte Strecke, also seine durchschnittliche Geschwindigkeit über den Zeitraum \(h\). Für \(h\to 0\) misst der Newtonsche Differenzquotient dann die instantane Änderungsrate von \(f\) in \(a\), also in diesem Beispiel die Geschwindigkeit des Objektes zu einem Zeitpunkt \(a\).

Abbildung 6.1: Elemente des Newtonschen Differenzquotienten.

Aus mathematischer Sicht ist es wichtig, bei der Definition der Ableitung zwischen den Symbolen \(f'(a)\) und \(f'\) zu unterscheiden. Wie üblich bezeichnet \(f'(a)\) den Wert einer Funktion, also eine Zahl. \(f'\) dagegen bezeichnet eine Funktion, nämlich die Funktion, deren Werte als \(f'(a)\) für alle \(a \in I\) bestimmt sind.

Die Definition des Grenzwerts einer Funktion (Definition 5.6) aus dem Kapitel Kapitel 5 gilt auch für den Differenzquotienten. Dabei nähert sich die Schrittweite \(h\) der Zahl \(0\), während die Ableitungsstelle \(a\) fest bleibt. Wie in Definition 6.1 sei \(f : I \to \mathbb{R}\) auf einem offenen Intervall \(I\) definiert und \(a \in I\). Für dieses feste \(a\) betrachten wir den Differenzquotienten als eigene Funktion \[\begin{equation} g : D_a \to \mathbb{R}, h \mapsto g(h) := \frac{f(a + h) - f(a)}{h}, \end{equation}\] mit der Definitionsmenge \[\begin{equation} D_a := \{h \in \mathbb{R} | h \ne 0,\ a + h \in I\}. \end{equation}\] Weil \(I\) offen ist und \(a \in I\) liegt, enthält \(D_a\) beliebig kleine positive und negative Schrittweiten. Somit ist \(0\) nach Definition 5.5 ein Häufungspunkt von \(D_a\), obwohl \(0\) selbst nicht zu \(D_a\) gehört.

Wir wenden die Grenzwertdefinition also auf die Funktion \(g\) mit der Argumentvariable \(h\), der Grenzwertstelle \(0\) und einem möglichen Grenzwert \(c \in \mathbb{R}\) an. Die Aussage \[\begin{equation} \lim_{h \to 0} g(h) = c \end{equation}\] bedeutet, dass es zu jedem \(\epsilon > 0\) ein \(\delta > 0\) gibt, sodass für alle \(h \in D_a\) gilt: \[\begin{equation} 0 < |h| < \delta \Longrightarrow \left|\frac{f(a + h) - f(a)}{h} - c\right| < \epsilon. \end{equation}\] Existiert dieser Grenzwert \(c\), so ist \(f\) nach Definition 6.1 in \(a\) differenzierbar und \(f'(a) = c\). Die Grenzwertstelle der Funktion \(g\) ist also \(0\), die Ableitungsstelle der Funktion \(f\) dagegen \(a\).

Beispiel 6.1 (Ableitung der Quadratfunktion) Wir betrachten die Quadratfunktion \[\begin{equation} f : \mathbb{R} \to \mathbb{R}, x \mapsto f(x) := x^2. \end{equation}\] Mithilfe von Definition 5.6 und Definition 6.1 zeigen wir, dass \(f\) auf \(\mathbb{R}\) differenzierbar ist und die Ableitung \[\begin{equation} f' : \mathbb{R} \to \mathbb{R}, x \mapsto f'(x) = 2x \end{equation}\] besitzt.

Sei dazu \(a \in \mathbb{R}\) beliebig und fest. Der Differenzquotient definiert die Funktion \[\begin{equation} g : \mathbb{R} \setminus \{0\} \to \mathbb{R}, h \mapsto g(h) := \frac{f(a + h) - f(a)}{h}. \end{equation}\] Für jedes \(h \ne 0\) gilt { \[\begin{equation} g(h) = \frac{(a + h)^2 - a^2}{h} = \frac{a^2 + 2ah + h^2 - a^2}{h} = \frac{2ah + h^2}{h} = 2a + h. \end{equation}\] } Wir weisen nun mit Definition 5.6 nach, dass \(\lim_{h \to 0} g(h) = 2a\) gilt. Sei \(\epsilon > 0\) beliebig. Wir wählen \(\delta := \epsilon\). Für alle \(h\) mit \(0 < |h| < \delta\) gilt dann \[\begin{equation} |g(h) - 2a| = |2a + h - 2a| = |h| < \epsilon. \end{equation}\] Damit ist die Grenzwertdefinition erfüllt. Nach Definition 6.1 ist \(f\) in \(a\) differenzierbar mit \[\begin{equation} f'(a) = \lim_{h \to 0} g(h) = 2a. \end{equation}\] Da \(a\) beliebig gewählt war, ist \(f\) auf ganz \(\mathbb{R}\) differenzierbar und es gilt \(f'(x) = 2x\).

Es existieren in der Literatur verschiedene, historisch gewachsene Notationen für Ableitungen, welche alle das identische Konzept der Ableitung repräsentieren.

Definition 6.2 (Notation für Ableitungen univariater reellwertiger Funktionen) Es sei \(f\) eine differenzierbare univariate reellwertige Funktion. Äquivalente Schreibweisen für die Ableitung von \(f\) und die Ableitung von \(f\) an einer Stelle \(x\) sind

die Lagrange-Notation \(f'\) und \(f'(x)\),
die Leibniz-Notation \(\frac{df}{dx}\) und \(\frac{df(x)}{dx}\),
die Newton-Notation \(\dot{f}\) und \(\dot{f}(x)\),
die Euler-Notation \(Df\) und \(Df(x)\).

Wir werden im Folgenden für univariate reellwertige Funktionen vor allem die Lagrange-Notation \(f'\) und \(f'(x)\) als Bezeichner wählen. In Berechnungen nutzen wir auch eine adaptierte Form der Leibniz-Notation und verstehen dort die Schreibweise \(\frac{d}{dx}f(x)\) als den Auftrag, die Ableitung von \(f\) zu berechnen. Die Newton-Notation wird vor allem eingesetzt, wenn das Funktionsargument die Zeit repräsentiert und das dann üblicherweise mit \(t\) für time bezeichnet wird. \(\dot{f}(t)\) bezeichnet dann entsprechend die Änderungsrate von \(f\) zum Zeitpunkt \(t\). Die Euler-Notation ist vor allem im Kontext multivariater reell- oder vektorwertiger Funktionen nützlich.

Wir setzen eine Reihe von Ableitungen elementarer Funktionen als bekannt voraus. Diese sind in Tabelle 6.1 zusammengestellt. Für Beweise verweisen wir auf die weiterführende Literatur.

Theorem 6.1 (Ableitungen elementarer Funktionen) Für \(k \in \mathbb{N}_0\) und reelle Koeffizienten \(a_0,\ldots,a_k,a,b\) gelten die folgenden Ableitungen. Die Funktionen sind auf \(\mathbb{R}\) definiert, die Logarithmusfunktion auf \(]0,\infty[\). Für \(k = 0\) wird die leere Summe in der Ableitung der Polynomfunktion als \(0\) verstanden.

Tabelle 6.1: Ableitungen elementarer Funktionen.

Name	Definition	Ableitung
Polynomfunktion	\(f(x) := \sum_{i = 0}^k a_i x^i\)	\(f'(x) = \sum_{i = 1}^k i a_i x^{i-1}\)
Konstante Funktion	\(f(x) := a\)	\(f'(x) = 0\)
Identitätsfunktion	\(f(x) := x\)	\(f'(x) = 1\)
Linear-affine Funktion	\(f(x) := ax + b\)	\(f'(x) = a\)
Quadratfunktion	\(f(x) := x^2\)	\(f'(x) = 2x\)
Exponentialfunktion	\(f(x) := \exp(x)\)	\(f'(x) = \exp(x)\)
Logarithmusfunktion	\(f(x) := \ln(x)\)	\(f'(x) = \frac{1}{x}\)

In Abbildung 6.2 visualisieren wir die Identitätsfunktion, eine lineare Funktion und die Quadratfunktion zusammen mit ihrer jeweiligen Ableitung. In Abbildung Abbildung 6.3 visualisieren wir die Exponential- und Logarithmusfunktionen zusammen mit ihrer jeweiligen Ableitung.

Abbildung 6.2: Ableitungen dreier elementarer Funktionen. Die Ableitung der Identitätsfunktion ist die konstante Funktion mit Wert \(1\), die Ableitung der betrachteten linear-affinen Funktion ist die konstante Funktion mit Wert \(0.5\) und die Ableitung der Quadratfunktion ist die linear-affine Funktion mit \(a = 2\) und \(b = 0\)

Abbildung 6.3: Ableitungen von Exponentialfunktion und Logarithmusfunktion. Die Ableitung der Exponentialfunktion ist die Exponentialfunktion selbst, die Ableitung der Logarithmusfunktion hat die Funktionswerte \(1/x\)

Basierend auf der Definition der Ableitung einer univariaten reellwertigen Funktion lassen sich leicht weitere Ableitungen einer solchen Funktion definieren.

Definition 6.3 (Höhere Ableitungen) Es sei \(f\) eine univariate reellwertige Funktion und \[\begin{equation} f^{(1)} := f' \end{equation}\] sei die Ableitung von \(f\). Die \(k\)-te Ableitung von \(f\) ist rekursiv definiert durch \[\begin{equation} f^{(k)} := \left(f^{(k-1)}\right)' \mbox{ für } k > 1, \end{equation}\] unter der Annahme, dass \(f^{(k-1)}\) differenzierbar ist. Insbesondere ist die zweite Ableitung von \(f\) definiert durch die Ableitung von \(f'\), also \[\begin{equation} f'' := (f')'. \end{equation}\]

In Analogie zu oben Gesagtem schreiben wir in Berechnungen auch \(\frac{d^2}{dx^2}f(x)\) für den Auftrag, die zweite Ableitung einer Funktion \(f\) zu bestimmen. Die nullte Ableitung \(f^{(0)}\) von \(f\) ist \(f\) selbst. Der Tradition und Einfachheit halber schreibt man für \(k < 4\) gemäß der Lagrange-Notation meist \(f',f''\) und \(f'''\) anstelle von \(f^{(1)}, f^{(2)}\) und \(f^{(3)}\).

Beispiel 6.2 (Höhere Ableitungen einer Quadratfunktion) Es sei \[\begin{equation} f: \mathbb{R} \to \mathbb{R}, x \mapsto f(x) := x^2 \end{equation}\] Dann gilt \[\begin{equation} f^{(1)}(x) = f'(x) = \frac{d}{dx}\left(x^2\right) = 2x \end{equation}\] Weiterhin gelten \[\begin{align} \begin{split} f^{(2)}(x) = \left(f^{(2-1)}\right)'(x) = \left(f^{(1)}\right)'(x) & = \frac{d}{dx}(2x) = 2, \\ f^{(3)}(x) = \left(f^{(3-1)}\right)'(x) = \left(f^{(2)}\right)'(x) & = \frac{d}{dx}(2) = 0, \\ f^{(4)}(x) = \left(f^{(4-1)}\right)'(x) = \left(f^{(3)}\right)'(x) & = \frac{d}{dx}(0) = 0. \end{split} \end{align}\] Man berechnet also durchgängig lediglich erste Ableitungen.

Zum Bestimmen der Ableitung einer Funktion sind eine Reihe von Rechenregeln hilfreich, die es erlauben, die Ableitung einer Funktion aus den Ableitungen ihrer Unterfunktionen herzuleiten. Für Beweise der in folgendem Theorem eingeführten Rechenregeln verweisen wir auf die weiterführende Literatur.

Theorem 6.2 (Rechenregeln für Ableitungen) Es seien \(I,J \subseteq \mathbb{R}\) offene Intervalle. Es gelten folgende Rechenregeln für Ableitungen:

(Summenregel) Für \(n \in \mathbb{N}\) und differenzierbare Funktionen \(g_i : I \to \mathbb{R}\) mit \(i = 1,\ldots,n\) gilt \[\begin{equation} f(x) := \sum_{i = 1}^n g_i(x) \Rightarrow f'(x) = \sum_{i = 1}^n g_i'(x). \end{equation}\] (Produktregel) Für differenzierbare Funktionen \(g_1,g_2 : I \to \mathbb{R}\) gilt \[\begin{equation} f(x) := g_1(x)g_2(x) \Rightarrow f'(x) = g_1'(x)g_2(x) + g_1(x)g_2'(x). \end{equation}\] (Quotientenregel) Für differenzierbare Funktionen \(g_1,g_2 : I \to \mathbb{R}\) gilt an allen Stellen mit \(g_2(x) \neq 0\) \[\begin{equation} f(x) := \frac{g_1(x)}{g_2(x)} \Rightarrow f'(x) = \frac{g_1'(x)g_2(x) - g_1(x)g_2'(x)}{g_2(x)^2}. \end{equation}\] (Kettenregel) Für differenzierbare Funktionen \(g_2 : I \to J\) und \(g_1 : J \to \mathbb{R}\) gilt \[\begin{equation} f(x) := g_1(g_2(x)) \Rightarrow f'(x) = g_1'(g_2(x))g_2'(x). \end{equation}\]

Beispiel 6.3 (Summenregel) Es sei \[\begin{equation} f: \mathbb{R} \to \mathbb{R}, x \mapsto f(x) := 4x^3 + 3x^2 \end{equation}\] Dann hat \(f\) die Form \[\begin{equation} f(x) = \sum_{i=1}^2 g_i(x) = g_1(x) + g_2(x) \mbox{ mit } g_1(x) := 4x^3 \mbox{ und } g_2(x) := 3x^2. \end{equation}\] Es gelten außerdem \[\begin{equation} g_1'(x) = \frac{d}{dx}\left(4x^3\right) = 12x^2 \mbox{ und } g_2'(x) = \frac{d}{dx}\left(3x^2\right) = 6 x. \end{equation}\] Also gilt mit der Summenregel \[\begin{equation} f'(x) = \sum_{i=1}^2 g_i'(x) = g_1'(x) + g_2'(x) = 12x^2 + 6x. \end{equation}\]

Beispiel 6.4 (Produktregel) Es sei \[\begin{equation} f:\mathbb{R} \to \mathbb{R}, x \mapsto f(x) := x^2 \sin(x). \end{equation}\] Dann hat \(f\) die Form \[\begin{equation} f(x) = g_1(x)g_2(x) \mbox{ mit } g_1(x) := x^2 \mbox{ und } g_2(x) := \sin(x). \end{equation}\] Es gelten außerdem \[\begin{equation} g_1'(x) = \frac{d}{dx}\left(x^2\right) = 2x \mbox{ und } g_2'(x) = \frac{d}{dx}\left(\sin x\right) = \cos(x). \end{equation}\] Also gilt mit der Produktregel \[\begin{equation} f'(x) = g_1'(x)g_2(x) + g_1(x)g_2'(x) = 2x\sin(x) + x^2\cos(x). \end{equation}\]

Beispiel 6.5 (Quotientenregel) Es sei \[\begin{equation} f:\mathbb{R} \to \mathbb{R} \setminus {-1}, x \mapsto f(x) := \frac{x^2}{x+1}. \end{equation}\] Dann hat \(f\) die Form \[\begin{equation} f(x) = \frac{g_1(x)}{g_2(x)} \mbox{ mit } g_1(x) := x^2 \mbox{ und } g_2(x) := x+1. \end{equation}\] Es gelten außerdem \[\begin{equation} g_1'(x) = \frac{d}{dx}\left(x^2\right) = 2x \mbox{ und } g_2'(x) = \frac{d}{dx}\left(1 + x \right) = 1. \end{equation}\] Also gilt mit der Quotientenregel \[\begin{equation} f'(x) = \frac{g_1'(x)g_2(x) - g_1(x)g_2'(x)}{g_2^2(x)} = \frac{2x(x+1)-x^2}{(x+1)^2} = \frac{2x^2 + 2x - x^2}{(x+1)^2} = \frac{x^2 + 2x}{(x+1)^2}. \end{equation}\]

Beispiel 6.6 (Kettenregel) Es sei \[\begin{equation} f : \mathbb{R} \to \mathbb{R}, x \mapsto f(x) := \exp\left(-x^2\right) \end{equation}\] Dann hat \(f\) die Form \[\begin{equation} f(x) = g_1(g_2(x)) \mbox{ mit } g_1(x) := \exp(x) \mbox{ und } g_2(x) := -x^2 \end{equation}\] Es gelten außerdem \[\begin{equation} g_1'(x) = \frac{d}{dx}\left(\exp(x)\right) = \exp(x) \mbox{ und } g_2'(x) = \frac{d}{dx}\left(-x^2\right) = -2x. \end{equation}\] Also gilt mit der Kettenregel \[\begin{equation} f'(x) = g_1'(g_2(x))g_2'(x) = \exp\left(-x^2\right)\left(-2x\right) = -2x\exp\left(-x^2 \right). \end{equation}\] Man kann sich die resultierende Ableitung der Kettenregel also merken als “Die Ableitung der äußeren Funktion an der Stelle der inneren Funktion mal die Ableitung der inneren Funktion.”

6.2 Analytische Optimierung

Eine wichtige Anwendung der Differenzialrechnung ist das Bestimmen von Extremstellen von Funktionen. Dabei geht es im Kern um die Frage, für welche Werte ihrer Definitionsmenge eine Funktion ein Maximum oder ein Minimum annimmt. Bei einfachen Funktionen ist dies analytisch möglich. Die generelle Vorgehensweise dabei ist oft auch unter dem Stichwort “Kurvendiskussion” bekannt. In der Anwendung ist ein analytisches Vorgehen zur Optimierung von Funktionen meist nicht möglich und es werden numerische Algorithmen zur Bestimmung von Extremstellen genutzt. Ein Verständnis dieser Algorithmen setzt allerdings ein Verständnis der Prinzipien der analytischen Optimierung voraus. In diesem Abschnitt geben wir eine Einführung in die analytische Optimierung von univariaten reellwertigen Funktionen. Wir beginnen damit, die Begriffe der erwähnten Maxima und Minima von univariaten reellwertigen Funktionen zu präzisieren.

Definition 6.4 (Extremstellen und Extremwerte) Es seien \(U \subseteq \mathbb{R}\) und \(f : U \to \mathbb{R}\) eine univariate reellwertige Funktion. \(f\) hat an der Stelle \(x_0 \in U\)

ein lokales Minimum, wenn es ein Intervall \(I := ]a,b[\) gibt mit \(x_0 \in ]a,b[\) und \[\begin{equation} f(x_0) \le f(x) \mbox{ für alle } x\in I\cap U, \end{equation}\]
ein globales Minimum, wenn gilt, dass \[\begin{equation} f(x_0) \le f(x) \mbox{ für alle } x\in U, \end{equation}\]
ein lokales Maximum, wenn es ein Intervall \(I := ]a,b[\) gibt mit \(x_0 \in ]a,b[\) und \[\begin{equation} f(x_0) \ge f(x) \mbox{ für alle } x\in I\cap U, \end{equation}\]
ein globales Maximum, wenn gilt, dass \[\begin{equation} f(x_0) \ge f(x) \mbox{ für alle } x\in U. \end{equation}\]

Der Wert \(x_0 \in U\) der Definitionsmenge von \(f\) heißt entsprechend lokale oder globale Minimalstelle oder Maximalstelle, der Funktionswert \(f(x_0) \in \mathbb{R}\) heißt entsprechend lokales oder globales Minimum oder Maximum. Generell heißt der Wert \(x_0 \in U\) Extremstelle und der Funktionswert \(f(x_0) \in \mathbb{R}\) Extremwert.

Minimalstellen und Maximalstellen werden auch mit \[\begin{equation} \argmin_{x \in U} f(x) \mbox{ beziehungsweise } \argmax_{x \in U} f(x) \end{equation}\] bezeichnet. Diese Ausdrücke bezeichnen die Mengen der globalen Minimalstellen beziehungsweise Maximalstellen. Die zugehörigen Extremwerte werden mit \[\begin{equation} \min_{x \in U} f(x) \mbox{ beziehungsweise } \max_{x \in U} f(x) \end{equation}\] bezeichnet, sofern sie angenommen werden.

Abbildung 6.4 visualisiert die verschiedenen Arten von Extremwerten nach Definition 6.4.

Die analytische Optimierung von univariaten reellwertigen Funktionen basiert auf den sogenannten notwendigen und hinreichenden Bedingungen für Extrema. Erstere machen eine Aussage über das Verhalten der ersten Ableitung einer Funktion an einer Extremstelle. Letztere machen eine Aussage über das Verhalten einer Funktion an einer Stelle, die bestimmten Forderungen an ihre erste und zweite Ableitung genügt.

Abbildung 6.4: Extremstellen einer Funktion.

Theorem 6.3 (Notwendige Bedingung für Extrema) Es sei \(I \subseteq \mathbb{R}\) ein offenes Intervall und \(f : I \to \mathbb{R}\) eine differenzierbare Funktion. Ist \(x_0 \in I\) eine lokale Extremstelle von \(f\), so gilt \[\begin{equation} f'(x_0) = 0. \end{equation}\]

Unter den Voraussetzungen des Theorems ist die erste Ableitung an jeder lokalen Extremstelle null. Die Umkehrung gilt nicht: Für \(f(x) := x^3\) gilt \(f'(0) = 0\), obwohl \(0\) keine Extremstelle ist.

Theorem 6.4 (Hinreichende Bedingungen für lokale Extrema) Es sei \(I \subseteq \mathbb{R}\) ein offenes Intervall und \(f : I \to \mathbb{R}\) eine zweimal differenzierbare Funktion. Für \(x_0 \in I\) gelten folgende Aussagen:

Wenn \(f'(x_0) = 0\) und \(f''(x_0) > 0\) gelten, dann hat \(f\) in \(x_0\) ein striktes lokales Minimum.
Wenn \(f'(x_0) = 0\) und \(f''(x_0) < 0\) gelten, dann hat \(f\) in \(x_0\) ein striktes lokales Maximum.

Wir verzichten wiederum auf einen Beweis und verdeutlichen uns die Bedingung an dem in Abbildung 6.5 gezeigten Beispiel. Hier ist offenbar \(x_0 = 1\) eine lokale Minimalstelle von \(f(x) = (x-1)^2\). Man erkennt: links von \(x_0\) fällt \(f\) ab, rechts von \(x_0\) steigt \(f\) an. In \(x_0\) steigt \(f\) weder an noch fällt \(f\) ab, also ist \(f'(x_0) = 0\). Weiter gilt, dass links und rechts von \(x_0\) und in \(x_0\) die Änderung \(f''\) von \(f'\) positiv ist: links von \(x_0\) schwächt sich die Negativität von \(f'\) zu \(0\) ab und rechts von \(x_0\) verstärkt sich die Positivität von \(f'\).

Abbildung 6.5: Analytische Optimierung von \(f(x) := (x-1)^2\)

Insbesondere die hinreichenden Bedingungen für lokale Extrema legen folgendes Standardverfahren zur Bestimmung von lokalen Extremstellen nahe.

Theorem 6.5 (Standardverfahren der analytischen Optimierung) Es sei \(I \subseteq \mathbb{R}\) ein offenes Intervall und \(f : I \to \mathbb{R}\) eine zweimal differenzierbare Funktion. Zur Untersuchung lokaler Extremstellen dient folgendes Standardverfahren der analytischen Optimierung:

Berechnen der ersten und zweiten Ableitung von \(f\).
Bestimmen aller Nullstellen \(x^* \in I\) von \(f'\) durch Lösen der Gleichung \(f'(x^*) = 0\). Diese Nullstellen sind Kandidaten für lokale Extremstellen.
Auswerten von \(f''(x^*)\): Bei \(f''(x^*) > 0\) ist \(x^*\) eine strikte lokale Minimalstelle. Bei \(f''(x^*) < 0\) ist \(x^*\) eine strikte lokale Maximalstelle. Bei \(f''(x^*) = 0\) erlaubt dieses Kriterium keine Entscheidung.

Randstellen einer Definitionsmenge müssen gesondert untersucht werden.

Beispiel 6.7 (Analytische Optimierung einer Quadratfunktion) Anstelle eines Beweises betrachten wir beispielhaft die Funktion \[\begin{equation} f: \mathbb{R} \to \mathbb{R}, x \mapsto f(x) := (x - 1)^2. \end{equation}\] Die erste Ableitung von \(f\) aus Abbildung 6.5 ergibt sich mit der Kettenregel zu \[\begin{equation} f'(x) = \frac{d}{dx}\left((x-1)^2 \right) = 2(x-1)\cdot \frac{d}{dx}(x-1) = 2x - 2. \end{equation}\] Die zweite Ableitung von \(f\) ergibt sich zu \[\begin{equation} f''(x) = \frac{d}{dx}f'(x) = \frac{d}{dx}(2x - 2) = 2 > 0 \mbox{ für alle } x \in \mathbb{R}. \end{equation}\] Auflösen von \(f'(x^*) = 0\) nach \(x^*\) ergibt \[\begin{equation} f'(x^*) = 0 \Leftrightarrow 2x^* - 2 = 0 \Leftrightarrow 2x^* = 2 \Leftrightarrow x^* = 1. \end{equation}\] \(x^* = 1\) ist folglich eine Minimalstelle von \(f\) mit zugehörigem Minimalwert \(f(1) = 0\).

6.3 Differenzialrechnung multivariater reellwertiger Funktionen

Wir erinnern zunächst an den Begriff der multivariaten reellwertigen Funktion.

Definition 6.5 (Multivariate reellwertige Funktion) Eine Funktion der Form \[\begin{equation} f : \mathbb{R}^n \to \mathbb{R}, x \mapsto f(x) = f(x_1,..., x_n) \end{equation}\] heißt multivariate reellwertige Funktion.

Die Argumente multivariater reellwertiger Funktionen sind also reelle \(n\)-Tupel der Form \(x := (x_1,...,x_n)\), während ihre Funktionswerte reelle Zahlen sind. Ein Beispiel für eine multivariate reellwertige Funktion mit \(n:=2\) ist \[\begin{equation} f:\mathbb{R}^2 \to \mathbb{R}, x \mapsto f(x) := x_1^2 + x_2^2. \end{equation}\]

Wir visualisieren diese Funktion in Abbildung 6.6. Dabei zeigt die rechte Abbildung eine Darstellung mithilfe sogenannter Isokonturen, also Linien im Definitionsbereich der Funktion, für die die Funktion identische Werte annimmt. Die entsprechenden Werte sind für ausgewählte Isokonturen in der Abbildung vermerkt.

Abbildung 6.6: Visualisierungen einer bivariaten Funktion. Die linke Darstellung visualisiert die Funktionswerte als Fläche über der zweidimensionalen Definitionsmenge der Funktion. Auch wenn diese Darstellung einen gewissen dreidimensionalen Charakter hat, handelt es sich um eine bivariate Funktion mit entsprechend zweidimensionaler Definitionsmenge. Die rechte Abbildung visualisiert Linien mit gleichen Funktionswerten in der zweidimensionalen Definitionsmenge der Funktion.

Wir wollen nun beginnen, die Begriffe der Differenzierbarkeit und der Ableitung univariater reellwertiger Funktionen auf den Fall multivariater reellwertiger Funktionen zu erweitern. Dazu führen wir zunächst die Begriffe der partiellen Differenzierbarkeit und der partiellen Ableitung ein.

Definition 6.6 (Partielle Differenzierbarkeit und partielle Ableitung) Es sei \(D \subseteq \mathbb{R}^n\) offen, \(n \in \mathbb{N}\) und \(f : D \to \mathbb{R}\) eine multivariate reellwertige Funktion. Für \(i \in \{1,\ldots,n\}\) bezeichne \(e_i\) den \(i\)-ten kanonischen Einheitsvektor. Die Funktion \(f\) heißt nach \(x_i\) partiell differenzierbar in \(a \in D\), wenn der Grenzwert \[\begin{equation} \frac{\partial}{\partial x_i} f(a) := \lim_{h \to 0} \frac{f(a + he_i) - f(a)}{h} \end{equation}\] als reelle Zahl existiert. Dabei gilt \(h \neq 0\) und \(a + he_i \in D\). Dieser Wert heißt partielle Ableitung von \(f\) nach \(x_i\) an der Stelle \(a\). Existiert er für alle \(a \in D\), so heißt \(f\) nach \(x_i\) partiell differenzierbar auf \(D\), und die Funktion \[\begin{equation} \frac{\partial}{\partial x_i} f : D \to \mathbb{R}, x \mapsto \frac{\partial}{\partial x_i} f(x) \end{equation}\] heißt partielle Ableitung von \(f\) nach \(x_i\). Die Funktion \(f\) heißt partiell differenzierbar in \(a\), wenn alle \(n\) partiellen Ableitungen in \(a\) existieren. Sie heißt partiell differenzierbar auf \(D\), wenn dies für alle \(a \in D\) gilt.

In Definition 6.6 bezeichnet \(e_i \in \mathbb{R}^n\) den \(i\)-ten kanonischen Einheitsvektor, für den gilt, dass \((e_i)_j = 1\) für \(i=j\) und \((e_i)_j = 0\) für \(i \neq j\) mit \(j = 1,...,n\) (vgl. den Abschnitt über kanonische Einheitsvektoren im Kapitel Vektoren). In Analogie und Verallgemeinerung zum Newtonschen Differenzquotienten misst der hier auftretende Differenzquotient \[\begin{equation} \frac{f(x + he_i)-f(x)}{h} \end{equation}\] damit die Änderung \(f(x+he_i)-f(x)\) von \(f\) pro Strecke \(h\) in Richtung \(e_i\). Wir visualisieren die Bestandteile dieses Quotienten im Falle einer bivariaten Funktion in Abbildung 6.7.

Abbildung 6.7: Komponenten des partiellen Newtonschen Differenzquotienten

Für \(h\to 0\) misst der Differenzquotient entsprechend die Änderungsrate von \(f\) in \(x\) in Richtung \(e_i\). Wie bei der Betrachtung von Ableitungen gilt, dass \(\frac{\partial}{\partial x_i}f(x)\) eine Zahl, \(\frac{\partial}{\partial x_i}f\) dagegen eine Funktion ist. Praktisch berechnet man \(\frac{\partial}{\partial x_i}f\) als die (einfache) Ableitung \[\begin{equation} \frac{d}{dx_i}\tilde{f}_{x_1,...,x_{i-1},x_{i+1}, ...,x_n}(x_i) \end{equation}\] der univariaten reellwertigen Funktion \[\begin{equation} \tilde{f} : \mathbb{R} \to \mathbb{R}, x_i \mapsto \tilde{f}_{x_1,...,x_{i-1},x_{i+1}, ...,x_n}(x_i) := f(x_1,...,x_i, ...,x_n). \end{equation}\] Man betrachtet für die \(i\)-te partielle Ableitung also alle \(x_j\) mit \(j \neq i\) als Konstanten und ist auf das gewohnte Berechnen von Ableitungen von univariaten reellwertigen Funktionen geführt. Wir wollen das Vorgehen zum Berechnen von partiellen Ableitungen an einem ersten Beispiel verdeutlichen.

Beispiel 6.8 (Partielle Ableitungen einer quadratischen Funktion) Wir betrachten die Funktion \[\begin{equation} f:\mathbb{R}^2\to \mathbb{R}, x\mapsto f(x):=x_1^2+x_2^2. \end{equation}\] Weil die Definitionsmenge dieser Funktion zweidimensional ist, kann man zwei partielle Ableitungen berechnen \[\begin{equation}\label{eq:pdex_1} \frac{\partial }{\partial x_1}f:\mathbb{R}^2 \to \mathbb{R}, x\mapsto \frac{\partial}{\partial x_{1}} f(x) \mbox{ und } \frac{\partial}{\partial x_2} f:\mathbb{R}^2\to \mathbb{R}, x\mapsto \frac{\partial }{\partial x_2}f(x). \end{equation}\] Um die erste dieser partiellen Ableitungen zu berechnen, betrachtet man die Funktion \[\begin{equation} f_{x_2}:\mathbb{R} \to \mathbb{R}, x_1 \mapsto f_{x_2}(x_1):=x_1^2+x_2^2, \end{equation}\] wobei \(x_2\) hier die Rolle einer Konstanten einnimmt. Um explizit zu machen, dass \(x_2\) kein Argument der Funktion ist, die Funktion aber weiterhin von \(x_2\) abhängt, haben wir die Subskriptnotation \(f_{x_2}(x_1)\) verwendet. Um nun die partielle Ableitung zu berechnen, berechnen wir die (einfache) Ableitung von \(f_{x_2}\), \[\begin{equation} f_{x_2}'(x_1)=2x_{1}. \end{equation}\] Es ergibt sich also \[\begin{equation} \frac{\partial}{\partial x_1}f:\mathbb{R}^2\to \mathbb{R}, x\mapsto \frac{\partial}{\partial x_1}f(x) =\frac{\partial}{\partial x_1}(x_1^2+x_2^2) =f_{x_2}'(x_1)=2x_1. \end{equation}\] Analog gilt mit der entsprechenden Formulierung von \(f_{x_1}\), dass \[\begin{equation} \frac{\partial}{\partial x_2}f:\mathbb{R}^2\to \mathbb{R}, x\mapsto \frac{\partial}{\partial x_2}f(x) =\frac{\partial}{\partial x_2}(x_1^2+x_2^2) =f_{x_1}'(x_2)=2x_2. \end{equation}\]

Wie bei der Ableitung einer univariaten reellwertigen Funktion ist es auch für eine multivariate reellwertige Funktion möglich, rekursiv eine höhere Ableitung zu definieren.

Definition 6.7 (Zweite partielle Ableitungen) Es sei \(D \subseteq \mathbb{R}^n\) offen und \(f : D \to \mathbb{R}\) eine partiell differenzierbare Funktion. Für \(i,j \in \{1,\ldots,n\}\) sei die Funktion \(\frac{\partial}{\partial x_i} f\) in \(x \in D\) nach \(x_j\) partiell differenzierbar. Dann heißt \[\begin{equation} \frac{\partial^2}{\partial x_j \partial x_i} f(x) := \frac{\partial}{\partial x_j}\left(\frac{\partial}{\partial x_i} f\right)(x) \end{equation}\] zweite partielle Ableitung von \(f\) zuerst nach \(x_i\) und dann nach \(x_j\).

Man beachte, dass es zu jeder partiellen Ableitung \(\frac{\partial}{\partial x_i}f\) für \(i = 1,...,n\) insgesamt \(n\) zweite partielle Ableitungen \(\frac{\partial^2}{\partial x_j\partial x_i}f\) für \(j = 1,...,n\) gibt. Die so resultierenden \(n^2\) zweiten partiellen Ableitungen sind jedoch nicht alle verschieden. Dies ist eine wesentliche Aussage des Satzes von Schwarz.

Theorem 6.6 (Satz von Schwarz) Es sei \(D \subseteq \mathbb{R}^n\) offen und \(f : D \to \mathbb{R}\) eine Funktion, deren zweite partielle Ableitungen auf \(D\) existieren und stetig sind. Dann gilt für alle \(x \in D\) und \(i,j \in \{1,\ldots,n\}\) \[\begin{equation} \frac{\partial^2}{\partial x_j \partial x_i} f(x) = \frac{\partial^2}{\partial x_i \partial x_j} f(x). \end{equation}\]

Für einen Beweis verweisen wir auf die weiterführende Literatur. Der Satz von Schwarz besagt insbesondere auch, dass bei Bildung der zweiten partiellen Ableitungen die Reihenfolge des partiellen Ableitens irrelevant ist. Der Satz erleichtert auf diese Weise die Berechnung von zweiten partiellen Ableitungen und hilft darüber hinaus, analytische Fehler bei der Berechnung zweiter partieller Ableitungen aufzudecken. Wir verdeutlichen dies in Fortführung obigen Beispiels.

Beispiel 6.9 (Partielle Ableitungen zweiter Ordnung einer quadratischen Funktion) Wir wollen die partiellen Ableitungen zweiter Ordnung der Funktion \[ f:\mathbb{R}^{2}\to \mathbb{R}, x\mapsto f(x):=x_1^2+x_2^2 \tag{6.1}\] berechnen. Mit den Ergebnissen für die partiellen Ableitungen erster Ordnung dieser Funktion ergibt sich \[\begin{align} \begin{split} \frac{\partial^2}{\partial x_1 \partial x_1} f(x) & = \frac{\partial}{\partial x_1}\left(\frac{\partial}{\partial x_1} f(x)\right) = \frac{\partial}{\partial x_1}(2x_1) = 2 \\ \frac{\partial^2}{\partial x_1 \partial x_2} f(x) & = \frac{\partial}{\partial x_1}\left(\frac{\partial}{\partial x_2} f(x)\right) = \frac{\partial}{\partial x_1}(2x_2) = 0 \\ \frac{\partial^2}{\partial x_2 \partial x_1} f(x) & = \frac{\partial}{\partial x_2}\left(\frac{\partial}{\partial x_1} f(x)\right) = \frac{\partial}{\partial x_2}(2x_1) = 0 \\ \frac{\partial^2}{\partial x_2 \partial x_2} f(x) & = \frac{\partial}{\partial x_2}\left(\frac{\partial}{\partial x_2} f(x)\right) = \frac{\partial}{\partial x_2}(2x_2) = 2 \end{split} \end{align}\] Offenbar gilt \[\begin{equation} \frac{\partial^2}{\partial x_1 \partial x_2} f(x) = \frac{\partial^2}{\partial x_2 \partial x_1} f(x). \end{equation}\]

Beispiel 6.10 (Partielle Ableitungen einer Funktion mit drei Variablen) Als weiteres Beispiel wollen wir die partiellen Ableitungen erster und zweiter Ordnung der Funktion \[ f:\mathbb{R}^2 \times ]0,\infty[\to \mathbb{R}, x\mapsto f(x):=x_1^2+x_1x_2+x_2\sqrt{x_3} \tag{6.2}\] berechnen. Mit den Rechenregeln für Ableitungen ergibt sich für die partiellen Ableitungen erster Ordnung \[\begin{align} \begin{split} & \frac{\partial}{\partial x_1}f(x) = \frac{\partial}{\partial x_1}\left(x_1^2+x_1x_2+x_2\sqrt{x_3} \right) = 2x_1+x_2, \\ & \frac{\partial}{\partial x_2}f(x) = \frac{\partial}{\partial x_2}\left(x_1^2+x_1x_2+x_2\sqrt{x_3} \right) = x_1+\sqrt{x_3}, \\ & \frac{\partial}{\partial x_3}f(x) = \frac{\partial}{\partial x_3}\left(x_1^2+x_1x_2+x_2\sqrt{x_3} \right) = \frac{x_{2}}{2\sqrt{x_3}}. \end{split} \end{align}\] Für die zweiten partiellen Ableitungen hinsichtlich \(x_1\) ergibt sich \[\begin{align} \begin{split} \frac{\partial^2}{\partial x_1 \partial x_1}f(x) & = \frac{\partial}{\partial x_1} \left(\frac{\partial}{\partial x_1} f(x) \right) = \frac{\partial}{\partial x_1}\left(2x_1+x_2\right) = 2, \\ \frac{\partial^2}{\partial x_2\partial x_1}f(x) & = \frac{\partial}{\partial x_2} \left(\frac{\partial}{\partial x_1} f(x) \right) = \frac{\partial}{\partial x_2}\left(2x_1+x_2 \right) = 1, \\ \frac{\partial^2}{\partial x_3\partial x_1} f(x) & = \frac{\partial}{\partial x_3}\left(\frac{\partial}{\partial x_{1}} f(x) \right) = \frac{\partial}{\partial x_3}\left(2x_1+x_2\right)=0. \end{split} \end{align}\] Für die zweiten partiellen Ableitungen hinsichtlich \(x_2\) ergibt sich \[\begin{align} \begin{split} \frac{\partial^2}{\partial x_1\partial x_2}f(x) & = \frac{\partial}{\partial x_1}\left(\frac{\partial}{\partial x_2}f(x) \right) = \frac{\partial}{\partial x_{1}}\left(x_1+ \sqrt{x_3} \right) = 1, \\ \frac{\partial^2}{\partial x_2 \partial x_2}f(x) & = \frac{\partial}{\partial x_2}\left(\frac{\partial}{\partial x_2}f(x) \right) = \frac{\partial}{\partial x_2}\left(x_1 + \sqrt{x_3} \right) = 0, \\ \frac{\partial^2}{\partial x_3\partial x_2}f(x) & = \frac{\partial}{\partial x_3}\left(\frac{\partial}{\partial x_2}f(x) \right) = \frac{\partial}{\partial x_3}\left(x_1+\sqrt{x_3} \right) =\frac{1}{2\sqrt{x_3}}. \end{split} \end{align}\] Für die zweiten partiellen Ableitungen hinsichtlich \(x_3\) ergibt sich \[\begin{align} \begin{split} \frac{\partial^{2}}{\partial x_1\partial x_3}f(x) & = \frac{\partial}{\partial x_1}\left(\frac{\partial}{\partial x_3} f(x) \right) = \frac{\partial}{\partial x_1}\left(\frac{x_2}{2\sqrt{x_3}}\right) = 0, \\ \frac{\partial^2}{\partial x_2\partial x_3}f(x) & = \frac{\partial}{\partial x_2}\left(\frac{\partial}{\partial x_3}f(x) \right) = \frac{\partial}{\partial x_2}\left(\frac{x_2}{2 \sqrt{x_3}} \right) = \frac{1}{2\sqrt{x_3}}, \\ \frac{\partial^2}{\partial x_3 \partial x_3}f(x) & = \frac{\partial}{\partial x_3}\left(\frac{\partial}{\partial x_3}f(x) \right) = \frac{\partial}{\partial x_3}\left(x_2\frac{1}{2}x_3^{-\frac{1}{2}}\right) = -\frac{1}{4}x_2x_3^{-\frac{3}{2}}. \end{split} \end{align}\] Weiterhin erkennt man, dass die Reihenfolge der partiellen Ableitungen irrelevant ist, denn es gilt \[\begin{align} \begin{split} & \frac{\partial^{2}}{\partial x_{1}\partial x_{2}}f(x) = \frac{\partial^{2}}{\partial x_{2}\partial x_{1}}f(x) = 1, \\ & \frac{\partial^{2}}{\partial x_{1}\partial x_{3}}f(x) = \frac{\partial^{2}}{\partial x_{3}\partial x_{1}}f(x) = 0, \\ & \frac{\partial^{2}}{\partial x_{2}\partial x_{3}}f(x) = \frac{\partial^{2}}{\partial x_{3}\partial x_{2}}f(x) = \frac{1}{2\sqrt{x_3}}. \end{split} \end{align}\]

Wie oben gesehen gibt es für eine multivariate reellwertige Funktion \(f:\mathbb{R}^n \to \mathbb{R}\) insgesamt \(n\) erste partielle Ableitungen und \(n^2\) zweite partielle Ableitungen. Diese werden im Gradienten und der Hesse-Matrix einer multivariaten reellwertigen Funktion zusammengefasst.

Definition 6.8 (Gradient) Es sei \(D \subseteq \mathbb{R}^n\) offen und \(f : D \to \mathbb{R}\) eine partiell differenzierbare Funktion. Dann ist der Gradient \(\nabla f(x)\) von \(f\) an der Stelle \(x \in D\) definiert als \[\begin{equation} \nabla f(x) := \begin{pmatrix} \frac{\partial}{\partial x_1} f(x) \\ \frac{\partial}{\partial x_2} f(x) \\ \vdots \\ \frac{\partial}{\partial x_n} f(x) \\ \end{pmatrix} \in \mathbb{R}^n. \end{equation}\]

Man beachte, dass Gradienten multivariate vektorwertige Funktionen der Form \[\begin{equation} \nabla f : D \to \mathbb{R}^n, x \mapsto \nabla f(x) \end{equation}\] sind. Für \(n = 1\) gilt \(\nabla f(x) = f'(x)\). Eine wichtige Eigenschaft des Gradienten ist, dass \(-\nabla f(x)\) die Richtung des steilsten Abstiegs von \(f\) in \(\mathbb{R}^n\) anzeigt. Diese Einsicht ist aber nicht trivial und soll an späterer Stelle vertieft werden. Als Beispiele betrachten wir die Gradienten der oben analysierten Funktionen.

Beispiel 6.11 (Gradient einer quadratischen Funktion) Für die in Gleichung 6.1 betrachtete Funktion \(f: \mathbb{R}^2 \to \mathbb{R}\) gilt \[\begin{equation} \nabla f(x) := \begin{pmatrix} \frac{\partial}{\partial x_1} f(x) \\ \frac{\partial}{\partial x_2} f(x) \\ \end{pmatrix} = \begin{pmatrix} 2x_1 \\ 2x_2 \end{pmatrix} \in \mathbb{R}^2. \end{equation}\]

In Abbildung 6.8 visualisieren wir farbkodiert ausgewählte Werte dieses Gradienten für \((0.7,0.7)^T\), \((-0.3,0.1)^T\), \((-0.5,-0.4)^T\) und \((0.1,-1.0)^T\).

Abbildung 6.8: Exemplarische Gradientenwerte der bivariaten Funktion \(f(x) = x_1^2 + x_2^2\).

Beispiel 6.12 (Gradient einer Funktion mit drei Variablen) Für die in Gleichung 6.2 betrachtete Funktion \(f: \mathbb{R}^2 \times ]0,\infty[ \to \mathbb{R}\) gilt \[\begin{equation} \nabla f(x) := \begin{pmatrix} \frac{\partial}{\partial x_1} f(x) \\ \frac{\partial}{\partial x_2} f(x) \\ \frac{\partial}{\partial x_3} f(x) \\ \end{pmatrix} = \begin{pmatrix} 2x_1+x_2 \\ x_1+\sqrt{x_3} \\ \frac{x_{2}}{2\sqrt{x_3}} \\ \end{pmatrix} \in \mathbb{R}^3. \end{equation}\]

Schließlich widmen wir uns der Zusammenfassung der zweiten partiellen Ableitungen einer multivariaten reellwertigen Funktion in der Hesse-Matrix.

Definition 6.9 (Hesse-Matrix) Es sei \(D \subseteq \mathbb{R}^n\) offen und \(f : D \to \mathbb{R}\) eine Funktion, deren zweite partielle Ableitungen auf \(D\) existieren. Dann ist die Hesse-Matrix \(\nabla^2 f(x)\) von \(f\) an der Stelle \(x \in D\) definiert als \[\begin{equation} \nabla^2 f(x) := \begin{pmatrix} \frac{\partial^2}{\partial x_1 \partial x_1} f(x) & \frac{\partial^2}{\partial x_1 \partial x_2} f(x) & \cdots & \frac{\partial^2}{\partial x_1 \partial x_n} f(x) \\ \frac{\partial^2}{\partial x_2 \partial x_1} f(x) & \frac{\partial^2}{\partial x_2 \partial x_2} f(x) & \cdots & \frac{\partial^2}{\partial x_2 \partial x_n} f(x) \\ \vdots & \vdots & \ddots & \vdots \\ \frac{\partial^2}{\partial x_n \partial x_1} f(x) & \frac{\partial^2}{\partial x_n \partial x_2} f(x) & \cdots & \frac{\partial^2}{\partial x_n \partial x_n} f(x) \\ \end{pmatrix} \in \mathbb{R}^{n \times n}. \end{equation}\]

Man beachte, dass Hesse-Matrizen multivariate matrixwertige Abbildungen der Form \[\begin{equation} \nabla^2 f : D \to \mathbb{R}^{n\times n}, x \mapsto \nabla^2 f(x) \end{equation}\] sind. Für \(n = 1\) gilt \(\nabla^2 f(x) = f''(x)\). Unter den Voraussetzungen des Satzes von Schwarz folgt aus \[\begin{equation} \frac{\partial^2}{\partial x_i\partial x_j}f(x) = \frac{\partial^2}{\partial x_j\partial x_i}f(x) \mbox{ für } 1 \le i,j\le n \end{equation}\] dass die Hesse-Matrix symmetrisch ist, dass also gilt \[\begin{equation} \left(\nabla^2f(x)\right)^T = \nabla^2f(x). \end{equation}\]

Beispiel 6.13 (Hesse-Matrix einer quadratischen Funktion) Für die in Gleichung 6.1 betrachtete Funktion \(f: \mathbb{R}^2 \to \mathbb{R}\) gilt \[\begin{equation} \nabla^2 f(x) := \begin{pmatrix} \frac{\partial^2}{\partial x_1 \partial x_1} f(x) & \frac{\partial^2}{\partial x_1 \partial x_2} f(x) \\ \frac{\partial^2}{\partial x_2 \partial x_1} f(x) & \frac{\partial^2}{\partial x_2 \partial x_2} f(x) \\ \end{pmatrix} = \begin{pmatrix} 2 & 0 \\ 0 & 2 \\ \end{pmatrix} \in \mathbb{R}^{2 \times 2}. \end{equation}\] Die Hesse-Matrix dieser Funktion ist also eine konstante Funktion, die nicht von \(x\) abhängt.

Beispiel 6.14 (Hesse-Matrix einer Funktion mit drei Variablen) Für die in Gleichung 6.2 betrachtete Funktion \(f: \mathbb{R}^2 \times ]0,\infty[ \to \mathbb{R}\) gilt \[\begin{equation} \nabla^2 f(x) := \begin{pmatrix} \frac{\partial^2}{\partial x_1 \partial x_1} f(x) & \frac{\partial^2}{\partial x_1 \partial x_2} f(x) & \frac{\partial^2}{\partial x_1 \partial x_3} f(x) \\ \frac{\partial^2}{\partial x_2 \partial x_1} f(x) & \frac{\partial^2}{\partial x_2 \partial x_2} f(x) & \frac{\partial^2}{\partial x_2 \partial x_3} f(x) \\ \frac{\partial^2}{\partial x_3 \partial x_1} f(x) & \frac{\partial^2}{\partial x_3 \partial x_2} f(x) & \frac{\partial^2}{\partial x_3 \partial x_3} f(x) \end{pmatrix} = \begin{pmatrix} 2 & 1 & 0 \\ 1 & 0 & \frac{1}{2\sqrt{x_3}} \\ 0 & \frac{1}{2\sqrt{x_3}} & -\frac{1}{4}x_2x_3^{-3/2} \end{pmatrix}. \end{equation}\] Im Gegensatz zu Beispiel (1) ist die Hesse-Matrix der hier betrachteten Funktion keine konstante Funktion und ihr Wert hängt vom Wert des Funktionsarguments \(x \in \mathbb{R}^2 \times ]0,\infty[\) ab.

Selbstkontrollfragen

Geben Sie die Definition des Begriffs der Ableitung \(f'(a)\) einer Funktion \(f\) an einer Stelle \(a\) wieder.
Geben Sie die Definition des Begriffs der Ableitung \(f'\) einer Funktion \(f\) wieder.
Erläutern Sie die Symbole \(f'(x), \dot{f}(x)\), \(\frac{df(x)}{dx}\) und \(\frac{d}{dx}f(x)\).
Geben Sie die Definition des Begriffs der zweiten Ableitung \(f''\) einer Funktion \(f\) wieder.
Geben Sie die Summen-, Produkt-, Quotienten- und Kettenregel für Ableitungen wieder.
Geben Sie die Definition der Begriffe des globalen und lokalen Maximums/Minimums einer univariaten reellwertigen Funktion wieder.
Geben Sie die notwendige Bedingung für ein Extremum einer Funktion wieder.
Geben Sie die hinreichende Bedingung für ein lokales Extremum einer Funktion wieder.
Geben Sie das Standardverfahren der analytischen Optimierung wieder.
Geben Sie die Definition der partiellen Ableitung \(\frac{\partial}{\partial x_i}f(a)\) einer Funktion \(f\) an einer Stelle \(a\) wieder.
Geben Sie die Definition der partiellen Ableitung \(\frac{\partial}{\partial x_i}f\) einer Funktion \(f\) wieder.
Geben Sie die Definition der zweiten partiellen Ableitung \(\frac{\partial^2}{\partial x_i\partial x_j}f\) einer Funktion \(f\) wieder.
Geben Sie den Satz von Schwarz wieder.
Geben Sie die Definition des Gradienten einer multivariaten reellwertigen Funktion wieder.
Geben Sie die Definition der Hesse-Matrix einer multivariaten reellwertigen Funktion wieder.

Lösungen

Siehe Definition 6.1.
Siehe Definition 6.1.
Siehe Definition 6.2.
Siehe Definition 6.3.
Siehe Theorem 6.2.
Siehe Definition 6.4.
Siehe Theorem 6.3.
Siehe Theorem 6.4.
Siehe Theorem 6.5.
Siehe Definition 6.6.
Siehe Definition 6.6.
Siehe Definition 6.7.
Siehe Theorem 6.6.
Siehe Definition 6.8.
Siehe Definition 6.9.