Kurs:Mathematische Modellbildung/Themen/Sprache und Semantische Netze/Mathematische Theorie

Modellierungszyklus 1

mathematische Theorie des 1. Modellierungszyklus (Sek I und Sek II)

Berechnung arithmetisches Mittel 1

• benötigt um Durchschnittspunkte der Epochen zu bestimmen
• durchgeführt mit Tabellenkalkulationsprogramm

• gibt Zentrum einer Verteilung an ("Mittelpunkt der Messwerte")
• keine Auskunft über Streuung der Werte

Berechnung arithmetisches Mittel 2

• für eine Zahlenmenge $A=\{a_1,a_2,\dots ,a_n\}$:

$\overline{x}=\frac{\{a_1+a_2+\dots +a_n\}}{n}=\frac{1}{n}\cdot \sum _{k=1}^n{a}_k$

• Bsp.: $A=\{2,3,6,7\}$

$\overline{x}=\frac{2+3+6+7}{4}=\frac{9}{2}$

Bruch als Anteil

• benötigt um Merkmale der Gedichte in Tabelle darzustellen

• $Anteil=\frac{Bruchteil}{Ganzes}$

• Bsp.: 5 von 14 $=\frac{5}{14}$

Umwandlung Brüche in Prozentschreibweise

• benötigt um prozentuale Angaben in Tabelle zu erstellen

• Prozent: von Hundert
• Prozente: Brüche, die im Nenner den Wert 100 haben
• Bruch in Prozentschreibweise bringen: Nenner auf 100 kürzen/erweitern oder Zehntel- und Hundertstelstelle als Prozentzahl verwenden
• Bsp. 1: $\frac{4}{20}=\frac{20}{100}=20\mathrm{\%}$
• Bsp. 2: $2:7\approx 0,285714\approx 0,29\approx 29\mathrm{\%}$

kartesisches Koordinatensystem

kartesisches Koordinatensystem 1

• benötigt um Punkte der Gedichte darzustellen, spätere Berechnung Abstände im ℝ³
• Darstellung: mit GeoGebra

• Koordinatensystem im euklidischen Raum ℝ³: System von 3 skalierten Geraden, die durch einen gemeinsamen Punkt (Ursprung O) verlaufen und nicht in einer Ebene liegen
• kartesisches Koordinatensystem: Achsen bilden jeweils rechte Winkel (Renè Descartes) bzw. gebildet durch 3 paarweise zueinander orthogonalen Vektoren

kartesisches Koordinatensystem 2

• Punkt im Raum: eineindeutiges Zahlentripel (x,y,z)
• Elemente x,y,z: Koordinaten des Punktes
• im Raum: Punkt P hat eineindeutigen Ortsvektor $OP=x{e}_1+y{e}_2+z{e}_3$ (x,y,z Koordinaten des Punktes, e₁,e₃,e₃ Einheitsvektoren)

Darstellung der Punkte im ℝ³

• benötigt um Punkte der Gedichte darzustellen, spätere Berechnung Abstände im ℝ³
• Darstellung: mit GeoGebra

• Bsp.: Punkt P(3,4,5) -> von Ursprung drei Einheiten in Richtung positiver x-Achse, vier Einheiten in Richtung positiver y-Achse und 5 Einheiten in Richtung positiver z-Achse

Abstand zweier Punkte im ℝ³

• benötigt um Radius Kugeln zu bestimmen, Testgedichte zu Epochen zuzuordnen
• Darstellung: mit GeoGebra

Herleitung über die Quaderdiagonale 1

Quader zur Berechnung der Abstände zweier Punkte im Raum

• gesucht: Abstand P(p₁,p₂,p₃) und Q(q₁,q₂,q₃) im Raum
• P,Q als Eckpunkte eines achsenparallelen Quaders im kartesischen Koordinatensystem
• Abstand PQ entspricht Raumdiagonale Quader

Herleitung über die Quaderdiagonale 2

Quader zur Berechnung der Abstände zweier Punkte im Raum

• Kantenlängen des Quaders entsprechen Betrag der Differenz der Koordinaten
• $\left|\overrightarrow{PA}\right|=a_1=q_1-p_1$, $\left|\overrightarrow{AB}\right|=a_2=q_2-p_2$, $\left|\overrightarrow{BQ}\right|=a_3=q_3-p_3$

Herleitung über die Quaderdiagonale 3

• alle Kanten Quader orthogonal zueinander (,da achsenparallel) $\Rightarrow$ PAB, PBQ rechtwinklige Dreiecke
• Satz des Pythagoras zur Berechnung $\left|d\right|$ und $\left|\overrightarrow{PQ}\right|$ anwendbar

${\left|\overrightarrow{PQ}\right|}^2=d^2+a_3^2$

$d^2=a_1^2+a_2^2$

Herleitung über die Quaderdiagonale 4

• durch Einsetzen der zweiten in die erste Gleichung erhält man:

${\left|\overrightarrow{PQ}\right|}^2=a_1^2+a_2^2+a_3^2=(q_1-p_1{)}^2+(q_2-p_2{)}^2+(q_3-p_3{)}^2$

$\Rightarrow \left|\overrightarrow{PQ}\right|=\sqrt{(q_1-p_1{)}^2+(q_2-p_2{)}^2+(q_3-p_3{)}^2}$

• wegen Quadrieren auch Reihenfolge $(p_1-q_1{)}^2$ möglich
• in Formel werden die Koordinaten des Verbindungsvektors $\overrightarrow{PQ}=\overrightarrow{q}-\overrightarrow{p}=\left(\begin{array}{c}{q}_1-p_1\\ q_2-p_2\\ q_3-p_3\end{array}\right)$ quadriert

Beispiel: Herleitung über die Quaderdiagonale

Bsp.: P(1,2,3), Q(6,7,8)

dann: A(6,2,3), B(6,7,3)

$\left|\overrightarrow{PA}\right|=a_1=q_1-p_1=6-1=5$

$\left|\overrightarrow{AB}\right|=a_2=q_2-p_2=7-2=5$

$\left|\overrightarrow{BQ}\right|=a_3=q_3-p_3=8-3=5$

${\left|\overrightarrow{PQ}\right|}^2=a_1^2+a_2^2+a_3^2=(5{)}^2+(5{)}^2+(5{)}^2=75$

$\Rightarrow \left|\overrightarrow{PQ}\right|=\sqrt{(5{)}^2+(5{)}^2+(5{)}^2}=\sqrt{75}$

Satz des Pythagoras 1

Satz des Pythagoras

• rechtwinkligen Dreiecken: Summe der Flächeninhalte der Kathetenquadrate gleich dem Flächeninhalt des Hypotenusenquadrates
• $c^2=a^2+b^2$

Satz des Pythagoras 2

Berechnung von Seitenlängen im rechtwinkligen Dreieck

z.B. $c=\sqrt{a^2+b^2}$

Beispiel: Satz des Pythagoras

a=3 b=4

$c^2=a^2+b^2=3^2+4^2=25\Rightarrow c=\sqrt{a^2+b^2}=\sqrt{3^2+4^2}=\sqrt{25}=5$

Vektoren im ℝ³ 1

• Vektor: eine Größe, zu deren vollständiger Beschreibung neben einer Zahl die Angabe einer Richtung erforderlich ist.
• Ortsvektor $\overrightarrow{OA}$ eines Punktes A hat die selben Koordinaten wie A: A(x,y,z) $\Rightarrow \overrightarrow{OA}=\left(\begin{array}{c}x\\ y\\ z\end{array}\right)$

Vektoren im ℝ³ 2

• Verbindungsvektor: Vektor, der 2 Punkte P,Q verbindet
• Koordinaten des Verbindungsvektors $\overrightarrow{PQ}$ entsprechen Koordinatendifferenzen der Punkte

P(p₁,p₂,p₃), Q(q₁,q₂,q₃)

$\overrightarrow{PQ}=\left(\begin{array}{c}{q}_1-p_1\\ q_2-p_2\\ q_3-p_3\end{array}\right)$

Abstandsberechnung mithilfe von Vektorrechnung

• Länge des Verbindungsvektors zweier Punkte: Abstand der Punkte
• Länge Verbindungsvektor durch Betrag Verbindungsvektor (Norm des Verbindungsvektor)
• $\left|\overrightarrow{A}\right|=\left|\left(\begin{array}{c}{x}_A\\ y_A\\ z_A\end{array}\right)\right|=\sqrt{(x_A{)}^2+(y_A{)}^2+(z_A{)}^2}$
• $\left|\overrightarrow{PQ}\right|=\left|\left(\begin{array}{c}{q}_1-p_1\\ q_2-p_2\\ q_3-p_3\end{array}\right)\right|=\sqrt{(q_1-p_1{)}^2+(q_2-p_2{)}^2+(q_3-p_3{)}^2}$

Beispiele: Vektoren im ℝ³, Abstandsberechnung mithilfe von Vektorrechnung 1

• Ortsvektor zu Punkt P

P(1,3,5) $\Rightarrow \overrightarrow{OP}=\left(\begin{array}{c}1\\ 3\\ 5\end{array}\right)$

• Koordinaten Verbindungsvektor $\overrightarrow{PQ}$

P(1,3,5), Q(2,4,6)

$\overrightarrow{PQ}=\left(\begin{array}{c}{q}_1-p_1\\ q_2-p_2\\ q_3-p_3\end{array}\right)=\left(\begin{array}{c}2-1\\ 4-3\\ 6-5\end{array}\right)=\left(\begin{array}{c}1\\ 1\\ 1\end{array}\right)$

Beispiele: Vektoren im ℝ³, Abstandsberechnung mithilfe von Vektorrechnung 2

Länge Verbindungsvektor durch Betrag Verbindungsvektor (Norm des Verbindungsvektor)

P(1,3,5), Q(2,4,6)

$\begin{array}{cc}\left|\overrightarrow{PQ}\right|& =\left|\left(\begin{array}{c}2-1\\ 4-3\\ 6-5\end{array}\right)\right|\\ & =\sqrt{(2-1{)}^2+(4-3{)}^2+(6-5{)}^2}\\ & =\sqrt{(1{)}^2+(1{)}^2+(1{)}^2}\\ & =\sqrt{3}\end{array}$

Topologie, Metrik, Normen

Topologie

• Topologie: Teilgebiet der Mathematik -> ermöglicht intuitive Lagebeziehungen wie „Nähe“
• topologische Räume werden definiert, in dem man beispielsweise Norm auf Grundräumen definiert
• Topologie: Mengensystem $𝒯$ bestehend aus Teilmengen (offene Mengen) einer Grundmenge $𝒳$ für die, die Axiome

(T1) $\mathrm{\varnothing },𝒳\in 𝒯$

(T2) $𝒰\cap 𝒱\in 𝒯$ für alle $𝒰,𝒱\in 𝒯$

(T3) Für eine beliebige Indexmenge $ℐ$ und ${𝒰}_i\in 𝒯$ gilt für alle $𝒾\in ℐ$: $\bigcup _{𝒾\in ℐ}{𝒰}_i\in 𝒯$

• Menge $𝒳$ mit Topologie $𝒯$ auf $𝒳$: typologischer Raum $(𝒯,𝒳)$

Metrik

• Metrik $𝒹$: Zuordnung von Abstand $𝒹(𝓍,𝓎)$ zwischen $𝓍,𝓎$ zu Elementen $𝓍,𝓎\in 𝒳$ aus Grundraum $𝒳$
• Definition:

Sei $𝒳$ beliebige Menge

Abbildung $𝒹:𝒳\times 𝒳\to ℝ$ heißt Metrik auf $𝒳$, wenn für beliebige Elemente

$𝓍,𝓎,𝓏$ von $𝒳$ folgende Axiome erfüllt sind:

(M1) Trennung: $𝒹(𝓍,𝓎)=0\iff 𝓍=𝓎$

(M2) Symmetrie: $𝒹(𝓍,𝓎)=𝒹(𝓎,𝓍)$

(M3) Dreiecksungleichung: $𝒹(𝓍,𝓎)\le 𝒹(𝓍,𝓏)+𝒹(𝓏,𝓎)$

• Nichtnegativität: $𝒹(𝓍,𝓎)\ge 0$

Norm 1

• Norm auf Vektorräumen:

- Abbildung $\parallel \cdot \parallel$ von einem Vektorraum $𝒱$ über einem Körper $𝕂$ der reellen oder komplexen Zahlen in ${ℝ}_0^{+}$

- ordnet jedem Vektor $𝓍\in 𝒱$ seine Länge $\parallel 𝓍\parallel$ zu

Norm 2

• Definition:

Sei $𝒱$ ein $𝕂$-Vektorraum und $\parallel \cdot \parallel :𝒱\to {ℝ}_0^{+},𝓍\mapsto \parallel 𝓍\parallel$

Abbildung $\parallel \cdot \parallel$ heißt Norm, wenn Axiome (N1),(N2),(N3) erfüllt sind:

(N1) Definitheit: $\parallel 𝓍\parallel =0\Rightarrow 𝓍=0$ für alle $𝓍\in 𝒱$

(N2) absolute Homogenität: $\parallel \lambda \cdot 𝓍\parallel =\left|\lambda \right|\cdot \parallel 𝓍\parallel$ für alle $𝓍\in 𝒱$ und $\lambda \in 𝕂$

(N3) Dreiecksungleichung: $\parallel 𝓍+𝓎\parallel \le \parallel 𝓍\parallel +\parallel 𝓎\parallel$ für alle $𝓍,𝓎\in 𝒱$

Norm 3

• normierter Raum / metrischer Raum: normierter Raum $(𝒱,\parallel \cdot \parallel )$ ist zugleich metrischer Raum

- Norm $\parallel \cdot \parallel$ ordnet Vektor $𝓋\in 𝒱$ seine Vektorlänge $\parallel 𝓋\parallel$ zu

- Mit der Norm $\parallel \cdot \parallel$ kann man über $𝒹(𝓍,𝓎):=\parallel 𝓍-𝓎\parallel$ eine Metrik definieren

Beispiele: Normen für Vektoren 1

• euklidische Norm (2-Norm):
• Definition: $\Vert \cdot {\Vert }_2:{ℝ}^n\to ℝ,\Vert x{\Vert }_2:=\sqrt{\sum _{i=1}^n|x_i{|}^2}$
• beschreibt im ${ℝ}^2$ und ${ℝ}^3$ die Länge von Vektoren
• Bsp.: ${\left|\left(\begin{array}{c}2\\ 3\\ 4\end{array}\right)\right|}_2=\sqrt{(2{)}^2+(3{)}^2+(4{)}^2}=\sqrt{29}$

Beispiele: Normen für Vektoren 2

• nicht verwendete Normen:
• 1-Norm:
• Definition: $\Vert \cdot {\Vert }_1:{ℝ}^n\to ℝ,\Vert x{\Vert }_1:=\left|x_1\right|+\left|x_2\right|+\cdots +\left|x_n\right|$
• Bsp.: ${\left|\left(\begin{array}{c}2\\ 3\\ 4\end{array}\right)\right|}_1=\left|2\right|+\left|3\right|+\left|4\right|=9$

• Maximum-Norm:
• Definition: $\Vert \cdot {\Vert }_{max}:{ℝ}^n\to ℝ,\Vert x{\Vert }_{max}:=max\{\left|x_1\right|,\left|x_2\right|,\cdots ,\left|x_n\right|\}$
• Bsp.: ${\left|\left(\begin{array}{c}2\\ 3\\ 4\end{array}\right)\right|}_{max}=max\{\left|2\right|,\left|3\right|,\left|4\right|\}=4$

Kugelgleichung 1

• benötigt um Kugeln der Epochen zu definieren
• Darstellung: mit GeoGebra

• Definition Kugel: Menge aller Punkte X des Raumes, die von einem gegebenen Punkt M den Abstand r haben, ist die Kugel(fläche) k mit Mittelpunkt M und Radius r.

$k[M,r]=\{X\in {ℝ}^3;\overline{XM}=r\}$

Kugelgleichung 2

• Vektorform der Kugelgleichung: $(X-M{)}^2=r^2$
• Koordinatenform der Kugelgleichung für $X=\left(\begin{array}{c}x\\ y\\ z\end{array}\right)$ und $M=\left(\begin{array}{c}{x}_M\\ y_M\\ z_M\end{array}\right)$: $(x-x_M{)}^2+(y-y_M{)}^2+(z-z_M{)}^2=r^2$

(ergibt sich aus Anwendung skalarer Multiplikation auf Vektorform)

Beispiel: Kugelgleichung

M(2,3,4), r=5

Vektorform: ${(\left(\begin{array}{c}x\\ y\\ z\end{array}\right)-\left(\begin{array}{c}2\\ 3\\ 4\end{array}\right))}^2=5^2$

Koordinatenform: $(x-2{)}^2+(y-3{)}^2+(z-4{)}^2=5^2$

Modellierungszyklus 2

mathematische Theorie des 2. Modellierungszyklus (Universitätsniveau)

vektorwertige Funktionen

• benötigt zum Aufstellen der Funktion f für die Zuordnung

• Zielmenge $𝒱$ ist Vektorraum ($f:𝒟\to 𝒱$)
• Struktur Definitionsmenge $𝒟$ nicht relevant
• Bsp.: $f:ℝ\to {ℝ}^2$, $f(x)=\left(\begin{array}{c}{x}^2\\ -3x\end{array}\right)$

Funktionen mehrerer Veränderlicher

• benötigt zur Bestimmung der Fehlerfunktion und für Berechnungen anhand dieser
• Definitionsbereich $𝒟$ ist Teilmenge von ${ℝ}^n$ (n Veränderliche)
• ordnet durch Funktion f n-Tupel aus ${ℝ}^n$ eine reelle Zahl zu
• $f:{ℝ}^n\supseteq 𝒟\to ℝ$
• Bsp.: $f:{ℝ}^2\to ℝ$, $f(x_1,x_2)=x_1^2+x_2$

Normen 1

• benötigt zur Berechnung des Fehlers der Funktion f, Aufstellen der Fehlerfunktion, Berechnung Vektorlänge Gradient

• Norm auf Vektorräumen:

- Abbildung $\parallel \cdot \parallel$ von einem Vektorraum $𝒱$ über einem Körper $𝕂$ der reellen oder komplexen Zahlen in ${ℝ}_0^{+}$

- ordnet jedem Vektor $𝓍\in 𝒱$ seine Länge $\parallel 𝓍\parallel$ zu

Normen 2

• Definition:

Sei $𝒱$ ein $𝕂$-Vektorraum und $\parallel \cdot \parallel :𝒱\to {ℝ}_0^{+},𝓍\mapsto \parallel 𝓍\parallel$

Abbildung $\parallel \cdot \parallel$ heißt Norm, wenn Axiome (N1),(N2),(N3) erfüllt sind:

(N1) Definitheit: $\parallel 𝓍\parallel =0\Rightarrow 𝓍=0$ für alle $𝓍\in 𝒱$

(N2) absolute Homogenität: $\parallel \lambda \cdot 𝓍\parallel =\left|\lambda \right|\cdot \parallel 𝓍\parallel$ für alle $𝓍\in 𝒱$ und $\lambda \in 𝕂$

(N3) Dreiecksungleichung: $\parallel 𝓍+𝓎\parallel \le \parallel 𝓍\parallel +\parallel 𝓎\parallel$ für alle $𝓍,𝓎\in 𝒱$

Normen 3

• normierter Raum / metrischer Raum: normierter Raum $(𝒱,\parallel \cdot \parallel )$ ist zugleich metrischer Raum

- Norm $\parallel \cdot \parallel$ ordnet Vektor $𝓋\in 𝒱$ seine Vektorlänge $\parallel 𝓋\parallel$ zu

- Mit der Norm $\parallel \cdot \parallel$ kann man über $𝒹(𝓍,𝓎):=\parallel 𝓍-𝓎\parallel$ eine Metrik definieren

Beispiele: Normen für Vektoren 1

• euklidische Norm (2-Norm):

Definition: $\Vert \cdot {\Vert }_2:{ℝ}^n\to ℝ,\Vert x{\Vert }_2:=\sqrt{\sum _{i=1}^n|x_i{|}^2}$

beschreibt im ${ℝ}^2$ und ${ℝ}^3$ die Länge von Vektoren

Bsp.: ${\left|\left(\begin{array}{c}2\\ 3\\ 4\end{array}\right)\right|}_2=\sqrt{(2{)}^2+(3{)}^2+(4{)}^2}=\sqrt{29}$

Beispiele: Normen für Vektoren 2

• nicht verwendete Normen:
• 1-Norm:

Definition: $\Vert \cdot {\Vert }_1:{ℝ}^n\to ℝ,\Vert x{\Vert }_1:=\left|x_1\right|+\left|x_2\right|+\cdots +\left|x_n\right|$

Bsp.: ${\left|\left(\begin{array}{c}2\\ 3\\ 4\end{array}\right)\right|}_1=\left|2\right|+\left|3\right|+\left|4\right|=9$

• Maximum-Norm:

Definition: $\Vert \cdot {\Vert }_{max}:{ℝ}^n\to ℝ,\Vert x{\Vert }_{max}:=max\{\left|x_1\right|,\left|x_2\right|,\cdots ,\left|x_n\right|\}$

Bsp.: ${\left|\left(\begin{array}{c}2\\ 3\\ 4\end{array}\right)\right|}_{max}=max\{\left|2\right|,\left|3\right|,\left|4\right|\}=4$

Fehlerrechnung

• benötigt zur Berechnung des Fehlers von f, Aufstellen der Fehlerfunktion E zu f
• beschäftigt sich mit dem Einfluss von Messfehlern (Abweichungen der Messwerte von wahren Werten) auf das Messergebnis
• Bsp. anhand unserer Modellierung: Messfehler treten bei den Funktionswerten unserer Funktion f auf, da diese von den "perfekten" Zuordnungen abweichen.

quadratischer Fehler

• quadratische Differenz zwischen den berechneten Werten und den wahren Werten

$F(t_i)=(\left|(f(t_i)-z(t_i))\right|{)}^2$

• Gesamtfehler durch Berechnung der Summe der quadratischen Differenzen zwischen den berechneten Werten und den wahren Werten
• durch das Quadrieren: positiv und differenzierbar (-> Gradientenabstiegsverfahren)

Beispiel: quadratischer Fehler

• Bsp. für einen Wert:

$f(t_i)=\left(\begin{array}{c}2\\ 3\\ 4\end{array}\right)$, $z(t_i)=\left(\begin{array}{c}1\\ 0\\ 0\end{array}\right)$

$\begin{array}{cc}(|f(t_1)-z(t_1)|{)}^2& ={\left(|\left(\begin{array}{c}2\\ 3\\ 4\end{array}\right)-\left(\begin{array}{c}1\\ 0\\ 0\end{array}\right)|\right)}^2\\ & ={\left(\left|\left(\begin{array}{c}1\\ 3\\ 4\end{array}\right)\right|\right)}^2\\ & ={\left(\sqrt{1^2+3^2+4^2}\right)}^2=26\end{array}$

Fehlerfunktion

• Funktion zur Bestimmung des Fehlers einer ursprünglichen Funktion f
• Funktion bestehend aus der Summe der quadrierten Differenzen der Funktionswerte von f und der wahren Werte (-> quadratischer Fehler)
• feste Werte von f werden zu Variablen umgewandelt, damit diese Werte verbessert werden können (Fehler minimiert) -> Funktionswerte von f sollen dadurch so nah wie möglich an den wahren Werten liegen
• Funktionswert von E abhängig von den festen Werten von f

Prinzip der kleinsten Fehlerquadrate 1

• Verfahren zur Ausgleichsrechnung
• Ausgleichsrechnung: math. Optimierungsmethode, um Parameter einer Funktion bestimmen, um diese Funktion bestmöglich an wahre Werte anzunähern
• Bestimmen, ob die Funktion f ein guter Ersatz für eine Funktion ist, die die wahren Werte ausgibt.
• Bestimmen der Summe der Fehlerquadrate (-> quadratischer Fehler) -> darstellbar durch Funktion F
• je kleiner Summe der Fehlerquadrate, desto besser Funktion f zum approximieren der wahren Werte

Prinzip der kleinsten Fehlerquadrate 2

• Fehlerquadrate zeigen den Abstand des wahren Wertes vom Funktionswert f (euklidische Norm/Länge eines Vektors) -> je kürzer Fehlervektor, desto besser ist Funktion f

$\Vert (f(t_i)-z(t_i)){\Vert }_2=\sqrt{\sum _{i=1}^n|f(t_i)-z(t_i){|}^2}$

• Ziel: Erstellen eines Fehlervektors mit der Länge 0
• Idee: Verwendung der Differentialrechnung auf von Parametern abhängige Fehlerfunktion E (gibt Fehler der Funktion aus) um Fehlerquadrate zu minimieren

-> finden des Minimums der Funktion E

Gradientenabstiegsverfahren

• benötigt zur Optimierung der Funktion f (Minimierung des Fehlers)
• Verfahren, um Optimierungsprobleme zu lösen
• hier: Verfahren zum Finden des Minimums einer Funktion mehrerer Veränderlicher (mehrdimensional)

Gradientenabstiegsverfahren allgemein

• Einsetzbarkeit: zur Minimierung einer reellwertigen, differenzierbaren Funktion $f:{ℝ}^n\to ℝ$
• Optimierungsproblem: $\underset{x\in {ℝ}^n}{\mathrm{m}\mathrm{i}\mathrm{n}}f(x)$
• sehr langsame Konvergenz
• negativer Gradient zeigt in Richtung stärkster Abfall der Funktionswerte von f
• Annäherung an das Minimum in Schritten (Schrittweite wird festgelegt und muss bei Überspringen des Minimums möglicherweise verkleinert werden)

Vorgehen Gradientenabstiegsverfahren 1

• Abbruchbedingung: durch Iterationsschritte wird Stelle gefunden, an der der Gradient von f der Nullvektor ist
• Gradient ist nicht Nullvektor: Normierung des Gradienten auf Länge 1, multiplizieren mit Schrittweite α_j
• halbieren der Schrittweite, wenn nach dem Iterationsschritt Funktionswert nicht minimiert wird

Vorgehen Gradientenabstiegsverfahren 2

• Start: Auswählen einer Stelle x⁽⁰⁾ aus Definitionsbereich von f, für die das Minimum angenähert werden soll
• Richtung des steilsten Abstiegs: bestimmt durch $-Grad(f(x^{(j)}))\in {ℝ}^n$ (negativer Gradient von f an Stelle x)

-> stellt Richtungsvektor dar, der in Richtung des steilsten Abfalls zeigt -> in diese Richtung müssen Variablen verändert werden

• falls $-Grad(f(x^{(j)}))=0$ Abbruch des Verfahren (lokales Minimum gefunden)
• Normierung des Richtungsvektors: durch $d^{(j)}=-\frac{Grad(f(x^{(j)}))}{\Vert Grad(f(x^{(j)}))\Vert }:$ mit der euklidischen Norm $\Vert x\Vert :=\Vert (x_1,\dots ,x_n)\Vert :=\sqrt{\sum _{k=1}^n{x}_k^2}$

-> der Richtungsvektor erhält dadurch die Länge 1

Vorgehen Gradientenabstiegsverfahren 3

• Veränderung der x-Werte: $x^{(j+1)}=\{\begin{array}{cc}{x}^{(j)}+{\alpha }^{(j)}{d}^{(j)},& \text{wenn }f(x^{(j)}+{\alpha }^{(j)}{d}^{(j)})<f(x^{(j)})\text{ (Verbesserung) }\\ x^{(j)},& \text{sonst }\end{array}$

falls keine Optimierung des Funktionswertes durch Addition der x^(j) mit der Schrittweite multipliziert mit dem normierten Richtungsvektor entstanden ist: bleibt x^(j) im nächsten Iterationsschritt gleich, ansonsten wird x^(j) mit der Schrittweite multipliziert mit dem normierten Richtungsvektor addiert und bildet dadurch x^(j+1)

Vorgehen Gradientenabstiegsverfahren 4

• Festlegen der Schrittweite: Verwendung der anfangs gewählten Schrittweite α_j bis keine Optimierung des Funktionswertes mehr durch den Iterationsschritt entsteht -> dann Halbierung α_j

${\alpha }^{(j+1)}=\{\begin{array}{cc}{\alpha }^{(j)},& \text{wenn }f(x^{(j)}+{\alpha }^{(j)}{d}^{(j)})<f(x^{(j)})\text{ (Verbesserung) }\\ \frac{{\alpha }^{(j)}}{2},& \text{sonst }\end{array}$

(könnte auch anstatt einer Halbierung durch Multiplikation mit einem festgelegten Faktor $\delta$ ($0<\delta <1$) verändert werden)

Differentialrechnung

• Berechnung lokaler Veränderungen von Funktionen
• 1.Ableitung: gibt Steigung der Funktion an
• Ableitung der Funktion (entspricht Tangentensteigung im Punkt)
• Anwendung: Bestimmen von Extremwerten
• Bsp.: $f(x)=x^2+3x$

$f^{\prime }(x)=2x+3$

Ableitungsregeln

• Faktorregel: $f(x)=c*g(x)-->f^{\prime }(x)=c*g^{\prime }(x)$

Bsp.: $f(x)=2*x^3-->f^{\prime }(x)=6*x^2$

• Produktregel :$f(x)=g(x)*h(x)-->f^{\prime }(x)=g^{\prime }(x)*h(x)+g(x)*h^{\prime }(x)$

Bsp.: $f(x)=x^3*x^5-->f^{\prime }(x)=3x^2*x^5+x^3*5x^4=3x^7+5*x^7=8*x^7$

• Quotientenregel : $f(x)=\frac{g(x)}{h(x)}-->f^{\prime }(x)=\frac{h(x)*g^{\prime }(x)-g(x)*h^{\prime }(x)}{{h(x)}^2}$

Bsp.: $f(x)=\frac{x^3}{x^5}-->f^{\prime }(x)=\frac{x^5*3*x^2-x^3*5*x^4}{(x^5{)}^2}=\frac{3*x^7-5*x^7}{x^{10}}=-2x^{-3}$

• Kettenregel :$f(x)=g(h(x))-->f^{\prime }(x)=g^{\prime }(h(x))*h^{\prime }(x)$

Bsp.:$f(x)=(x^4+5{)}^2-->f^{\prime }(x)=2*(x^4+5)*4*x^3$

partielle Ableitung 1

• Ableitung Funktion $f:{ℝ}^n\to ℝ$, die von mehreren Veränderlichen abhängt
• "Festhalten" aller Veränderlicher bis auf eine Veränderliche x_i

-> Entstehung Funktion, die nur von einer Veränderlichen x_i abhängt

• Berechnung der Ableitung nach x_i, andere Veränderliche werden wie Konstanten behandelt

partielle Ableitung 2

• Bezeichnungen: $\frac{df}{d{x}_i}={𝒟}_{i}f=f_{x_i}={\delta }_{i}f$
• n Ableitungen pro Funktion möglich

-> "gesammelt" in einem Vektor: Gradient von f

$\mathrm{grad}(f)=\mathrm{\nabla }(f)={(\frac{df}{d{x}_1},\dots ,\frac{df}{d{x}_n})}^T={({𝒟}_{1}f,\dots ,{𝒟}_{n}f)}^T$

Beispiel: partielle Ableitung

$f(x_1,x_2)=x_1^2+2x_1{x}_2$

$({\delta }_{1}f)(x)=\frac{df}{d{x}_1}=2x_1+2x_2$

$({\delta }_{2}f)(x)=\frac{df}{d{x}_2}=2x_1$

Gradient

• Spaltenvektor, der alle partiellen Ableitungen einer Funktion f mit mehreren Veränderlichen enthält
• $\mathrm{grad}(f)=\mathrm{\nabla }(f)=\left(\begin{array}{c}\frac{\partial f}{\partial x_1}\\ ⋮\\ \frac{\partial f}{\partial a_n}\end{array}\right)$
• an Stelle x₀: $\mathrm{grad}(f)(x_0)=\mathrm{\nabla }(f)(x_0)=\left(\begin{array}{c}\frac{\partial f}{\partial x_1}(x_0)\\ ⋮\\ \frac{\partial f}{\partial x_n}(x_0)\end{array}\right)$
• zeigt in Richtung des stärksten Anstiegs

Beispiel: Gradient

$f(x_1,x_2)=x_1^2+2x_1{x}_2$

$({\delta }_{1}f)(x)=\frac{df}{d{x}_1}=2x_1+2x_2$

$({\delta }_{2}f)(x)=\frac{df}{d{x}_2}=2x_1$

$\mathrm{grad}(f)(x)=\mathrm{\nabla }(f)(x)=\left(\begin{array}{c}2x_1+2x_2\\ 2x_1\end{array}\right)$

Stelle $x_0=(2,3)$

$\mathrm{grad}(f)(2,3)=\mathrm{\nabla }(f)(2,3)=\left(\begin{array}{c}2\cdot 2+2\cdot 3\\ 2\cdot 2\end{array}\right)=\left(\begin{array}{c}10\\ 4\end{array}\right)$

Seiteninformation

Diese Lernresource können Sie als Wiki2Reveal-Foliensatz darstellen.

Wiki2Reveal

Dieser Wiki2Reveal Foliensatz wurde für den Lerneinheit Kurs:Mathematische_Modellbildung' erstellt der Link für die Wiki2Reveal-Folien wurde mit dem Wiki2Reveal-Linkgenerator erstellt.

• Die Seite wurde als Dokumententyp PanDocElectron-SLIDE erstellt.
• Link zur Quelle in Wikiversity: https://de.wikiversity.org/wiki/Kurs:Mathematische%20Modellbildung/Themen/Sprache%20und%20Semantische%20Netze/Mathematische%20Theorie
• siehe auch weitere Informationen zu Wiki2Reveal und unter Wiki2Reveal-Linkgenerator.