Mehrdimensionale lineare Regression/Gesamtfehler aller Fehlerfunktionen

Einleitung

In den ersten Abschnitten der Lernressource wurde eine lineare Abbildung $f_A(x):=A\cdot x\in {ℝ}^m$ mit $A\in Mat(m\times n,ℝ)$ und $x\in {ℝ}^n$ in lineare Funktionale der Form $f_{a_k}(x):=⟨a_k,x⟩\in ℝ$ zerlegt und für diese linearen Funktionale $f_{a_k}$ mit $k\in \{1,\dots m\}$ eine lineare Regression durchgeführt.

Fehler pro Matrixzeile

Insgesamt trägt jede Matrixzeile durch den Fehler von $f_{a_k}(x):=⟨a_k,x⟩\in ℝ$ für jedes $k\in \{1,\dots m\}$ zum Gesamtfehler der mehrdimensionale linearen Regression der linearen Abbildung $f_A(x):=A\cdot x\in {ℝ}^m$ bei.

Unabhängige Regression für die Matrixzeilen

Die lineare Regression für $f_{a_k}(x):=⟨a_k,x⟩\in ℝ$ können für jedes $k\in \{1,\dots m\}$ getrennt betrachtet werden, da die Koeffizienten der Matrix $A$ in Abhängigkeit von dem Zeilenindex $k\in \{1,\dots m\}$ nur auf die $k$-te Ausgabekomponente über das Skalarprodukt wirken.

Gesamtfehler des mehrdimensionalen Regression

Für die Berechnung des Gesamtfehlers der muss man die quadratischen Fehler über alle Datenpunkte aggregrien. Die Daten $𝔻$ für die mehrdimensionale lineare Regression bestehen aus Datenpunkten der Form $(x^{(i)},y^{(i)})\in {ℝ}^n\times {ℝ}^m$:

$𝔻:=\{(x^{(i)},y^{(i)})\in {ℝ}^n\times {ℝ}^m:i\in \{1,\dots ,d\}\}$

Daten der Komponentenfunktionen

Die gesamten Daten $𝔻$ werden nun entsprechend Komponente $k\in \{1,\dots m\}$ aus dem Wertebereich der linearen Abbildung ${ℝ}^m$ in $m$ Trainingsdaten ${𝔻}_k$ für den Komponentenfunktionen $f_{a_k}$ zerlegt, wobei jeweils aus $y^{(i)}=(y_1^{(i)},\dots ,y_m^{(i)})\in {ℝ}^m$ die $k$-Komponente $y_k^{(i)}$ verwendet wird.

${𝔻}_k:=\{(x^{(i)},y_k^{(i)})\in {ℝ}^n\times ℝ:i\in \{1,\dots ,d\}\}$

Berechnung für die Komponenten Funktion

Durch die Zerlegung in Komponentenfunktionen minimiert man den Fehler für jeden Zeile der Matrix separat. Der folgende Gesamtfehler bezieht sich daher auf die Funktion $f_a(x):=⟨a,x⟩$ für ein gesuchtes $a\in {ℝ}^n$ mit minimalem Gesamtfehler für die Daten $𝔻$.

Aggregierter Gesamtfehler der Komponentenfunktionen

Für die Berechnung des Gesamtfehlers bzgl. einer Matrix $A$ erfolgt über die Zerlegung von $f_A$ werden in die Komponentenfunktionen $f_{a_k}$ und der Aggregation der Einzelfehler $E_{LR}(a_k,x_{{𝔻}_k},y_{{𝔻}_k})$ durch Summation über aller Matrixzeilen $k\in 1,\dots m$.

$\begin{array}{ccc}{E}_{MLR}(A,x_{𝔻},y_{𝔻})& :=& \sum _{k=1}^m{E}_{LR}(a_k,x_{{𝔻}_k},y_{{𝔻}_k})\\ & =& \sum _{k=1}^m\sum _{i=1}^{d}e(a,x^{(i)},y_k^{(i)}{)}^2\\ & =& \sum _{k=1}^m\sum _{i=1}^d{(⟨a,x^{(i)}⟩-y_k^{(i)})}^2\end{array}$

Dimension der Daten

Die Zerlegung von $f_A$ in die Komponentenfunktionen $f_{a_k}$ verändert in der obigen Notation nur die Dimension der Daten im Wertebereich der linearen Abbildung, denn mit $(x^{(i)},y^{(i)})\in 𝔻\subset {ℝ}^n\times {ℝ}^m$ gilt $x_{𝔻}=(x^{(1)},\dots ,x^{(d)})=x_{{𝔻}_k}$ aber $y_{𝔻}=(y^{(1)},\dots ,y^{(d)})\in {ℝ}^{d\cdot m}$ und $y_{{𝔻}_k}=(y_k^{(1)},\dots ,y_k^{(d)})\in {ℝ}^d$.

Siehe auch

• Kurs:Maschinelles Lernen
• Umsetzung der mehrdimensionalen linearen Regression in R
• GNU R - Regression

Seiteninformation

Diese Lernresource können Sie als Wiki2Reveal-Foliensatz darstellen.

Wiki2Reveal

Dieser Wiki2Reveal Foliensatz wurde für den Lerneinheit Mehrdimensionale lineare Regression' erstellt der Link für die Wiki2Reveal-Folien wurde mit dem Wiki2Reveal-Linkgenerator erstellt.

• Die Seite wurde als Dokumententyp PanDocElectron-SLIDE erstellt.
• Link zur Quelle in Wikiversity: https://de.wikiversity.org/wiki/Mehrdimensionale%20lineare%20Regression/Gesamtfehler%20aller%20Fehlerfunktionen
• siehe auch weitere Informationen zu Wiki2Reveal und unter Wiki2Reveal-Linkgenerator.