Kurs:Statistik für Anwender/Kurzvorstellung weiterer Hypothesentests

Kurzvorstellung weiterer Tests

Beispiele siehe R-Skript unter GitHub.
In diesem Kapitel sollen einige weitere Tests vorgestellt werden, die für gewisse Anwendungen relevant sind. Auf die konkrete (meist kompliziertere) Durchführung (d.h. Berechnung der Testsstatistik und des p-Werts) gehen wir nur kurz oder gar nicht ein. Unverzichtbar ist jedoch das Verständnis der zum jeweiligen Test gehörenden Nullhypothese.

Der Kolmogoroff-Smirnov-Test

Einstichprobenfall

Situation, Nullhypothese und Daten

Situation: Gegeben sei eine beliebige stetige ZV $X$.

Nullhypothese: $H_0:X$ ist nach $𝒱$ verteilt (Anpassungstest)
mit einer hypothetischen (genau festgelegten) stetigen Verteilung $𝒱$ mit Verteilungsfunktion $F=F_{𝒱}$

Benötigte Daten: Stichprobe $x_1,\dots ,x_n$

Teststatistik I

Teststatistik: Man bestimmt zunächst (in Abhängigkeit von $b\in ℝ$) die relative Häufigkeit der $X_j$, die $\le b$ sind, also
$$\hat{F}(b)=\frac{\text{Anzahl der}j\text{mit}{x}_j\le b}{n}$$
$(\hat{F}$ heißt empirische Verteilungsfunktion der Stichprobe $x_1,\dots ,x_n)$
und (zum Vergleich) die Wahrscheinlichkeit, dass $X\le b$ ist (falls $H_0$ gilt), also $$\text{Angenommen}{H}_0\text{gilt}\Rightarrow X\text{ ist nach}𝒱\text{ verteilt}$$
$$\Rightarrow P(X\le b)=F(b)$$

Teststatistik II

Die Teststatistik berechnet sich als die maximale Abweichung zwischen beiden Werten, also $$T^{\ast }=\max {\mathrm{\backslash limits}}_{b\in ℝ}|\hat{F}(b)-F(b)|(\text{also:}T\in ]0,1[)$$

Falls

$H_0$

gilt, erwartet man nur eine geringe Abweichung zwischen den relativen Häufigkeiten und den entsprechenden Wahrscheinlichkeiten. Damit spricht ein hoher Wert von

$T^{\ast }$

gegen

$H_0$

.

p-Wert

$p$-Wert: Die Berechnung des p-Werts aus der Teststatistik ist kompliziert, hängt aber nicht von $𝒱$ (sondern nur von $n$) ab. Man kann den $p$-Wert mit Hilfe von Tabellen (für kleine $n$) oder Näherungsformeln (für große $n$) bestimmen. Wir wollen hier aber nicht näher auf die Berechnung eingehen.

Durchführung in R

Durchführung in R: mit dem Befehl ks.test: Einlesen der Stichprobe in einen Vektor $x$ und dann beispielsweise

• $ks.test(x,pnorm,{\mu }_0,{\sigma }_0)$ falls $𝒱$ eine Normalverteilung (mit gegebenem EW ${\mu }_0$ und gegebener SA ${\sigma }_0$) ist

• $ks.test(x,pexp,{\lambda }_0)$ falls $𝒱$ eine Exponentialverteilung mit (gegebenem Parameter ${\lambda }_0$) ist

• $ks.test(x,punif,a_0,b_0)$ falls $𝒱$ eine Gleichverteilung auf $[a_0,b_0]$ ist ($a_0$ und $b_0$ gegeben)

• $ks.test(x,phyper,n_0,p_0)$ falls $𝒱$ eine Binomialverteilung mit gegebenem EW ${\mu }_0$ und gegebener SA ${\sigma }_0$ ist

Beispiel 1.1

Man testet die Nullhypothese
$H_0:X\text{ist exponentialverteilt zum Parameter}\lambda =0.04$
anhand der folgenden Stichprobe $x_1,\dots ,x_{60}$: $$\begin{array}{c}52.8311,18.7050,50.0990,12.6272,4.6685,10.4038,9.9887,10.0507,16.4959,17.9243,40.7252,17.3218,\\ 41.0517,10.6209,57.042322.3547,25.6696,81.8003,14.9732,19.5161,7.6403,15.2634,8.4399,51.6672,\\ 33.0068,24.1089,25.5034,21.9979,30.2195,21.51325.9978,31.4915,24.4649,29.6627,47.5908,7.7672,\\ 14.5258,29.6643,45.8296,24.1878,4.4035,20.9660,22.5832,37.7884,25.599276.1933,17.3663,33.2778,\\ 13.1282,14.3334,104.9793,19.0887,16.8213,10.9322,7.2543,19.9769,31.6827,21.6362,21.1531,23.3135\end{array}$$

Beispiel 1.2

Damit erstellt man nun einen Plot der empirischen Verteilungsfunktion

$\hat{F}$

zu dieser Stichprobe (schwarz) und zum Vergleich die hypothetische Verteilungsfunktion

$F$

(rot) falls

$H_0$

gilt, also:

$$F(b)=1-\exp (-0.04\cdot b)(\text{für}b\ge 0)$$

(vergleiche die Verteilungsfunktion einer exponentialverteilten ZV)

Beispiel 1.3

Beispiel 1.4

Die Teststatistik ergibt sich als maximaler (vertikaler) Abstand der beiden Funktionsgraphen, es ist $T^{\ast }=0.2127$ (im Bild grün eingezeichnet).
In R berechnet man diese Teststatistik und den $p$-Wert einfach mit $ks.test(x,pexp,0.04)$. Mit ${𝔭}^{\ast }=0.007334$ hat man hier ein hochsignifikantes Ergebnis, es ist als davon auszugehen, dass die Daten keiner Exponentialverteilung mit $\lambda =0.04$ entstammen.

Variante: Test auf bestimmte Verteilung I

Man kann in manchen Fällen den KS-Test auch als Test auf eine bestimmte Verteilungsart einsetzen (z.B. Test auf Normalverteilung oder Test auf Exponentialverteilung), wobei man vor Berechnung der Teststatistik die unbekannten Parameter aus der Stichprobe schätzen muss. In diesem Fall ändert sich allerdings die Verteilung der Teststatistik. Die Berechnung des $p$ -Werts ist dann abhängig von der hypothetischen Verteilungsart und kann sehr aufwändig werden. Für bestimmte hypothetische Verteilungsarten existieren Variationen des KS-Tests, z.B. der Lilliefors-Test zum Testen auf Normalverteilung.

Variante: Test auf bestimmte Verteilung II

Die Nullhypothese $H_0:F_X=F_{𝒱}$ ($F_X$: wahre Verteilungsfunktion von $X$, $F_{𝒱}$: hypothetische Verteilungsfunktion) kann ersetzt werden durch
$H_0:F_X\le F_{𝒱}$ in R: mit ks.test und der Option alternative=" greater"
$H_0:F_X\ge F_{𝒱}$ in R: mit ks.test und der Option alternative=" less"

Zweistichprobenfall

Situation, Nullhypothese und benötigte Daten

Situation: Gegeben seien zwei beliebige stetige ZV $X,Y$.

Nullhypothese:$H_0:X\text{und}Y\text{sind identisch verteilt}$ (Homogenitätstest)

benötigte Daten: unabhängige Stichproben $X_1,\dots ,X_{(n^X)}$ und $Y_1,\dots ,Y_{(n^Y)}$

Teststatistik

Teststatistik: Man bestimmt zunächst (in Abhängigkeit von $b\in ℝ$) für $X$ und $Y$ die relative Häufigkeit der Stichprobenwerte, die $\le b$ sind, also
$${\hat{F}}_X(b)=\frac{\text{Anzahl der}j\text{mit}{X}_j\le b}{n^X}\text{und}{\hat{F}}_Y(b)=\frac{\text{Anzahl der}j\text{mit}{Y}_j\le b}{n^Y}$$ (empirische Verteilungsfunktionen der beiden Stichproben)

Die Teststatistik berechnet sich als die maximale Abweichung zwischen beiden Werten, also $$T^{\ast }=T(X_1,\dots ,X_{(n^X)},Y_1,\dots ,Y_{(n^Y)})=\max {\mathrm{\backslash limits}}_{b\in ℝ}|{\hat{F}}_X(b)-{\hat{F}}_Y(b)|$$
$(\text{also:}T\in [0,1[)$. Falls $H_0$ gilt, erwartet man nur eine geringe Abweichung. Damit spricht ein hoher Wert von $T^{\ast }$ gegen $H_0$.

p-Wert und Durchführung in R

$p$-Wert: Die Verteilung von $T$ ist kompliziert. Man kann den $p$-Wert mit Hilfe von Tabellen (für kleine $n_X,n_Y$) oder Näherungsformeln (für große $n_X,n_Y$) bestimmen. Wir wollen hier aber nicht näher auf die Berechnung eingehen.

Durchführung in R: mit dem Befehl ks.test: Einlesen der Stichproben in Vektoren $x,y$ und dann $ks.test(x,y)$

Variante

Die Nullhypothese $H_0:F_X=F_Y$ ($F_X$ bzw. $F_Y$: wahre Verteilungsfunktion von $X$ bzw. $Y$) kann ersetzt werden durch
$H_0:F_X\le F_Y$ in R: mit ks.test und der Option alternative=" greater"
$H_0:F_X\ge F_Y$ in R: mit ks.test und der Option alternative=" less"

$$H_0:X\text{und}Y\text{sind unabhängig voneinander}$$ $$H_1:X\text{und}Y\text{sind nicht unabhängig voneinander}$$

Vorteile des KS-Tests

• auch für kleine Stichproben geeignet.
• verteilungsfrei (es muss keine Verteilungsart vorausgesetzt werden).
• in R implementiert.

Nachteile des KS-Tests

• recht aufwendig.
• anfällig gegenüber sogenannten "Bindungen". Treten in den Stichproben mehrfach dieselben Werte auf (z.B. künstlich erzeugt durch Runden), so liefert der KS-Test keine korrekten Resultate ($p$-Werte) mehr.
• für diskrete verteilte Größen nur noch bedingt einsetzbar: Die Berechnung des $p$-Werts wird möglicherweise ungenau, die Güte des Tests wird geringer und es treten häufig Probleme mit oben erwähnten Bindungen auf.

Der Shapiro-Wilks-Test

Situation: Gegeben sei eine beliebige stetige ZV $X$.

Nullhypothese:$H_0:X$ ist normalverteilt (Normalitätstest)

benötigte Daten: Stichprobe $x_1,\dots ,x_n$

Teststatistik und $p$-Wert: kompliziert und aufwendig, wir wollen hier nicht näher darauf eingehen

Durchführung in R: Einlesen der Stichprobe in einen Vektor $x$ und dann $shapiro.test(x)$

Beispiel

Da der Shapiro-wilks-Test vergleichbar mit dem Anpassungstest ist, kann auf dieses Beispiel zurückgegriffen werden und wird hier nicht weiter aufgeführt.

Vorteile des SW-Tests

• auch für kleine Stichproben gut geeignet (man erzielt insbesondere dann schon eine hohe Güte).
• verteilungsfrei (es muss keine Verteilungsart vorausgesetzt werden).
• in R implementiert.

Nachteile des SW-Tests

• sehr speziell (nur für die Normalverteilungshypothese einsetzbar).
• anfällig gegenüber ’Ausreißern’ (bei einigen extrem großen oder extrem kleinen Werten in der Stichprobe kann die Nullhypothese fälschlicherweise abgelehnt werden).
• anfällig gegenüber Bindungen.
• recht aufwendig (insbesondere für große $n$) und schwer verständlich.

Der Bartlett-Test

Situation und Nullhypothese

Situation: Gegeben seien $m$ normalverteilte ZV $X^{(1)},\dots ,X^{(m)}$.

Nullhypothese: $H_0:{\sigma }_1={\sigma }_2=\dots ={\sigma }_m$(’Dispersionsvergleich’)
Anmerkung: Die Varianzgleichheit ist für weitere Tests (insbesondere den noch folgenden F-Test) eine benötigte Voraussetzung. Mit einem Bartlett-Test kann dies vorab empirisch überprüft werden.

Benötigte Daten

$m$ unabhängige Stichproben $$\begin{array}{ccc}{x}_1^{(1)},x_2^{(1)},\dots ,x_{(n_1)}^{(1)}& \text{von}& X^{(1)}\left(\text{Länge:}{n}_1\right)\\ & & \\ x_1^{(2)},x_2^{(2)},\dots ,x_{(n_2)}^{(2)}& \text{von}& X^{(2)}\left(\text{Länge:}{n}_2\right)\\ & & \\ ⋮& ⋮& ⋮\\ & & \\ x_1^{(m)},x_2^{(m)},\dots ,x_{(n_m)}^{(m)}& \text{von}& X^{(m)}\left(\text{Länge:}{n}_m\right)\\ \text{HLINE TBD}& & \text{Gesamtstichprobenlänge:}n=\sum _{k=1}^m{n}_k\end{array}$$
Dabei sollte $n_k\ge 5$ für $k=1,\dots ,m$ gelten (Faustregel).

Teststatistik I

Man berechnet zunächst zu den einzelnen Stichproben:

• die arithmetischen Mittelwerte: $\overline{x^{(k)}}=\frac{1}{n_k}\cdot \sum _{i=1}^{n_k}{x}_i^{(k)}(k=1,\dots ,m)$
• die empirischen Varianzen $(s_k{)}^2=\frac{1}{n_k-1}\cdot \sum _{i=1}^{n_k}{(x_i^{(k)}-\overline{x^{(k)}})}^2(k=1,\dots ,m)$

Daraus erhält man die sogenannte mittlere quadratische Abweichung der Fehler (’mean squared error’):
$$\text{MSE}=\frac{1}{n-m}\cdot \sum _{k=1}^m\sum _{i=1}^{n_k}{(x_i^{(k)}-\overline{x^{(k)}})}^2=\frac{1}{n-m}\cdot \sum _{k=1}^m(n_k-1)s_k^2$$

Teststatistik II

Daraus berechnet sich mit $c=\frac{1}{3(m-1)}\cdot (\sum _{k=1}^m\frac{1}{n_k-1}-\frac{1}{n-m})+1$ die Teststatistik als
$$T^{\ast }=\frac{1}{c}\cdot ((n-m)\ln \left(\text{MSE}\right)-\sum _{k=1}^m(n_k-1)\ln ((s_k{)}^2))$$

p-Wert

$${𝔭}^{\ast }=1-S_{m-1}(T^{\ast })$$
Dabei ist $S_{m-1}$ die ${\chi }^2$-Verteilung mit $m-1$ Freiheitsgraden.

Durchführung in R

Einlesen der Stichproben in einen gemeinsamen Vektor x zusammen mit einem Faktor g (gleicher Länge), der angibt zu welcher Größe die jeweiligen Komponenten von x gehören. Dann: $$ bartlett.test(x ~ g)

Alternativ: Einlesen der einzelnen Stichproben in Vektoren, etwa x1,x2,$\dots$,xm und dann:$$ bartlett.test(list(x1,x2,$\dots$,xm))

Anmerkung

Der Bartlett-Test ist anfällig gegenüberber Verletzungen der Normalverteilungsannahme. Sind die Größen $X^{(1)},\dots ,X^{(m)}$ nicht normalverteilt, so liefert der Test keine korrekten Resultate ($p$-Werte).

Beispiel 1.1

Verschiedene Drahtsorten ($m=4$) werden auf Zugfestigkeit untersucht.

Wir nehmen an, dass die ZV $X^{(1)},X^{(2)},X^{(3)},X^{(4)}$, die die Zugfestigkeiten der verschiedenen Sorten beschreiben, normalverteilt mit den Standardabweichungen ${\sigma }_1,\dots ,{\sigma }_4$ sind und untersuchen zunächst die Nullhypothese $H_0:{\sigma }_1={\sigma }_2={\sigma }_3={\sigma }_4$

Beispiel 1.2

Man erhält folgende Daten (in $\frac{N}{m{m}^2}$): $$\begin{array}{cc}\text{HLINE TBD}\text{Sorte}& \text{Stichprobe}\\ 1& x_1^{(1)},\dots ,x_{n_1}^{(1)}:& 13.78& 11.27& 11.04& 10.64& 9.07& 11.02& & \\ 2& x_1^{(2)},\dots ,x_{n_2}^{(2)}:& 3.43& 10.54& 5.12& 7.42& 7.94& 11.46& 13.11& 14.91\\ 3& x_1^{(3)},\dots ,x_{n_3}^{(3)}:& 12.50& 11.88& 8.71& 9.81& 15.66& 1.70& 11.80& 14.13\\ 4& x_1^{(4)},\dots ,x_{n_4}^{(4)}:& 13.81& 10.82& 11.71& 11.53& 5.51& & & \\ \text{HLINE TBD}\end{array}$$
Damit berechnet sich der $p$-Wert als ${𝔭}^{\ast }=0.1803$, es liegt also kein signifikantes Ergebnis vor.

Der Kruskal-Wallis-Rangsummentest

Situation, Nullhypothese und benötigte Daten

Situation: Gegeben seien $m$ beliebige ZV $X^{(1)},\dots ,X^{(m)}$.

Nullhypothese: $H_0:X^{(1)},\dots ,X^{(m)}$ sind identisch verteilt (’Homogenitätstest’)

benötigte Daten: $m$ unabhängige Stichproben zu $X^{(1)},\dots ,X^{(m)}$

Teststatistik und p-Wert

Dies wollen wir an dieser Stelle nicht ausführen.
Man beachte aber, dass zur Durchführung des Tests nur die ’Ränge’ der Stichprobenwerte verwendet werden. Die Differenzen zwischen den Werten beeinflussen das Testergebnis nicht. Daher ist der Kruskal-Wallis-Test auch für ZV geeignet, deren Ausprägungen nur ordinalskaliert sind.

Durchführung in R

Einlesen der Stichproben in einen gemeinsamen Vektor x zusammen mit einem Faktor g (gleicher Länge), der angibt zu welcher Größe die jeweiligen Komponenten von x gehören. Dann: kruskal.test(x,g)

Alternativ: Einlesen der einzelnen Stichproben in Vektoren, etwa x1,x2,$\dots$,xm und dann: kruskal.test(list(x1,x2,...,xm))

Dixon’s Q-Test

Mit dem Dixon’s $Q$-Test können Ausreißer identifiziert werden. Dieser Test soll unter anderem laut Dixon sparsam und maximal einmal pro Datensatz verwendet werden und kann für beide Seiten gleichermaßen verwendet werden.

Situation, Nullhypothese und Teststatistik

Situation: Gegeben sei eine normalverteilte ZV $X$.
Nullhypothese: $H_0:x_i\text{ist ein Ausreißer.}$
Benötigte Daten: Geordnete Datenreihe $x_1,...,x_n$ mit $n$ Elementen.
Teststatistik $Q^{\ast }$: Für die Teststatistik $Q^{\ast }$ wird die absolute Differenz zwischen dem zu untersuchenden Wert $x_i$ und dem nächsten Wert (da geordnete Datenreihe $x_{i+1}$ oder $x_{i-1}$) bestimmt und anschließend durch die Spannweite $S(X)$ geteilt.
$$Q^{\ast }=\frac{\min (|x_i-x_{i+1}|,|x_i-x_{i-1}|)}{|x_n-x_1|}$$

Verwerfen der Hypothese

Gilt $Q^{\ast }<Q_{\text{Tabelle}}$, so kann $H_0$ abgelehnt werden (d.h. $x_i$ ist kein Ausreißer). $Q_{\text{Tabelle}}$ erhält man abhängig von der Stichprobengröße $n$ und dem Konvidenzniveau $\delta$ aus der entsprechenden Tabelle. $$\begin{array}{ccccccccc}\text{n}& 3& 4& 5& 6& 7& 8& 9& 10\\ \text{Q 90}& 0.941& 0.765& 0.642& 0.560& 0.507& 0.468& 0.437& 0.412\\ \text{Q 95}& 0.970& 0.829& 0.710& 0.625& 0.568& 0.526& 0.493& 0.466\\ \text{Q 99}& 0.994& 0.926& 0.821& 0.740& 0.680& 0.634& 0.598& 0.568\end{array}$$

Beispiel

Stichprobe mit $n=10$ Werten und Konvidenznveau $\delta =0.95$:
$$0.167,0.177,0.181,0.181,0.182,0.183,0.184,0.186,0.187,0.189$$ $H_0:x_1=0.167$ ist ein Ausreißer.
$H_0$ kann abgelehnt werden - $x_1$ ist somit kein Ausreißer.

Seiteninformation

Diese Lernresource können Sie als Wiki2Reveal-Foliensatz darstellen.

Wiki2Reveal

Dieser Wiki2Reveal Foliensatz wurde für den Lerneinheit Kurs:Statistik für Anwender' erstellt der Link für die Wiki2Reveal-Folien wurde mit dem Wiki2Reveal-Linkgenerator erstellt.

• Die Seite wurde als Dokumententyp PanDocElectron-SLIDE erstellt.
• Link zur Quelle in Wikiversity: https://de.wikiversity.org/wiki/Kurs:Statistik%20f%C3%BCr%20Anwender/Kurzvorstellung%20weiterer%20Hypothesentests
• siehe auch weitere Informationen zu Wiki2Reveal und unter Wiki2Reveal-Linkgenerator.