Grenzwertsätze

Gesetz der großen Zahlen

Vorbemerkung

Gesetze der großen Zahlen haben die Konvergenz von $\frac{1}{n}((X_1-{\mu }_1)+...+(X_n-{\mu }_n))$ gegen 0 zum Inhalt, wenn $X_1,X_2,...$ eine Folge von Zufallsvariablen ist und ${\mu }_i=E(X_i)$.

Beispiel

Sind $X_1,X_2,...$ unabhängige, $B(n,p)$-verteilte Zufallsvariablen, so vermutet man eine Konvergenz von $\frac{1}{n}\sum _{i=1}^n{X}_i$ ('relative Häufigkeit') gegen $p$ ('Auftrittswahrscheinlichkeit'). Dabei müssen Konvergenzbegriffe der Stochastik eingeführt werden.

Definition

Wir sagen, dass eine Folge $Y_1,Y_2,...$($X_1,X_2,...$) von Zufallsvariablen (auf einem Wahrscheinlichkeitsraum $(\mathrm{\Omega },𝒮,P)$)
a) stochastisch gegen eine Zufallsvariable Y konvergiert, falls

$\mathrm{\forall }ϵ>0:P(|Y_n-Y|\ge E)\to 0,(n\to \mathrm{\infty })$

gilt. Man schreibt dafür $Y_n\stackrel{P}{\to }Y$.

b) mit existierendem Erwartungswert ${\mu }_i=E(X_i)$ das schwache Gesetz der großen Zahlen erfüllt, falls eine Folge

$Y_n=\frac{1}{n}[(X_1-{\mu }_1)+...+(X_n-{\mu }_n)],n=1,2,...$

von Zufallsvariablen stochastsich gegen 0 konvergiert.

$Y_n\stackrel{p}{\to }0$

Schwaches Gesetz der großen Zahlen (Satz)

Sind $X_1,X_2$ paarweise unkorrelierte Zufallsvariablen (auf dem Wahrscheinlichkeitsraum $(\mathrm{\Omega },𝒮,P)$) mit $X_i\in {ℒ}_2$ und mit $\frac{1}{n^2}\sum _{i=1}^{n}Var(X_i)\to 0$, ($n\to \mathrm{\infty }$), so erfüllt diese Folge $X_1,X_2,...$ das schwache Gesetz der großen Zahlen.

Beweis

Für die Zufallsvariablen $Y_n=\frac{1}{n}\sum (X_i,{\mu }_i)$ gilt $E{Y}_n=0$ und $Var(Y_n)=\frac{1}{n^2}\sum _{i=1}^{n}Var(X_i)\to 0$, ($n\to \mathrm{\infty }$) liefert die Tschebyscheff-Ungleichung

$P(|Y_n=E(Y_n)|\ge ϵ)\le \frac{Var(Y_n)}{{ϵ}^2}\to 0,$ ($n\to \mathrm{\infty }$)

Korollar

Sind $X_1$ und $X_2$ unabhängige Zufallsvariablen aus ${ℒ}_2$ mit gleichmäßig beschränkten Varianzen (d.h. $Var(X_i)\le M<\mathrm{\infty }$ $\mathrm{\forall }i=1,2,...$), dann erfüllt dies Folge das schwache Gesetz der großen Zahlen.

Beispiel

Ist $X^n=X_1+...+X_n$ $B(n,p)$-verteilt ($X_1,X_2,...$ unabhängig $B(1,p)$-verteilt), so gilt:

$\frac{1}{n}{X}^n\stackrel{P}{\to }{p}^{\prime }$

Umgangssprachlich: die relativen Häufigkeiten des Ereignisses '1' konvergieren stochastisch gegen $w$.

Bemerkung

Die stochstische Konvergenz stellt einen relativ schwachen Konvergenzbegriff dar. So braucht für kein $w\in \mathrm{\Omega }$ gewöhnliche Konvergenz $Y_n(w)\to Y(w)$, ($n\to \mathrm{\infty }$), stattzufinden, wie das folgende Beispiel zeigt.

Beispiel (1)

Sei $(\mathrm{\Omega },𝒰,P)=([0,1],[0,1]\cap {ℬ}^1,\text{Gleichverteilung})$. Man definiere die Folge $Y_n=1_{A_n},n\ge 1$, durch
$A_n=\{w\to [0,1]:\mathrm{\exists }m\in \mathbb{N}\text{mit}w+m\to [a_{n-1},a_n]\}$,

wobei $A_0=0$ und $a_n=1+\frac{1}{2}+...+\frac{1}{n}$, ($w\in [a_{n-1},a_n]\text{mod}1$).

Beispiel (2)

Es gilt

1. $Y_n\stackrel{P}{\to }0$, denn für $ϵ\in (0,1)$ ist $P(|Y_n-0|>ϵ)=P(Y_n=1)=P(A_n)=\frac{1}{n}\to 0$.

2. Die Folge $Y_n(w)$ konvergiert für kein $w\in [0,1]$, wegen der Konvergenz der harmonischen Reihe.

Der Konvergenzberiff $Y_n(w)=Y(w)$ $\mathrm{\forall }w\in \mathrm{\Omega }$ ist für die Stochastik unbrauchbar. So ist für $Y_n=\frac{1}{n}{X}^n$, $X^n$ $B(n,p)$-verteilt:

$Y_n(w)$ nicht konvergent für viele $w$.

Wir nehmen die Sprechweise wieder auf: Eine Aussage gilt '$P$ fast überal' oder '$P$ fast sicher' (synonym), wenn die Menge $A$ aller $w$ für die die Aussage richtig ist, die Wahrscheinlichkeit 1 hat: $P(A)=1$.

Definition

a) Eine Folge $Y_1,Y_2,...$ von Zufallsvariablen (auf einem Wahrscheinlichkeitsraum $(\mathrm{\Omega },𝒮,P)$) konvergiert fast sicher gegen die Zufallsvariable $Y$, falls

$P\{w:li{m}_{n\to \mathrm{\infty }}{Y}_n(w)=Y(w)\}=1.$

Man schreibt kürzer: $P(li{m}_n{Y}_n=Y)=1$ bzw. $Y_n\to Y$ $P$ fast sicher.

b) Man sagt, dass eine Folge $X_1,X_2,...$von Zufallsvariablen auf $(\mathrm{\Omega },𝒮,P)$ mit existierenden Erwartungswerten ${\mu }_i\equiv E(X_i)$ das starke Gesetz der großen Zahlen erfüllt, falls die Folge $Y_n=\frac{1}{n}[(X_1-{\mu }_1)+...+(X_n-{\mu }_n)]$, $n=1,2,...$, $P$-f.s. gegen 0 konvergiert: $Y_n\to 0$ $P$-f.s.

Bemerkung

Aus $Y_n\to Y$ $P$-f.s. folgt $Y_m\stackrel{P}{\to }Y$ (ohne Beweis). Das obige Beispiel zeigt, dass die Umkehrung nicht (vereinfachtes Beispiel siehe später) gilt. Das wichtigste Hilfsmittel zum Beweis eines starken Gesetzes der großen Zahlen ist das folgende Lemma von Borel-Cantelli, das auch sonst wichtig ist.

Lemma (von Borel-Cantelli)

Sei $(\mathrm{\Omega },𝒰,P)$ ein Wahrscheinlichkeitsraum und $A_1,A_2,...$ eine Folge von Ereignissen aus $𝒰$. Sei $A^{*}$ das Ereignis, dass unendlich viele der $A$'s eintreten:

$A^{*}=\{w\in \mathrm{\Omega }:w\in A_i;\text{für unendlich viele}i\in \mathbb{N}\}$

a) Gilt $\sum _{i=1}^{\mathrm{\infty }}P(A_i)\le \mathrm{\infty }$, dann ist $P(A^{*})=0$.

b) Sind die $A_1,A_2,...$ unabhängig und ist $\sum _{i=1}^{\mathrm{\infty }}$, dann ist $P(A^{*})=1$.

Beweis (1)

a) Es ist $w\in A^{*}$ genau dann, wenn es $\mathrm{\forall }n\in \mathbb{N}$ ein $i\ge n$ gibt, $w\in A_i$. D.h.

$A^{*}=\bigcap _{n=1}^{\mathrm{\infty }}\bigcup _{i\ge n}{A}_i.$

Da $A^{*}\subset {\cup }_{i\ge n}{A}_i$ für jedes $n\in \mathbb{N}$ ist, gilt:

$P(A^{*})=P(\bigcup _{i\ge n}{A}_i\le \sum _{i\ge n}P(A_i)\to 0$

für $n\to \mathrm{\infty }$.

Beweis (2)

b) Wir benutzen die Ungleichung $1-x\le e^{-x},\mathrm{\forall }x\in ℝ$ und die Unabhängigkeit der ${\overline{A}}_1,{\overline{A}}_2,...$. Es gilt für alle $n$ und $N\ge n$:

$P(\bigcap _{i=1}^{\mathrm{\infty }}{\overline{A}}_i)\le P(\bigcap _{i=n}^N{\overline{A}}_i)={\mathrm{\Pi }}_{i=n}^N(1-P(A_i)\le {\mathrm{\Pi }}_{i=n}^N{e}^{-P(A_i)}=exp(-\sum _{i=n}^{N}P(A_i))\to 0$

für $N\to \mathrm{\infty }$, wegen der Divergenz der Reihe. Also $P({\overline{A}}_i)=0$ für jedes $n$:

$P({\overline{A}}_i^{*})=P(\bigcup _{n=1}^{\mathrm{\infty }}\bigcap _{i\ge n}{\overline{A}}_i)\le \sum _{n=1}^{\mathrm{\infty }}P(\bigcap {\overline{A}}_i)=0$

d.h. $P(A^{*})=1$.

Bemerkungen (1)

1. Teil b) rechtfertigt den populären Ausdruck: "Ein Ereignis, das (mit positiver Wahrscheinlichkeit) eintreten kann, tritt mit ($P$)- Sicherheit einmal ein (sogar beliebig oft), wenn nur genügend (unabhängige) Versuche durchgeführt werden".

2. Teil b) lässt sich als weiteres Beispiel einer Folge $Y_n,n\ge 1$ angeben, die stochastisch konvergiert, aber nicht fast sicher. Seien $Y_1,Y_2,...$ unabhängige $B(1,\frac{1}{n})$-verteilte Zufallsvariablen. Dann gilt $Y_n\stackrel{P}{\to }0$, denn für ein $0<ϵ<1$ ist $P(|Y_n|>ϵ)=P(Y_n=1)=\frac{1}{n}\to 0$, ($n\to \mathrm{\infty }$).

Bemerkungen (2)

3. Anderseits konvergiert die Folge für $P$ fast alle $w^2$ nicht! Denn wegen $\sum _{n}P(Y_n=1)=\sum _n\frac{1}{n}\to \mathrm{\infty }$ folgt

$P(limsup{Y}_n=1)=mp(A^{*})=1$

und wegen $\sum _{n}mp(Y_n=0)=\sum _n(1-\frac{1}{n})=\mathrm{\infty }$ folgt

$P(liminf{Y}_n=0)=mp(B^{*})=1.$

Starkes Gesetz der großen Zahlen (Satz)

Bilden $X_1,X_2,...$ eine Folge paarweise unkorrelierter Zufallsvariablen auf einem Wahrscheinlichkeitsraum $(\mathrm{\Omega },𝒰,P)$, aus ${ℒ}_2$ mit beschränkter Varianz (d.h. $Var(X_i)\le M<\mathrm{\infty }$ für alle $i$), so erfüllt die Folge das starke Gesetz der großen Zahlen.

Beweis (1)

Definiere $Y_n=\frac{1}{n}\sum _{i=1}^{n}X{\text{'}}_i$, $X{\text{'}}_i=X_i-E(X_i)$.

Wir zeigen zunächst, dass $Y_{n^2}=\frac{1}{n^2}\sum _{i=1}^{n^2}X{\text{'}}_i\to 0$ $P$-f.s.

Gemäß der Formel von Bienaymé ist

$Var(Y_{n^2})=\frac{1}{n^4}\sum _{i=k}^{n^2}Var(X_i)\le \frac{1}{n^2}M$

so dass Tschebyschoff für alle $ϵ>0$ und für die Menge $A_k^{ϵ}=\{w:|Y_{n^2}(w)|\ge ϵ\}$ gilt:

$P(A_k^{ϵ})\le \frac{1}{ϵ}Var(Y_{n^2})\le \frac{M}{n^2{ϵ}^2}$

sowie

$\sum _{n=1}^{\mathrm{\infty }}P(A_n^{ϵ})<\mathrm{\infty }.$

Beweis (2)

Borel-Cantelli-Lemma Teil a) liefert für $A^{*ϵ}=\{w:|Y_{n^2}(w)|\ge ϵ$, für $\mathrm{\infty }$ viele $n\}$:

$P(A^{*ϵ})=0$

Es folgt:

$P(\bigcup _{k=1}^{\mathrm{\infty }}{A}^{*\frac{1}{k}})\le \sum _{k=1}^{\mathrm{\infty }}P(A^{*\frac{1}{k}}=0$ bzw.

$P(\bigcap _{k=1}^{\mathrm{\infty }}{A}^{*\frac{1}{k}})=1,$

denn für $w\in \bigcap _{k=1}^{\mathrm{\infty }}{A}^{*\frac{1}{k}}$ gilt $Y_{n^2}(w)\ge \frac{1}{k}$ nur für endliche viele $n$ (für alle $k$), d.h. für $P$ fast sicher (für alle $w$) gilt: $\mathrm{\forall }ϵ>0\mathrm{\exists }{m}_0=m_0(w,ϵ)$, so dass

(*) $|Y_{n^2}(w)|\le ϵ\mathrm{\forall }{n}^2\ge m_0.$

Beweis (3)

Für beliebige $m\in \mathbb{N}$ sei $n=n(m)$ diejenige natürliche Zahl, für welche $n^2\le m<(n+1{)}^2$ ist. Mit analogen Methoden wie in (1) zeigt man für die Menge

$B^{*ϵ}=\{w:|\frac{m}{n^2}{>}_m(w)-Y_{n^2}(w)|\ge ϵ\text{ für}\mathrm{\infty }\text{ viele}m\}$

dass

$P(\bigcap _{n=1}^{\mathrm{\infty }}{B}^{*ϵ})=1$

Folglich gilt für $P$ fast sicher: $\mathrm{\forall }ϵ>0\mathrm{\exists }{m}_0\equiv m_0(w,ϵ)$ mit

(**) $|\frac{m}{n^2}{Y}_m(w)-Y_{n^2}(w)|\le ϵ$ für alle $m\le m_0.$

Beweis (4)

Die beiden Gleichungen (*) und (**) liefern für $P$ fast sicher: $\mathrm{\forall }ϵ>0\mathrm{\exists }{m}_0\equiv m_{=}(w,ϵ)$ mit

$|Y_m(w)|\le \frac{m}{n^2}|Y_m(w)|\le |\frac{m}{n^2}{Y}_m(w)-Y_{n^2}(w)|+|Y_{n^2}(w)|\le 2ϵ$

für alle $m\ge m_0$. Das heißt aber $Y_n\to 0$ $P$ fast sicher.

Bemerkung

Entsprechend der starken Aussage benötigt der Satz auch eine stärkere Voraussetzung als der Satz zum schwachen Gesetz der großen Zahlen.

Beispiel

Ist $X^n$ $B(n,p)$-verteilt, so gilt $\frac{1}{n}{X}^n\to p$ $P$ fast sicher. Hierdurch wird die Aussage des Beispiels zum schwachen Gesetz der großen Zahlen verbessert. Dieses Ergebnis bestätigt die Brauchbarkeit unseres wahrscheinlichkeitstheoretischen Konzeptes. Es präzisiert die Intuition, dass sich für große $n$ annähert.

$\frac{1}{n}(X^n)$ beobachte relative Häufigkeit eines Ereignisses an $p$ (axiomatisch eingeführte Wahrscheinlichkeit der Ereignisse).

Zentrale Grenzwertsätze

In diesem Abschnitt Verallgemeinerung (und Beweis) des Grenzwertsatzes von DeMoivre-Laplace auf Summen unabhängiger, identisch verteilter Zufallsvariablen (anstatt nur unabhängige Bernoullivariablen). Der Beweis zum zentralen Grenzwertsatz von Lindberg-Lexy (später) benutzt einen Stetigkeitssatz für charakteristische Funktionen und einen dritten Konvergenzbegriff ('Verteilungskonvergenz').

Definition

Seien $X_1,X_2,...$ Zufallsvariablen aus ${ℒ}_2$. Man sagt, dass diese Folge den zentralen Grenzwertsatz erfüllt, falls für die Standardisierten der Partialsummen $S_n=X_1+...+X_n$ mit

$S_n^{*}=\frac{S_n-E(S_n)}{\sqrt{Var(S_n)}}$ ($\equiv$ Standardisieren) gilt:

$li{m}_{n\to \mathrm{\infty }}P(a<S_n\le b)\to \mathrm{\Phi }(b)-\mathrm{\Phi }(a)\mathrm{\forall }a<b;a,b\in ℝ$

Dabei ist $\mathrm{\Phi }(x),x\in ℝ$, die Verteilungsfunktion der $N(0,1)$-Verteilung. Es reicht, $li{m}_{n\to \mathrm{\infty }}P(S_n^{*}\le x)=\mathrm{\Phi }(x)\mathrm{\forall }x\in ℝ$ zu zeigen.

Bemerkungen (1)

1. Die Gültigkeit des zentralen Grenzwertsatzes eröffnet die Möglichkeit, unter Umständen nicht (oder nur schwer) berechenbare Wahrscheinlichkeiten $P(a<S^{*}\le b)$ durch die Werte der $N(0,1)$-Verteilung zu approximieren.

2. Sind $X_1,X_2,...$ unabhängig, mit identischen Erwartungswerten $\mu =E(X_i)$ und identischen Varianzen ${\sigma }^2=Var(X_i)$, so wird aus der Standardisierten oben

$S_n^z=\frac{S_n-n\mu }{\sqrt{n}\sigma }=\frac{1}{\sqrt{n}}\sum _{i=1}^n(\frac{X_i-\mu }{\sigma })=\sqrt{n}\frac{{\overline{X}}_n-\mu }{\sigma }\ne {\overline{X}}_m=\frac{1}{n}\sum _{i=1}^n{X}_i.$

Bemerkungen (2)

3. Um einen zentralen Grenzwertsatz zu beweisen, müssen wir zeigen:

$F_n^{*}(x)\to \mathrm{\Phi }(x),\mathrm{\forall }x\in ℝ,n\to \mathrm{\infty }$

wenn $F_n^{*}(x)$ die Verteilungsfunktion von $S_n^{*}(x)$ ist.

Diese Aussage stellt einen dritten Konvergenzbegriff dar (Verteilungskonvergenz).

Allgemein wird Folgendes definiert:

Verteilungskonvergenz (Definition)

Eine Folge $Y_n,n\ge 1$ von Zufallsvariablen heißt Verteilungskonvergenz gegen die Zufallsvariable $Y_0$, falls bei $n\to \mathrm{\infty }$

$F_n(x)\to F_0(x)\mathrm{\forall }x\in 𝒞(F_0),$

dabei bezeichnet $F_n$ und $F_0$ die Verteilungsfunktion von $Y_n$ und $F_0$ und $𝒞(F_0)\subset ℝ$ die Menge alle Stetigkeitsstellen von $F_0$. Man schreibt kurz:

$Y_n\stackrel{𝒟}{\to }Y$

(oder auch $Y_n\stackrel{ℬ}{\to }Y$), wobei $𝒟$ hier 'Distribution' bedeutet.

Bemerkungen (1)

1. Der Begriff der Verteilungskonvergenz verlangt nicht, das alle $Y_n,Y_0$ auf demselben Wahrscheinlichkeitsraum definiert sind.

2. Für stetige Verteilungsfunktionen $F_0$, wie zum Beispiel $\mathrm{\Phi }$ ist $𝒞(F_0)=ℝ$. Die Forderung

$F_n(x)\to F_0(x)\mathrm{\forall }x\in ℝ$

erweist sich als zu restriktiv.

Bemerkungen (2)

So gilt im folgenden Beispiel diese Forderung nicht, sondern lediglich jene aus der Definition. $Y_n,Y_0$ seien 'entartete' Zufallsvariablen mit $P(Y_n=\frac{1}{n})=1,P(Y_0\to 0)=1$.

Für $F_n(x)=1_{[\frac{1}{n},\mathrm{\infty }[}$ und $F_0(x)=1_{[0,\mathrm{\infty })}$ gilt:

$𝒞(F_0)=ℝ\setminus \{0\}$ und $\lim F_n(x)=\{\begin{array}{cc}1,& x>0\\ 0,& x<0\end{array}=F_0(x)$

Bei $x=0$ gilt: $0=li{m}_{n\to \mathrm{\infty }}{F}_n(x)\ne F_0(0)=1$

3. Der nächste Satz zeigt, dass aus stochastischer Konvergenz die Verteilungskonvergenz folgt. Zusammen mit der Konvergenz von Folgen von Zufallsvariablen folgt: $Y_n\to Y$ $P$ fast sicher $\Rightarrow Y_n\stackrel{P}{\to }{Y}_0\to Y_n\stackrel{𝒟}{\to }{Y}_0$.

Satz

Sind $Y_n,n\ge 1$, und $Y_0$ Zufallsvariablen (auf einem Wahrscheinlichkeitsraum $(\mathrm{\Omega },𝒰,P)$), mit $Y_n\stackrel{P}{\to }{Y}_0$, so gilt $Y_n\stackrel{𝒟}{\to }{Y}_0$.

Beweis

Sei $x\in ℝ$ und $ϵ>0$ beliebig. Dann folgt aus der Alternative "$Y_0-Y_n{Y}_{ϵ}$" die Inklusion

$\{w:Y_n(w)\le x\}\subset \{w:Y_0(w)\le x+ϵ\}\cap \{w:Y_0(w)-Y_n(w)>ϵ\}$

und damit

$P(Y_n\le x)\le P(Y_0\le x+ϵ)+P(Y_0-Y_n>ϵ).$

Wegen $Y_n\to Y_0$ konvergiert der zweite Summand gegen 0, so dass

$limsu{p}_{n\to \mathrm{\infty }}P(Y_n\le x)\le P(Y_0\le x+ϵ)\equiv F_0(x+ϵ).$

Analog: $limin{f}_{n\to \mathrm{\infty }}P(Y_n\le x)\ge F_0(x-ϵ)$.

Ist also $x\in 𝒞(F_0)$, so folgt mit $F_n(x)=P(Y_n\le x)$:

$limsu{p}_n{F}_n(x)\le F_0(x)\le limin{f}_n{F}_n(x),$ d.i. $lim{F}_n(x)=F_0(x)$

Die Umkehrung ist nicht richtig!

Beispiele

Sei $Y_0$ $B(1,\frac{1}{2})$-verteilt und $Y_n=1-Y_0$ für alle $n\ge 1$. Dann ist jedes $Y_n$ wieder $B(1,\frac{1}{2})$-verteilt und damit $Y_n\stackrel{𝒟}{\to }{Y}_0$ (sogar $Y_n\stackrel{𝒟}{=}{Y}_0$). $Y_n,n\ge 1$ konvergiert aber nicht stochastisch gegen $Y_0$, denn für $ϵ\in (0,1)$ ist

$P(|Y_n-Y_0|>ϵ)\stackrel{Y_n=1-Y_0}{=}P(|1-2\cdot Y_0|>ϵ)=1\mathrm{\forall }n\ge 1.$

Der Stetigkeitssatz für diskrete Wahrschenlichkeitsverteilungen besagt, dass der Limes einer Folge von Wahrscheinlichkeitsfunktionen, d.h.

$a_n=li{m}_{n\to \mathrm{\infty }}{\rho }_k^n,k=0,1,...$

genau dann ist, wenn der Limes der zugehörenden erzeugenden Funktionen existiert. Zunächst stellen wir fest, das die Aussage eine Verteilungskonvergenz bedeutet.

Lemma von Schiffé

Sind $Y_n,n\ge 1$, und $Y_0$ ${\mathbb{Z}}_{+}$-wertige Zufallsvariablen und setzt man ${\rho }_k^n=P(Y_n=k),k\in {\mathbb{Z}}_{+},n=1,2,...$ so gilt ${\rho }_k^0=li{m}_n{\rho }_k^n$ genau dann, wenn

$P(Y_o\in 𝒰)=li{m}_{n\to \mathrm{\infty }}P(Y_n\in 𝒰)$

in allen $A\in \mathbb{Z}$.

Bemerkung

Setzt man $A=(-\mathrm{\infty },x]$, so hat man $Y_n\stackrel{𝒟}{\to }{Y}_0,n\to \mathrm{\infty }$.

In der allgemeinen Wahrscheinlichkeitstheorie wird der Stetigkeitssatz mit Hilfe der zugehörigen charakteristischen Funktionen $\varphi (n)=E(e^{it{Y}_n}),t\in ℝ$ formuliert.

Stetigkeitssatz

Seien $Y_n,n\ge 1$, eine Folge von Zufallsvariablen und ${\varphi }_n$ die Folge der zugehörenden charakteristischen Funktionen. $Y_n$ ist verteilungskonvergent gegen eine Zufallsvariable $Y_0$ genau dann, wenn ${\varphi }_n$ gegen eine Funktion ${\varphi }_0$ konvergiert, die an der Stelle 0 stetig ist. ${\varphi }_0$ ist dann charakteristische Funktion von $Y_0:\varphi (0)=E(e^{it{Y}_0}),t\in ℝ$.

Kurzfassung

$Y_n\stackrel{𝒟}{\to }{Y}_0\iff \varphi (t)={\varphi }_0(t),\mathrm{\forall }t\in ℝ$. Die Stetigkeit von ${\varphi }_0$ bei 0 garantiert erst, dass ${\varphi }_0$ wieder charakteristiche Funktion einer Zufallsvariablen ist.

Im folgenden Beispiel ist das nicht der Fall.

Beispiel (1)

$Y_n$ sei gleichverteilt auf $(-n,n)$. Dann gilt

${\varphi }_n(t)=\{\begin{array}{cc}\frac{sin(nt)}{nt},& t\ne 0\\ 1,& t=0\end{array}$

und

$lim{\varphi }_n(t)=\{\begin{array}{cc}0,& t\ne 0\\ 1,& t=0\end{array}$

mit bei 0 unstetigen Grenzfunktionen.

Beipiel (2)

Für die Verteilungsfunktion $F_n(x)$ von $Y_0$ gilt:

$lim{F}_n(x)=li{m}_{n\to \mathrm{\infty }}\left\{\begin{array}{cc}0,& x<-n\\ \frac{n+x}{2n},& x\in (-n,n)\\ 1,& x>n\end{array}\right\}=\frac{1}{2},$

was keine Verteilungsfunktion darstellt. Es gibt kein $Y_0$ mit $Y_n\stackrel{𝒟}{\to }{Y}_0$. Statt $Y_n\stackrel{𝒟}{\to }{Y}_0$, $Y_0$ $N(0,1)$-verteilt, schreibt man auch 'gemischt':

$Y_n\stackrel{𝒟}{\to }N(0,1)$

Nun zeigen wir, dass die standardisierten Partialsummen $S_n^{*}$ (nehmen jetzt die Rolle von $Y_n$ ein) verteilungskonvergent gegen die $N(0,1)$-Verteilung sind.

Zentraler Grenzwertsatz von Lindberg-Lexy (Satz)

Gegebn sei eine Folge $X_1,X_2,...$ von unabhängigen, identisch verteilten Zufallsvariablen aus ${ℒ}_2$ ($\mu \equiv E(X),{\sigma }^2\equiv Var(X_i)>0$). Dann gilt für die Folge

$S_n^{*}=\frac{(X_1+...+X_n)n\mu }{\sqrt{n}\sigma }$

der standardisierten Partialsummen von $X_n,n\ge 1$, die Verteilungskonvergenz

$S_n^{*}\stackrel{𝒟}{\to }N(0,1)n\to \mathrm{\infty }$.

Beweis (1)

Ist $\varphi (t)$ die charakteristische Funktion von $X_i-\mu$ (für alle $i$ dieselbe), so lautet die charakteristische Funktion

${\varphi }_{S_n^{*}}={\varphi }_n^{*}=\frac{1}{\sqrt{n}\sigma }\sum _{i=1}^n{X}_i-\mu$

${\varphi }_n^{*}(t)={\varphi }_{\sum _{i=1}^n{X}_i-\mu }(\frac{t}{\sqrt{n}\sigma })={\mathrm{\Pi }}_{i=1}^n\varphi (\frac{t}{\sqrt{n}\sigma })=(\varphi (\frac{t}{\sqrt{n}\sigma }){)}^n$

Beweis (2)

Taylorentwicklung von $\varphi (t)$ an der Stelle $t=0$:

$\varphi (t)=1+{\varphi }^{\prime }(0)\cdot t+\frac{1}{2}{\varphi }^{″}(0)\cdot t^2+r_2(t)$

mit $\frac{r_2(t)}{t^2}\to 0$ bei $t\to \mathrm{\infty }$.

Nach dem Satz zur Berechnung von Momenten ist

${\varphi }^{\prime }(0)=i\cdot E(X_i-\mu )=0$

(*) ${\varphi }^{″}(0)=-E(X_i-\mu {)}^2={\sigma }^2$,

so dass

$\varphi (t)=1-\frac{1}{2}{\sigma }^2{t}^2+r_2(t).$

Beweis (3)

Das ${\varphi }_n^{*}$ aus Teil (1) lautet mit Formel (*):

${\varphi }_n^{*}(t)=[1-\frac{1}{2}\frac{t^2}{n}+r_2(\frac{t}{\sqrt{n}\sigma }){]}^n=(1-\frac{t^2}{2}(1+a(t)){)}^n$

mit

$a(t)=\frac{r_2(\frac{t}{\sqrt{n}\sigma })}{\frac{t^2}{2n}}\to 0$ für $t\to \mathrm{\infty }.$

Es folgt mit einem $ϵ$-Argument

${\varphi }_n^{*}(t)\stackrel{n\to \mathrm{\infty }}{\to }{ϵ}^{\frac{t^2}{2}}\mathrm{\forall }t\in ℝ.$

Die charakteristische Funktion der $N(0,1)$-Verteilung ist so, dass der Stetigkeitssatz zusammen mit dem Eindeutigkeitssatz die Behauptung liefern.

Bemerkungen (1)

1. Im Spezialfall unabhängiger, $N(\mu ,{\sigma }^2)$-verteilter $X_i$ ist gemäß dem Beispiel zum Faltungssatz jede $S_n^{*}$ $N(0,1)$-verteilt, so dass hier sogar Gleichheit $F_{S_n}=\mathrm{\Phi }$ für jedes $n$ gilt.

2. Im zentralen Grenzwertsatz kann die unabhängig-Voraussetzung nicht ersatzlos gestrichen werden. Als Gegenbeispiel wähle man identische $X_1=X_2=...$.

Bemerkungen (2)

3. Anwendungsbeispiel: Gewinnung von $N(0,1)$-verteilten Zufallsvariablen aus $U[0,1]$-verteilten Zufallsvariablen.

Sind $X_1,X_2,...$ unabhängig und $U[0,1]$ gleichverteilt, so ist wegen $\mu =\frac{1}{2},{\sigma }^2=\frac{1}{12}$

$\frac{S_n-\frac{n}{2}}{\sqrt{\frac{n}{12}}}$

approximiert $N(0,1)$-verteilt ($S_n)=X_1+...x_n$).
Für $n=48$ ist $\frac{S_n-24}{2}$ angenähert $N(0,1)$-verteilt.

Siehe auch

• Kurs:Stochastik
• Tschebyscheff-Ungleichung
• P-fast sichere Konvergenz