\documentclass [11pt] {scrartcl}
\usepackage[utf8x]{inputenc}
\usepackage{ucs}
\usepackage[ngerman]{babel}
\usepackage{amsmath,amssymb,amstext}
\usepackage[automark]{scrpage2}
\usepackage{amsthm}
\usepackage[a4paper,top=3cm,bottom=3cm, textwidth=17cm]{geometry}
\usepackage{mathtools}
\usepackage{enumerate}
\usepackage{aliascnt}
\usepackage{verbatim}
\usepackage{mathtools}
\usepackage{bbm}



\DeclareMathOperator{\Var}{Var}
\newtheorem{theorem}{Satz}[subsection]
\newtheorem*{theorem*}{Satz}
\newaliascnt{lemma}{theorem}
\newtheorem{lemma}[theorem]{Lemma}
\newtheorem*{lemma*}{Lemma}
\aliascntresetthe{lemma}
\newtheorem{definition}[theorem]{Definition}
\newtheorem*{definition*}{Definition}
\newtheorem*{convention}{Konvention}
\newtheorem*{notation}{Notation}
\newtheorem*{question}{Frage}
\newtheorem*{interpretation}{Interpretation}
\newtheorem*{ausblick}{Ausblick}
\newtheorem*{verallgemeinerung}{Verallgemeinerung}
\newtheorem*{alternative}{Alternative}
\newtheorem*{intuition}{Intuition}
\newtheorem*{reminder}{Erinnerung}
\newtheorem*{assertion}{Behauptung}
\newtheorem*{application}{Anwendung}
\theoremstyle{remark}
\newtheorem*{merke}{Merke}
\newtheorem*{remark}{Bemerkung}
\newtheorem{example}[theorem]{Beispiel}
\newtheorem*{example*}{Beispiel}
\newtheorem*{corollary}{Korollar}



\pagestyle{scrheadings}
\parindent0pt

\subject{Vorlesung SS 2011}
\title{Wahrscheinlichkeitstheorie}
\author{Prof.\,Dr\kern-.1em.~Franz Merkl}%Prof. Dr. Franz Merkl
\date{\small ge\TeX{}t von Myriam Schmidt/Robert Herrmann}


\begin {document}

\maketitle
\thispagestyle{empty}
\clearpage

\tableofcontents

\newpage

\setlength{\marginparwidth}{5 cm}
\section {Bedingte Erwartungen}
\
Aus der Stochastikvorlesung kennen Sie den Erwartungswert
\begin{equation*}
E[X]=\int\limits_\Omega X \, dP
\end{equation*}
eine integrierbaren Zufallsvariable X $\in\mathcal L^1 (\Omega,\mathcal A, P)$.
Der Begriff der bedingten Erwartung verallgemeinert diesen Erwartungswert-Begriff auf Situationen in denen man Teilinformationen über das zufällige Ergebnis $\omega\in\Omega$ hat.
\\
\subsection{Elementare bedingte Erwartungen}

Es sei $(\Omega,\mathcal A, P)$ ein Wahrscheinlichkeitsraum und $A\in\mathcal A$ ein Ereignis mit P(A)$>$0.

\begin{reminder}
Durch P($\cdot|A):  \mathcal A \to[0,1], P(B|A)=\frac{P(A\cap B)} {P(A)}$ wird ein Wahrscheinlichkeitsmaß auf $(\Omega,\mathcal A)$ definiert. Es heißt bedingtes Wahrscheinlichkeitsmaß zu P gegeben A.
\end{reminder}

Erwatungswerte bzgl. dieses Maßes heißen elementare bedingte Erwartungen. Nun besitzt  P($\cdot|A$) bzgl. P die Dichte $\frac{1_A} {P(A)}$. In der Tat: Für alle $B\in\mathcal A$ gilt:
\begin{equation*}
P(B|A)=\int\limits_\Omega \frac{1_{B\cap A}} {P(A)}\,dP=\int\limits_B \underbrace {\frac{1_A} {P(A)}}_{Dichte\frac{dP(\cdot|A)} {dP(A)}}dP
\end{equation*}


Wir erhalten folgende Formel für elementare bedingte Erwartungen. Für Zufallsvariable X $\in\mathcal L^1 (\Omega,\mathcal A, P)$ oder X $\geq$0 gilt:
\begin{equation*}
E_{P(\cdot|A)}[X]=\int\limits_\Omega X \underbrace {\frac{1_{A}} {P(A)}}_{Dichte} \, dP=\frac{ E_{P}[X\,1_{A}]} {P(A)}=\frac { E_{P}[X\,1_{A}]} { E_{P}[1_{A}]}
\end{equation*}
Nun betrachten wir statt eines Ereignisses A eine Partition von  $\Omega$ in n Ereignisse:  $\Omega=A_1\sqcup A_2 \sqcup ...\sqcup  A_n$, wobei wir im Moment P$(A_i)>$0 für i=1,...,n annehmen. Man kann sich die $A_i$ in der Form $A_ i=\\ \{Y=y_i\}=Y^{-1}(\{x_i\})$ vorstellen, wobei Y: $\Omega\to\{y_i,...,y_n\}$ ein Zufallsvariabe sein soll, die nur n-Werte $y_i,...,y_n$ annehmen kann.

Gegeben  X $\in\mathcal L^1 (\Omega,\mathcal A, P)$, kodieren wir die Gesamtheit aller elementar bedingten Erwartungen in einer einzigen Zufallsvariablen Z: $\Omega \to \mathbb R$, wobei Z$(\omega)\coloneqq E[X|A_i]$ für $\omega\in A_i$, i=1,...,n.

Z ist also eine \glqq vergröberte Version\grqq von $X_i$ stückweise konstant auf den $A_i$.
\begin{equation*}
Z=\sum\limits_{i=1}^n E[X|A_i] \, 1_{A_i}=\sum\limits_{i=1}^n\frac{ E[X\,1_{A_i}]} {P(A_i)} \, 1_{A_i}
\end{equation*}

Stellt man sich $A_i=\{Y=y_i\}$ vor, so kann man Z in der Form Z=$f(Y)=f\circ Y$ mit $f(y_i)=E[X|A_i]=E[X|Y=y_i]$ i=1,...,n schreiben.
Nun bezeichne $\mathcal F=\sigma(A_1,...,A_n)=\{  \bigcup\limits_{i \in I} A_i|I\subseteq \{1,...,n\} \}$=$\sigma$ (Y) ,die von der Partition $A_1,...,A_n$ erzeugte $\sigma - Algebra$.
Die Partition $A_1,...,A_n$ ist natürlich (bis auf die Reihenfolge) durch $\mathcal F$ bestimmt, insofern tragen $\mathcal F$ und  $A_1,...,A_n$ die gleiche Information.

\begin{definition}
\begin {equation*}
E[X|\mathcal F]\coloneqq \sum\limits_{i=1}^n E[X|A_i]1_{A_i}=\sum\limits_{i=1}^n \frac {E[X\, 1_{A_i}]} {E[1_{A_i})} 1_{A_i}
\end {equation*}
heißt die \underline {bedingte Erwartung von X gegeben $\mathcal F$}.
$f:\{y_1,...,y_n\}\to\mathbb R, f(Y)=E[X|Y=y_i]$ heißt \underline {faktorisierte bedingte Erwartung von X gegeben Y}.
\end {definition}

Die bedingte Erwartung E$[X|\mathcal F]$ ist also - ebenso wie X - eine Zufallsvariable auf $(\Omega,\mathcal A, P)$, die wir uns als \glqq vergröberte Version\grqq, \glqq Schätzung\grqq \ oder \glqq Prognose\grqq \ von X gegeben $\mathcal F $ vorstellen können.
\\

Der Name \glqq faktorisierte bedingte Erwartung\grqq wird durch die Gleichung E[$X|\mathcal F]=f\circ Y$, also das kommutative Diagramm $\Omega\overset{E[X|\mathcal F]}{\to} \mathbb R$, $\Omega\overset {Y}{\to} \{y_1,...,y_n\}\overset{f}{\to}\mathbb R$ gerechtfertigt.
\\ \\
Charakteristische Eigenschaften der bedingten Erwartung:
\begin{lemma}
Unter der Voraussetzung eben gilt:
\begin{enumerate}
\item E[$X| \mathcal F$] ist $\mathcal F$ - $\mathcal B (\mathbb R$) - messbar (kurz: $\mathcal F$ - messbar)
\item $\forall A \in \mathcal F$ gilt: E$[X\,1_A]=E[E[X|\mathcal F]\,1_A]$
\end{enumerate}
\end{lemma}
\begin{proof} \
\begin{enumerate}
\item
\textbf {Erinnerung.} \textit{
Eine Abbildung Z: $\Omega\to\mathbb R$ heißt $\mathcal F$ - messbar, wenn für alle B $\in \mathcal B (\mathbb R)$ gilt:
\begin {equation*}
Z^{-1}(B)=\{\omega\in\Omega| Z(\omega)\in B\}=\{Z\in B\}\in \mathcal F.
\end{equation*}}
Nun ist E[$X|\mathcal F$] nach Definiton auf jeder der Mengen $A_1,...,A_n$ konstant. Für jedes $B\subseteq\mathbb R$ ist also \{E[$X|\mathcal F]\in B\}$ von der Gestalt $\bigcup\limits_{i\in I} A_i$ für geeignetes $I\subseteq\{1,...n\}$. Es folgt: $\{E[X|\mathcal F]\in B\}\in \mathcal F$.
\item
Es sei $A=\bigcup\limits_{i\in I} A_i\in \mathcal F$ für geeignetes I $\subseteq \{1,...,n\}$. Dann gilt $ 1_A=\sum\limits_{i\in I} 1_{A_i}$, da die $ A_ i$ paarweise disjunkt sind.
Es folgt:
\begin{equation*}
\begin{split}
&E[X\,1_A]=E[X\sum\limits_{i\in I}\, 1_{A_i}]=\sum\limits_{i\in I}E[X\,1_A]=\sum\limits_{i\in I}\frac{E[X\,1_A]} {P(A_i)} P(A_i)=\sum\limits_{i\in I}E[X|A_i]E[1_{A_i}]=
\\
&E\left[\sum\limits_{i\in I}E[X|A_i]1_{A_i}\right]=E\left[\sum\limits_{i=1}^n E[X|A_i] \underbrace{1_{A_i}1_A}_{\underset{= 0:\, i\notin I}{=1_{A_i}:\, i \in I}}\right]=E[E[X|\mathcal F]1_A]
\end{split}
\end {equation*}
\end{enumerate}
\end{proof}

\begin {verallgemeinerung} [Nullmengen in der Partition $A_1,...,A_n$]
Problem, wenn wir auf die Voraussetzung $P(A_i)>0$  $\forall i\in$ 1,...,n verzichten:
Im Fall, dass P($A_i)=0$ für manche i tritt in
\begin {equation*}
E[X|\mathcal F]=\sum\limits_{i=1}^n \frac{E[X\,1_{A_i}]} {P(A_i)} 1_{A_i}
\end {equation*}
der unbestimmte Ausdruck $\frac {0}{0}$ auf.
Allerdings betrifft diese Unbestimmtheit nur den Wert von E[$X|\mathcal F$] auf der  Nullmenge unter den $A_i$.
Setzten wir für i=1,...,n:
\begin {equation*}
e_i=
\begin{cases}
&E[X|A_i]\quad\text{falls  $P(A_i)>0$}\\& beliebig\quad\text {falls $P(A_i)=0$}
\end {cases}\quad und
\end {equation*}
\[ E[X|\mathcal F]=\sum\limits_{i=1}^n e_i 1_{A_i}, \] so ist diese bedingte Erwartung noch eindeutig bis auf Abänderung auf Nullmengen in $\mathcal F$.

Sprechweise: E[$X|\mathcal F$] ist p-fast-sicher eindeutig bestimmt.
\end{verallgemeinerung}
Die Aussagen 1. und 2. als Lemma bleiben auch mit dieser Verallgemeinerung gültig. Insbesondere kommt es bei der Erwartungswertbildung in 2. auf die Nullmengen unter den $ A_i$ nicht an.

\subsection {Allgemeine bedingte Erwartungen: Definition und Eindeutigkeit}
Im Folgenden sei ($\Omega,\mathcal A,P$) ein Wahrscheinlichkeitsraum und $\mathcal F\subseteq\mathcal A$ eine Unter-$\sigma$-Algebra und\\ \mbox{ X $\in\mathcal L^1 (\Omega,\mathcal A, P)$}.
Wir wollen (in Verallgemeinerung des eben betrachteten elementaren Begriffs der bedingten Erwartung) eine bedingte Erwartung von X gegeben $\mathcal F$ definieren, die wieder eine \glqq Vergröberung\grqq, \glqq Schätzung\grqq \ oder \glqq Prognose\grqq \ für X gegeben die Information in $\mathcal F$ bedeuten soll.
Dazu \glqq drehen wir die Logik gegenüber Abschnitt 1.1 um\grqq:

Die Aussagen des Lemmas in 1.1 werden jetzt zu definierenden Bedingungen:

\begin{definition}
Es sei X $\in\mathcal L^1 (\Omega,\mathcal A, P)$. Eine Zufallsvarible Z $\in\mathcal L^1 (\Omega,\mathcal A, P)$ heißt eine \underline{bedingte Erwartung } \underline{von X gegeben einer Unter-$\sigma$-Algebra} $\mathcal F\subseteq\mathcal A$, wenn gilt:
\begin{enumerate}
\item Z ist $\mathcal F$-messbar.
\item $\forall A\in\mathcal F$ gilt: $E[X\, 1_A]=E[Z\, 1_A]$.
\end {enumerate}
\end{definition}
Im Gegensatz zu Abschnitt 1.1, ist diese Definition nicht konstruktiv. Damit haben wir das Problem der Existenz und Eindeutigkeit. Aus Kapitel 1.1 wissen wir schon, dass wir bestenfalls Eindeutigkeit bis auf Abänderung auf einer P-Nullmenge in $\mathcal F$ erwarten dürfen.

\begin{theorem} [Eindeutigkeit der bedingten Erwartung P- f.s.]
Sind Z und W zwei bedingte Erwartungen der gleichen Zufallsvariablen  X $\in\mathcal L^1 (\Omega,\mathcal A, P)$ gegeben $\mathcal F$, so gilt Z=W P-f.s.
\end{theorem}
\begin{proof}
Nach Voraussetzung 1 sind Z und W $\mathcal F$- messbar, also auch Z-W $\mathcal F$-messbar. Insbesondere ist $A=\{Z>W\}=\{Z-W>0\}\in\mathcal F$.
Es folgt mit Teil 2 in der Definition:
\begin{equation*}
E[(Z-W) 1_A]=E[Z\,1_A]-E[W\,1_A]=E[X\,1_A]-E[X\,1_A]=0
\end{equation*}
Nun ist (Z-W)$1_A\geq0$, daher folgt (Z-W)$1_A=0$ P-f.s. Das bedeutet nach Definition von A: P(A)=0 also $Z\leq W$ P-f.s.

Mit vertauschten Rollen von Z und W folgt ebenso W$\leq$Z P-f.s., also zusammen Z=W P-f.s.
\end{proof}

\begin{theorem} [von Radon-Nikodym für endliche Maße]
Sind $\mu$ und $\nu$ endliche Maße auf ($\Omega,\mathcal A$), so sind äquivalent:
\begin{enumerate} [1)]
\vspace{-.5em}
\item Jede $\mu$-Nullmenge ist auch eine $\nu$- Nullmenge.
\item $\nu$ besitzt eine Dichte bzgl. $\mu$.
\end{enumerate}
\end{theorem}
\begin {remark}
Gelten die beiden äquivalenten Bedingungen des Satzes, so sagt man: $\nu$ ist \underline{absolut stetig} bzgl. $\mu$ und schreibt $\nu\ll\mu$.
\end {remark}
\begin{proof}
2)$\Rightarrow$1)$\quad$
Besitzt $\nu$ die Dichte f bzgl. $\mu$, so gilt für jede $\mu$-Nullmenge A$\in\mathcal A$:
\begin{equation*}
\nu(A)=\int\limits_A fd\mu=0
\end{equation*}
$\quad\quad\quad\quad$1)$\Rightarrow$2)$\quad$
Wir betrachten die folgende Menge von Funktionen:
\begin {equation*}
\mathcal M=\{f\colon\Omega\to\mathbb R|f\geq0,\,f\ ist\ \mathcal A-messbar, \int\limits_A f\,d\mu\leq \nu(A)\, \forall A\in\mathcal A\}
\end {equation*}
Es bezeichne f $\vee$ g das Maximum von f, g: $\Omega\to\mathbb R$:
\begin{align*}
f \vee g(\omega)=max\{f(\omega), g(\omega)\}.
\end{align*}
Es gilt für alle f, g $\in\mathcal M$: f $\vee$ g $\in\mathcal M$, denn  f $\vee$ g $\geq$ 0, f $\vee$ g ist $\mathcal A$ - messbar und für alle A $\in\mathcal A$ gilt:
\begin {equation*}
\begin {split}
&\int\limits_A f\vee g\ d\mu=\int\limits_{A\cap\{f\leq g\}} f\vee g\ d\mu+\int\limits_{A\cap\{f> g\}} f\vee g\ d\mu=\\
&\int\limits_{A\cap\{f\leq g\}}  g\ d\mu+\int\limits_{A\cap\{f> g\}} f\ d\mu \overset{f, g\in\mathcal M} {\leq}
\nu(A\cap\{f\leq g\})+\nu(A\cap\{f>g\}=\nu(A)
\end {split}
\end {equation*}
Wenn 0$\in\mathcal M$ ist $\mathcal M$ nicht leer . Wir setzen s$\coloneqq \sup\{\int\limits_\Omega f d\mu|f\in\mathcal M\}$. Insbesondere ist 0$\leq s \leq \nu(\Omega) < \infty$. Wir wählen eine Folge $(f_n)_{n\in\mathbb N}$ in $ \mathcal M$ mit $\int\limits_\Omega f_n d\mu \overset{n\to\infty}{\to}$s.\\
Wir setzten $g_n=f_1\vee ...\vee f_n \in \mathcal M$. Dann ist  $(g_n)_{n\in\mathbb N}$  aufsteigend und
\begin {equation*}
s\underset{g_n\in\mathcal M}{\geq}\int\limits_\Omega g_n d\mu \underset{g_n\geq f_n}{\geq}\int\limits_\Omega f_n d\mu \overset{n\to\infty}{\to}s, \text{\quad also } \int\limits_\Omega g_n d\mu \underset{n\to\infty}{\nearrow}s
\end {equation*}
Setzen wir g $\coloneqq \underset{n\to\infty}{\lim} g_n $, (punktweise), so folgt (eventuell nach Abänderung auf der $\mu$-Nullmenge\\$\{g=\infty\})$, so folgt g $\in\mathcal M$, da 0 $\leq g$ und $\forall A\in \mathcal M$ gilt:
\begin {equation*}
\int\limits_A g\ d\mu \overset{mon. \ konv.}{=}\underset{n\to\infty}{\lim} \int\limits_A g_n\ d\mu \underset{g_n\in\mathcal M}{\leq} \nu(A)<\infty.\, \text{Insbesondere ist } \int\limits_\Omega g\ d\mu=s.
\end {equation*}
Unser Ziel ist es zu zeigen, dass $\nu$ die Dichte g bzgl $\mu$ besitzt, also $ \int\limits_A g\ d\mu=\nu(A) \, \forall A\in\mathcal A$ gilt, wobei wir $\int\limits_A g\ d\mu\leq\nu(A)$ schon wissen.

Sei $\varepsilon>0$ gegeben. Wir setzen $\mathcal A_\varepsilon=\{A\in\mathcal A|\nu(A)\leq\int\limits_A g\ d\mu+\varepsilon\mu(A)\}$.\\
Wir definieren rekursiv zwei Folgen $(A_n)_{n\in\mathbb N}$ und $(B_n)_{n\in\mathbb N}$ von Ereignissen und eine Folge $(c_n)_{n\in\mathbb N}$ von Zahlen $c_n\geq0$: $A_1=\Omega$. Für den n-ten Schritt sei $A_n$ schon gegeben. Wir setzten
\begin{equation*}
0\underset{B=\emptyset\ betrachten}{\leq} c_n\coloneqq\sup\{\mu(B)|B\in\mathcal A_\varepsilon , B\subseteq A_n\}\underset{\mu-endl.\ Maß}{<} \infty.
\end {equation*}
Insbesondere können wir ein $B_n\in\mathcal A_\varepsilon$ mit $B_n\subseteq A_n$ mit $\mu(B_n)\geq\frac{1}{2}c_n$ wählen:
Für $c_n>0$ ist das offensichtlich wegen $\frac{1}{2}c_n<c_n$ und für $c_n=0$ können wir einfach $B_n=\emptyset$ setzten.
\\
Schließlich setzen wir $A_{n+1}\coloneqq A_n\setminus B_n=(\bigcup\limits_{k=1}^n B_k)^\mathrm C$.
Nach Konstruktion ist die Folge $(A_n)_{n\in\mathbb N}$ absteigend und die $(B_n)_{n\in\mathbb N}$ sind paarweise disjunkt, da für $m>n$ gilt:
\begin{equation*}
B_m\subseteq A_m\subseteq A_{n+1}= A_n\setminus B_n,\ also B_m\cap B_n=\emptyset.
\end{equation*}
Insbesondere ist $\infty\underset{\mu-endl.}{>} \mu(\bigcup\limits_{n\in\mathbb N} B_n)=\sum\limits_{n\in\mathbb N}\mu(B_n)$ und daher $\mu(B_n)\overset{n\to\infty}{\rightarrow}0$.
Wegen\\ 0$\leq \frac{1}{2}c_n\leq\mu(B_n)\overset{n\to\infty}{\rightarrow}0$ folgt auch $ c_n\overset{n\to\infty}{\rightarrow}0$. Setzen wir nun $A_\infty\coloneqq\bigcap\limits_{n\in\mathbb N} A_n=(\bigcup\limits_{n\in\mathbb N} B_n)^\mathrm C$.\\
Es folgt für alle C $\in\mathcal A_\varepsilon$ mit $C\subseteq \mathcal A_\infty,\ C\subseteq A_n$, also $\mu(C)\leq c_n$ nach Definition zu $c_n\ \forall n\in\mathbb N$, also $\mu(C)=0$, da $c_n\overset{n\to\infty}{\rightarrow}0$ und daher $\nu(C)=0$ nach Voraussetzung 1) des Satzes.\\

Insbesondere gilt hier $(\ast)\quad\nu(C)\geq\int\limits_C d\mu+\varepsilon\mu(C)$, denn beide Seiten sind gleich 0.
Die Ungleichung $(\ast)\quad$ gilt jedoch auch für alle C $\in\mathcal A$ mit C $\notin\mathcal A_\varepsilon$, denn hier gilt sogar $ \nu(C)>\int\limits_C d\mu+\varepsilon\mu(C)$ nach Definition von  $\mathcal A_\varepsilon$. Damit folgt \\
$(\ast)\quad\nu(C)\geq\int\limits_C g d\mu+\varepsilon\mu(C)$ für alle $C\in\mathcal A$ mit $C\subseteq A_\infty$.
Es folgt für alle A $\in \mathcal A$:
\begin{equation*}
\nu(A)=\nu(A\setminus A_\infty)+\nu(A\cap A_\infty)\overset{g\in\mathcal M}{\geq}\int\limits_{A\setminus A_\infty} g\ d\mu+\int\limits_{A\cap A_\infty} g\ d\mu+
\varepsilon\mu(A\cap A_\infty)=\int\limits_A (g+\varepsilon \ 1_{A_\infty}) d\mu
\end{equation*}
Das bedeutet: g+$\varepsilon\ 1_{A_\infty}\in \mathcal M$, also
\begin{equation*}
\int\limits_\Omega g\ d\mu+\varepsilon\mu(A_\infty)=\int\limits_\Omega (g+\varepsilon \ 1_{A_\infty}) d\mu\overset{Def. von\ s}{\leq}s\overset{oben}{=}\int\limits_\Omega g\ d\mu,
\end {equation*}
also $\varepsilon\mu(A_\infty)\leq 0$ und damit $\mu(A_\infty)=0$ und somit $\nu(A_\infty)=0$ wieder nach Voraussetzung 1) des Satzes.
Es folgt für alle A $\in\mathcal A$:
\begin {equation*}
\begin {split}
(\ast\ast)\quad &\nu(A)=\nu(A\cap A_\infty) +\nu(A\setminus A_\infty)\leq\overbrace{\nu(A_\infty)}^{=0}+\nu(A\setminus A_\infty)=\nu(A\setminus A_\infty) \overset{A_\infty^\mathrm C=\bigcup\limits_{n\in\mathbb N}B_n}{=}\\
&\nu\left(\bigcup\limits_{n\in\mathbb N} (A\cap B_n)\right)\underset{B_n\ pw.\ disj.}{=}\sum\limits_{n\in\mathbb N} \nu(A\cap B_n)
\end {split}
\end {equation*}
Nun gilt für den n-ten Summanden:
\begin {equation*}
\nu(A\cap B_n)=\nu(B_n)-\underbrace{\nu(B_n\setminus A)}_{\geq\int\limits_{B_n\setminus A} g\ d\mu\ wegen\ g\in\mathcal M}\leq\nu(B_n)-\int\limits_{B_n\setminus A} g\ d\mu
\end {equation*}
Wegen $B_n\in \mathcal A_\varepsilon$ haben wir $\nu(B_n)\leq\int\limits_{B_n} g\ d\mu+\varepsilon\mu(B_n)$, also eingesetzt:
\begin {equation*}
\nu(A\cap B_n) \leq \int\limits_{B_n} g\ d\mu+\varepsilon\mu(B_n)-\int\limits_{B_n\setminus A} g\ d\mu=\int\limits_{B_n\cap A} g\ d\mu+\varepsilon\mu(B_n)
\end {equation*}
In $\quad(\ast\ast)$ eingesetzt:
\begin {equation*}
\nu(A)\leq\sum\limits_{n\in\mathbb N} \nu(A\cap B_n)\leq\sum\limits_{n\in\mathbb N}\left(\int\limits_{B_n\cap A} g\ d\mu+\varepsilon\mu(B_n)\right)=\sum\limits_{n\in\mathbb N}\int\limits_{B_n\cap A} g\ d\mu+\varepsilon\sum\limits_{n\in\mathbb N}\mu(B_n)\leq\int\limits_A g\ d\mu+\varepsilon\mu(\Omega),
\end {equation*}
also $\nu(A)\leq\int\limits_A g\ d\mu+\varepsilon\mu(\Omega$). Dies gilt $\forall\varepsilon>0$, also folgt $\nu(A)=\int\limits_A g\ d\mu$, was zu zeigen war.
\end{proof}
\begin{remark}
Der Satz von Radon-Nikodym git auch für $\sigma$-endiche Maße $\mu\ \nu$. Das folgt leicht aus der hier bewiesenen Version (Übung).
\end{remark}
Zurück zur Existenz bedingter Erwartungen.
Für X $\in\mathcal L^1(\Omega,\mathcal A, P),\ X\geq0$, und eine Unter-$\sigma$-Algebra $\mathcal F\subseteq \mathcal A$ wenden wir den Satz von Radon-Nikodym wie folgt an: $\mu$ sei das Maß P eingeschränkt auf $\mathcal F$ und $\nu$ sei das Maß mit Dichte X bezüglich P, eingeschränkt auf $\mathcal F$.
\begin {equation*}
\nu : \mathcal F \to\mathbb R,\  \nu(A)=\int\limits_A X dP \text{ für } A\in\mathcal F
  \end {equation*}
Dann ist jede $\mu$-Nullmenge A $\in\mathcal F$ auch eine $\nu$- Nullmenge, denn $\nu(A)=\int\limits_A dP=0$. Also besitzt  $\nu$ eine Dichte g bezüglich $\mu$ auf $(\Omega,\mathcal F)$.
Insbesondere ist g $\mathcal F$-messbar. Es folgt $\forall A\in\mathcal F$:
\begin {equation*}
E_p\underbrace{[g 1_A]}_{\mathcal F}=\int\limits_\Omega g 1_A d\mu=\nu(A)=\int\limits_A XdP=E_p[X 1_A]
   \end {equation*}
Also ist g eine bedingte Erwartung von X gegeben $\mathcal F$. Für X $\in\mathcal L^1(\Omega,\mathcal A, P)$ beliebigen Vorzeichens zerlegen wir X in Positiv- und Negativteil: $X=X_+ - X_-$ wobei $X_+= X\vee 0$ und $X_-=(-X)\vee 0$. Sind nun $g_1$ und $g_2$ bedingte Erwartungen von $X_+$ bzw. $X_-$ gegeben $\mathcal F$, so ist g = $g_1-g_2$ eine bedingte Erwartung von X gegeben $\mathcal F$.
In der Tat: g = $g_1-g_2$ ist $\mathcal F$-messbar und $\forall A\in\mathcal F$ gilt:
\begin {equation*}
E[g 1_A]=E[(g_1-g_2) 1_A]=E[g_1 1_A]-E[g_2 1_A]=E[X_+ 1_A]-E[X_--1_A]=E[(X_+ - X_-) 1_A]=E[X 1_A]
 \end {equation*}
Damit haben wir gezeigt, dass alle X $\in\mathcal L^1(\Omega,\mathcal A, P)$  eine bedingte Erwartung gegeben $\mathcal F$ besitzen  und dass diese bis auf Abänderung auf einer $\mathcal F$- Nullmenge eindeutig ist.\\

E[$X|\mathcal F$] bezeichnet eine beliebige bedingte Erwartung von X $\in\mathcal L^1(\Omega,\mathcal A, P)$ gegeben $\mathcal F$. Damit wird E[$X|\mathcal F$] nur bis auf Abänderung auf P-Nullmengen in $\mathcal F$ eindeutig bestimmt.

Gleichungen für $E[X|\mathcal F]$ sollten daher immer den Zusatz \glqq p-f.s.\grqq\ tragen.\\
Präziser hätten wir $E[X|\mathcal F]$ auch als die Menge aller bedingten Erwartungen X gegeben $\mathcal F$ definieren können; dann sollten wir statt \glqq Z=$E[X|\mathcal F]$ p-f.s.\grqq besser schreiben \glqq Z $\in E[X|\mathcal F]$\grqq. Diese Notation hat sich nicht durchgesetzt.\\
Man kann sich $E[X|\mathcal F]$ als \glqq Prognose\grqq\ oder \glqq Schätzung\grqq\ für den unbekannten Wert von X vorstellen, wenn man nur Teilinformationen , die durch $\mathcal F$ kodiert werden, beobachten kann.

Besonders anschaulich ist der Fall, dass $\mathcal F$ durch eine Zufallsvariable Y: $(\Omega,\mathcal A)\to(\Omega^\prime,\mathcal A^\prime)$ erzeugt wird.
$\mathcal F=\sigma(Y)=\{\{y\in A^\prime\}|A\in \mathcal A^\prime\}$

\begin {definition}
Eine messbare Abbildung f: ($\Omega^\prime,\mathcal A^\prime)\to \mathbb R, \mathcal B(\mathbb R))$ heißt \underline{faktorisierte bedingte Erwartung} \underline{von X gegeben Y},
 wenn f $\circ\ Y$ = f(Y) eine bedingte Erwartung von X gegeben $\sigma (Y)$ ist.
\end {definition}
Diagramm: $\Omega\overset{E[X|\sigma(Y)]}{\to} \mathbb R$, $\Omega\overset {Y}{\to} \Omega^\prime\overset{f}{\to}\mathbb R$

Faktorisierte bedingte Erwartungen existieren für beliebige Zufallsvariablen   Y: $(\Omega,\mathcal A)\to(\Omega^\prime,\mathcal A^\prime)$ und X $\in\mathcal L^1(\Omega,\mathcal A, P)$ (Übung). (Alternativ zur Übung kann man dies auch direkt mit dem Satz von Radon-Nikodym beweisen (hier nicht ausgeführt)).\\
Man beachte, dass die faktorisierte bedingte Erwartung f nur bis auf Abänderung auf einer $\mathcal L_p(Y)$-Nullmenge eindeutig bestimmt ist.
\begin{reminder}
$\mathcal L_P: \mathcal A\to[0,1]$ bezeichnet die Verteilung  von\\ \quad Y: $\mathcal L_P(Y)(A^\prime)=P[Y\in A^\prime]=P(Y^{-1}[A^\prime])\ A^\prime\in\mathcal A^\prime$.
\end {reminder}

\begin {notation}
In Verallgemeinerung des elementaren Falls aus Abschnitt 1.1 schreiben wir $E[X|Y=y]=f(y)\ \mathcal L_p(Y)$- f.s. für $y\in\Omega^\prime$, wenn f eine faktorisierte bedingte Erwartung von X gegeben Y ist.\\
$E[X|Y]$ ist hingegen eine Kurznotation für  $E[X|\sigma(Y)]$. Allgemeiner steht $E[X|Y_1,...,Y_n]$ für \\$E[X|\sigma(Y_1,...,Y_n)]$.
\end{notation}

\subsection {Grundlegende Eigenschaften bedingter Erwartung}

Für endliche $\sigma$-Algebren $\mathcal F$ kennen Sie eine explizite Konstruktion von $E[X|\mathcal F]$ aus Abschnitt 1.1. Andererseits ist der Existenzbeweis für$E[X|\mathcal F]$ aus Abschnitt 1.2 wegen des nichtkonstruktiven  Charakters des Satzes von Radon-Nikodym für Berechnungen nutzlos.

Folgende Berechnungsformel für E$[X|Y]$ ist oft praktisch:

\begin{theorem}

Seinen X $\in\mathcal L^1(\Omega,\mathcal A, P)$ und Y: $(\Omega,\mathcal A)\to (\Omega^\prime,\mathcal A^\prime)$ Zufallsvariablen. Weiter seinen $\lambda$ ein $\sigma$-endliches Maß auf $(\mathbb R,\mathcal B(\mathbb R))$ (oder auf einer messbaren Teilmenge davon, die das Bild von X umfasst) z. B. $\lambda$=Lesbesguemaß und $\mu$ ein $\sigma$- endliches Maß auf  $(\Omega^\prime,\mathcal A^\prime)$. Wenn (X,Y): $\Omega^2\to \mathbb R\times\Omega^\prime$ eine Dichte g bzgl. $\lambda\times\mu$ besitzt, so ist f: $\Omega^\prime\to \mathbb R$
\begin {equation*}
f(y)=\frac {\int\limits_\mathbb R x\ g(x,y)\lambda(dx)} {\int\limits_\mathbb R g(x,y)\lambda(dx)}
 \end {equation*}
 falls dies wohdefiniert ist, f(y) ist beliebig $\mathcal A^\prime$-messbar, sonst eine faktorisierte bedingte Erwartung von X gegeben Y: f(y)=$E[X|Y=y]$ für $\mathcal L_P(Y)$- fast alle $y\in \Omega$!
\end{theorem}
\begin {proof}
Dies folgt unmittelbar aus dem Satz von Fubini: f ist $\mathcal A^\prime$-messbar und  für alle $A^\prime\in\mathcal A^\prime$ gilt:
\begin{equation*}
\begin{split}
E[X \ 1_{A^\prime}(Y)]=\int\limits_{\mathbb R\times\Omega^\prime} x \ 1_{A^\prime} g(x,y) \lambda x\mu (dxdy) \overset{Fubini}{=}\int\limits_{\Omega^\prime} 1_{A^\prime}(y)\int\limits_{\mathbb R} x\ g(x,y)\lambda(dx)\mu(dy)=\\
 \int\limits_{\Omega^\prime} 1_{A^\prime}(y)f(y)\int\limits_{\mathbb R} g(x,y)\lambda(dx)\mu(dy)\overset{Fubini}{=}\int\limits_{\mathbb R\times\Omega^\prime} f(y) 1_{A^\prime}(y) g(x,y) \lambda x\mu (dxdy)=E[f(y) 1_{A^\prime}(y)]
\end{split}
\end {equation*}
Im Fall, dass X: $\Omega\to \{x_1,...,x_n\}$ und Y: $\Omega\to \{y_1,...,y_n\}$ direkt sind, führt dies uns zum bekannten aus Abschnitt 1.1 zurück:
\begin {equation*}
E[X|Y=y]=\frac{E[X\ 1_{\{Y=y\}}]}{P(Y=y)}=\frac{\sum\limits_x x\ P[X=x, Y=y]}{\sum\limits_x P[X=x, Y=y]}
 \end {equation*}

\end{proof}
Weitere wichtige Eigenschaften der bedingten Erwartung:
\begin{theorem}
$E[\cdot| \mathcal F]$ ist linear.\\
Für X,Y $\in\mathcal L^1(\Omega,\mathcal A, P)$ und $a\in\mathbb R$ gilt:
\begin{enumerate} [1)]
\item $E[X+Y|\mathcal F]= E[X|\mathcal F]+E[Y|\mathcal F]$ P-f.s.
\item $E[a\ X|\mathcal F]= a E[X|\mathcal F]$ P-f.s
\end{enumerate}
\end{theorem}
 \begin{proof}
Die rechten Seiten  in 1) und 2) sind $\mathcal F$- messbar und es gilt für $A\in\mathcal F$:
\begin {equation*}
\begin{split}
&1)\ E[E[X|\mathcal F]+E[Y|\mathcal F]1_A]=E[E[X|\mathcal F]1_A]+E[E[Y|\mathcal F]1_A]=E[X\ 1_A]+E[Y\ 1_A]=E[(X+Y)1_A]\\
&2)\ E[a\ E[X|\mathcal F]1_A]=a\ E[E[X|\mathcal F]1_A]=a\ E[X1_A]=E[a\ X1_A]
\end{split}
\end {equation*}
\end {proof}

\begin{theorem}
Für X$\in\mathcal L^1(\Omega,\mathcal A, P)$ gilt $E[X|\mathcal F]\in\mathcal L^1(\Omega,\mathcal A, P)$.
\end{theorem}
\begin{proof}
Es sei A=\{$E[X|\mathcal F]\geq$ 0\}. Dann gilt A $\in\mathcal F$ und es folgt:
\begin {equation*}
\begin{split}
&1)\ E[E[X|\mathcal F]_+]=E[E[X|\mathcal F]1_A]=E[X\ 1_A]\underset{X\in\mathcal L^1}{<}\infty\\
&2)\ E[E[X|\mathcal F]_-]=E[E[X|\mathcal F]1_{A^\mathrm C}]=E[X\ 1_{A^\mathrm C}]\underset{X\in\mathcal L^1}{<}\infty
\end{split}
 \end {equation*}
\end {proof}
\begin{theorem}
Für X $\in\mathcal L^1(\Omega,\mathcal A, P)$ gilt:
\begin{enumerate} [1)]
\item $E[X|\{\emptyset,\Omega\}]=E[X]$ \quad (P-f.s. hier nicht nötig)
\item $E[X|\mathcal A]=X$\quad P-f.s.
\item \glqq Turmeigenschaft\grqq\\
sind $\mathcal G\leq \mathcal F\leq\mathcal A$ zwei Unter-$\sigma$-Algebren von $\mathcal A$, so gilt:\\
$E[E[X|\mathcal F]|\mathcal G]=E[X|\mathcal G]$ P-f.s
\end{enumerate}
\end{theorem}
\begin{proof}
1) und 2) sind trivial.\\ Zu 3):
E[E[X$|\mathcal F]|\mathcal G]$ ist $\mathcal G$-messbar und es gilt für alle A $\in\mathcal G$:
\begin {equation*}
E[[E[X|\mathcal F]|\mathcal G]1_A]\overset{A\in\mathcal G}{=}E[E[X|\mathcal F]1_A]\overset{A \in\mathcal F\ wegen\ \mathcal G\subseteq\mathcal F}{=}E[X1_A].
\end {equation*}
\end{proof}




\begin{theorem} [Monotonie der bedingten Erwartung]
Für X,Y $\in\mathcal L^1(\Omega,\mathcal A, P)$ mit X$\leq Y$ p-f.s gilt:
\begin {equation*}
E[X|\mathcal F]\leq E[Y|\mathcal F]\quad P-f.s.
  \end {equation*}
\end{theorem}
\begin {proof}
Für alle A $\in \mathcal F$ gilt:
\begin {equation*}
E[(E[Y|\mathcal F]-E[X|\mathcal F])1_A]=E[E[Y-X|\mathcal F]1_A]=E[(Y-X)1_A]\geq 0,
   \end {equation*}
also E[Y$|\mathcal F]-E[X|\mathcal F]\geq$ 0 P-f.s., da diese Differenz $\mathcal F$-messbar ist.
\end {proof}
\begin{theorem}[Satz von der monotonen Konvergenz für bedingte Erwartungen in $\mathcal L^1$]
Es sei $(X_n)_{n\in\mathbb N}$
eine monoton steigende Folge in $\mathcal L^1(\Omega,\mathcal A, P)$ mit $X_n\overset{n\to\infty}{\to} X\ \in\mathcal L^1(\Omega,\mathcal A, P)$ P-f.s. Dann gilt:
\begin {equation*}
E[X_n|\mathcal F]\overset{n\to\infty}{\to}E[X|\mathcal F]
   \end {equation*}
 P-f.s. und in $\mathcal L^1(\Omega,\mathcal A, P)$ konvergent.
\end{theorem}
\begin{reminder}
Eine Folge $(Z_n)_{n\in\mathbb N}$ in $ L^1(\Omega,\mathcal A, P)$ heißt in $ L^1(\Omega,\mathcal A, P)$ konvergent gegen eine Zufallsvariable Z $\in\mathcal L^1(\Omega,\mathcal A, P)$, wenn E[$|Z_n-Z|]\overset{n\to\infty}{\to}$0
\end{reminder}
\begin{proof}
Wegen der Monotonie der bedingten Erwartung (Satz 1.3.5) ist auch $(E[X_n|\mathcal F])_{n\in\mathbb N}$  P-f.s monoton steigend, also P-f.s. konvergent gegen eine $\mathcal F$- messbare Zufallsvariable Z. Nun gilt für alle A$\in\mathcal F$:
\begin {equation*}
E[Z1_A]=\underset{n\to\infty}{\lim}E[E[X_n|\mathcal F]1_A]\underset{n\to\infty}{\lim}E_[X_n 1_A]=E[X1_A]
 \end {equation*}
Insbesondere ist Z $\in\mathcal L^1(\Omega,\mathcal A, P)$, da Z$\overset{P-f.s.}{\geq} X_1$ $\in\mathcal L^1(\Omega,\mathcal A, P)$

und E[Z]=$E[Z1_\Omega]=E[X1_\Omega]$=E[X]$<\infty$ Es folgt E[X$|\mathcal F]$ P-f.s, also $E[X_n|\mathcal F]\underset{n\to\infty}{\lim}E[X|\mathcal F]$ P-f.s.
Es folgt $E[X|\mathcal F]-E[X_n|\mathcal F]\underset{n\to\infty}{\to}0$ P-f.s. und wir haben die Majorante
\begin {equation*}
0\underset{P-f.s.}{\leq} E[X|\mathcal F]-E[X_n|\mathcal F]\underset{P-f.s.}{\leq} E[X|\mathcal F]-E[X_1|\mathcal F]\in\mathcal L^1(\Omega,\mathcal A, P)
  \end {equation*}
Es folgt mit dem Satz von der dominierten Konvergenz:
\begin {equation*}
E[|E[X|\mathcal F]-E[X_n|\mathcal F]|]=E[ E[X|\mathcal F]-E[X_1|\mathcal F]]\underset{n\to\infty}{\to}0
   \end {equation*}
also E$[X_n|\mathcal F]\underset{n\to\infty}{\to}E[X|\mathcal F]$ in $\mathcal  L^1(\Omega,\mathcal A, P)$
 \end{proof}
\begin{theorem}[Satz von der dominerten Konvergenz für bedingte Erwartungen]
Es sei  $(X_n)_{n\in\mathbb N}$ eine Folge in $\mathcal L^1(\Omega,\mathcal A, P)$, die P-f.s. gegen eine Zufallsvariable X konviergiert. Es existiere Z $\in(\Omega,\mathcal A, P)$, so dass $|X_n|\leq Z$ P-f.s. gilt.
Dan ist X $\in\mathcal L^1(\Omega,\mathcal A, P)$ und es gilt:E$[X_n|\mathcal F]\underset{n\to\infty}{\to}E[X|\mathcal F]$ P-f.s. und in $ \mathcal L^1(\Omega,\mathcal A, P)$.
 \end{theorem}
\begin{proof}
X $\in\mathcal L^1(\Omega,\mathcal A, P)$ ist uns schon bekannt, weil auch $|X|\geq Z$ P-f.s.
 Wir setzen $U_n\coloneqq\underset{m:m\geq n}{\inf} X_m$ und $V_n\coloneqq\underset{m:m\geq n}{\sup} X_m$ punktweise, dann gilt:
$-Z\leq U_n\leq X_n\leq V_n\leq Z$ P- f.s. für alle $n\in\mathbb N$ und $U_n \underset{n\to\infty}{\nearrow}$X, $V_n \underset{n\to\infty}{\searrow}$X P-f.s.\\
Aus dem Satz von der monotonen Konvergenz für bedingte Erwartungen (Satz 1.3.6.) folgt:
\begin {equation*}
E[U_n|\mathcal F]\underset{n\to\infty}{\to}E[X|\mathcal F]\text{ und }
E[V_n|\mathcal F]\underset{n\to\infty}{\to}E[X|\mathcal F] \text {P-f.s. in }\mathcal  L^1(\Omega,\mathcal A, P)
 \end {equation*}
Aus der Monotonie der bedingten Erwartung folgt P-f.s.:
\begin {equation*}
E[U_n|\mathcal F]\leq E[X_n|\mathcal F]\leq E[V_n|\mathcal F],\text{ also }
E[X_n|\mathcal F]\underset{n\to\infty}{\to}E[X|\mathcal F] \text {P-f.s. und in } \mathcal  L^1(\Omega,\mathcal A, P)
 \end {equation*}
\end{proof}
Der folgende Satz verallgemeinert $E[aX|\mathcal F]=aE[X|\mathcal F]\ (a\in \mathbb R)$ wesentlich: Nicht nur konstante a können aus der bedingten Erwartung herangezogen werden, sondern auch $\mathcal F$-messbare Funktionen Y.
Anschaulich: Gegeben $\mathcal F$ ist der Wert von Y bekannt, Y spielt dann eine ähnliche Rolle wie eine Konstante.
\begin{theorem}
Es sei X $\in\mathcal L^1(\Omega,\mathcal A, P)$ und Y: $\Omega\to\mathbb R$ $\mathcal F$- messbar mit YX $\in\mathcal L^1(\Omega,\mathcal A, P)$. Dann gilt:
\begin {equation*}
E[XY|\mathcal F]=YE[X|\mathcal F]\ P-f.s.
   \end {equation*}
 \end{theorem}
\begin{proof}
Wir zeigen das schrittweise
\begin{enumerate} [1)]
\item für Y=$1_A$, A $\in\mathcal F$
\item für Y=$\sum\limits_{k=1}^m \alpha_k 1_{A_k}, \alpha_k\in\mathbb R,\ A_k\in\mathcal F, m\in\mathbb N$
\item für Y$\geq0\ \mathcal F$- messbar
\item allgemein
\end {enumerate}
\begin {enumerate} [zu 1)]
\item $1_A[E[X|\mathcal F]$ ist $\mathcal F$- messbar und integrierbar und es gilt für $B\in \mathcal F$:
\begin {equation*}
E[1_A E[X|\mathcal F]1_B]=E[ E[X|\mathcal F]1_{A\cap B}]\underset {A\cap B\in \mathcal F}{=}E[X 1_{A\cap B}=E[1_A X 1_B]
  \end {equation*}
Es folgt: $E[1_A X|\mathcal F]=1_A E[X|\mathcal F]$ P-f.s.
\item \begin {equation*}
 E\left[\sum\limits_{k=1}^m \alpha_k 1_{A_k} X|\mathcal F\right]= \sum\limits_{k=1}^m E[ \alpha_k  X|\mathcal F]\overset {1)}{=} \sum\limits_{k=1}^m \alpha_k 1_{A_k} E[X|\mathcal F]\ P-f.s.
\end{equation*}

\item Es sei  $(Y_n)_{n\in\mathbb N}$ eine Folge von $\mathcal F$- messbaren Treppenfunktionen wie in 2)  mit\\
$0\leq Y_n\underset{n\to\infty}{\nearrow}Y$ punktweise, z.B. $Y_n=n\wedge 2^{-n}\lfloor 2^nY\rfloor$.\\
Wegen $|Y_n X|\leq|YX|\in\mathcal L^1(\Omega,\mathcal A, P)$ und $Y_n X\underset{n\to\infty}{\to}YX$ punktweise folgt P-f.s.
\[Y_n E[X|\mathcal F]\overset {2)}{=}E[Y_nX|\mathcal F] \xrightarrow[n\to\infty]{P-f.s. wg. dom. Konv.}E[YX|\mathcal F]\in\mathcal L^1(\Omega,\mathcal A, P)\]
Andererseits gilt:\\
\[Y_n E[X|\mathcal F]\xrightarrow{n\to\infty}{Y E[X|\mathcal F]}\text{ P-f.s. wegen } Y_n\xrightarrow{n\to\infty}Y P-f.s.\]
Zusammen folgt die Behauptung: $E[YX|\mathcal F]\xrightarrow{n\to\infty}Y E[X|\mathcal F]$ P-f.s.

\item Wir zerlegen Y in Positiv- und Negativteil $Y=Y_+-Y_-$ wobei $Y_+=Y1_{\{Y\geq 0\}},\ Y_-=Y1_{\{Y<0\}}$ Weil nach Vorraussetzung YX $\in\mathcal L^1(\Omega,\mathcal A, P)$
ist auch  $Y_+X=YX1_{\{Y\geq 0\}} \in\mathcal L^1(\Omega,\mathcal A, P)$ und  $Y_-X=YX1_{\{Y<0\}} \in\mathcal L^1(\Omega,\mathcal A, P)$.\\
Weiter sind $Y_+$ und $Y_-$ wegen $\{Y\geq 0\}\in\mathcal F\ \mathcal F$-messbar, da Y $\mathcal F$- messbar ist. Es folgt P-f.s.
\begin {equation*}
E[YX|\mathcal F]=E[Y_+X-Y_-X|\mathcal F]=E[Y_+X|\mathcal F]-E[Y_-X|\mathcal F]]\overset {3)}{=}Y_+E[X|\mathcal F]-Y_-E[YX|\mathcal F]=YE[X|\mathcal F]
\end {equation*}
\end{enumerate}
 \end{proof}

\subsection {Bedingte Erwartung für nicht notwendig integrierbare Zufallsvariablen}

Bekanntlich ist die Erwartung E[X] nicht nur für X $\in\mathcal L^1(\Omega,\mathcal A, P)$ definiert, sondern auch für alle Zufallsvariablen X, für die $E[X_+]<\infty$ oder $E[X_-]<\infty$ gilt. E[X] kann dann auch die Werte $\pm\infty$ annehmen.\\
Auch für die bedingte Erwartung kann man diesen Fall verallgemeinern. wir führen das hier nur für $E[X_-]<\infty$ aus , der andere Fall kann analog behandelt werden.

\begin{lemma}
Es sei X: $\Omega\to\mathbb R \cup\{\pm\infty\}$ eine Zufallsvariable und $E[X_-]<\infty$. Es seinen $(Y_n)_{n\in\mathbb N}$ und $(Z_n)_{n\in\mathbb N}$ zwei aufsteigende Folgen in $\mathcal L^1(\Omega,\mathcal A, P)$ mit $ Y_n\underset{n\to\infty}{\nearrow}X$ und $Z_n\underset{n\to\infty}{\nearrow}X$ P-f.s. Dann gilt:
\[ \underset{n\to\infty}{\lim} E[Y_n|\mathcal F]=\underset{n\to\infty}{\lim} E[Z_n|\mathcal F]\quad(\underset{n\to\infty}{\lim} P-f.s.\ gemeint)\]
\end{lemma}
\begin {remark}
so eine Folge $(Y_n)_{n\in\mathbb N}$ existiert, z.B. $Y_n=X 1_{\{X>-\infty\}}\wedge n$
\end {remark}
\begin{proof}
Für $m\in\mathbb N$ folgt aus $Z_m\leq X$ und $ Y_n\underset{n\to\infty}{\nearrow}X$ P-f.s.:
\[ \underset{n\to\infty}{\lim} E[Y_n|\mathcal F]\underset{Y_n\geq Y_n\cap Z_m}{\geq}\underset{n\to\infty}{\lim} E[Y_n\cap Z_m|\mathcal F]\underset{mon.konv.}{\overset{Z_m\in\mathcal L^1} {=}} E[Z_m|\mathcal F]\quad \text{ und daher} \]
\[ \underset{n\to\infty}{\lim} E[Y_n|\mathcal F]\geq\underset{n\to\infty}{\lim} E[Z_m|\mathcal F] \]
Mir vertauschten Rollen von  $(Y_n)_{n\in\mathbb N}$ und  $(Z_m)_{m\in\mathbb N}$ folgt ebenso:
\[ \underset{n\to\infty}{\lim} E[Z_m|\mathcal F]\geq\underset{n\to\infty}{\lim} E[Y_n|\mathcal F]\ P-f.s. \]
also zusammen die Behauptung:
\[ \underset{n\to\infty}{\lim} E[Y_n|\mathcal F]=\underset{n\to\infty}{\lim} E[Z_n|\mathcal F]\quad P-f.s.\]
\end{proof}
Das legt folgende Definition nahe:
\begin{definition}
Für Zufallsvariablen  X: $\Omega\to\mathbb R \cup\{\pm\infty\}$ mit  $E[X_-]<\infty$ sei $E[X|\mathcal F]$ definiert als eine \underline{$\mathcal F$-messbare Variante} des P-f.s. Limes
$\underset{n\to\infty}{\lim} E[Y_n|\mathcal F]$, wobei $(Y_n)_{n\in\mathbb N}$ beliebige aufsteigende Folge in $\mathcal L^1(\Omega,\mathcal A, P)$ mit $ Y_n\underset{n\to\infty}{\nearrow}X$ P-f.s. bezeichnet.
\end{definition}
Damit wird $E[X|\mathcal F]$ bis auf Abänderung auf einer $\mathcal F$-Nullmenge wohldefiniert. Dei Regeln aus Abschnitt 1.3 gelten (mit kleinen Abänderungen) auch für die  so verallgemeinerte bedingte Erwartung (hier keine Details). Nur 2 Beispiele ohne Beweis:
\begin{theorem}
Es sei X: $\Omega\to\mathbb R \cup\{\pm\infty\}$ eine Zufallsvariable mit $E[X_-]<\infty$. Weiter sei Z: $\Omega\to\mathbb R \cup\{\pm\infty\}$ eine Zufallsvariable mit folgenden Eigenschaften:
\begin{enumerate}[1)]
\item Z ist $\mathcal F$-messbar
\item $\forall A\in\mathcal F$ existiert $E[Z1_A]$ und es gilt  $E[X1_A]$
\end {enumerate}
Dann ist Z=$E[X|\mathcal F]\quad P-f.s.$\quad (ohne Beweis)
\end{theorem}
\begin{theorem} [Satz von der monotonen Konvergenz für bedingte Erwartungen]
Es sei  $(X_n)_{n\in\mathbb N}$ eine $P-f.s.$ aufsteigende Folge von Zufallsvariablen: $X_n\colon\Omega\to\mathbb R \cup\{\pm\infty\}$ mit  $E[(X_1)_-]<\infty$ und $X=\underset{n\to\infty}{\lim}X_n$ $P-f.s.$ Dann gilt: $E[X_n|\mathcal F]\underset{n\to\infty}{\to}E[X|\mathcal F]\quad P-f.s.$
\end{theorem}

\subsection{Die Jensensche Ungleichung}
Es sei $ I \subset \mathbb{R} $ ein Intervall.
\begin{reminder}
Eine Funktion $ \varphi:I\longrightarrow \mathbb{R} $ heißt \underline{konvex}, wenn für alle $ x,y \in I $ und alle $ \alpha \in [0,1] $ gilt: $ \varphi(\alpha x + (1-\alpha)y) \leq \alpha\varphi(x) + (1-\alpha)\varphi(y) $ $ (\star) $
\end{reminder}
Für konvexe Funktionen $ \varphi: I\longrightarrow \mathbb{R} $
gilt: \\
Für alle $ x\in \mathbb{R} $ ist der Differenzquotient $ q_x: I\{x\}\to \mathbb{R} , q_x(y)= \dfrac{\varphi(y)-\varphi(x)}{y-x}$ monoton steigend. \\
Insbesondere existieren für $ x $ im Inneren von $ I $ die links- und rechtsseitige Ableitung. \\
$ \varphi_{l}^{'}(x)=\lim\limits_{y\nearrow x} q_{x}(y), \ \ \varphi_{v}^{'}(x)=\lim q_x(y), $ und es gilt für alle $ y<x<z $: $ q_x(y)\leq\varphi_{l}^{'}(x)\leq\varphi_{v}^{'}(x)\leq q_x(z) $ \\
Insbesondere gilt $ \varphi (y) \geq \varphi (x) + \varphi_{l}^{'} (x)(y-x)  \forall y \in I $
Als monoton steigende Funktionen sind $ \varphi_{l}^{'} $ und $ \varphi^{'}_{v} $ messbar.
\begin{theorem}[Jensensche Ungleichung]
Es sei $ I\subset \mathbb{R} $  ein offenes Intervall, $ \varphi :I\to \mathbb{R} $ konvex und $ X\in \mathcal{L}^{1}(\Omega,\mathcal A,P) $ mit $ X:\Omega\to I $ sowie $ \mathcal F \subset \mathcal A $ eine Unter-$ \sigma $-Algebra. \\
Dann existiert $ E[\varphi(x)|\mathcal F] $, und es gilt $ P $-f.s. $ E[\varphi(x)|\mathcal F] \geq \varphi(E[X|\mathcal F])$
\end{theorem}
\begin{remark}
Die definierende Bed. $ (\star) $ der Konvexität kann als Spezialfall $ \mathcal F = \{ \emptyset, \Omega \} , \mathcal L(X) = \alpha\delta_{x}+(1-\alpha)\delta_{y}$ der Jensenschen Ungleichung aufgefasst werden.
\end{remark}
\begin{proof}
Für alle $ x \in I $ wissen wir: $ \varphi(X)\geq\varphi(x)+\varphi_{l}^{'}(x)(X-x) (\star\star)$ \\
Wegen $ X\in\mathcal L^{1}(\Omega,\mathcal A, P) $ folgt $ \varphi(x)+\varphi^{'}_{l}(x)(X-x) \in \mathcal L^{1}(\Omega,\mathcal A, P) $ und daher $ E[\varphi(X)] \leq E[(\varphi(x)+\varphi^{'}_{l}(x)(X-x))] < \infty$\\
Insbesondere existiert $ E[\varphi(X)|\mathcal F] $ \\
Setzen wir nun $ x=E[X|\mathcal F] $ in $ (\star\star) $ ein, so folgt:\\
$ \varphi(X)\geq\varphi(E[X|\mathcal F] + \varpi^{'}_{l}(E[X|\mathcal F])(X-E[X|\mathcal F])$ \\
Weil wir nicht wissen, ob hier der 2. Summand in $ \mathcal L^1(\Omega,\mathcal A, P) $ liegt, betrachten wir das erst auf den Ereignisse $ A_n:=\{|\underbrace{\varphi^\prime_{l}(E[X|\mathcal F}_{\mathcal F\text{ -messbar}}])| \leq n \} \in \mathcal F , n\in \mathbb{N}$:\\
$ 1_{A_n}E[\varphi(X)|\mathcal F]=E[1_{A_n}\varphi(X)|\mathcal F] \geq E[1_{A_N}\varphi(E[X|\mathcal F])|\mathcal F] + E[\overbrace{\underbrace{1_{A_n}\varphi^\prime_{l}(E[X|\mathcal F])}_{\text{beschränkt},\mathcal F messbar}\underbrace{(X-E[X|\mathcal F])}_{\in\mathcal L^{1}}}^{\in \mathcal L^{1}}|\mathcal F] = 1_{A_n}\varphi(E[X|\mathcal F] + 1_{A_n}\varphi_{l}^{'}(E[X|\mathcal F])E[X-E[X|\mathcal F]|\mathcal F] = 1_{A_n}\varphi(E[X|\mathcal F])$ P-f.s. \\
Weil das für alle $ n \in \mathbb{N} $ gilt. folgt:\\
$ E[\varphi(X)|\mathcal F]\geq \varphi(E[X|\mathcal F]) $ P-f.s. \\
\end{proof}
\begin{example}
Für $ X\in\mathcal L^{1}(\Omega,\mathcal A, P) $ gilt: \\
$ E[X^{2}|\mathcal F] \geq E[X|\mathcal F]^{2} $ \\
Das verallgemeinert die bekannte Ungleichung $ E[X^2]\geq E[X]^{2} $
\end{example}
Als Anwendung besprechen wir die Beschränktheit der bedingten Erwartungswertbildung in den Räumen $\mathcal L^{P}(\Omega,\mathcal A, P), 1\leq p<\infty  $ \\
Für $ X:\Omega\to \mathbb{R} $ messbar sei $  \lVert X \rVert_{P} = (\int\limits_{\Omega} |X|^{P}dP)^{\frac{1}{P}} $ \\
$ \mathcal L^{P}(\Omega,\mathcal A, P):= \{X:\Omega\to \mathbb{R} | X \text{ ist } \mathcal A \text{-messbar, } \lVert X\rVert_P < \infty \} $ \\
Es sei $ \mathcal L^{P}(\Omega,\mathcal A, P) =  \mathcal L^{P}(\Omega,\mathcal A, P) / \sim $ , wobei $ \sim $ die Äquivalenzrelation $ X\sim Y \Leftrightarrow X=Y $ P-f.s. bezeichnet. \\
Es bezeichne:\\
$ [X]_{\sim}=\{y\in\mathcal L^{P}(\Omega,\mathcal A, P) | Y\sim X\} $  die Äquivalenzklasse von $ X\in\mathcal L^{P}(\Omega,\mathcal A, P) $ .
\begin{remark}
In der Maßtheorie bzw. Funktionalanalysis lernen Sie: \\
$ \lVert\cdot\rVert_{P} $ ist eine Halbnorm auf $ \mathcal L^{P}(\Omega,\mathcal A, P) $ mit $ \lVert X\rVert_{P}=0 \Leftrightarrow X\sim 0 $, induziert also eine (wieder mit $\lVert\cdot\rVert_{P}$ bezeichnet) Norm auf $ \mathcal L^{P}(\Omega,\mathcal A, P) $. Mit dieser Norm wird $ \mathcal L^{P}(\Omega,\mathcal A, P) $ eine \underline{Banachraum}, also ein \underline{vollständiger} normierter Raum.
\end{remark}
\begin{theorem}
Für alle $ p\in[1,\infty] $ und alle $ X\in\mathcal L^{P}(\Omega,\mathcal A, P) $ gilt: \\
\begin{equation*}
\lVert E[X|\mathcal F]\rVert_{P} \leq \lVert X\rVert_{P}
\end{equation*}
\end{theorem}
\begin{remark}
Für $ 1\leq p < q < \infty $ gilt:
\begin{equation*}
\mathcal L^{q}(\Omega,\mathcal A, P) \subset \mathcal L^{P}(\Omega,\mathcal A, P)
\end{equation*}
da $ E[|X|^{P}] \leq E[1+|X|^{q}]< \infty $ für $ X\in\mathcal L^{q}(\Omega,\mathcal A, P) $
\end{remark}
\begin{proof}
Die Abb. $ \varphi:\mathbb{R}\to \mathbb{R} , \varphi(t)=|t|^{P} $ ist konvex. Die Jensensche Ungleichung liefert: \\
$ |E[X|\mathcal F]|^{P} \leq E[|X|^{P}|\mathcal F] $  und daher $ \lVert E[X|\mathcal F]\rVert^{P}_{P} = E[|E[X|\mathcal F]|^{P}] < E[E[|X|^{P}|\mathcal F]] = E[|X|^{P}] = \lVert X\rVert^{P}_{P}$  also die Behauptung.
\end{proof}
Insbesondere liefert bedingte Erwartungsbildung eine \underline{beschränkte} lineare Abbildung
\begin{equation*}
E[\cdot|\mathcal F]:\mathcal L^{P}(\Omega,\mathcal A, P)\to\mathcal L^{P}(\Omega,\mathcal A, P) , [X]_{\sim} \mapsto [E[X|\mathcal F]]_{\sim}
\end{equation*}
\subsection{$  \mathcal L^{2}$ -Theorie der bedingten Erwartung}
Besonders schön wird die Theorie bed. Erwartungen im Raum $ \mathcal L^{2}(\Omega,\mathcal A, P) $. Dieser Raum  bildet bekanntlich mit dem Skalarprodukt $ \langle [X]_{\sim},[Y]_{\sim}\rangle := E[XY] $ sogar einen Hilbertraum, also einen Banachraum, dessen Norm durch das Skalarprodukt induziert wird:
$ \lVert x\rVert_{2}= \sqrt{\langle X,X\rangle}, X\in \mathcal L^{2}(\Omega,\mathcal A, P) $. Ist nun $ \mathcal F\subset \mathcal A $ eine Unter-$ \sigma $-Algebra, so ist $ \mathcal L^{2}(\Omega,\mathcal F, P) \subset \mathcal L^{2}(\Omega,\mathcal A, P)$ \\
Damit können wir $ \mathcal L^{2}(\Omega,\mathcal F, P) $ als Teilraum von $ \mathcal L^{2}(\Omega,\mathcal A, P) $ auffassen. \\
Weil $ \mathcal L^{2}(\Omega,\mathcal F, P) $ vollständig ist, ist dieser Teilraum sogar abgeschlossen in $ \mathcal L^{2}(\Omega,\mathcal A, P) $
\begin{theorem}
Für alle $ X\in\mathcal L^{2}(\Omega,\mathcal A, P) $ und alle $ Y\in\mathcal L^{2}(\Omega,\mathcal F, P), \mathcal F $ Unter-$ \sigma $-Algebra sind $ Y $ und $ X-E[X|\mathcal F] $ orthogonal zueinander.
%lvert rvert%
Weil $ E[\cdot|\mathcal F]:\mathcal L^{2}(\Omega,\mathcal A, P)\to\mathcal L^{2}(\Omega,\mathcal F, P) $ linear ist und $ E[X|\mathcal F]=X $ für alle $ X\in\mathcal L^{2}(\Omega,\mathcal F, P) $ gilt, können wir das auch so formulieren: \\
$ E[\cdots|\mathcal F]:\mathcal L^{2}(\Omega,\mathcal A, P)\to \mathcal L^{2}(\Omega,\mathcal F, P) $ ist die orthogonale Projektion auf $ \mathcal L^{2}(\Omega,\mathcal F, P) $
\end{theorem}
\begin{proof}
$ E[\overbrace{\underbrace{Y}_{\in\mathcal L^{2}}\cdot\underbrace{(X-E[X|\mathcal F]}_{\in\mathcal L^{2}}}^{\in\mathcal L^{1}}] = E[E[\underbrace{Y}_{\mathcal F-messbar}\cdot(X-E[X|\mathcal F])|\mathcal F]] = E[Y\cdot E[X-E[X|\mathcal F]|\mathcal F]] = 0     $
\end{proof}
\begin{remark}
Das Lemma motiviert eine alternative Einführung der bedingten Erwartungen für $ X\in\mathcal L^{2}(\Omega,\mathcal A, P) $ . In der Funktionalanalysis beweist man: \\
Ist $ V $ ein abgeschlossener Teilraum eines Hilbertraums $ H $ , so gibt es eine orthogonale Projektion $ \pi $ von $ H $ \underline{auf} $ V $ mit folgenden Eigenschaften:
\begin{enumerate}
\item[1)] Für alle $ x\in V $ ist $ \pi(x)=x $
\item[2)] Für alle $ x\in H $ und $ y\in V $ ist $ y\perp x-\pi(x) $
\end{enumerate}
\end{remark}
Damit hätten wir unabhängig von Satz von Radon-Nikodyn $ E[\cdot|\mathcal F]:\mathcal L^{2}(\Omega,\mathcal A, P)\to\mathcal L^{2}(\Omega,\mathcal F, P) $ auch als orthogonale Projektion definieren können. Die charackteristischen Eigenschaften erhält man dann so:
\begin{enumerate}
\item[1)] Für alle $ X\in\mathcal L^{2}(\Omega,\mathcal A, P) $ ist $ E[X|\mathcal F] \in \mathcal L^{2}(\Omega,\mathcal F, P) $ eine Klasse von $ \mathcal F $-messbaren Zufallsvariablen
\item[2)]Für $ X\in\mathcal L^{2}(\Omega,\mathcal A, P) $ und $ Y\in\mathcal L^{2}(\Omega,\mathcal F, P) $ ist $ 0=E[Y(X-E[X|\mathcal F])]=E[YX]-E[Y E[X|\mathcal F]] $. Insbesondere erhalten wir für $ Y=1_{A} , A\in\mathcal F: E[1_{A}X]=E[1_{A}E[X|\mathcal F]] $
\end{enumerate}
\begin{reminder}[Satz des Pythagoras]
\begin{lemma}
Sind $ X,Y\in \mathcal{L}^{2}(\Omega,\mathcal A, P) $ orthogonal zueinander, so gilt:
\begin{equation*}
E[(X+Y)^{2}]=E[X^{2}]+E[Y^{2}]
\end{equation*}
\underline{Allgemeiner:} Sind $ X_1,\hdots ,X_n \in \mathcal{L}^{2}(\Omega,\mathcal A, P)$ paarweise orthogonal zueinander, so gilt:
\begin{equation*}
E\left[ \left( \sum\limits_{k=1}^{n} X_k \right)^{2} \right] = \sum\limits_{k=1}^{n} E[X_k^{2}]
\end{equation*}
\end{lemma}
\end{reminder}
\begin{proof}
Es gilt: \\
$ E[(\sum\limits_{k=1}^{n}X_k)^{2}] = \sum\limits_{k=1}^{n}\sum\limits_{l=1}^{n} \underbrace{E[X_k X_l]}_{=0 \text{ für } k\neq l} = \sum\limits_{k=1}^{n} E[X_k^{2}] $
\end{proof}
Wir betrachten folgenden Spezialfall:\\
Für $ X\in\mathcal{L}^{2}(\Omega,\mathcal A, P) $ sind $ X-E[X|\mathcal F] $ und $ E[X|\mathcal F]-E[X] \in \mathcal{L}^{2}(\Omega,\mathcal A, P) $ orthogonal zueinander. \\
Es folgt: \\
$ \Var (X)= E[(X-E[X])^{2}]=E[\underbrace{((X-E[X|\mathcal F])+(E[X|\mathcal F]-E[X])}_{\text{Summanden orthogonal zueinander}})^{2}] \underset{\text{Pythagoras}}{=} E[(X-E[X|\mathcal F])^{2}] + E[(E[X|\mathcal F]-E[X])^{2}]=E[E[(X-E[X|\mathcal F])]] + \Var (E[X|\mathcal F])  $
\begin{definition}
Für $ X\in\mathcal L^{2}(\Omega,\mathcal A, P) $ definieren wir die \underline{bedingte Varianz} von $ X $ gegeben $ \mathcal F $ durch:
\begin{equation*}
\Var (X|\mathcal F):= E[(X-E[X|\mathcal F])^{2}|\mathcal F]
\end{equation*}
Damit haben wir gezeigt:
\end{definition}
\begin{lemma}
Für $ X\in\mathcal L^{2}(\Omega,\mathcal A, P) $ gilt:
\begin{equation*}
\Var(X)=E[\Var(X|\mathcal F)] + \Var(E[X|\mathcal F])
\end{equation*}
\end{lemma}
\begin{example}
Ein fairer Spielwürfel wir so lange geworfen, bis zum ersten Mal eine " 6 " \ erscheint. Es bezeichnet $ S $ die Summe der Augenzahlen. Wir berechnen $ E[S] $ und $ \Var(S) $
\begin{enumerate}
\item
[\underline{Zu $ E[S] $}]
Es sei $ N $ die Anzahl der Würfe bis zum ersten Auftreten von " 6 " . Dann ist $ N $ geometrisch verteilt: \\
$P[N=n]=\left(\dfrac{5}{6}\right)^{n-1}\cdot\dfrac{1}{6} $ für $ n\in \mathbb{N} $ \\
$ P[N=\infty]=0 $ , und bedingt auf $ N=n $ sind die ersten $ N-1 $ Augenzahlen $ X_1,\hdots,X_{N-1} $ iid gleichverteilt auf $ [1,2,3,4,5] $ und $ X_N=6 $ \\
$ E[S|N=n]=\sum\limits_{k=1}^{n} E[X_k|N=n] = 3(n-1)+6=3n+3 $, also $ E[S|N]=3N+3 $ \\
Also: $ E[S]=E[E[S|N]]=E[3N+3]=3E[N]+3\underset{E[N]=6}{=}3\cdot 6+3=21 $ \\
$ E[N]=6 $ sieht man einfach so: \\
$ E[N]= 1\cdot P[N=1]+\underbrace{E[N|N\geq 2]}_{\mathclap{1+E[N] \text{ wg. Gedächtnislosigkeit der geom. Vert.}}}\cdot P[N\geq 2]=\dfrac{1}{6}+(1+E[N])\cdot\dfrac{5}{6} $ \\
wegen $ E[N]<\infty $ folgt hieraus $ E[N]=6 $ \\
\item
[\underline{Zu $ \Var(S) $}] Es gilt:
\begin{equation*} \Var(S)=E[\Var(S|N)]+\Var(E[S|N])\end{equation*}
Nun gilt: \begin{equation*} \Var(S|N)=\Var(\sum\limits_{k=1}^{N-1} X_k+6 | N ) \underbrace{=}_{\mathclap{\overset{\uparrow}{\text{Unabhängigkeit der }X_1,\hdots,X_{N-1} ggn. \ N}}} \sum\limits_{k=1}^{N-1} \Var(X_k|N) \overbrace{=}^{\mathclap{\underset{\downarrow}{\text{Gegeben } N=n>k \text{ ist }X_k \text{ gleicherverteilt auf } \{1,\hdots,5 \}}}} (N-1)\cdot 2\end{equation*}
denn die Varianz der Gleichverteilung auf $ \{1,\hdots,5\} $ ist 2. \\
Es folgt:
\begin{equation*} E[\Var(S|N)]=E[2(N-1)]=2\cdot \underbrace{E[N]}_{=6}-2=10 \end{equation*}
Weiter:\\
$ \Var(E[S|N])=\Var(3N+3)=9\Var(N) $ \\
Statt $ \Var(N) $ direkt (was auch möglich ist) zu berechnen, bedingen wir auf die von der Partition $ \{N=1\},\{ N\geq 2 \} $ erzeugte $ \sigma $-Algebra $ \mathcal F $. \\
\begin{equation*} \Var(N)=E[\Var(N|\mathcal F)]+\Var(E[N|\mathcal F]) \end{equation*}
Nun ist \begin{align*} \Var(N|\mathcal F)=\underbrace{\Var(N|N=1)1_{\{N=1\}}}_{=0} + \underbrace{\Var(N|N\geq 2)}_{\Var(N)}1_{\{N\geq 2 \}} \overset{\mathclap{\underset{\uparrow}{\text{Gedächtnislosigkeit der geom. Verteilung}}}}{=}\Var(N)1_{\{N\geq 2\}} \\
E[\Var(N|\mathcal F)]=\Var(N)\cdot P[N\geq 2]=\dfrac{5}{6}\Var(N) \end{align*}
Weiter: \\
$ E[N|\mathcal F]=1\cdot 1_{\{ N=1 \}} + \underbrace{E[N|N\geq 2]}_{1+E[N]=7}\cdot 1_{\{ N\geq 2\}} = 1_{\{N=1\}} + 7\cdot 1_{\{N\geq 2\}}$ \\
Also:\\
$ \Var(E[N|\mathcal F])=\Var(1_{\{N=1\}} + 7\cdot 1_{\{ N\geq 2\}}) = \Var(6\cdot 1_{\{N\geq 2\}})=36\cdot \Var(1_{\{N\geq 2\}}) =\\ 36\cdot (P[N\geq 2]-P[N\geq 2]^{2})=36\cdot (\frac{5}{6}-(\frac{5}{6})^{2})=5 $ \\
$ \Var(N)=\frac{5}{6}\Var(N)+5 $ Nun ist $ \Var(N)<\infty $, da $ P[N\geq k] $ für $ k\to\infty $ exponentiell schnell fällt. Es folgt: \\
$ \Var(N)=30 $ und damit $ E[\Var(N|\mathcal F)]=\frac{5}{6}\Var(N)=25 $ \\
Oben eingesetzt: \\
\begin{equation*} \Var(S)=E[\Var(S|N)] + \Var(E[S|N]) = 10+25=35 \end{equation*}
\end{enumerate}
\end{example}
\section{Martingale}
\subsection{Motivation: Approximation bed. Erwartungen}
Wir besprechen als Einführung eine Konstruktion bed. Ewartungen durch Approximation durch elementare bed. Erwartungen. Hierzu sei $ X\in\mathcal L^{2}(\Omega,\mathcal A, P) $ eine Zufallsvariable und $ \mathcal F\subseteq \mathcal A$ eine Unter-$ \sigma $-Algebra. Wir nehmen an, dass $ \mathcal{F} $ eine abzählbares Erzeugendensystem besitzt: $ \mathcal{F}=\sigma(A_{n}:n\in\mathbb{N} ) $ mit $ A_{n}\in\mathcal F $ Ereignisse $ \forall \ n\in \mathbb{N} $. \\
Zum Beispiel ist das stets der Fall, wenn $ \mathcal F=\sigma(Y) $ mit einer Zufallsvariable $Y:(\Omega,\mathcal{A})\to(\mathbb{R}^{n},\mathcal B(\mathbb{R}^{n}) )  , \ n \in\mathbb{N} $, denn hier ist
\begin{equation*}
\left\lbrace\left\lbrace Y\in B(x,r)\right\rbrace | x\in\mathbb Q^{n}, r\in \mathbb{Q}^{+} \right\rbrace
\end{equation*}
ein abzählbares Erzeugendensystem ($ B(x,r) $ offene Kugel, $ x $ Mittelpunkt, $ r $ Radius). \\
Wir sehen für $ k\in\mathbb N $: $ \mathcal F_{n}=\sigma(A_1,\hdots ,A_n) $.\\
Insbesondere ist $ \mathcal F_{n} $ endlich und es gilt:
\begin{equation*}
\mathcal F = \mathcal F_{\infty} := \sigma(\bigcup\limits_{n\in\mathbb N} \mathcal F_{n})
\end{equation*}
Offensichtlich gilt: $ \mathcal F_1 \subseteq \mathcal F_{2} \subseteq \mathcal{F}_{3} \subseteq \hdots \subseteq \mathcal F_{\infty} $ \\
Solche aufsteigenden Familien von Unter-$ \sigma $-Algebren bekommen eine eigene Bezeichnung:
\begin{definition}
Es sein $(\Omega,\mathcal A)$ ein Ereignisraum. Eine aufsteigende Folge $ (\mathcal F_{n})_{n\in\mathbb N} $ von Unter-$ \sigma $-Algebren von $ \mathcal{A} $ heißt \underline{Filtration} von $ \mathcal{A} $. \\
Sei allgemeiner $ (J,\leq) $ eine linear geordnete Menge und $ (\mathcal F_{t})_{t\in J} $ eine Familie von Unter-$ \sigma $-Algebren von $ \mathcal A $. Wenn $ \forall \ s,t\in J $ mit $ s\leq t $ gilt: $ \mathcal F_{s}\subseteq\mathcal F_{t} $, so heißt $ (\mathcal F_{t})_{t\in J} $ eine \underline{Filtration} in $ \mathcal{A} $ über $ (J,\leq) $.
\end{definition}
Oben haben wir eine Filtration $ (\mathcal F_{n})_{n\in N\cup \{\infty\}} $ in $ \mathcal{A} $ über $ (N\cup\{\infty\},\leq) $.\\
Die bedingte Erwartung $ X_n := E[X|\mathcal F_{n}] , \ n\in\mathbb N $ sind wie in Abschnitt 1.1 als Elementare bedingte Erwartungen explizit gegeben. Wir wollen nun $ X_{\infty}:= E[X|\mathcal F_{\infty}] $ als Limes der $ X_n , n\in\mathbb N $ darstellen.\\
Aus der Turmeigenschaft der bedingten Erwartung wissen wir für $ n,m\in\mathbb N\cup\{\infty\} $ mit $ n\leq m $:
\begin{equation*}
X_n = E[X|\mathcal F_{n}] \underbrace{=}_{\mathcal F_{n}\subseteq\mathcal F_{m}} E[E[X|\mathcal F_{m}]|\mathcal F_{n}]=E[X_{m}|\mathcal F_{n}]
\end{equation*}
Bezeichnung dafür:
\begin{definition}
Es sei $ (\mathcal F_{t})_{t\in J} $ eine Filtration in $ \mathcal A $ über $ (J,\leq) $. Eine Familie $ (X_{t})_{t\in J} $ von reellen Zufallsvariablen heißt \underline{adaptiert} an diese Filtration, wenn $ X_t $ bzgl. $ \mathcal{F}_{t} $ messbar ist $ \forall \ t\in J $. Gilt $ X_t\in \mathcal{L}^{1}(\Omega,\mathcal F_{t}, P) $ und $ X_s=E[X_t|\mathcal F_{t}] \ \ P$-f.s. $ \forall \ s,t\in J $ mit $ s\leq t $, so heißt $ (X_t)_{t\in J} $ eine \underline{Martingal} bzgl. der Filtration $ (\mathcal F_{t})_{t\in J} $
\end{definition}

\begin{definition}
Es sei $ (\mathcal F_{t})_{t\in I} $ eine Filtration in $ \mathcal{A} $ über $ (I,\subseteq) $. Eine Familie $ (X_{t})_{t\in I} $ von ZV heißt \underline{adaptiert}, wenn für alle $ t\in I  X_{t}$ bzgl. $ \mathcal F_{t} $ messbar ist. \\
Gilt $ X_{t} \in \mathcal L^{1}(\Omega,\mathcal A, P)$ l.o.t?? und $ E[X_{t}|\mathcal F_{s}]= X_{s} P$-f.s. für alle $ s,t \in I $ mit $ s\leq t $, so heißt $ (X_{t})_{t\in I} $ ein \underline{Martingal} bzgl. $ (\mathcal F_{t})_{t\in I} $.\\
\underline{Anschauung:} Martingale beschreiben "faire" Glücksspiele.
\end{definition}
Martingale in $ \mathcal L^{1}(\Omega,\mathcal A, P) $ besitzen folgende schöne Eigenschaft:
\begin{theorem}[Orthogonalität der Zuwächse eines $ \mathcal L^{2} $-Martingals]
Ist $ (X_{t})_{t\in I} $ eine Martingal bzgl. $ (\mathcal F_{t})_{t\in I} $ mit $ X_{t} \in \mathcal L^{2}(\Omega,\mathcal F_{t}, P) $ für alle $ t\in I $, so gilt für alle $ r,s,t $ mit $ r\leq s\leq t $:\\
$ X_{r}, X_{s}-X_{r} $ und $ X_{t}-X_{s} $ sind paarweise orthogonal zueinander, d.h.:
\begin{enumerate}
\item[1.] $ E[X_{r}(X_{s}-X_{r})]=0 $
\item[2.] $ E[X_{r}(X_{t}-X_{s})]=0 $
\item[3.] $ E[(X_{s}-X_{r})(X_{t}-X_{s})]=0 $
\end{enumerate}
Stärker gilt sogar:
\begin{enumerate}
\item[i.] $ E[X_{r}(X_{s}-X_{r})|\mathcal F_{r}]=0 P$-f.s.
\item[ii.] $ E[X_{r}(X_{t}-X_{s})|\mathcal F_{s}]=0 P$-f.s.
\item[iii.] $ E[(X_{s}-X_{r})(X_{t}-X_{s})|\mathcal F_{s}]=0 P$-f.s.
\end{enumerate}
\end{theorem}
\begin{proof}
1.,2.,3. erhält man aus i.,ii.,iii., indem man die (unbedingte) Erwartung bildet. \\
i. erhält man aus ii. indem man $ (r,s,t) $ durch $ (r,r,s) $ ersetzt.\\
% Kommentar X_{r}= \mathcal F_{r}-messbar, also auch \mathcal F_{s}-messbar weil \mathcal F_{r}\subseteq \mathcal F_{s} wegen r\leq s %
Zu ii.: $ E[X_{r}(X_{t}-X_{s})|\mathcal F_{s}] = X_{r}(\underbrace{E[X_{t}|\mathcal F_{s}]}_{\mathclap{=X_{s} (\text{ Martingaleigenschaft})}} - \overbrace{E[X_{s}|\mathcal F_{s}]}^{\mathclap{=X_{s} ,\text{da} (X_{k})_{k\in\mathbb Z} \text{adaptiert}}} )= 0 P$-f.s. \\
Indem wir in ii. $ (r,s,t) $ durch $ (s,s,t)$  ersetzen, erhalten wir
\begin{enumerate}
\item[iv.] $ E[X_{s}(X_{t}-X_{s})|\mathcal F_{s}]=0  P-$f.s.
\end{enumerate}
und damit iii. als Differenz von iv. und ii.
\end{proof}
%  [X_{n}=E[X|\sigma(A_{1,\hdots,A_{n}})]]%
$[X_n=E[\underset{\underset{\in\mathcal L^2}{\uparrow}}{X}|\underbrace{\sigma(A_1,...,A_n)}_{=\mathcal F_n}]$ \\
Für unser MArtingal $ (X_{n})_{n\in\mathbb N} $ von oben (und allgemeiner für jedes Martingal in $ \mathcal L^{2} $ bedeutet das: \\
Die Zuwächse $ X_{n+1}-X_{n}, n\in\mathbb N $, sind paarweise orthogonal. \\
Aus dem Satz von Pythagoras folgt für $ m>n $:
\begin{equation*}
E[(X_{m}-X_{n})^{2}]=E\left[(\sum\limits_{k=n}^{m-1} (X_{k+1}-X_{k}))^{2}\right] = \sum\limits_{k=n}^{m-1} E[(X_{k+1}-X_{k})^{2}]
\end{equation*}
Nun ist die Folge $ (X_{n})_{n\in\mathbb N} $ in $ \mathcal L^{2} $ beschränkt. d.h. $ \sup\limits_{n\in\mathbb N} E[X_{n}^{2}] < \infty $\\
In der Tat: Aus $ X_{n}= E[X|\mathcal F_{n}] $ und $ X\in\mathcal L^{1}(\Omega,\mathcal A, P) $ folgt $ E[X^{2}] \underbrace{\subseteq}_{\mathclap{\text{Jensen oder }X_{n}\perp X-X_{n}}} E[X^{2}]<\infty $ für alle $ n\in\mathbb N $.\\
Nun gilt:
\begin{theorem}
Jedes in $ \mathcal L^{2} $ beschränktes Martingal $ (X_{n})_{n\in\mathbb N} $ bzgl. einer Filtration $ (\mathcal F_{n})_{n\in\mathbb N} $ ist in $ \mathcal L^{2} $ konvergent. Es gibt also ein $ Y\in\mathcal L^{2}(\Omega,\mathcal A, P) $ mit $ E[(X_{n}-Y)^{2}] \underset{n\to\infty}{\longrightarrow} 0 $ \\
Genauer gesagt kann man $ Y\in\mathcal L^{2}(\Omega,\mathcal F_{\infty}, P) $ wählen, wobei $ \mathcal F_{\infty} = \sigma (\bigcup\limits_{n\in\mathbb N} \mathcal F_{n})  $
\end{theorem}
\begin{proof}
Wir zeigen, dass $ (X_{n})_{n\in\mathbb N} $ eine Cauchyfolge in $ \mathcal L^{2}(\Omega,\mathcal F_{\infty}, P) $ bildet, d.h.
\begin{equation*}
\lim\limits_{k\to\infty} \sup\limits_{m,n: m>n\geq k} E[(X_{m}-X_{n})^{2}]=0
\end{equation*}
Es sei $ c:= \sup\limits_{n\in\mathbb N} E[X_{n}^{2}]\underset{\mathclap{\overset{\uparrow}{\text{Vorraussetzung}}}}{<}\infty$ \\
Es gilt:
\begin{align*}
\sum\limits_{k=1}^{n-1} E[(X_{k+1}-X_{k})^{2}] \underset{\mathclap{\overset{\uparrow}{\text{orthogon. d. Zuwächse}}}}{=} E[(X_{n}-X_{1})^{2}]\leq E[X_{1}^{2}] + E[(X_{n}-X_{1})^{2}] \underset{\mathclap{\overset{\uparrow}{X_{1}\perp X_{n}-X_{1}}}}{=} E[X_{n}^{2}] \leq c < \infty  \ \ \forall n\in\mathbb N
\end{align*}
Insbesondere ist $ \sum\limits_{k=1}^{\infty} E[(X_{k+1}-X_{k})^{2}] $ in $ \mathbb{R} $ konvergent, also
\begin{align*}
\sup\limits_{m,n:m>n\geq k} E[(X_{m}-X_{n})^{2}] = \sup\limits_{m,n:m>n\geq k} \sum\limits_{l=n}^{m-1} E[(X_{l+1}-X_{l})^{2}] = \sum\limits_{l=k}^{\infty} E[(X_{l+1}-X_{l})^{2}] \underset{k\to\infty}{\longrightarrow} 0
\end{align*}
Damit ist gezeigt, dass $ (X_{n})_{n\in\mathbb N} $ eine Cauchyfolge in $ \mathcal L^{2}(\Omega,\mathcal F_{\infty}, P) $ bildet. \\
Aus der Funktionalanalysis/Maßtheorie verwenden wir, dass $ \mathcal L^{2}(\Omega,\mathcal F_{\infty}, P) $ ein \underline{vollständiger} Raum ist,  d.h. jedes Cauchyfolge in $ \mathcal L^{2}(\Omega,\mathcal F_{\infty}, P) $ konvergiert in $ \mathcal L^{2}(\Omega,\mathcal F_{\infty}, P) $. Es folgt die Behauptung.
\end{proof}
Wir zeigen jetzt, dass für den $ \mathcal L^{2} $- Grenzwert $ Y $ von $ (X_{n})_{n\in\mathbb N} $ sogar gilt $ Y=E[X|\mathcal F_{\infty}] $:
\begin{theorem}
Es sei $ X\in\mathcal L^{2}(\Omega,\mathcal A, P) $ und $ (\mathcal F_{n})_{n\in\mathbb N\cup\{\infty \}} $ eine Filtration über $ (\Omega,\mathcal A) $ mit $ \mathcal F_{\infty}=\sigma (\bigcup\limits_{n\in\mathbb N} \mathcal F_{n}) $.\\
Dann gilt:
\begin{equation*}
E[X|\mathcal F_{n}] \underset{n\to\infty}{\longrightarrow} E[X|\mathcal F_{\infty}] \text{ in } \mathcal{L}^{2}(\Omega,\mathcal A, P)
\end{equation*}
\end{theorem}
\begin{proof}
Wir wissen $ E[X|\mathcal F_{n}]\underset{n\to\infty}{\longrightarrow} Y $ in $ \mathcal L^{2}(\Omega,\mathcal F_{\infty}, P) $ für ein $ Y\in\mathcal L^{2}(\Omega,\mathcal F_{\infty}, P) $. Wir zeigen: \\
$ Y=E[X|\mathcal F_{\infty}] P$-f.s. Weil $ Y $ bzgl. $ \mathcal F_{\infty} $ messbar ist, müssen wir nur noch $ E[Y 1_{A}]=E[X 1_{A}] $ für alle $ A\in\mathcal F_{\infty} $ zeigen. \\
Im Fall $ A\in\mathcal F_{n} ,n\in\mathbb N$ folgt dann%das so%:
\begin{align*}
E[(X_{m}-Y)1_{A}] \underbrace{\leq}_{\mathclap{\text{Cauchy Schwarz}}} E[(X_{m}-Y)^{2}]^{\frac{1}{2}}\underbrace{E[1_{A}^{2}]^{\frac{1}{2} }}_{\leq 1} \underset{m\to\infty}{\longrightarrow} 0
\end{align*}
wegen $ X_{m} \underset{m\to\infty}{\longrightarrow} Y $ in $ \mathcal L^{2} $ \\
also $ E[X_{m}1_{A}] \underset{m\to\infty}{\longrightarrow} E[Y 1_{A}] $ \\
Für $ m\geq n $ folgt wegen $ A\in\mathcal F_{n} \subseteq \mathcal F_{m} $ und $ X_{m}=E[X|\mathcal F_{m}] $: \\
$ E[X_{m}1_{A}]=E[X 1_{A}] $ Zusammen folgt die behauptung: \\
$ E[Y 1_{A}]=E[X 1_{A}] $\\
Nun setzten wir:
$ \mathcal D = \{ A\in\mathcal F_{\infty}|E[Y 1_{A}]=E[X 1_{A}] \} $\\
Nach dem oben Gezeigten wissen wir:\\
$ \bigcup\limits_{n\in\mathbb N} \mathcal F_{n} \subseteq \mathcal D $ \\
$ \mathcal D$ ist ein Dynkin-System:
\begin{enumerate}
\item[1.]$ \emptyset \in\mathcal D   $ ist klar
\item[2.]Aus $ A\in\mathcal D $ folgt $ A^{c}\in\mathcal D $ wegen
\begin{equation*}
E[Y 1_{A^{c}}]=E[Y 1_{\Omega}]-E[Y 1_{A}] \overset{A\in\mathcal D,\Omega\in\mathcal F_{1}\subseteq \mathcal D}{=} E[X 1_{\Omega}]-E[X 1_{A}]= E[X 1_{A^{c}}]
\end{equation*}
\item[3.] Sind $ (A_{n})_{n\in\mathbb N} $ paarweise disjunkte Elemente von $ \mathcal D $ und setzen wir $ A=\bigcup\limits_{n\in\mathbb N} A_{n}$, so folgt $ A\in\mathcal D $.\\
Wegen
\begin{align*}
E[Y 1_{A}] \overset{\mathclap{\underset{\downarrow}{\text{dom.Konv.mit Maj.}|Y|\in\mathcal L^{1}}}}{=} \lim\limits_{n\to\infty} E[Y\underbrace{\sum\limits_{k=1}^{n} 1_{A_{k}}}_{\mathclap{\underset{n\to\infty}{\longrightarrow} 1_{A} \text{ punktweise}}}] = \lim\limits_{n\to\infty} \sum\limits_{k=1}^{n} E[Y 1_{A_{k}}] \underset{A_{k}\in\mathcal D}{=} \lim\limits_{n\to\infty} \sum\limits_{k=1}^{n} E[X 1_{A_{k}}] = \\ \lim\limits_{n\to\infty} E[X \sum\limits_{k=1}^{n} 1_{A_{k}}] \overset{\mathclap{\underset{\downarrow}{\text{Maj.} |X|}}}{=} E[X\sum\limits_{k=1}^{\infty}] \underset{ A=\bigcup\limits_{k\in\mathbb N} A_{k} } = E[X 1_{A}], \text{also } A\in\mathcal D
\end{align*}
\end{enumerate}
Da $\mathcal{F}$ $\cap$-stabil sind und $\mathcal{F}_1\subseteq \mathcal{F}_2 \subseteq \mathcal{F}_3 \subseteq$... gilt, ist auch $\underset{n\in\mathbb N}{\bigcup}\mathcal{F}_n$ $\cap$-stabil.
Es folgt aus dem Dynkin- Lemma:
$\mathcal{F_\infty}=\sigma(\underset{n\in\mathbb N}{\bigcup}\mathcal{F}_n) \subseteq \mathcal{D}$, also die Behauptung:
\begin{equation*}
E[Y1_A]=E[X1_A] \ \forall A\in \mathcal{F_\infty}.
\end{equation*}
\end{proof}
Zusammenfassung:
Damit haben wir unsere gewünsche Approximation bedingter Erwartungen \\
$ E[X|\sigma(A_{n}:n\in\mathbb N)] $ für $ X\in\mathcal L^{2}(\Omega,\mathcal A, P) $ gefunden.\\
Für $ n\to\infty $ konvergieren die elementaren bed. Erwartungen \\
$ E[X|\sigma (A_{1},\hdots,A_{n})] $ in $ \mathcal{L}^{2}(\Omega,\mathcal A, P) $ gegen $ E[X|\sigma (A_{n}:n\in\mathbb N)] $


\subsection{Sub- und Supermartingale, Doob-Zerlegung}
Man kann sich Martingale $(X_n)_{n\in \mathbb N}$ bzgl. $(\mathcal{F}_n)_{n\in \mathbb N}$ als faire Glücksspiele vorstellen:
Wenn $X_n$ das Kapital  des Spielers zur Zeit n bedeutet und $\mathcal{F}_n$ die  bis zur Zeit n beobachtbare Information, bedeutet die Martingalbedingung
$E[X_m|\mathcal{F}_n]=X_n$ für $m\geq n$ folgendes:\\
Gegeben die beobachtbare Information \glqq bis heute\grqq (n), ist die Prognose für den zukünftigen Wert $X_m$ gleich dem heutigen Wert $X_n$.\\
Variante :\glqq für den Spieler günstige bzw. ungünstige Spiele\grqq.

\begin{definition}
Es sei $(\Omega,\mathcal{A},P)$ Wahrscheinlichkeitsraum, $(\mathcal{F}_s)_{s\in I}$ eine Filtration darauf über$(I,\leq)$ und $(X_s)_{s\in I}$ eine adaptierte Familie von Zufallsvariblen in $\mathcal{L}^1(\Omega,\mathcal{A},P)$. Diese Familie heißt ein \underline{Submartingal}, wenn $X_s\leq E[X_t|\mathcal{F}_s]$ $P-f.s.$ $\forall s,t\in I$ mit $s\leq t$ und \underline{Supermartingal}, wenn $ X_s\geq E[X_t|\mathcal{F}_s]$ $P-f.s.$ $\forall s,t\in I$ mit $s\leq t$.
\end{definition}
\begin{merke}
Submartingal: heutiger Wert unter künftiger Erwartung, tendenziel ansteigend, günstig für den Spieler.

Supermartingale: heutiger Wert üer künftiger Erwartung, tendenziell fallend, ungünstig für den Spieler
\glqq Supermartingale sind nicht super \grqq.
\end{merke}
Submartingale können als Summe eines Martingals und einer \glqq vorhersehbaren\grqq ansteigenden Folge geschrieben werden.

\begin{definition}
Es sei $(\mathcal{F}_n)_{n\in\mathbb N_0}$ eine Fitration. Eine Folge  $(X_n)_{n\in \mathbb N}$ von Zufallsvariablen heißt \underline{vorhersehbar}, wenn $(X_{n+1})_{n\in\mathbb N_0}$ adaptiert ist.
\end{definition}
Anschaulich gesagt: Der Wurf von $X_{n+1}$ ist uns schon zur Zeit n bekannt.

\begin{lemma}[Doob-Zerlegung]
Es sei $(F_n)_{n\in\mathbb N_0}$ eine Filtration in $(\Omega,\mathcal{A}, P)$ und $(X_n)_{n\in\mathbb N_0}$ eine adaptierte Folge in $\mathcal{L}^1(\Omega,\mathcal{A},P)$. Dann gibt es eine vorhersehbare Folge in $\mathcal{L}^1(\Omega,\mathcal{A},P)$  $(A_n)_{n\in\mathbb N_0}$ und  ein Martingal  $(M_n)_{n\in\mathbb N_0}$ bzgl. $(\mathcal{F}_n)_{n\in\mathbb N_0}$, mit folgenden Eigenschaften:
\begin{enumerate}[1)]
\item $A_0=0$
\item $X_n=A_n+M_n$ $\forall n\in\mathbb N_0$
\end{enumerate}
\end{lemma}
Die $A_n$ und $ M_n$, $n\in \mathbb N_0$, sind $P-f.s.$ eindeutig.
\begin{proof}
Wir konstruieren $A_n$, $M_n$, $n\in \mathbb N_0$ rekursiv:
Rekursionsanfang: $A_0=0$ und damit $M_0=X_0-A_0=X_0$ sind durch 1) und 2) vorgegeben.
Rekursionsschritt: Es sei $A_0,\hdots, A_n$ und $M_0,\hdots,M_n$ in $\mathcal{L}^1(\Omega,\mathcal{A},P)$ bereits konstruiert, vorhersehbar bzw. Martingal. Die gesuchte Zerlegung $X_{n+1}=A_{n+1}+M_{n+1}$ muss folgende Bedingung erfüllen:
\begin{equation*}
E[X_{n+1}|\mathcal{F}_n]=\underbrace{E[A_{n+1}|\mathcal{F}_n]}_{\text{soll $A_{n+1}$ sein, vorhersehbar}}+\underbrace{E[M_{n+1}|\mathcal{F}_n]}_{\text{soll $M_n$ sein, Martingaleig.}}=A_{n+1}+M_n\ P-f.s.
\end{equation*}
$E[M_{n+1}|\mathcal{F}_n]=M_n$ soll $P-f.s.$ gelten.
Uns bleibt $P-f.s.$ nur folgende Möglichkeit der Definition:
\begin{enumerate}[1)]
\item \begin{equation*}
A_{n+1}\coloneqq E[X_{n+1}|\mathcal{F}_n]-M_n \in \mathcal{L}^1(\Omega,\mathcal{A},P) \ und
\end{equation*}
\item \begin{equation*}
 M_{n+1}\coloneqq X_{n+1}-A_{n+1} \in \mathcal{L}^1(\Omega,\mathcal{A},P)
\end{equation*}
\end{enumerate}
\end{proof}
Offensichtlich ist $A_{n+1}$ $\mathcal{F}_n$ -messbar und $M_{n+1}$ $\mathcal{F}_{n+1}$-messbar und es gilt:
\begin{equation*}
E[M_{n+1}|\mathcal{F}_n]=E[X_{n+1}|\mathcal{F}_n]-E[A_{n+1}|\mathcal{F}_n]=E[X_{n+1}|\mathcal{F}_n]-A_{n+1}=M_{n}\ P-f.s.
\end{equation*}
Insbesondere ist $(M_n)_{n\in\mathbb N_0}$ ein Martingal, denn es gilt :
\begin{remark}
Eine adaptierte Folge $(M_n)_{n\in\mathbb N_0}$ in $\mathcal{L}^1(\Omega,\mathcal{A},P)$ ist ein Martingal (bzw. Submartingal bzw. Supermatingal) bzgl. $(F_n)_n$ genau dann, wenn $\forall n\in\mathbb N_0$ gilt:
\begin{equation*}
E[M_{n+1}|\mathcal{F}_n]=M_n\ P-f.s.\quad \text{(bzw. \glqq$\geq$ \grqq bzw. \glqq$\leq$\grqq statt \glqq=\grqq)}
\end{equation*}
\end{remark}
\begin{proof}
\glqq$\Rightarrow$\grqq ist trivial.\\
 \glqq$\Leftarrow$\grqq: Wir zeigen induktiv $\forall k\in \mathbb N_0:$
\begin{equation*}
E[M_{n+k}|\mathcal{F}_n]\underset{bzw.\leq,\geq}{=}M_n\ P-f.s.
\end{equation*}
Für k=0 folgt dies sofort aus der Adaptiertheit. Für den Induktionsschritt k$\rightarrow$ k+1 rechnen wir:
\begin{equation*}
E[M_{n+k+1}|\mathcal{F}_n]\underset{Turmeigenschaft:\ \mathcal F_{n+k}\geq\mathcal{F}_n}{=}E[E[M_{n+k+1}|\mathcal{F}_{n+k}]|\mathcal{F}_n]=E[M_{n+k}|\mathcal{F}_n]=M_n\ P-f.s.
\end{equation*}
\end{proof}

\begin{lemma}[Doob-Zerlegung von Sub- und Supermartingalen]
Es sei $X_n=A_n+M_n,n\in \mathbb N_0$, die Doob- Zerlegung einer Adaptierten Folge $(X_n)_{n\in\mathbb N_0}$ in $\mathcal{L}^1(\Omega,\mathcal{A},P)$ bzgl. $(\mathcal{F}_n)_{n\in\mathbb N_0}$. Dann ist  $(X_n)_{n\in\mathbb N_0}$ ein Submartingal (bzw. Supermartingal) genau dann, wenn  $(A_n)_{n\in\mathbb N_0}$ $P-f.s$. monoton steigend bzw. monoton fallend ist.
\end{lemma}
\begin{proof}
Es gilt:
\begin{equation*}
A_{n+1}-A_n=E[X_{n+1}|\mathcal{F}_n]-M_n-A_n=E[X_{n+1}|\mathcal{F}_n]-X_n
\end{equation*}
Das ist $\geq 0$ $P-f.s.$ für alle n genau dann, wenn $(X_n)_n$ ein Submartingal bilden und $\leq 0$ $P-f.s.$ für alle n genau dann, wenn $(X_n)_n$ ein Supermartingal bilden.
\end{proof}

\subsection{Stoppzeiten und optional sampling}
Bei Glücksspielen tritt es oft auf, dass so lange gespielt wird bis ein Ereignis eintritt z.B.:
\glqq Würfeln bis zum 1. Mal  eine 6 erscheint\grqq\ oder \glqq wir spielen solange bis das Kapital eine Grenze M unterschreitet oder erreicht\grqq.
Der begriff der Stoppzeit abstrahiert diesen Begriff der \glqq zufälligen Spieldauer\grqq:
\begin{definition}
Es sei $(\mathcal{F}_n)_{n\in\mathbb N_0}$ eine Filtration über $(\Omega,\mathcal{A})$. Eine Zufallsvariable $T:\Omega\to\mathbb N_0\cup\{+\infty\}$ heißt \underline{Stoppzeit}, wenn für alle $n\in \mathbb N_0$ gilt: $\{T\leq n\} \in \mathcal{F}_n$.\\
Ist allgemeiner $(\mathcal{F}_t)_{t\in I}$ eine Fitration bzgl. einer linearen geordneten Menge $(I,\leq )$,  so heißt $T:\Omega\to I$ eine Stoppzeit , wenn für alle $t\in I$ gilt: $\{T\leq t\} \in \mathcal{F}_t$.
\end{definition}
\begin{remark}
Äquivalent hätten wir statt $\{T\leq n\}\in \mathcal{F}$ für alle n auch $\{T=n\}\in \mathcal{F}_n$ für alle $n\in \mathbb N_0$ fordern können.
\end{remark}
Ist nämlich $\{T\leq n\}\in \mathcal{F}_n$ für alle  $n\in\mathbb N_0$, so folgt für alle $n\in \mathbb N$:
\begin{equation*}
\{T=n\}=\underbrace{\{T\leq n\}}_{\in \mathcal{F}_n}\setminus\underbrace{\{T\leq n-1\}}_{\in \mathcal{F}_{n-1}\subseteq \mathcal{F}_n}\in \mathcal{F}_n,\ sowie \{T=0\}=\{T\leq 0\}
\end{equation*}
Ist umgekehrt $\{T=n\}\in\mathcal{F}_n$ für alle $n\in\mathbb N_0$, so folgt:
\begin{equation*}
\{T\leq n\}=\bigcup\limits_{k=0}^n\underbrace{ \{T=k\}}_{\in \mathcal{F}_k\subseteq \mathcal{F}_n}\in \mathcal{F}_n.
\end{equation*}
\begin{example}[Würfeln bis zur ersten 6]
Sind $(X_n)_{n\in \mathbb N_0}$ Zufallsvariablen in \{1,2,3,4,5,6\} und setzen wir $T= \inf \{n\in\mathbb N_0|X_n=6\}$, so ist T eine Stoppzeit bzgl, der von den $(X_n)_n$ erzeugten Filtration $(\mathcal{F}_n)_{n\in\mathbb N_0}$, $\mathcal{F}_n=\sigma(X_0,...,X_n)$.
\end{example}
Allgemeiner: \glqq Eintrittszeiten sind Stopzeiten \grqq.
Ist $(X_n)_{n\in\mathbb N_0}$ eine bzgl. $(\mathcal{F}_n)_{n\in\mathbb N_0}$ adaptierte Folge von Zufallsvariablen $X_n: (\Omega,\mathcal{A})\to(\Omega^\prime,\mathcal{A}^\prime)$, so ist für alle $A\in \mathcal{A}^\prime$ die zufällige Zeit $T_A:\Omega \to \mathbb N_0\cup\{\infty\}$, $T_A=\inf\{n\in \mathbb N_0|X_n\in A\}$ eine Stoppzeit.
In der Tat: $\forall n\in\mathbb N_0$ gilt:
\begin{equation*}
\{T_A\leq n\}=\bigcup\limits_{k=0}^n \underbrace{\{X_k\in A\}}_{\in \mathcal{F}_k,\ da (X_n)_n adaptiert}\in \mathcal{F}_n.
\end{equation*}

\begin{lemma}
Sind $S,T:\Omega\to\mathbb N_0\cup\{\infty\}$ zwei Stoppzeiten bzgl.  $(\mathcal{F}_n)_{n\in\mathbb N}$, so auch ihr Maximum $S\vee T$ und ihr Minimum $S\wedge T$.
\end{lemma}
\begin{proof}
$\forall n\in\mathbb N_0$ ist:
\begin{equation*}
\begin{split}
\{S\wedge T\leq n\}=\underbrace{\{S\leq n\}}_{\in\mathcal{F}_n}\cup\underbrace{\{T\leq n\}}_{\in \mathcal{F}_n} \in \mathcal{F}_n\ und\\
\{S\vee T\leq n\}=\underbrace{\{S\leq n\}}_{\in\mathcal{F}_n}\cap\underbrace{\{T\leq n\}}_{\in \mathcal{F}_n} \in \mathcal{F}_n
\end{split}
\end{equation*}
\end{proof}
\begin{definition}
Es sei $T:\Omega\to\mathbb N_0\cup\{\infty\}$ eine Stoppzeit bzgl. $(F_n)_{n\in\mathbb{N}_0}$ auf $(\Omega, \mathcal{A})$
Wir definieren:
\[\mathcal{F}_T=\{A\in\mathcal A|A\cap\{T\leq n\}\in\mathcal F_n \forall n\in\mathbb{N}_0\}\]
$\mathcal{F}_T$ heißt die \underline{Menge der bis zur Stoppzeit beobachtbaren Ereignisse}.
\end{definition}
\begin{remark}
Offensichtlich ist $\mathcal{F}_T$ wieder eine $\sigma$-Algebra. Weiter gilt:
$\mathcal{F}_T=\{A\in\mathcal A | A\cap \{T=n\}\in\mathcal F_n$ $\forall n\in\mathbb N_0\}$ (ohne Beweis).
\end{remark}
\begin{definition}
Für eine Familie  $(X_n)_{n\in\mathbb N}$ von Zufallsvariablen und eine zufällige Zeit $X_{T(\omega)}(\omega)$ für $T(\omega)<\infty$, $\omega\in\Omega$ und $X_T(\omega)\coloneqq$ beliebig aber fest.
\end{definition}
\begin{example}
$X_T(\omega)=0$ für $T(\omega)=\infty$
\end{example}


Stoppzeit: $T:\Omega\to \mathbb N_0\cup\{\infty\}$ mit $\{T\leq n\}\in \mathcal{F}_n$ $(n\in\mathbb N_0)$
Zur Stoppzeit T beobachtbare Ereignisse:
\begin{equation*}
\mathcal{F}_T=\{A\in \mathcal{A}|A\cap\{T\leq n\}\in \mathcal{F}_n\quad (n\in\mathbb N_0)\}
\end{equation*}
\begin{lemma}
Sind  $(X_n)_{n\in\mathbb N_0}$ adaptiert und T eine Stoppzeit bzgl.  $(\mathcal{F}_n)_{n\in\mathbb N_0}$ so ist $ X_T$
bzgl. $\mathcal{F}_T$ messbar
\end{lemma}
\begin{proof}
Für alle messbaren Mengen A im Zielraum $\Omega^\prime$ der $X_n$ gilt:
\begin{equation*}
\{X_T\in A\}=\bigcup\limits_{n\in\mathbb N_0} \{T=n, X_n\in A\} \cup\{T=\infty, 0\in A\}\in \mathcal{A}
\end{equation*}
und für alle $n\in \mathcal{N}_0$:
\begin{equation*}
\{X_T\in A\}\cap\{T=n\}=\underbrace{\{X_n\in A\}}_{\mathclap{\in \mathcal{F}_n, da (X_n)_n adaptiert}} \cap \overbrace{ \{T=n\}}^{\mathclap{\in \mathcal{F}_n,\text{ da T Stoppzeit}}}\in \mathcal{F}_n
\end{equation*}
Es folgt:
$\{X_T\in A\}\in \mathcal{F}_T$
\end{proof}
\begin{lemma}
Es sei  $(X_n)_{n\in\mathbb N}$ ein Martingal und T eine Stoppzeit bzgl.  $(\mathcal{F}_n)_{n\in\mathbb N_0}$ mit $T\leq m$ für ein $m\in \mathbb N_0$.
Dann $E[X_m|\mathcal{F}_T ]=X_T\quad P-f.s.$
\end{lemma}
\begin{proof}
Nach Lemma 2.3.6 ist $X_T$ $\mathcal{F}_T$ messbar. Damit bleibt für alle $A\in \mathcal{F}_T$ zu zeigen:
\begin{equation*}
E[X_m 1_A]=E[X_T 1_A]
\end{equation*}
Nun gilt für alle $k=0,1,...,m:$
\begin{equation*}
\begin{split}
E[X_T 1_A 1_{\{T=k\}}]=E[X_k 1_{\underbrace{A\cap\{T=k\}}_{\in \mathcal{F}_k}}]=E[E[X_m|\mathcal{F}_k] 1_{\underbrace{A\cap\{T=k\}}_{\mathcal{F}_k -messbar}}]=\\ E[E[X_m 1_{A\cap\{T=k\}}|\mathcal{F}_k]]=E[X_m 1_A 1_{\{T=k\}}]
\end{split}
\end{equation*}
und daher
\begin{align*}
E[X_T1_A]=E[X_T1_A\sum\limits_{k=0}^m 1_{\{T=k\}}]=\sum\limits_{k=0}^m E[X_T 1_A 1_{\{T=k\}}]\overset{s.o.}{=}\sum\limits_{k=0}^m E[X_m 1_A 1_{\{T=k\}}]= \\ E[X_m 1_A\sum\limits_{k=0}^m 1_{\{T=k\}}]=E[X_m 1_A]
\end{align*}
\end {proof}
\begin{corollary}
Unter der Vorraussetzung von Lemma 2.3.7 gilt:
\begin{equation*}
E[X_T]=E[X_0]
\end{equation*}
\end{corollary}
\begin {proof}
\begin{equation*}
E[X_T]=E[E[X_m|\mathcal{F}_T]]=E[X_m]=E[E[X_m|\mathcal{F}_0]]\underset{\mathclap{\overset{\uparrow}{Martingaleigenschaft}}}{=} E[X_0]
\end{equation*}
\end {proof}
Anschaulich interpretiert: Aus einem fairen Spiel kann durch Stoppen mit einer beschränkten Stoppzeit \glqq ohne prophetische Fähigkeiten\grqq kein unfaires Spiel gewonnen werden.\\
Verzichtet man auf die Beschränktheit $T\leq m$, so wird die Aussage des Korollars im Allgemeinen falsch.
Gegenbeispiel dazu:
\begin{example}[Verdopplungsstrategie]
Es sei $Z_k,\ k\in\mathbb N$ i.i.d. auf $\{\pm 1\}$ gleichverteilte Zufallsvariablen:
$\mathcal{L}(Z_k)= \frac{1}{2}\delta_1 +\frac{1}{2}\delta_{-1}$; sowie $X_n=\sum\limits_{k=1}^n 2^{k-1} Z_k$ und $\mathcal{F}_n=\sigma(Z_1,....Z_n)$ für $n\in\mathbb N$, insbesondere $\mathcal{F}_0=\{\emptyset,\Omega\}$. Dann ist  $(X_n)_{n\in\mathbb N_0}$ ein Martingal bzgl.  $(\mathcal{F}_n)_{n\in\mathbb N_0}$, denn für alle $n\in\mathbb N_0$ gilt:
\begin{equation*}
E[X_{n+1}|\mathcal{F}_n]=E[\underbrace{X_n}_{\mathclap{\mathcal{F}_n-messbar}}+2^{n} Z_{n+1}|\mathcal{F}_n]=X_n+2^{n}E[\underbrace{Z_{n+1}|\mathcal{F}_n}_{\text{unabhängig}}]=X_n+2^n \underbrace{E[Z_{n+1}]}_{0}=X_n\quad P-f.s.
\end{equation*}
Nun sei $T=\inf\{n\in\mathbb N|Z_n=1\}$. T ist eine Stoppzeit. Es gilt: $\{T=n\}=\{Z_n=1, Z_k=-1 \text{ für } k< n\}\in\mathcal{F}_n$ und $\{T=\infty\}=\{Z_k=-1$ für alle $k\in \mathbb N\}$. Insbesondere folgt $T<\infty$ $P-f.s.$\\
Nun gilt für $n\in \mathbb N$:
\begin{equation*}
X_T 1_{\{T=n\}}=X_n 1_{\{Z_n=1, Z_k=-1 \text{ für } k<n\}} =\underbrace{\left(2^{n-1}- \sum\limits_{k=1}^{n-1} 2^{k-1}\right)}_{=1} 1_{\{T=n\}}=1_{\{T=n\}}
\end{equation*}
also $X_T 1_{\{T<\infty\}}=1_{\{T<\infty\}}$ und  daher $X_T=1\ P-f.s.$ Wegen $X_0=0$ folgt: $E[X_T]=1\neq 0 =E[X_0]$.
\end{example}
\begin{lemma}
Sind $S\leq T$ zwei Stoppzeiten, so gilt: $\mathcal{F}_S\subseteq \mathcal{F}_T$.
\end{lemma}
\begin {proof}
Es sei $A\in \mathcal{F}_S$ und $n\in\mathbb N_0$. Dann gilt:
\begin{equation*}
A\cap\{T=n\}\underset{S\leq T}{=}\left(\bigcup\limits_{k=0}^{n} \underbrace {A\cap\{S=k\}}_{\in \mathcal{F}_k\subseteq \mathcal{F}_n, da\ A\in \mathcal{F}_S}\right)\cap\underbrace{\{T=n\}}_{\in \mathcal{F}_n,\text{ da T Stoppzeit}}\in \mathcal{F}_n,\text{ also } A\in \mathcal{F}_T.
\end{equation*}
\end {proof}
\subsection{Optional sampling und gleichgradige Integrierbareit}
\begin{theorem}[Optional sampling für Martintegrale und beschränkte Stoppzeiten]
Es seinen $ S\leq T$ zwei beschränkte Stoppzeiten, $T\leq m\in \mathbb N_0$ und $(X_n)_{n\in\mathbb N_0}$ ein Martintegral bzgl.  $(\mathcal{F}_n)_{n\in\mathbb N_0}$. Dann gilt:
\begin{equation*}
E[X_T|\mathcal{F}_S]=X_S\quad P-f.s.
\end{equation*}
\end{theorem}
\begin{proof}
\begin{equation*}
E[X_T|\mathcal{F}_S]\overset{\mathclap{\underset{\downarrow}{Lemma\ 2.3.7}}}{=} E[E[X_m|\mathcal{F}_T]|\mathcal{F}_S]\underset{\mathclap{\overset{\uparrow}{\mathcal{F}_S\subseteq \mathcal{F}_T\ Turmeigenschaft}}}{\overset{\mathclap{\underset{\downarrow}{Lemma\ 2.3.10}}}{=}}E[X_m|\mathcal{F}_S]\overset{\mathclap{\underset{\downarrow}{Lemma\ 2.3.7}}}{=}X_S\quad P-f.s.
\end{equation*}
\end {proof}
\begin{example}
\begin{enumerate}[1)]
\item
Ist  $(X_n)_{n\in\mathbb N}$ ein Martingal und T eine Stoppeit bzgl.  $(\mathcal{F}_n)_{n\in\mathbb N_0}$, so sind auch alle $T\wedge n$ , $n\in \mathbb N_0$, beschränkte Stoppzeiten mit $T\wedge 0\leq T\wedge 1\leq$... Es folgt aus dem Satz:
\[E[X_{T\wedge(n+1)}|\mathcal{F}_{T\wedge n}]=X_{T\wedge n}\quad P-f.s.\text { für alle } n\in\mathbb N_0.\]
Anders gesagt: Das \glqq gestoppte Martingal\grqq $(X_{T\wedge n})_{n\in\mathbb N_0}$ ist wieder ein Martingal bzgl. $(\mathcal{F}_{T\wedge n})_{n\in\mathbb N_0}$.\\
$(X_{T\wedge n})_{n\in\mathbb N_0}$ ist auch ein Martingal bzgl. $(\mathcal{F}_{T\wedge n})_{n\in\mathbb N_0}$. In der Tat gilt für $n\in\mathbb N_0$:
\begin{equation*}
\begin{split}
E[X_{T\wedge(n+1)|\mathcal{F}_{n}}]=E[X_{n+1}\underbrace{1_{\{T>n\}}}_{\in \mathcal{F}_n}+[X_{T\wedge n}\underbrace{1_{\{T\leq n\}}}_{\in \mathcal{F}_n}|\mathcal{F}_n]=\\ \underbrace{E[X_{n+1}|\mathcal{F}_n]}_{=X_n\ Martingal} 1_{\{T>n\}}+E[\underbrace{X_{T\wedge n}}_{\mathclap{messbar\ bzgl.\ \mathcal{F}_{T\wedge n}\subseteq \mathcal{F}_n}}|\mathcal{F}_n]1_{\{T\leq n\}} \\
=X_n 1_{\{T>n\}}+ \underbrace{X_{T\wedge n} }_{X_T}1_{\{T\leq n\}}= X_{T\wedge n}\quad P-f.s.
\end{split}
\end{equation*}
\item
Wir betrachten  die \glqq einfache Irrfahrt\grqq:\\
 $(Z_n)_{n\in\mathbb N}$ seinen i.i.d. Zufallsvariablen mit Werten $\{\pm 1\}$, gleichverteilt in $\{\pm 1\}$:\\
$P[Z_n=1]=P[Z_n=-1]=\frac{1}{2}$ für alle $n\in\mathbb N$. Wir setzen $S_n\coloneqq\sum\limits_{k=1}^{n}Z_k$ und $
\mathcal{F}_n=\sigma(Z_1,...,Z_n),\ \mathcal{F}_0=\{\emptyset,\Omega\}\quad (n\in\mathbb N_0)$.\\
Die einfache Irrfahrt  $(S_n)_{n\in\mathbb N_0}$ ist ein Martingal bzgl.  $(\mathcal{F}_n)_{n\in\mathbb N_0}$, denn für alle $n\in\mathbb N_0$ gilt:
\begin{equation*}
E[S_{n+1}|\mathcal{F}_n]=E[\underbrace{S_n}_{\mathclap{\mathcal{F}_n - messbar}}+Z_{n+1}|\mathcal{F}_n]=S_n+E[Z_{n+1}|\mathcal{F}_n]=S_n+E[Z_{n+1}]=S_n\quad P-f.s.
\end{equation*}
Auch $(S_n^2-n)_{(n\in\mathbb N)}$ ist ein Martingal:
\begin{equation*}
\begin {split}
E[S_{n+1}^2-(n+1)|\mathcal{F}_n]=E[S_n+Z_{n+1})^2-(n+1)|\mathcal{F}_n]=\\ E[\underbrace{S_{n}^2-n}_{\mathcal{F}_n-messbar}+2\underbrace{S_{n}}_{\mathclap{\mathcal{F}_n-messbar}}Z_{n+1}+\underbrace{Z_{n+1}^2-1}_{=0}|\mathcal{F}_n]=\\
S_n^2-n+2S_nE[Z_{n+1}|\mathcal{F}_n]=S_n^2-n+2S_n\underbrace{E[Z_{n+1}]}_{=0}=S_n^2-n\quad P-f.s.
\end{split}
\end{equation*}
Es folgt für jede Stoppzeit T und alle $n\in \mathbb N_0$:
\begin{equation*}
0=E[S_0]=E[S_{T\wedge n}]\ und \ 0=E[S_0^2-0]=E[S_{T\wedge n}^2-(T\wedge n)],\ also \ E[T\wedge n] =E[S_{T\wedge n}^2]
\end{equation*}
\glqq Ruinproblem\grqq beim Glücksspiel: 2 Spieler A und B wetten immer wieder 1 Euro auf den Ausgang eines fairen Münzwurfs. $S_n$ bedeutet die Bilanz von A zur Zeit n, wenn $Z_k$ den Gewinn von A in der k-ten Runde bedeutet. Die beiden Spieler stoppen das Spiel, wenn Spieler A a Euro verloren hat (Ruin von A) oder Spieler B b Euro verloren hat (Ruin von B).\\
$a,b\in\mathbb N$. Stoppzeit: $T=\inf \{n\in\mathbb N_{0}: S_n\in\{-a,b\}\}$. Wegen $-a\leq S_{T\wedge n}\leq b$ folgt:\\ $S_{T\wedge n}^2\leq a^2\vee b^2$ und daher
\begin{equation*}
E[T]\xleftarrow[mon.\ konv.]{\infty\leftarrow n} E[T\wedge n]=E[S_{T\wedge n}^2]\leq a^2\vee b^2<\infty
\end{equation*}
Insbesondere folgt $E[T]<\infty$, also $T<\infty\ P-f.s.$ und daher $S_{T\wedge n}\xrightarrow{n\to\infty}S_T\ P-f.s.$\\
\underline{Aus der nächsten Vorlesung:} \\
$ E[S_{T\wedge n}] = E[S_{0}]=0 \xrightarrow[n\to\infty]{\text{dom.Konv.}} = E[S_{T}]= -aP[S_{T}=-a]+bP[S_{T}=b]$ \\
Es folgt: $ -a P[S_{T}=-a]+bP[S_{T}=b]=0$ , anders gesagt:
\begin{equation*} \dfrac{P[\text{\glqq Ruin des Spielers A\grqq}]}{P[\text{\glqq Ruin des Spielers B\grqq}]} = \dfrac{P[S_{T}=-a]}{P[S_{T}=b]}=\dfrac{b}{a}  \end{equation*}
Zudem folgt $ P[S_{T}=-a]+P[S_{T}=b]=1 $ wegen $ T<\infty $ P-f.s. \\
Es folgt: $ P[S_{T}=-a]=\dfrac{b}{a+b} $ , $ P[S_{T}=b]=\dfrac{a}{a+b} $
\end{enumerate}
\end{example}
\begin{theorem}[Optional Sampling für beschränkte Stoppzeiten und Sub- und Supermartingale]
Sind $ S\leq T $ zwei beschränkte Stoppzeiten und $ (X_{n})_{n\in\mathbb N_{0}} $ ein Sub-(bzw. Super-),martingal, dann gilt:
\begin{equation*}
E[X_{T}|\mathcal F_{S}] \underset{\text{bzw. } \leq}{\geq} X_{S} \text{P-f.s.}
\end{equation*}
\end{theorem}
\begin{proof}
Es sei $ X_{n}=\underbrace{A_{n}}_{\mathclap{\text{vorhersehbar, steigend (bzw. fallend)}}}+\overbrace{M_{n}}^{\mathclap{\text{Martingal}}} , n\in\mathbb N_{0}$ die Doob-Zerlegung von $ (X_{n})_{n\in\mathbb N} $ \\
Dan gilt $ A_{T}\geq A_{S} $ (bzw. $ A_{T} \leq A_{S} $) P-f.s. wegen $ S\leq T $ und $ E[M_{T}|\mathcal F_{S}]= M_{S} $ P-f.s. nach Satz 2.4.1 \\
Es folgt:\\
$ E[X_{T}|\mathcal F_{S}] = E[A_{T}|\mathcal F_{S}]+E[M_{T}|\mathcal F_{S}] \underset{\overset{\uparrow}{\mathclap{\text{bzw. } \leq wg. A_{T}\geq A_{S}}}}{\geq} \overbrace{E[A_{S}|\mathcal F_{S}]}^{\mathclap{= A_{S}, \text{ da } (A_{n})_{n\in\mathbb N} \text{ adaptiert}}} + E[M_{T}|\mathcal F_{S}]= A_{S}+M_{S}= X_{S} $ P-f.s.\\
\end{proof}
Das Beispiel der Verdoppelungsstrategie zeigt, dass man im optional sampling Theorem i.A. nicht auf die Beschränktheit der Stoppzeit verzichten kann. Der folgende Begriff dient \glqq als Ersatz\grqq für die Beschränktheit.
\begin{definition}
Eine Menge $ \mathcal M $ von Zufallsvariablen heißt \underline{gleichgradig integrierbar}, wenn
\begin{equation*}
\sup\limits_{X\in\mathcal M} E[|X|1_{\{|X|\geq a\}}] \xrightarrow{a\to\infty} 0
\end{equation*}
Für $ p\geq 1 $ heißt sie \underline{$  p$-fach gleichgradig integrierbar}, wenn
\begin{equation*}
\sup\limits_{X\in\mathcal M} E[|X|^{p}1_{\{|X|\geq a\}}] \xrightarrow{a\to\infty} 0
\end{equation*}
Einfach gleichgradige Integrierbarkeit ist also gleichgradige Integrierbarkeit.
\end{definition}
\begin{lemma}
Folgende Aussagen sind äquivalent:
\begin{enumerate}
\item[1)] $ \mathcal M $ ist $ p $-fach gleichgradig integrierbar
\item[2)] $ \sup\limits_{X\in\mathcal M} E[(|X|^{p}-a)_{+}] \xrightarrow{a\to\infty} 0 $
\end{enumerate}
\end{lemma}
\begin{proof}
\begin{enumerate} \item[]
\item[1)$\Rightarrow $2)] \ \ Wegen $(|X|^{p}-a)_{+}\leq |X|^{p}\mathbbm{1}_{\{|X|\geq a^{\frac{1}{p} }\}} \  (X\in\mathcal M ) $ folgt: \\
\begin{equation*}
0 \leq \sup\limits_{X\in\mathcal M} E[(|X|^{p}-a)_{+}] \underset{\xrightarrow{wg. 1)}[a\to\infty] 0}{\leq} \sup\limits_{X\in\mathcal M} E[|X|^{p}\mathbbm{1}_{\{|X|\geq a^{\frac{1}{p} }\}}]
\end{equation*}
und damit auch
\begin{equation*}
\sup\limits_{X\in\mathcal M} E[(|X|^{p}-a)_{+}] \xrightarrow[a\to\infty] 0
\end{equation*}
\item[2)$ \Rightarrow $1)] \ Für $ |X|\geq a\geq 0 $ gilt:
\begin{equation*}
|X|^{p}\leq 2|X|^{p}-a^{p} = 2(|X|^{P}-\frac{a^{p}}{2})
\end{equation*}
Es folgt für $ a\geq 0 $: \\
\begin{equation*}
|X|^{p}1_{\{|X|\geq a \}} \leq 2(|X|^{p}-\frac{a^{p}}{2} )_{+}
\end{equation*}
und daher
\begin{equation*}
0\leq \sup\limits_{X\in\mathcal M} E[|X|^{p}1_{\{|X|\geq a \}}] \leq 2 \sup\limits_{X\in\mathcal M} E[(|X|^{p}-\frac{a^{p}}{2} )_{+}] \xrightarrow[wg. 2)]{a\to\infty} 0 \Rightarrow \sup\limits_{X\in\mathcal M} E[|X|^{p}1_{\{|X|\geq a \}}] \xrightarrow{a\to\infty} 0.
\end{equation*}
\end{enumerate}
\end{proof}
Praktisches hinreichendes Kriterium zum Nachweis der $ p $-fachen gleichgradigen Integrierbarkeit:
\begin{lemma}
Ist $ \mathcal M $ eine Menge von Zufallsvariablen über $ (\Omega,\mathcal A, P) $ und $ 1\leq p < q $.\\
Ist $ \mathcal M $ in $ \mathcal L^{q}(\Omega,\mathcal A, P) $ beschränkt, d.h. $ \sup\limits_{X\in\mathcal M} E[|X|^{q}] < \infty  $, so ist $ \mathcal M \ p$-fach gleichgradig integrierbar.
\end{lemma}
\begin{example}
Haben die Zufallsvariablen in $ \mathcal M $ beschränkte Erwartungswerte und beschränkte Varianzen, so ist $ \mathcal M $ gleichgradig integrierbar.
\end{example}
\begin{proof}
Für $ a>0, X\in\mathcal M $ gilt:
\begin{equation*}
|X|^{p}1_{\{|X|\geq a\}} \underset{\overset{\uparrow}{\mathclap{p-q< 0}}}{\leq} a^{p-1}|X|^{q}
\end{equation*}
Es folgt:
\begin{equation*}
\sup\limits_{X\in\mathcal M} E[|X|^{p}1_{\{|X|\geq a \}}] \leq a^{p-q} \underbrace{\sup\limits_{X\in\mathcal M} E[|X|^{q}]}_{<\infty} \xrightarrow{n\to\infty} 0
\end{equation*}
\end{proof}
Gleichgradige Integrierbarkeit vererbt sich unter Stoppen von Martingalen:
\begin{theorem}
Ist $ (X_{n})_{n\in\mathbb N_{0}}  $ eine $ p $-fach gleichgradig integrierbares Martingal oder nichtnegatives Submartingal:
\begin{equation*}
\mathcal M = \left\lbrace X_{T}| T \text{ ist eine P-f.s. endliche Stoppzeit} \right\rbrace
\end{equation*}
ist $ p $-fach gleichgradig integrierbar. ($ p\geq 1 $)
\end{theorem}
\begin{proof}
$ (|X_{n}|)_{n\in\mathbb N} $ ist ein nichtnegatives Submartingal nach der Jensenschen Ungleichung, da $ |\cdot | $ konvex ist. Wegen der Konvexität von $ t\mapsto (t^{p}-a)_{+} \ (t\geq 0, a\geq 0)$ folgt für alle Stoppzeiten $ T $ und alle $ n\in\mathbb N_{0} , a\geq 0$:
\begin{equation*}
E[(|X_{T\wedge n}|^{p}-a)_{+}] \overset{(\star )}{\leq}
E[(E[|X_{n}||\mathcal F_{T\wedge n}]^{p}-a)_{+}] \underset{\overset{\uparrow}{\mathclap{\text{Jensen, } t\mapsto (|t|^{p}-a)_{+}, t\in\mathbb R \text{ konvex}}}}{\leq}  E[(|X_{n}|^{p}-a)_{+}]
\end{equation*}
\begin{remark}[$ \star $] $|X_{T\wedge n}|\leq E[|X_{n}||\mathcal F_{T\wedge n}]$ wg. optional sampling für beschränkte Stoppzeiten $ t\mapsto (t^{p}-a)_{+}, t\geq 0$ ist monoton steigend\end{remark}
Ist nun $ T $ eine P-f.s. endliche Stoppzeit, so folgt:
\begin{align*}
E[(|X_{T}|^{p}-a)_{+}] \overset{\underset{\downarrow}{\mathclap{\text{mon. Konv.}}}}{=} \lim\limits_{n\to\infty} E[(|X_{T}|^{p}-a)_{+}1_{\{T\leq n \}} ]  =  \lim\limits_{n\to\infty}  E[(|X_{T\wedge n}|^{p}-a)_{+}1_{\{T\leq n \}} ] \\
\leq \sup\limits_{n\in\mathbb N} E[(|X_{T\wedge n}|^{p}-a)_{+}] \overset{\underset{\downarrow}{\mathclap{\text{Bem. } (\star)}}}{\leq} \sup\limits_{n\in\mathbb N} E[(|X_{n}|^{p}-a)_{+}] \end{align*}
Und daher:
 \begin{align*}
\sup \left\lbrace E[(|X_{T}|^{p}-a)_{+}] | T \text{ ist P-f.s. endliche Stoppzeit} \right\rbrace
\leq  \sup\limits_{n\in\mathbb N} E[(|X_{n}|^{p}-a)_{+}] \xrightarrow{(\star)}[a\to\infty]
\end{align*}
$ (\star) \ \ \ \text{Voraussetzung: } (X_{n})_{n\in\mathbb N} p-\text{fach gleichg. integrierbar} $
\end{proof}
\begin{remark}
Ist $ \mathcal M  \ p$-fach gleichgradig integrierbar, $ (p\geq)1 $. so ist $ \mathcal M $ auch in $ \mathcal L^{2} $ beschränkt: \\ $ \sup \left\lbrace E[|X|^{p}] | X\in\mathcal M \right\rbrace  < \infty $.
\end{remark}
\begin{proof}
Für $ a\geq 0 $ gilt: $ |X|^{p}\leq |X|^{p}1_{\{|X|\geq a \}} + a^{p}1_{\{|X|\geq a \}} $ \\
also $ \sup\limits_{X\in\mathcal M} E[|X|^{p}] \leq \underbrace{\sup\limits_{X\in\mathcal M} E[|X|^{p}1_{\{|X|\geq a \}}]}_{\xrightarrow{a\to\infty} 0} + \underbrace{a^{p}}_{<\infty} $ für geeignetes $ a $.
\end{proof}
\begin{lemma}
Ist $ (X_{n})_{n\in\mathbb N_{0}} p$-fach gleichgradig integrierbar $ (p\geq 1) $, und gilt $ X_{n}\xrightarrow{n\to\infty} X $ P-f.s., so folgt  $ X_{n}\xrightarrow{n\to\infty} X $ in $ \mathcal L^{P}(\Omega,\mathcal A, P) $, d.h. $ E[|X_{n}-X|^{p}]\xrightarrow{n\to\infty} 0 $.
\end{lemma}
\begin{proof}
Erinnern Sie sich an das Lemma von Faton aus der Maßtheorie: Sind $ Y_{n} \geq 0$ $(n\in\mathbb N_{0}) $ Zufallsvariablen, so gilt:
\begin{equation*}
E[\liminf\limits_{n\to\infty} Y_{n}] \leq \liminf\limits_{n\to\infty} E[Y_{n}]
\end{equation*}
(gilt analog auch für bel. Maße statt W'maße) \\
Insbesondere gilt:
\begin{equation*}
E[|X|^{P}] \underset{\text{Faton}}{\leq} \liminf\limits_{n\to\infty} E[|X_{n}|^{P}] \overset{\mathclap{\underset{\downarrow}{\text{gleichgr. Integr.bar} \Rightarrow  \text{Beschränktheit (obige Bemerkung)}}}}{<} \infty \text{ also } X\in\mathcal L^{P}(\Omega,\mathcal A, P)
\end{equation*}
Weiter gilt: $ |X|^{P}\mathbbm{1}_{\{|X|\geq a\}} \xrightarrow{a\to\infty} 0  $ P-f.s. , also $ E[|X|^{P}\mathbbm{1}_{\{|X|\geq a\}}] \xrightarrow{a\to\infty} 0$ P-f.s. wegen der dom. Konv. mit der Majorante $ |X|^{P} \in \mathcal L^{1} $.\\
Gegeben $ \varepsilon > 0 $ können wir wegen der $ p $-fachen gleichgradigen Integrierbarkeit der $ (X_{n})_{n\in\mathbb N} $ ein $ a>0 $ finden, so dass $ \sup\limits_{n\in\mathbb N} E[|X_{n}|^{P}\mathbbm{1}_{\{|X_{n}|\geq a\}}] < \varepsilon $ und $ E[|X|^{P}\mathbbm{1}_{\{|X|\geq a\}}] < \varepsilon $.\\
Wir schätzen ab:
\begin{equation*}
|X_{n}-X|^{P}\leq \overbrace{|X_{n}-X|^{P}\mathbbm{1}_{\{ |X|<a,|X_{n}|<a \}}}^{(I)_{n}} + \overbrace{\left[ 2(|X|\vee |X_{n}|)\right]^{P}\mathbbm{1}_{\{ |X_{n}|\vee |X| \geq a \}}}^{(II)_{n}}
\end{equation*}
Es gilt: $ (I)_{n}\xrightarrow{n\to\infty} 0 $ P-f.s. und $ |(I)_{n}|\leq (2a)^{P} <\infty $ also $ E[(I)_{n}]\xrightarrow{n\to\infty} 0 $ P-f.s. nach dem Satz für die dom. Konvergenz. \\
Weiter: $ (II)_{n} \leq 2^{P}|X_{n}|^{P}\mathbbm{1}_{\{ |X_{n}|\geq a \}} + 2^{P}|X|^{P}\mathbbm{1}_{\{ |X|\geq a \}}  $ \\
und damit für das gewählte $ a>0 $:
\begin{equation*}
E[|X_{n}-X|^{P}]\leq \underbrace{E[(I)_{n}]}_{\xrightarrow{n\to\infty} 0} + 2^{P}\underbrace{E[|X_{n}|^{P}\mathbbm{1}_{\{ |X_{n}|\geq a \}}]}_{<\varepsilon} + 2^{P}\underbrace{E[|X|^{P}\mathbbm{1}_{\{ |X|\geq a \}}]}_{<\varepsilon}
\end{equation*}
Das bedeutet:
\begin{equation*}
\limsup\limits_{n\to\infty} E[|X_{n}-X|^{P}] \leq 2\cdot 2^{P}\varepsilon
\end{equation*}
Weil $ \varepsilon > 0 $ beliebig war, folgt:
\begin{equation*}
E[|X_{n}-X|^{P}]\xrightarrow{n\to\infty} 0
\end{equation*}
\end{proof}
\begin{corollary}
Ist $ (X_{n})_{n\in\mathbb N} $ ein $ p $-fach gleichgradig integrierbares Martingal oder nicht negatives Submartingal und ist $ T $ eine P-f.s. endliche Stoppzeit, so gilt:
\begin{equation*}
X_{T\wedge n}\xrightarrow{n\to\infty} X_{T}  \text{ in } {L}^{P}
\end{equation*}
\end{corollary}
\begin{proof}
Es gilt $ X_{T\wedge n}\xrightarrow{n\to\infty}X_T $ P-f.s. und $ (X_{T\wedge n})_{n\in\mathbb N} $ ist nach Satz 2.4.7 $ p $-fach gleichgradig integrierbar. Die Behauptung folgt nun aus Lemma 2.4.9.\end{proof}
Damit erhalten wir:
\begin{theorem}[Optional Sampling für gleichgradig integrierbare Martingale]
Sind $ S\leq T $ zwei P-f.s. endliche Stoppzeiten und ist $ (X_{n})_{n\in\mathbb N_{0}} $ ein gleichgradig integrierbares Martingal, so gilt:
\begin{equation*}
E[X_{T}|\mathcal F_{S}] = X_{S} \text{ P-f.s.}
\end{equation*}
\end{theorem}
\begin{proof}
Aus Korollar 2.4.10 wissen wir: $ X_{T\wedge n}\xrightarrow{n\to\infty} X_{T} $ in $ \mathcal{L}^{1} $, also auch $ \forall m\in\mathbb N_{0} $:
\begin{equation*}
X_{S\wedge m} \underset{\mathclap{\overset{\uparrow}{\text{wg. Satz (opt. sampling für beschränkte Stoppzeiten)}}}}{\overset{\mathclap{\underset{\downarrow}{\text{für } n\geq m}}}{=}} E[X_{T\wedge n}|\mathcal F_{S\wedge m}] \xrightarrow{n\to\infty} E[X_{T}|\mathcal F_{S\wedge m}] \text{ in } {L}^{1}
\end{equation*}
Das bedeutet: $ X_{S\wedge m}= E[X_{T}|\mathcal F_{S\wedge m}]  $ P-f.s.\\
Wir zeigen jetzt:
\begin{equation*}
E[X_{T}|\mathcal F_{S}]\mathbbm{1}_{\underbrace{\{ S<m \}}_{\in\mathcal F_{S}}} = \underbrace{E[X_{T}|\mathcal F_{S\wedge m}]}_{\text{mb. bzgl. }\mathcal F_{S\wedge m}\subseteq \mathcal F_{S}} \mathbbm{1}_{\underbrace{\{ S<m \}}_{\in\mathcal F_{S}}} \text{ P-f.s.}
\end{equation*}
In der Tat: Beide Seiten sind $ \mathcal F_{S} $-messbar und es gilt für alle $ A\in\mathcal F_{S} $
\begin{align*}
E[E[X_{T}|\mathcal F_{S}]\underbrace{\mathbbm{1}_{\{ S<m \}}\mathbbm{1}_{A}}_{\mathcal F_{S}\text{-messbar}}] = E[X_{T}\underbrace{\mathbbm{1}_{\{ S<m \}\cap A}}_{\in \mathcal F_{S\wedge m} (\star)}] = E[E[X_{T}|\mathcal F_{S\wedge m}]\mathbbm{1}_{\{ S<m \}}\mathbbm{1}_{A}]
\end{align*}
\underline{Zu $ (\star) $:} Für $ k\in\mathbb N $: $ \{ S<m \}\cap A \cap \{ S\wedge m \leq k \} = \{ S\wedge m \leq k\wedge (m-1) \}\cap A \in \mathcal F_{k\wedge (m-1)}\subseteq \mathcal F_{k_{S}}$.\\
Zusammen folgt die Behauptung:
\begin{equation*}
E[X_{T}|\mathcal F_{S}]\mathbbm{1}_{\{ S<m \}} = E[X_{T}|\mathcal F_{S\wedge m}]\mathbbm{1}_{\{ S<m \}} \text{ P-f.s.}
\end{equation*}
Wir erhalten:
\begin{equation*}
X_{S}\mathbbm{1}_{\{ S<m \}} = X_{S\wedge m}\mathbbm{1}_{\{ S\wedge m\}} = E[X_{T}|\mathcal F_{S}]\mathbbm{1}_{\{ S<m \}} \text{ P-f.s.}
\end{equation*}
also
\begin{equation*}
X_{S}= E[X_{T}|\mathcal F_{S}] \text{ P-f.s., da } m \text{ beliebig war.}
\end{equation*}
\end{proof}
Bevor wir das Theorem auf Sub-und Supermartingale erweitern, eine technische Vorbereitung:
\begin{lemma}
Sind $ (X_{i})_{i\in I} $ und $ (Y_{i})_{i\in I} \ p$-fach gleichgradig integrierbar, so auch $ (X_{i}+Y_{i})_{i\in I} $ und $ (bX_{i})_{i\in I} \ \ b\in\mathbb R$
\end{lemma}
\begin{proof}
Es gilt für $ a>0: $
\begin{equation*}
|X_{i}+Y_{i}|^{P}\mathbbm{1}_{\{ |X_{i}+Y_{i}|\geq a \}} \leq (2|X_{i}|)^{P}\mathbbm{1}_{\{ |X_{i}|\geq \frac{a}{2} \}} + (2|Y_{i}|)^{P}\mathbbm{1}_{\{ |Y_{i}|\geq \frac{a}{2} \}}
\end{equation*}
Also
\begin{equation*}
\sup\limits_{i\in I} E[|X_{i}+Y_{i}|^{P}\mathbbm{1}_{\{ |X_{i}+Y_{i}|\geq a \}}] \leq 2^{P}\underbrace{\sup\limits_{i\in I} E[|X_{i}|^{P}\mathbbm{1}_{\{ |X_{i}|\geq \frac{a}{2} \}}]}_{\xrightarrow{a\to\infty}0}+ 2^{P}\underbrace{\sup\limits_{i\in I} E[|Y_{i}|^{P}\mathbbm{1}_{\{ |Y_{i}|\geq \frac{a}{2} \}}] }_{\xrightarrow{a\to\infty}0}
\end{equation*}
und für $ b\neq 0 $:
\begin{equation*}
\sup\limits_{i\in I} E[|bX_{i}|^{P}\mathbbm{1}_{\{ |bX_{i}|\geq a \}}] = |b|^{P}\sup\limits_{i\in I} E[|X_{i}|^{P}\mathbbm{1}_{\{ |X_{i}|\geq \frac{a}{|b|} \}}] \xrightarrow{a\to\infty} 0
\end{equation*}
Für $ b=0 $ ist die Aussage trivial.
\end{proof}
\begin{theorem}[Optional Sampling für gleichgradig integrierbare Sub- und Supermartingale]
Sin $ S\leq T $ zwei P-f.s. endliche Stoppzeiten und ist $ (X_{n})_{n\in\mathbb N} $ ein gleichgradig integrierbares Sub- (bzw. Super-)martingal, so gilt:
\begin{equation*}
E[X_{T}|\mathcal F_{S}] \underset{\overset{\uparrow}{\text{bzw. }\leq}}{\geq} X_{S} \text{ P-f.s.}
\end{equation*}
\end{theorem}
\begin{proof}
Wir zeigen das nur für Submartingale. Für Supermartingale wechsle man das Vorzeichen.\\
Es sei $ X_{n}=A_{n}+M_{n} \ ,n\in\mathbb N_{0}$ die Doob-Zerlegung in eine vorhersehbare, steigende Folge $ (A_{n})_{n\in\mathbb N} $ mit $ A_{0}=0 $ und ein Martingal $ (M_{n})_{n\in\mathbb N_{0}} $.\\
Insbesondere gilt: $ 0\leq A_{n}\underset{n\to\infty}{\nearrow} A_{\infty} $ für eine geeignete Zufallsvariable $ A_{\infty} $ mit Werten in $ [0,\infty) $. Nun gilt für alle $ n\in\mathbb N_{0} $:
\begin{equation*}
E[A_{n}]=E[A_{n}] + \underbrace{E[M_{n}-M_{0}]}_{=0} = E[\underbrace{A_{n}-M_{n}}_{=X_{n}} -\underbrace{M_{0}}_{=X_{0}}] = E[X_{n}] -E[X_{0}]
\end{equation*}
Weil $ (X_{n})_{n\in\mathbb N_{0}} $ in $  L^{1} $ beschränkt ist (Bemerkung 2.4.8), folgt:
\begin{equation*}
\sup\limits_{n\in\mathbb N_{0}} E[A_{n}] = \sup\limits_{n\in\mathbb N_{0}} E[X_{n}] -E[X_{0}] < \infty
\end{equation*}
Also
\begin{equation*}
E[A_{\infty}] \overset{\mathclap{\underset{\downarrow}{\text{mon. Konv.}}}}{=} \lim\limits_{n\to\infty} E[A_{n}] < \infty
\end{equation*}
Folglich ist $ (A_{n})_{n\in\mathbb N_{0}} $ gleichgradig integrierbar, denn es gilt für alle $ a > 0 $ :
\begin{equation*}
\sup\limits_{n\in\mathbb N_{0}} E[|A_{n}|\mathbbm{1}_{\{ |A_{n}|\geq a \}}] = \sup\limits_{n\in\mathbb N_{0}} E[A_{n}\mathbbm{1}_{\{ A_{n}\geq a \}}] \leq E[\underbrace{ A_{\infty} \mathbbm{1}_{\{ A_{\infty}\geq a \}} }_{\mathclap{\xrightarrow{a\to\infty} 0 \text{ punktweise, mit Maj.} A_{\infty}}}] \xrightarrow[\text{dom. Konv.}]{a\to\infty} 0
\end{equation*}
Mit Lemma 2.4.12 ist auch $ (M_{n}=X_{n}-A_{n})_{n\in\mathbb N_{0}} $ gleichgradig integrierbar, da $ (X_{n})_{n\in\mathbb N} $ und $ (A_{n})_{n\in\mathbb N} $ gleichgradig integrierbar sind. \\
Mit Satz 2.4.11 (Opt. Sampling für gleichgradig integrierbare Martingale) folgt:
\begin{equation*}
E[M_{T}|\mathcal F_{S}] = M_{S} \text{ P-f.s.}
\end{equation*}
Andererseits gilt: $ A_{T}>A_{S} $, da $ T\geq S $ und $ (A_{n})_{n\in\mathbb N} $ monoton steigend ist. Es folgt:
\begin{equation*}
E[A_{T}|\mathcal F_{S}] \geq E[\underset{\mathclap{\overset{\uparrow}{\mathcal F_{S}\text{-messbar, da } (A_{n})_{n\in\mathbb N} \text{ vorhersehbar, also erst recht adaptiert ist} }}}{A_{S}}|\mathcal F_{S}] = A_{S}
\end{equation*}
Und daher:
\begin{equation*}
E[X_{T}|\mathcal F_{S}] = E[M_{T}|\mathcal F_{S}] + E[A_{T}|\mathcal F_{S}] \geq M_{S} + A_{S} = X_{S} \text{ P-f.s.}
\end{equation*}
\end{proof}
\subsection{Doobsche Ungleichung}
Die Doobschen Ungleichungen erlauben die Kontrolle der Verteilung des Maximums:
\begin{equation*}
\overline{X}_{n} := \max\limits_{k=0,\hdots ,n} X_{k}
\end{equation*}
eines (Sub-)Martingals $ (X_{n})_{n\in\mathbb N} $ mit Hilfe der Verteilung des Endwertes $ X_{n} $
\begin{theorem}[1. Doob-Ungleichung]
Ist $ (X_{n})_{n\in\mathbb N} $ ein Submartingal, so gilt $ \forall \ a>0 $:
\begin{equation*}
a\cdot P[\overline{X}_{n}\geq a] \leq E[X_{n}\mathbbm{1}_{\{ \overline{X}_{n}\geq a \}}]
\end{equation*}
\end{theorem}
\begin{remark}
Mit der Abschätzung $E[X_n \mathbbm{1}_{\{\overline{X}_n\geq a\}}]\leq E[(X_n)_+]$ folgt auch $aP[\overline{X}_n\geq a]\leq E[(X_n)_+]$.
\end{remark}
\begin{proof}
Es sei $T \coloneqq \inf \{k\in\mathbb N_0|X_k\geq a\}$ die erste Zeit zu der das Niveau a erreicht oder überschritten wird. Folglich ist T eine Stoppzeit. Weiter gilt:
\begin{equation*}
\{T\leq n\}=\{\overline{X}_n\geq a\}=\{X_{T\wedge n}\geq a\}
\end{equation*}
Damit folgt
\begin{equation*}
aP[\overline{X}_n\geq a]=aP[X_{T\wedge n}\geq a]=E[a \mathbbm{1}_{\{X_{T\wedge n}\geq a\}}]
\end{equation*}
Nun gilt: $X_{T\wedge n}\leq E[X_n|\mathcal {F}_{T\wedge n}]$ $P-f.s.$ nach dem Optional Sampling Satz, also
\begin{equation*}
E[X_{T\wedge n}\mathbbm{1}_{\{X_{T\wedge n\geq a}\}}]\leq E[E[X_n|\mathcal {F}_{T\wedge n}]\mathbbm{1}_{\underbrace{\{X_{T\wedge n}\geq a\}}_{\mathcal {F}_{T\wedge n}-messbar}}]=E[X_n \mathbbm{1}_{\{X_{T\wedge n}\geq a\}}]=E[X_n \mathbbm{1}_{\{X_n\geq a\}}]
\end{equation*}
Zusammen folgt die Behauptung.
\end{proof}
\begin{corollary}[1.Doob-Ungleichung-$L^P$-Version]
Ist $(X_n)_{n\in\mathbb N_0}$ ein nichtnegatives Submartingal, so gilt $\forall a>0$ und $p\geq 1$:
\begin{equation*}
a^pP[\overline{X}_n\geq a]\leq E[X^p_n]
\end{equation*}
\end{corollary}
\begin{remark}
Insbesondere gilt das, wenn $X_n=|M_n|$, $n\in\mathbb N$, mit einem Martingal $(M_n)_{n\in\mathbb N}$ gilt, denn nach der Jensen'schen Ungleichung ist $(X_n)_{n\in\mathbb N}$ ein Submartingal.
\end{remark}
\begin{proof}
\begin{equation*}
a^pP[\overline{X}_n\geq a]=a^pP[\overline{X}_n^p\geq a^p]\overset{\mathclap{\underset{\downarrow}{2.5.1,\text{ da $(X_n)_{n\in\mathbb N}$ nach Jensen Submartingal}}}}{\leq}E[X_n^p \mathbbm{1}_{\{\overline{X}_n^p\geq a^p\}}]\leq E[X^p_n]
\end{equation*}
\end{proof}
\begin{theorem}[2. Doobsche $L^P$-Ungleichung]
Ist $(X_n)_{n\in\mathbb N}$ ein nichtnegatives Submartingal und $p>1$, so gilt:
\begin{equation*}
E[\overline{X}_n^p]\leq(\frac{p}{p-1})^p E[X_n^p]
\end{equation*}
\end{theorem}
\begin{remark}
Genau wie oben gilt das insbesondere im Fall $X_n=|M_n|$ mit einem Martingal $(M_n)_{n\in\mathbb N}$.
\end{remark}
\begin{proof}
Aus Satz 2.5.1 wissen wir für $a>0,$ $n\in\mathbb N_0$:
\begin{equation*}
aP[\overline{X}_n\geq a]\leq E[X_n \mathbbm{1}_{\{\overline{X}_n\geq a\}}].
\end{equation*}
Wir multiplizieren das mit $a^{p-2}$ und integrieren von 0 bis $t>0$:
\begin{equation*}
\int\limits_{0}^{t}a^{p-1}\underbrace{P[\overline{X}_n\geq a]}_{E[\mathbbm{1}_{\{\overline{X}_n\geq a\}}]}da\leq \int\limits_{0}^{t}a^{p-2} E[X_n \mathbbm{1}_{\{\overline{X}_n\geq a\}}]da
\end{equation*}
Wegen $X_n\geq 0$ können wir auf beiden Seiten die Integrationsreihenfolge nach Fubini vertauschen:
\begin{equation*}
E[\underbrace{\int\limits_{0}^{t}a^{p-1}\mathbbm{1}_{\{\overline{X}_n\geq a\}}da}_{=\int\limits_{0}^{t\wedge \overline{X}_n}a^{p-1}da=\frac{1}{p}(t\wedge \overline{X}_n)^p}]\leq E[X_n\underbrace{\int\limits_{0}^{t}a^{p-2}\mathbbm{1}_{\{\overline{X}_n\geq a\}}da}_{=\int\limits_{0}^{t\wedge \overline{X}_n}a^{p-2}da=\frac{1}{p-1}(t\wedge \overline{X}_n)^{p-1}}]
\end{equation*}
also:
\begin{equation*}
E[\frac{1}{p}(t\wedge \overline{X}_n)^p]\leq E[X_n \frac{1}{p-1}(t\wedge \overline{X}_n)^{p-1}]\quad (\ast)
\end{equation*}
Erinnern Sie sich an die Höldersche Ungleichung aus der Maßtheorie: Für Zufallsvariablen $X\geq 0$ und $Y\geq 0$ und $p,q>1$ mit $\frac{1}{p}+\frac{1}{q}=1$, d.h. $q=\frac{p}{p-1}$ gilt:
\begin{equation*}
E[XY]\leq E[X^p]^{\frac{1}{p}}E[Y^q]^{\frac{1}{q}}
\end{equation*}
In dieser Situation erhalten wir:
\begin{equation*}
E[X_n(t\wedge \overline{X}_n)^{p-1}]\leq E[X_n^p]^{\frac{1}{p}}E[(t\wedge \overline{X}_n)^{\overbrace{(p-1)q}^{=p}}]^{\frac{1}{q}}
\end{equation*}
In $(\ast)$ eingesetzt:
\begin{equation*}
\frac{1}{p}E[(t\wedge \overline{X}_n)^p]\leq \frac{1}{p-1}E[X_n^p]^{\frac{1}{p}}E[(t\wedge \overline{X}_n)^p]^{\overbrace{\frac{1}{q}}^{=1-\frac{1}{p}}}
\end{equation*}
Im Fall $E[(t\wedge \overline{X}_n)^p]\eqqcolon u>0$ können wir durch $u^{1-\frac{1}{p}}$ dividieren und erhalten in jedem Fall $(u=0, u>0)$
\begin{equation*}
\frac{1}{p}E[\underbrace{(t\wedge \overline{X}_n)^p}_{\geq 0 \xrightarrow{t\to\infty}\overline{X}_n^p\ pktw.}]\leq \frac{1}{p-1}E[X_n^p]^{\frac{1}{p}}
\end{equation*}
für $t\to\infty$ erhalten wir mit der monotonen Konvergenz:
\begin{equation*}
\frac{1}{p}E[\overline{X}_n^p]\leq \frac{1}{p-1}E[X_n^p]^{\frac{1}{p}}
\end{equation*}
Also \begin{equation*}
E[\overline{X}_n^p]\leq (\frac{p}{p-1})^p E[X_n^p]
\end{equation*}
\end{proof}
\begin{remark}
Weil trivialerweise $E[X_n^p]\leq E[\overline{X}_n^p]$ wegen $X_n\leq \overline{X}_n$, bedeutet das:\\
$||\overline{X}_n||_p$ und $||{X}_n||_p$ können durch Konstanten wechselseitig abgeschätzt werden.
\end{remark}
\subsection{Überquerung eines Intervalls}
Ist $(X_n)_{n\in\mathbb N}$ eine Folge von (adaptierten) Zufallsvariablen und ist $a<b$, so definieren wir zufällige Zeiten (bzw. Stoppzeiten) $(T_k)_{k\in\mathbb N_0}$ und $(S_k)_{k\in\mathbb N_0}$ rekursiv $(k\in\mathbb N)$\\
\begin{equation*}
\begin{split}
&T_0 \coloneqq 0\\
&S_k=\inf \{n\geq T_{k-1|X_n\leq a}\}\\
&T_k=\inf \{n\geq S_{k-1|X_n\geq b}\}\\
\end{split}
\end{equation*}
Das Zeitintervall von $S_k$ bis $T_k$ ist also das Intervall der k-ten Überquerung von $[a,b]$ von unten nach oben, kurz der \glqq k-ten Aufkreuzung\grqq von $[a,b]$. Man beachte $0=T_k\leq S_1<T_1<S_2<T_2<...$\\
Die $S_k$ und $T_k$ sind Stoppzeiten, falls $(X_n)_{n\in\mathbb N}$ adaptiert sind. Weiter bezeichne für $n\in\mathbb N$ $U_n \coloneqq \sum\limits_{k=1}^{\infty}\mathbbm{1}_{\{T_k\leq n\}}$ die Anzahl der Aufkreuzungen von $[a,b]$ bis zur Zeit n.\\
Zur Vereinfachung der Notation betrachten wir zunächst den Spezialfall $[a,b]=[0,1]$:
\begin{lemma}[Aufkreuzungslemma]
Es sei $(X_n)_{n\in\mathbb N}$ ein Supermartingal. Dann gilt für die Anzahl $U_n$ der Aufkreuzungen von $[0,1]$ bis zur Zeit $n\in\mathbb N_0$:
\begin{equation*}
E[U_n]\leq E[(X_n)_-]
\end{equation*}
\end{lemma}
\begin{remark}
Schärfer gilt $E[U_n]\leq E[(X_n)_-]-E[(X_0)_-]$. Wir zeigen hier nur die einfache Version, weil sie für unsere Zwecke genügt.
\end{remark}
\begin{proof}
Für $k\in\mathbb N$, $n\in\mathbb N_0$ gilt:\\
$X_{T_k\wedge n}\geq 1$ für $T_k\leq n$ und\\
$X_{T_k\wedge n}=X_n\geq -(X_n)_-$ für $T_k>n$\\
Das bedeutet:
\begin{equation*}
X_{T_k\wedge n}\geq \mathbbm{1}_{\{T_k\leq n\}}-(X_n)_- \mathbbm{1}_{\{T_k>n\}}
\end{equation*}
Bilden wir hier die Erwartung auf dem Ereignis $\{S_k\leq n\}\geq \{T_k\leq n\}$:
\begin{equation*}
E[X_{T_k\wedge n}\mathbbm{1}_{\{S_k\leq n\}}]\geq E[\mathbbm{1}_{\{T_k\leq n\}}]-E[(X_n)_- \mathbbm{1}_{\{S_k\leq n<T_k\}}]
\end{equation*}
Nun gilt:
\begin{equation*}
E[\underbrace{(X_{T_k\wedge n}-X_{S_k\wedge n})}_{=0 \text{ für }S_k=n}\mathbbm{1}_{\{S_k\leq n\}}]=E[(X_{T_k\wedge n}-X_{S_k\wedge n})\mathbbm{1}_{\{\underbrace{S_k<n}_{\in \mathcal {F}_{S_k\wedge n}}\}}]\overset{\mathclap{\underset{\downarrow}{T_k\wedge n\geq S_k\wedge n}}}{\leq}0
\end{equation*}
Also
\begin{equation*}
0\geq E[\underbrace{(X_{S_k\wedge n}\mathbbm{1}_{\{S_k\leq n\}}}_{\text{ nach Def. von }S_k\leq 0}]\geq E[X_{T_k\wedge n}\mathbbm{1}_{\{S_k\leq n\}}]\overset{s.o.}{\geq}E[\mathbbm{1}_{\{T_k\leq n\}}]-E[(X_n)_- \mathbbm{1}_{\{S_k\leq n<T_k\}}]
\end{equation*}
Also
\begin{equation*}
E[\mathbbm{1}_{\{T_k\leq n\}}]\leq E[\underbrace{(X_n)_-}_{\geq 0}\mathbbm{1}_{\underbrace{\{S_k\leq n <T_k\}}_{\leq \{T_{k-1}\leq n<T_k\}}}]\leq E[(X_n)_-\mathbbm{1}_{\{T_{k-1}\leq n<T_k\}}]
\end{equation*}
Summieren wir über k:
\begin{equation*}
\begin{split}
&E[U_n]=E[\sum\limits_{k\in\mathbb N}\mathbbm{1}_{\{T_k\leq n\}}]\overset{\mathclap{\underset{\downarrow}{mon.\ Konv.}}}{=}\sum\limits_{k\in\mathbb N}E[\mathbbm{1}_{\{T_k\leq n\}}]
\leq \sum\limits_{k\in\mathbb N}E[\underbrace{(X_n)_-}_{\geq 0}\mathbbm{1}_{\{T_{k-1}\leq n<T_k\}}]\overset{\mathclap{\underset{\downarrow}{mon.\ Konv.}}}{=}\\ &E[(X_n)_-\sum\limits_{k\in\mathbb N}\mathbbm{1}_{\underbrace{\{T_{k-1}\leq n<T_k\}}_{\text{bilden in K Partition von }\Omega}}]=E[(X_n)_-].\\
\end{split}
\end{equation*}
\end{proof}
Für ein beliebiges Intervall $[a,b]$ statt $[0,1]$ erhalten wir:
\begin{corollary}
Es sei $(X_n)_{n\in\mathbb N}$ ein Supermartingal und $a<b$. Dann gilt für die Auswahl $U_n$ der Aufkreuzungen des Intervalls $[a,b]$ bis zur Zeit $n\in\mathbb N$
\begin{equation*}
E[U_n]\leq \frac{E[(X_n)_-]}{b-a}
\end{equation*}
\end{corollary}
\begin{proof}
Wir skalieren $Y_n \coloneqq \frac{X_n-a}{b-a}$, $n\in\mathbb N_0$ Aufkreuzungen von $[a,b]$ durch X sind das Gleiche wie Aufkreuzungen von $[0,1]$ durch Y. Es gilt: $\frac{X_n-a}{b-a}=(Y_n)_-$. Zudem ist Y ein Supermartingal. Die Behauptung folgt damit aus Lemma 2.6.1.
\end{proof}
\begin{corollary}
Ist $(X_n)_{n\in\mathbb N}$ ein Supermartingal mit $\sup\limits_{n\in\mathbb N_0}E[(X_n)_-]<\infty$, so wird $\forall a<b$ das Intervall $[a,b]$ $P-f.s.$ nur endlich oft überquert.
\end{corollary}
\begin{proof}
Aus $\sup\limits_{n\in\mathbb N_0}E[(X_n)_-]<\infty$ folgt auch $\sup\limits_{n\in\mathbb N_0}E[(X_n-a)_-]<\infty$ wegen $(X_n-a)_-\leq (X_n)_-+ a_+$. Es sei $U_\infty \coloneqq \lim\limits_{n\to\infty}U_n$ die Anzahl aller Aufkreuzungen von $[a,b]$. Dann gilt:
\begin{equation*}
E[U_\infty]\overset{\mathclap{\underset{\downarrow}{mon.\ Konv.}}}{=}\lim\limits_{n\to\infty}E[U_n]\overset{\mathclap{\underset{\downarrow}{Kor\ 2.6.2}}}{\leq}\sup\limits_{n\in\mathbb N_0}\frac{E[(X_n)-a)_-]}{b-a}<\infty
\end{equation*}
Es folgt $U_\infty<\infty$ $P-f.s.$
\end{proof}
\subsection{Martingalkonvergenzsätze}
Wir beobachten:
\begin{lemma}
Ist $(x_n)_{n\in\mathbb N_0}$ eine Folge in $\mathbb{R}$, die jedes rationale Intervall $[a,b]$, $a<b$, $a,b\in \mathbb{Q}$, nur endlich oft überquert, so konvergiert $x_n$ für jedes $n\to\infty$ gegen ein $x\in \mathbb{R}\cup \{\pm\infty\}$
\end{lemma}
\begin{proof}
Angenommen , das ist nicht der Fall, also:
\begin{equation*}
\liminf\limits_{n\to\infty}x_n<\limsup\limits_{n\to\infty}x_n
\end{equation*}
Dann gibt es $a<b$, $a,b\in \mathbb{Q}$ mit $\liminf\limits_{n\to\infty} x_n<a<b<\limsup\limits_{n\to\infty}x_n$.
Das Intervall $[a,b]$ wird dann jedoch $\infty$ oft überquert im Gegensatz zur Voraussetzung.
\end{proof}
\begin{theorem}[Martingalkonvergenzsatz]
Ist $(X_n)_{n\in\mathbb N_0}$ ein Supermartingal bzgl. $(\mathcal{F}_n)_{n\in\mathbb N_0}$ mit $\sup\limits_{n\in\mathbb N_0}E[(X_N)_-]<\infty$, so konvergiert $(X_n)_{n\in\mathbb N}$ für $n\to\infty$ $P-f.s.$ in $\mathbb{R}$.\\
Eventuell nach Abänderung auf einer Nullmenge ist $X_\infty \coloneqq \lim\limits_{n\to\infty}X_n$\quad $\mathcal{F}_{\infty}=\sigma(\bigcup\limits_{n\in\mathbb N}\mathcal {F}_{n})$-messbar und es gilt $X_\infty\in L^1(\Omega,\mathcal{F}_{\infty}, P)$
\end{theorem}
\begin{proof}
Nach Korollar 2.6.3 und da es nur abzählbar viele rationale Intervalle $[a,b]$ gibt, wird $ P-f.s.$ für alle rationalen $a<b$ das Intervall $[a,b]$ nur endlich oft überquert. Nach Lemma 2.7.1 konvergiert $(X_n)_{n\in\mathbb N}$ $P-f.s.$ in $\mathbb{R}\cup(\pm \infty)$.\\
Setzen wir $Y \coloneqq \lim\limits_{n\to\infty}X_n$, so folgt:
\begin{equation*}
E[Y_+]\underset{\mathclap{\overset{\uparrow}{Fatou\ Lemma}}}{\leq} \liminf\limits_{n\to\infty}\underbrace{E[(X_n)_+]}_{\leq E[(X_0)_+]}\leq E[(X_0)_+]<\infty \quad und
\end{equation*}
\begin{equation*}
E[Y_-]\underset{\mathclap{\overset{\uparrow}{\lim\limits_{n\to\infty}X_n\ existiert\ P-f.s.}}}{=}E[\liminf\limits_{n\to\infty}(X_n)_-]\underset{\mathclap{\overset{\uparrow}{Fatou}}}{\leq}\liminf\limits_{n\to\infty}E[(X_n)_-]\underset{\mathclap{\overset{\uparrow}{Voraussetzung}}}{<}\infty
\end{equation*}
Also: $E[|Y|]=E[Y_+]+E[Y_-]<\infty$. Insbesondere gilt  $|Y|<\infty$ $P-f.s.$\\
Setzen wir $X_\infty \coloneqq \mathbbm{1}_{\{|Y|<\infty\}}Y$, so folgt $X_\infty=Y$ $P-f.s.$, also $X_n \xrightarrow{n\to\infty}X_\infty$ $P-f.s.$, $E[|X_\infty|]=E[|Y|]<\infty$ und $X_\infty$ ist $\mathcal{F}_{\infty}$-messbar, da alle $X_n$ und damit auch alle Y $\mathcal{F}_{\infty}$-messbar sind.
\end{proof}
\begin{remark}
Das Beispiel der Verdopplungsstrategie zeigt, dass man im Allgemeinen nicht $X_n \xrightarrow{n\to\infty}X_\infty$ in $L^1(\Omega,\mathcal{F}_{\infty}, P)$ erwarten kann.
\end{remark}
Unter der Voraussetzung gleichgradiger Integrierbarkeit erhalten wir:
\begin{theorem}[Martingalkonvergenz bei gleichgradiger Integrierbarkeit]
Es sei $(X_n)_{n\in\mathbb N_0}$ ein gleichgradig integrierbares Martingal oder Sub- oder Supermartingal. Dann konvergiert $X_n$ für $n\to\infty$ $P-f.s.$ und in $L^1 (\Omega,\mathcal{F}_{\infty}, P)$ gegen ein $X_\infty\in L^1 (\Omega,\mathcal{F}_{\infty}, P)$ und es gilt $P-f.s.$:
\begin{equation*}
\begin{split}
&E[X_\infty|\mathcal {F}_{n}]=X_n \quad \text{für Martingale}\\
&E[X_\infty|\mathcal {F}_{n}]\leq X_n \quad \text{für Supermartingale}\\
&E[X_\infty|\mathcal {F}_{n}]\geq X_n \quad \text{für Supmartingale}\quad (n\in\mathbb N_0)\\
\end{split}
\end{equation*}
\end{theorem}
\begin{proof}
Zunächst sei $(X_n)_n$ ein Supermartingal. Aus der gleichgradigen Integrierbarkeit folgt:
\begin{equation*}
\sup\limits_{n\in\mathbb N_0}E[(X_n)_-]<\infty, \text{ also ist der Martingalkonvergenzsatz 2.7.2 anwendbar.}
\end{equation*}
Insbesondere ist $X_\infty=\lim\limits_{n\to\infty}X_n\in L^1 (\Omega,\mathcal{F}_{\infty}, P)$ wohldefiniert.
Aus Lemma 2.4.9 folgt $X_n \xrightarrow{n\to\infty}X_\infty$ in $L^1 (\Omega,\mathcal{F}_{\infty}, P)$ und daher $\forall m\in\mathbb N_0$
\begin{equation*}
X_m \underset{\mathclap{\overset{\uparrow}{\text{für $n\geq m$ $P-f.s.$, da X Supermartingal}}}}{\geq}E[X_n|\mathcal {F}_{m}]\xrightarrow{n\to\infty}E[x_\infty|\mathcal {F}_{m}] \text{ in }L^1 (\Omega,\mathcal{F}_{\infty}, P)
\end{equation*}
Also $X_m\geq E[X_\infty|\mathcal {F}_{m}]$ $P-f.s.$, also die Behauptung für Supermartingale. Für Submartingale folgt die Behauptung hieraus indem wir $(-X_n)_n$ statt $(X_n)_n$ betrachten.\\
Nimmt man die Aussagen für Super- und Submartingale zusammen, folgt die Behauptung für Martingale.
\end{proof}

\begin{theorem}[$L^P$-Martingalkonvergenzsatz]
Ist  $(X_n)_{n\in\mathbb N_0}$ ein in $L^P$ beschränktes Martingal , wobei $P>1$, so konvergiert  $(X_n)_{n\in\mathbb N_0}$  $P-f.s.$ und in $L^P$.
\end{theorem}
\begin {proof}
Weil  $(X_n)_{n}$ in $L^P$ beschränkt ist, ist es gleichgradig integrierbar, da $p>1$ (Lemma 2.4.6).
Wir zeigen jetzt, dass  $(X_n)_{n\in\mathbb N_0}$ auch p- fach gleichgradig integrierbar ist.  ${(X_n)_+}_{n\in\mathbb N_0}$ ist ein nichtnegatives Submartingal. $(\overline{X_n})_+\coloneqq \max\limits_{k=0,...,n} (X_n)_+$, so folgt nach der Doobschen $ L^P$- Ungleichung:
\begin{equation*}
E[(X_n)_+^P]\leq c(p)E[(X_n)_+^P]\quad mit\ c(p)=(\frac{p}{p-1})^P
\end{equation*}
und daher
\begin{equation*}
E[\sup\limits_{n\in \mathbb N_0} (X_n)_+^P] \underset{\mathclap{\overset{\uparrow}{mon.\ Konv}}}{=} \lim\limits_{n\to\infty} E[ (\overline{X_n})_+^P]\leq \sup\limits_{n\in \mathbb N_0} E[(X_n)_+^P] \underset{\mathclap{\overset{\uparrow}{(X_n)_n\text{ in $L^P$ beschränkt}}}}{<} \infty
\end{equation*}
Es folgt für $a>0$ mit der Abkürzung $Y\coloneqq \sup\limits_{n\in\mathbb N_0} (X_n)_+$:
\begin{equation*}
\sup\limits_{n\in \mathbb N_0}E[ (X_n)_+^P 1_{\{X_n\geq a\}}]\leq E[\underbrace{Y^P 1_{\{Y\geq a\}}}_{\mathclap{\underset{n\to\infty}{\to}0\ punktweise\ mit\ Majorante\ Y^P\in \mathcal{L}^1}}]\xrightarrow[dom.\ kon.]{n\to\infty}0
\end{equation*}
Also ist $((X_n)_+)_{n\in \mathbb N_0}$ p-fach gleichgradig integrierbar. Das gleiche Argument, angewandt auf $(X_n)_-=(-X_n)_+$, zeigt, dass auch $((X_n)_-)_{n\in \mathbb N_0}$ p-fach gleichgradig integrierbar ist  und daher auch $(X_n)=(X_n)_+-(X_n)_-$, $n\in\mathbb N_0$ (z.B wg. Lemma 2.4.12)
Aus dem Martingalkonvergenzsatz 2.7.3 folgt bei gleichgradiger Integrierbarkeit $P-f.s.$  Konvergenz und Konvergenz in $L^1$ von $(X_n)_{n\in\mathbb N_0}$ und aus Lemma 2.4.9 dann auch Konvergenz in $L^P$.
\end{proof}
\begin {example}[Approximation in $L^P$ durch Bisektion]
Es sei $( \Omega ,\mathcal A, P)$=$ ( [0,1[ , \mathcal B ( [0,1[ ), \ unif [0,1[)$. Weiter sei $f\in \mathcal L^P(\Omega,\mathcal A, P)$, d.h. $\int\limits_0^1 |f(x)|^Pdx<\infty$ für ein $p\geq 1$. Für $n\in\mathbb N$ setzen wir
\begin{equation*}
f_n(x)= \sum\limits_{k=0}^{2^n-1}\mathbbm{1}_{\left[\frac{k}{2^n},\frac{k+1}{2^n}\right)}(x)2^n \underbrace{\int\limits_{\frac{k}{2^n}}^{\frac{k+1}{2^n}}f(x)dx}_{\mathclap{Mittelwert\ von\ f\ auf \left[\frac{k}{2^n},\frac{k+1}{2^n}\right)}}
\end{equation*}
Dann gilt: $f_n \xrightarrow{n\to\infty}f_1$ $P-f.s.$ und in $L^P$ $\int\limits_{0}^{1}|f(x)-f_n(x)|^Pdx \xrightarrow{n\to\infty}0$ und $f_n(x) \xrightarrow{n\to\infty}f(x)$ für unif [0,1)-fast alle x.
In der Tat: \[ \mathcal{F}_n\coloneqq\sigma\left(\left[\frac{k}{2^n},\frac{k+1}{2^n}\right):k=0,...,2^n-1\right)\quad n\in\mathbb N_0 \]
ist eine Filtration mit $\mathcal{F}_\infty\coloneqq\sigma(\bigcup\limits_{n\in\mathbb N_0}^{}\mathcal{F}_n)=\mathcal{A}$.
Nun ist $f_n=E[f|\mathcal F_n]$, $n\in\mathbb N_0$, ein p-fach integrierbares Martingal, da $f\in \mathcal{L}^P$.\\
Aus den Martingalkonvergenzsätzen 2.7.3 und 2.7.4 folgt Konvergenz $P-f.s.$ und in $L^P$ gegen ein $g\in \mathcal{L}^P$. Die noch fehlende Aussage $f=g$ $P-f.s.$ folgt aus folgender Verschärfung von Lemma 2.1.5.
\end{example}

\begin{lemma}
Es sei X $\in\mathcal L^P(\Omega,\mathcal A, P)$ und $(\mathcal{F}_n)_{n\in\mathbb N\cup \{\infty\}}$ eine Filtration über $(\Omega,\mathcal{A})$ mit $\mathcal{F}_\infty=\sigma(\bigcup\limits_{n\in\mathbb N}\mathcal{F}_n)$, $p\geq 1$. Dann gilt : $E[X|\mathcal{F}_n]\xrightarrow{n\to\infty} E[X|\mathcal{F}_\infty]\ P-f.s.$ und in $\mathcal L^P(\Omega,\mathcal A, P)$.
\end{lemma}
\begin{proof}
$(E[X|\mathcal{F}_n])_{n\in\mathbb N}$ ist p-fach gleichgradig integrierbar, da
\begin{equation*}
\sup\limits_{n\in\mathbb N} E[(|E[X|\mathcal{F}_n]|^P-a)_+]\underset{Jensen}{\leq}E[(|X|^P-a)_+]\xrightarrow[\text{dom. konv. mit Majorante }|X|^P\in L^1]{a\to\infty}0
\end{equation*}
Nach den Martingalkonvergenzsätzen konvergiert $E[X|\mathcal{F}_n]$ für $n\to\infty$ $P-f.s.$ und in $L^P$ gegen ein
$X_\infty \in\mathcal L^1(\Omega,\mathcal F_\infty, P)$. Wir zeigen $X_\infty=E[X|\mathcal{F}_\infty]$, indem wir $ E[X_\infty 1_A]=E[E[X| \mathcal{F}_\infty]1_A]$ $(\ast)$\quad für alle $A\in \mathcal{F}_\infty$ zeigen:\\
Die Menge $\mathcal{D}$ aller  $A\in \mathcal{F}_\infty$ mit der Eigenschaft $(\ast)$ ist offensichtlich ein Dynkin-System (Beweis wie in Lemma 2.1.5).\\
$\mathcal{D}$ enthält  das $\cap$-stabile System  $\bigcup\limits_{n\in\mathbb N} \mathcal{F}_n$, denn $\forall n\in\mathbb N$ und $A\in \mathcal{F}_n$ gilt:
\begin{equation*}
E[X_\infty \mathbbm{1}_{A}]\overset{\mathclap{\underset{\downarrow}{E[X| \mathcal{F}_n]\xrightarrow{n\to\infty}X_\infty\ in\ L^1}}}{=}\lim\limits_{m\to\infty}E[E[X|\mathcal{F}_m] \mathbbm{1}_{A}]\overset{\mathclap{\underset{\downarrow}{\text{für } m\geq n \text{ ist }A\in \mathcal{F}_m}}}{=}\lim\limits_{m\to\infty}E[X \mathbbm{1}_{A}] \overset{\mathclap{\underset{\downarrow}{A\in \mathcal{F}_{\infty}}}}{=} E[E[X|\mathcal F_\infty] \mathbbm{1}_{A}]
\end{equation*}
Aus dem Dynkin-Lemma folgt: $\mathcal{F}_\infty=\sigma(\bigcup\limits_{n\in\mathbb N}^{}\mathcal{F}_n)\subseteq \mathcal{D}$, also die Behauptung.
\end{proof}
Der folgende Satz zeigt, dass Martingale mit beschränkten Zuwächsen entweder konvergieren oder \glqq wild oszillieren \grqq
\begin{theorem}[Alternative zur Konvergenz bei Martingalen]
Es sei $(X_n)_{n\in\mathbb N_0}$ ein Martingal bzgl. $(\mathcal{F}_n)_{n\in\mathbb N_0}$ mit gleichmäßig beschränkten Zuwächsen: \\
$\exists M\in \mathbb{N}\ \forall n\in\mathbb N_0$: $|X_{n+1}-X_n|\leq M$. Dann gilt $P-f.s.$:\\
\begin{tabular}{lp{3cm}lp{10cm}}
&\underline{entweder:} &$\lim\limits_{n\to\infty}X_n$ existiert in $\mathbb{R}$\\
&\underline{oder:} &$\inf\limits_{n\in\mathbb N_0}X_n=-\infty$ und $\sup\limits_{n\in\mathbb N_0}X_n=+\infty$\\
\end{tabular}
\end{theorem}
\begin{proof}
O.B.d.A. dürfen wir $X_0=0$ annehmen, sonst betrachten wir das Martingal $X_n^\prime=X_n-X_0$, $n\in\mathbb N_0$, statt $X_n$. Es sei $M\in \mathbb{N}$ eine Schranke für die Zuwächse  $|X_{n+1}-X_k|$, $n\in\mathbb N_0$ und $k\in\mathbb N$:\\
Wir setzen
\begin{equation*}
T_k=\inf \{n\in\mathbb N_0|X_n\geq k\}\overset{X_0=0}{\geq}1.
\end{equation*}
Dann gilt $\forall n\in\mathbb N$: $X_{T_k\wedge n}\leq k+M$. In der Tat:\\
\begin{tabular}{lp{2cm}lp{15cm}}
&\underline{1. Fall:} &$T_k\leq n$:\quad Hier gilt: $X_{T_k\wedge n}=X_{T_k}=\underbrace{X_{T_k-1}}_{<k}+\underbrace{{X_T}_k-X_{T_k-1}}_{\leq M}<k+M$\\
&\underline{2. Fall:} &$T_k>n$: \quad Hier gilt: $X_{T_k\wedge n}=X_n<k\leq k+M$\\
\end{tabular}\\
Nach dem Beispiel 2.4.2 (a) gilt: $(X_{T_k\wedge n})_{n\in\mathbb N_0}$ ist wieder Martingal.
Weiter gilt: $\sup\limits_{n\in\mathbb N_0}E[(X_{T_k\wedge n})_+]\leq k+M<\infty$\\
Nach dem Martingalkonvergenzsatz 2.7.2, angewandt auf das Martingal $(-X_{T_k\wedge n})_{k\in\mathbb N}$, folgt:\\
$X_{T_k\wedge n}$ konvergiert für $n\to\infty$ $P-f.s.$ in $\mathbb{R}$, genauer gesagt sogar in $(-\infty,k+M]$. Das bedeutet $P-f.s.$:
\begin{tabular}{lp{2cm}lp{15cm}}
&für $T_k=\infty$: &\quad $X_n$ konvergiert in $\mathbb{R}$\\
&für $T_k<\infty$: &\quad $\sup\limits_{n\in\mathbb N}X_n\geq k$ (nach Def. von $T_k$)\\
\end{tabular}

Weil dies $\forall k\in\mathbb N$ gilt, folgt $P-f.s.$:\\
\begin{tabular}{lp{3cm}lp{10cm}}
&\underline{entweder:} &$\lim\limits_{n\to\infty}X_n$ existiert in $\mathbb{R}$\\
&\underline{oder:} &$\sup\limits_{n\in\mathbb N_0}X_n=+\infty$\\
\end{tabular}\\
Das gleiche Argument, angewandt auf $(-X_n)_{n\in\mathbb N_0}$ statt $(X_n)_n$ liefert $P-f.s.$:\\
\begin{tabular}{lp{3cm}lp{10cm}}
&\underline{entweder:} &$\lim\limits_{n\to\infty}X_n$ existiert in $\mathbb{R}$\\
&\underline{oder:} &$\inf\limits_{n\in\mathbb N_0}X_n=-\infty$\\
\end{tabular}\\
Zusammen folgt die Behauptung.
\end{proof}

Nun betrachten wir Martingale $(X_k)_{k\in\mathbb Z_0^-}$ bzgl. einer Filtration $(\mathcal{F}_k)_{k\in\mathbb Z_0^-}$, wobei $\mathbb{Z}_0^-\coloneqq \{-n|n\in\mathbb N_0\}$ Solche Martingale nennt man auch Rückwärtsmartingale. Wir setzen $\mathcal{F}_{-\infty}\coloneqq \bigcap\limits_{k\in \mathbb{Z}_0^-}^{}\mathcal{F}_k$. $\mathcal{F}_{-\infty}$ ist als Durschnitt von $\sigma$-Algebren wieder eine $\sigma$-Algebra.

\begin{theorem}[Rückwärtsmartingal-Konvergenzsatz]
Jedes Rückwärtsmartingal $(X_n)_{n\in\mathbb Z^-}$ konvergiert für $n\to-\infty$ in $L^1$ und $P-f.s.$ gegen $E[X_0|\mathcal F_{-\infty}]$. Ist $X_0\in L^P (\Omega,\mathcal F_0, P)$, so konvergiert $(X_n)_n$ sogar in $L^P$ $(p\geq 1)$.
\end{theorem}
\begin{proof}[Fortsetzung]
Schon gezeigt: $\forall a<b$ ist die Anzahl $U_\infty$ der Aufkreuzungen von $[a,b]$ $P-f.s.$ endlich. Weil es nur abzählbar viele rationale Intervalle gibt, folgt aus Lemma 2.7.1: $(X_k)_{k\in\mathbb Z_0^-}$ konvergiert für $k\to -\infty$ $P-f.s.$ gegen eine Zufallsvariable $X_{-\infty}$ mit Werten in $\mathbb{R}\cup \{\pm\infty\}$
Ist nun $X_0\in L^P (\Omega,\mathcal F_0, P)$ für $p\geq 1$ (für $p=1$ gilt das stets), so ist $(X_n)_{n\in\mathbb Z_0^-}$ p-fach gleichgradig integrierbar, denn $\forall k\in \mathbb{Z_0^-}$ gilt:
\begin{equation*}
E[(|X_k|^P-a)_+]=E[(E[X_0|\mathcal F_k]|^P-a)_+]\underset{Jensen}{\leq}E[(|X_0|^P-a)_+]
\end{equation*}
und daher
\begin{equation*}
\sup\limits_{n\in \mathbb{Z_0^-}}E[(|X_k|^P-a)_+]\leq E[\underbrace{(|X_0|^P-a)_+}_{\xrightarrow{n\to\infty}0 \text{ punktw.}}]\xrightarrow[\text{dom. kon. mit Majorante }|X_0|^P\in L^1]{n\to\infty}0
\end{equation*}
Weiter ist $E[(|X_{-\infty}|^P]<\infty$, denn
\begin{equation*}
E[(|X_{-\infty}|^P]\underset{Fatou}{\leq}\liminf\limits_{k\to-\infty}E[(|X_k|^P]\underset{Jensen, X_k=E[X_0|\mathcal F_k] P-f.s.}{\leq}E[(|X_0|^P]<\infty
\end{equation*}
Aus der p-fachen gleichgradigen Integrierbarkeit  folgt mit Lemma 2.4.9 $X_k \xrightarrow{k\to-\infty}X_{-\infty}$ in $L^P$.\\
Wir zeigen jetzt $X_{-\infty}=E[X_0|\mathcal F_{-\infty}]$ $P-f.s.$
Zunächst betrachten wir $X_{-\infty}=\liminf\limits_{k\to-\infty}X_k$ $P-f.s.$ und dieser $\liminf$ ist $\forall m\in \mathbb{Z_0^-}$ $\mathcal{F}_m$-messbar, denn $\forall k\leq m$ ist $X_k$ $\mathcal{F}_m$-messbar.
Das bedeutet $A\in \mathcal{B}(\mathbb{R}\cup \{\pm\infty\}$
$\{\liminf\limits_{k\to-\infty}X_k\in A\}\in \bigcap\limits_{m\in \mathbb{Z}_0^-}^{}\mathcal{F}_m=\mathcal{F}_\infty$, d.h. $\liminf\limits_{k\to-\infty}X_k$ ist $\mathcal{F}_{-\infty}$- messbar.\\
Weiter gilt für $B\in \mathcal{F}_{-\infty}$:
\begin{equation*}
E[X_{-\infty}\mathbbm{1}_{B}]\underset{X_k \xrightarrow{k\to-\infty}X_{-\infty}\in L^1}{=}\lim\limits_{k\to-\infty}E[X_k \mathbbm{1}_{B}]=\lim\limits_{k\to-\infty}E\left[E[X_0|\mathcal F_k]\mathbbm{1}_{ \underset{\in \mathcal{F}_{-\infty}\subseteq \mathcal{F}_k}{B}}\right]=E[X_0 \mathbbm{1}_{B}]
\end{equation*}
Zusammen folgt $E[X_0|\mathcal F_{-\infty}]=X_{-\infty}\ P-f.s.$
\end{proof}
Als eine Anwendung erhalten wir:
\begin{theorem}[Teilaussage des starken Gesetzes der großen Zahlen]
Ist $(Z_n)_{n\in\mathbb N}$ eine i.i.d. Folge von Zufallsvariablen in $L^P (\Omega,\mathcal A, P)$, $p\geq 1$, so konvergiert $\frac{1}{n}\sum\limits_{k=1}^{n}Z_k$ für $n\to\infty$ $P-f.s.$ und in $L^P (\Omega,\mathcal A, P)$.
\end{theorem}
\begin{proof}
Für $X_{-n}\coloneqq \frac{1}{n}\sum\limits_{k=1}^{n}Z_k$ und $\mathcal{F}_{-n},(Z_k)_{k>n})$
MAn beachte $\mathcal{F}_{-n-1}=\frac{1}{n+1}(nX_{-n}+Z_{n+1})$ ist $\mathcal{F}_{-n}$-messbar.
Nun gilt $\forall k=1,...,n$ gilt: $E[Z_k|\mathcal{F}_{-n}]=E[Z_1|\mathcal F_{-n}]$ $P-f.s.$\\
In der Tat: Da $(Z_k, X_{-n}, (Z_l)_{l>n})$ und  $(Z_1, X_{-n}, (Z_l)_{l>n})$ die gleiche gemeinsame Verteilung haben, gilt $\forall A\in \mathcal{F}_{-n}$:
\begin{equation*}
E[Z_k \mathbbm{1}_{A}]=E[Z_1 \mathbbm{1}_{A}]=E[E[Z_1|\mathcal F_{-n}]\mathbbm{1}_{A}]
\end{equation*}
Es folgt $\forall n\in\mathbb N$
\begin{equation*}
n E[Z_n|\mathcal F_{-n}]=\sum\limits_{k=1}^{n}E[Z_k|\mathcal F_{-n}]=E[\underbrace{\sum\limits_{k=1}^{n}Z_k}_{=nX_{-n}}|\mathcal{F}_{-n}]=E[nX_{-n}|\mathcal F_{-n}]=nX_{-n}\ P-f.s.
\end{equation*}
also $E[Z_n|\mathcal F_{-n}]=X_{-n}$ $P-f.s.$\\
Das bedeutet $(X_{-n} )_{-n\in\mathbb Z^-}$ ist ein Rückwärtsmartingal bzgl. $(\mathcal{F}_{-n})_{-n\in\mathbb Z^-}$. Dei Behauptung folgt nun aus dem Rückwärtsmartingalkonvergenzsatz 2.7.8
\end{proof}
\begin{remark}
Später werden wir sehen, dass der Limes $P-f.s.$ konst gleich $E[Z_n] ist$
\end{remark}
\subsection{Lemmata von Borel-Cantelli}
Für eine Folge $(A_n)_{n\in\mathbb N}$ von Ereignissen sei $\limsup\limits_{n\to\infty}\coloneqq \bigcap\limits_{n\in\mathbb N}^{}\bigcup\limits_{m:m\geq n}^{}A_m$ das Ereignis , dass $A_n$ für $\infty$ viele $n\in\mathbb N$ eintritt.
Anders gesagt:
\begin{equation*}
\mathbbm{1}_{\limsup\limits_{n\to\infty}A_n}=\limsup\limits_{n\to\infty}\mathbbm{1}_{A_n}.
\end{equation*}
\begin{reminder}
\begin{theorem}[1. Lemma von Borel-Cantelli]
Wenn $\sum\limits_{n\in\mathbb N}^{}P(A_n)<\infty$,so gilt $P(\limsup\limits_{n\to\infty}A_n)=0$
\end{theorem}
\begin{proof}
Wegen $\mathbbm{1}_{\limsup\limits_{n\to\infty}A_n}\leq \sum\limits_{n=k}^{\infty}\mathbbm{1}_{A_k}\forall k\in\mathbb N$ gilt:
\begin{equation*}
P\left(\limsup\limits_{n\to\infty}A_n\right)=E\left[\mathbbm{1}_{\limsup\limits_{n\to\infty}A_n}\right]\leq E\left[\sum\limits_{n=k}^{\infty}\mathbbm{1}_{A_n}\right]\underset{mon.\ kon.}{=}\sum\limits_{n=k}^{\infty}P(A_n) \xrightarrow[wg.\ \sum\limits_{n=1}^{\infty}P(A_n)<\infty]{n\to\infty}0
\end{equation*}
also $P\left(\limsup\limits_{n\to\infty}A_n\right) =0$.
\end{proof}
\end{reminder}
In diesem Abschnitt beweisen wir mehrere Versionen von \glqq Umkehrungen \grqq dieses Lemmas unter Zusatzvoraussetzungen. Wir beginnen mit einer Unabhängigkeitsannahme und schwächen diese später ab.
\begin{theorem}[2. Lemma von Borel- Cantelli]
Ist $(A_n)_{n\in\mathbb N}$ eine Folge \underline{unabhängiger} Ereignisse mit $\sum\limits_{n\in\mathbb N}^{}P(A_n)=\infty$, so gilt: $P(\limsup\limits_{n\to\infty}A_n)=1$\\
Für unabhängige $A_n$, $n\in\mathbb N$, gilt also ein \glqq 0-1-Gesetz\grqq:\\
$P(\limsup\limits_{n\to\infty}A_n)=
\begin{cases}
&0,\text{ falls} \sum\limits_{n\in\mathbb N}P(A_n)<\infty\\
&1,\text{ falls} \sum\limits_{n\in\mathbb N}P(A_n)=\infty
\end{cases}$
\end{theorem}
\begin{proof}
Für $n\in\mathbb N$ gilt:
\begin{equation*}
P(\bigcup\limits_{m:m\geq n}^{}A_m=1-P((\bigcup\limits_{m:m\geq n}^{}A_m)^C)=1-P(\bigcup\limits_{m:m\geq n}^{}A_m^C)\quad (\ast)
\end{equation*}
Nun gilt wegen der $\sigma$-Stetigkeit von p:
\begin{equation*}
P(\bigcup\limits_{m:m\geq n}^{}A_m^C)=\lim\limits_{k\to\infty}P(\bigcup\limits_{m=n}^{k}\underbrace{A_m^C}_{\text{unabhängig}}=\lim\limits_{k\to\infty}\prod\limits_{m=n}^k P(A_m^C) \quad (\ast\ast)
\end{equation*}
Wir schätzen:
\begin{equation*}
\prod\limits_{m=n}^k P(A_m^C)=\prod\limits_{m=n}^k \underbrace{(1-P(A_m)}_{\geq 0}\underset{\forall x\in \mathbb{R}: 1-x\leq e{-x}}{\leq}\prod\limits_{m=n}^k e^{-P(A_m)}= e^{-\sum\limits_{m=n}^{k}P(A_m)}\xrightarrow[\sum\limits_{m=n}^{\infty}P(A_m)=\infty, da\ \sum\limits_{n\in\mathbb N}P(A_m)=\infty]{n\to\infty}0
\end{equation*}
also auch $\sum\limits_{m=n}^{\infty} P(A_m)=\infty$, da $\sum\limits_{n\in\mathbb N}^{}P(A_m)=\infty$\\
In $(\ast\ast)$ und $(\ast)$ eingesetzt erhalten wir: $P(\bigcup\limits_{m\geq n}^{}A_m)=1$ und daher auch $P(\bigcap\limits_{n\in\mathbb N}^{}\bigcup\limits_{m:m\geq n}^{}A_m)=1$, also die Behauptung.
\end{proof}
\begin{example}
Es sei $(X_n)_{n\in\mathbb N}$ eine Folge von unabhängigen auf $]0,1[$ gleichverteilten Zufallsvariablen und $(a_n)_{n\in\mathbb N}$ eine Folge positiver Zahlen mit $a_n \xrightarrow{n\to\infty}\infty$. Dann gilt $P-f.s.$:\\
\begin{equation*}
\liminf\limits_{n\to\infty}a_nX_n=
\begin{cases}
&0, \quad\text{falls} \sum\limits_{n\in \mathbb{N}}\frac{1}{a_n}=\infty\\
&\infty, \quad\text{falls} \sum\limits_{n\in\mathbb N}\frac{1}{a_n}<\infty
\end{cases}
\end{equation*}
\end{example}
\begin{proof}
Zunächst betrachten wir den Fall $\sum\limits_{n\in\mathbb N}\frac{1}{a_n}=\infty0$. Es sei $\varepsilon>0$. Für alle genügend großen n, sagen wir für $n\geq n_0(\varepsilon)$, gilt $\frac{\varepsilon}{a_n}\leq 1$.\\
Für diese n schließen wir:
\begin{equation*}
P[a_nX_n<\varepsilon] =P\left[X_n<\frac{\varepsilon}{a_n}\right], \text{ also}
\end{equation*}
\begin{equation*}
\sum\limits_{n=n_0(\varepsilon)}^{\infty}P[a_nX_n\varepsilon]=\sum\limits_{n=n_0(\varepsilon)}^{\infty}\frac{\varepsilon}{a_n}=\infty
\end{equation*}
Wegen der Unabhängigkeit der $\{a_nX_n<\varepsilon\}$, $n\in\mathbb N$, folgt aus dem 2. Borel-Cantelli-Lemma:
\begin{equation*}
P[a_nX_n<\varepsilon \text{ für } \infty \text{ viele } n]=1,\text{ also } P-f.s. \liminf\limits_{n\to\infty}a_nX_n\leq \varepsilon.
\end{equation*}
Weil das für alle rationale $\varepsilon>0$ gilt, folgt:\\
$\liminf\limits_{n\to\infty}a_nX_n=0\ P-f.s.$\\
Nun betrachten wir den Fall $\sum\limits_{n}\frac{1}{a_n}<\infty$
Es sei  $M>0$, $M\in \mathbb{R}$. Für $n\in\mathbb N$ schließen wir:\\
$P[a_nX_n<M]=P[X_n\leq \frac{M}{a_n}]\leq \frac{M}{a_n}$ und daher $\sum\limits_{n\in\mathbb N}P[a_nX_n<M]\leq \sum\limits_{n\in\mathbb N}\frac{M}{a_n}<\infty$\\
Es folgt aus dem 1. Borel-Cantelli-Lemma:\\
$P[a_nX_n<M \text{ für $\infty$ viele n}]=0$, also $P[\liminf\limits_{n\to\infty}a_nX_n<M]=0$.\\
Weil das für alle rationalen $M>0$ gilt, folgt $\liminf\limits_{n\to\infty}a_nX_n=\infty\ P-f.s.$
\end{proof}
Verallgemeinerung der beiden Borel-Cantelli-Lemmata zu einer bedingten Version: Notation:
Für ein Ereignis A und eine $\sigma$-Algebra $\mathcal{F}\subseteq \mathcal{A}$ schreiben wir $P[A|\mathcal{F}]\coloneqq E[\mathbbm{1}_{A}|\mathcal F]$. $P[A|\mathcal F]$ wird bedingte Wahrscheinlichkeit von A gegeben $\mathcal{F}$ genannt.
\begin{theorem}[bedingtes Borel-Cantelli-Lemma]
Es sei $(\mathcal{F}_n)_{n\in\mathbb N_0}$ eine Filtration und $(A_n)_{n\in\mathbb N}$ eine Folge von Ereignissen mit $A_n\in \mathcal{F}_n\ \forall n\in\mathbb N$. Dann gilt $P-f.s.$:
\begin{equation*}
\sum\limits_{n\in\mathbb N}\mathbbm{1}_{A_n}=\infty \text{ genau dann, wenn } \sum\limits_{n\in\mathbb N}P[A_n|\mathcal{F}_{n-1}]=\infty
\end{equation*}
\end{theorem}
\begin{proof}
Es sei $X_n=\sum\limits_{k=1}^{n}\mathbbm{1}_{A_k}$ und $Y_n=\sum\limits_{k=1}^{n}E[\mathbbm{1}_{A_k}|\mathcal{F}_{k-1}]$ für $n\in\mathbb N_0$. Offensichtlich ist $(X_n)_{n\in\mathbb N_0}$ adaptiert und $(Y_n)_{n\in\mathbb N}$ sogar vorhersehbar bezüglich $(\mathcal{F}_n)_{n\in\mathbb N}$ und es gilt $Y_0=0$.\\
Weiter ist $M_n=X_n-Y_n$, $n\in\mathbb N_0$, ein Martingal, denn es gilt:
\begin{equation*}
E[M_n|\mathcal F_{n-1}]=E[\underbrace{M_{n-1}}_{\mathcal{F}_{n-1}-messbar}+ \mathbbm{1}_{A_n}-\underbrace{E[\mathbbm{1}_{A_n}|\mathcal{F}_{n-1}]}_{\mathcal{F}_{n-1}-messbar}|\mathcal{F}_{n-1}]=M_{n-1}+E[\mathbbm{1}_{A_n}|\mathcal F_{n-1}]- E[\mathbbm{1}_{A_n}|\mathcal F_{n-1}]=M_{n-1}.
\end{equation*}
Anders gesagt: $X_n=M_n+Y_n$, $n\in\mathbb N_0$, ist die Doob-Zerlegung von $(X_n)_{n\in\mathbb N_0}$. Nun hat $(M_n)_{n\in\mathbb N}$ $P-f.s.$ beschränkte Zuwächse, da $|M_n- M_{n-1}|=|\mathbbm{1}_{A_n}-P[A_n|\mathcal F_{n-1}]|\leq 1$
Aus Satz 2.7.7 (alternative zur Konvergenz von Martingalen) folgt folgende Alternative: $P-f.s.$ gilt:\\
\begin{tabular}{lp{3cm}lp{10cm}}
&\underline{entweder:} &$\lim\limits_{n\to\infty}M_n$ existiert in $\mathbb{R}$ (1.Fall)\\
&\underline{oder:} &$\liminf\limits_{n\to\infty}M_n=-\infty$ und $\limsup\limits_{n\to\infty}M_n=+\infty$ (2.Fall)\\
\end{tabular}
Im 1.Fall gilt $X_n \xrightarrow{n\to\infty}\infty$ genau dann, wenn $Y_n=X_n-M_n \xrightarrow{n\to\infty}\infty$, d.h. die Behauptung des Satzes gilt im 1.Fall.\\
Im 2.Fall schließen wir $P-f.s.$:
\begin{equation*}
\sum\limits_{n\in\mathbb N}\mathbbm{1}_{A_n}=\lim\limits_{n\to\infty}X_n=\lim\limits_{n\to\infty}(\underbrace{Y_n}_{\geq 0,\ steigend \ in \ n}+M_n)=\underbrace{\lim\limits_{n\to\infty}Y_n}_{\geq 0}+\underbrace{\limsup\limits_{n\to\infty}M_n}_{=+\infty}=+\infty\ und
\end{equation*}
\begin{equation*}
\sum\limits_{n\in\mathbb N}P[A_n|\mathcal{F}_{n-1}]=\lim\limits_{n\to\infty}Y_n=\lim\limits_{n\to\infty}(\underbrace{X_n}_{\geq 0\ steigend}-M_n)=\underbrace{\lim\limits_{n\to\infty}X_n}_{\geq 0}-\underbrace{\liminf\limits_{n\to\infty}M_n}_{=-\infty}=+\infty
\end{equation*}
\end{proof}
\begin{remark}
Die beiden \glqq unbedingten\grqq\ Borel-Cantelli-Lemmata 2.8.1, 2.8.2 sind in der bedingten Version 2.8.4 wie folgt enthalten:
\begin{enumerate}[1)]
\item Ist $(A_n)_{n\in\mathbb N}$ eine Folge von Ereignissen mit $\sum\limits_{n\in\mathbb N}P(A_n)<\infty$ und $(\mathcal{F}_n)_{n\in\mathbb N}$ irgendeine Filtration mit $A_n\in \mathcal{F}_n$ $(n\in\mathbb N)$, so folgt $P-f.s.$:
\begin{equation*}
\sum\limits_{n\in\mathbb N}P[A_n|\mathcal{F}_{n-1}]<\infty \ wegen\ E[\sum\limits_{n\in\mathbb N}P[ A_n|\mathcal F_{n-1}]]\underset{mon.\ konv.}{=}\sum\limits_{n\in\mathbb N}E[P[ A_n|\mathcal F_{n-1}]]=\sum\limits_{n\in\mathbb N}P(A_n)<\infty,
\end{equation*}
also $\sum\limits_{m}\mathbbm{1}_{A_n}<\infty$, d.h. das Ereignis $\limsup\limits_{n\to\infty}A_n$ tritt nicht ein nach der bedingten Version des Borel-Cantelli-Lemmas 2.8.4.
\item Ist $(A_n)_{n\in\mathbb N}$ eine Folge von unabhängigen Ereignissen mit $\sum\limits_{n\in\mathbb N}P(A_n)=\infty$ und $\mathcal{F}_n=\sigma(A_1,...,A_n)$ für $n\in\mathbb N_0$, so ist
\begin{equation*}
P[A_n|\mathcal{F}_{n-1}] = E[\mathbbm{1}_{A_n}]=P[A_n]\ P-f.s.\ (n\in\mathbb N),\ also
\end{equation*}
\begin{equation*}
\sum\limits_{n\in\mathbb N}P[A_n|\mathcal{F}_{n-1}]=\sum\limits_{n\in\mathbb N}P[A_n]=\infty\ P-f.s.
\end{equation*}
und damit nach der bedingten Version 2.8.4:\\
$\sum\limits_{n\in\mathbb N}\mathbbm{1}_{A_n}=\infty$, d.h. $\limsup\limits_{n\to\infty}A_n$ tritt $P-f.s.$ auf.
\end{enumerate}
\end{remark}
\begin{example}[Polya-Urne]
Eine Urne enthält zunächst eine rote und eine blaue Kugel. Wir ziehen immerwieder zufällig eine Kugel und legen sie zurück zusammen mit einer neuen Kugel der gleichen Farbe. $R_n$ und $B_n$ bezeichne dei Anzahl roter bzw. blauer Kugeln nach dem  n-ten Zug in der Urne, $B_0=R_0=1$. Wir zeigen, dass $P-f.s.$ unendlich oft eine blaue Kugel gezogen wird.\\
Hierzu bezeichne $\mathcal{F}_n=\sigma(R_k,B_k:\ k=1,...,n)$\quad $(n\in\mathbb N_0$ die $\sigma$-Algebra der bis zum n-ten Zug beobachtbaren Ereignisse und $A_n=\{B_n=B_{n-1}+1\}$, $n\in\mathbb N$, das Ereignis, das im n-ten Zug eine blaue Kugel gez. wird.
Es gilt also $A_n=\{B_n=B_{n-1},R_n=R_{n-1}+1\}$.\\
Man beachte: Die $A_n$ $n\in\mathbb N$ sind abhängig!\\
Nach der Modellbeschreibung gilt:
\begin{equation*}
P[A_n|\mathcal{F}_{n-1}]=\frac{B_{n-1}}{B_{n-1}+R_{n-1}}\underset{fehlt}{=}\frac{B_{n-1}}{n+1}\underset{fehlt}{\geq}\frac{1}{n+1}
\end{equation*}
und daher
\begin{equation*}
\sum\limits_{n\in\mathbb N}P[A_n|\mathcal{F}_{n-1}]\geq \sum\limits_{n\in\mathbb N} \frac{1}{n+1}=\infty
\end{equation*}
Aus der bedingten Version des Borel-Cantelli-Lemmas folgt $\sum\limits_{n\in\mathbb N}\mathbbm{1}_{A_n}=\infty$ $P-f.s.$, also die Behauptung.
\end{example}
\subsection{Verzweigungsprozesse}
Verzweigungsprozesse (Synonym: Galton-Watson Prozesse) sind in der mathematischen Biologie  Modelle zur Beschreibung von Ppulationsdynamiken. Wir analysieren hier nur das einfachste Modell in dieser Klasse.\\
Eine Population besteht aus $N_t$ Individuen zur Zeit t, $t\in\mathbb N_0$. Anfangs ist nur 1 Individuum vorhanden: $N_0=1$. Zu jeder Zeit t spaltet sich jedes vorhandene Individuum  in eine zufällige, nach einer Verteilung $\mu$ auf $\mathbb{N}_0$ verteilten Anzahl von Nachkommen auf, unabhängig von den anderen Individuen und unabhängig von der Vorgeschichte. Wir modellieren wie folgt:\\
$(X_{t,i})_{t\in\mathbb N,i\in\mathbb N}$ seien i.i.d. $\mu$-verteilte Zufallsvariablen auf einem Wahrscheinlichkeitsraum $(\Omega,\mathcal A, P)$. Dabei soll $Z_{t,i}$ die Nachkommenanzahl des i-ten Individuums zur Zeit t-1 bedeuten, falls es dieses Individuum gibt, $t\in\mathbb N$.\
Wir setzen $\mathcal{F}_t\coloneqq \sigma(Z_{s,i}:s=1,...,t, i\in\mathbb N)$, $t\in\mathbb N_0$ und definieren rekursiv:\\
$N_0\coloneqq 1$, \quad Insbesondere ist $(N_t)_{t\in\mathbb N_0}$ bezüglich $(\mathcal{F}_t)_{t\in\mathbb N_0}$ adaptiert,\\
$N_t\coloneqq \sum\limits_{i=1}^{N_{t-1}}Z_{t,i}$ \quad und $N_1=Z_{1,1}$ ist $\mu$-verteilt.\\
Wir definieren für $\varphi\in[0,1]$:
\begin{equation*}
f(\varphi)\coloneqq E\left[\varphi ^{N_i}=\sum\limits_{n=0}^{\infty}\varphi^n \mu(\{n\})\right],\ wobei\ 0^0\coloneqq 1
\end{equation*}

\begin{lemma}
Es gilt: $ E[\rho^{N_{t}}|\mathcal F_{t-1}]=f(\rho)^{N_{t-1}} $ für $ t\in\mathbb N,\rho\in [0,1] $. Für $ \rho\in [0,1] $ ist $ (\rho^{N_t})_{t\in\mathbb N_{0}} $ ein Martingal für $ f(\rho)=\rho $, ein Submartingal für $ f(\rho)\geq\rho $ und ein Supermartingal für $ f(\rho)\leq\rho $ bzgl. $ (\mathcal F_{t})_{t\in\mathbb N_{0}} $
\end{lemma}
\begin{proof}
Für $ t\in\mathbb N,n\in\mathbb N_{0} $ gilt P-f.s.:
\begin{align*}
E[\rho^{N_{t}}|\mathcal F_{t-1}]\mathbbm 1_{\{ \underbrace{N_{t-1}=n}_{\in\mathcal F_{t-1}} \}} = E[\rho^{N_{t}}\mathbbm 1_{\{ N_{t-1}=n \}}|\mathcal F_{t-1}] = E[\rho^{\sum_{i=1}^{n}Z_{t,i}}\mathbbm 1_{\{ N_{t-1}=n\}}|\mathcal F_{t-1}]\\=E[\prod\limits_{i=1}^{n}\underset{\overset{\uparrow}{\mathclap{\text{Fakt. alle unabh. \& unabh. von }\mathcal F_{t-1}}}}{\rho^{Z_{t,i}}}|\mathcal F_{t-1}] = \prod\limits_{i=1}^{n} \underbrace{E[\rho^{\overbrace{Z_{t,i}}^{\mathclap{\text{gleiche Vert. wie} N_{1}}}}]}_{=f(\rho)} \mathbbm 1_{\{ N_{t-1}=n \}} = f(\rho)^{n} \mathbbm 1_{\{ N_{t-1}=n \}} = f(\rho)^{N_{t-1}} \mathbbm 1_{\{ N_{t-1}=n \}}
\end{align*}
und daher P-f.s.:
\[ E[\rho^{N_{t}}|\mathcal F_{t-1}]=\sum\limits_{n\in\mathbb N_{0}} E[\rho^{N_{t}}|\mathcal F_{t-1}]\mathbbm 1_{\{ N_{t-1}=n \}} = \sum\limits_{n\in\mathbb N_{0}} f(\rho)^{N_{t-1}} \mathbbm 1_{\{ N_{t-1}=n \}} = f(\rho)^{N_{t-1}} \]
Insbesonder ist im Fall $ f(\rho)=\rho $ die Folge $ (\rho^{N_{t}}) $ ein Martingal. \\
Nun ist für $ f(\rho)\underset{(\geq)}{\leq}\rho : f(\rho)^{N_{t-1}}\underset{(\geq)}{\leq}\rho^{N_{t-1}} $. Hieraus folgt die Behauptung.
\end{proof}
Wir analysieren nun die erz. Fkt. $ f $, insbesondere im Hinblick auf Fixpunkte.
\begin{lemma}
Die Funktion $ f:[0,1]\to [0,1] , f(\rho)=E[\rho^{N_{1}}] $ ist monoton steigend und konvex. Sie ist strikt konvex für $ P[N_{1}>1]>0 $, d.h.
\[ f(\lambda x+(1-\lambda )y)<\lambda f(x)+(1-\lambda)f(y) \text{ für }\lambda\in (0,1) \ 0\leq x < y\leq 1 \]
Es gilt $ f(1)=0,f(0)=E[0^{N_{1}}]=E[\mathbbm 1_{\{ N_{1}=0 \}}]=P[N_{1}=0]=\mu(\{ 0\}) $.\\
Weiter existiert die linksseitige Ableitung in 1:
$ f_{l}'(1)=\lim\limits_{\rho\nearrow 1} \dfrac{f(\rho)-1}{\rho -1} $ in $ [0,\infty) $, und es gilt $ f_{l}'(1)=E[N_{1}] $
\end{lemma}
\begin{proof}
Da alle FUnktionen $ p_{n}:\rho\to\rho^{n}, \ \rho\in [0,1] , \ n\in\mathbb N$, monoton steigend und konvex sind, ist auch
\[ E[\rho^{N_{1}}]=\sum\limits_{n\in\mathbb N_{0}} p_{n}(\rho)\mu(\{ n \}) \text{ monoton steigend und konvex.} \]
Nun ist auch $ p_{n} $ für $ n>1 $ strikt konvex, also ist auch $ f $ strikt konvex, sobald ein $ p_{n} $ mit $ n>1 $ positives Gewicht hat, d.h. sobald $ P[N_{1}>1]>0 $.\\
$ f(1)=1 $ und $ f(0)=\mu(\{ 0 \}) $ ist klar. Für $ \rho<1 $ erhalten wir:
\[ \dfrac{f(\rho)-f(1)}{\rho-1}=\dfrac{E[\rho^{N_{1}}]-1}{\rho-1}=E\underbrace{\left[\dfrac{\rho^{N_{1}}-1}{\rho-1}\right]}_{\mathclap{\text{geom. Reihe}}} = E \underbrace{\left[\sum\limits_{k=0}^{N_{1}-1}\rho^{k}\right]}_{\mathclap{\nearrow N_{1}\text{ für } \rho\nearrow 1}}  \xrightarrow[\text{mon. Konv.}]{\rho\nearrow 1} E[N_{1}] \]
Also $ f_{l}'(1)=E[N_{1}] $.\\
\end{proof}
Für die Fixpunktstruktur von $ f $ erhalten wir:
\begin{lemma}
\begin{enumerate}
\item[(1)] "Trivialfall: keine zeitliche Änderung": Falls $ N_{1}=1 $ P-f.s. ist $ f(\rho)=\rho \ , \ 0\leq\rho\leq 1 $
\item[(2)] "subkritischer Fall: weniger als 1 Nachkommen pro Individuum erwartet":  Falls $ E[N_{1}]<1 $ ist $ f(\rho)>\rho $ für $ 0\leq\rho <1 $ und $ f(1)=1 $. Hier gibt es also nur der Fixpunkt 1 von $ f $.
\item[(3)] "kritischer Fall: 1 Nachkommen pro Individuum erwartet": Falls $ E[N_{1}]=1 $, aber nicht P-f.s. $ N_{1}=1 $, so gilt ebenfalls $ f(\rho)=\rho \ \forall 0\leq\rho <1$ und $ f(1)=1 $. Auch hier gibt es also nur den Fixpunkt 1 von $ f $.
\item[(4)] "Superkritischer Fall: mehr als 1 Nachkommen pro Individuum erwartet" Falls $ E[N_{1}]>1 $, so existiert genau ein $ \rho^{\star}\in[0,1) $ mit $ f(\rho^{\star})=\rho^{\star} $. Es gilt $ f(\rho)>\rho $ für $ 0\leq \rho <\rho^{\star} , f(\rho)<\rho$ für $ \rho^{\star}<\rho<1 $ und $ f(1)=1 $. In diesem Fall hat $ f $ genau 2 Fixpunkte: $ \rho^{\star} $ und 1.
\end{enumerate}
\end{lemma}
\begin{proof}
\begin{enumerate}
\item[(1)] ist klar.
\item[(2)] Wegen Konvexität von $ f $ gilt für $ 0\leq\rho <1 :$
\[ f(\rho)\geq \underbrace{f(1)}_{=1}+\underbrace{(\rho-1)}_{>0}\underbrace{f_{l}'(1)}_{<1}>1+(\rho-1)=\rho \]
\item[(3)] Wegen der strikten Konvexität von $ f $ gilt für $ 0\leq\rho<1: $
\[ f(\rho)>\underbrace{f(1)}_{=1} +(\rho-1)\underbrace{f_{l}'(1)}_{=1}=\rho \]
\item[(4)] Wegen $ f_{l}'(1)>1 $ ist für alle $ \rho<1 $ genügend nahe bei 1. $ \dfrac{f(\rho)-f(1)}{\rho-1}>1 $, also $ f(\rho)-\underbrace{f(1)}_{=1}<\rho-1 $, d.h. $ f(\rho)<\rho $. \\
Weil $ f(0)\geq\mu(\{ 0\}) $ und $ f $ stetig ist, gibt es nach dem ZWS ein $ \rho^{\star}\in[0,1) $ mit $ f(\rho^{\star})=\rho^{\star} $. $ f $ hat mindestens zwei Fixpunkte $ \rho^{\star} $ und 1. Es kann nicht mehr als zwei Fixpunkte haben, da es strikt konvex ist.
\end{enumerate}
\end{proof}
\begin{theorem}
\begin{enumerate}
\item[(1)] Im Trivialfall $ N_{1}=1 $ P-f.s. ist $ N_{t}=1 \ \forall \ t\in\mathbb N_{0} $ P-f.s.
\item[(2) und (3)] Im Subkritischen und kritischen Fall: $ E[N_{1}]\leq 1 $ und $ P[N_{1}=1]<1 $ gilt P-f.s.: $ N_{t}=0 $ für $ t\to\infty $ schließlich, d.h. die Population stirbt mit Wahrscheinlichkeit 1 aus.
\item[(4)] Im superkritischen Fall $ E[N_{1}]>1 $ gilt: $ P[N_{t}\geq 1 \ \forall \ t\in\mathbb N_{0}]>0 $, d.h. die Population stirbt mit positiver Wahrscheinlichkeit nicht aus.
\end{enumerate}
\end{theorem}
\begin{proof}
\begin{enumerate}
\item[(1)] ist klar. \\
Wir definieren rekursiv: $ f^{(0)}=id, f^{(n+1)}=f\otimes f^{(n)} \ n\in\mathbb N_{0} $, also $ f^{(n)}(\rho)= \underbrace{f(f(\hdots f}^{n\text{-mal}}(\rho)\hdots )) $. \\
Durch Iteration erhalten wir aus Lemma 2.9.1:
\[ E[\rho^{N_{t+n}}]|\mathcal F_{t}=f^{(n)}(\rho)^{N_{t}} \text{ für } t,n\in\mathbb N_{0},\rho\in[0,1] \]
Insbesondere
\[ E[\rho^{N_{t}}]=f^{(t)}(\rho) \ \ (t\in\mathbb N_{0}) \]
\item[(2) und (3)] Im subkritischen und kritischen Fall gilt $ f(\rho)\geq\rho \ \forall \ \rho\in[0,1] $. Also ist $ (f^{(t)}(0))_{t\in\mathbb N_{0}} $ monoton steigend und damit konvergent. Wegen der Stetigkeit von $ f $ folgt für $ s:=\lim\limits_{t\to\infty} f^{(t)}(0): f(s)=\lim\limits_{t\to\infty}f^{(t+1)}(0)=s $, also $ s=1 $, da $ f $ nur den Fixpunkt 1 besitzt.\\
\textbf{Interpretation:}
\[ P[N_{t}=0]=E[\mathbbm 1_{\{N_{t}=0\}}]=E[O^{N_{t}}]=f^{(t)}(0)\xrightarrow{t\to\infty} 1 \]
Die Behauptung folgt nun, da aus $ N_{t}=0 $ auch $ N_{s}=0 \ \forall \ s\geq t $ folgt.
\[ P[N_{t}=0\text{ für } t\to\infty \text{ schließlich}]=P[\exists t:N_{t}=0]\geq\sup\limits_{t\in\mathbb N_{0}}P[N_{t}=0]=1 \]
\item[(4)] Im superkritischen Fall gilt $ \forall \ \rho\in [0,\rho^{\star}] : 0\leq f(\rho)\underset{\overset{\uparrow}{\mathclap{\text{Monotonie von }f}}}{\leq} f(\rho^{\star})=\rho^{\star} $, also $ f(\rho)\in[0,\rho^{\star}] $.\\
Es folgt durch Iteration: $ f^{(t)}(0)\in[0,\rho^{\star}] \ \forall \ t\in\mathbb N_{0} $.\\
Wir schließen: \\
$ P[N_{t}=0]=f^{(t)}(0)\leq\rho^{\star} \ \forall \ t\in\mathbb N_{0} $, also $ P[\exists t: N_{t}=0]=P[N_{t}=0 \text{ für }t\to\infty\text{ schließlich}]=\lim\limits_{t\to\infty} P[N_{t}=0]\leq\rho^{\star}<1 $
\end{enumerate}
\end{proof}
\begin{remark}
Man sieht leicht, dass $ f(t)(0)\xrightarrow{t\to\infty}\rho^{\star} $, also ist $ \rho^{\star} $ die Aussterbbarkeit der Population. (Übung)
\end{remark}


\section{0-1-Gesetze und Gesetze der großen Zahlen}
\subsection{Das 0-1-Gesetz von Kolmogoroff}
In der Martingaltheorie haben wir schon die $\sigma-$Algebra $\mathcal{F}_{\infty}=\bigcup\limits_{t\in \mathbb{Z}_0^-}\mathcal {F}_{t}$ der Ereignisse der $\infty$ fernen Vergangenheit kennengelernt.\\
Die folgende Definition verallgemeinert das:
\begin{definition}
Es sei $(\mathcal{F}_i)_{i\in I}$ eine Familie von $\sigma$-Algebren über einen Ergebnisraum $\Omega$, indiziert mit einer unendlichen Familie I. Die terminale $\sigma$-Algebra, engl. \glqq tail field\grqq dazu wird durch
\begin{equation*}
\tau \coloneqq \bigcap\limits_{\underset{E\ endlich}{E\subset I}}\sigma\left(\bigcup\limits_{i\in I\setminus E}\mathcal {F}_{i}\right)
\end{equation*}
Die Elemente von $\tau$ heißen terminale Ereignisse bzgl. $(\mathcal{F}_i)_{i\in I}$. (engl.:\glqq tailevents\grqq). Ist $(X_i)_{i\in I}$ eine Familie von Zufallsvariablen über einem Wahrscheinlichkeitsraum $(\Omega,\mathcal A, P)$, so heißt  die terminale $\sigma$-Algebra $\tau$ zu $(\sigma(X_i))_{i\in I}$ auf terminale $\sigma$-Algebra zu $(X_i)_{i\in I}$. Es gilt also:
\begin{equation*}
\tau \coloneqq \bigcap\limits_{\underset{E\ endlich}{E\subset I}}\sigma(X_i: i\in I\setminus E)
\end{equation*}
\end{definition}
\begin{remark}
\begin{enumerate}[1.]
\item
 $\tau$ ist als Durchschnitt von $\sigma$-Algebren wieder eine $\sigma$-Algebra
\item
Anschaulich gesprochen besteht die terminale $\sigma$-Algebra aus allen Ereignissen, die man mit Hilfe der $X_i$ entscheiden kann, wenn man endlich viele der $X_i$ ignoriert.
\item
Im Fall $I=\mathcal{Z}_0^-$, $\mathcal {F}_{t}=\sigma(X_s:s\leq t)$, $t\in I$ stimmt die terminale $\sigma$-Algebra zu den $(X_t)_{t\in I}$ mit der $\sigma$-Algebra $\mathcal{F}_{-\infty}=\bigcap\limits_{t\in \mathbb{Z_0^-}}\mathcal{F}_{t}$ der \glqq Ereignisse in der $\infty$ fernen Vergangenheit\grqq überein.
\item
$Sind (X_n)_{n\in\mathbb N}$ reellwertige Zufallsvariablen, so sind die Zufallsvariablen
\begin{equation*}
\liminf\limits_{n\to\infty}X_n,\quad \limsup\limits_{n\to\infty}X_n,\quad \liminf\limits_{n\to\infty}\frac{1}{n}\sum\limits_{k=1}^{n}X_k,\quad \limsup\limits_{n\to\infty}\frac{1}{n}\sum\limits_{k=1}^n X_k
\end{equation*}
messbar bzgl. der terminalen $\sigma$-Algebra $\tau=\bigcap\limits_{n\in\mathbb N}\sigma(X_n)_{k\geq n}$ (Übung)\\
Für die letzten beiden Zufallsvariablen folgt das daraus, dass es bei der Mittelbildung $\frac{1}{n}\sum\limits_{k=1}^n X_k$ im Limes $n\to\infty$ auf ein festes Anfangsstück $X_1,...,X_m$ nicht ankommt.
\item
Manchmal sollte man sich I besser räumlich als zeitlich vorstellen:\\
Ist $I=\mathbb{Z^d}$ und stellt man sich die $i\in \mathbb{Z}^d$ als \glqq Atome \grqq vor , so kamm man sich terminale Ereignisse als \glqq makroskopische Ereignisse \grqq vorstellen, bei denen es nicht auf endlich viele Atome ankommt.
\item
Ist I eine unbeschränkte Teilmenge von $\mathcal{R}^n$, so wird eine Variante der terminalen $\sigma$-Algebra durch $\mathcal{F}=\bigcap\limits_{B\subseteq I \text{ beschränkt}}\sigma(X_i:i\in I\setminus B)$ definiert. Man kann sich ihre Elemente \glqq als Ereignisse im $\infty$ Fernen \grqq vorstellen.
\end{enumerate}
\end{remark}
\begin{theorem}[0-1-Gesetz von Kolmogoroff]
Ist $(\mathcal{F}_i)_{i\in I}$ eine unendliche Familie von unabhängigen $\sigma$-Algebren über einem Wahrscheinlichkeitsraum $(\Omega,\mathcal A, P)$, so hat jedes Ereignis A in der zugehörigen terminalen $\sigma$-Algebra $\tau$ entweder die Wahrscheinlichkeit $P(A)=0$ oder $P(A)=1$
\end{theorem}
\begin{proof}
Wir kürzen für $J \subseteq I$ ab:
\begin{equation*}
\mathcal{F}_J \coloneqq \sigma\left(\bigcup\limits_{i\in J} \mathcal {F}_{i}\right).\text{ Es gilt also} \tau=\bigcap\limits_{\underset{E\ endlich}{E\subseteq I}}\mathcal{F}_{I\setminus E}
\end{equation*}
\begin{reminder}[Stochastikvorlesung]
Sind $\mathcal{G}_1,\mathcal{G}_2$ unabhängige $\cap$-stabile Ereignissysteme, so sind $\sigma(\mathcal{G}_1)$, $\sigma(\mathcal{G}_2)$ ebenfalls unabhängig. $(\ast)$
\end{reminder}
Wir zeigen hiermit jetzt:
Sind $J,K \subseteq I$ disjunkt , so sind $\mathcal{F}_J$ und $\mathcal{F}_k$ unabhängig. In der Tat: Setzen wir $G_L=\{\bigcap\limits_{i\in E}A_i|E \subseteq L\ endlich, A_i\in \mathcal {F}_{i}\forall i\in E\}$ für $L \subseteq I$, so ist $G_L$ ein $\cap$- stabiles Erzeugendensystem von $\mathcal {F}_{L}$. Weil die $(\mathcal{F}_i)_{i\in I}$ unabhängig ist und $J\cap K=\emptyset$, sind $G_L$ und $G_K$ unabhängig voneinander. Also sind auch $\mathcal{F}_J=\sigma(G_J)$ und $\mathcal{F}_K=\sigma(G_K)$ voneinander unabhängig, wegen $(\ast)$.
\end{proof}
Insbesondere ist für alle endlichen $E\subset J$ die $\sigma$-Algebra $\mathcal{F}_E$ unabhängig von $\mathcal{F}_{J\setminus E}$, also wegen $\mathcal{F} \subseteq \mathcal{F}_{I\setminus E}$ erst recht unabhängig von $\mathcal{F}$.\\
Nun ist $\mathcal{H}=\bigcup\limits_{\underset{E\ endlich}{E\subset I}}\mathcal{F}_E$ ein $\cap$-stabiles  Erzeugendensystem von $\mathcal{F}_I$ und nach dem eben Gezeigten ist es unbahängig von $\tau$. Nochmal mit  $(\ast)$ folgt: $\mathcal{F}_I=\sigma(\mathcal{H})$ ist unabhängig von $\tau=\sigma(\tau)$.\\
Wegen $\tau \subseteq \mathcal {F}_{i}$ folgt hieraus: $\tau$ ist unabhängig von sich selbst. Es gilt also $\forall A\in\tau$:\\
$P(A)=P(A\cap A)=P(A)P(A)$, also $P(A)\in[0,1]$

\begin{definition}
Es sei $(\Omega,\mathcal A, P)$ ein Wahrscheinlichkeitsraum. Wir nennen eine Unter-$\sigma$-Algebra $\mathcal{F}\subseteq \mathcal{A}$ $P-f.s.$ \underline{trivial}, wenn $\forall A\in \mathcal{F}$ gilt $P(A)=0$ oder $P(A)=1$.
\end{definition}
Das 0-1-Gesetz von Kolmogoroff besagt also, dass die terminale $\sigma$-Algebra einer unendlichen Familie von unabhängigen $\sigma$-Algebren $P-f.s.$ trivial ist.

\begin{lemma}
Jede bezüglich einer $P-f.s.$ trivialen $\sigma$-Algebra $\mathcal{F}$ messbare reellwertige Zufallsvariable X ist $P-f.s.$ konstant, d.h. es gibt ein $a\in \mathbb{R}$ mit $P[X=a]=1$.
\end{lemma}
\begin{proof}
Es sei $F:\mathbb{R}\to[0,1]$, $F(t)=P(X\leq t)$ die Verteilungsfunktion von X. Weil $\{X\leq t\}\in \mathcal{F}$ für $t\in \mathbb{R}$, nimmt nach Voraussetzung F nur die Werte 0 und 1 an.\\
Nun wissen wir: $F(t)\to 0$ für $t\to-\infty$ und $F(t)\to 1$ für $t\to+\infty$. Es folgt : $F(t)=0$ für alle genügend kleinen t, und $F(t)=1$ für alle genügend großen t. Weil F monoton steigt, besitzt F genau eine Sprungstelle $a=\sup \{t\in \mathbb{R}|F(t)=0\}=\inf \{t\in \mathbb{R}|F(t)=1\}$ bei der der Wert von F von 0 auf 1 springt. Es folgt:
\begin{equation*}
P[X=a]=\lim\limits_{t \searrow a} F(t)- \lim\limits_{s\nearrow a}F(s)=1
\end{equation*}
\end{proof}
\begin{remark}
Die Aussage des Lemmas gilt auch wenn X Werte in $\mathbb{R}\cup \{\pm \infty\}$ annimmt.
\end{remark}
\begin{example}
Sind $(X_n)_{n\in\mathbb N}$ unabhängige Zufallsvariablen, so sind folgende Zufallsvariablen $P-f.s.$ konstant:
\begin{enumerate}[1)]
\item
$\limsup\limits_{n\to\infty}X_n,\quad \liminf\limits_{n\to\infty}X_n$
\item
$\limsup\limits_{n\to\infty}\frac{1}{n}\sum\limits_{k=1}^{n}X_k,\quad \liminf\limits_{n\to\infty}\frac{1}{n}\sum\limits_{k=1}^{n}X_k$
\end{enumerate}
All diese Zufallsvariablen sind nämlich bzgl. der terminalen $\sigma$-Algebra messbar. Außerdem haben folgende Ereignisse entweder die Wahrscheinlichkeit 0 oder 1:
\begin{equation*}
\{\lim\limits_{n\to\infty}X_n\ existiert\},\quad \{\lim\limits_{n\to\infty}\frac{1}{n}\sum\limits_{k=1}^{n}X_k\ existiert\},\quad \{\lim\limits_{n\to\infty}\sum\limits_{k=1}^{n}\ existiert\}.
\end{equation*}
All diese Ereignisse sind nämlich terminal.
\end{example}
\begin{theorem}[Starkes Gesetz der großen Zahlen]
Es seinen $(X_n)_{n\in\mathbb N}$ i.i.d. Zufallsvariablen in $\mathcal{L}^P (\Omega,\mathcal A, P)$, $p \geq 1$. Dann gilt $P-f.s.$ und in $L^P$:
\begin{equation*}
\frac{1}{n}\sum\limits_{k=1}^{n}X_k \xrightarrow{n\to\infty}E[X_1].
\end{equation*}
\end{theorem}
\begin{proof}
Nach dem eben Gezeigten und Satz 2.7.9 wissen wir: $Y \coloneqq \lim\limits_{n\to\infty}\frac{1}{n} \sum\limits_{k=1}^{n}X_k$ existiert $P-f.s.$ und in $L^P$ und ist $P-f.s.$ konstant. Es folgt:
\begin{equation*}
E[X_1]\underset{\mathclap{\overset{\uparrow}{(X_n)_{n\in\mathbb N}\ i.i.d}}}{=}E\left[\frac{1}{n}\sum\limits_{k=1}^{n}X_k\right]\xrightarrow{n\to\infty}E[Y]=Y\ P-f.s.
\end{equation*}
also $Y=E[X_1]\ P-f.s.$
\end{proof}
\begin{example}[Perkulationscluster]
Wir stellen uns die Punkte $i\in \mathbb{Z}^2$ als Städte vor, die zufällig durch Telefonleitungen verbunden werden: $I=\{i,j \in \mathbb{Z}^2 | ||i-j||_2=1\}$ sei die Menge der möglichen Leitungen. Jede Leitung sei - unabhängig von den anderen - mit Wahrscheinlichkeit p durchlässig und $(1-p)$ unterbrochen. D bezeichne die Menge der durchlässigen Leitungen.\\
\underline{Formal:} $X_e=\mathbbm{1}_{\{e\in I\}}$ seien i.i.d $p\delta_1+(1-p)\delta_0$- verteilte Zufallsvariablen. Zwei Städte $i,j\in \mathbb{Z}^2$ sind verbunden, in Zeichen $i\xleftrightarrow{D}j$, wenn es einen Pfad $i=i_0,i_1,...,i_n=j$ mit $\{i_{m-1},i_m\}\in D $, für $m=1,...,n$ gilt.
Offensichtlich ist $i\xleftrightarrow{D}j$ eine Äquivalenzrelation. Ihre Äquivalenzklassen heißen \underline{Perkulationscluster}. Es sei$ C(i)$ der Perkulationscluster einer Stadt $i\in \mathbb{Z}^2$.
\end{example}
\begin{question}
Mit welcher Wahrscheinlichkeit gibt es einen unendlichen Perkulationscluster?
\end {question}
\begin{theorem}
\begin{equation*}
P\left[\exists i\in \mathbb{Z}^2: |C(i)|=\infty\right] \in \{0,1\}
\end{equation*}
\end{theorem}
\begin{proof}[Beweisskizze]
Wir zeigen $A=\{\exists i\in \mathbb{Z}^2: |C(i)|=\infty\}$ ein terminales Ereignis bzgl. $(X_e)_{e\in I}$ ist. Die Behauptung folgt danach aus den 0-1-Gesetz von Kolmogoroff.\\
Es sei $E \subseteq	 I$ endlich. Es ist klar (ohne das hier formal zu beweisen), dass es einen unendlichen Cluster genau dann gibt, wenn es einen unendlichen Pfad $e_1,e_2,...$ in D gibt. Pfade sollen hier stets aus verschiedenen Kanten bestehen. Nun gibt es einen unendlichen Pfad in D genau dann, wenn es einen unendlichen Pfad in $D\setminus E$ gibt. Dies ist wiederum äquivalent dazu, dass es ein $i\in \mathbb{Z}^2$ gibt, so dass es für jedes $n\in\mathbb N$ einen Pfad in $D\setminus E$ der Länge n mit Start in i gibt. Es gilt also:
\begin{equation*}
A=\bigcup\limits_{i\in \mathbb{Z}^2}\bigcap\limits_{n\in\mathbb N}\bigcup\limits_{\underset{Pfad\ in\ I\setminus E}{i=i_1,...,i_n}} \bigcap\limits_{m=1}^{n}\{X_{\{i_m,i_{m-1}\}}=1\}.\quad A\in \sigma(X_e: e\in I\setminus E)
\end{equation*}
Weil für alle endlichen $E \subseteq I$ gilt, ist A ein terminales Ereignis.
\end{proof}
\begin{remark}
Ein berühmter Satz von Kesten besagt $P[A]=0$ für $p\leq \frac{1}{2}$ und $P[A]=1$ für $p>\frac{1}{n}$.
\end{remark}
Eine analoge Situation tritt oft auf:\\
Wenn ein 0-1-Gesetz besagt, dass eine Wahrscheinlichkeit 0 oder 1 ist, bleibt es im Allgemeinen eine schwierige Frage, zu entscheiden, welche der beiden Fälle eintritt.
\subsection{Austauschbarkeit}
Zunächst sei $\Omega=\mathbb{R}^\mathbb{N}$, versehen mit der $\sigma$-Algebra $\mathcal{A}=\sigma(Z_n:n\in\mathbb N)$, die von den kanonischen Projektionen $Z_n:\mathbb{R}^\mathbb{N}\to \mathbb{R}$, $(\omega_k)_{k\in\mathbb N}\mapsto \omega_n$ erzeugt wird.
\begin{definition}
Ein Ereignis $A\in \mathcal{A}$ heißt \underline{austauschbar}, wenn für jede Bijektion $\tau:\mathbb{N}\to \mathbb{N}$, die höchstens endlich viele Zahlen nicht fest lässt, gilt:
\begin{equation}
\forall \omega: (\omega_n)_{n\in\mathbb N}\in \mathbb{R}^\mathbb{N}: (\omega_n)_{n\in\mathbb N}\in A \Leftrightarrow (\omega_{\tau(n)})_{n\in\mathbb N}\in A
\end{equation}
\end{definition}
Die Menge aller austauschbaren Ereignisse bildet offensichtlich eine $ \sigma$-Algebra Z.
\begin{example}
Das Ereignis $\{\sum\limits_{k=1}^{n}Z_k \xrightarrow{n\to\infty}0\}$ ist austauschbar, weil es bei der unendlichen Reihe nicht auf die Permutation eines Anfangsstücks ankommt.\\
Das Ereignis ist nicht terminal, weil der Wert der unendlichen Reihe sehr wohl von jedem Anfangsstück abhängt. Umgekehrt ist das terminale Ereignis austauschbar, denn wenn es auf jedes Anfangsstück nicht ankommt, kommt es auch nicht darauf an, ob ein Anfangsstück permutiert ist.
\end{example}
\begin{theorem}[0-1-Gesetz von Hewitt und Savage]
Es sei P ein Wahrscheinlichkeitsmaß auf $(\Omega,\mathcal A)$, sodass $(Z_n)_{n\in\mathbb N}$ i.i.d sind. Dann gilt für alle austauschbaren Ereignisse A: $P[A]=0\vee P[A]=1$.
\end{theorem}
\begin{proof}
Es sei A ein austauschbares Ereignis. Es sei $\mathcal {F}_{n}\coloneqq \sigma(Z_n:k=1,...,n)$, $n\in\mathbb N$, die von den $Z_n$ erzeugte Filtration. Dann ist $X_n=P[A|\mathcal {F}_{n}]$, $n\in\mathbb N$ ein Martingal mit Werten $P-f.s.$ in $[0,1]$. Weil $A\in \sigma(\bigcup\limits_{n\in\mathbb N}A_n)\eqqcolon \mathcal{F}_{\infty}$ ist $P[A|\mathcal{F}_{\infty}]=\mathbbm{1}_{A}$ $P-f.s.$\\
Nach Lemma 2.7.6 konvergiert $X_n$ für $n\to\infty$ $P-f.s.$ und in $L^1$ gegen $P[A|\mathcal{F}_{\infty}]=\mathbbm{1}_{A}$. Gegeben $n\in\mathbb N$, betrachten wir die Bijektion
\begin{equation*}
\tau_n: \mathbb{N}\to \mathbb{N}, \tau_n(k)=
\begin{cases}
&k+n\quad \text{für }k=1,...,n\\
&k-n\quad \text{für }k=n+1,...,z_n\\
&k \quad sonst\ (k>z_n)\\
\end{cases}
\end{equation*}
$\tau_n$ vertauscht also $\{1,...,n\}$ mit $\{n+1,...,z_n\}$.\\
Wir setzen $\tau_n: \mathbb{R}^\mathbb{N}\to \mathbb{R}^\mathbb{N}$, $\tau_n (X_m)_{m\in\mathbb N}=(X_{\tau(m)})_{m\in\mathbb N}$.\\
Weil die $(Z_n)_{n\in\mathbb N}$ i.i.d sind, stimmt das Bildmaß $\pi_nP$ von P mit P überein, denn es stimmt auf dem $\cap$-stabilen Erzeugendensystem von $\mathcal{A}$, der von den Ereignissen $\{Z_k\in \mathcal{B}_k$ für $k=1,...,m\}$ mit $m\in\mathbb N$, $\mathcal{B}_1,...,\mathcal{B}_m\in \mathcal{B}(\mathbb{R})$, gebildet und mit P überein. Weil A ein austauschbares Ereignis ist, folgt $\mathbbm{1}_{A}=\mathbbm{1}_{A}\circ\pi_n$. Es folgt mit der Abkürzung $Y_n=X_n\circ\pi_n$:
\begin{equation*}
||Y_n-\mathbbm{1}_{A}||_1=||X_n\circ\pi_n-\mathbbm{1}_{A}\circ-\mathbbm{1}_{A}\pi_n||_1\overset{\mathclap{\underset{\downarrow}{\pi_nP=P}}}{=}||X_n-\mathbbm{1}_{A}||_1.
\end{equation*}
Damit wissen wir sowohl $X_n \xrightarrow{n\to\infty}\mathbbm{1}_{A}$ in $L^1$ als auch $Y_n \xrightarrow{n\to\infty} \mathbbm{1}_{A}$ in $L^1$. Weil $X_n, Y_n\in [0,1]\ P-f.s.$ , schließen wir hieraus:
\begin{equation*}
X_nY_n \xrightarrow{n\to\infty} \underbrace{\mathbbm{1}_{A}\mathbbm{1}_{A}}_{=\mathbbm{1}_{A}}\ in\ L^1.
\end{equation*}
In der Tat:
\begin{equation*}
||X_nY_n-\mathbbm{1}_{A}||_1=||X_nY_n-\mathbbm{1}_{A}\mathbbm{1}_{A}||_1\leq ||(X_n-\mathbbm{1}_{A}) Y_n||_1+||\mathbbm{1}_{A}(Y_n-\mathbbm{1}_{A}||_1\leq ||X_n-\mathbbm{1}_{A}||_1+||Y_n-\mathbbm{1}_{A}||_1 \xrightarrow{n\to\infty}0.
\end{equation*}
Nun ist $X_n$ bzgl. $\mathcal {F}_{n}=\sigma(Z_1,...,Z_n)$ messbar und $Y_n=X_n\circ \pi_n$ bzgl. $\sigma(Z_{n+1},...,Z_{2n})$ messbar. Insbesondere sind $X_n,\ Y_n$ undabhängig ( da die erzeugenden $\sigma$-Algebren unabhängig sind). Es folgt:
\begin{equation*}
P[A]^2=E[\mathbbm{1}_{A}]^2=\lim\limits_{n\to\infty}E[X_n]E[Y_n]\overset{\mathclap{\underset{\downarrow}{\text{Unabhängigkeit}}}}{=}\lim\limits_{n\to\infty}E[X_nY_n]=E[\mathbbm{1}_{A}]=P[A],\ also P[A]\in  \{0,1\}
\end{equation*}
\end{proof}
In der Statistik hat man bei der Modellbildung oft die Situation, dass man nichts Genaues über Abhängigkeiten zwischen den Elementen einer Stichprobe $X_1,...,X_n$ weiß. Insbesondere wäre eine Unabhängigkeitsannahme oft nicht gut gerechtfertigt. Die Modellannahme, dass alle $X_1,...,X_n$ \glqq gleichberechtigt\grqq, also \glqq austauschbar\grqq\ sind, erscheint oft plausibler:
\begin{definition}
\underline{Zufallsvariablen} $X_1,...,X_n$ auf einem Wahrscheinlichkeitsraum $(\Omega,\mathcal A, P)$ heißen \underline{austausch-} \underline{bar}, wenn für alle Permutationen $\sigma$ von $\{1,...,n\}$ der Zufallsvektor $(X_{\sigma(1)},...,X_{\sigma(n)})$ die gleiche gemeinsame Verteilung wie $(X_1,...,X_n)$ hat. Eine \underline{Folge} $(X_n)_{n\in\mathbb N}$ von Zufallsvariablen auf $(\Omega,\mathcal A, P)$ heißt \underline{austauschbar}, wenn $X_1,...X_n$ für alle $n\in\mathbb N$ austauschbar sind.
\end{definition}
Bei austauschbaren Zufallsvariablen steckt die gesamte \glqq relevante Information\grqq\ bereits in der \glqq empirischen Verteilung\grqq, die wie folgt definiert ist:
\begin{definition}
Es seien $(X_1,...,X_n)$ Zufallsvariablen auf $(\Omega,\mathcal A, P)$ mit Werten in $(\Omega^\prime,\mathcal A^\prime)$. Die \underline{empirische} \underline{Verteilung} ist das zufällige Wahrscheinlichkeitsmaß $L_n:\Omega\to \mathcal{M}_1(\Omega^\prime,\mathcal A^\prime)=\{Q:\mathcal{A}^\prime\to[0,1]|$ Q ist Wahrscheinlichkeitsmaß auf $(\Omega^\prime,\mathcal A^\prime)\}$, $L_n(\omega)=\frac{1}{n}\sum\limits_{k=1}^{n}\delta_{X_k(\omega)}$ Für jedes $A\in \mathcal{A}^\prime$ ist also $L_n(\omega)(A)=\frac{1}{n}\sum\limits_{k=1}^{n}\delta_{X_k(\omega)}(A)$ die relative Häufigkeit von A unter $X_1(\omega),...,X_n(\omega)$.
Ist allgemeiner $m\leq n$ und bezeichne $I_{n,m}$ die Menge aller injektiven Abbildungen von $\{1,...,m\}$ nach $\{1,...,n\}$, so nennen wir das zufällige Maß $L_{n,m}:\mathcal{M}_1((\Omega^\prime)^m,(\mathcal{A})^{\otimes m})$, $L_{n,m}(\omega)=\frac{1}{|I_{n,m}|}\sum\limits_{b\in I_{n,m}}\delta_{X_{\sigma(1)}(\omega),...,X_{\sigma(m)}(\omega)})$ die \underline{m-fache} \underline{(gemeinsame) empirische Verteilung} von $X_1,...,X_m$.
\end{definition}
Die $L_{m,n}$ enthalten - ähnlich wie die Ordungsstatistik - alle Informationen über $X_1,...,X_m$, wenn man die Reihenfolge der $X_1,...,X_m$ ignoriert. Wir setzen für eine Folge $(X_n)_{n\in\mathbb N}$ von Zufallsvariablen:
\begin{equation*}
\mathcal {F}_{-n}\coloneqq \sigma(L_{k,m}:k\geq n, m\leq k)=\sigma(L_{k,m}(\cdot)(A):k\geq n,m\leq k,A\in \mathcal{A}^{\prime\otimes m})\ und\ \mathcal{F}_{-\infty}\coloneqq \bigcap\limits_{n\in\mathbb N}\mathcal {F}_{-n}.
\end{equation*}
$(\mathcal{F}_{-n})_{-n\in-\mathbb N\cup \{-\infty\}}$ ist eine Rückwärtsfiltration; $\mathcal {F}_{-n}$ enthält die gesamte Information über die $(X_m)_{m\in\mathbb N}$, die verbleibt, wenn man die Reihenfolge von $X_1,...,X_n$ ignoriert.



















\end {document}
