Wahrscheinlichkeitstheorie/ Die elementarsten Gleichungen und Ungleichungen

Satz (Chebyshev‒Markov-Ungleichung):

Es sei $\phi :\mathbb {R} _{+}\to \mathbb {R} _{+}$ eine monoton wachsende Funktion. Dann gilt für eine Zufallsvariable $X$, dass für alle $\delta >0$

$\mathbb {P} (|X|\geq \delta )\leq {\frac {\mathbb {E} [\phi (|X|)]}{\phi (\delta )}}$.

Beweis:

$\mathbb {P} (|X|\geq \delta )\phi (\delta )\leq \mathbb {E} [\phi (|X|)\mathbf {1} _{|X|\geq \delta }]\leq \mathbb {E} [\phi (|X|)]$. $\Box$

Satz (Formel von Bayes):

Es sei $(\Omega ,{\mathcal {F}},\mathbb {P} )$ ein Wahrscheinlichkeitsraum und

$\bigsqcup _{j=1}^{n}A_{j}=\Omega$

eine disjunkte Zerlegung desselben in Mengen aus ${\mathcal {F}}$. Sei ferner $B\in {\mathcal {F}}$ ein beliebiges Ereignis. Dann gilt

$\mathbb {P} (A_{k}|B)={\frac {\mathbb {P} (A_{k})\mathbb {P} (B|A_{k})}{\sum _{j=1}^{n}\mathbb {P} (A_{j})\mathbb {P} (B|A_{j})}}$.

Beweis: Der Zähler auf der rechten Seite beträgt $\mathbb {P} (B\cap A_{k})$, wie man sieht, wenn man die Definition der bedingten Wahrscheinlichkeit einsetzt. Selbiges verwandelt den Nenner in

$\sum _{j=1}^{n}\mathbb {P} (B\cap A_{j})=\mathbb {P} (B)$. $\Box$

Satz (Kovarianz ist bilinear):

Es seien $X_{1},X_{2},X_{3}$ drei Zufallsvariablen und $a\in \mathbb {R}$. Dann gilt

$\operatorname {Cov} (X_{1}+aX_{2},X_{3})=\operatorname {Cov} (X_{1},X_{3})+a\operatorname {Cov} (X_{2},X_{3})$ und $\operatorname {Cov} (X_{1},X_{2}+aX_{3})=\operatorname {Cov} (X_{1},X_{2})+a\operatorname {Cov} (X_{1},X_{3})$.

Beweis: Wegen der Symmetrie der Kovarianz genügt es, die Linearität des ersten Argumentes zu beweisen. Es sei $(\Omega ,{\mathcal {F}},\mu )$ der zugrundeliegende Wahrscheinlichkeitsraum.

${\begin{aligned}\operatorname {Cov} (X_{1}+aX_{2},X_{3})&=\int _{\Omega }(X_{1}(\omega )+aX_{2}(\omega )-\mathbb {E} [X_{1}+aX_{2}])(X_{3}(\omega )-\mathbb {E} [X_{3}])\mu (d\omega )\\&=\int _{\Omega }(X_{1}(\omega )\mathbb {E} [X_{1}])(X_{3}(\omega )-\mathbb {E} [X_{3}])\mu (d\omega )+\int _{\Omega }(aX_{2}(\omega )-\mathbb {E} [aX_{2}])(X_{3}(\omega )-\mathbb {E} [X_{3}])\mu (d\omega )\end{aligned}}$ $\Box$

Satz (Bienaymé-Gleichung):

Es seien $X_{1},\ldots ,X_{n}$ paarweise unkorellierte Zufallsvariablen. Dann gilt

$\operatorname {Var} (X_{1}+\cdots +X_{n})=\sum _{k=1}^{n}\operatorname {Var} (X_{k})$.

Beweis: Dies folgt aus der Bilinearität der Kovarianz und der paarweisen Unkorelliertheit der Zufallsvariablen $X_{1},\ldots ,X_{n}$; man muss nur den Ausdruck

$\operatorname {Var} (X_{1}+\cdots +X_{n})=\operatorname {Cov} (X_{1}+\cdots +X_{n},X_{1}+\cdots +X_{n})$

expandieren. $\Box$