In der Wahrscheinlichkeitsrechnung und Statistik ist das Konzept der Unabhängigkeit von zentraler Bedeutung. Es ist wichtig, diese Idee gründlich zu verstehen, da sie in vielen stochastischen Modellen und Theorien eine Schlüsselrolle spielt. Wir werden zunächst die Unabhängigkeit von Ereignissen und anschließend die Unabhängigkeit von Zufallsvariablen betrachten.
Definition: Zwei Ereignisse $A$ und $B$ in einem Wahrscheinlichkeitsraum sind unabhängig, wenn das Eintreten des einen Ereignisses keinen Einfluss auf die Wahrscheinlichkeit des Eintretens des anderen Ereignisses hat. Mathematisch ausgedrückt sind $A$ und $B$ unabhängig, wenn gilt: $ P(A \cap B) = P(A) \cdot P(B) $ Hierbei bezeichnet $P(A)$ die Wahrscheinlichkeit des Ereignisses $A$ und $P(A \cap B)$ die Wahrscheinlichkeit, dass sowohl $A$ als auch $B$ eintreten.
Beispiel: Betrachten wir das Werfen eines fairen Würfels und das Ziehen einer Karte aus einem fair gemischten Kartendeck. Definieren wir die Ereignisse:
Da das Werfen des Würfels und das Ziehen der Karte zwei unabhängige Handlungen sind, ist die Wahrscheinlichkeit, dass beide Ereignisse gleichzeitig eintreten (d.h., dass die Zahl auf dem Würfel eine 4 ist und die gezogene Karte ein Herz-Ass ist), das Produkt der Einzelwahrscheinlichkeiten: $ P(A) = \frac{1}{6} $ $ P(B) = \frac{1}{52} $ $ P(A \cap B) = P(A) \cdot P(B) = \frac{1}{6} \cdot \frac{1}{52} = \frac{1}{312} $
Definition: Zwei Zufallsvariablen $X$ und $Y$ sind unabhängig, wenn für alle möglichen Werte $x$ und $y$ die gemeinsamen Wahrscheinlichkeiten $P(X = x \text{ und } Y = y)$ gleich dem Produkt der Einzelwahrscheinlichkeiten $P(X = x)$ und $P(Y = y)$ sind. Mathematisch ausgedrückt sind $X$ und $Y$ unabhängig, wenn gilt: $ P(X = x \text{ und } Y = y) = P(X = x) \cdot P(Y = y) $
Beispiel: Betrachten wir zwei Zufallsvariablen $X$ und $Y$, die die Ergebnisse von zwei unabhängigen Würfen eines fairen Würfels darstellen. Die Wahrscheinlichkeiten sind wie folgt:
Da die beiden Würfe unabhängig sind, gilt: $ P(X = 3 \text{ und } Y = 5) = P(X = 3) \cdot P(Y = 5) = \frac{1}{6} \cdot \frac{1}{6} = \frac{1}{36} $
Wichtiger Hinweis: Unabhängigkeit ist eine stärkere Bedingung als die bloße Unkorreliertheit. Zwei Zufallsvariablen können unkorreliert sein (d.h., ihre Kovarianz ist null), ohne unabhängig zu sein. Unabhängigkeit impliziert Unkorreliertheit, aber nicht umgekehrt.
Beispiel für unkorreliert, aber nicht unabhängig. Angenommen X,Y seinen die Augenzahlen zweier Würfe eines Würfels. Und sei $U = X + Y$ also die Summe aus beiden Würfen und sei $V = X - Y$ die Differenz aus beiden Würfen.
Für $U = 12$ gibt es eine Wahrscheinlichkeit von $\frac{1}{36}$, da $U = 12$ ist folgt das $V = 0$ ist, die Wahrscheinlichkeit dafür ist $\frac{6}{36} = \frac{1}{6}$.
Da $\frac{1}{36} = P(X + Y = 12, X -Y = 0) \neq P(X + Y = 12) \cdot P(X -Y = 0) = \frac{1}{36} \cdot \frac{1}{6}$ ist sind $U$ und $V$ also nicht unabhängig.
Wenn die Kovarianz von $U$ und $V$ Null ist, sind beide unkorreliert.
Kov(U,V) = E(UV) - E(U)E(V)
E(U) = E(X) + E(Y)
E(X) = E(Y) = 3.5
E(U) = 7
E(V) = E(X) - E(Y) = 0
E(U)E(V) = 7 · 0 = 0
Kov(U,V) = E(UV) - E(U)E(V)
Kov(U,V) = E(UV)
Kov(U,V) = E((X + Y) · (X - Y)) = E(X2 - Y2) = 0
Alternativ:
Kov(X + Y, X - Y) = Kov(X,X) - Kov(X,Y) + Kov(Y,X) - Kov(Y,Y)
Kov(X,Y) = Kov(Y,X)
Kov(X + Y, X - Y) = Kov(X,X) - Kov(Y,Y)
Kov(X,X) = Var(X)
Kov(Y,Y) = Var(Y)
Kov(X + Y, X - Y) = Var(X) - Var(Y) = 0
$U$ und $V$ sind unkorreliert, aber nicht unabhängig.
Zusammenfassung: Die Unabhängigkeit von Ereignissen und Zufallsvariablen bedeutet, dass das Eintreten des einen Ereignisses bzw. der Wert der einen Zufallsvariablen keinen Einfluss auf das Eintreten des anderen Ereignisses bzw. den Wert der anderen Zufallsvariablen hat. Dies wird mathematisch durch das Produkt der Einzelwahrscheinlichkeiten ausgedrückt.