Tschebyscheffsche Ungleichung

Ist die Standardabweichung ${\displaystyle \sigma }$ von Null verschieden und ${\displaystyle \lambda }$ eine positive Zahl, so erhält man mit ${\displaystyle k=\lambda \sigma }$ eine oft zitierte Variante der tschebyscheffschen Ungleichung:

${\displaystyle \operatorname {P} \left(\left|X-\mu \right|\geq \lambda \sigma \right)\leq {\frac {1}{\lambda ^{2}}}}$.

Diese Ungleichung liefert nur für ${\displaystyle \lambda >1}$ eine sinnvolle Abschätzung, für ${\displaystyle 0<\lambda \leq 1}$ ist sie trivial, denn Wahrscheinlichkeiten sind stets durch 1 beschränkt.

Die tschebyscheffsche Ungleichung lässt sich auf höhere Momente verallgemeinern. Man bezeichnet diese verallgemeinerte Ungleichung nicht selten (vereinfachend) ebenfalls als tschebyscheffsche Ungleichung (englisch Chebyshev’s inequality),[3] während sie im Rahmen der Wahrscheinlichkeitstheorie manchmal auch als markoffsche Ungleichung (bzw. als markovsche Ungleichung o. ä., englisch Markov’s inequality) genannt wird.[4][5] Bei einigen Autoren findet man die verallgemeinerte Ungleichung auch unter der Bezeichnung tschebyscheff-markoffsche Ungleichung (bzw. chebyshev-markovsche Ungleichung o. ä.).[6]

Die verallgemeinerte Ungleichung besagt, dass für einen Maßraum ${\displaystyle (\Omega ,\Sigma ,\nu )}$ und eine messbare Funktion ${\displaystyle f\colon \Omega \to \mathbb {R} _{0}^{+}}$ und ${\displaystyle \varepsilon ,p\in \mathbb {R} ^{+}}$ stets die Ungleichung

${\displaystyle \nu (\{x\mid f(x)\geq \varepsilon \})\leq {\frac {1}{\varepsilon ^{p}}}\int _{\Omega }f^{p}{\rm {d}}\nu }$.

gilt.

Dies folgt aus

${\displaystyle \int _{\Omega }f^{p}\;{\rm {d}}\nu \geq \int _{\{x\mid f(x)\geq \varepsilon \}}f^{p}\;{\rm {d}}\nu \geq \int _{\{x\mid f(x)\geq \varepsilon \}}\varepsilon ^{p}\;{\rm {d}}\nu =\varepsilon ^{p}\nu (\{x\mid f(x)\geq \varepsilon \})}$

Die oben genannte Version der Ungleichung erhält man als Spezialfall, indem man ${\displaystyle \nu =P}$, ${\displaystyle f=|X-\mu |}$ und ${\displaystyle p=2}$ setzt, denn dann ist

${\displaystyle P(|X-\mu |\geq k)=P(|X-\mu |^{2}\geq k^{2})\leq {\frac {1}{k^{2}}}\int _{\Omega }|X-\mu |^{2}\;{\rm {d}}P={\frac {\sigma ^{2}}{k^{2}}}}$.

Die Tschebyscheffsche Ungleichung kann auf mehrdimensionale Zufallsvariable erweitert werden.

Ist X = (${\displaystyle x^{1},...,x^{n}}$) eine n-dimensionale Zufallsvariable, die auf den "Mittelpunkt" (μ(x¹) / ... / μ(xⁿ) ) zentriert wurde, so gilt für die zentrierte Variable die Mehrdimensionale Tschebyscheffsche Ungleichung:

${\displaystyle 1-P((x^{1},...x^{n})C^{-1}{\begin{pmatrix}x^{1}\\...\\x^{n}\end{pmatrix}}\leq k^{2})\leq {\tfrac {n}{k^{2}}}}$

Dass die Verallgemeinerung gleichzeitig für alle positiven Momente gilt, lässt sich beim Beweis der sogenannten exponentiellen Tschebyscheff-Ungleichung[7] ausnutzen. Sei ${\displaystyle X\sim P}$ eine reelle Zufallsvariable, die gemäß ${\displaystyle P}$ verteilt ist und ${\displaystyle a\in \mathbb {R} }$ eine reelle Zahl. In der Notation von oben setzt man nun ${\displaystyle \nu =P}$, ${\displaystyle \varepsilon =\mathrm {e} ^{a}}$ und ${\displaystyle f(x)=\mathrm {e} ^{x}}$ und erhält

${\displaystyle P(X\geq a)=P(\mathrm {e} ^{X}\geq \varepsilon )\leq \inf _{p\in \mathbb {R} ^{+}}{\frac {1}{\varepsilon ^{p}}}\int _{\mathbb {R} }\mathrm {e} ^{px}\,\mathrm {d} P=\inf _{p\in \mathbb {R} ^{+}}{\frac {E(\mathrm {e} ^{pX})}{\mathrm {e} ^{pa}}}.}$

Der Zähler ${\displaystyle M_{X}(p)=E(\mathrm {e} ^{pX})}$ ist die momenterzeugende Funktion von ${\displaystyle X}$. Die Anwendung der exponentiellen Tschebyscheff-Ungleichung auf eine Summe von unabhängigen und identisch verteilten Zufallsvariablen ist der entscheidende Schritt im Beweis der Chernoff-Ungleichung.

Nehmen wir zum Beispiel an, dass die Länge von Wikipedia-Artikeln einen Erwartungswert von 1000 Zeichen mit einer Standardabweichung von 200 Zeichen hat. Aus der tschebyscheffschen Ungleichung kann man dann ableiten, dass mit mindestens 75 % Wahrscheinlichkeit ein Wikipedia-Artikel eine Länge zwischen 600 und 1400 Zeichen hat (${\displaystyle k=400,~\mu =1000,~\sigma =200}$).

Der Wert für die Wahrscheinlichkeit wird auf folgende Weise berechnet:

${\displaystyle \operatorname {P} \left(\left|X-1000\right|<400\right)\geq 1-{\frac {200^{2}}{400^{2}}}=0{,}75=75\ \%}$

Eine andere Folgerung aus dem Satz ist, dass für jede Wahrscheinlichkeitsverteilung mit Mittelwert ${\displaystyle \mu }$ und endlicher Standardabweichung ${\displaystyle \sigma }$ mindestens die Hälfte der Werte im Intervall ${\displaystyle (\mu -{\sqrt {2}}\sigma ,\mu +{\sqrt {2}}\sigma )}$ liegen (${\displaystyle k^{2}=2\sigma ^{2}}$).

Ein Zufallsereignis tritt bei einem Versuch mit Wahrscheinlichkeit ${\displaystyle p}$ ein. Der Versuch wird ${\displaystyle n}$-mal wiederholt; das Ereignis trete dabei ${\displaystyle k}$-mal auf. ${\displaystyle k}$ ist dann binomialverteilt und hat Erwartungswert ${\displaystyle np}$ und Varianz ${\displaystyle np(1-p)}$; die relative Häufigkeit ${\displaystyle {\tfrac {k}{n}}}$ des Eintretens hat somit Erwartungswert ${\displaystyle p}$ und Varianz ${\displaystyle {\tfrac {p(1-p)}{n}}}$. Für die Abweichung der relativen Häufigkeit vom Erwartungswert liefert die tschebyscheffsche Ungleichung

${\displaystyle \operatorname {P} \left(\left|{\frac {k}{n}}-p\right|\geq \epsilon \right)\leq {\frac {p(1-p)}{\epsilon ^{2}n}}\leq {\frac {1}{4\epsilon ^{2}n}}}$,

wobei für die zweite Abschätzung die unmittelbar aus der Ungleichung vom arithmetischen und geometrischen Mittel folgende Beziehung ${\displaystyle {\sqrt {p(1-p)}}\leq {\tfrac {1}{2}}}$ verwendet wurde.

Bei dieser Formel handelt es sich um den Spezialfall eines schwachen Gesetzes der großen Zahlen, das die stochastische Konvergenz der relativen Häufigkeiten gegen den Erwartungswert zeigt.

Die tschebyscheffsche Ungleichung liefert für dieses Beispiel nur eine grobe Abschätzung, eine quantitative Verbesserung liefert die Chernoff-Ungleichung.