Kumulante

Die Kumulanten werden auch als Semiinvarianten der Dichtefunktion ${\displaystyle p(x)}$ bezeichnet, da sie sich, mit Ausnahme von ${\displaystyle \kappa _{1}}$, bei einer Verschiebung des Erwartungswertes nicht ändern. Sei ${\displaystyle X}$ eine Zufallsvariable, dann gilt für eine beliebige Konstante ${\displaystyle c\in \mathbb {R} }$:

${\displaystyle \kappa _{1}(X+c)=\kappa _{1}(X)+c\,}$

${\displaystyle \kappa _{n}(X+c)=\kappa _{n}(X)~{\text{ mit }}~n\geq 2\,}$

Die ${\displaystyle n}$-te Kumulante ist homogen vom Grad ${\displaystyle n}$, sei ${\displaystyle c}$ eine beliebige Konstante, dann gilt:

${\displaystyle \kappa _{n}(cX)=c^{n}\kappa _{n}(X)\,}$

Seien ${\displaystyle X_{1}}$ und ${\displaystyle X_{2}}$ stochastisch unabhängige Zufallsvariablen, dann gilt für ${\displaystyle Y=X_{1}+X_{2}}$

${\displaystyle \kappa _{n}(Y)=\kappa _{n}(X_{1})+\kappa _{n}(X_{2})\,}$

Analog gilt für die Summe ${\displaystyle Y=\sum _{i=1}^{N}X_{i}}$ aus ${\displaystyle N}$ stochastisch unabhängigen Zufallsvariablen ${\displaystyle X_{1},X_{2},\dotsc ,X_{N}}$:

${\displaystyle \kappa _{n}(Y)=\sum _{i=1}^{N}\kappa _{n}(X_{i})\,}$

Die Additivität beruht darauf, dass für die charakteristische Funktionen einer Summe unabhängiger Zufallsvariablen die Produktdarstellung ${\displaystyle G_{Y}(k)=G_{X_{1}}(k)\cdot G_{X_{2}}(k)}$ gilt. Für die Logarithmen gilt somit eine Additivität:

${\displaystyle \sum _{n=1}^{\infty }{\frac {(\mathrm {i} t)^{n}}{n!}}\kappa _{n}(Y)=\ln G_{Y}(t)=\ln G_{X_{1}}(t)+\ln G_{X_{2}}(t)=\sum _{n=1}^{\infty }{\frac {(\mathrm {i} t)^{n}}{n!}}\left[\kappa _{n}(X_{1})+\kappa _{n}(X_{2})\right]}$

Bezeichne ${\displaystyle m_{n}}$ das n-te Moment einer Zufallsvariablen ${\displaystyle X}$. Durch ${\displaystyle G(k)}$ lässt sich ${\displaystyle m_{n}}$ darstellen als

${\displaystyle m_{n}={\frac {1}{i^{n}}}{\frac {\partial ^{n}}{\partial t^{n}}}G(t){\bigg |}_{t=0}}$

Folglich lassen sich die Kumulanten durch die Momente ${\displaystyle m_{n}}$ bzw. folgendermaßen ausdrücken:

${\displaystyle \kappa _{1}=m_{1}\,}$

${\displaystyle \kappa _{2}=m_{2}-m_{1}^{2}\,}$

${\displaystyle \kappa _{3}=m_{3}-3m_{2}m_{1}+2m_{1}^{3}\,}$

${\displaystyle \kappa _{4}=m_{4}-4m_{3}m_{1}-3m_{2}^{2}+12m_{2}m_{1}^{2}-6m_{1}^{4}\,}$

${\displaystyle \kappa _{5}=m_{5}+5m_{1}(6m_{2}^{2}-m_{4})-10m_{3}m_{2}+20m_{3}m_{1}^{2}-60m_{2}m_{1}^{3}+24m_{1}^{5}\,}$

Im Allgemeinen lässt sich die Abhängigkeit der Kumulanten von den Momenten durch folgende Rekursionsformel beschreiben:

${\displaystyle \kappa _{n}=m_{n}-\sum _{k=1}^{n-1}{n-1 \choose k-1}\kappa _{k}m_{n-k}}$

Alternativ lässt sich aus der Formel von Faà di Bruno die k-te Kumulante mittels der Bell-Polynome ${\displaystyle B_{n,k}}$ und der Momente ${\displaystyle m_{1},\dots ,m_{n}}$ darstellen als

${\displaystyle \kappa _{n}=\sum _{k=1}^{n}(k-1)!(-1)^{k+1}B_{n,k}(m_{1},\dots ,m_{n-k+1})}$.

Mit den zentralen Momenten ${\displaystyle \mu _{n}}$ sind die Formeln meist kürzer:

${\displaystyle \kappa _{1}=m_{1}\,}$

${\displaystyle \kappa _{2}=\mu _{2}\,}$

${\displaystyle \kappa _{3}=\mu _{3}\,}$

${\displaystyle \kappa _{4}=\mu _{4}-3\mu _{2}^{2}\,}$

${\displaystyle \kappa _{5}=\mu _{5}-10\mu _{3}\mu _{2}\,}$

${\displaystyle \kappa _{6}=\mu _{6}-15\mu _{4}\mu _{2}-10\mu _{3}^{2}+30\mu _{2}^{3}\,}$

Von besonderer Bedeutung sind die ersten beiden Kumulanten: ${\displaystyle \kappa _{1}}$ ist der Erwartungswert ${\displaystyle m_{1}=E(X)}$ und ${\displaystyle \kappa _{2}}$ ist die Varianz ${\displaystyle \mu _{2}=V(X)}$. Ab der vierten Ordnung stimmen Kumulante und zentrales Moment nicht mehr überein.

Man entwickelt ${\displaystyle \ln G(t)}$ um ${\displaystyle G(t)=1}$

${\displaystyle \ln G(t)=\sum _{n=1}^{\infty }(-1)^{n+1}{\frac {(G(t)-1)^{n}}{n}}=(G(t)-1)-{\frac {(G(t)-1)^{2}}{2}}+{\frac {(G(t)-1)^{3}}{3}}\mp \dotsb }$

und setzt die Reihendarstellung von ${\displaystyle G(k)}$

${\displaystyle G(t)=\sum _{n=0}^{\infty }{\frac {(\mathrm {i} t)^{n}}{n!}}m_{n}=1+\mathrm {i} tm_{1}+{\frac {(it)^{2}}{2}}m_{2}+{\frac {(it)^{3}}{6}}m_{3}+\dotsb }$

in obige Entwicklung ein

${\displaystyle {\begin{aligned}\ln G(t)=&\left[\mathrm {i} tm_{1}+{\frac {(it)^{2}}{2}}m_{2}+{\frac {(it)^{3}}{6}}m_{3}+\dotsb \right]\\&-{\frac {1}{2}}\left[\mathrm {i} tm_{1}+{\frac {(it)^{2}}{2}}m_{2}+\dotsb \right]^{2}\\&+{\frac {1}{3}}\left[\mathrm {i} tm_{1}+{\frac {(it)^{2}}{2}}m_{2}+\dotsb \right]^{3}\mp \dotsb \\=&\left[\mathrm {i} tm_{1}+{\frac {(it)^{2}}{2}}m_{2}+{\frac {(it)^{3}}{6}}m_{3}+\dotsb \right]\\&-{\frac {1}{2}}\left[(\mathrm {i} t)^{2}m_{1}^{2}+2{\frac {(it)^{3}}{2}}m_{1}m_{2}+{\frac {(it)^{4}}{4}}m_{2}^{2}+\dotsb \right]\\&+{\frac {1}{3}}\left[(\mathrm {i} t)^{3}m_{1}^{3}+2{\frac {(it)^{4}}{2}}m_{1}^{2}m_{2}+2{\frac {(it)^{5}}{4}}m_{1}m_{2}^{2}+{\frac {(it)^{6}}{8}}m_{2}^{3}+\dotsb \right]\mp \dotsb \end{aligned}}}$

Sortiert man noch nach Potenzen von ${\displaystyle t}$, so erhält man die Kumulanten:

${\displaystyle \ln G(t)=\mathrm {i} t\underbrace {\left[m_{1}\right]} _{\kappa _{1}}+{\frac {(it)^{2}}{2}}\underbrace {\left[m_{2}-m_{1}^{2}\right]} _{\kappa _{2}}+{\frac {(it)^{3}}{6}}\underbrace {\left[m_{3}-3m_{1}m_{2}+2m_{1}^{3}\right]} _{\kappa _{3}}+\dotsb }$

Das ${\displaystyle n}$-te Moment ist ein Polynom ${\displaystyle n}$-ten Grades der ersten ${\displaystyle n}$ Kumulanten. Hier die ersten sechs Momente:

${\displaystyle m_{1}=\kappa _{1}\,}$

${\displaystyle m_{2}=\kappa _{2}+\kappa _{1}^{2}\,}$

${\displaystyle m_{3}=\kappa _{3}+3\kappa _{2}\kappa _{1}+\kappa _{1}^{3}\,}$

${\displaystyle m_{4}=\kappa _{4}+4\kappa _{3}\kappa _{1}+3\kappa _{2}^{2}+6\kappa _{2}\kappa _{1}^{2}+\kappa _{1}^{4}\,}$

${\displaystyle m_{5}=\kappa _{5}+5\kappa _{4}\kappa _{1}+10\kappa _{3}\kappa _{2}+10\kappa _{3}\kappa _{1}^{2}+15\kappa _{2}^{2}\kappa _{1}+10\kappa _{2}\kappa _{1}^{3}+\kappa _{1}^{5}\,}$

${\displaystyle m_{6}=\kappa _{6}+6\kappa _{5}\kappa _{1}+15\kappa _{4}\kappa _{2}+15\kappa _{4}\kappa _{1}^{2}+10\kappa _{3}^{2}+60\kappa _{3}\kappa _{2}\kappa _{1}+20\kappa _{3}\kappa _{1}^{3}+15\kappa _{2}^{3}+45\kappa _{2}^{2}\kappa _{1}^{2}+15\kappa _{2}\kappa _{1}^{4}+\kappa _{1}^{6}\,}$

Die Koeffizienten entsprechen genau denjenigen in der Formel von Faà di Bruno. Allgemeiner ist das ${\displaystyle n}$-te Moment genau das ${\displaystyle n}$-te vollständige Bell-Polynom ${\displaystyle B_{n}}$, ausgewertet an der Stelle ${\displaystyle (\kappa _{1},\dots ,\kappa _{n})}$:

${\displaystyle m_{n}=B_{n}(\kappa _{1},\dots ,\kappa _{n})}$.

Um die zentralen Momente als Funktion der Kumulanten auszudrücken, vernachlässige in obigen Polynomen für die Momente alle Terme, bei denen ${\displaystyle \kappa _{1}}$ als Faktor auftaucht:

${\displaystyle \mu _{1}=0\,}$

${\displaystyle \mu _{2}=\kappa _{2}\,}$

${\displaystyle \mu _{3}=\kappa _{3}\,}$

${\displaystyle \mu _{4}=\kappa _{4}+3\kappa _{2}^{2}\,}$

${\displaystyle \mu _{5}=\kappa _{5}+10\kappa _{3}\kappa _{2}\,}$

${\displaystyle \mu _{6}=\kappa _{6}+15\kappa _{4}\kappa _{2}+10\kappa _{3}^{2}+15\kappa _{2}^{3}\,}$

Oben haben wir die Momente als Polynome in den Kumulanten ausgedrückt. Diese Polynome haben eine interessante kombinatorische Interpretation: ihre Koeffizienten zählen Mengenpartitionen. Die allgemeine Form dieser Polynome kann folgendermaßen geschrieben werden

${\displaystyle m_{n}=\sum _{\pi \in \Pi }\prod _{B\in \pi }\kappa _{\left|B\right|}}$

wobei

• ${\displaystyle \pi }$ die Menge aller Partitionen einer n-elementigen Menge durchläuft;
• "${\displaystyle B\in \pi }$" bedeutet, dass ${\displaystyle B}$ einer der Blöcke ist, in welche die Menge zerlegt wurde; und
• ${\displaystyle \vert B\vert }$ ist die Größe des Blocks ${\displaystyle B}$.

Für die Zufallsvariable

${\displaystyle Y={\frac {1}{\sqrt {N}}}(X_{1}+X_{2}+\dotsb +X_{N})\,}$

ergeben sich unter Ausnutzung der Eigenschaften Homogenität und Additivität folgende Kumulanten:

${\displaystyle \kappa _{n}(Y)={\frac {1}{{\sqrt {N}}^{n}}}\sum _{i=1}^{N}\kappa _{n}(X_{i})\approx {\mathcal {O}}(N^{1-n/2})\,}$

Die Ordnung ergibt sich, da die Summe über die Einzelkumulanten ${\displaystyle \sum _{i=1}^{N}\kappa _{n}}$ von der Ordnung ${\displaystyle {\mathcal {O}}(N)}$ ist. Hier die Ordnungen der ersten Kumulanten:

${\displaystyle \kappa _{1}(Y)={\mathcal {O}}(N^{1/2})\ ,\quad \kappa _{2}(Y)={\mathcal {O}}(N^{0})\ ,\quad \kappa _{3}(Y)={\mathcal {O}}(N^{-1/2})\ ,\quad \kappa _{4}(Y)={\mathcal {O}}(N^{-1})}$

Für ${\displaystyle n\geq 3}$ ist die Ordnung ${\displaystyle N}$ hoch einem negativen Exponenten und somit gilt im Grenzwert unendlich vieler Zufallsvariablen:

${\displaystyle \lim _{N\to \infty }\kappa _{n}(Y)=0\quad {\text{mit}}\quad n\geq 3}$

D. h., es bleiben nur die beiden ersten Kumulanten übrig. Die einzige Verteilung, die nur die erste und zweite Kumulante besitzt, ist die Gauß-Verteilung. Damit wird plausibel, dass die Summe beliebiger Zufallsvariablen geteilt durch die Wurzel der Anzahl gegen die Gauß-Verteilung konvergiert; dies ist der Zentrale Grenzwertsatz. Um diese Plausibilitätsbetrachtung zu einem Beweis zu vervollständigen, bedarf es der Verwendung allgemeiner Gesetzmäßigkeiten von charakteristischen Funktionen. Die Gauß-Verteilung nimmt also eine besondere Stellung unter allen Verteilungen ein. Wirken bei einem Experiment viele stochastisch unabhängige Einflüsse, so kann man die Gesamtheit der Einflüsse durch eine Gaußsche Zufallsvariable darstellen.

Als einfachen Spezialfall betrachte alle Zufallsvariablen als identisch ${\displaystyle X_{i}=X}$ mit Mittelwert 0, Varianz ${\displaystyle \sigma ^{2}}$ und beliebigen höheren Momenten.

${\displaystyle \kappa _{1}(Y)={\frac {1}{\sqrt {N}}}\sum _{i=1}^{N}0=0\ ,\quad \kappa _{2}(Y)={\frac {1}{N}}\sum _{i=1}^{N}\sigma ^{2}=\sigma ^{2}\ ,\quad \kappa _{3}(Y)={\frac {1}{{\sqrt {N}}^{3}}}\sum _{i=1}^{N}\kappa _{3}(X)={\frac {\kappa _{3}(X)}{\sqrt {N}}}{\underset {N\to \infty }{\longrightarrow }}0}$

Für die Zufallsvariable ${\displaystyle Z}$

${\displaystyle Z:=Y-E(Y)={\frac {1}{\sqrt {N}}}(X_{1}-E(X_{1})+X_{2}-E(X_{2})+\dotsb +X_{N}-E(X_{N}))\,}$

kann man gegenüber ${\displaystyle Y}$ die Verschiebungsinvarianz der Kumulanten der Ordnung größer gleich 2 ausnutzen. Der einzige Unterschied zur Zufallsvariablen ${\displaystyle Y}$ ist, dass Erwartungswert von ${\displaystyle Z}$ Null ist, auch dann wenn die Erwartungswerte der ${\displaystyle X_{i}}$ nicht verschwinden.

${\displaystyle {\begin{aligned}\kappa _{1}(Z)&={\frac {1}{\sqrt {N}}}\sum _{i=1}^{N}\underbrace {\kappa _{1}(X_{i}-E(X_{i}))} _{E(X_{i})-E(X_{i})}=0\\\kappa _{2}(Z)&={\frac {1}{N}}\sum _{i=1}^{N}\kappa _{2}(X_{i}-E(X_{i}))={\frac {1}{N}}\sum _{i=1}^{N}\kappa _{2}(X_{i})=\kappa _{2}(Y)={\frac {1}{N}}\sum _{i=1}^{N}\sigma _{i}^{2}{\overset {\text{ Spezialfall }}{\underset {\sigma _{i}=\sigma ,\,\forall i}{=}}}\sigma ^{2}\\\kappa _{3}(Z)&={\frac {1}{{\sqrt {N}}^{3}}}\sum _{i=1}^{N}\kappa _{3}(X_{i}-E(X_{i}))={\frac {1}{{\sqrt {N}}^{3}}}\sum _{i=1}^{N}\kappa _{3}(X_{i})=\kappa _{3}(Y){\underset {N\to \infty }{\longrightarrow }}0\end{aligned}}}$

Für die Zufallsvariable

${\displaystyle Y={\frac {1}{N}}(X_{1}+X_{2}+\dotsb +X_{N})\,}$

ergeben sich unter Ausnutzung der Eigenschaften Homogenität und Additivität folgende Kumulanten:

${\displaystyle \kappa _{n}(Y)={\frac {1}{N^{n}}}\sum _{i=1}^{N}\kappa _{n}(X_{i})\approx {\mathcal {O}}(N^{1-n})\,}$

Die Ordnung ergibt sich, da die Summe über die Einzelkumulanten ${\displaystyle \sum _{i=1}^{N}\kappa _{n}}$ von der Ordnung ${\displaystyle {\mathcal {O}}(N)}$ ist. Hier die Ordnungen der ersten Kumulanten:

${\displaystyle \kappa _{1}(Y)={\mathcal {O}}(N^{0})\ ,\quad \kappa _{2}(Y)={\mathcal {O}}(N^{-1})\ ,\quad \kappa _{3}(Y)={\mathcal {O}}(N^{-2})\ ,\quad \kappa _{4}(Y)={\mathcal {O}}(N^{-3})}$

Für ${\displaystyle n\geq 2}$ ist die Ordnung ${\displaystyle N}$ hoch einem negativen Exponenten und somit gilt im Grenzwert unendlich vieler Zufallsvariablen:

${\displaystyle \lim _{N\to \infty }\kappa _{n}(Y)=0\quad {\text{mit}}\quad n\geq 2}$

D. h., es bleibt nur die erste Kumulante bzw. das erste Moment übrig. Mit wachsendem ${\displaystyle N}$ erhält man eine Gauß-Verteilung um den Mittelwert

${\displaystyle \kappa _{1}(Y)={\frac {1}{N}}\sum _{i=1}^{N}\kappa _{1}(X_{i})}$,

wobei die Breite von der Ordnung ${\displaystyle N^{-1}}$ ist, und im Grenzfall ${\displaystyle N\to \infty }$ einen scharfen (Delta-förmigen) Peak bei ${\displaystyle \kappa _{1}}$.

Als einfachen Spezialfall betrachte alle Zufallsvariablen als identisch ${\displaystyle X_{i}=X}$ mit Mittelwert ${\displaystyle \mu }$, Varianz ${\displaystyle \sigma ^{2}}$ und beliebigen höheren Momenten.

${\displaystyle \kappa _{1}(Y)={\frac {1}{N}}\sum _{i=1}^{N}m=m\ ,\quad \kappa _{2}(Y)={\frac {1}{N^{2}}}\sum _{i=1}^{N}\sigma ^{2}={\frac {\sigma ^{2}}{N}}{\underset {N\to \infty }{\longrightarrow }}0\ ,\quad \kappa _{3}(Y)={\frac {1}{N^{3}}}\sum _{i=1}^{N}\kappa _{3}(X)={\frac {\kappa _{3}(X)}{N^{2}}}{\underset {N\to \infty }{\longrightarrow }}0}$

Somit ist ${\displaystyle Y}$ eine Zufallsvariable mit demselben Mittelwert wie ${\displaystyle X}$ (man nennt ${\displaystyle Y}$ erwartungstreuer Schätzer für den Mittelwert von ${\displaystyle X}$). Die für wachsende ${\displaystyle N}$ immer schmaler werdende Breite der Gauß-Verteilung (Standardabweichung um Mittelwert) beträgt ${\displaystyle \sigma _{Y}=\sigma _{X}/{\sqrt {N}}}$.