Kolmogorow-Smirnow-Test

Darstellung des Kolmogorow-Smirnow-Anpassungstest. Die rote Linie ist die Verteilungsfunktion der Nullhypothese, die blaue Linie ist die empirische Verteilungsfunktion der beobachteten Werte und der schwarze Pfeil illustriert den Wert ${\displaystyle d_{n}}$ der Teststatistik ${\displaystyle D_{n}}$.

Das Konzept wird anhand des Kolmogorow-Smirnow-Anpassungstest erläutert, wobei der Vergleich zweier Merkmale analog ist. Man betrachtet ein statistisches Merkmal ${\displaystyle X}$, dessen Verteilung in der Grundgesamtheit unbekannt ist und die eine stetige Verteilungsfunktion ${\displaystyle F_{X}}$ besitzt. Die zweiseitig formulierten Hypothesen lauten dann:

Nullhypothese: ${\displaystyle H_{0}\colon F_{X}=F_{0}}$

Alternativhypothese: ${\displaystyle H_{1}\colon F_{X}\neq F_{0}}$

Die Nullhypothese postuliert also, dass die Zufallsvariable ${\displaystyle X}$ die Verteilungsfunktion ${\displaystyle F_{0}}$ besitzt, während die Alternativhypothese besagt, dass ${\displaystyle X}$ eine andere Verteilungsfunktion besitzt.

Es liegen ${\displaystyle n}$ beobachtete Werte ${\displaystyle x_{1},\dots ,x_{n}}$ als Realisierungen von stochastisch unabhängigen und identisch verteilten Zufallsvariablen ${\displaystyle X_{1},\dots ,X_{n}}$ vor, die jeweils dieselbe stetige Verteilungsfunktion ${\displaystyle F_{X}}$ haben. Der Kolmogorow-Smirnow-Anpassungstest basiert auf der Abweichung der zufälligen empirischen Verteilungsfunktion

${\displaystyle {\tilde {F}}_{n}(x)={\frac {1}{n}}\sum _{i=1}^{n}\mathbf {1} _{(-\infty ,x]}(X_{i}),\quad x\in \mathbb {R} }$

von der durch die Nullhypothese behaupteten Verteilungsfunktion ${\displaystyle F_{0}}$. Dazu wird die Teststatistik

${\displaystyle D_{n}=\sup _{x\in \mathbb {R} }|{\tilde {F}}_{n}(x)-F_{0}(x)|}$

gebildet, wobei sup das Supremum bezeichnet. (Das Supremum anstelle des Maximums ist erforderlich, da der größte Abstand an einer Sprungstelle der empirischen Verteilungsfunktion auftreten kann, wobei der linksseitige Grenzwert der empirischen Verteilungsfunktion an der Sprungstelle zum größten Abstand führen kann, der durch Maximum nicht erreicht würde. Mithilfe der Supremumsnorm ${\displaystyle \|\cdot \|}$ kann die Teststatistik in der Form ${\displaystyle D_{n}=\|{\tilde {F}}_{n}-F_{0}\|}$ geschrieben werden.) ${\displaystyle D_{n}}$ ist eine Zufallsvariable mit einer Wahrscheinlichkeitsverteilung, die im Allgemeinen von ${\displaystyle F_{X}}$ und von ${\displaystyle F_{0}}$ abhängt. Wenn die Nullhypothese richtig ist, hängt die Wahrscheinlichkeitsverteilung von ${\displaystyle D_{n}}$ nur von ${\displaystyle F_{0}}$ ab. Falls zusätzlich die Verteilungsfunktion ${\displaystyle F_{0}}$ stetig ist, hängt die Wahrscheinlichkeitsverteilung von ${\displaystyle D_{n}}$ nicht von ${\displaystyle F_{0}}$ ab. Die Teststatistik ${\displaystyle D_{n}}$ ist dann eine verteilungsfreie Statistik bezüglich der Klasse aller Wahrscheinlichkeitsverteilungen mit stetiger Verteilungsfunktion.

Von einer reellen Zufallsvariablen ${\displaystyle X}$ liegen ${\displaystyle n}$ Beobachtungswerte ${\displaystyle x_{i}}$ (${\displaystyle i=1,\dotsc ,n}$) vor, die bereits aufsteigend sortiert sind: ${\displaystyle x_{1}\leq x_{2}\leq \dotsb \leq x_{n}}$. Von diesen Beobachtungen wird die relative Summenfunktion (Summenhäufigkeit, empirische Verteilungsfunktion) ${\displaystyle S(x_{i})}$ ermittelt. Diese empirische Verteilung wird nun mit der entsprechenden hypothetischen Verteilung der Grundgesamtheit verglichen: Es wird der Wert der Wahrscheinlichkeitsverteilung an der Stelle ${\displaystyle x_{i}}$ bestimmt: ${\displaystyle F_{0}(x_{i})}$. Wenn ${\displaystyle X}$ tatsächlich dieser Verteilung gehorcht, müssten die beobachtete Häufigkeit ${\displaystyle S(x_{i})}$ und die erwartete Häufigkeit ${\displaystyle F_{0}(x_{i})}$ in etwa gleich sein.

Falls ${\displaystyle F_{0}}$ stetig ist, kann die Teststatistik auf folgende Weise berechnet werden: Es werden für jedes ${\displaystyle i=1,\dotsc ,n}$ die absoluten Differenzen

${\displaystyle d_{\mathrm {o} ,i}=|S(x_{i})-F_{0}(x_{i})|~}$

und

${\displaystyle d_{\mathrm {u} ,i}=|S(x_{i-1})-F_{0}(x_{i})|~}$

berechnet („o“ für oben, „u“ für unten), wobei ${\displaystyle S(x_{0}):=0}$ gesetzt wird. Es wird sodann die absolut größte Differenz ${\displaystyle d_{\mathrm {max} }}$ aus allen Differenzen ${\displaystyle d_{{o},i}}$, ${\displaystyle d_{\mathrm {u} ,i}}$ ermittelt. Wenn ${\displaystyle d_{\mathrm {max} }}$ einen kritischen Wert ${\displaystyle d_{\alpha }}$ übersteigt, wird die Hypothese bei einem Signifikanzniveau ${\displaystyle \alpha }$ abgelehnt.

Bis ${\displaystyle n=35}$ liegen die kritischen Werte tabelliert vor.[2] Für größere ${\displaystyle n}$ können sie näherungsweise mit Hilfe der Formel

${\displaystyle d_{\alpha }={\frac {\sqrt {-0{,}5\ln \left({\frac {\alpha }{2}}\right)}}{\sqrt {n}}}}$

bestimmt werden.[3] Aus dieser Näherungsformel ergeben sich die in der unten stehenden Tabelle aufgeführten Formeln für den Bereich ${\displaystyle n>35}$.

${\displaystyle {\textbf {Signifikanzniveau}}{\text{ }}{\boldsymbol {\alpha }}}$	${\displaystyle {\boldsymbol {d_{\alpha }}}}$
${\displaystyle 20{,}00\,\%}$	${\displaystyle {\frac {1{,}073}{\sqrt {n}}}}$
${\displaystyle 10{,}00\,\%}$	${\displaystyle {\frac {1{,}224}{\sqrt {n}}}}$
${\displaystyle 5{,}00\,\%}$	${\displaystyle {\frac {1{,}358}{\sqrt {n}}}}$
${\displaystyle 2{,}00\,\%}$	${\displaystyle {\frac {1{,}517}{\sqrt {n}}}}$
${\displaystyle 1{,}00\,\%}$	${\displaystyle {\frac {1{,}628}{\sqrt {n}}}}$
${\displaystyle 0{,}10\,\%}$	${\displaystyle {\frac {1{,}949}{\sqrt {n}}}}$

Liegt nun zusätzlich zur obigen Zufallsvariablen ${\displaystyle X}$ eine entsprechende Zufallsvariable ${\displaystyle Y}$ vor (mit ${\displaystyle m}$ geordneten Werten ${\displaystyle y_{i}}$), so kann durch den Zweistichprobentest überprüft werden, ob ${\displaystyle X}$ und ${\displaystyle Y}$ derselben Verteilungsfunktion folgen. Die Hypothesen lauten:

Nullhypothese:

${\displaystyle H_{0}\colon F_{X}(x)=F_{Y}(x)}$

(Die Zufallsvariablen ${\displaystyle X}$ und ${\displaystyle Y}$ besitzen die gleiche Wahrscheinlichkeitsverteilung.)

Alternativhypothese:

${\displaystyle H_{1}\colon F_{X}(x)\neq F_{Y}(x)}$

(Die Zufallsvariable ${\displaystyle X}$ besitzt eine andere Wahrscheinlichkeitsverteilung als ${\displaystyle Y}$.)

Der Kolmogorow-Smirnow-Test vergleicht die empirischen Verteilungsfunktionen (relativen Summenfunktionen) ${\displaystyle F_{X,n}}$ und ${\displaystyle F_{Y,m}}$ analog zum Einstichprobentest anhand ihrer absoluten Differenzen mittels der Teststatistik

${\displaystyle d_{n,m}=\|F_{X,n}-F_{Y,m}\|=\sup _{x}|F_{X,n}(x)-F_{Y,m}(x)|}$.

Die Nullhypothese wird bei einem Signifikanzniveau ${\displaystyle \alpha }$ abgelehnt, falls ${\displaystyle d_{n,m}}$ den kritischen Wert ${\displaystyle d_{\mathrm {krit} }(\alpha ,n,m)}$ überschreitet. Für kleine Werte von ${\displaystyle n}$ und ${\displaystyle m}$ liegen die kritischen Werte tabelliert vor.[4][5] Für große Werte von ${\displaystyle n}$ und ${\displaystyle m}$ wird die Nullhypothese abgelehnt, falls

${\displaystyle {\sqrt {\frac {nm}{n+m}}}d_{n,m}>K_{\alpha }}$,

wobei ${\displaystyle K_{\alpha }}$ für große ${\displaystyle n}$ und ${\displaystyle m}$ näherungsweise als

${\displaystyle K_{\alpha }={\sqrt {\frac {\ln \left({\frac {2}{\alpha }}\right)}{2}}}}$

berechnet werden kann.

Vergleich von empirischer und theoretischer Verteilung des Zahlenbeispiels: Links ein Histogramm mit Normalverteilungskurve, rechts die theoretische und die empirische Verteilungsfunktion

In einem Unternehmen, das hochwertige Parfüms herstellt, wurde im Rahmen der Qualitätssicherung an einer Abfüllanlage die abgefüllte Menge für ${\displaystyle n=8}$ Flakons gemessen. Es ist das Merkmal ${\displaystyle x}$: Abgefüllte Menge in ml.

Es soll geprüft werden, ob noch die bekannten Parameter der Verteilung von ${\displaystyle X}$ gelten.

Zunächst soll bei einem Signifikanzniveau ${\displaystyle \alpha =0{,}05}$ getestet werden, ob das Merkmal ${\displaystyle X}$ in der Grundgesamtheit überhaupt normalverteilt mit den bekannten Parametern ${\displaystyle \mu =11}$ und ${\displaystyle \sigma ^{2}=\sigma =1}$ ist, also

${\displaystyle H_{0}\colon F(x)=F_{0}(x)=\Phi (x|11;1)}$

mit ${\displaystyle \Phi }$ als Normalverteilungssymbol. Es ergibt sich folgende Tabelle:

${\displaystyle i}$	${\displaystyle x_{i}}$	${\displaystyle S(x_{i})}$	${\displaystyle F_{0}(x_{i})}$	${\displaystyle S(x_{i-1})-F_{0}(x_{i})}$	${\displaystyle S(x_{i})-F_{0}(x_{i})}$
${\displaystyle 1}$	${\displaystyle 9{,}41}$	${\displaystyle 0{,}125}$	${\displaystyle 0{,}056}$	${\displaystyle -0{,}056}$	${\displaystyle 0{,}069}$
${\displaystyle 2}$	${\displaystyle 9{,}92}$	${\displaystyle 0{,}250}$	${\displaystyle 0{,}140}$	${\displaystyle -0{,}015}$	${\displaystyle 0{,}110}$
${\displaystyle 3}$	${\displaystyle 11{,}55}$	${\displaystyle 0{,}375}$	${\displaystyle 0{,}709}$	${\displaystyle \mathbf {-0{,}459} }$	${\displaystyle -0{,}334}$
${\displaystyle 4}$	${\displaystyle 11{,}60}$	${\displaystyle 0{,}500}$	${\displaystyle 0{,}726}$	${\displaystyle -0{,}351}$	${\displaystyle -0{,}226}$
${\displaystyle 5}$	${\displaystyle 11{,}73}$	${\displaystyle 0{,}625}$	${\displaystyle 0{,}767}$	${\displaystyle -0{,}267}$	${\displaystyle -0{,}142}$
${\displaystyle 6}$	${\displaystyle 12{,}00}$	${\displaystyle 0{,}750}$	${\displaystyle 0{,}841}$	${\displaystyle -0{,}216}$	${\displaystyle -0{,}091}$
${\displaystyle 7}$	${\displaystyle 12{,}06}$	${\displaystyle 0{,}875}$	${\displaystyle 0{,}855}$	${\displaystyle -0{,}105}$	${\displaystyle 0{,}020}$
${\displaystyle 8}$	${\displaystyle 13{,}02}$	${\displaystyle 1{,}000}$	${\displaystyle 0{,}978}$	${\displaystyle -0{,}103}$	${\displaystyle 0{,}022}$

Hier bezeichnen ${\displaystyle x_{i}}$ die ${\displaystyle i}$-te Beobachtung, ${\displaystyle S(x_{i})}$ den Wert der Summenfunktion der ${\displaystyle i}$-ten Beobachtung und ${\displaystyle F_{0}(x_{i})}$ den Wert der Normalverteilungsfunktion an der Stelle ${\displaystyle x_{i}}$ mit den genannten Parametern. Die nächsten Spalten geben die oben angeführten Differenzen an. Der kritische Wert, der bei ${\displaystyle n=8}$ und ${\displaystyle \alpha =0{,}05}$ zur Ablehnung führte, wäre der Betrag ${\displaystyle 0{,}454}$.[2] Die größte absolute Abweichung in der Tabelle ist ${\displaystyle 0{,}459}$ in der 3. Zeile. Dieser Wert ist größer als der kritische Wert, daher wird die Hypothese abgelehnt. Es ist also zu vermuten, dass die Verteilungshypothese falsch ist. Das kann bedeuten, dass die abgefüllte Menge nicht mehr normalverteilt ist, dass sich die durchschnittliche Abfüllmenge ${\displaystyle \mu }$ verschoben hat oder auch, dass sich die Varianz ${\displaystyle \sigma ^{2}}$ der Abfüllmenge verändert hat.

Beim Einstichprobenproblem ist der KS-Test im Gegensatz etwa zum ${\displaystyle \chi ^{2}}$-Test auch für kleine Stichproben geeignet.[6]

Der Kolmogorow-Smirnow-Test ist als nichtparametrischer Test sehr stabil und unanfällig. Ursprünglich wurde der Test für stetig verteilte metrische Merkmale entwickelt; er kann aber auch für diskrete und sogar rangskalierte Merkmale verwendet werden. In diesen Fällen ist der Test etwas weniger trennscharf, d. h. die Nullhypothese wird seltener abgelehnt als im stetigen Fall.

Ein großer Vorteil besteht darin, dass die zugrundeliegende Zufallsvariable keiner Normalverteilung folgen muss. Dies macht den Test vielseitig einsetzbar, bedingt aber auch seinen Nachteil, denn der KS-Test hat allgemein eine geringe Teststärke.

Der Lilliefors-Test ist eine Anpassung des Kolmogorow-Smirnow-Tests für die Testung auf Normalverteilung mit unbekanntem Mittelwert und unbekannter Varianz. Mögliche Alternativen zum KS-Test sind der Cramér-von-Mises-Test, der für beide Anwendungsfälle geeignet ist, sowie der Anderson-Darling-Test für den Vergleich einer Stichprobe mit einer hypothetischen Wahrscheinlichkeitsverteilung.

• @1@2Vorlage:Toter Link/www.statistik.tuwien.ac.atKolmogorov-Smirnov-Test (Seite nicht mehr abrufbar, festgestellt im Dezember 2017. Suche in Webarchiven)
• Tabelle mit kritischen Werten
• Online-Version des K-S-Tests
• Online-Durchführung des Tests

1. Sulla determinazione empirica di una legge di distribuzione. In: Giornale dell’Istituto italiano degli attuari. Band IV, Nr. 1, 1933, S. 83–91 (italienisch, sbn.it).
2. Critical values for the Kolmogorov-Smirnov Test for goodness of fit. Archiviert vom Original am 18. August 2016; abgerufen am 18. Dezember 2016.
3. Lothar Sachs, Jürgen Hedderich: Statistik: Angewandte Statistik. 12. Auflage. Springer, Berlin/ Heidelberg 2006, S. 338.
4. Pearson E.S. and Hartley, H.O. (Hrsg.): Biometrika Tables for Statisticians. Band 2. Cambridge University Press, 1972, ISBN 0-521-06937-8, S. 117–123, Tables 54, 55 (englisch).
5. Tabelle der kritischen Werte für den Zweistichprobentest (Memento vom 13. Juni 2013 im Internet Archive) (PDF; 177 kB)
6. Jürgen Janssen, Wilfried Laatz: Statistische Datenanalyse mit SPSS für Windows. 6. Auflage. Springer, 2007, S. 569.