Zufallsstichprobe

Das Literary-Digest-Desaster von 1936 zeigt auf, was passieren kann, wenn keine Zufallsstichprobe aus der Grundgesamtheit gezogen wird.[1] Eine verzerrte Stichprobe führte zu einer vollständig falschen Wahlprognose.

Eine Befragung von Wählern, nachdem sie aus der Wahlkabine gekommen sind, bzgl. ihres Wahlverhaltens ist eine uneingeschränkte Zufallsstichprobe (wenn kein Befragter die Antwort verweigert) bzgl. der Wähler. Sie ist jedoch keine (uneingeschränkte) Zufallsstichprobe bzgl. der Wahlberechtigten.

Der Einzelhandel beklagt immer wieder, dass durch Diebstahl von Waren durch eigene Mitarbeiter große Schäden verursacht werden.[2] Deswegen führen größere Supermärkte unter anderem eine Taschenkontrolle durch, wenn Mitarbeiter den Supermarkt verlassen. Da eine vollständige Taschenkontrolle aller Angestellten zu aufwändig wäre (und dies vermutlich auch als Arbeitszeit bezahlt werden müsste), gehen die Angestellten beim Verlassen des Supermarktes durch den Personalausgang an einer Lampe vorbei. Sie zeigt computergesteuert entweder ein grünes Licht (Angestellter wird nicht kontrolliert) oder ein rotes Licht (Angestellter wird kontrolliert). Diese Auswahl ist dann eine einfache Zufallsauswahl.

In der mathematischen Statistik sind Zufallsstichproben die Grundlage für den Rückschluss von der Stichprobe auf Eigenschaften der Grundgesamtheit. Die Stichprobenwerte ${\displaystyle x_{1},\dotsc ,x_{n}}$ werden dann als Realisierungen der Zufallsvariablen ${\displaystyle X_{1},\dotsc ,X_{n}}$ betrachtet. Diese Zufallsvariablen werden als Stichprobenvariablen bezeichnet und geben an, mit welcher Wahrscheinlichkeit bei der ${\displaystyle i}$-ten Ziehung mit einem bestimmten Auswahlverfahren ein bestimmtes Element der Grundgesamtheit gezogen werden kann.

Wurde eine einfache Zufallsstichprobe gezogen, so kann man zeigen, dass die Stichprobenvariablen ${\displaystyle X_{i}}$ stochastisch unabhängig und identisch verteilt sind (Abkürzung i.i.d., aus dem engl. independent and identically distributed). D. h., der Verteilungstyp und die Verteilungsparameter aller Stichprobenvariablen sind gleich der Verteilung in der Grundgesamtheit (identically distributed), und aufgrund der Unabhängigkeit der Ziehungen sind die Stichprobenvariablen auch unabhängig voneinander (independent).

Bei vielen Problemen in der induktiven Statistik wird vorausgesetzt, dass die Stichprobenvariablen i.i.d. sind. Anderenfalls sind die Stichprobenwerte die Komponenten eines Vektors ${\displaystyle (x_{1},\ldots ,x_{n})}$, der die Realisation eines Zufallsvektors ${\displaystyle (X_{1},\ldots ,X_{n})}$ ist, dessen mehrdimensionale Wahrscheinlichkeitsverteilung durch das jeweilige Stichprobendesign bestimmt ist.

Die geordneten Stichprobenwerte entstehen, wenn die Werte ${\displaystyle (x_{1},\dots ,x_{n})}$ einer Stichprobe einen Größenvergleich erlauben und der Größe nach angeordnet werden.[3][4] Meistens erfolgt die Anordnung nichtfallend, so dass ${\displaystyle x_{[1]}\leq x_{[2]}\leq \dots \leq x_{[n]}}$ gilt. Man nennt den Vektor ${\displaystyle (x_{1},\dots ,x_{n})}$ oft kurz Stichprobe und den Vektor ${\displaystyle (x_{[1]},\dots ,x_{[n]})}$ dann geordnete Stichprobe. Beispielsweise führt die Stichprobe ${\displaystyle (x_{1},\dots ,x_{5})=(1,3,2,4,2)}$ zur geordneten Stichprobe ${\displaystyle (x_{[1]},\dots ,x_{[5]})=(1,2,2,3,4)}$. Es sind verschiedenen Notationen für die aufsteigend geordneten Stichprobenwerte üblich, z. B. auch ${\displaystyle x_{(1)},x_{(2)},\dots ,x_{(n)}}$ oder ${\displaystyle x_{1:n},x_{2:n},\dots ,x_{n:n}}$.

Es gibt eine entsprechende Verallgemeinerung für einen Vektor unabhängig und identisch verteilter reeller Zufallsvariablen ${\displaystyle (X_{1},\dots ,X_{n})}$.[3][4] Die ${\displaystyle i}$-te Komponente der geordneten Stichprobe ${\displaystyle (X_{[1]},\dots ,X_{[n]})}$ heißt ${\displaystyle i}$-te Ordnungsstatistik oder ${\displaystyle i}$-te Ranggröße.[3] Die geordnete Stichprobe heißt auch Positionsstichprobe oder Variationsreihe.[3] Die ${\displaystyle i}$-te Ordnungsstatistik heißt auch Positionsstichprobenfunktion ${\displaystyle i}$-ten Rangs.[3] Die geordnete Stichprobe ${\displaystyle (X_{[1]},\dots ,X_{[n]})}$ spielt eine zentrale Rolle in der nichtparametrischen Statistik, da sie eine suffiziente und vollständige Statistik ist.[5]

Bei Analysen mit mehr als einer Stichprobe muss zwischen abhängigen und unabhängigen Stichproben unterschieden werden. Statt von einer abhängigen Stichprobe spricht man auch von verbundenen Stichproben[6] oder gepaarten Stichproben[7].

Abhängige Stichproben treten meist bei wiederholten Messungen an dem gleichen Untersuchungsobjekt auf. Zum Beispiel besteht die erste Stichprobe aus Personen vor der Behandlung mit einem bestimmten Medikament, und die zweite Stichprobe aus denselben Personen nach der Behandlung, d. h., die Elemente von zwei (oder mehr) Stichproben können einander jeweils paarweise zugeordnet werden.

Bei unabhängigen Stichproben besteht kein Zusammenhang zwischen den Elementen der Stichproben. Dies ist beispielsweise der Fall, wenn die Elemente der Stichproben jeweils aus unterschiedlicher Population kommen. Die erste Stichprobe besteht beispielsweise aus Frauen, und die zweite Stichprobe aus Männern, oder wenn Personen nach dem Zufallsprinzip in zwei oder mehrere Gruppen aufgeteilt werden.

Formal bedeutet dies für die Stichprobenvariablen ${\displaystyle X_{ij}}$ (mit ${\displaystyle i}$ das ${\displaystyle i}$te Untersuchungsobjekt und ${\displaystyle j}$ die ${\displaystyle j}$te Messung):

• bei unabhängigen Stichproben: Alle Stichprobenvariablen ${\displaystyle X_{ij}}$ sind unabhängig voneinander.
• bei abhängigen Stichproben: Die Stichprobenvariablen der ersten Stichprobe ${\displaystyle X_{11},\dotsc ,X_{n1}}$ sind unabhängig voneinander, jedoch gibt es eine Abhängigkeit zwischen den Stichprobenvariablen ${\displaystyle X_{i1},\dotsc ,X_{ip}}$, da sie am gleichen Untersuchungsobjekt ${\displaystyle i}$ erhoben werden.

Der Stichprobenumfang (auch Stichprobenlänge[8] oder Stichprobengröße genannt) ist die Anzahl der Einheiten in einer Stichprobe. Der effektive Stichprobenumfang oder die effektive Stichprobenlänge[8] ist die Anzahl verschiedener Einheiten der Grundgesamtheiten in der Stichprobe. Im Falle einer einfachen Zufallsstichprobe ist es in der Regel so, dass die statistischen Kenngrößen umso besser werden, desto größer der Stichprobenumfang ist (siehe z. B. die Tabelle in diesem Abschnitt). Daher kann der Stichprobenumfang häufig so geplant werden, dass bestimmte Genauigkeitsanforderungen erfüllt sind.

Wenn die Ziehungen aus der Grundgesamtheit jedoch nicht unabhängig voneinander erfolgen können (z. B. bei Zeitreihen bzw. bei stochastischen Prozessen), kann es passieren, dass die Erhöhung des Stichprobenumfangs zur Verschlechterung der statistischen Kenngrößen (z. B. der Varianz) führt.

Der Stichprobenumfang wird häufig auch durch Normen bzw. Erfahrungswerte festgelegt. Durch eine geeignete Wahl des Stichprobenumfangs und die Anwendung von Methoden zur Verringerung systematischer Fehler können statistisch belastbare Ergebnisse erzielt werden.

Der notwendige Stichprobenumfang ist die Anzahl der Stichprobenwerte, z. B. der für eine Prüfung benötigten Proben einer Grundgesamtheit, die notwendig ist, um statistische Kenngrößen mit einer vorgegebenen Genauigkeit mittels Schätzung zu ermitteln. Die notwendige Stichprobengröße ist für Methoden des Maschinellen Lernens durch die Stichprobenkomplexität gegeben.

Wenn ${\displaystyle \theta }$ der unbekannte Parameter in der Grundgesamtheit ist, dann wird eine Schätzfunktion ${\displaystyle T_{n}=T(X_{1},\dotsc ,X_{n})}$ in Abhängigkeit von den Stichprobenvariablen ${\displaystyle X_{1},\dotsc ,X_{n}}$ konstruiert. Der Erwartungswert der Zufallsvariablen ${\displaystyle T_{n}}$ ist meist ${\displaystyle \operatorname {E} (T_{n})=\theta }$. Es soll der Stichprobenumfang bestimmt werden, der notwendig ist, damit die Genauigkeitsanforderung

${\displaystyle P(\theta -e\leq T_{n}\leq \theta +e)=1-\alpha }$

erfüllt ist. Dabei ist ${\displaystyle T_{n}}$ ein Punktschätzer (oder eine Punktschätzfunktion) des unbekannten Parameters ${\displaystyle \theta }$, ${\displaystyle e}$ ist der vorgegebene tolerierte absolute Fehler und ${\displaystyle 1-\alpha }$ die vorgegebene Wahrscheinlichkeit dafür, dass die Schätzfunktion ${\displaystyle T_{n}}$ eine Realisierung im zentralen Schwankungsintervall ${\displaystyle [\theta -e,\theta +e]}$ annimmt, also ${\displaystyle P(|T_{n}-\theta |\leq e)=1-\alpha }$ gilt.

Der absolute Fehler ist häufig gleich ${\displaystyle e=c_{1-\alpha /2}\sigma _{T_{n}}}$, wobei ${\displaystyle c_{1-\alpha /2}}$ ein Quantil der Wahrscheinlichkeitsverteilung von ${\displaystyle T_{n}}$ ist und ${\displaystyle \sigma _{T_{n}}={\sqrt {\operatorname {Var} (T_{n})}}}$ die Standardabweichung der Schätzfunktion ${\displaystyle T_{n}}$ ist, die häufig proportional zu ${\displaystyle 1/{\sqrt {n}}}$ ist. Es ist also

${\displaystyle P\left(\theta -c_{1-\alpha /2}\sigma _{T_{n}}\leq T_{n}\leq \theta +c_{1-\alpha /2}\sigma _{T_{n}}\right)=1-\alpha }$.

Die folgende Tabelle gibt für den unbekannten Mittelwert ${\displaystyle \mu }$ bzw. den unbekannten Anteilswert ${\displaystyle \pi }$ eine Abschätzung des notwendigen Stichprobenumfanges an. In allen Fällen ist ${\displaystyle T_{n}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}}$ die Schätzfunktion für ${\displaystyle \theta }$.

Unbekannter Parameter ${\displaystyle \theta }$	Bedingung	e		Abschätzung des notwendigen Stichprobenumfangs
		${\displaystyle c_{1-\alpha /2}}$	${\displaystyle \sigma _{T_{n}}}$
${\displaystyle \mu }$	${\displaystyle X_{i}\sim N(\mu$ ;\sigma )} und ${\displaystyle \sigma }$ bekannt	${\displaystyle z_{1-\alpha /2}}$	${\displaystyle {\frac {\sigma }{\sqrt {n}}}}$	${\displaystyle n\geq {\frac {z_{1-\alpha /2}^{2}\sigma ^{2}}{e^{2}}}}$
	${\displaystyle X_{i}\sim N(\mu$ ;\sigma )} und ${\displaystyle \sigma }$ unbekannt	${\displaystyle t_{n-1;1-\alpha /2}}$	${\displaystyle {\frac {s}{\sqrt {n}}}}$	${\displaystyle n\geq {\frac {t_{n-1;1-\alpha /2}^{2}s^{2}}{e^{2}}}}$
	${\displaystyle X_{i}\sim (\mu$ ;\sigma )} und ${\displaystyle n>30}$	${\displaystyle z_{1-\alpha /2}}$	${\displaystyle {\frac {s}{\sqrt {n}}}}$	${\displaystyle n\geq {\frac {z_{1-\alpha /2}^{2}s^{2}}{e^{2}}}}$
${\displaystyle \pi }$	${\displaystyle X_{i}\sim \operatorname {Ber} (\pi )}$ und ${\displaystyle n\pi (1-\pi )\geq 9}$	${\displaystyle z_{1-\alpha /2}}$	${\displaystyle {\sqrt {\frac {\pi (1-\pi )}{n}}}\leq {\frac {1}{\sqrt {4n}}}}$	${\displaystyle n\geq {\frac {z_{1-\alpha /2}^{2}}{4e^{2}}}}$

In der Tabelle bezeichnen ${\displaystyle N(\mu$ ;\sigma )} eine Normalverteilung, ${\displaystyle \operatorname {Ber} (\pi )}$ eine Bernoulli-Verteilung, ${\displaystyle z_{p}}$ das p-Quantil einer Standardnormalverteilung und ${\displaystyle t_{n-1;p}}$ das p-Quantil einer t-Verteilung mit ${\displaystyle n-1}$ Freiheitsgraden. Die vorletzte Zeile beruht auf einer asymptotisch (für ${\displaystyle n\to \infty }$) begründeten Approximation der Verteilung von ${\displaystyle T_{n}}$ durch eine Normalverteilung. Die letzte Zeile der Tabelle beruht auf einer asymptotisch begründeten Approximation der Binomialverteilung durch eine Normalverteilung und der Oberschranke ${\displaystyle 1/(4n)}$ für die Varianz ${\displaystyle \pi (1-\pi )/(4n)}$. Zu beachten ist, dass in der zweiten und dritten Zeile vor der Stichprobenziehung die Größe ${\displaystyle s^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}$ unbekannt ist und z. B. aus einer Stichprobe vor eigentlichen Stichprobe, einer sogenannten Vorstichprobe, bestimmt werden muss.

Benötigte Stichprobenumfänge bei einfacher Zufallsauswahl

Eine Partei hat in einer Umfrage kurz vor der Wahl 6 % erreicht. Welchen Umfang muss eine Wählerbefragung am Wahltag mit ${\displaystyle 1-\alpha =95\,\%}$ Sicherheit haben, damit der wahre Anteilswert mit einer Genauigkeit von ${\displaystyle e=1\,\%}$ ermittelt werden kann?

${\displaystyle n\geq {\frac {1{,}96^{2}}{4\cdot 0{,}01^{2}}}=9604}$

bzw. etwas genauer

${\displaystyle n\geq {\frac {1{,}96^{2}\cdot 0{,}06\cdot 0{,}94}{0{,}01^{2}}}\approx 2167}$.

D. h., bei der etwas genaueren Abschätzung des Stichprobenumfanges für den Anteilswert ergibt sich, dass immer noch 2167 Wähler befragt werden müssen, um mit einer Genauigkeit von 1 % das Wahlergebnis zu erhalten. Die Grafik rechts zeigt, welche Stichprobenumfänge nötig sind für einen bestimmten geschätzten Anteilswert und eine gegebene Sicherheit.

In der Werkstoffprüfung ist ein Stichprobenumfang von 10 pro 1000 produzierten Teilen durchaus üblich. Er ist u. a. von der Sicherheitsrelevanz des Bauteils oder des Werkstoffes abhängig. Bei den zerstörenden Prüfungen wie zum Beispiel beim Zugversuch wird versucht, den Prüfaufwand und damit die Stichprobe möglichst klein zu halten. Bei der zerstörungsfreien Prüfung – z. B. bei Bildverarbeitungs­systemen für die Vollständigkeitsprüfung – wird häufig eine 100-%-Kontrolle durchgeführt, um Fehler in der Produktion möglichst schnell zu erkennen.