Erklärte Quadratsumme

In der Statistik ist die (durch die Regression) erklärte Quadratsumme, bzw. erklärte Abweichungsquadratsumme, kurz SQE für Summe der Quadrate der Erklärten Abweichungen (englisch sum of squared explained deviations, kurz SSE oder explained sum of squares, kurz ESS), Summe der Abweichungsquadrate der ${\hat {y}}$ -Werte, kurz $SAQ_{\hat {y}}$ , bzw. SAQ_Erklärt, oft auch Modellquadratsumme oder Regressionsquadratsumme, die Quadratsumme der Schätzwerte bzw. Regresswerte. Sie wird berechnet als Summe der Quadrate der zentrierten Schätzwerte und kann als „Gesamtvariation der Schätzwerte $\{{\hat {y}}_{i}\}$ “ („erklärte Variation“) interpretiert werden. Über die genaue Bezeichnung und ihre Abkürzungen gibt es international keine Einigkeit.[1] In der deutschsprachigen Literatur wird manchmal die deutsche Bezeichnung mit englischen Abkürzungen gebraucht.[2]

Diese Grafik zeigt die Quadratsummenzerlegung, d. h. die Zerlegung der totalen Quadratsumme in die erklärte Quadratsumme und die Residuenquadratsumme. Die Summe der grünen Abweichungsquadrate ist die erklärte Quadratsumme.

Definition

Die erklärte (Abweichungs-)Quadratsumme bzw. Regressionsquadratsumme ist definiert als Quadratsumme der durch die Regressionsfunktion erklärten Abweichungen $({\hat {y}}_{i}-{\overline {y}})$ :[1]

SQE=SQ_{\mathrm {Erkl{\ddot {a}}rt} }\equiv \sum _{i=1}^{n}({\hat {y}}_{i}-{\overline {y}})^{2}=\sum _{i=1}^{n}({\hat {y}}_{i}-{\overline {\hat {y}}})^{2}

Manchmal findet sich auch die Abkürzung $SQR$ bzw. $SQ_{\text{Regression}}$ . Dieser Ausdruck, kann allerdings leicht mit der „Residuenquadratsumme“ (englisch sum of squared residuals) verwechselt werden, die ebenfalls mit $SQR$ abgekürzt wird.

Wenn das zugrundeliegende lineare Modell ein von Null verschiedenes Absolutglied $\beta _{0}$ enthält, stimmt der empirische Mittelwert der Schätzwerte ${\hat {y}}_{i}$ mit dem der beobachteten Messwerte $y_{i}$ überein, also $\textstyle {\overline {\hat {y}}}={\tfrac {1}{n}}\sum \nolimits _{i=1}^{n}{\hat {y_{i}}}={\overline {y}}$ (für einen Beweis im multiplen Fall siehe Bestimmtheitsmaß#Matrixschreibweise). Die erklärte Quadratsumme misst die Streuung der Schätzwerte ${\hat {y}}_{i}$ um ihren Mittelwert ${\overline {\hat {y}}}={\overline {y}}$ . Das Verhältnis der durch die Regression erklärten Quadratsumme zur totalen Quadratsumme wird Bestimmtheitsmaß der Regression genannt.

Einfache lineare Regression

In der einfachen linearen Regression (Modell mit nur einer erklärenden Variable) $y_{i}=\beta _{0}+x_{i}\beta _{1}+\varepsilon _{i}$ lässt sich die erklärte Quadratsumme auch wie folgt ausdrücken:

SQE=\sum _{i=1}^{n}({\hat {y}}_{i}-{\overline {y}})^{2}=\sum _{i=1}^{n}({\hat {y}}_{i}-({\hat {\beta }}_{0}+{\hat {\beta }}_{1}{\overline {x}}))^{2}

.

Hierbei stellen die ${\hat {y}}_{i}={\hat {\beta }}_{0}+{\hat {\beta }}_{1}x$ die vorhergesagten Werte dar und ${\hat {\beta }}_{0}$ ist die Schätzung des Absolutglieds und ${\hat {\beta }}_{1}$ die Schätzung des Steigungsparameters. Aus dieser Schreibweise lässt sich erkennen, dass sich die erklärte Quadratsumme auch darstellen lässt als Produkt aus dem Quadrat des Bravais-Pearson-Korrelationskoeffizienten $r_{xy}^{2}$ und der totalen Quadratsumme $SQT$ :[3]

SQE=SQT\cdot r_{xy}^{2}

,

wobei ${\hat {\beta }}_{1}$ der Kleinste-Quadrate-Schätzer für die Steigung ${\hat {\beta }}_{1}=SP_{xy}/SQ_{x}$ der Quotient aus Produktsumme von $x$ und $y$ und Quadratsumme von $x$ ist. Um dies zu zeigen, muss zunächst gezeigt werden, dass wenn das zugrundeliegende lineare Modell ein von Null verschiedenes Absolutglied $\beta _{0}$ enthält, der empirische Mittelwert der Schätzwerte ${\hat {y}}_{i}$ mit dem der beobachteten Messwerte $y_{i}$ übereinstimmt. Dies gilt, wegen[4]

{\overline {\hat {y}}}={\frac {1}{n}}\sum _{i=1}^{n}{\hat {y_{i}}}={\frac {1}{n}}\sum _{i=1}^{n}({\hat {\beta }}_{0}+{\hat {\beta }}_{1}x_{i})={\hat {\beta }}_{0}+{\hat {\beta }}_{1}{\overline {x}}={\overline {y}}-{\hat {\beta }}_{1}{\overline {x}}+{\hat {\beta }}_{1}{\overline {x}}={\overline {y}}

und daher

{\begin{aligned}SQE&=\sum \nolimits _{i=1}^{n}({\hat {y}}_{i}-{\overline {y}})^{2}=\displaystyle \sum \nolimits _{i=1}^{n}({\hat {y}}_{i}-{\overline {\hat {y}}})^{2}\\&=\displaystyle \sum \nolimits _{i=1}^{n}(({\hat {\beta }}_{0}+{\hat {\beta }}_{1}x_{i})-({\hat {\beta }}_{0}+{\hat {\beta }}_{1}{\overline {x}}))^{2}\\&=\displaystyle \sum \nolimits _{i=1}^{n}({\hat {\beta }}_{1}(x_{i}-{\overline {x}}))^{2}\\&={\hat {\beta }}_{1}^{2}\displaystyle \sum \nolimits _{i=1}^{n}\left(x_{i}-{\overline {x}}\right)^{2}\\&={\hat {\beta }}_{1}^{2}SQ_{x}\\&=SQT\cdot r_{xy}^{2}\end{aligned}}

,

wobei der letzte Schritt aus der Tatsache folgt, dass sich ${\hat {\beta }}_{1}$ auch schreiben lässt als:

{\hat {\beta }}_{1}={\frac {{\sqrt {\displaystyle \sum \nolimits _{i=1}^{n}\left(x_{i}-{\bar {x}}\right)^{2}}}{\sqrt {\displaystyle \sum \nolimits _{i=1}^{n}\left(y_{i}-{\bar {y}}\right)^{2}}}}{\displaystyle \sum \nolimits _{i=1}^{n}\left(x_{i}-{\bar {x}}\right)^{2}}}r_{xy}

.

Durch die Quadratsummenzerlegung $SQT=SQE+SQR$ bzw. $SQE=SQT-SQR$ kann man durch ersetzen von $SQE=SQT-SQR$ in $SQE=SQT\cdot r_{xy}^{2}$ auf diesem Wege ebenfalls die folgende Darstellung für die Residuenquadratsumme $SQR$ finden:

SQR=SQT\cdot (1-r_{xy}^{2})

.

Matrixschreibweise

In Matrixschreibweise kann die erklärte Quadratsumme wie folgt ausgedrückt werden

SQE=\left({\hat {\mathbf {y} }}-{\overline {\mathbf {y} }}\right)^{\top }\left({\hat {\mathbf {y} }}-{\overline {\mathbf {y} }}\right)={\hat {\mathbf {y} }}^{\top }{\hat {\mathbf {y} }}-n{\overline {\hat {y}}}^{2}=\mathbf {b} ^{\top }\mathbf {X} ^{\top }\mathbf {y} -n{\overline {y}}^{2}

.

Hierbei ist ${\overline {\mathbf {y} }}$ ein Vektor mit den Elementen ${\overline {y}}$ und ${\hat {\mathbf {y} }}$ ist definiert durch ${\hat {\mathbf {y} }}=\mathbf {X} \mathbf {b}$ , wobei $\mathbf {b} =\left(\mathbf {X} ^{\top }\mathbf {X} \right)^{-1}\mathbf {X} ^{\top }\mathbf {y}$ den Kleinste-Quadrate-Schätzvektor und $\mathbf {X}$ die Datenmatrix darstellt.

Einzelnachweise

Jeffrey Marc Wooldridge: Introductory econometrics: A modern approach. 4. Auflage. Nelson Education, 2015, S. 39.
Moosmüller, Gertrud. Methoden der empirischen Wirtschaftsforschung. Pearson Deutschland GmbH, 2008. S. 239.
Werner Timischl: Angewandte Statistik. Eine Einführung für Biologen und Mediziner. 2013, 3. Auflage, S. 315.
Ludwig Fahrmeir, Rita Künstler, Iris Pigeot, Gerhard Tutz: Statistik. Der Weg zur Datenanalyse. 8., überarb. und erg. Auflage. Springer Spektrum, Berlin/ Heidelberg 2016, ISBN 978-3-662-50371-3, S. 151.

This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. Additional terms may apply for the media files.

[Wooldridge40-1] Jeffrey Marc Wooldridge: Introductory econometrics: A modern approach. 4. Auflage. Nelson Education, 2015, S. 39.

[2] Moosmüller, Gertrud. Methoden der empirischen Wirtschaftsforschung. Pearson Deutschland GmbH, 2008. S. 239.

[3] Werner Timischl: Angewandte Statistik. Eine Einführung für Biologen und Mediziner. 2013, 3. Auflage, S. 315.

[4] Ludwig Fahrmeir, Rita Künstler, Iris Pigeot, Gerhard Tutz: Statistik. Der Weg zur Datenanalyse. 8., überarb. und erg. Auflage. Springer Spektrum, Berlin/ Heidelberg 2016, ISBN 978-3-662-50371-3, S. 151.