Empirischen Wissenschaften zeichnen sich durch die Erhebung von Daten aus, auf deren Grundlage mathematische Modelle erstellt werden, die die beobachteten Phänomene darstellen sollen. Diese Modelle dienen als Grundlage zur Vorhersage künftiger Beobachtungen.

Die Abweichungen der vorhergesagten Werte von den tatsächlich beobachteten Werten, werden als Residuen bezeichnet. Je näher die vorhergesagte Werte an den beobachteten Daten liegen, desto geringer sind die Residuen des Modells.

Beispiel:

In der Mathematik gibt es zahlreiche verschiedene Modellarten. Eine häufig genutzte Modellart ist die lineare Regression, bei der eine abhängige Variable durch eine Linearkombination einer oder mehrerer unabhängiger Variablen modelliert wird. Das Ergebnis ist eine Geradengleichung:

ŷi = α + β × xi

Links des Gleichheitszeichens steht der vorhergesagte Wert. Auf der rechten Seite befindet sich eine unabhängige Variable, die zur Vorhersage dient. Die Abweichung der Vorhersage vom tatsächlichen Wert zeigt an, wie präzise das Modell ist. Die Abweichung ϵ, das Residuum, wird als Differenz des beobachteten Wertes von seiner Modellschätzung angeführt:

ϵ = yi − ŷi

Zusammenfassung: Das Residuum ist die Differenz zwischen beobachtetem Wert und der Vorhersage des Modells. Es zeigt an, wie gut das Modell die Wirklichkeit abbildet.