icon-Regression Mathe Tutorial: Regressionsrechnung (curve fitting)

Rechner

Der Online-Rechner führt eine Ausgleichsrechnung nach der Methode der kleinsten Quadrate für folgende Funktionen durch: Ausgleichs­gerade, Potenz­approximation, Ausgleichs­polynom, Normal­verteilung und Fourier­approximation. Die Eingabe der Messwerte kann mittels einer Tabelle erfolgen oder alternativ können die Daten aus einer Datei eingelesen werden. Es werden die Parameter der Ausgleichsfunktion berechnet und die Funktion wird grafisch dargestellt.

Hier gehts zum Online-Rechner:

Regression

Regression oder Ausgleichsrechung bezeichnet Methoden um zu einer Reihe von Messdaten die Parameter einer vorgegebenen Funktion zu bestimmen bzw. bestmöglich anzunähern. Solche Verfahren werden auch als 'curve fitting' bezeichnet.

Methode der kleinsten Quadrate

Die Methode der kleinsten Quadrate besteht darin, die Parameter einer Kurve so zu bestimmen, dass die Abweichung im quadratischen Mittel minimal wird. In der Statistik wird das Verfahren zur Regressions­analyse verwendet.

Fourieranalyse

Die Entwicklung einer periodischen Funktion in eine Reihe trigonometrischer Funktionen leistet die Fourierreihe. Die Entwicklung einer Funktion in ihre Fourierreihe bezeichnet man als harmonische Analyse.

Mittelwerte und Standardabweichung

Die arithmetischen Mittel

x = 1 n i = 1 n x i

y = 1 n i = 1 n y i

Standardabweichung vom Mittelwert

σ = 1 n-1 i = 1 n x i - x 2

Für die Standardabweichung von der Ausgleichsgeraden ist der Mittelwert von x durch den jeweiligen Funktionswert der Geraden zu ersetzen. D.h. es wird die Abweichung der Messwerte von der Geraden verwendet.

Gewichteter Mittelwert und Standardabweichung

Der gewichtete Mittelwert μ wird gebildet, indem die Messwerte mit ihrem jeweiligen Gewicht yi multipliziert werden.

μ= i = 1 n x i y i i = 1 n y i

In der Standardabweichung sind ebenfalls die jeweiligen Gewichte yi zu berücksichtigen.

σ = i = 1 n x i - μ 2 y i i = 1 n y i

Ausgleichsgerade bei Exponentialfunktionen

Liegt den Messwerten ein exponentieller Zusammenhang zugrunde kann ebenfalls das lineare Modell für die Ausgleichsgerade verwendet werden. Dazu ist es erforderlich die Messwerte zu logarithmieren, weil sich dann durch Substitution wieder eine lineare Gleichung ergibt.

y = b a x

Logarithmieren führt auf eine lineare Gleichung.

ln y = ln b + x ln a

Mit den logarithmierten Messwerten y' und den Substitutionen a'= ln a und b'= ln b liegt das lineare Modell vor.

y' = b' + a' x

Regression

Die Regressionsrechnung dient der Ermittlung oder Schätzung von Modellparametern. Ausgangspunkt sind Messwerte und ein Modell, dass den Messwerten zugrunde liegen soll. Da die Messwerte im allgemeinen Störungen unterliegen optimiert die Regressionsrechnung die Modellparameter zu einer optimalen Anpassung. Das grundlegende Verfahren ist die Methode der kleinsten Quadrate.

Methode der kleinsten Quadrate

Die Methode der kleinsten Quadrate ist ein Verfahren der Ausgleichsrechnung. Mit der Methode wird ein optimaler Kompromiss berechnet, bei dem die Quadrate der Abweichungen von der Modellfunktion minimiert werden.

Bezüglich der Messwerte (xi,yi) und der Modellfunktion f soll die quadratische Abweichung minimiert werden. Um das zu erreichen, werden die Parameter ai der Modellfunktion so bestimmt, dass die folgende Bedingung erfüllt wird.

i = 1 n f x i a - y i 2 min

Modellfunktion: Lineare Ausgleichsgerade

Zur Bestimmung der Ausgleichsgeraden wird eine lineare Modellfunktion f bei der Methode der kleinsten Quadrate verwendet.

f x a = a 0 + a 1 x

Die Abweichung der Ausgleichsgeraden zu den Messwerten ist dann folgendermaßen gegeben.

a0+a1x1-y1=r1 a0+a1x2-y2=r2 a0+a1xn-yn=rn

Das Ziel beteht nun darin die Quadratsumme der Abweichungen r von der Geraden so klein wie möglich zu machen.

i = 1 n r i 2 = a0+a1x1-y1 2 + + a0+a1xn-yn 2 min

Das Extremum wird bestimmt, indem die partiellen Ableitungen nach a0 und a1 Null gesetzt werden.

a0 a0+a1x1-y1 2 + + a0+a1xn-yn 2 = 0

a1 a0+a1x1-y1 2 + + a0+a1xn-yn 2 = 0

Die Auflösung des Gleichungssystems liefert die Parameter a0 und a1 der Ausgleichsgeraden.

a0 =y-a1x

a1 = i = 1 n x i - x y i - y i = 1 n x i - x 2

Rechner: Ausgleichsgerade

Anzahl der Messpunkte n=

Eingabe der Messwerte: x1, y1, x2, y2, ...

Modellfunktion: Potenzfunktionen

Die Approximation einer Potenzfunktion erfolgt durch Rückführung auf die lineare Modellfunktion.

y = a x b

Logarithmieren führt auf eine lineare Gleichung.

ln y = ln a + b ln x

Mit den logarithmierten Messwerten y' und den Substitutionen a'= ln a und x'= ln x liegt das lineare Modell vor.

y' = a' + b x'

Rechner: Potenzfunktion

Anzahl der Messpunkte n=

Eingabe der Messwerte: x1, y1, x2, y2, ...

Approximation (fit) der Gauß-Verteilung an Messwerte

Die Gauß-Verteilung auch Normalverteilung genannt ist folgendermaßen definiert:

fx = 12πσe-12x-μ2σ2

Rechner: Normalverteilung

Die Anpassung (fit) der Gaussverteilung an die Messwerte erfolgt, indem der gewichtete Mittelwert der Messwerte gebildet wird. Der gewichtete Mittelwert entspricht dem μ in der Gaussverteilung. Die Standartabweichung der Messwerte von dem Mittelwert ist das σ in der Normalverteilung.

μ= i = 1 n x i y i i = 1 n y i

σ = i = 1 n x i - μ 2 y i i = 1 n y i

Anzahl der Messpunkte n=

Eingabe der Messwerte: x1, y1, x2, y2, ...

Modellfunktion: Periodisch (Fourierreihe)

Messwerte können auch durch periodische Funktionen angenähert werden. Das Verfahren dazu ist die Entwicklung einer Fourierreihe. Die Elemente der Fourierreihe sind die Sinus- und Cosinusfunktionen. Die Entwicklung erfolgt nach aufsteigenden Frequenzen.

Die Fourierreihe lautet:

snx= a 0 2 + k = 1 n a k cos k ω x + b k sin k ω x

mit den Fourierkoeffizienten ak und bk und ω = 2π/T. Dabei ist Periode T = b - a mit dem Intervallanfang a und dem Intervallende b.

Die Fourierkoeffizienten ak und bk erfüllen die kleinste Quadrate Bedingung für die zugehörige Sinus- bzw. Cosinusfunktion. Die Koeffizienten berechnen sich wie folgt.

ak= 2 l a b f x cos k ω x dx

bk= 2 l a b f x sin k ω x dx

Rechner: Fourier-Approximation

Fourierkoeffizienten

Die Fourierkoeffizienten ak und bk sind hier numerisch berechnet mit der Trapezmethode zur numerischen Integration. Die Genauigkeit kann verbessert werden, indem die Anzahl der Messwerte in dem Intervall erhöht wird.

Anzahl der Messpunkte n=

x-min=

x-max=

Anzahl der Fourierglieder k=

Eingabe der Messwerte: x1, y1, x2, y2, ...

Polynom-Approximation mit der QR-Methode

Das lineare Ausgleichsproblem wird mittels der QR-Zerlegung gelöst. Der Rechner bestimmt die Koeffizienten des Ausgleichspolynoms n-ten Grades.

Ausgangspunkt ist das überbestimmte Gleichungssystem:

Ax=b

mitxRnundARnxm

Die QR-Zerlegung führt auf die Faktorisierung der Matrix A:

A=QR

Damit gilt für das Ausgleichsproblem:

Ax-b22= QRx-b22= R*x-QT*b22

dabei sind R und Q auf den relevanten Anteil reduziert. D.h. R* ist die obere Dreiecksmatrix von R und QT* enthält die zugehörigen Zeilen von Q.

Ersetzten von A durch die Vandermond-Matrix mit den entsprechenden Messwerten xi und b durch die Messwerte yi ergibt als Lösung des Gleichungssystems die Koeffizienten des Ausgleichspolynoms.

Rechner: Polynom-Approximation

Anzahl der Messpunkte n=

Grad des Polynoms =

Eingabe der Messwerte: x1, y1, x2, y2, ...