R in a Nutshell

Schrittweise Prädiktorselektion

Eine einfache Technik zur Auswahl der Variablen mit dem größten Vorhersagebeitrag ist die schrittweise Regression. Diese arbeitet wahlweise, indem sie Variablen nacheinander zum Modell hinzufügt (Vorwärts-Technik) oder sie daraus entfernt (Rückwärts-Technik) und nach jedem Schritt prüft, ob sich das Modell verbessert hat. Kann der Algorithmus keine Verbesserung durch Änderung des Modells mehr feststellen, bricht er ab und gibt das angepasste und häufig auch kleinere Modell zurück.

Dabei muss berücksichtigt werden, dass »Verbesserung« nicht einfach nur mit der Verringerung der Fehlerquadratsumme (Residual Sum of Squares, RSS) des angepassten Modells gleichgesetzt werden darf. Konzeptbedingt kann sich die Fehlerquadratsumme ...