R in a Nutshell

LASSO- und Least-Angle-Regression

Eine andere Strategie zur Schrumpfung der Koeffizienten und damit zur Reduzierung ihres Einflusses im endgültigen Modell ist die LASSO-Methode (Least Absolute Shrinkage and Selection Operator). Wie die Ridge-Regression rechnet die LASSO-Schätzung einen Strafterm zur Begrenzung der Gesamtgröße der Koeffizienten in das Modell ein, geht dabei aber etwas anders vor als der Ridge-Schätzer: LASSO berechnet den Strafterm auf die Summe der Koeffizientenbeträge statt der quadrierten Koeffizienten – die Koeffizienten werden um einen konstanten Betrag geschrumpft. (Mathematisch ausgedrückt, arbeitet die Ridge-Regression mit einem L²-Norm-Strafterm, LASSO demgegenüber mit einem L¹-Norm-Term.) Anders als bei der Ridge-Regression ...