Lasas susitraukia taip, kad apribojime būtų „kampų“, kurie dviem matmenimis atitinka deimantą. Jei kvadratų suma „attaiko“į vieną iš šių kampų, tada ašį atitinkantis koeficientas sumažinamas iki nulio. … Vadinasi, laso atlieka susitraukimą ir (efektyviai) pogrupio pasirinkimą.
Kodėl laso koeficientas nulinis?
Lasas susitraukia taip, kad apribojime būtų „kampų“, kurie dviem matmenimis atitinka deimantą. Jei kvadratų suma „attaiko“į vieną iš šių kampų, tada ašį atitinkantis koeficientas sumažinamas iki nulio.
Kodėl lasso susitraukia iki nulio, bet ne Ridge?
Sakoma, kad kadangi LASSO apribojimo forma yra deimantas, gautas mažiausių kvadratų sprendimas gali liesti deimanto kampą taip, kad dėl to susitrauktų koks nors kintamasis. Tačiau keteros regresijos atveju, kadangi tai yra apskritimas, jis dažnai nelies ašies
Kodėl keteros regresijos koeficientai susitraukia?
Ridžo regresija sutraukia visus regresijos koeficientus iki nulio; lasso linkęs duoti nulinių regresijos koeficientų rinkinį ir veda į retą sprendimą. Atkreipkite dėmesį, kad ir keteros regresijos, ir laso regresijos koeficientai gali pasikeisti iš teigiamų į neigiamas vertes, nes jos sumažėja iki nulio.
Ar laso koeficientai yra šališki?
… imties dydis didėja, koeficiento įverčiai nesutampa].
