小小程序员
2021-05-14 18:22:58
Lasso Regression套索回归
它类似于岭回归，Lasso （Least Absolute Shrinkage and Selection Operator）也会惩罚回归系数的绝对值大小。此外，它能够减少变化程度并提高线性回归模型的精度。看看下面的公式：
Lasso 回归与Ridge回归有一点不同，它使用的惩罚函数是绝对值，而不是平方。这导致惩罚（或等于约束估计的绝对值之和）值使一些参数估计结果等于零。使用惩罚值越大，进一步估计会使得缩小值趋近于零。这将导致我们要从给定的n个变量中选择变量。
要点：
除常数项以外，这种回归的假设与最小二乘回归类似；
它收缩系数接近零（等于零），这确实有助于特征选择；
这是一个正则化方法，使用的是L1正则化；
· 如果预测的一组变量是高度相关的，Lasso 会选出其中一个变量并且将其它的收缩为零。
条内容