我使用线性回归与套索实现在Scikit学习包。linear_regress = linear_model.Lasso(alpha = 2)
linear_regress.fit(X, Y)
对于X,有7827个示例和758个特性。
但是我得到一个警告:Objective did not converge for target 0, you might want to increase the number of iterations ' to increase the number of iterations')
同时,交叉验证的MAE为0.00304247702091
然后,我按照它的建议增加迭代次数。(我认为我做得对):linear_regress = linear_model.Lasso(alpha = 2, max_iter = 100000, tol = 1e-20)
但是警告仍然存在,MAE增加到0.0191056040626,这更糟。
有人知道怎么解决这个问题吗?
顺便说一下,对于交叉验证的结果,训练数据的MAE远小于测试数据的MAE,例如(alpha=2):The MAE on the TRAINING data is 6.3462754706e-14
The MAE on the TEST data is 0.238521024414
我以为是过度装修。但是增加alpha并没有多大帮助,例如(alpha=5)The MAE on the TRAINING data is 1.29613883816e-13
The MAE on the TEST data is 0.0677816327262
增加α也会使平均MAE增加。
提前谢谢!