Bootstrap

机器学习线性回归算法实验报告_机器学习理论(二)简单线性回归

d29599cecab753e301014c416216b1f2.png

(小小:机器学习的经典算法与应用)

(小小:机器学习理论(一)KNN-k近邻算法)

(小小:机器学习理论(二)简单线性回归)

(小小:机器学习理论(三)多元线性回归)

(小小:机器学习理论(四)线性回归中的梯度下降法)

(小小:机器学习理论(五)主成分分析法)

(小小:机器学习理论(六)多项式回归)

(小小:机器学习理论(七)模型泛化)

(小小:机器学习理论(八)逻辑回归)

(小小:机器学习理论(九)分类算法的评价)

(小小:机器学习理论(十)支持向量机)

(小小:机器学习理论(十一)决策树)

(小小:机器学习理论(十二)集成学习)

(小小:机器学习理论(十三)Kmeans聚类)


一、最小二乘法

二、实现简单的线性回归算法

三、使用面向对象编程实现

四、向量化运算

五、线性回归算法的评价

六、最好的衡量线性回归算法的指标


前言

思想简单,是许多强大的非线性模型的基础,具有很好的可解释性。背后有强大的数学理论支持。
其本质: 寻找一条直线,最大程度地去拟合样本特征和样本输出标记之间的关系

fe331ffcda03273fb74222edf26d499c.png

​ 之所以称为简单线性回归是因为样本特征只有一个。假设我们已经找到最佳拟合直线方程

,对于每个样本点
根据直线方程我们就能预测出
,其真值为
,我们希望预
;