Bootstrap

机器学习5-多元线性回归

多元线性回归
主要了解多元线性回归的原理以及数学推导。

只有损失函数是凸函数才能确认是最优解,极值不一定是最优解
判定凸函数的方式非常多,其中一个方法是看黑塞矩阵是否是半正定的。
黑塞矩阵(hessian matrix)是由目标函数在点 X 处的二阶偏导数组成的对称矩阵

矩阵求导、几种重要的矩阵及常用的矩阵求导公式
在公式推到过程中需要使用的矩阵向量求导公式

;