week2-1多变量线性回归

多维特征

  • 多变量线性回归模型:

多变量代价函数

多变量梯度下降

  • 定义:一种求函数最小值的算法,可以用这个方法求代价函数

  • 更新规则:

数据集预处理之特征缩放

  • 作用:加快梯度下降法的收敛速度; 统一特征的权重&提升模型准确性

  • 方法:

机器学习玄学之学习率

  • 学习率a
    • a小,收敛所需epoch大,也有可能收敛至局部极值点,找不到最优解。

    • a大,可能收敛不了,跳过最优值。

特征和多项式回归

与梯度下降算法适用条件不同算法-正规方程

梯度下降与正规方程的比较

推导拓展(推导出正规方程公式):