1 正规方程优化
  • sklearn.linear_model.LinearRegression(fit_intercept=True)
    • fit_intercept：是否计算偏置
  • 属性：
    • LinearRegression.coef_：回归系数
    • LinearRegression.intercept_：偏置
2 梯度下降学习

它支持不同的loss函数和正则化惩罚项来拟合线性回归模型。

  • sklearn.linear_model.SGDRegressor(loss="squared_loss", fit_intercept=True, learning_rate ='invscaling', eta0=0.01)
    • loss:损失类型->”squared_loss”: 普通最小二乘法
    • fit_intercept：是否计算偏置
    • learning_rate: 学习率填充
      • 'constant': eta = eta0
      • 'optimal': eta = 1.0 / (alpha * (t + t0)) [default]
      • 'invscaling': eta = eta0 / pow(t, power_t)
        power_t=0.25:存在父类当中
      • 对于一个常数值的学习率来说，可以使用learning_rate=’constant’ ，并使用eta0来指定学习率。
  • 属性：
    • SGDRegressor.coef_：回归系数
    • SGDRegressor.intercept_：偏置