1. 概述
对于回归而言,模型性能的好坏主要体现在拟合的曲线与真实曲线的误差。主要的评价指标包括:拟合优度/R-Squared,校正决定系数(Adjusted R-square),均方误差(MSE),均方根误差(RMSE),误差平方和(SSE),平均绝对误差(MAE),平均绝对百分比误差(MAPE)。
1. 均方误差
(Mean Squared Error,MSE):观测值与真值偏差的平方和与观测次数的比值:
要点:
- MSE相当于模型中的损失函数,线性回归过程中尽量让该损失函数最小。
- 模型之间的对比也可以用它来比较。
- MSE可以评价模型的预测精度,MSE的值越小,说明预测模型对于目标的拟合程度越精确。
2. 均方根误差(标准误差)
(Root Mean Squard Error,RMSE):均方误差的算术平方根。
要点:
- 均方根误差是用来衡量观测值同真值之间的偏差。
- 它的意义在于开个根号后,误差的结果就与数据是一个级别的,可以更好地来描述数据。
- 标准误差对一组测量中的特大或特小误差反映非常敏感(易受异常值的影响),
- 所以,标准误差能够很好地反映出测量的精密度。这正是标准误差在工程测量中广泛被采用的原因。
3. 平均绝对误差
(Mean Absolute Error,MAE):平均绝对误差是绝对误差的平均值
4、平均绝对百分比误差(MAPE)
平均绝对百分比误差(Mean Absolute Percentage Error),与RMSE相比,更加鲁棒
,因为MAPE对每个点的误差进行了归一化。
5. 拟合优度/R-squared
- 分子就是我们训练出的模型预测的误差和。
- 分母就是瞎猜的误差和。(通常取观测值的平均值)
如果结果是0,就说明我们的模型跟瞎猜差不多。
如果结果是1。就说明我们模型无错误。
- R 2 介于0~1之间,越接近1,回归拟合效果越好,
一般认为超过0.8的模型拟合优度比较高
。
化简上面的公式分子分母同时除以m,那么分子就变成了我们的均方误差MSE,下面分母就变成了方差。
6. 校正决定系数(Adjusted R-square)
其中,n为样本数量,p为特征数量。
取值范围还是负无穷到1,大多是 0~1,且越大越好