机器学习 模型对比的误差 模型误差和方法误差

文章目录

• 1.模型误差
• 2.观测误差
• 3.截断误差(或称方法误差)
• 4.舍入误差
• 参考文献

  用计算机来解决科学计算问题的过程中，主要需考虑四种误差：模型误差、观测误差、截断误差(或称方法误差)、舍入误差。

1.模型误差

  用计算机解决科学计算问题首先要建立数学模型，它是对被描述的实际问题进行抽象、简化而得到的，因而是近似的。我们把数学模型与实际问题之间出现的这种误差称为模型误差。
  例如，在辨识机器人动力学参数时，机器人关节的摩擦力/力矩模型通常近似为一阶模型：$\tau=f_csign(\dot{q})+f_v\dot{q}$，将动力学方程线性化之后，使得整个动力学参数辨识模型为线性最小二乘模型，大大简化了求解难度且提高模型求解的鲁棒性。事实上，在低速时，关节摩擦力/矩与关节速度之间为非线性关系。

2.观测误差

  在数学模型中往往还有一些根据观测得到的物理量，这些物理量显然也包含误差。这种由观测产生的误差称为观测误差。

3.截断误差(或称方法误差)

  由实际问题建立起来的数学模型，在很多情况下要得到准确解是困难的，通常要用数值方法求它的近似解，例如常把无限的计算过程用有限的计算过程代替，这种模型的准确解和由数值方法求出的近似解之间的误差称为截断误差。因为截断误差是数值计算方法固有的，因此又称方法误差。
  例如利用Taylor多项式$P_n(x)=f(0)+\frac{f$近似代替时，数值方法的截断误差为$R_n(x)=f(x)-P_n(x)=\frac{f^{n+1}(\xi)}{(n+1)!}x^{n+1}$，$\xi$在$x$与$0$之间。

4.舍入误差

  用计算机进行计算时，由于计算机的字长有限，原始数据在计算机上表示会产生误差，计算过程有可能产生新的误差，这种误差称为舍入误差，例如用3.14159近似代替$\pi$，产生的误差$R=\pi-3.14159=0.0000026\cdots$

参考文献

数值分析(第4版)李庆扬，王能超，易大义编