数据少用什么机器学习方法

模型简介

灰色模型 (grey models)
是通过少量的,不完全的信息，建立灰色微分预测模型，对事物发展作出长期性的描述。

与灰色模型相对应的预测方法有回归分析等，但这些预测方法需要较大的样本，如果样本数量过少会造成误差较大，使得预测失效，因此，在小规模数据时，灰色模型所需信息少，精度高，成为建模中重要的预测手段。

灰色系统

信息不完全的系统称为灰色系统，与之对应的是，信息完全的系统称为白色系统，信息完全不明了的系统称为黑色系统。

基本概念

1. 灰数、灰元、灰关系是灰色现象的特征，是灰色系统的标志。
   灰数是指信息不完全的数，即只知大概范围而不知其确切值的数，灰数是一个数集，记为ⓧ；
   灰元是指信息不完全的元素；
   灰关系是指信息不完全的关系。
2. 灰数的白化值
   所谓灰数的白化值是指，令a为区间，ai为a中的数，若ⓧ在a中取值，则称ai为ⓧ的一个可能的白化值。
3. 灰数生成
   从复杂的原始数据中找到内在规律的过程。
   常见的灰数生成方法有：累加生成，累减生成，均值生成，级比生成
   以累加生成为例，讨论其数学原理。
   定义：
   累加生成,即通过数列间各时刻数据的依个累加以得到新的数据与数列.累加前的数列称原始数列,累加后的数列称为生成数列。公式表示为：
   $x^{(1)}(i)=\{{\sum_{i=1}^{N}x^{(0)} (i)\rvert i=1,2,\cdots,N}\}$
   称此数据为原始数据的一次累加生成。

GM（1,1）模型

GM(1,1)模型是一阶微分方程模型
$\frac{dx}{dt}+ax=u\;\;GM(1,1)$
由常数变易法得到
$\frac{dx}{dt}= e^{-\int adt}[\int ue^{\int adt}dt+C ]$
整理得
$\frac{dx}{dt}=\frac{u}{a}+Ce^{-at}$
故离散型形式如下
$\triangle (x(k+1))+a(x(k+1))=u$
预测形式如下
$x(k+1)=[x(1)-\frac{u}{a}]e^{-ak}+\frac{u}{a}$
由导数定义知
$\frac{dx}{dt}=\lim_{\triangle t\rightarrow 0}\frac{f(t+\triangle t)-f(t)}{\triangle t}$
当$\triangle t$很小并取很小的1单位时有
$x(t+1)-x(t)=\frac{\triangle x}{\triangle t}$
累加时用前后两个时刻的平均代替
$x^{(i)}(i)=\frac{1}{2}[x^{(i)}(i)+x^{(i)}(i-1)]$
代替后如上所示
$\frac{\triangle x}{\triangle t}=x(k+1)-x(k)=\triangle^{(1)}(x(k+1))\tag{1}$
$\triangle^{(1)}(x^{(1)}(k+1))=x^{(1)}(k+1)-x^{(1)}(k)=x^{(0)}(k+1)\tag{2}$
$x^{(1)}(k+1)=\frac{1}{2}[x^{(1)}(k+1)+x^{(1)}(k)]\tag{3}$
$\triangle^{(1)}(x^{(1)}(k+1))+a(x(k+1))=u\tag{4}$

由以上四式可得
$x^{(0)}(k+1)=a[-\frac{1}{2}(x^{(1)}(k)+x^{(1)}(k+1))]+u$
写成矩阵表达式
$\left[ \begin{matrix} x^{(0)}(2)\\ x^{(0)}(3)\\ \vdots \\ x^{(0)}(N) \end{matrix} \right]= \left[\begin{matrix} -\frac{1}{2}[x^{(1)}(2)+x^{(1)}(1)]\;\;\;\;\;\;1\\ -\frac{1}{2}[x^{(1)}(2)+x^{(1)}(1)]\;\;\;\;\;\;1\\ \vdots \\ -\frac{1}{2}[x^{(1)}(2)+x^{(1)}(1)]\;\;\;\;\;\;1\\ \end{matrix}\right] \left[\begin{matrix} a\\ u \end{matrix}\right]$
令$y=\left[ \begin{matrix} x^{(0)}(2)\\ x^{(0)}(3)\\ \vdots \\ x^{(0)}(N) \end{matrix} \right]$
$B=\left[\begin{matrix} -\frac{1}{2}[x^{(1)}(2)+x^{(1)}(1)]\;\;\;\;\;\;1\\ -\frac{1}{2}[x^{(1)}(2)+x^{(1)}(1)]\;\;\;\;\;\;1\\ \vdots \\ -\frac{1}{2}[x^{(1)}(2)+x^{(1)}(1)]\;\;\;\;\;\;1\\ \end{matrix}\right], U=\left[\begin{matrix} a\\ u \end{matrix}\right]$
则有
$y=BU$
解得
$U=\left[\begin{matrix} a\\ u \end{matrix}\right]=(B^TB)^{-1}B^Ty$
代入公式
$x^{(1)}(k+1)=[x^{(1)}(1)-\frac{u}{a}]e^{-ak}+\frac{u}{a}$
即可获得预测值

GM（1,1）精度检验

后验差检验法：
设按GM（1,1）建模法已求出$\hat{x}^{(1)}$,并将$\hat{x}^{(1)}$作一次累减，转化为$\hat{x}^{(0)}$
$\hat{X}^{(0)}=[\hat{x}^{0}(1),\hat{x}^{0}(2),\cdots,\hat{x}^{0}(n)]$

计算残差得
$e(k)=x^{(0)}(k)-\hat{x}^{0}(k),k=1,2,\cdots,n$
分别计算原始序列和残差序列的方差为$S_1^2,S_2^2$
计算后验差比为
$C=\frac{S_2}{S_1}$
指标C越小，说明S1大，也就是原序列方差大，S2小，也就是残差方差小说明拟合效果好。
精度检验对照表

模型精度等级	均方差比值
1级（好）	C<=0.35
2级（合格）	0.35<C<=0.5
3级（勉强）	0.5<C<=0.65
4级（不合格）	0.65<C