在机器学习中,有很多的问题并没有解析形式的解,或者有解析形式的解但是计算量很大(譬如,超定问题的最小二乘解),对于此类问题,通常我们会选择采用一种迭代的优化方式进行求解。负梯度方法与Newton型方法在最优化方法中发挥着重要作用,也在现代金融科技,大规模的器学习发挥不可或缺的作用。接下来,我们将针对这两种优化方法在机器学习中的应用进行讨论。

一、最速下降法

1.1 最速下降法的原理

假定在第k步的迭代点,我们想求处使得  下降最快的方向。由上一章可知:这个方向应首先满足下降条件。虽然下降方向有无穷多个,但是根据Cauchy-Schwarz不等式:当且仅当时等式成立,达到最小。由于在方向上要考虑步长,故取为负梯度方向特别的,我们称采用负梯度方向以及精确线搜索的方法称为最速下降法。图片图片

我们从上面可以看到,不同的G矩阵使用最速下降法的迭代速度有明显的差异,原因在后文给出。

1.2 最速下降法的收敛速度

1.2.1  收敛性

最速下降法具有全局收敛性!1.2.2  预备知识

  • 量u在矩阵G度量下的范数:

  • 矩阵G度量下的Cauchy-Schwarz不等式:

  • Kantorovich不等式:

1.2.3  收敛速度的上界

正定二次函数: 收敛速度的上界:

由此可知,最速下降法的收敛速度是线性的,这个速度依赖于G的最大最小特征值。

1.2.4  收敛速度的差异性来源

我们假设G和b产生了微小扰动变成了 ,正定二次函数: 的导函数方程相应变成了  ,方程的解记为 ,其中非奇异, 满足 非零。那么:

条件数与范数有关,因此是G的相对误差与b的相对误差之和的放大倍数。若矩阵G的条件数很大,扰动对解的影响很大,我们称这个问题是病态的,或G是病态的。若矩阵G的条件数不大,扰动对解的影响程度不大,我们就成这样的问题是良性的,或G是良性的。

因此:

这说明最速下降法的收敛速度依赖G的条件数,当G的条件数接近于1时,接近于0,最速下降法的收敛速度接近于超线性收敛;而当G的条件数很大时,接近于1,则收敛很慢。

1.2.5  最速下降法的优缺点优点:算法每次迭代的计算量少,储存量也少,从一个不太好的初始点出发也能靠近极小点。

缺点

  • 收敛慢:线性收敛。

  • Zigzag现象(收敛慢的原因):若迭代步  是  的精确最小点,则,因此:  ,也就是上一步的方向与下一步的方向垂直。

  • 没有二次终止性:即不具备对于任意的正定二次函数,从任意点出发,都可以经过有限步迭代取得极小值的性质。

二、Newton方法

2.1 基本Newton方法

 具有连续二阶偏导数,当前迭代点是 。 在  的泰勒展开为:

  


其中。在点的邻域内,用二次函数去近似,求解问题 。正定,则迭代方向为问题的唯一解。我们称为Newton方向。(Hesse的逆矩阵度量下的最速下降法)

我们来看看牛顿迭代的方向和梯度下降的方向有什么不一样?(黑色为牛顿下降方向,红色为负梯度下降方向)

图片

下面我们用一个具体的例子来看看牛顿迭代法的效果:

图片图片从上面的例子我们可以看到:(1)当初始点接近极小点时,迭代序列收敛于极小点,并且收敛很快(二阶收敛);(2)当初始点不接近极小点时,迭代序列容易收敛到鞍点或者极大点(局部收敛性而不是全局收敛)。

(3)迭代过程可能会出现奇异矩阵或者病态,以至于求逆很困难,导致迭代失败。

  • 的特征值求不出来。

  • 的特征值

     

    不一定小于0,牛顿方向未必是下降方向。

(4)每一步迭代需要计算Hesse矩阵,即计算n(n+1)/2个二阶偏导数,相当于求解一个线性方程组,计算量为O()

2.2 阻尼Newton方法

为了改善基本Newton方法的局部收敛准则,我们采用带一维线搜索的的Newton方法,即

其中是一维搜索的结果,该方法叫做阻尼Newton方法。此方法能保证对正定矩阵 单调下降;即使  离x稍远,由该方法产生的点列仍能收敛到。(对严格凸函数具有全局收敛性)

2.3 混合方法

基本Newton方法在迭代过程中会出现Hesse矩阵奇异、不正定的情形,基本Newton方法还会出现与几乎正交的情形。为了解决这个问题,我们可以采用基本Newton方法与最速下降法相互混合的方式。该方法采用Newton方法,但是在Hesse矩阵奇异或者几乎正交时,采用负梯度方向;在负定,但是存在时,取 。

2.4 LM方法

LM方法是处理奇异、不正定等情况的一个最简单有效的方法,它是指求解 来确定迭代方向的Newton型方法,这里的是单位阵。显然,若足够大,可以保证正定。

(1)  的大小对于方向的影响:

  • 当  很小,求出的步长偏向于Newton方向。

  • 当  很大,求出的步长则偏向于负梯度方向。

(2)当不正定时,可以简单取

三、拟牛顿方法

Newton方法的优缺点:

(1)当初始点接近极小点时,迭代序列收敛于极小点,并且收敛很快(二阶收敛);

(2)当初始点不接近极小点时,迭代序列容易收敛到鞍点或者极大点(局部收敛性而不是全局收敛)。

(3)迭代过程可能会出现奇异矩阵或者病态,以至于求逆很困难,导致迭代失败。

  • 的特征值求不出来。

  • 的特征值

    不一定小于0,牛顿方向未必是下降方向。

(4)每一步迭代需要计算Hesse矩阵,即计算n(n+1)/2个二阶偏导数,相当于求解一个线性方程组,计算量为O()

为此,我们考虑构造一种方法,她既不需要计算二阶偏导数,又有较快的收敛速度。

3.1 拟牛顿条件

假定当前迭代点为,已知条件为,我们使用拉格朗日中值定理: 

我们可以使用矩阵得到  n个方程,n(n+1)/2个变量。

得到:

 

因此拟牛顿条件为:

  

满足这两个方程的矩阵有很多,因此拟牛顿方法是一类方法。

在上述算法中,初始矩阵一般取单位矩阵,第一步迭代方向取为负梯度方向。

那么,算法的核心就是怎么由去修正,即,而的取法是多种多样的,但是他应该具有简单、计算量小、有效的特点。

3.2 拟牛顿方法的修正公式

3.2.1 对称秩1公式

即取为对称秩1矩阵,即有

代入拟牛顿方程  得到: 

 即有: 。由于是一个数,因此u与共线,从而存在使得: 。

代入得到

  

因此,由此得到

 .最终得到对称秩1公式:

如果我们想将换成等价的,则需要用到SMW公式:

最终得到对称秩1公式:

3.2.2 对称秩2公式

为对称秩2矩阵,即,其中 待定。

代入中,得到的修正公式

(1)DFP方法

中,化简为

  

由于的选择不是唯一的,为了计算方便,我们选择:

代入公式中可得  ,得到DFP公式:

根据SMW公式:

(2)BFGS公式(对偶)

考虑的修正公式: 用相同的推断实现:

根据SMW公式:

(3)Broyden族公式

DFP方法与BFGS公式的线性组合:

3.3 三种拟牛顿方法的对比试验

(1)扩展Rosenbrock问题

(BFGS与DFP差异不大,SR1差些)(迭代次数与函数调用次数)

图片

(2)由人工神经网络解微分方程的问题:

图片图片图片

四、使用牛顿法优化Rosenbrock函数实例(基于python)

Rosenbrock函数的数据探索: 图片


import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport time%matplotlib inlinefrom mpl_toolkits.mplot3d import Axes3Dclass Rosenbrock():    def __init__(self):        self.x1 = np.arange(-100, 100, 0.0001)        self.x2 = np.arange(-100, 100, 0.0001)        #self.x1, self.x2 = np.meshgrid(self.x1, self.x2)        self.a = 1        self.b = 1        self.newton_times = 1000        self.answers = []        self.min_answer_z = []

   # 准备数据    def data(self):        z = np.square(self.a - self.x1) + self.b * np.square(self.x2 - np.square(self.x1))        #print(z.shape)        return z
   # 随机牛顿    def snt(self,x1,x2,z,alpha):        rand_init = np.random.randint(0,z.shape[0])        x1_init,x2_init,z_init = x1[rand_init],x2[rand_init],z[rand_init]        x_0 =np.array([x1_init,x2_init]).reshape((-1,1))        #print(x_0)

       for i in range(self.newton_times):            x_i = x_0 - np.matmul(np.linalg.inv(np.array([[12*x2_init**2-4*x2_init+2,-4*x1_init],[-4*x1_init,2]])),np.array([4*x1_init**3-4*x1_init*x2_init+2*x1_init-2,-2*x1_init**2+2*x2_init]).reshape((-1,1)))            x_0 = x_i            x1_init = x_0[0,0]            x2_init = x_0[1,0]        answer = x_0        return answer

   # 绘图    def plot_data(self,min_x1,min_x2,min_z):        x1 = np.arange(-100, 100, 0.1)        x2 = np.arange(-100, 100, 0.1)        x1, x2 = np.meshgrid(x1, x2)        a = 1        b = 1        z = np.square(a - x1) + b * np.square(x2 - np.square(x1))        fig4 = plt.figure()        ax4 = plt.axes(projection='3d')        ax4.plot_surface(x1, x2, z, alpha=0.3, cmap='winter')  # 生成表面, alpha 用于控制透明度        ax4.contour(x1, x2, z, zdir='z', offset=-3, cmap="rainbow")  # 生成z方向投影,投到x-y平面        ax4.contour(x1, x2, z, zdir='x', offset=-6, cmap="rainbow")  # 生成x方向投影,投到y-z平面        ax4.contour(x1, x2, z, zdir='y', offset=6, cmap="rainbow")  # 生成y方向投影,投到x-z平面        ax4.contourf(x1, x2, z, zdir='y', offset=6, cmap="rainbow")  # 生成y方向投影填充,投到x-z平面,contourf()函数        ax4.scatter(min_x1,min_x2,min_z,c='r')        # 设定显示范围        ax4.set_xlabel('X')        ax4.set_ylabel('Y')        ax4.set_zlabel('Z')        plt.show()
   # 开始    def start(self):        times = int(input("请输入需要随机优化的次数:"))        alpha = float(input("请输入随机优化的步长"))        z = self.data()        start_time = time.time()        for i in range(times):            answer = self.snt(self.x1,self.x2,z,alpha)            self.answers.append(answer)        min_answer = np.array(self.answers)        for i in range(times):            self.min_answer_z.append((1-min_answer[i,0,0])**2+(min_answer[i,1,0]-min_answer[i,0,0]**2)**2)        optimal_z = np.min(np.array(self.min_answer_z))        optimal_z_index = np.argmin(np.array(self.min_answer_z))        optimal_x1,optimal_x2 = min_answer[optimal_z_index,0,0],min_answer[optimal_z_index,1,0]        end_time = time.time()        running_time = end_time-start_time        print("优化的时间:%.2f秒!" % running_time)        self.plot_data(optimal_x1,optimal_x2,optimal_z)if __name__ == '__main__':    snt = Rosenbrock()    snt.start()

请输入需要随机优化的次数:100

请输入随机优化的步长0.01

优化的时间:8.10秒!

图片