一、矩阵消元(高斯消元法)

  在解方程组时我们经常用到消元法,通过对方程的倍乘、加减等操作可以得到所求方程的解。

  既然方程组可以用消元法进行求解,那么方程组变成矩阵自然也可以使用消元法。

矩阵消元目的主要是通过行变换将矩阵对角线下方的数字都变成0,从而可以回代求线性方程组的解

  我们用该方程组演示:

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_方程组

 ,拿出它的系数矩阵A:

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_高斯消元法求解希尔伯特矩阵python_02

,右侧向量b:高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_方程组_03

消元的过程是将A进行行变换得到上三角阵U,然后回代右侧向量,最后求解

 1.消元的知识准备:对左侧系数矩阵消元(A->U)

  我们保留矩阵的第一行,然后消去下方所有行的多余变量

  先从x位置开始。

  既然要消去x,那么我们只需要关心矩阵的第一列,如图

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_方程组_04


  在图中我们可以看到,关键的位置是红色标记的1(我们将这种位置的数字称为“主元”,因为它是第一个出现的,所以叫它“主元一”),而我们的目的是将蓝色标记的位置都变成0。

  操作很简单,第一行不变(因为它是主元行),第二行整体减去一倍的第一行,第三行不做变化(因为它本来就是0)。

  于是我们得到了如下图的矩阵

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_方程组_05

,可以看到,第一列的元素除了第一行都变成了0。

  然后,我们处理y。

  继续观察矩阵

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_方程组_06

  如今,-3是新的主元(主元二),而我们要消去的是蓝色位置的1。

  操作依旧简单,第一、二行都不变,将第三行减去-1/3倍的第二行。

  然后得到这样的一个矩阵

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_高斯消元法求解希尔伯特矩阵python_07

。(把主元标记一下

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_方程组_08


上三角矩阵(因为它只有上半部分的三角形里有数字),我们用U表示它。

消元时主元不能为0,如果主元为0,可以将主元所在的行与它下面的主元位置非0的行进行交换(比如

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_方程组_09

 变成

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_系数矩阵_10

)。

  再顺便一提,行列式的值就是主元的乘积,所以该矩阵行列式得9

  如果没有可以进行交换的行,方程无解,这种情况以后再讨论。

'])

  在正常的对方程组的消元过程中,等号右边的项与左边进行相同的操作,在矩阵中也是一样。

  对于方程组

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_系数矩阵_11

,我们得到了它的系数矩阵A:

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_高斯消元法求解希尔伯特矩阵python_12

,然后,我们把它的右侧向量b:高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_矩阵相乘_13放到A中,得到一个新矩阵:

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_高斯消元法求解希尔伯特矩阵python_14

 

增广矩阵”,因为它是原矩阵增加一部分构成的,我们可以把它写作[A  b]。

  对于增广矩阵的每一行,我们作与上方系数矩阵消元相同的操作,从而得到U和经过行变换的b构成的增广矩阵[U  b']

正常的消元直接操作增广矩阵即可,上面对系数矩阵单独消元只是为了加深各位的理解。

 3.消元的第二步:回代

  经过上面的变换,增广矩阵变成了这个样子:

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_系数矩阵_15

。  把它改写成方程组

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_系数矩阵_16

  求解,得到x=-1/9,y=-4/9,z=7/9

 

 二、用矩阵描述消元过程:E[A  b]=[U  b']

用矩阵相乘来描述消元的过程。

 (1)预备知识

矩阵乘向量的结果实际是矩阵列的线性组合。

按套路来讲,如果没有这种性质我就不会问这个问题了。

当一个向量乘一个矩阵时,得到的结果就是该矩阵行的线性组合。

  比如

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_方程组_17

,其结果相当于1*[1 1] + 2*[1 -2] = [3 -3]。

在一个矩阵A的左边乘一个矩阵(简称左乘),就是对A进行行变换,而在A右边乘一个矩阵(简称右乘),就是对A进行列变换。

 (2)用矩阵消元

  我们依然用

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_系数矩阵_18

这个方程进行演示,拿出它的系数矩阵A:

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_系数矩阵_19

,右侧向量b:高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_矩阵相乘_13

  我们想要得到一个矩阵E,它可以表示出我们消元的整个过程,也就是用E与A相乘便能直接得到U

  还记得我们之前消元的步骤么?

  1.首先,保持第一行不变,第二行整体减去一倍的第一行,第三行同样不变。

  即,我们需要拿出-1倍的第一行,然后将它和第二行进行线性组合(相加),然后其他行不变(注意,在矩阵消元时我们是用两行相减,而“线性组合”是相加)。

  按照需求,我们只需要在A的左边乘上

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_矩阵相乘_21

(我们用E1表示这个矩阵)

  为什么是这个矩阵?我们一行一行地看。

  首先,A的第一行不变,因此我们需要拿出A的1个第一行,0个第二行,0个第三行(进行线性组合),于是1 0 0组成了E1的第一行。

  然后,我们需要-1个A的第一行,1个第二行,0个第三行进行线性组合,所以 -1 1 0组成了E1的第二行。

  第三行不变,因此需要0个第一行,0个第二行,1个第三行,所以E1的第三行是0 0 1

  经过变换,我们得到了

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_方程组_22


  2.然后,保持一、二行不变,将1/3个第二行与第三行进行线性组合

  可以自己写出需要左乘的矩阵吗?尝试着自己推导一下

  你的结果是它吗

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_高斯消元法求解希尔伯特矩阵python_23

 ?我们用E2来表示这个矩阵。  经过这次变换,我们得到了我们想要的矩阵U:

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_高斯消元法求解希尔伯特矩阵python_24

(U是一个上三角矩阵)。

  现在,我们可以用一个不太完美的式子来表达消元的全过程了:

E2(E1A)=U

  3.最后,合并消元步骤

  我们想要的结果是类似于EA=U这样的干净整洁的式子,怎么做到呢?

矩阵乘法满足结合律(但不满足交换律)

  换句话说,E2(E1A)=(E2E1)A。(但AB≠BA)

  即E=(E2E1),我们管E叫做消元矩阵。

  4.整体描述

  用矩阵描述消元便是找到一个矩阵E(由每一步消元的消元矩阵相乘得到),使得EA=U,然后将其应用于增广矩阵[A  b]从而得到[U  b'],完成消元。

 

  后面还会介绍EA=U的变形

三、置换矩阵

  我们可以用矩阵相乘来完成矩阵的行交换与列交换,而用到的矩阵便叫做置换矩阵

 行交换

  我们消元时通过左乘矩阵实现了行与行的线性组合,那么,如果想要将两行进行交换,需要怎么做呢?

  召唤个矩阵先:

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_矩阵相乘_25

  假设我们想要这个矩阵的第一二行(得到

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_高斯消元法求解希尔伯特矩阵python_26


第一行,我们相当于拿出了0个原矩阵的第一行,1个原矩阵的第二行,0个原矩阵的第三行。

第二行,我们相当于拿出了1个原矩阵的第一行,0个原矩阵的第二行,0个原矩阵的第三行。

第三行,我们相当于拿出了0个原矩阵的第一行,0个原矩阵的第二行,1个原矩阵的第三行。

  因此,我们只需在原矩阵的基础上左乘一个

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_矩阵相乘_27

。(各行颜色不同是为了便于理解其构成方式,没有其他特别含义)

  我们管左乘的这个矩阵叫做置换矩阵,用P表示。

 列交换

  之前提到过,左乘即操作行,右乘即操作列

  召唤一个矩阵:

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_方程组_28

  想要交换这个矩阵的第一二列,得到

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_方程组_29

第一列,我们相当于拿出了0个原矩阵的第一列,1个原矩阵的第二列,0个原矩阵的第三列。

第二列,我们相当于拿出了1个原矩阵的第一列,0个原矩阵的第二列,0个原矩阵的第三列。

第三列,我们相当于拿出了0个原矩阵的第一列,0个原矩阵的第二列,1个原矩阵的第三列。

  所以,只需要右乘

高斯消元法求解希尔伯特矩阵python 高斯消元法 矩阵_系数矩阵_30

(行交换的置换矩阵是一行一行构成的,而列交换的却是一列一列构成的)