R语言广义加性模型怎么解释 r语言求广义逆

矩阵论（四）——矩阵的广义逆

• 1. 广义逆矩阵
• 2. 减号广义逆
• 3. 极小范数广义逆
• 4. 最小二乘广义逆
• 5. 加号广义逆
• 6.方程通解与最小二乘解

• 6.1 相容方程的通解
• 6.2 矛盾方程的最小二乘解

1. 广义逆矩阵

$\forall A \in R^{m \times n}，\exists G \in R^{n \times m}$，满足下列的一个、多个或者全部，则称G为A的广义逆矩阵
$(1)\quad AGA = A$
$(2)\quad GAG = G$
$(3)\quad (AG)^H = AG$
$(4)\quad (GA)^H = GA$
若满足第i个条件，记为$G = A^{(i)}，A\{i\} = \{G | G = A^{(i)}\}$
若满足第i, j个条件，记为$G = A^{(i, j)}，A\{i, j\} = \{G | G = A^{(i, j)}\}$

减号逆($A^{-}$)： $A^{-} = A^{(1)}$，满足$AGA = A$

极小范数广义逆($A^{-}_m$)： $A^{(1, 4)}$，满足$AGA = A,\ (GA)^H = GA$

最小二乘广义逆($A^{-}_l$)： $A^{(1, 3)}$，满足$AGA = A,\ (AG)^H = AG$

加号广义逆($A^+$)： $A^{(1, 2, 3, 4)}$，满足$AGA = A,\ GAG = A,\ (AG)^H = AG,\ (GA)^H = GA$

2. 减号广义逆

$A \in C^{m \times n}$，若存在$G \in C^{n \times m}$，使$AGA=A$，则称G为A的一个减号广义逆，记为$A^{-}，A\{1\} = \{G | AGA = A\}$

$A^-$存在的条件及求法： $\forall A \in C^{m \times n}$
(1) 若秩(A) = 0，即$A = 0$，则$A^-$存在，即$\forall G \in C^{n \times m}，均有AGA=A$
(2) 若秩(A) = n(m = n)，即$|A| \neq 0$，则$A^-$不唯一，且$A^- = A^{-1}，AGA = A$
(3) 若秩(A) = r，有可逆P，Q，使$PAQ = \begin{pmatrix}I_r & \\ & 0\end{pmatrix}_{m \times n}$，即$A = P^{-1} \begin{pmatrix}I_r & \\ & 0\end{pmatrix}Q^{-1}$
则$G \in A\{1\} \iff G = Q \begin{pmatrix}I_r & U \\ V & W\end{pmatrix} P$，其中U、V、W为相应的任意矩阵

设$A \in C^{m \times n}，\lambda \in C$，则$A^{-}$满足一下性质：
$(1)\quad rank(A) \leq rank(A^-)$
$(2)\quad AA^-与A^-A$都是幂等矩阵，且$rank(A) = rank(AA^{-}) = rank(A^{-}A)$
$(3)\quad R(AA^-) = R(A)，N(A^-A) = N(A)$

例如：

说明：可以先对$\begin{pmatrix}A & I_3\end{pmatrix}$做行变换，将变换后的结果记为$\begin{pmatrix}A$，然后对$\begin{pmatrix} A$做列变换，即可得到最终的P和Q

3. 极小范数广义逆

极小范数广义逆： $A \in C^{m \times n}$，若存在$G \in C^{n \times m}$，使$(1) AGA=A，\quad (4)(GA)^H = GA$，则称G为A的一个极小范数广义逆，
记为$A^{-}_m，A\{1，4\} = \{G | AGA = A，(GA)^H = GA\}$

$A^-_m$存在的条件及求法： $A \in C^{m \times n}$，A的奇异分解：$A = U \begin{pmatrix}\Delta_r & 0 \\ 0 & 0\end{pmatrix} V^H$，则
$G \in A\{1，4\} \iff G = V \begin{pmatrix}\Delta_r^{-1} & K \\ 0 & M\end{pmatrix} U^H$，K和M为相应任意矩阵
奇异分解求解过程可参考

相容方程： 方程组Ax=b有解
矛盾(不相容)方程： 方程组Ax=b无解

极小范数解： 方程$Ax = b$有无数解，在所有的解中最小的解就是极小范数解。即$x_0 = min(x)$，$x_0$为$Ax = b$的极小范数解

若$G \in A\{1，4\}，则Gb = min(x)$，即$x_0 = Gb$是相容方程组Ax=b的极小范数解
$A \in C^{m \times n}，G \in A\{1，4\} \iff x_0 = Gb$是相容方程Ax=b的极小范数解
$\forall G_1，G_2 \in A\{1，4\}，必有G_1 b = G_2 b$，即相容方程的极小范数解是唯一的。

例如：

4. 最小二乘广义逆

最小二乘广义逆： $A \in C^{m \times n}$，若存在$G \in C^{n \times m}$，使$(1) AGA=A， (3)(AG)^H = AG$，则称G为A的一个最小二乘广义逆，记为$A^{-}_l，A\{1，3\} = \{G | AGA = A，(AG)^H = AG\}$

$A^-_l$存在的条件及求法： $A \in C^{m \times n}$，A的奇异分解：$A = U \begin{pmatrix}\Delta_r & 0 \\ 0 & 0\end{pmatrix} V^H$，则
$G \in A\{1，3\} \iff G = V \begin{pmatrix}\Delta_r^{-1} & 0 \\ L & M\end{pmatrix} U^H$，L和M为相应任意矩阵
奇异分解求解过程可参考

最小二乘解： $Ax-b$取最小值时x的解，即矛盾方程$Ax = b，\exists u \in C^n，||Au - b||_2 = min||Ax -b||_2(\forall x \in C^n)$时u的值

$G \in A\{1,\ 3\}，则A^HAG = A^H$

若$G \in A\{1,\ 3\}，则x = Gb$是矛盾方程Ax=b的最小二乘解，即$AGb - b = min(Ax - b)$

例如：

5. 加号广义逆

加号广义逆： $A \in C^{m \times n},\ \exists G \in C^{n \times m}$，满足$(1)AGA = A \quad (2)GAG = G \quad (3)(AG)^H = AG \quad (4)(GA)^H = GA$，
则称G为A的Moore-Penrose广义逆或加号广义逆，简称A的M-P逆，记为$A^+，A\{1,\ 2,\ 3,\ 4\}$

$A^+$存在的条件及求法： $A \in C^{m \times n}$，则$A^+$存在且唯一
A的奇异分解：$A = U \begin{pmatrix}\Sigma_r & 0 \\ 0 & 0\end{pmatrix} V^H$，则$A^+ = V \begin{pmatrix}\Sigma^{-1}_r & 0 \\ 0 & 0\end{pmatrix} U^H$
奇异分解求解过程可参考

设rank(A) = r，A的一个满值分解为$A = BC，B \in C^{m \times r}，C \in C^{r \times n}，rank(B) = rank(C) = r$
则$A^+ = C^H(CC^H)^{-1}(B^HB)^{-1}B^H$

$A \in C ^{m \times n}，\lambda \in C^{m \times n}，则A^+$满足以下性质：
$(1) \quad (A^+)^+ = A$
$(2) \quad (A^+)^H = (A^H)^+$
$(3) \quad (\lambda A)^+ = \lambda^+ A^+$，其中$\lambda^+ = \begin{cases} \frac{1}{\lambda} & \lambda \neq 0 \\ 0 & \lambda = 0\end{cases}$
$(4) \quad A^+ = \begin{cases}(A^HA)^{-1}A^H & A为列满秩 \\ A^H(AA^H)^{-1} & A为行满秩\end{cases}$

例如：

6.方程通解与最小二乘解

6.1 相容方程的通解

相容方程：$Ax = b，A \in C^{m \times n}$
$x = A^- b + (I_n - A^- A) z，z \in C^n$

6.2 矛盾方程的最小二乘解

矛盾方程：$Ax = b，A \in C^{m \times n}$
$x = A^-_lb + (I_n - A^-_l A)z，\forall z \in C^n$