矩阵复习

矩阵理论

---

常见问题查询

分块矩阵特征值求法

分塊矩陣特徵值的計算方法

001

加法

1. 交换
2. 结合
3. 零元
4. 负元

倍法

线性空间

基底

生成（张成）空间

生成元

常见子空间

核空间，像空间

广元公式

遗留练习： P8 8

002

核空间 像空间

互补公式

$$矩阵A_{m\times n}，有 dim R(A) + dim N(A) = n$$

广义元

$$广义元 \times 列 = 线性组合$$

线映射

• 可加性
• 齐次性

caylay定理，求矩阵多项式时用得到

多项式除法？？

广元的线性映射

过渡矩阵

换基公式

原像的相关性与像的相关性

原像相关 => 像也相关
像无关 => 原像无关

003 9/29

直和空间的证明方法

$$V = V_1 \oplus V_2 \\ 先证明 任意 \alpha \in V,可写为 \alpha = 1 + 2,\\ 且 1 \in V_1, 2 \in V_2, 再证明V_1 \cap V_2 = \{ 0 \}$$

直和空间证明问题 ：使用构造的方法解

内积空间

复内积

• 正定
• 共轭对称
• 齐性（注意共轭）
• 可分配

长度（模长）

单位向量、单位化

正交

• 正交 => 内积为0
• 相互正交

正交投影

共轭转置及公式

酉空间

dim V = n < 正无穷，那么V即酉空间

004 10/11

控扼转置三个性质

矩阵的迹tr（A）

矩阵的共轭转置

$tr(A^HA) = tr(AA^H) = \Sigma |a_{ij}|^2$

矩阵的内积

正交阵与酉阵

酉阵

空间$C^n$中n个列正交，且每个列向量的模长为1

正交阵

实数酉阵

予酉阵

n个列正交，不要求模长为1

酉阵中，有$A^HA = AA^H = I，A^{-1} = A^H$

豪斯酉阵公式

$$A = I - \frac{2\alpha\alpha^H}{|\alpha|^2}$$

半酉阵和予半酉

005 10\13 周四

酉阵与酉空间

• 保内 $(AX, AY) = (X,Y)$ 内积不变
• 保长 $|AX| = |X|$ 模长不变
• 保正交 $X \bot Y \Rightarrow AX \bot AY$ 正交性不变

求$C^n$中的正交基

扩充法

House公式

House公式中对$R^n$上任意$\alpha, \beta$的性质

House公式中关于特征值的说明？？？

$\lambda_1 = -1 这个是由AX = -X显然的，其中X作为A的特征向量 \\\lambda_2 \cdots \lambda_n = 1 ?$
为什么有 $A\alpha = \beta$ ???

QR分解

QR分解

任意方阵$A$存在$U$阵$Q$与上三角阵$R$使得$A = QR$

许米特正交化方法

公式

$$\beta_n = \alpha_n - \frac{(\alpha_n, \beta_1)}{|\beta_1|^2}\beta_1 - \frac{(\alpha_n, \beta_2)}{|\beta_2|^2}\beta_2 - ... - \frac{(\alpha_n, \beta_{n-1})}{|\beta_{n-1}|^2}\beta_{n-1} \\其中 \beta_1 = \alpha_1 \\矩阵Q（酉阵）中的列为\beta_i = \frac{\beta_i}{|\beta_i|} \\R(上三角阵) = Q^HA$$

006 10/18

QR分解的House方法和许米特正交化方法例题

House方法中P矩阵除了第一列之外的列的求法？？？

高阵QR分解及方法

许尔相似公式

007 10/20

高阵QR分解

施密特正交化方法的应用

半酉阵的性质

依然保内，保长，保正交，但是$tr(A^HA)\neq tr(AA^H)$

U阵分块

U阵Q分为（A，B）两块，$AB = 0$

QR分解证明正定阵 $A = R^HR$

正定阵合同于单位阵
$A = P^HIP$

许尔公式

许尔公式

方阵A酉相似于B，其中B为上三角阵，且对角线值为A全部特征根。
特殊： A为mxn矩阵时，A酉相似于B，B也为mxn阶上三角，且对角线为A的全部特征根。

008 10/25

许尔公式推论及Jordan形

推论：
1. 存在 可逆阵 P使得 $P^{-1}AP = D$为上三角，对角线为A的特征值，没有固定次序
2. Jordan形: 存在可逆阵P，s.t. $P^{-1}AP=J= \begin{pmatrix} \lambda_1 & \star & \cdots & \cdots & 0 \\ 0 & \lambda_2 & \star & \cdots & \vdots \\ \vdots & \cdots & \ddots & \star & \vdots \\ \vdots & \cdots & \cdots & \lambda_{n-1} & \star \\ 0 & \cdots & \cdots & \cdots & \lambda_n \end{pmatrix} 其中\star= 0 或 1$称为A的Jordan形

Hermite阵条件

$A^H = A$
注意对角线为实数，因为$a_{ii} = \overline{a_{ii}}$

Hermite阵特征值全为正数

斜Hermite阵

$A^H = -A$

斜Hermite阵的特征值全为0或纯虚数

Hermite定理

将许尔公式中的方阵替换为 Hermite阵，D由上三角强化为对角阵

推论

D为对角可知，矩阵Q中的列$q_i$都是A的特征向量，有$Aq_i = \lambda_i q_i$且$q_1 \bot q_2 \bot q_3\bot\dots\bot q_n$
依照这个推论，求D时可以用A的全部特征向量构造Q，然后求出D

正规阵条件

A为方阵$A^HA=AA^H$

常见正规阵

• Hermite阵
• 实对称阵，实反对称阵
• U阵，实正交阵
• （复）对角阵

正规阵的分块上三角引理（三角正规引理）

注意： 严格的上三角阵不是正规阵

正规阵定理

将Hermite定理中的Hermite阵替换为正规阵，其它相同。

推论

跟Hermite中的推论相同。
Q的列都是A的特征向量，且相互正交
若A正规，则与A相关的多项式
$f(A) = a_0I + a_1A + \dots + a_pA^p$也正规
特别有: $A正规 \Rightarrow I+A, I-A, aI \pm bA, kA, A^p正规$

009 10/27

正规阵的谱分解公式

引入

$$g_1(x) = \hat{(x-\lambda_1)}(x-\lambda_2)\dots(x-\lambda_n) (去掉第1项)\\ g_2(x) = (x-\lambda_1)\hat{(x-\lambda_2)}\dots(x-\lambda_n) (去掉第2项)\\ \cdots以此类推$$
再写
$$G_1 = \frac{g_1(A)}{g_1(\lambda_1)}\\ \vdots\\ G_n = \frac{g_n(A)}{g_n(\lambda_n)}\\ $$
A的谱分解公式为$A = \lambda_1 G_1 + \cdots + \lambda_n G_n$

推广

f(x)为任意多项式，则有
$f(A) = f(\lambda_1)G_1 + f(\lambda_2)G_2 + \cdots + f(\lambda_n)G_n$

010 11/01

单阵谱公式

公式与正规阵谱公式相同，但是投影阵的特性中没有 每一个$G_i$都是Hermite阵

单阵（可对角化阵）

如果存在可你真Q，使的A相似于对角阵，则称A为可对角化矩阵（单阵）

常见的单阵

• 正规阵都是单阵
• A为nxn方阵，恰有n个不同根，则A为单阵
• A中恰有n个无关的特征向量，则A为单阵
• 若$(A-\lambda_1)(A-\lambda_2)\cdots(A-\lambda_k)=0$，则A为单阵（其中$\lambda_1\cdots\lambda_n$为k个不同根）

满秩（高低）分解方法

1. 原矩阵A行变换到（最简）阶梯型矩阵D，除了前r行之外的行都为0
2. 前r行中，找到$e_i$所在的行，$e_i$表示第i行为1的r维单位向量。
3. 在A中取出$e_i$对应的各个列，作为B矩阵，C取D矩阵中的前r行
4. 得到A的高低分解，A=BC

011 11/03

正定Hermite阵

Hermite阵A，二次型$X^HAX>0$对任意$X\neq\overrightarrow{0}$成立，称A为正定矩阵，记为“A>0”

半正定Hermite阵

$A\ge0$

正定阵等价条件

$A = A^H$:

$$A>0 \iff A=P^HIP=P^HP(A=PP^H)，A与单位阵合同 \iff \lambda_1 \cdots \lambda_n > 0$$

平方根公式

• 若$A\ge0$(半正Hermite），有 $\sqrt{A}\ge0, A=(\sqrt{A})^2$
• 若$A>0$(正Hermite），有 $\sqrt{A}>0, A=(\sqrt{A})^2$
• 或者$A = A^{\frac{1}{2}}A^{\frac{1}{2}}, A^{\frac{1}{2}} = \sqrt{A} \ge 0$

引理1

A为mn阶矩阵则 $A^HA,AA^H$为半正定

引理2

$AX=0与 A^HAX=0同解， A^HX与 AA^HX=0同解$

秩公式

$r(A^HA)=r(A)=r(AA^H)， r(A)=r(\overline{A})=r(A^T)=r(A^H)$

换位公式

AB与BA只相差m-n个0根，非零根相同
$tr(AB)=tr(BA)=\lambda_1 + \cdots + \lambda_n$

注

$A^HA与AA^H$有相同的非零根，且两个中间矩阵都是半正定

正奇异值

$A^HA(AA^H)$的正特征值的根号，称为A的正奇异值

012 11/08

秩一公式

根公式

奇异值分解SVD

简化SVD

换位公式

极分解

013 11/15

广义逆

左逆/右逆

减号逆/1逆

$A^-,使得AA^-A = A$
$A^-$不唯一

加号逆

$A^+,使得AA^+A=A,A^+AA^+=A$
性质
$(AA^+)^H=AA^+, (A^+A)^H=A^+A$
$A^+$只有一个

A+公式

若$A=BC$为高低分解，则$A^+ = B_LC_R,B_L为B的左逆，C_R为C的右逆，且B^+=B_L,C^+=C_R$

A+公式2

$A = P\Delta Q_H为A的简化SVD，则A^+=Q\Delta ^{-1}P^H$

014 11/17

高阵公式

$A^+ = 左逆$

低阵公式

$A^+ = 右逆$

秩一公式

$A^+ = \frac{1}{\Sigma|a_{ij}|^2}A^H$

SVD公式

$若 A = P\Delta Q^H 则 A^+ = Q^H \Delta^{-1} P$

其它A+公式

$A^+ = (A^HA)^+A^H, A^+=A^H(AA^H)^+$

对角形公式

数的A+

零阵公式

可逆方阵公式

$A^+= A^{-1}, A_{n\times n}可逆$

半优公式

$A^+= A^H, A_{n\times p}为半优阵$

特解公式

无解判定

正规方程有解定理

正交引理1/2

015 11/22

正交引理

AX=b的特解和通解

极小长度解定理

最小二乘解（小二解）

最小长度的最小二乘解（最佳小二解）

若A是高阵则AX=b的全体小二解就是$A^+b$

矩阵方程

$AXB = D 的解为 X_0 = A^+DB^+$

A-公式

运用初等变换求QP，得到$A^- = Q \star P$

016 11/24

范数与级数

范数性质：

• 正定 $||X|| \ge 0, X \neq 0 \Rightarrow ||X|| > 0$
• 齐次 $||kX|| = |k| \ ||X||$
• 三角 $||X + Y|| \le ||X|| + ||Y||$

F范数

$||A||_F = \sqrt{(A,A)} = \sqrt{\Sigma|a_{ij}|^2}$

$C^n$上常见范数

1范数

分量的绝对值和

2范数

模长

无穷范数

最大模长

P范数

等价定理

$C^{n\times n}$上常见范数

F范数

M范数（总和范数）

1范数（列范数，最大列和）

无穷范数（行范数，最大行和）

2范数（谱范数，最大奇值）

017 11/29

范数生成公式

谱半径

谱范不等式

谱半径小于任意一个范数

小范数定理

存在只比谱半径大一点点的范数

新范数引理

相似阵的范数为原矩阵的新范数

收敛定理

谱半径小于1，矩阵收敛

推论

若某范数<1，则谱半径<1,且 $A^k \rightarrow 0$

定理

$||A|| < 1, 则I-A 可逆，且(I-A)^{-1} = I + A + \cdots + A^k + \cdots$
若谱半径<1，则上述结论也成立

018 12/01

小范数定理

实数范数定理

$|x| = 1 \Rightarrow (1-x)^{-1} = 1 + x + x^2 + \cdots + x^k + \cdots$

许尔不等式

若等号成立，则A为正规阵

Ger圆盘

幂级数收敛定理

Eular公式

求导公式

根公式

$det(e^A) = e^{tr(A)}=e^{\Sigma a_{ii}}$

一个非单阵公式(广谱公式)

需要特征值全部相等（秩一），然后可展开
$f(A) = \sum_{k=0}^{\infty}f^{(k)}(a)(A-a)^k$

019 12/08

直积（张量积）

一般不可交换，右侧不可分块

左侧分块公式

分配

齐性

结合律

集合的张量积

集合中的元素分别相乘，作为结果中的元素

直积的阶数

$A_{m\times n}, B_{p \times q} \implies (A\otimes B)_{mp\times nq}$

$\star$吸收公式

$(A\otimes B)(C\otimes D) = AC \otimes BD$，需要保证AC、BD有意义
可推广到n项的情况

方阵的直积

$A = A_{n \times n}, B=B_{q\times q}, 则(A\otimes B)^k = A^k \otimes B^k$

特殊情况

单位阵

对角型

上三角

逆公式

A,B可逆，则$A \otimes B$可逆
且$(A\otimes B)^{-1} = A^{-1} \otimes B^{-1}$

转置公式

$(A \otimes B)^H = A^H \otimes B^H$

等价关系

矩阵相似，两边同时直积，结果也相似

秩公式

$rank(A \otimes B) = rank(A) \cdot rank(B)$

加号逆公式

$(A \otimes B)^+ = A^+ \otimes B^+$

根公式

$A = A_{n\times n}, B = B_{p \times p}, 若\lambda(A) = \{\lambda_1, \cdots, \lambda_n \},\\ \lambda(B) = \{t_1, \cdots, t_p\},那么\lambda(A \otimes B) = \lambda(A) \otimes \lambda(B),共np个$