1.3 内积空间 高等工程数学
讲义
2024AU
1.3.1 内积的定义与性质 设 是实
线性空间,若对任意的 ,都有一个实数与之对应,记该实数为 ,且满足
对称性 :
可加性 :
齐次性 :
正定性 : ,且
则称 为 与 的 内积 (Inner Product)
定义了内积的实线性空间称为 欧氏空间 (Eculidean Space)
欧式空间中的内积 例 设 ,以下 是内积吗?
函数空间上的内积 例 记 表示定义在 区间上的连续函数全体. 令
可验证 是内积.
酉空间 设 是复
线性空间,若对任意的 ,都有一个复数与之对应,记该复数为 ,且满足
共轭对称性 :
可加性
:
齐次性
:
正定性
: ,且
则称 为 与 的 内积
定义了内积的复线性空间称为 酉空间 (Unitary Space)
酉空间上的内积 例 对任意 ,
是内积
酉空间上内积的性质 对 ,
向量的长度 设 是 维内积空间, ,
称为 的 长度
单位向量 (Unit Vector):长度为 的向量
单位化向量 (Normalized Vector): ,其中
长度的性质
非负性 :
齐次性 :
Cauchy-Schwartz不等式 :
三角不等式 :
Cauchy-Schwartz不等式的证明(欧式空间)
对任意 ,
由根的判别式,须
又若 ,显然
若
时,显然 线性相关
时,令 ,则
于是 ,即二者线性相关
Cauchy-Schwartz不等式的证明(酉空间)
对任意 ,
即
注意到,对任意 , (请自行验证
)
从而
上式任意 成立,须
剩余部分的证明参考欧式空间对应的证明即可
度量矩阵 设 是内积空间 的基
对任意
定义 的度量矩阵 (Metric Matrix):
对任意非零向量 ,
欧式空间中的度量矩阵 设 是欧式空间, 是 的基.
1.3.2 向量的正交与 Schmidt 正交化 设 是内积空间,
正交 (Orthogonal),是指:
勾股定理 (Pythagorean Theorem)
例 求 中的单位向量 ,使之与如下向量均正交
提示
设所求向量为
则
联立后三个方程,解得基础解系
单位化可得
正交向量组 设 是 维内积空间 中的非零向量,若其中的向量两两正交
,则称其为 正交向量组.
是正交向量组 线性无关.
中的正交向量组 称为 的 正交基.
若以上 中的向量均为单位向量,则称 为 的 标准正交基 (Normal Orthogonal Basis)
标准正交基的判定 定理 以下条件等价:
是 的标准正交基
的度量矩阵是单位阵
,
Schmidt 正交化 设 是 维内积空间 的基,利用如下的方法可以得到 的一组标准正交基
令 ,
令 ,
令 ,
依此类推, , ,
正交化对应的过渡矩阵 到 的过渡矩阵
Schmidt 正交化的计算过程 例 设 的基
用 Schmidt 正交化方法求 的标准正交基.
提示
1.3.3 正交补空间 设 都是内积空间 的子空间,若对任意的 ,都有 ,则称 与 正交 ,记为 .
若 ,则 ;
思考 在 中,两个过原点且相互垂直的平面,分别对应子空间 ,是否意味着 ?
否!
几何意义上的垂直和线性空间的正交不是严格等价的
.
内积空间的正交直和分解 设 都是内积空间 的子空间,若有 ,且 ,则称 与 互为 正交补空间 (Orthogonal Complementary Space)
记为 .
称 为 的 正交直和分解 (Orthogonal Direct Sum Decomposition)
定理 内积空间的任一子空间都有唯一的正交补.
证明思路:
存在性
设 , .
取 为 的标准正交基.
利用基扩张定理,将 的基扩充为 的基 .
保持前 个向量不变,对以上的基从第 个向量开始施以 Schmit 正交化,得到标准正交基 .
记 ,则
唯一性
需要证明: ,若满足 ,则必有 .
反证法:若 ,则可将其分解为 ,其中 分别为 中的非零向量.
与假设矛盾.
求空间的正交补 例 设 是欧氏空间 的标准正交基,令
(1) 求 的标准正交基;
(2) 求 的正交补.
提示
(1) 利用 Schmit 正交化方法及勾股定理
Gram–Schmidt Process
The method is named after Jørgen Pedersen Gram (1850-1916) and Erhard Schmidt (1876-1959), but Pierre-Simon Laplace (1749-1827) had been familiar with it before Gram and Schmidt. In the theory of Lie group decompositions it is generalized by the Iwasawa(1917-1998) decomposition(岩泽分解).
1.3.4 正交变换与对称变换
正交变换 设 是欧式空间
上的线性变换,若对任意的 ,有
称 为 上的 正交变换 (Orthogonal Transformation)
正交变换的判定 定理 1.3.5 设 是欧式空间 上的线性变换,则下列条件等价:
是正交变换;
保持向量长度不变,即对任意的 ,有 ;
将标准正交基映射为标准正交基;
在标准正交基下的矩阵为正交矩阵.
为正交阵,当且仅当 或 .
正交矩阵的行(列)向量两两正交,且均为单位向量.
证明
设 是标准正交基,则 也是标准正交基
二者的度量矩阵均为
设 是标准正交基, 在 下的矩阵为
记
,当且仅当
故 是标准正交基等价于 是正交阵.
常用的正交变换:旋转变换
二维平面上的旋转
设 ,
二维欧式空间中的旋转变换 取定二维欧式空间中的标准正交基 ,绕零向量顺时针旋转 角的线性变换 在 下的矩阵为
高维空间中的旋转变换 取定 的标准正交基 ,子空间 中绕零向量顺时针旋转 角的变换称为 初等旋转变换 ,其在 下的矩阵为
第 行 第 行
常用的正交变换:镜像变换(Householder Reflection)
取定过原点的一条直线
任取向量
关于直线 对称的向量
几何上, 表示 在 上的投影长度
镜像变换对应的矩阵 在欧式空间中 中,若定义 ,则镜像变换可表示为
例 已知向量
求 Householder 变换矩阵 ,使得 ,其中 为正实数,给出 的值.
解
将 分别单位化 , .
令 .
,即为所求 Householder 矩阵.
,故 .
注: 任意两个向量 ,只要 ,则一定存在 Householder 矩阵 ,使得 .
事实上,因为
易得
故 就是 Householder 所需变换指向 一侧的单位法向量
进而,由 Householder 矩阵的构造公式计算可得
对称变换 设 是欧氏空间
上的线性变换,若 有
则称 为 对称变换. (Symmetry Transform)
对称变换对应的矩阵
定理1.3.6 是对称变换,当且仅当 在标准正交基下的矩阵是对称矩阵.
对称矩阵的不同特征值对应的特征向量是正交的.
对称矩阵的特征子空间两两正交.
对称矩阵的全部特征子空间构成了内积空间的正交直和分解.
注: 对称矩阵的不同特征值对应的特征向量是正交的
设 , 为 的特征值, , 分别为 对应的特征向量
,故必有
例 在 中定义内积
考虑 的子空间 及其上的线性变换 :
(1) 求 上的一个标准正交基;
(2) 证明 是对称变换;
(3) 求 上的标准正交基,使得 在该基下的矩阵是对角阵.
提示
求 的特征值和特征向量
的标准正交基:
在 下的矩阵为
1.3.5 酉变换与酉对称变换 设 是酉空间
上的线性变换,若 有
则称 为 酉变换. (Unitary Transformation)
设 是 阶复方阵,若 ,则称 为 酉矩阵. (Unitary Matrix)
酉变换和酉矩阵是分别是欧式空间中的正交变换和正交矩阵的推广
酉变换的判定 定理 1.3.5' 设 是酉空间 上的线性变换,则下列条件等价:
是酉变换;
保持向量长度不变,即对任意的 ,有 ;
将标准正交基映射为标准正交基;
在标准正交基下的矩阵为酉矩阵.
酉对称变换 设 是酉空间
上的线性变换,若 有
则称 为 酉对称变换.
设 是 阶复方阵,若 ,则称 为 Hermite 矩阵.
定理1.3.6' 是酉对称变换,当且仅当 在标准正交基下的矩阵是 Hermite 矩阵.
Schur定理 设 是 阶复方阵,则存在一酉矩阵 ,使得 是上三角矩阵,即
其中 是 的特征值.
证明思路
(数学归纳法)
设 ,其中 为单位向量.
将 扩张成 的标准正交基
以下使用数学归纳法证明.
时, 为上三角阵,结论成立.
时,假设对 阶方阵 ,存在 阶酉矩阵 ,使得 为上三角阵.
令 ,则 也是酉矩阵
即 为上三角阵.
下面说明 的对角元为 .
这等价于说明 恰为 的特征值.
事实上,注意到 ,故有
上式意味着等式两边的根相同,由此可知 的特征多项值恰为为 的特征值 .
Hermite 矩阵必可以相似对角化 推论 若 是 Hermite 矩阵,则存在一酉矩阵 ,使得
其中 均为实数是 的全部特征值.
实对称矩阵必可以相似对角化 推论 若 是实对称矩阵,则存在一正交矩阵 ,使得
其中 均为实数是 的全部特征值.
定理 对称变換(酉对称变换)一定可以对角化,且其特征值均为实数.
附注:实方阵的正交相似化简 定理 任意 阶实方阵 都正交相似于一个 阶上 Hessenberg 实矩阵.
上 Hessenberg 实矩阵 时,矩阵的元素 ,其中 ,形如
Hessenberg 矩阵的性质
上 Hessenberg 矩阵与上三角矩阵的乘积是上 Hessenberg 矩阵
若上 Hessenberg 矩阵矩阵的下次对角线上出现零元素,则可按此零元素所在位置将其分为两个子块,每个子块均为上 Hessenberg 矩阵,例如
推论 实对阵矩阵正交相似于三对角线矩阵.
小结
欧式空间和酉空间
度量矩阵与正交化
正交变换、对称变换(酉变换、酉对称变换)
正交矩阵、对称矩阵(酉矩阵、Hermite 矩阵)
旋转变换
与 Householder 变换
正交投影变换 例 设 是欧式空间 的子空间,则对任意 ,有唯一分解:
定义 上的映射 : .
(1) 证明 是线性变换
(2) 设 , ,则
提示
(1) 验证定义即可
(2) 设 ,
对任意 ,
由勾股定理
正交投影变换与投影矩阵
在标准正交基下,正交投影变换对应的矩阵称为投影矩阵 .
注意到投影映射具有幂等性( ),容易验证其对应的矩阵也具有幂等性( ),因此也称为幂等矩阵 (Idempotent Matrix).
可以证明 (自行验证)
幂等矩阵的特征值只能是 或 .
如果 是幂等矩阵,则 也是.
酉空间中的 Householder 变换 定理 设 是一给定的单位向量,则对任意的向量 ,存在 阶 Householder 矩阵 ,使得
其中 , 且 .
即:Householder变换(镜像变换)可以将任意一个向量正交变换到指定方向.
证明:
若 ,令 ,则对任意 Householder 矩阵 ,都有 .
考虑 , 不妨设 与 线性无关(否则取 ).
取 ,则:
以下证明
.
例 给定单位向量 ,对向量
分别求 Householder 矩阵 ,使得
提示: