跳转到内容

线性代数知识集锦:第32-34讲

关键考点总览(本讲速记)

跳转到:关键考点总览(本讲速记)
  1. ⭐ 内积的定义:(α,β)=∑i=1naibi=βTα=αTβ(\alpha, \beta) = \sum_{i=1}^{n} a_i b_i = \beta^T \alpha = \alpha^T \beta
  2. ⭐ 内积三性质:对称性、线性性、正定性
  3. ⭐ Cauchy-Schwarz不等式:∣(α,β)∣≤∣α∣⋅∣β∣|(\alpha, \beta)| \leq |\alpha| \cdot |\beta|,等号成立当且仅当线性相关
  4. ⭐ 正交向量组必线性无关
  5. ⭐ Gram-Schmidt正交化公式
  6. ⭐ 正交矩阵判定:ATA=E⇔AT=A−1A^T A = E \Leftrightarrow A^T = A^{-1}
  7. ⭐ 实对称矩阵特征值全为实数,不同特征值对应的特征向量正交
  8. ⭐ 实对称矩阵必可正交相似对角化:QTAQ=ΛQ^T A Q = \Lambda
  9. ⭐ 正交替换化二次型为标准型,系数为特征值
  10. ⭐ 正定二次型等价条件:特征值全大于0、顺序主子式全大于0

第32讲:正交向量组

跳转到:第32讲:正交向量组
  • 内积定义:设 RnR^n 是实数域上的 nn 维线性空间,对任意 α=(a1,a2,⋯ ,an)T\alpha = (a_1, a_2, \cdots, a_n)^T,β=(b1,b2,⋯ ,bn)T\beta = (b_1, b_2, \cdots, b_n)^T,定义

    (α,β)=a1b1+a2b2+⋯+anbn=∑i=1naibi(\alpha, \beta) = a_1 b_1 + a_2 b_2 + \cdots + a_n b_n = \sum_{i=1}^{n} a_i b_i

    为 α\alpha 和 β\beta 的内积。[来源:p2,黄框标注]

  • 矩阵形式:(α,β)=βTα=αTβ(\alpha, \beta) = \beta^T \alpha = \alpha^T \beta,结果是一个实数。[来源:p2,黄框标注]

⭐ 内积 (α,β)(\alpha, \beta) 满足以下三条性质:

  1. 对称性:(α,β)=(β,α)(\alpha, \beta) = (\beta, \alpha) [来源:p3,红框标注]

  2. 线性性:

    • (α+γ,β)=(α,β)+(γ,β)(\alpha + \gamma, \beta) = (\alpha, \beta) + (\gamma, \beta)
    • (kα,β)=k(α,β)(k\alpha, \beta) = k(\alpha, \beta),这里 kk 是实数 [来源:p3,红框标注]
  3. 正定性:(α,α)≥0(\alpha, \alpha) \geq 0,且 (α,α)=0(\alpha, \alpha) = 0 当且仅当 α=0\alpha = 0 [来源:p3,红框标注]

  • 零向量内积:(0,α)=0(0, \alpha) = 0 [来源:p4]

  • 内积展开公式:

    (∑i=1mkiαi,∑j=1nljβj)=∑i=1m∑j=1nkilj(αi,βj)\left(\sum_{i=1}^{m} k_i \alpha_i, \sum_{j=1}^{n} l_j \beta_j\right) = \sum_{i=1}^{m} \sum_{j=1}^{n} k_i l_j (\alpha_i, \beta_j)

    [来源:p4,黄框标注]


二、长度(范数)

跳转到:二、长度(范数)
  • 长度定义:对任意 α\alpha,记 (α,α)\sqrt{(\alpha, \alpha)} 为 ∣α∣|\alpha|,即 ∣α∣=(α,α)|\alpha| = \sqrt{(\alpha, \alpha)},称 ∣α∣|\alpha| 为 α\alpha 的长度。[来源:p5,黄框标注]

  • 单位向量:长度为1的向量称为单位向量。[来源:p5]

  • 单位化:任何非零向量 α≠0\alpha \neq 0,α∣α∣\displaystyle\frac{\alpha}{|\alpha|} 是单位向量。[来源:p5]

  • 距离定义:α\alpha 和 β\beta 的距离为 ∣α−β∣=(α−β,α−β)|\alpha - \beta| = \sqrt{(\alpha - \beta, \alpha - \beta)} [来源:p5]

⭐ 长度的性质:

  1. ∣α∣≥0|\alpha| \geq 0,且 ∣α∣=0|\alpha| = 0 当且仅当 α=0\alpha = 0 [来源:p6]

  2. 对任意实数 kk 及向量 α\alpha:∣kα∣=∣k∣⋅∣α∣|k\alpha| = |k| \cdot |\alpha| [来源:p6]

  3. ⭐ Cauchy-Schwarz不等式:对任意两个向量 α,β\alpha, \beta,有

    ∣(α,β)∣≤∣α∣⋅∣β∣|(\alpha, \beta)| \leq |\alpha| \cdot |\beta|

    等号成立当且仅当 α,β\alpha, \beta 线性相关 [来源:p6,黄框标注]

  4. 三角不等式:对任意两个向量 α,β\alpha, \beta,有

    ∣α+β∣≤∣α∣+∣β∣和∣α−β∣≥∣∣α∣−∣β∣∣|\alpha + \beta| \leq |\alpha| + |\beta| \quad \text{和} \quad |\alpha - \beta| \geq ||\alpha| - |\beta||

    [来源:p9]

(4) Cauchy-Schwarz不等式的具体形式

跳转到:(4) Cauchy-Schwarz不等式的具体形式

设 ai,bia_i, b_i (i=1,2,⋯ ,ni = 1, 2, \cdots, n) 都是实数,则

∣∑i=1naibi∣≤(∑i=1nai2)(∑i=1nbi2)\left|\sum_{i=1}^{n} a_i b_i\right| \leq \sqrt{\left(\sum_{i=1}^{n} a_i^2\right)\left(\sum_{i=1}^{n} b_i^2\right)}

[来源:p7,黄框标注]

  • Cauchy-Schwarz不等式证明要点:对任意实数 xx,由内积正定性有 ∣xα−β∣2=(xα−β,xα−β)≥0|x\alpha - \beta|^2 = (x\alpha - \beta, x\alpha - \beta) \geq 0,展开得关于 xx 的二次函数,由判别式 Δ≤0\Delta \leq 0 得到不等式。[来源:p8]

  • 夹角定义:设 α\alpha 和 β\beta 是 VV 中两个非零向量,由Cauchy-Schwarz不等式,∣(α,β)∣α∣⋅∣β∣∣≤1\displaystyle\left|\frac{(\alpha, \beta)}{|\alpha| \cdot |\beta|}\right| \leq 1,定义这两个向量的夹角为

    ⟨α,β⟩=arccos⁡(α,β)∣α∣⋅∣β∣\langle\alpha, \beta\rangle = \arccos\frac{(\alpha, \beta)}{|\alpha| \cdot |\beta|}

    等价地,cos⁡⟨α,β⟩=(α,β)∣α∣⋅∣β∣\displaystyle\cos\langle\alpha, \beta\rangle = \frac{(\alpha, \beta)}{|\alpha| \cdot |\beta|} [来源:p11,黄框标注]

  • ⭐ 正交定义:若 (α,β)=0(\alpha, \beta) = 0,则称 α\alpha 和 β\beta 正交。[来源:p12]

  • 零向量正交:零向量与任意向量都正交。[来源:p12]

  • 设 α\alpha 和 β\beta 是 VV 中两个非零向量,α\alpha 和 β\beta 正交当且仅当 ⟨α,β⟩=π2\langle\alpha, \beta\rangle = \frac{\pi}{2}。[来源:p12]

⭐ 正交于子空间(对线性组合封闭):如果一个向量与一组向量都正交,则它与这组向量的任何线性组合也正交。

具体地,设对任意的 i=1,2,⋯ ,mi = 1, 2, \cdots, m,α\alpha 与 βi\beta_i 正交,即 (α,βi)=0(\alpha, \beta_i) = 0,则

(α,∑i=1mkiβi)=∑i=1mki(α,βi)=0\left(\alpha, \sum_{i=1}^{m} k_i \beta_i\right) = \sum_{i=1}^{m} k_i (\alpha, \beta_i) = 0

从而 α\alpha 和线性空间 L(β1,β2,⋯ ,βm)L(\beta_1, \beta_2, \cdots, \beta_m) 中所有向量正交。[来源:p13,标注框]

⭐ 与基正交则为零向量:设 α1,α2,⋯ ,αn\alpha_1, \alpha_2, \cdots, \alpha_n 是 nn 维空间的一组基,α\alpha 是 VV 中一个向量。若 (α,αi)=0(\alpha, \alpha_i) = 0 (i=1,2,⋯ ,ni = 1, 2, \cdots, n),则 α=0\alpha = 0。

理解:空间中一个元素,与这个空间中所有元素正交,那么这个元素一定是零元素。[来源:p14,标注框]


设 α1,α2,⋯ ,αm\alpha_1, \alpha_2, \cdots, \alpha_m 是 nn 维空间的 mm 个向量,Gram行列式(即Gram矩阵的行列式)定义为

G(α1,α2,⋯ ,αm)=∣(α1,α1)(α1,α2)⋯(α1,αm)(α2,α1)(α2,α2)⋯(α2,αm)⋮⋮⋱⋮(αm,α1)(αm,α2)⋯(αm,αm)∣G(\alpha_1, \alpha_2, \cdots, \alpha_m) = \begin{vmatrix} (\alpha_1, \alpha_1) & (\alpha_1, \alpha_2) & \cdots & (\alpha_1, \alpha_m) \\ (\alpha_2, \alpha_1) & (\alpha_2, \alpha_2) & \cdots & (\alpha_2, \alpha_m) \\ \vdots & \vdots & \ddots & \vdots \\ (\alpha_m, \alpha_1) & (\alpha_m, \alpha_2) & \cdots & (\alpha_m, \alpha_m) \end{vmatrix}

[来源:p15-16]

⭐ α1,α2,⋯ ,αm\alpha_1, \alpha_2, \cdots, \alpha_m 线性相关 ⇔\Leftrightarrow G(α1,α2,⋯ ,αm)=0G(\alpha_1, \alpha_2, \cdots, \alpha_m) = 0 [来源:p15-16]


五、正交向量组与标准正交基

跳转到:五、正交向量组与标准正交基

设 VV 是 nn 维欧氏空间:

  • ⭐ 正交向量组:两两正交的非零向量组 [来源:p17,红字标注]

  • ⭐ 标准正交向量组:两两正交的非零单位向量组 [来源:p17,红字标注]

  • ⭐ 正交基:由正交向量组构成的一组基 [来源:p17,红字标注]

  • ⭐ 标准正交基:由标准正交向量组构成的一组基 [来源:p17,红字标注]

⭐ 正交向量组必线性无关。[来源:p18,红字标注]

⭐ nn 维空间中任何由 nn 个向量组成的正交向量组都构成它的一组正交基;将其单位化即可得到它的一组标准正交基。[来源:p18]

⭐ nn 维空间必存在标准正交基,且标准正交基不唯一。[来源:p23]

正交向量组线性无关的证明:设 x1α1+⋯+xmαm=0x_1\alpha_1 + \cdots + x_m\alpha_m = 0,两边同时与 α1\alpha_1 做内积,利用正交性得 x1(α1,α1)=0x_1(\alpha_1, \alpha_1) = 0。由于 α1\alpha_1 是非零向量,由内积正定性 (α1,α1)≠0(\alpha_1, \alpha_1) \neq 0,故 x1=0x_1 = 0。类似地,x2=0,x3=0,⋯x_2 = 0, x_3 = 0, \cdots。[来源:p19,标注框]


六、Gram-Schmidt正交化

跳转到:六、Gram-Schmidt正交化

⭐ Gram-Schmidt正交化定理:对 nn 维空间中任何 mm 个线性无关的向量 α1,α2,⋯ ,αm\alpha_1, \alpha_2, \cdots, \alpha_m (m≤nm \leq n),可以构造出一个正交向量组 β1,β2,⋯ ,βm\beta_1, \beta_2, \cdots, \beta_m,满足对任意的 k=1,2,⋯ ,mk = 1, 2, \cdots, m,α1,α2,⋯ ,αk\alpha_1, \alpha_2, \cdots, \alpha_k 与 β1,β2,⋯ ,βk\beta_1, \beta_2, \cdots, \beta_k 都是等价的(生成相同的子空间)。[来源:p20-22]

⭐ 正交化公式(第一步:正交化):

β1=α1\beta_1 = \alpha_1 β2=α2−(α2,β1)(β1,β1)β1\beta_2 = \alpha_2 - \frac{(\alpha_2, \beta_1)}{(\beta_1, \beta_1)}\beta_1 β3=α3−(α3,β1)(β1,β1)β1−(α3,β2)(β2,β2)β2\beta_3 = \alpha_3 - \frac{(\alpha_3, \beta_1)}{(\beta_1, \beta_1)}\beta_1 - \frac{(\alpha_3, \beta_2)}{(\beta_2, \beta_2)}\beta_2 ⋮\vdots βi=αi−(αi,β1)(β1,β1)β1−(αi,β2)(β2,β2)β2−⋯−(αi,βi−1)(βi−1,βi−1)βi−1\beta_i = \alpha_i - \frac{(\alpha_i, \beta_1)}{(\beta_1, \beta_1)}\beta_1 - \frac{(\alpha_i, \beta_2)}{(\beta_2, \beta_2)}\beta_2 - \cdots - \frac{(\alpha_i, \beta_{i-1})}{(\beta_{i-1}, \beta_{i-1})}\beta_{i-1}

[来源:p22,红框标注]

记忆要点:减去在已经计算出的所有向量上的投影。α2\alpha_2 在 β1\beta_1 上的投影为 (α2,β1)(β1,β1)β1\displaystyle\frac{(\alpha_2, \beta_1)}{(\beta_1, \beta_1)}\beta_1。[来源:p21-22,红框标注]

⭐ 单位化公式(第二步:单位化):

γi=βi∣βi∣,i=1,2,⋯ ,m\gamma_i = \frac{\beta_i}{|\beta_i|}, \quad i = 1, 2, \cdots, m

则 γ1,γ2,⋯ ,γm\gamma_1, \gamma_2, \cdots, \gamma_m 即为一组标准正交基。[来源:p23]


第33讲:正交矩阵与实对称矩阵的相似对角阵

跳转到:第33讲:正交矩阵与实对称矩阵的相似对角阵

正交矩阵定义:设 AA 为 nn 阶实矩阵,若 ATA=EA^T A = E,则称 AA 为正交矩阵。【整理自PPT】

⭐ 正交矩阵的性质:

  1. 若 AA 为正交阵,则 ∣A∣=±1|A| = \pm 1 [来源:p2,黄框标注]

  2. ⭐ 实矩阵 AA 为正交阵 ⇔\Leftrightarrow AT=A−1A^T = A^{-1} [来源:p2,黄框标注]

  3. 若 A,BA, B 为 nn 阶正交阵,则 ABAB 也是正交矩阵 [来源:p2,黄框标注]

  4. ⭐ 实矩阵 AA 为正交阵 ⇔\Leftrightarrow AA 的行向量组是两两正交的单位向量组 [来源:p3,黄框标注]

  5. ⭐ 实矩阵 AA 为正交阵 ⇔\Leftrightarrow AA 的列向量组是两两正交的单位向量组 [来源:p4,黄框标注]

  6. 若 AA 为正交阵,则 AA 的实特征值只能为 ±1\pm 1(AA 的特征值模为1)[来源:p5,黄框标注]

⭐ 若 A=(α1,α2,⋯ ,αn)A = (\alpha_1, \alpha_2, \cdots, \alpha_n) 是正交矩阵,则

(αi,αj)=αiTαj={1,如果 i=j0,如果 i≠j(\alpha_i, \alpha_j) = \alpha_i^T \alpha_j = \begin{cases} 1, & \text{如果 } i = j \\ 0, & \text{如果 } i \neq j \end{cases}

[来源:p3-4]


设 A=(aij)n×nA = (a_{ij})_{n \times n} 是实正交矩阵,对任何 nn 维向量 xx,考虑变换 σ(x)=Ax\sigma(x) = Ax,则 ∣x∣=∣σ(x)∣|x| = |\sigma(x)|。这样的变换取名叫正交变换。[来源:p10]

⭐ 正交变换不改变向量长度。[来源:p10,标注框]

等价地:A=(aij)n×nA = (a_{ij})_{n \times n} 是实正交矩阵 ⇔\Leftrightarrow 对任何 x∈Rnx \in R^n,都有 ∣x∣=∣Ax∣|x| = |Ax|。[来源:p10]


三、实对称矩阵的特征值与特征向量

跳转到:三、实对称矩阵的特征值与特征向量

⭐ 实对称矩阵的重要性质:

  1. ⭐ 实对称矩阵的特征值全是实数 [来源:p12,黄框标注]

  2. 实反对称矩阵的特征值全是0或者纯虚数 [来源:p13,黄框标注]

  3. ⭐ 实对称矩阵不同特征值所对应的特征向量正交 [来源:p14]

  4. ⭐ 实对称矩阵必可正交相似对角化:对于 nn 阶实对称矩阵 AA,存在正交矩阵 QQ,使得

    QTAQ=Q−1AQ=ΛQ^T A Q = Q^{-1} A Q = \Lambda

    其中 Λ\Lambda 是一个对角矩阵 diag(λ1,λ2,⋯ ,λn)\text{diag}(\lambda_1, \lambda_2, \cdots, \lambda_n),λ1,λ2,⋯ ,λn\lambda_1, \lambda_2, \cdots, \lambda_n 为 AA 的特征值。[来源:p19,黄框标注]

  5. ⭐ 实对称矩阵特征值的几何重数等于代数重数。[来源:p19]

实对称矩阵特征值全为实数的证明:设 Aα=λαA\alpha = \lambda\alpha, α≠0\alpha \neq 0。两边取共轭,Aα‾=λα‾\overline{A\alpha} = \overline{\lambda\alpha},即 Aαˉ=λˉαˉA\bar{\alpha} = \bar{\lambda}\bar{\alpha}(因为 AA 是实对称矩阵,Aˉ=A\bar{A} = A)。用两种方法计算 αˉTAα\bar{\alpha}^T A\alpha,得到 λˉ=λ\bar{\lambda} = \lambda,故 λ\lambda 为实数。[来源:p12]


四、实对称矩阵的相似对角矩阵的求法

跳转到:四、实对称矩阵的相似对角矩阵的求法

⭐ 用正交矩阵相似对角化实对称矩阵的步骤:

设 AA 为实对称矩阵,试求正交矩阵 QQ,使得 QTAQ=Q−1AQQ^T A Q = Q^{-1} A Q 是一个对角矩阵。

Step 1:求出 AA 的所有不同特征值 λ1,⋯ ,λs\lambda_1, \cdots, \lambda_s;

Step 2:解齐次线性方程组 (λiE−A)X=0(\lambda_i E - A)X = 0,得到基础解系 αi1,αi2,⋯ ,αimi\alpha_{i1}, \alpha_{i2}, \cdots, \alpha_{im_i}(这里 mim_i 是特征值 λi\lambda_i 的几何重数,必须等于代数重数,αij\alpha_{ij} 都是列向量);

Step 3:将线性无关的向量组 αi1,αi2,⋯ ,αimi\alpha_{i1}, \alpha_{i2}, \cdots, \alpha_{im_i} 先正交化,然后单位化,得到向量组 βi1,βi2,⋯ ,βimi\beta_{i1}, \beta_{i2}, \cdots, \beta_{im_i}(施密特正交化方法);[来源:p20,红框标注]

Step 4:所求矩阵 Q=(β11,β12,⋯ ,β1m1,⋯ ,βs1,βs2,⋯ ,βsms)Q = (\beta_{11}, \beta_{12}, \cdots, \beta_{1m_1}, \cdots, \beta_{s1}, \beta_{s2}, \cdots, \beta_{sm_s})

Step 5:QTAQ=Q−1AQ=diag(λ1,⋯ ,λ1⏟m1,⋯ ,λs,⋯ ,λs⏟ms)Q^T A Q = Q^{-1} A Q = \text{diag}(\underbrace{\lambda_1, \cdots, \lambda_1}_{m_1}, \cdots, \underbrace{\lambda_s, \cdots, \lambda_s}_{m_s})

[来源:p20]


第34讲:正交替换化二次型为标准型

跳转到:第34讲:正交替换化二次型为标准型

一、化二次型为标准型的方法

跳转到:一、化二次型为标准型的方法

化二次型为标准型的方法:

  1. 正交代换法:用正交矩阵化实对称矩阵为对角矩阵
  2. 配方法
  3. 初等变换法

[来源:p1]

⭐ 二次型的标准型不唯一 [来源:p4,红字标注]

⭐ 正交替换化二次型为标准型以后,平方项的系数都是矩阵 AA 的特征值 [来源:p4,红字标注]

⭐ 正交替换具有不改变向量长度的性质,所以如果需要求椭圆、双曲线的长轴长、焦距等,必须使用正交替换 [来源:p4]

⭐ 配方法得到的非退换线性替换可能会改变向量长度 [来源:p4]


正定二次型:对于 nn 元二次型 f(x)=xTAxf(x) = x^T A x(AA 为实对称矩阵),若对任意非零向量 x≠0x \neq 0,都有 f(x)>0f(x) > 0,则称 ff 为正定二次型,AA 为正定矩阵。【整理自PPT】

半正定二次型:若对任意 xx,都有 f(x)≥0f(x) \geq 0,则称 ff 为半正定二次型,AA 为半正定矩阵。【整理自PPT】

⭐ 判断二次型是否为正定二次型的方法:

  1. 直接利用定义(例,A,BA, B 为正定矩阵,则 A+BA + B 正定)

  2. 化二次型为标准型(有正交矩阵法、配方法、初等变换法三种方法),利用定义判断其标准型是否为正定二次型

  3. 化二次型为规范标准型,看其正惯性指数是否为 nn

[来源:p10]

⭐ 二次型 g=xTAxg = x^T A x 是半正定二次型

  • ⇔\Leftrightarrow gg 的标准型中 nn 个平方项的系数全 ≥0\geq 0
  • ⇔\Leftrightarrow gg 的规范标准型中正惯性指数等于秩 rr
  • ⇔\Leftrightarrow AA 的特征值全 ≥0\geq 0
  • ⇔\Leftrightarrow 存在半正定矩阵 BB,使得 A=B2A = B^2
  • ⇔\Leftrightarrow 存在可逆矩阵 PP,使得 A=PT(Er000)PA = P^T \begin{pmatrix} E_r & 0 \\ 0 & 0 \end{pmatrix} P
  • ⇔\Leftrightarrow 存在 nn 阶方阵 MM,使得 A=MTMA = M^T M
  • ⇔\Leftrightarrow 存在秩为 rr 的 r×nr \times n 矩阵 MM,使得 A=MTMA = M^T M
  • ⇔\Leftrightarrow AA 的所有主子式都 ≥0\geq 0

[来源:p14]

⭐ 二次型 g=xTAxg = x^T A x 是正定二次型(在上述基础上):

  • ⇔\Leftrightarrow 特征值全大于0
  • ⇔\Leftrightarrow 存在正定矩阵 BB,使得 A=B2A = B^2
  • ⇔\Leftrightarrow 所有顺序主子式都大于0

[来源:p14,红字标注]


附:关键公式速查

跳转到:附:关键公式速查
公式名称公式内容
内积定义(α,β)=∑i=1naibi=αTβ(\alpha, \beta) = \sum_{i=1}^{n} a_i b_i = \alpha^T \beta
长度定义∥α∥=(α,α)\lVert \alpha \rVert = \sqrt{(\alpha, \alpha)}
夹角公式cos⁡⟨α,β⟩=(α,β)∥α∥⋅∥β∥\cos\langle\alpha, \beta\rangle = \frac{(\alpha, \beta)}{\lVert \alpha \rVert \cdot \lVert \beta \rVert}
Cauchy-Schwarz∣(α,β)∣≤∥α∥⋅∥β∥\lvert(\alpha, \beta)\rvert \leq \lVert \alpha \rVert \cdot \lVert \beta \rVert
施密特正交化βi=αi−∑j=1i−1(αi,βj)(βj,βj)βj\beta_i = \alpha_i - \sum_{j=1}^{i-1} \frac{(\alpha_i, \beta_j)}{(\beta_j, \beta_j)} \beta_j
正交矩阵条件ATA=EA^T A = E 或 AT=A−1A^T = A^{-1}
正交相似对角化QTAQ=ΛQ^T A Q = \Lambda(AA 为实对称矩阵)