7.4.3 矩阵极分解和平方根分解
7.4.3 矩陣極分解和平方根分解
當矩陣 AAA 是方陣時
A=UΣVT=UVTVΣVT=(UVT)(VΣVT)=QSQ=UVT是正交矩陣,S=VΣVT是對稱半正定矩陣,即對任意向量x,有xTSx≥0成立,因為對角陣Σ對角元素非負.又A=UΣVT=UΣUTUVT=(UΣUT)(UVT)=KQA = U\Sigma V^T = UV^TV\Sigma V^T = (UV^T)(V\Sigma V^T)=QS \\ Q = UV^T 是正交矩陣,S=V\Sigma V^T是對稱半正定矩陣,\\即對任意向量 \mathbf{x},有 \mathbf{x}^TS\mathbf{x} \ge 0 成立,因為對角陣 \Sigma 對角元素非負. \\又 A = U\Sigma V^T = U\Sigma U^TUV^T = (U\Sigma U^T)(UV^T)=KQ A=UΣVT=UVTVΣVT=(UVT)(VΣVT)=QSQ=UVT是正交矩陣,S=VΣVT是對稱半正定矩陣,即對任意向量x,有xTSx≥0成立,因為對角陣Σ對角元素非負.又A=UΣVT=UΣUTUVT=(UΣUT)(UVT)=KQ
矩陣極分解 任意方陣可分解為 A=QSA = QSA=QS 和 A=KQA = KQA=KQ 正交陣和對稱半正定矩陣乘積。
其中 QQQ 是最接近矩陣 AAA 的正交矩陣,即 ∥Q?A∥\|Q-A\|∥Q?A∥ 最小。
對稱半正定矩陣 S2=(VΣVT)(VΣVT)=VΣ2VT=ATAS^2 = (V\Sigma V^T)(V\Sigma V^T) = V\Sigma^2 V^T = A^TAS2=(VΣVT)(VΣVT)=VΣ2VT=ATA ,故 S=ATAS = \sqrt{A^TA}S=ATA? 稱矩陣 SSS 為對稱半正定矩陣 ATAA^TAATA 的平方根。
同理 K=AATK = \sqrt{AA^T}K=AAT? 稱矩陣 KKK 為對稱半正定矩陣 AATAA^TAAT 的平方根。
對稱半正定矩陣平方根分解 任意對稱半正定矩陣可分解為 S=FFS = FFS=FF ,其中 FFF 為半正定矩陣。
證:根據對稱矩陣譜分解定理 S=QΛQTS=Q\Lambda Q^TS=QΛQT ,當 SSS 是對稱半正定矩陣時,對角陣 Λ\LambdaΛ 對角元素非負。
S=QΛQT=QΣΣQT=QΣQTQΣQT=FFF=QΣQT,Σ=Λ=diag(λ1,?,λn)S=Q\Lambda Q^T = Q\Sigma \Sigma Q^T = Q\Sigma Q^T Q \Sigma Q^T = FF \\ F = Q\Sigma Q^T, \Sigma = \sqrt{\Lambda} = diag(\sqrt{\lambda_1},\cdots,\sqrt{\lambda_n}) S=QΛQT=QΣΣQT=QΣQTQΣQT=FFF=QΣQT,Σ=Λ?=diag(λ1??,?,λn??)
所以對稱半正定矩陣可以看作是實數中的非負數,有平方根。
對稱半正定矩陣平方根分解還有一種三角分解法,根據高斯消元法得到。
對稱半正定矩陣平方根分解 任意對稱半正定矩陣可分解為 S=LLTS = LL^TS=LLT ,其中 LLL 為下三角矩陣,對角元素為負。
證:根據任意方陣的 LDU 分解,有 S=LDUS = LDUS=LDU ,其中 LLL 是下三角單位矩陣,DDD 是上三角單位矩陣,DDD 是對角陣。當 SSS 是對稱半正定矩陣時,有 U=LTU=L^TU=LT,對角陣 DDD 對角元素非負。
S=L′DL′T=L′DDL′T=LLTL=L′DS = L' D L'^T = L' \sqrt{D} \sqrt{D} L'^T = LL^T \\ L = L' \sqrt{D} S=L′DL′T=L′D?D?L′T=LLTL=L′D?
S=LLTS = LL^TS=LLT 稱為 Cholesky 分解。
總結
以上是生活随笔為你收集整理的7.4.3 矩阵极分解和平方根分解的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 7.4.1 矩阵低秩近似、矩阵范数
- 下一篇: 7.4.4 主成分分析 PCA