Bootstrap

cholesky分解_矩阵Cholesky分解和广义最小二乘法

正定矩阵对角线元素一定是正数。

4db75cf4-3430-eb11-8da9-e4434bdf6706.svg

那么取 4eb75cf4-3430-eb11-8da9-e4434bdf6706.svg

4fb75cf4-3430-eb11-8da9-e4434bdf6706.svg

相应的,半正定(positive semidefinite)矩阵的对角元素一定是非负的。

矩阵Cholesky分解定义,对于正定矩阵 53b75cf4-3430-eb11-8da9-e4434bdf6706.svg

54b75cf4-3430-eb11-8da9-e4434bdf6706.svg

其中 55b75cf4-3430-eb11-8da9-e4434bdf6706.svg 为上三角矩阵,对角元素为正数。

这个矩阵分解是从哪里来的呢?其并没有深刻的数学推导,就是等号左右两边对应相等算法

4deb912c320444d7918c2c7486e9329a.png

那么首先能得到

4df27889409761e24f850d20e8fb0b55.png

第二步

9c00cae1615c9e4064354d47b03c159c.png

没有栗子我是看不懂滴:

6b9beecdb974b1e066964d7dd9ac8383.png

这就是典型的计算机处理思想,复杂度为 5bb75cf4-3430-eb11-8da9-e4434bdf6706.svgflops.


矩阵Cholesky分解应用:广义最小二乘法

含噪声 5eb75cf4-3430-eb11-8da9-e4434bdf6706.svg 的问题(假设是信号多次传感问题),

5fb75cf4-3430-eb11-8da9-e4434bdf6706.svg (1)

其中, 62b75cf4-3430-eb11-8da9-e4434bdf6706.svg , 63b75cf4-3430-eb11-8da9-e4434bdf6706.svg 最小二乘解为

65b75cf4-3430-eb11-8da9-e4434bdf6706.svg

那么,如果每次传感信号的噪声方差不一样,那么普通最小二乘解显然会有偏差。那么,如何修正?

首先,每次传感噪声仍然是独立的,那么协方差矩阵 67b75cf4-3430-eb11-8da9-e4434bdf6706.svg 非对角元素仍然为0。利用Cholesky分解

69b75cf4-3430-eb11-8da9-e4434bdf6706.svg

这里 55b75cf4-3430-eb11-8da9-e4434bdf6706.svg 为下三角矩阵,式(1)两边左乘 6db75cf4-3430-eb11-8da9-e4434bdf6706.svg

6eb75cf4-3430-eb11-8da9-e4434bdf6706.svg (2)

70b75cf4-3430-eb11-8da9-e4434bdf6706.svg

73b75cf4-3430-eb11-8da9-e4434bdf6706.svg

75b75cf4-3430-eb11-8da9-e4434bdf6706.svg , 78b75cf4-3430-eb11-8da9-e4434bdf6706.svg

那么,式(2)的最小二乘解可以应用我们熟悉的公式

7bb75cf4-3430-eb11-8da9-e4434bdf6706.svg

附录

In linear algebra, the Cholesky decomposition or Cholesky factorization (pronounced /ʃə.ˈlɛs.ki/) is a decomposition of a Hermitian, positive-definite matrix into the product of a lower triangular matrix and its conjugate transpose, which is useful for efficient numerical solutions, e.g., Monte Carlo simulations. It was discovered by André-Louis Cholesky for real matrices. When it is applicable, the Cholesky decomposition is roughly twice as efficient as the LU decomposition for solving systems of linear equations.

;