一：特征值和特征向量
A x = λ x Ax = \lambda x Ax=λx
A 是一个 n*n 矩阵， x 是一个 n 维向量， λ \lambda λ是矩阵 A 的一个特征值，x 是矩阵 A的特征值 所对应的特征向量。
矩阵A就可以用下式的特征分解表示：
A = W
Σ
\Sigma
Σ
W
−
1
W^{-1}
W−1
其中W是这n个特征向量所张成的n×n维矩阵，而Σ为这n个特征值为主对角线的n×n维矩阵。
一般我们会把W的这n个特征向量标准化
n个特征向量为标准正交基，也就是说W为酉矩阵。
但A必须是方阵
当A不是方阵
二 SVD
A不是方阵
A= U
Σ
\Sigma
Σ
V
T
V^T
VT
计算：
如果我们将A的转置和A做矩阵乘法，那么会得到n×n的一个方阵
A
T
A
A^TA
ATA 。是方阵，那么我们就可以进行特征分解，得到的特征值和特征向量满足下式：
A
T
A
v
i
A^TAv_i
ATAvi =
λ
i
\lambda_i
λi
v
i
v_i
vi
这样我们就可以得到n个特征值和对应的n个特征向量v了。将 所有特征向量张成一个n×n的矩阵V，就是我们SVD公式里面的V矩阵了。一般我们将V中的每个特征向量叫做A的右奇异向量。
如果我们将A和A的转置做矩阵乘法，那么会得到m×m的一个方阵
A
A
T
AA^T
AAT 是方阵，那么我们就可以进行特征分解，得到的特征值和特征向量满足下式：
A
A
T
u
i
AA^Tu_i
AATui =
λ
i
\lambda_i
λi
u
i
u_i
ui
这样我们就可以得到矩阵m个特征值和对应的m个特征向量u了。将所有特征向量张成一个m×m的矩阵U，就是我们SVD公式里面的U矩阵了。一般我们将U中的每个特征向量叫做A的左奇异向量。
U和V我们都求出来了，现在就剩下奇异值矩阵Σ没有求出了.
由于Σ除了对角线上是奇异值其他位置都是0，那我们只需要求出每个奇异值σ就可以了。
我们注意到:
from zhihu
这样我们可以求出我们的每个奇异值，进而求出奇异值矩阵Σ。
特征值矩阵等于奇异值矩阵的平方，也就是说特征值和奇异值满足如下关系：
这样也就是说，我们可以不用 u v 来计算奇异值，也可以通过求出 A T A A^TA ATA的特征值取平方根来求奇异值。
最后咱们就是说 上点代码：
