从冰上的水 - Krylov 空间对角化

Definition of Krylov subspace

In linear algebra, the order r Krylov subspace generated by an n by n matrix A and a vector b of dimension n is the linear subspace spanned by the images of b under the first r powers of A , that is

$$ \begin{align} \mathcal{K}_r(A, b) = \mathrm{span} \{b, Ab, A^2b, \cdots, A^{r - 1} b\}. \end{align} $$

Examples

Adjacency matrix of the complete graph

完全图的邻接矩阵，物理上就是全连接相互作用的格点（无穷维晶格，平均场严格），以 3 阶为例：

$$ \begin{align} A = \begin{pmatrix} 0 & 1 & 1 \\ 1 & 0 & 1 \\ 1 & 1 & 0 \end{pmatrix} \end{align} $$

以向量 $b = (1, 0, 0)^T$ 做为 kernel，并归一化

$$ \begin{align} \frac{1}{\sqrt{2}}A b = \frac{1}{\sqrt{2}}\begin{pmatrix} 0 \\ 1 \\ 1 \end{pmatrix} ; \quad \frac{1}{\sqrt{6}}A^2 b = \frac{1}{\sqrt{6}}\begin{pmatrix} 2 \\ 1 \\ 1 \end{pmatrix} \end{align} $$

但 $A^2b$ 已经不是线性独立的了。所以可以在前两个基矢组成的 Krylov 子空间里求解本征值

$$ \begin{align} \begin{pmatrix} b^T \\ \frac{1}{\sqrt{2}}(Ab)^T \end{pmatrix} A \begin{pmatrix} b & \frac{1}{\sqrt{2}}Ab \end{pmatrix} = \begin{pmatrix} 0 & \sqrt{2} \\ \sqrt{2} & 1 \end{pmatrix} \end{align} $$

根据迹为 1 ，行列式为 $-2$ 可得本征值为 $2, -1$ 。直接对角化 A ，得到的本征值为 $-1, -1, 2$ 。由此可见，在二维的 Krylov 子空间里就得到了全部的本征值。

从对称群的角度理解（见2026-06-18-群表示论备忘）

使 A 不变的的所有对称操作构成置换群 $S_3$ 。自然基底 $(1, 0, 0)^T, (0, 1, 0)^T, (0, 0, 1)^T$ 负载了 $S_3$ 群的置换表示（Permutation representation）。这个表示可以约化成一个维不可约表示和一个二维不可约表示，分别对应两个不变子空间。

第一个不变子空间是完全对称的

$$ \begin{align} W_{\mathrm{sym}} = \mathrm{span} \{ (1, 1, 1)^T \} \end{align} $$

对应的投影算符 $$ \begin{align} P_{\mathrm{sym}} = \frac{1}{3} \begin{pmatrix} 1 & 1 & 1 \\ 1 & 1 & 1 \\ 1 & 1 & 1 \end{pmatrix}. \end{align} $$

另一个不变子空间是，二维标准表示对应的不变子空间

$$ \begin{align} W_{\mathrm{std}} = \{(a_1, a_2, a_3)^T: a_1 + a_2 + a_3 = 0\} \end{align} $$

对应的投影算符

$$ \begin{align} P_{\mathrm{std}} = I - P_{\mathrm{sym}} = \frac{1}{3}\begin{pmatrix} 2 & -1 & -1 \\ -1 & 2 & -1 \\ -1 & -1 & 2 \end{pmatrix}. \end{align} $$

根据 Schur's lemma ，在这两个不变子空间里， A 是一个常数阵，这个常数就是 A 的本征值，

$$ \begin{align} P_{\mathrm{sym}} A P_{\mathrm{sym}} = 2 P_{\mathrm{sym}} = \lambda_{\mathrm{sym}}P_{\mathrm{sym}}, \end{align} $$$$ \begin{align} P_{\mathrm{std}} A P_{\mathrm{std}} = - P_{\mathrm{std}} = \lambda_{\mathrm{std}}P_{\mathrm{std}}. \end{align} $$

在这个例子里，我们先的初始的矢量 b 在两个子空间中都有分量，所以在一个两维的 Krylov 子空间里就能得到所有本征值。对于有 $n_r$ 个不变子空间的情况，如果初始的 b 在所有不变子空间中都有分量，那么只需要 $n_r$ 维的 Krylov 子空间就可以得到所有的本征值。