Carl Bender Mathematical Physics Lecture3 & Lecture4 Note

发表于 | 分类于 | 评论数：

Information

Keywords

Branch cuts. Shanks transform. Acceleration of convergence. Richardson extrapolation. Summing a divergent series. Euler summation. Borel summation. Generic summation machines.

Branch Point And Branch Cut

以 \(\sqrt{z}\) 为例讲解, 非常清晰!

Shanks Transform

Shanks Transform 的作用是

Accelerate the convergence of a series that was already converging.

例如

\begin{align} \label{eq:log2} \ln 2 = 1 - \frac{1}{2} + \frac{1}{3} - \frac{1}{4} + \cdots = 0.693 147 2\cdots \end{align}

Shanks Transform 能够让收敛变得更快.

Mr. Shanks syas, let's make a model of this series.

把这种振荡的级数 model 一下.假设级数 \(S_N\) 有如下的形式

\begin{align} S_N = L + A B^N \end{align}

其中 \(-1 < B < 0\) , \(L\) 代表 limit, 也就是级数收敛的结果. 这个 model 并不完全和 (\ref{eq:log2}) 一致, 只是它们的模式一致.我们只关心级数最终收敛的结果, 也就是 \(L\) , 我们可以通过下面的式子把 \(L\) 解出来

\begin{align} S_{N-1} =& L + A B^{N-1}\\ S_N =& L + A B^N \\ S_{N+1} =& L + A B^{N+1} \end{align}

可得

\begin{align} L = \frac{S_N^2 - S_{N+1}S_{N-1}}{2 S_N - S_{N-1} - S_{N+1}} \end{align}

如果我们对级数 (\ref{eq:log2}) 做多次 Shanks transform, 结果如下 code: ShanksTrans.py

效果相当明显(不过还是像 Bender 一样列表, 才能够更清晰地看出精度的不断增加. 画这 个图是为了把算法写出来).

对于 Shanks transform, 有同学提问, 如何证明它能够对这样级数加速收敛, Bender 如 是回答

Some summation theory partially rigorous but mostly not. It is very powerful and works in places where people cannot even justify why it is working.

并说它在这门课所要教的是

Cutting-edge mathematical physics. Very useful mathematical physics.

Richardson Extrapolation

以级数

\begin{align} S = \sum_{n=1}^{\infty} \frac{1}{n^2} = \frac{\pi^2}{6} = \zeta(2) \end{align}

为例. 讲解如何用 Richardson extrapolation (理查德森外推法) 对不断逼近, 但是收敛 很慢的级数进行加速.

首先说明它收敛很慢. 计算到第 \(N\) 项的误差为

\begin{align} S - S_N = \sum_{N+1}^{\infty} \frac{1}{n^2} \sim \int_N^{\infty} \frac{\mathrm{d}n}{n^2} \sim \frac{1}{N} \quad (\mathrm{as} \, N\to \infty) \end{align}

也就是说, 计算到第 \(1000\) 项, 也只达到 \(\frac{1}{1000}\) 的精确度. 如果想到精确到 小数点后面十几位, 计算量就变得相当大.

Richardson extrapolation is a technique for extrapolating a sequence \(S_N\) to the limit of that sequence.

与 Shanks transform 类似的做法, 对这种收敛形式的级数 makes a model

\begin{align} S_N = S + \frac{a}{N} + \frac{b}{N^2} + \frac{c}{N^3} + \cdots \end{align}

如果保留到一阶, as \(N\to \infty\)

\begin{align} S_{N } \sim & S + \frac{a}{N} \\ S_{N+1}\sim & S + \frac{a}{N + 1}\\ \end{align}

两边同乘 \(N\) 以及 \(N + 1\) , 然后两式相减(not care \(a\)), 可以解出

\begin{align} R_1 \equiv S = (N + 1)S_{N + 1} - N S_N \end{align}

其中 \(R_1\) 代表 first order Richardson. 类似地可以做二阶, 结果

\begin{align} R_2 \equiv \frac{N^2S_N - 2(N + 1)^2S_{N + 1} + (N + 2)^2 S_{N + 2}}{2} \end{align}

以及更高阶. 下图是二阶的结果 code: Richardson.py

Richardson extrapolation 在数值积分中有很多应用, 如 Simpson's rule 是 trapezoid rule 的一阶 Richardson. Romberg integration 是 trapezoid rule 的更高阶的 Richardson.

Summing Divergent Series

Shanks transform 和 Richardson extrapolation 都是对本来就已经收敛的级数进行加速. 下面讨论如何 summing divergent series. 比如

\begin{align} &1 - 1 + 1 - 1 + 1 \cdots \label{div} \\ &1 + 2 + 4 + 8 + 16 \cdots \\ &1 + 1 + 1 + 1 + 1 \cdots \\ &1 + 0 - 1 + 1 + 0 - 1 + 1 + 0 - 1\cdots \\ &1 + \frac{1}{2} + \frac{1}{3} + \frac{1}{4} \cdots = \zeta(1) \label{eq:zeta1} \end{align}

首先, 用 (\ref{eq:zeta1}) 来说明

Some divergent series REALLY sum up to infinity – this is perfectly OK!

(\ref{eq:zeta1}) 可以对应物理图像, 将质量均匀的砖一块一块地摞, 最多能伸出多远. 如图 Geogebra 在线示意: https://www.geogebra.org/m/gxzshmzr 将砖自上而下的放, 每次放砖, 使砖的右侧对准上面所有砖头的重心, 那么伸出的长度就是 \(1 + \frac{1}{2} + \frac{1}{3} + \cdots\) , 而重心始终保持稳定, 不会倒. 因为 \(\zeta(1)\) 这个级数是发散的, 那么按照这种摞法, 只要够高, 砖头就会伸出无穷远. 这个非常有意思!

对于一个无穷级数来说, 不能够交换各项的顺序, 否则会改变他们的值. 比如前面提到的

\begin{align} \ln 2 = 1 - \frac{1}{2} + \frac{1}{3} - \frac{1}{4} + \cdots = 0.693 147 2\cdots \end{align}

如果我们任意交换各项的顺序, 我们可以让它收敛到任意实数. 可以给一个不收敛的级数求 和安排一个有意义的数字.

Euler Summation (Machine)

首先, 最简单的方法是 Euler summation. 假设 \(\sum_{n=0}^{\infty}a_n\) 不收敛. 那么构造函 数 \(f(x) = \sum_{n=0}^{\infty}a_nx^n\) , 如果它在 \(|x| < 1\) 时是收敛的, 那么定义

\begin{align} E \equiv \lim_{x\to 1} f(x) \end{align}

例如, 对于 series

\begin{align} 1 - 1 + 1 - 1 + 1 \cdots \end{align}

构造

\begin{align} f(x) = 1 - x + x^2 - x^3 + \cdots = \frac{1}{1 - x} \end{align}

那么

\begin{align} E \equiv \lim_{x\to 1} f(x) = \frac{1}{2} \end{align}

Borel Summation (Machine)

Borel Summation 比 Euler Summation 更加 powerful.

由 \(\Gamma\) 函数的定义我们知道

\begin{align} \frac{\int_0^{\infty}\mathrm{d}t\cdot e^{-t}t^n}{n!} = 1 \end{align}

那么对于级数 \(\sum_{n=0}^{\infty}a_n\) 构造

\begin{align} B \equiv \int_0^{\infty}\mathrm{d}t\cdot e^{-t}\frac{ t^n a_n}{n!} \end{align}

如果也把它用在级数

\begin{align} 1 - 1 + 1 - 1 + 1 \cdots \end{align}

上, 会发现 \(B=\frac{1}{2}\) , 和 Euler machine 的结果是相同的!

Generic Summation Procedure (Machine)

接下来构造一种普适的方法 \(\mathcal{S}(a_0 + a_1 + a_2 + \cdots) = S\). 但是不给出具体的 操作过程, 只给出它应该满足的两条性质

  • prop #1 : \(\mathcal{S}(a_0 + a_1 + a_2 + \cdots) = a_0 + \mathcal{S}(a_1 + a_2 + a_3 + \cdots)\)
  • prop #2: linearity \(\mathcal{S}\left(\sum(\alpha a_n + \beta b_n)\right) = \alpha \mathcal{S} (\sum a_n)+ \beta \mathcal{S}(\sum b_n)\)

例如, 我们还是将它用在级数

\begin{align} 1 - 1 + 1 - 1 + 1 \cdots \end{align}

上.

\begin{align} S = &\mathcal{S}(1 - 1 + 1 - 1 + 1 \cdots) \\ = & 1 + \mathcal{S}( - 1 + 1 - 1 + 1 \cdots) \quad \mathrm{prop1} \\ =& 1 - \mathcal{S}(1 - 1 + 1 - 1 + 1 \cdots) \quad \mathrm{prop2} \\ =& 1 - S \end{align}

可得 \(S = \frac{1}{2}\) , 是和前面一样的结论.

再如, 级数

\begin{align} 1 + 0 - 1 + 1 + 0 - 1 + 1 + 0 - 1\cdots \end{align}

如果用 Euler machine

\begin{align} E = & \lim_{x\to 1} f(x) = \lim_{x\to 1} 1 - x^{2} + x^3 - x^5 + x^6 \cdots \\ =& \lim_{x\to 1} (1 + x^3 + x^6 + x^9\cdots) - (x^2 + x^5 + x^8 \cdots) \\ =& \lim_{x\to 1} \frac{1}{1 - x^3} - \frac{x^2}{1 - x^3} \\ = & \frac{2}{3} \end{align}

注意第三个等号交换了各项的顺序, 这对于 Taylor 级数来说是没问题的. 可以看出, 这个 级数中有没有零是很关键的, 这说明求和时, 不能够用结合律把某些项加起来再求和.

如果用 Generic machine

\begin{align} S = & \mathcal{S}(1 + 0 - 1 + 1 + 0 - 1 + 1 + 0 - 1 \cdots) \\ = & 1 + \mathcal{S}( 0 - 1 + 1 + 0 - 1 + 1 + 0 - 1 \cdots) \quad \mathrm{prop1} \\ = & 1 + \mathcal{S}( - 1 + 1 + 0 - 1 + 1 + 0 - 1 \cdots) \quad \mathrm{prop1} \\ \end{align}

把三个等号后面的式子相加, 并用 prop#2

\begin{align} 3S = 2 + \mathcal{S}\left( (1 + 0 - 1) + (0 - 1 + 1) + (-1 + 1 + 0)\cdots \right) = 2 \end{align}

因此 \(S = \frac{2}{3}\) , 和 Euler machine 的结果相同.

Commentment

Bender 在 Lecture 4 的最后做了精彩的评述, 大意如下:

讲这些对不收敛的级数求和, 是为了用于微扰论.

微扰论将一个 hard problem 转化一无穷多非常简单的问题. 但是这些级数是不收敛的, 因 此我们需要用到这些方法来对它求和.

比如我们想要用微扰求解一个问题, 它的 answer 是 \(\frac{1}{1 + \epsilon}\) , 但是它很难, 我们没法直接得到 \(\frac{1}{1 + \epsilon}\) 这个答案. 只能用微扰来解, 而通过微扰, 我们得 到的结果是 \(\sum(-1)^n \epsilon^n\) . 但是我们想要是 \(\epsilon=3\) 时的结果, 那这是一个发散的求和. 那我们 play 一个 trick. 将 \(\epsilon\) 取成 \(|\epsilon| < 1\) 的值, 那就得到了 \(\frac{1}{1 + \epsilon}\) , 那把 \(\epsilon=3\) 代入就得到了答案 \(\frac{1}{4}\) . \(\sum(-1)^n \epsilon^n\) 只是答案的一 种表示, 并不是要我们真的去求和. 我们要做的是用一种方法将答案从求和的表示, 得到它 真正的值.

Summary

微扰得到的是不收敛的级数, 我们因此发展了用来求不收敛的级数的方法.