最良近似多項式に関するおもしろい定理

最良近似多項式の意味と,関連するおもしろい定理を2つ紹介します。

最良近似多項式の例題

まずは比較的易しい大学入試レベルの例題です。

問題1

1x1-1\leqq x\leqq 1 において f(x)=x2f(x)=x^2 に最も「近い」1次以下の関数 g(x)=ax+bg(x)=ax+b を求めよ。

ただし,「近さ」は差の最大値 max1x1x2(ax+b)\displaystyle\max_{-1\leqq x\leqq 1}|x^2-(ax+b)| で測るものとする。

解答

まず,a=0,b=12a=0,b=\dfrac{1}{2} とすれば,差の最大値は 12\dfrac{1}{2} になる。 最良近似多項式の例

これが唯一の最適解であることを示す。

もし,差の最大値が 12\dfrac{1}{2} 以下なら

g(1)12g(-1)\geqq\dfrac{1}{2} より a+b12-a+b\geqq\dfrac{1}{2}

g(0)12g(0)\leqq\dfrac{1}{2} より b12b\leqq\dfrac{1}{2}

g(1)12g(1)\geqq\dfrac{1}{2} より a+b12a+b\geqq\dfrac{1}{2}

1つめと3つめの式より 2b12b\geqq 1,つまり b12b\geqq\dfrac{1}{2}

これと2つめの式より b=12b=\dfrac{1}{2} さらに1つめと2つめの式より a=0a=0 がわかる。

この問題にあるように,考えている区間内で「最も遠いところを近くする」多項式を最良近似多項式と呼ぶことにします。

チェビシェフ多項式とミニマックス原理

最良近似多項式に関連する定理です。定理1を使えば問題1が一瞬で解けます。

定理1(ミニマックス原理)

最高次の係数が 11 である nn 次関数 P(x)=xn+an1xn1++a1x+a0P(x)=x^n+a_{n-1}x^{n-1}+\cdots +a_1x+a_0

の中で,xx 軸に [1,1][-1,1] で最も「近い」もの。つまり max1x1P(x)\displaystyle\max_{-1\leqq x\leqq 1}|P(x)| を最小にするものはただ一つ存在し,それはチェビシェフ多項式 Tn(x)T_n(x) の定数倍 12n1Tn(x)\dfrac{1}{2^{n-1}}T_n(x) である。

チェビシェフ多項式とは,Tn(cosθ)=cosnθT_n(\cos\theta)=\cos n\theta となる多項式 Tn(x)T_n(x) です。コサインの nn 倍角の公式から定まります。例えば,

  • cos2θ=2cos2θ1\cos 2\theta=2\cos^2\theta-1 より T2(x)=2x21T_2(x)=2x^2-1
  • cos3θ=4cos3θ3cosθ\cos 3\theta=4\cos^3\theta-3\cos\theta より T3(x)=4x33xT_3(x)=4x^3-3x

です。Tn(x)T_n(x) は最高次の係数が 2n12^{n-1} である nn 次多項式です。つまり,12n1Tn(x)\dfrac{1}{2^{n-1}}T_n(x) は最高次の係数が 11 になるように定数倍したチェビシェフ多項式です。

では定理1を使ってみましょう。

問題1の別解

n=2n=2 のときの定理1から分かる。つまり,

max1x1x2+a1x+a0\displaystyle\max_{-1\leqq x\leqq 1}|x^2+a_1x+a_0| を最小にするのは 12T2(x)=x212\dfrac{1}{2}T_2(x)=x^2-\dfrac{1}{2} であるので,x2x^2 に最も「近い」1次以下の関数は g(x)=12g(x)=\dfrac{1}{2}

n=3n=3 のときもやってみる。

max1x1x3+a2x2+a1x+a0\displaystyle\max_{-1\leqq x\leqq 1}|x^3+a_2x^2+a_1x+a_0| を最小にするのは 14T3(x)=x334x\dfrac{1}{4}T_3(x)=x^3-\dfrac{3}{4}x であるので,x3x^3 に最も「近い」2次以下の関数は y=34xy=\dfrac{3}{4}x ミニマックス原理の例

同様に,y=xny=x^n に最も「近い」n1n-1 次以下の関数も計算できます。

定理1の補足

  • 定理1はマックスを最小(ミニマム)にする問題に関するのでミニマックス原理と呼ばれることがあります。
  • 定理1の証明については後述します。

交代定理

ここからさらに一般論です。

交代定理,あるいは等振動定理(Equioscillation theorem)と呼ばれるおもしろい定理です。

定理2(交代定理)

区間 [a,b][a,b] 上で定義された(nn 次以下の多項式ではない)連続関数 f(x)f(x) を考える。このとき,f(x)f(x) に最も「近い」nn 次以下の多項式がただ1つ存在し,それは以下の条件を満たす。

条件:f(x)f(x)最も「遠い」 n+2n+2 点からなる交代点列が存在する。つまり, 相異なる n+2n+2x1<x2<<xn+2x_1<x_2<\cdots<x_{n+2} が存在して,

  • k=1,...,n+2k=1,...,n+2 に対して f(xk)P(xk)=maxaxbf(x)P(x)|f(x_k)-P(x_k)|=\displaystyle\max_{a\leqq x\leqq b}|f(x)-P(x)| を満たす,かつ
  • f(xk)P(xk)f(x_k)-P(x_k) の符号が交代的(k=1k=1 から k=n+2k=n+2 までプラスとマイナスが交互)

最も「遠い」点がたくさん(nn 次多項式なのに n+2n+2 個)あり,それが上下交互になるようにいろいろな場所のバランスを調整するイメージです。

定理2の証明は,参考文献(最良近似多項式の存在と一意性) の定理5と定理6を参照してください。

定理2を認めれば定理1を導出できます。

定理2から定理1を証明

[a,b]=[1,1][a,b]=[1,1]nn1n\to n-1f(x)=xnf(x)=x^n として定理2を使う。

xnx^n[1,1][-1,1] で最も「近い」n1n-1 次以下の多項式がただ1つ存在し,以下の条件を満たす。

条件:相異なる n+1n+1x1<<xn+1x_1<\cdots<x_{n+1} が存在して,k=1,...,n+1k=1,...,n+1 に対して xknP(xk)=maxaxbxnP(x)|x_k^n-P(x_k)|=\displaystyle\max_{a\leqq x\leqq b}|x^n-P(x)| かつ符号が交代的。

あとは,xnP(x)=12n1Tn(x)x^n-P(x)=\dfrac{1}{2^{n-1}}T_n(x) のときにこの条件を満たすことを示せばよい。

Tn(cosθ)=cosnθ|T_n(\cos\theta)|=|\cos n\theta| であり,これが最大になるのは xk=coskπn(k=0,...,n)x_k=\cos\dfrac{k\pi}{n}\:(k=0,...,n) のときで n+1n+1 点あり符号も交代的なのでOK。

θ\thetaπ\pi から 00 まで動かすと, cosθ\cos\theta1-1 から 11 まで動く。cosnθ\cos n\theta は振動しながら,θ=kπn\theta=\dfrac{k\pi}{n} で絶対値最大の ±1\pm 1 を交互に取る)

参考文献として紹介したPDFは少し難しいですが最高なのでぜひ読んでみてください。