線形代数

更新

高校数学における線形性の8つの例

関数などの演算 ff が,任意の a,b,x,ya,b,x,y に対して

f(ax+by)=af(x)+bf(y)f(ax+by)=af(x)+bf(y)

を満たすとき,ff のそのような性質を線形性と呼ぶ。

→ 高校数学における線形性の8つの例

ヴァンデルモンド行列式の証明と応用例

因数定理を用いたヴァンデルモンド行列式の証明及び応用例を解説します。

前提知識として行列式が必要です。→行列式の3つの定義と意味

→ ヴァンデルモンド行列式の証明と応用例

行列式の3つの定義と意味

行列式とは,正方行列に対して決まる重要な量(スカラー)である。行列 AA の行列式を detA\det AA|A| と表す。例えば

A=(a11a12a21a22)A=\begin{pmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{pmatrix}

の行列式は,a11a22a12a21a_{11}a_{22}-a_{12}a_{21} のように定義される。

この記事では,行列式の定義と性質について解説します。

→ 行列式の3つの定義と意味

バーコフ–フォン・ノイマンの定理

二重確率行列は置換行列の凸結合で表せる。

主張がシンプルで美しい&証明が美しい&名前がかっこいい定理です。

→ バーコフ–フォン・ノイマンの定理

クラメルの公式の具体例と証明

クラメルの公式とは,連立一次方程式の解を,係数を使って表す公式です。この記事ではクラメルの公式について,2変数の場合の具体例から一般形の証明まで詳しく解説します。

→ クラメルの公式の具体例と証明

固有値,固有ベクトルの定義と具体的な計算方法

正方行列 AA0undefined\overrightarrow{0} でないベクトル xundefined\overrightarrow{x} ,スカラー λ\lambda の間に

Axundefined=λxundefinedA\overrightarrow{x}=\lambda \overrightarrow{x}

が成立するとき xundefined\overrightarrow{x}AA の固有ベクトル,λ\lambdaAA の固有値と言う。

固有値,固有ベクトルの重要性,および正方行列が与えられたときに 固有値と固有ベクトルを求める具体的な計算方法を解説します。

→ 固有値,固有ベクトルの定義と具体的な計算方法

四面体の体積を求める2つの公式with行列式

一般的な四面体の体積を求める公式を二つ解説します。行列式が登場しますが,行列式を知らなくても楽しめます!応用例として東北大の入試問題も。

→ 四面体の体積を求める2つの公式with行列式

行列の積の定義とその理由

行列の(一般的な)積:

行列 A=(aij),B=(bij)A=(a_{ij}),B=(b_{ij}) に対してその積 ABAB

C=(cij)C=(c_{ij}) ただし, cij=k=1naikbkjc_{ij}=\displaystyle\sum_{k=1}^na_{ik}b_{kj}

で定義する。ただし,AA の列数と BB の行数(=n=n とおく)が一致しているときのみ積 ABAB は定義される。

行列積計算の具体例,なぜこのように積が定義されるのか。

→ 行列の積の定義とその理由

逆行列の補助定理(Woodburyの恒等式)

行列 A,B,C,DA,B,C,D に対して

(A+BDC)1=A1A1B(D1+CA1B)1CA1(A+BDC)^{-1}=A^{-1}-A^{-1}B(D^{-1}+CA^{-1}B)^{-1}CA^{-1}

(ただし,行列の積が定義できるような適切なサイズ,および AA などの逆行列の存在を仮定します)

特に D=ID=I のとき,

(A+BC)1=A1A1B(I+CA1B)1CA1(A+BC)^{-1}=A^{-1}-A^{-1}B(I+CA^{-1}B)^{-1}CA^{-1}

逆行列の補助定理,Sherman–Morrison–Woodburyの公式,Woodburyの恒等式,シャーマンモリソン公式などいろいろな呼び方があります。

一見複雑な形をしていますが,非常に美しい行列恒等式です。

→ 逆行列の補助定理(Woodburyの恒等式)

転置行列の意味・重要な7つの性質と証明

ijij 成分が aija_{ij} であるような行列を AA とする。このとき, ajia_{ji}ijij 成分とするような行列を AA の転置行列と言い,AA^{\top} などと表す。

いろいろなところで登場する「行列の転置」に関する話題。重要な性質とその証明を整理しました。

→ 転置行列の意味・重要な7つの性質と証明

次元定理の意味,具体例,証明

行列における次元定理:

AAm×nm\times n 実行列とするとき, rankA+dim(KerA)=n\mathrm{rank}\:A+\dim (\mathrm{Ker}\:A)=n

→ 次元定理の意味,具体例,証明

マトロイドの定義と具体例

ベクトルの一次独立性の構造を抽象化したマトロイドについて解説します。離散最適化という分野の基本的な話題です。

非常に抽象的ですが「一次独立」の意味が分かる高校生ならご理解いただける内容かと思います。

→ マトロイドの定義と具体例

半正定値対称行列の意味と性質【固有値・二次形式・分解・小行列式】

半正定値対称行列という重要な行列について解説。4つの同値な定義(性質)とその証明。証明には線形代数の重要なテクニックがいくつも登場するのでよい練習になります。

→ 半正定値対称行列の意味と性質【固有値・二次形式・分解・小行列式】

対称行列の固有値と固有ベクトルの性質の証明

任意の実対称行列 AA について,

1.固有値は実数である

2.異なる固有値に対応する固有ベクトルは直交する

→ 対称行列の固有値と固有ベクトルの性質の証明

ケーリー・ハミルトンの定理(2次,3次,n次)

ケーリー・ハミルトンの定理

正方行列 AA に対して,det(AλI)\det(A-\lambda I) という λ\lambda の多項式の λ\lambda の部分を AA に変えたものはゼロ行列になる。

→ ケーリー・ハミルトンの定理(2次,3次,n次)

正規方程式の導出と計算例

AAA^{\top}A が正則なとき,Axb\|Ax-b\| を最小にする xx はただ一つであり,それは 正規方程式:AAx=AbA^{\top}Ax=A^{\top}b を解くことで得られる。

前半は正規方程式を用いた最小二乗法の計算の具体例。後半は正規方程式の導出。

→ 正規方程式の導出と計算例

行列の対角化の意味と具体的な計算方法

与えられた正方行列 AA に対して,正則行列 PP をうまく取ってきて P1APP^{-1}AP を対角行列にする操作を対角化と言う。

→ 行列の対角化の意味と具体的な計算方法

行列のトレースのいろいろな性質とその証明

n×nn\times n 正方行列 AA に対して,対角成分の和 k=1nakk\displaystyle\sum_{k=1}^na_{kk}AA のトレース(跡)と言い,trA\mathrm{tr}\:A と書く。

行列のトレースについて,覚えておくべき公式を整理しました。

→ 行列のトレースのいろいろな性質とその証明

グラムシュミットの直交化法の意味と具体例

nn 本の線形独立なベクトル a1,a2,,ana_1,a_2,\cdots,a_n を「用いて」正規直交基底を作る方法として,グラムシュミット(Gram–Schmidt)の正規直交化法がある。

→ グラムシュミットの直交化法の意味と具体例

逆行列の定義・逆行列を求める2通りの方法と例題

与えられた正方行列の逆行列を求める方法,具体的な計算例を解説します。なお,公式の証明は線形代数の教科書を参照して下さい。

→ 逆行列の定義・逆行列を求める2通りの方法と例題

ガウスの消去法(掃き出し法)による連立一次方程式の解き方

連立一次方程式の解法としてガウスの消去法(掃き出し法)を解説します。ガウスの消去法はアイデアが簡単で,計算時間が短いので広く利用されています。

→ ガウスの消去法(掃き出し法)による連立一次方程式の解き方

行列のランクの意味(8通りの同値な定義)

任意の行列に対してランクと呼ばれる重要な量が定まる。ランクにはいろいろな意味(性質)がある。

→ 行列のランクの意味(8通りの同値な定義)

ベクトルの一次独立,一次従属の定義と意味

一次独立の定義:

以下の条件を満たすとき,ベクトル vundefined1,,vundefinedk\overrightarrow{v}_1,\cdots,\overrightarrow{v}_k は一次独立であるという。

条件:i=1kcivundefinedi=0undefined\displaystyle\sum_{i=1}^kc_i\overrightarrow{v}_i=\overrightarrow{0} を満たす実数 c1,,ckc_1,\cdots, c_k の組は c1==ck=0c_1=\cdots =c_k=0 のみ。

高校数学で扱う平面ベクトルで k=2k=2 の場合の具体例を中心に解説します。

→ ベクトルの一次独立,一次従属の定義と意味

同時対角化可能⇔交換可能の意味と証明

二つの対称行列 A,BA,B について,

AB=BA    AB=BA\iffAABB は同時対角化可能

線形代数の重要な定理です。この定理の証明および量子力学における意味を解説します。

→ 同時対角化可能⇔交換可能の意味と証明

ブロック行列の行列式,逆行列の公式と証明

この記事では大きな行列を四つに区切ったブロック行列 T=(ABCD)T=\begin{pmatrix}A&B\\C&D\end{pmatrix} について考えます。

AADD は正方行列とします。

→ ブロック行列の行列式,逆行列の公式と証明

直交行列の5つの定義と性質の証明

直交行列の同値な5つの定義,同値であることの証明,性質および具体例を解説します。

→ 直交行列の5つの定義と性質の証明

二次形式の意味,微分,標準形など

二次形式とは,二次の項のみからなる多項式のこと。例えば,3x122x1x2+4x223x_1^2-2x_1x_2+4x_2^2 は二次形式。

線形代数や微分幾何など様々な分野に登場する二次形式についての知識を整理しました。

→ 二次形式の意味,微分,標準形など

行列の基本変形の意味と応用(rank・行列式の計算)

行列の基本変形の意味とその応用(rank,行列式の求め方)について解説します。

→ 行列の基本変形の意味と応用(rank・行列式の計算)

行列のカーネル(核)の性質と求め方

行列 AA に対して,Ax=0undefinedAx=\overrightarrow{0} を満たすベクトル xx の集合を AA のカーネル(または核)と言い,KerA\mathrm{Ker}\:A と書くことが多い。

線形代数における重要な概念「カーネル」について解説します。

→ 行列のカーネル(核)の性質と求め方

特異値分解の定義,性質,具体例

行列の特異値分解(singular value decomposition, SVD)についての定義,性質などを整理しました。

→ 特異値分解の定義,性質,具体例

行列のフロベニウスノルムとその性質

行列のフロベニウスノルムについて,定義と3つの性質を解説します。

このページでは AAm×nm\times n の実行列とします(正方行列とは限らない)。

→ 行列のフロベニウスノルムとその性質

行列のパフィアン,パーマネント,ハフニアン

正方行列 AA に関して定義されるいろいろな量について紹介します。AAijij 成分を aija_{ij} と書きます。

→ 行列のパフィアン,パーマネント,ハフニアン

漸化式の特性方程式の意味とうまくいく理由

定数係数の隣接 k+1k+1 項間漸化式:

an+k=pk1an+k1+pk2an+k2++p1an+1+p0ana_{n+k}=p_{k-1}a_{n+k-1}+p_{k-2}a_{n+k-2}+\cdots +p_1a_{n+1}+p_0a_n

について,kk 次方程式

ϕ(λ)=λkpk1λk1pk2λk2p1λp0=0\phi(\lambda)=\lambda^k-p_{k-1}\lambda^{k-1}-p_{k-2}\lambda^{k-2}-\cdots -p_1\lambda-p_0=0

を特性方程式と言う。特性方程式の解 λ1,,λk\lambda_1,\cdots, \lambda_k が全て異なるとき,数列 ana_n の一般項は an=C1λ1n+C2λ2n++Ckλkna_n=C_1\lambda_1^n+C_2\lambda_2^n+\cdots +C_k\lambda_k^n

と表せる(C1,,CkC_1,\cdots,C_k は初期条件によって決まる定数)。

→ 漸化式の特性方程式の意味とうまくいく理由

ビネ・コーシーの定理とその証明

ビネ・コーシーの定理

AAm×nm\times n 行列,BBn×mn\times m 行列とする。

mnm\leq n なら,detAB=SdetA[S]detB[S]\det AB=\displaystyle\sum_{S}\det A[S]\det B[S]

AABB は正方行列とは限りませんが,ABABm×mm\times m の正方行列なので行列式が定義できます。行列積 ABAB の行列式を AA の(部分行列の)行列式と BB の(部分行列の)行列式で表す美しい公式です。

ビネ・コーシーの公式,コーシー・ビネの公式などとも呼ばれます。

→ ビネ・コーシーの定理とその証明

ジョルダン標準形の意味と求め方

任意の正方行列 AA に対して,ある正則行列 PP が存在して,P1AP=JP^{-1}AP=JJJ はジョルダンブロックを対角に並べた行列)になるようにできる。

→ ジョルダン標準形の意味と求め方

行列の指数関数とその性質

行列の指数関数:

正方行列 AA に対して, eA=k=0Akk!e^{A}=\displaystyle\sum_{k=0}^{\infty}\dfrac{A^k}{k!} =I+A+A22!+A33!+\:=I+A+\dfrac{A^2}{2!}+\dfrac{A^3}{3!}+\cdots

と定義する。

→ 行列の指数関数とその性質

行列のn乗の求め方と例題

対角化(またはジョルダン標準形)を用いて正方行列の nn 乗を計算することができる。

→ 行列のn乗の求め方と例題

行列が正則であることの意味と5つの条件

n×nn\times n の正方行列 AA に対して以下の条件は同値である:

  1. AB=BA=IAB=BA=I(単位行列)となる行列 BB が存在する

  2. detA0\det A\neq 0

  3. rankA=n\mathrm{rank}\:A=n

  4. KerA={0undefined}\mathrm{Ker}\:A=\{\overrightarrow{0}\}

  5. 全ての AA の固有値が 00 でない

→ 行列が正則であることの意味と5つの条件

上三角行列と下三角行列の意味と6つの定理

n×nn\times n の正方行列 A=(aij)A=(a_{ij}) について,

i>ji > j ならば aij=0a_{ij}=0」を満たす行列を上三角行列

i<ji < j ならば aij=0a_{ij}=0」を満たす行列を下三角行列

という。

→ 上三角行列と下三角行列の意味と6つの定理

アダマール行列の定義と性質

各要素が 11 または 1-1 で,各行が互いに直交するような正方行列をアダマール行列 (Hadamard matrix) と言う。

→ アダマール行列の定義と性質

三重対角行列の特殊形の固有値は綺麗

(12000345000678000910110001213)\begin{pmatrix}1&2&0&0&0\\3&4&5&0&0\\0&6&7&8&0\\0&0&9&10&11\\0&0&0&12&13\end{pmatrix} のように,

対角成分とそれに隣接する成分(副対角成分)以外が 00 であるような正方行列を三重対角行列と言う。

→ 三重対角行列の特殊形の固有値は綺麗

行列の無限等比級数

対角化可能な正方行列 AA について,全ての固有値が 1-1 より大きく 11 より小さいとき,

k=0Ak=I+A+A2+\displaystyle\sum_{k=0}^{\infty}A^k=I+A+A^2+\cdots

(IA)1(I-A)^{-1} に収束する。

行列の無限等比級数について考えます。記事の後半では,より一般的な主張を述べます。

→ 行列の無限等比級数

テンソルとは何か Part.1

「テンソル」という言葉には,

  1. 代数学における「ベクトル空間のテンソル積」
  2. 物理や微分幾何における「テンソル場」
  3. その他,数の高次元配列としてのテンソルなど

といった,さまざまな意味がある。

(関係しているが)異なる概念に対して同じような名前がついていることによって,「テンソル」を学ぶ際には混乱することが多いです。

この記事はPart.1として1. 線形代数における「ベクトル空間のテンソル積」について説明します。

→ テンソルとは何か Part.1

テンソルとは何か Part.2

「テンソル」という言葉には,

  1. 代数学における「ベクトル空間のテンソル積」
  2. 物理や微分幾何における「テンソル場」
  3. その他,数の高次元配列としてのテンソルなど

といった,さまざまな意味がある。

(関係しているが)異なる概念に対して同じような名前がついていることによって,「テンソル」を学ぶ際には混乱することが多いです。

この記事ではPart.2として「テンソル積における基底変換」と物理や微分幾何における「テンソル場」について説明します。

→ テンソルとは何か Part.2

交代行列の定義と性質

交代行列

交代行列とは,(012103230)\begin{pmatrix} 0 & 1 & 2\\ -1 & 0 & 3\\ -2 & -3 & 0\end{pmatrix} のように,A=AA^{\top} = -A を満たす正方行列,つまり転置するとマイナス1倍になる行列のこと。

pic01

この記事では,交代行列の性質を解説します。

→ 交代行列の定義と性質

行列の指数関数の計算方法

行列の指数関数

正方行列 AA に対して,eAe^A

eA=I+A+A22!+A33!+ e^{A}=I+A+\dfrac{A^2}{2!}+\dfrac{A^3}{3!}+\cdots

と定義される。

この記事では,行列の指数関数 eAe^A の具体的な計算方法を紹介します。任意の正方行列 AA に対して,eAe^A を計算できます! 少々ヘビーですので,具体例も合わせて読んでみてください。

また,行列の指数関数とその性質も参考にしてください。

→ 行列の指数関数の計算方法

巡回行列の固有値・固有ベクトルと行列式

巡回行列

(xyzzxyyzx)\begin{pmatrix}x&y&z\\z&x&y\\y&z&x\end{pmatrix} のように,ijij 成分の値が (ij)(i-j)nn で割った余りのみで決まる n×nn\times n 行列を巡回行列(循環行列,Circulant matrix)という。

左上~右下方向に同じ値が並んだ行列です。

→ 巡回行列の固有値・固有ベクトルと行列式

射影行列のイメージと楽しい公式

射影行列の定義

P2=PP^2=P を満たす正方行列 PP射影行列という。

射影行列直交射影行列の意味とイメージをわかりやすく紹介します。また,P=A(AA)1AP=A(A^{\top}A)^{-1}A^{\top} という楽しい公式も紹介します。

→ 射影行列のイメージと楽しい公式

エルミート行列とその性質,ユニタリ対角化の証明

n×nn \times n 複素行列 HH が H=HH^* = H を満たすとき,(nn次の)エルミート行列(Hermitian matrix)という。ただし H=HTH^* = \overline{H^T} は転置して複素共役をとった行列。

エルミート行列は対称行列の複素数バージョンです。エルミート行列の具体例と性質を紹介します。

→ エルミート行列とその性質,ユニタリ対角化の証明

ユニタリ行列の定義と性質の証明

ユニタリ行列の同値ないくつかの定義と,その性質を説明します。 ユニタリ行列の定義

→ ユニタリ行列の定義と性質の証明

ロドリゲスの回転公式(3次元の回転行列)

ロドリゲスの回転公式(ベクトル)

pic01 三次元空間において,nundefined\overrightarrow{n} を軸として,rundefined\overrightarrow{r}θ\theta 回転させた点 rundefined\overrightarrow{r'} は,

rundefined=(cosθ)rundefined+(1cosθ)(rundefinednundefined)nundefined+(sinθ)(nundefined×rundefined)\overrightarrow{r'}=(\cos\theta)\overrightarrow{r}+(1-\cos\theta)(\overrightarrow{r}\cdot\overrightarrow{n})\overrightarrow{n}+(\sin\theta)(\overrightarrow{n}\times\overrightarrow{r})

三次元空間での回転に関するロドリゲスの回転公式を紹介します。

まずはベクトル版を紹介し,後半では行列版(三次元空間における回転行列)を紹介します。

→ ロドリゲスの回転公式(3次元の回転行列)

シルベスターの慣性法則の意味と証明

シルベスターの慣性法則

1(大雑把な言い方)
多変数の二次関数を平方完成したとき,二乗の係数のプラス・0・マイナスの数は平方完成のやり方によらない。

2(数式で正確に):
対称行列 AA に対して,正の固有値の数,00 の固有値の数,負の固有値の数を p(A),z(A),n(A)p(A),z(A),n(A) とおく。正則行列 SS を用いて B=SASB=S^{\top}AS という関係が成立するなら,p(A)=p(B),z(A)=z(B),n(A)=n(B)p(A)=p(B),z(A)=z(B),n(A)=n(B)

3(簡潔な言い方):
互いに合同な行列の固有値の各符号の数は同じ。

→ シルベスターの慣性法則の意味と証明

単位行列の意味と性質,1との比較

単位行列の定義

対角成分が 11 で,それ以外の成分が 00 である正方行列を単位行列と言う。

  • サイズ2の単位行列:(1001)\begin{pmatrix}1&0\\0&1\end{pmatrix}
  • サイズ3の単位行列:(100010001)\begin{pmatrix}1&0&0\\0&1&0\\0&0&1\end{pmatrix}

単位行列は,数の 11 に似ています。以下では,数の 11 と比較しながら単位行列の性質を見ていきます。

→ 単位行列の意味と性質,1との比較