線形代数

関数などの演算 $f$ が，任意の $a,b,x,y$ に対して

$f(ax+by)=af(x)+bf(y)$

を満たすとき，$f$ のそのような性質を線形性と呼ぶ。

行列式とは，正方行列に対して決まる重要な量（スカラー）である。行列 $A$ の行列式を $\det A$ や $|A|$ と表す。例えば

$A=\begin{pmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{pmatrix}$

の行列式は，$a_{11}a_{22}-a_{12}a_{21}$ のように定義される。

二重確率行列は置換行列の凸結合で表せる。

正方行列 $A$ ，$\overrightarrow{0}$ でないベクトル $\overrightarrow{x}$ ，スカラー $\lambda$ の間に

$A\overrightarrow{x}=\lambda \overrightarrow{x}$

が成立するとき $\overrightarrow{x}$ を $A$ の固有ベクトル，$\lambda$ を $A$ の固有値と言う。

行列の（一般的な）積：

行列 $A=(a_{ij}),B=(b_{ij})$ に対してその積 $AB$ を

$C=(c_{ij})$ ただし， $c_{ij}=\displaystyle\sum_{k=1}^na_{ik}b_{kj}$

で定義する。ただし，$A$ の列数と $B$ の行数（$=n$ とおく）が一致しているときのみ積 $AB$ は定義される。

行列 $A,B,C,D$ に対して

$(A+BDC)^{-1}=A^{-1}-A^{-1}B(D^{-1}+CA^{-1}B)^{-1}CA^{-1}$

（ただし，行列の積が定義できるような適切なサイズ，および $A$ などの逆行列の存在を仮定します）

特に $D=I$ のとき，

$(A+BC)^{-1}=A^{-1}-A^{-1}B(I+CA^{-1}B)^{-1}CA^{-1}$

$ij$ 成分が $a_{ij}$ であるような行列を $A$ とする。このとき， $a_{ji}$ を $ij$ 成分とするような行列を $A$ の転置行列と言い，$A^{\top}$ などと表す。

行列における次元定理：

$A$ を $m\times n$ 実行列とするとき， $\mathrm{rank}\:A+\dim (\mathrm{Ker}\:A)=n$

任意の実対称行列 $A$ について，

1．固有値は実数である

2．異なる固有値に対応する固有ベクトルは直交する

$A^{\top}A$ が正則なとき，$\|Ax-b\|$ を最小にする $x$ はただ一つであり，それは 正規方程式：$A^{\top}Ax=A^{\top}b$ を解くことで得られる。

与えられた正方行列 $A$ に対して，正則行列 $P$ をうまく取ってきて $P^{-1}AP$ を対角行列にする操作を対角化と言う。

$n\times n$ 正方行列 $A$ に対して，対角成分の和 $\displaystyle\sum_{k=1}^na_{kk}$ を $A$ のトレース（跡）と言い，$\mathrm{tr}\:A$ と書く。

$n$ 本の線形独立なベクトル $a_1,a_2,\cdots,a_n$ を「用いて」正規直交基底を作る方法として，グラムシュミット（Gram–Schmidt）の正規直交化法がある。

任意の行列に対してランクと呼ばれる重要な量が定まる。ランクにはいろいろな意味（性質）がある。

一次独立の定義：

以下の条件を満たすとき，ベクトル $\overrightarrow{v}_1,\cdots,\overrightarrow{v}_k$ は一次独立であるという。

条件：$\displaystyle\sum_{i=1}^kc_i\overrightarrow{v}_i=\overrightarrow{0}$ を満たす実数 $c_1,\cdots, c_k$ の組は $c_1=\cdots =c_k=0$ のみ。

二つの対称行列 $A,B$ について，

$AB=BA\iff$$A$ と $B$ は同時対角化可能

二次形式とは，二次の項のみからなる多項式のこと。例えば，$3x_1^2-2x_1x_2+4x_2^2$ は二次形式。

行列 $A$ に対して，$Ax=\overrightarrow{0}$ を満たすベクトル $x$ の集合を $A$ のカーネル（または核）と言い，$\mathrm{Ker}\:A$ と書くことが多い。

定数係数の隣接 $k+1$ 項間漸化式：

$a_{n+k}=p_{k-1}a_{n+k-1}+p_{k-2}a_{n+k-2}+\cdots +p_1a_{n+1}+p_0a_n$

について，$k$ 次方程式

$\phi(\lambda)=\lambda^k-p_{k-1}\lambda^{k-1}-p_{k-2}\lambda^{k-2}-\cdots -p_1\lambda-p_0=0$

を特性方程式と言う。特性方程式の解 $\lambda_1,\cdots, \lambda_k$ が全て異なるとき，数列 $a_n$ の一般項は $a_n=C_1\lambda_1^n+C_2\lambda_2^n+\cdots +C_k\lambda_k^n$

と表せる（$C_1,\cdots,C_k$ は初期条件によって決まる定数）。

任意の正方行列 $A$ に対して，ある正則行列 $P$ が存在して，$P^{-1}AP=J$ （$J$ はジョルダンブロックを対角に並べた行列）になるようにできる。

行列の指数関数：

正方行列 $A$ に対して， $e^{A}=\displaystyle\sum_{k=0}^{\infty}\dfrac{A^k}{k!}$ $\:=I+A+\dfrac{A^2}{2!}+\dfrac{A^3}{3!}+\cdots$

と定義する。

対角化（またはジョルダン標準形）を用いて正方行列の $n$ 乗を計算することができる。

$n\times n$ の正方行列 $A$ に対して以下の条件は同値である：

1. $AB=BA=I$（単位行列）となる行列 $B$ が存在する

2. $\det A\neq 0$

3. $\mathrm{rank}\:A=n$

4. $\mathrm{Ker}\:A=\{\overrightarrow{0}\}$

5. 全ての $A$ の固有値が $0$ でない

$n\times n$ の正方行列 $A=(a_{ij})$ について，

「$i > j$ ならば $a_{ij}=0$」を満たす行列を上三角行列

「$i < j$ ならば $a_{ij}=0$」を満たす行列を下三角行列

という。

各要素が $1$ または $-1$ で，各行が互いに直交するような正方行列をアダマール行列 (Hadamard matrix) と言う。

$\begin{pmatrix}1&2&0&0&0\\3&4&5&0&0\\0&6&7&8&0\\0&0&9&10&11\\0&0&0&12&13\end{pmatrix}$ のように，

対角成分とそれに隣接する成分（副対角成分）以外が $0$ であるような正方行列を三重対角行列と言う。

対角化可能な正方行列 $A$ について，全ての固有値が $-1$ より大きく $1$ より小さいとき，

$\displaystyle\sum_{k=0}^{\infty}A^k=I+A+A^2+\cdots$

は $(I-A)^{-1}$ に収束する。

「テンソル」という言葉には，

1. 代数学における「ベクトル空間のテンソル積」
2. 物理や微分幾何における「テンソル場」
3. その他，数の高次元配列としてのテンソルなど

といった，さまざまな意味がある。

「テンソル」という言葉には，

1. 代数学における「ベクトル空間のテンソル積」
2. 物理や微分幾何における「テンソル場」
3. その他，数の高次元配列としてのテンソルなど

といった，さまざまな意味がある。

$n \times n$ 複素行列 $H$ が　$$H^* = H$$ を満たすとき，（$n$次の）エルミート行列（Hermitian matrix）という。ただし $H^* = \overline{H^T}$ は転置して複素共役をとった行列。