数値解析 第12回 (5) ベクトルと行列のノルム
ベクトルのノルム
予想 5 を議論するために、
ベクトルや行列の「大きさ」を測る「ノルム」という概念を導入します。
Def.6 $n$ 次元ベクトル $\xxx=(x_i)$ の関数 $|\,\xxx\,|$ が次の条件を満たすとき、
「ノルム」と呼ぶ：
- $|\,\xxx\,| \geqq 0$
- $|\,\xxx\,| = 0$ $\Leftrightarrow$ $\xxx=\ooo$
- 実数 $\alpha$ に対して $|\,\alpha\xxx\,| = |\,\alpha\,|\times|\,\xxx\,|$. ( ただし $|\,\alpha\,|$ は実数の絶対値 )
- $|\,\xxx+\yyy\,| \leqq |\,\xxx\,|+|\,\yyy\,|$ ( 三角不等式 )
その意味合いは次の通りです：
- 「大きさ」と言うからには $0$ 以上であるべき。
- 「大きさ」が $0$ のベクトルはゼロベクトルであるべき。
- $\alpha$ 倍したら大きさも $|\,\alpha\,|$ になるべき。
- 三角形の２辺の長さの和は他の１辺の長さ以上になって欲しい。
色々な関数が「ノルム」の条件を満たしますが、よく使われるのは次の３種類です。
Def.7 次の関数 $|\,\xxx\,|$ はいずれも「ノルム」の条件を満たす：
- $\dps{|\,\xxx\,|_1 = \sum_{i=1}^{n} |\,x_i\,|}$
- $|\,\xxx\,|_{2} = \sqrt{x_1^2+\cdots+x_n^2}$ ( ユークリッドノルム )
- $\dps{|\,\xxx\,|_{\infty} = \max_{1 \leqq i \leqq n} |\,x_i\,|}$
( 右辺の $|\,x_i\,|$ は実数としての絶対値です。)
Ex. 1次元 ( $n=1$ ) のときは、$\xxx=(x_1)$ に対して
$|\,\xxx\,|_1 = |\,\xxx\,|_{2} = |\,\xxx\,|_{\infty} = |\,x_1\,|$
となって、いずれも実数の絶対値そのものです。
Ex. $\xxx=\mat{r}{3 \\ -4}$ のときに
計算してみよう
- $|\,\xxx\,|_1 = $ ?
- $|\,\xxx\,|_{2} = $ ?
- $|\,\xxx\,|_{\infty} = $ ?
Ex. $\xxx=\mat{r}{3 \\ -4}$ のとき
- $|\,\xxx\,|_1 = |\,3\,|+|\,-4\,|=7$
- $|\,\xxx\,|_{2} = \sqrt{3^2+(-4)^2} = 5$
- $|\,\xxx\,|_{\infty} = \max(|\,3\,|,|\,-4\,|)=4$
※ 状況によって扱いやすいノルムを用います。もちろん
混ぜて使ってはいけません。
行列のノルム
今度は、ベクトルの「ノルム」を用いて行列の「ノルム」を定義します。
Def.8 $n$ 次行列 $A=(a_{ij})$ のノルムを次式によって定める：
$\dps{
||\,A\,||=\max_{\xxx \neq \ooo} \frac{|\,A\xxx\,|}{|\,\xxx\,|}}$
※ 行列式の記号と混同しないためにここでは $||\ \ ||$ で書くことにします。
ゼロベクトルでないベクトル $\xxx$ を $A$ 倍した時の拡大率 $\dps{\frac{|\,A\xxx\,|}{|\,\xxx\,|}}$ が最大でいくつになるか、
で行列の大きさを定義する訳です。
ベクトルの長さとしてはユーリッドノルム $|\ \ |_{2}$ が自然で分かり易いのですが、
対応する行列のノルム $||\ \ ||_{2}$ が複雑で扱いにくい、という欠点があります。
これに対し、
Th.9 $|\ \ |_{\infty}$ に対応する行列のノルム $||\ \ ||_{\infty}$ は
$\dps{
||\,A\,||_{\infty}=\max_{1 \leqq i \leqq n} \left( \sum_{j=1}^n |\,a_{ij}\,| \right).
}$
すなわち $||\,A\,||_{\infty}$ は、行方向の $|\,a_{ij}\,|$ の和、のうちの最大の値である。
証明 まず
$|\,A\xxx\,|_{\infty}
= \dps{\max_{1 \leqq i \leqq n} \left|\,(A\xxx)_i\,\right|}
= \dps{\max_{1 \leqq i \leqq n} \left|\,\sum_{j=1}^{n} a_{ij}x_j\,\right|}
\leqq \dps{\max_{1 \leqq i \leqq n} \left( \sum_{j=1}^{n} |\,a_{ij}\,| \times |\,x_j\,| \right)}
$
下記
Th.10 (1) より
右辺
$\leqq \dps{\max_{1 \leqq i \leqq n} \left( \sum_{j=1}^{n} |\,a_{ij}\,| \times |\,\xxx\,|_{\infty} \right)}
= \dps{\left(\max_{1 \leqq i \leqq n} \left( \sum_{j=1}^{n} |\,a_{ij}\,| \right)\right)} \times |\,\xxx\,|_{\infty}
$
従って
$||\,A\,||_{\infty} = \dps{\max_{\xxx \neq \ooo} \frac{|\,A\xxx\,|_{\infty}}{|\,\xxx\,|_{\infty}}
\leqq \max_{1 \leqq i \leqq n} \left( \sum_{j=1}^{n} |\,a_{ij}\,| \right)}
$
等号は、$\dps{\sum_{j=1}^{n} |\,a_{ij}\,|}$ が最大となる番号 $j$ について、$\xxx=(x_i)$ を
$\dps{
x=
\left\{
\begin{array}{rl}
1 & \quad\mbox{if}\quad a_{ij} \geqq 0 \\
-1 & \quad\mbox{if}\quad a_{ij} \lt 0 \\
\end{array}
\right.
}$
と定めれば成立する。(証明終)
Ex. $\dps{A=\mat{rr}{1 & -3 \\ 2 & 4 \\}}$ のとき
$$
||\,A\,||_{\infty}=\max(\,|1|+|-3|,\, |2|+|4|\,) = \max(4,6) = 6
$$
実に簡明です。そこで今日は $|\ \ |_{\infty}$ と $||\ \ ||_{\infty}$ を採用します。
$\require{color}$
ノルムの性質
定義より直ちに次が言えます：
Th.10 $|\ \ |_{\infty}$ と $||\ \ ||_{\infty}$ について次が成立する。
- $\forall\, i$ について $|\,x_i\,| \leqq |\,\xxx\,|_{\infty}$
- $\forall\, \xxx$ について $|\,A\xxx\,|_{\infty} \leqq ||\,A\,||_{\infty} \times |\,\xxx\,|_{\infty}$
- $||\,AB\,||_{\infty} \leqq ||\,A\,||_{\infty} \times ||\,B\,||_{\infty}$
証明
- $|\,\xxx\,|_{\infty} = \dps{\max_{1 \leqq i \leqq n} |\,x_i\,|} \geqq |\,x_i\,|$
- $\xxx = \ooo$ のときは両辺 $=0$ で成立。
$\xxx \neq \ooo$ ならば
$\dps{
||\,A\,||_{\infty}=\max_{\yyy \neq \ooo} \frac{|\,A\yyy\,|_{\infty}}{|\,\yyy\,|_{\infty}}
\geqq \frac{|\,A\xxx\,|_{\infty}}{|\,\xxx\,|_{\infty}}
}$
- (2) より $\forall \xxx \neq \ooo$ について
$|\,AB\xxx\,|_{\infty} \leqq ||\,A\,||_{\infty} \times |\,B\xxx\,|_{\infty}
\leqq ||\,A\,||_{\infty} \times ||\,B\,||_{\infty} \times |\,\xxx\,|_{\infty}$
よって
$\dps{
||\,AB\,||_{\infty}=\max_{\xxx \neq \ooo} \frac{|\,AB\xxx\,|_{\infty}}{|\,\xxx\,|_{\infty}}
\leqq ||\,A\,||_{\infty} \times ||\,B\,||_{\infty}
}$ (証明終)
さて、この (1) より
Cor.11 ベクトル列 $\{\,\eee^{(k)}\,\}$ が
$\dps{\lim_{k \rightarrow \infty} \left|\,\eee^{(k)}\,\right|_{\infty} = 0}$
を満たせば
$e^{(k)} \longrightarrow \ooo$ ( $k\longrightarrow \infty$ )
すなわち、ノルムが 0 に収束するようなベクトル列はゼロベクトルに収束する。
以上の準備の元、次のページでは
予想 5 を定量的に議論しましょう。