線形代数学 (2018年度)

2018年4月8日作成

2019年3月6日11:33最終更新

授業の日時,場所

  • 水曜日3時限目
  • 2204教室

教科書について

この授業では教科書は特に指定しません.演習問題などは毎回,板書またはプリントにして配布します.

授業の進め方

  1. 毎回授業の最初に演習をします.
    1. 前回の授業のときにそれぞれの演習問題の解答者を指名しておきます.指名された人は授業時間が始まるまでに黒板に解答を書いておいてください.教科書の巻末にある解答を写すのではなく,自分の理解を反映して自身の言葉で書いてください.それが自分のためにもクラスメートのためにも大切です.
    2. 黒板の解答に沿って,理解すべき点や解答で書くべきことを私が説明します.なるべくきちんとした解答が黒板に残るように朱筆を加えますが,説明の方もよく聞いてください.原則として,黒板に解答がない問題については解説しません.
    3. なお、再履修の方は学期半ばまで履修者名簿に名前がないため,こちらから指名するのは難しいかもしれません.積極的に自分から名乗り出て演習を解くようにしてください.
  2. 続いて講義を行います.講義では
    1. 基本的な概念 (定義) の説明
    2. それらの概念の満たす性質 (命題、定理など)
    3. それらの性質を使って計算する方法 (例題) の解説

    についてお話しします.ときどき命題や定理の証明もしますが,それは内容をよりよく理解して使えるようになってもらうためで,証明を覚える必要は特にありません.

  3. 最後に次回の演習の解答者を指名します.

履修のコツ

線形代数に限らず数学科目では,前回まで学んだ内容の上に授業内容が積み重なって,複雑な概念を無理なく理解し,自分の考察に運用できるようにしていきます.喩えるならば,日々負荷を高めることで身体能力を上げていくアスリートの訓練のようなもので,このような能力を上げる目的には,日々の積み重ねが最も大切です.

そのためには,毎週の授業で学んだ内容をその日のうちに必ず復習し,出された演習問題を,これまた必ずその日のうちに解いてみることです.初回の授業からこの2点をきちんと実行していれば,学期末になって特に試験の準備をする必要はないはずです.逆に毎回の授業内容を習得することを怠っていれば,試験前にいくら詰め込み勉強をしたとしても,ほとんど効果はありません.簡単なことですので,履修者の皆さんは意志を持って上の2点を守るようにしてください.

授業予定

これはあくまで予定であり,事情により随時変更されることがあります.

4月11日 掃き出しと線形方程式系

m\times n 行列

\displaystyle \begin{pmatrix}a_{1,1} & a_{1,2} & \dots & a_{1,n}\\ a_{2,1} & a_{2,2} & \dots & a_{2,n}\\ \vdots & \vdots & \ddots & \vdots\\ a_{m,1} & a_{m,2} & \dots & a_{m,n} \end{pmatrix}

とその第{i} (row) {(a_{i,1},\dots,a_{i,n})}, 第{j} (column) {\begin{pmatrix}a_{1,j}\\ \vdots\\ a_{m,j} \end{pmatrix}}

{n}正方行列 (square matrix),行ベクトル (row vector) と列ベクトル (column vector).

Gauss-Jordan 消去法

  • 行基本変形3種
  • 階段行列 (rref)
    1. 各行の{0}でない最初の成分は{1}.
    2. そのような{1}を含む列の他の成分は全て{0}.
    3. 下の行に行くほど最初の1は右に来る.
  • 最初の1に対応する変数をそれ以外の (パラメーター) 変数で表す.

4月18日 線型方程式系の解の構造

2.1. 連立一次方程式の解の構造
{m\times n}行列{A=\begin{pmatrix}a_{1,1} & \dots & a_{1,n}\\ \vdots & \dots & \vdots\\ a_{m,1} & \dots & a_{m,n} \end{pmatrix}},列ベクトル{\boldsymbol{b}=\begin{pmatrix}b_{1}\\ \vdots\\ b_{m} \end{pmatrix}}に対する連立一次方程式

\displaystyle \left\{ \begin{array}{c} a_{1,1}x_{1}+\dots+a_{1,n}x_{n}=b_{1}\\ a_{2,1}x_{1}+\dots+a_{2,n}x_{n}=b_{2}\\ \vdots\\ a_{m,1}x_{1}+\dots+a_{m,n}x_{n}=b_{m} \end{array}\right. \ \ \ \ \ (1)


を考える.

命題2.1. (i) 一次方程式系(1)が解を持たないためには,簡約行列{\mathrm{rref}(A|\boldsymbol{b})}{(0\dots0|1)}の形の行があることが必要十分.
(ii) それ以外の場合,(1)がただ一つの解を持つためには,{\mathrm{rref}(A)}の各列が,ある行の最初の1を含むことが必要十分.

定義2.1. 行列{A}の簡約行列{\mathrm{rref}(A)}の最初の1の個数を{A}階数 (rank)と呼んで{\mathrm{rank}A}と書く.定義から{\mathrm{rank}(A)\leqq\min(m,n)}

命題2.2. (i) {\mathrm{rank}(A)=m}ならこの方程式系は解を持つ.
(ii) {\mathrm{rank}(A)=n}ならこの方程式系は高々1つしか解を持たない.
(iii) {\mathrm{rank}(A)<n}ならこの方程式系は無限個の解を持つか,解を持たないかのいずれかである.

系2.1. n=mのとき,(1)がただ一つの解を持つためには,{\mathrm{rref}(A)}単位行列 (unit matrix)

\displaystyle \begin{pmatrix}1 & 0 & \dots & 0\\ 0 & 1 & \ddots & \vdots\\ \vdots & \ddots & \ddots & 0\\ 0 & \dots & 0 & 1 \end{pmatrix}

であることが必要十分.

2.2. 一次方程式系のベクトル表示

定義2.2. {m\times n}行列{A=\left(\begin{array}{ccc} a_{1,1} & \dots & a_{1,n}\\ \vdots & \ddots & \vdots\\ a_{m,1} & \dots & a_{m,n} \end{array}\right)}, {B=\left(\begin{array}{ccc} b_{1,1} & \dots & b_{1,n}\\ \vdots & \ddots & \vdots\\ b_{m,1} & \dots & b_{m,n} \end{array}\right)}{\boldsymbol{c}=\begin{pmatrix}c_{1}\\ c_{2}\\ \vdots\\ c_{n} \end{pmatrix}\in\mathbb{R}^{n}}に対して

\displaystyle A+B:=\left(\begin{array}{ccc} a_{1,1}+b_{1,1} & \dots & a_{1,n}+b_{1,n}\\ \vdots & \ddots & \vdots\\ a_{m,1}+b_{m,1} & \dots & a_{m,n}+b_{m,n} \end{array}\right)

\displaystyle \lambda A:=\left(\begin{array}{ccc} \lambda a_{1,1} & \dots & \lambda a_{1,n}\\ \vdots & \ddots & \vdots\\ \lambda a_{m,1} & \dots & \lambda a_{m,n} \end{array}\right)

\displaystyle A\boldsymbol{c}=\begin{pmatrix}\boldsymbol{v}_{1} & \boldsymbol{v}_{2} & \dots & \boldsymbol{v}_{n}\end{pmatrix}\begin{pmatrix}c_{1}\\ c_{2}\\ \vdots\\ c_{n} \end{pmatrix}=c_{1}\boldsymbol{v}_{1}+c_{2}\boldsymbol{v}_{2}+\dots+c_{n}\boldsymbol{v}_{n}

と書く.

\displaystyle \boldsymbol{v}_{j}=\begin{pmatrix}a_{1,j}\\ a_{2,j}\\ \vdots\\ a_{m,j} \end{pmatrix},\quad(1\leqq j\leqq n),\qquad\boldsymbol{b}=\begin{pmatrix}b_{1}\\ b_{2}\\ \vdots\\ b_{m} \end{pmatrix}

とおけば,上の方程式(1)は

\displaystyle x_{1}\boldsymbol{v}_{1}+x_{2}\boldsymbol{v}_{2}+\dots+x_{n}\boldsymbol{v}_{n}=\boldsymbol{b}

と書ける.これを一次方程式系のベクトル表示という.

定義2.3. 実数の集合を{\mathbb{R}}と書き,実数係数の列ベクトル{\begin{pmatrix}a_{1}\\ a_{2}\\ \vdots\\ a_{m} \end{pmatrix}}, ({a_{i}\in\mathbb{R}})の集合を{\mathbb{R}^{m}}で表す.{\boldsymbol{b}\in\mathbb{R}^{m}}{\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{n}\in\mathbb{R}^{m}}一次結合 (linear combination)であるとは,適当な{c_{1},\dots,c_{n}\in\mathbb{R}}があって

\displaystyle \boldsymbol{b}=c_{1}\boldsymbol{v}_{1}+c_{2}\boldsymbol{v}_{2}+\dots+c_{n}\boldsymbol{v}_{n}

と表せることとする.

4月25日 線形写像

3.1. 線形写像

集合{X}から集合{Y}への写像 (map) {f:X\rightarrow Y}とは,各{x\in X}にただ1つの{f(x)\in Y}を対応させるルールのこと.

定義3.1. 写像{f:\mathbb{R}^{n} \rightarrow \mathbb{R}^{m}}線形写像 (linear map)であるとは,ある{m\times n}行列{A}があって

\displaystyle f(\boldsymbol{x})=A\boldsymbol{x},\quad\boldsymbol{x}\in\mathbb{R}^{n}

と書けること.

補題3.1. {f:\mathbb{R}^{n}\rightarrow \mathbb{R}^{m}}を線形写像とするとき,

\displaystyle f(\boldsymbol{x})=\begin{pmatrix}| & & |\\ f(\boldsymbol{e}_{1}) & \dots & f(\boldsymbol{e}_{n})\\ | & & | \end{pmatrix}\begin{pmatrix}x_{1}\\ x_{2}\\ \vdots\\ x_{n} \end{pmatrix}.

命題3.1.{f:\mathbb{R}^{n}\rightarrow \mathbb{R}^{m}}が線形写像であるためには,任意の{\boldsymbol{v}}, {\boldsymbol{w}\in \mathbb{R}^{n}}, {c\in\mathbb{R}}に対して

\displaystyle f(\boldsymbol{v}+\boldsymbol{w})=f(\boldsymbol{v})+f(\boldsymbol{w}),\quad f(c\boldsymbol{v})=Ac\boldsymbol{v}=cA\boldsymbol{v}=cf(\boldsymbol{v})

を満たすことが必要十分

3.2. 線形写像の例

例.1. (回転) {\boldsymbol{x}\in\mathbb{R}^{2}}を反時計回りに{\theta}回転する写像{f :\mathbb{R}^{2}\rightarrow \mathbb{R}^{2}}は行列\begin{pmatrix}\cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{pmatrix}に付随する線形写像.
例.2. 直線{\ell} : {y=0}に沿っての剪断 (shear along {\ell}) {f:\mathbb{R}^{2}\ni\boldsymbol{x}\mapsto\begin{pmatrix}1 & b\\ 0 & 1 \end{pmatrix}\boldsymbol{x}\in\mathbb{R}^{2}}
例.3. (直交射影と鏡映) (i) {\boldsymbol{v}\not=0}, {\in\mathbb{R}^{2}}の張る直線{\ell} : {\{c\boldsymbol{v}\mid c\in\mathbb{R}\}}への直交射影 (orthogonal projection):

\displaystyle \mathrm{pr}_{\ell}:\mathbb{R}^{2}\ni\boldsymbol{x}\longmapsto\frac{\boldsymbol{x}\cdot\boldsymbol{v}}{\|\boldsymbol{v}\|^{2}}\boldsymbol{v}\in\mathbb{R}^{2}

特徴付け:

\displaystyle \mathrm{pr}_{\ell}(\boldsymbol{x})\in\ell,\quad(\boldsymbol{x}-\mathrm{pr}_{\ell}(\boldsymbol{x}))\bot\ell

(ii) \ellに関する鏡映 (reflection)

\displaystyle \mathrm{ref}_{\ell}:\mathbb{R}^{2}\ni\boldsymbol{x}\longmapsto2\mathrm{pr}_{\ell}(\boldsymbol{x})-\boldsymbol{x}\in\mathbb{R}^{2}

特徴付け:

\displaystyle \frac{\boldsymbol{x}+\mathrm{ref}_{\ell}(\boldsymbol{x})}{2}\in\ell,\quad(\boldsymbol{x}-\mathrm{ref}_{\ell}(\boldsymbol{x}))\bot\ell

5月2日 金曜授業日

5月9日 行列の積と逆行列

4.1. 合成写像と行列の積

定義4.1. 写像{f:X\rightarrow Y}, {g:Y\rightarrow Z}合成 (composite)

\displaystyle g\circ f:X\ni x\longmapsto g(f(x))\in Z

命題4.1. (i)線形写像

\displaystyle f:\mathbb{R}^{n}\ni\boldsymbol{x}\longmapsto A\boldsymbol{x} \in\mathbb{R}^{m}, \quad g:\mathbb{R}^{m}\ni\boldsymbol{y}\longmapsto B\boldsymbol{y} \in \mathbb{R}^{\ell}

の合成{g\circ f:\mathbb{R}^{n}\rightarrow\mathbb{R}^{\ell}}は再び線形写像.その({\ell\times n})行列を{B}{A} (product)と呼び,{BA}と書く.

(ii) {A=(\boldsymbol{v}_{1},\boldsymbol{v}_{2},\dots, \boldsymbol{v}_{n})}と書くとき,

\displaystyle BA=\begin{pmatrix} B\boldsymbol{v}_{1} & B\boldsymbol{v}_{2} & \dots & B\boldsymbol{v}_{n} \end{pmatrix}.

注意4.1. {BA}{i}{j}列成分は

\displaystyle \sum_{k=1}^{m}\,b_{i,k}a_{k,j}=b_{i,1}a_{1,j}+b_{i,2}a_{2,j}+\dots+b_{i,m}a_{m,j}

4.2. 逆写像と逆行列

定義4.2. (i)写像{f:X\rightarrow Y}全単射 (bijection)または可逆 (invertible)であるとは,任意の{y\in Y}に対して{f(x)=y}となる{x\in X}がただ一つあること.
このとき

\displaystyle f^{-1}:Y\ni y\longmapsto(x;\, f(x)=y)\in X

は写像.これを{f}逆写像 (inverse)という.
(ii) {m\times n}行列{A}が可逆 (invertible)であるとは,それが与える線形写像{f:\mathbb{R}^{n}\ni\boldsymbol{x}\mapsto A\boldsymbol{x}\in\mathbb{R}^{m}}が可逆なこと.

注意4.2. (i)写像{f:X\rightarrow Y}が全単射のとき,{f^{-1}\circ f(x)=x}, {f\circ f^{-1}(y)=y}, ({x\in X}, {y\in Y})が成り立つ.
(ii) {f:X\rightarrow Y}が全単射のとき,{(f^{-1})^{-1}=f}である.

命題4.2. {m\times n}行列{A}が可逆であるためには,次の2条件が成り立つことが必要十分である.

  1. {A}は正方行列である: {m=n}.
  2. {\mathrm{rref}(A)}は単位行列{E_{n}}

定義4.3. {A}を可逆な{n\times n}行列とするとき,線形写像{f:\mathbb{R}^{n}\ni\boldsymbol{x}\mapsto A\boldsymbol{x}\in \mathbb{R}^{n}}の逆写像{f^{-1}:\mathbb{R}^{n}\rightarrow \mathbb{R}^{n}}も線形写像.その行列を{A}逆行列 (inverse matrix)と呼んで,{A^{-1}}で表す.

定理4.1. {A}{n}次正方行列とする.

(i) {\mathrm{rref}(A|E_{n})=(E_{n}|B)}となるとき,{A}は可逆で{A^{-1}=B}である.

(ii) {\mathrm{rref}(A|E_{n})}{(E_{n}|B)}の形でなければ{A}は可逆ではない.

5月16日 {\mathbb{R}^{n}}の部分空間とその基底

5.1. 部分空間

定義5.1. {f:\mathbb{R}^{n}\ni\boldsymbol{v}\mapsto A\boldsymbol{v}\in\mathbb{R}^{m}}, ({A}{m\times n}行列);線形写像.
{f}または{A} (image)

\displaystyle \mathrm{Im} f=\mathrm{Im} A=\{f(\boldsymbol{v})\mid\boldsymbol{v}\in\mathbb{R}^{n}\}\subset\mathbb{R}^{m}

と, (kernel)

\displaystyle \mathrm{Ker} f=\mathrm{Ker} A=\{\boldsymbol{v}\in\mathbb{R}^{n}\mid f(\boldsymbol{v})=0\}\subset\mathbb{R}^{n}.

補題5.1. 線形写像{f:\mathbb{R}^{n} \rightarrow \mathbb{R}^{m}}の像は次の性質を持つ.

  1. {\mathbf{0}\in\mathrm{Im} f}.
  2. {\boldsymbol{v},\,\boldsymbol{w}\in\mathrm{Im} f}ならば{\boldsymbol{v}+\boldsymbol{w}\in\mathrm{Im} f}.
  3. {\boldsymbol{v}\in\mathrm{Im} f}, {c\in\mathbb{R}}に対して,{c\boldsymbol{v}\in\mathrm{Im} f}.

{\mathrm{Ker} f}も同様の性質を持つ.

これを受けて次の定義を導入する.

定義5.2. 部分集合{W\subset\mathbb{R}^{n}}部分空間 (subspace)
\Longleftrightarrow

  1. {\mathbf{0}\in W}.
  2. {\boldsymbol{v},\,\boldsymbol{w}\in W}ならば{\boldsymbol{v}+\boldsymbol{w}\in W}.
  3. {\boldsymbol{v}\in W}, {c\in\mathbb{R}}に対して,{c\boldsymbol{v}\in W}.

定義5.3. ベクトル{\boldsymbol{v}_{1}, \dots, \boldsymbol{v}_{r} \in\mathbb{R}^{n}}に対して,それらの線形結合の集合

\displaystyle \mathrm{span}\{\boldsymbol{v}_{1}, \dots, \boldsymbol{v}_{r}\}=\{c_{1}\boldsymbol{v}_{1}+\dots+c_{r}\boldsymbol{v}_{r}\mid c_{i}\in\mathbb{R}\}

\mathbb{R}^{n}の部分空間.これを{\boldsymbol{v}_{1}, \dots, \boldsymbol{v}_{r}}張られるあるいは生成される空間 (span)という.

5.2. 一次独立性と基底

定義5.4. (i) {\boldsymbol{v}_{1}, \dots, \boldsymbol{v}_{r} \in\mathbb{R}^{n}}の方程式{c_{1}\boldsymbol{v}_{1}+\dots+c_{r}\boldsymbol{v}_{r}=\mathbf{0}}, ({c_{i}\in\mathbb{R}})を{\boldsymbol{v}_{1}, \dots, \boldsymbol{v}_{r}}の間の一次関係 (linear relation)という.特に常に成り立つ関係{0\boldsymbol{v}_{1} +\dots +0\boldsymbol{v}_{r} =\mathbf{0}}自明な一次関係という.
(ii) {\boldsymbol{v}_{1}, \dots, \boldsymbol{v}_{r} \in \mathbb{R}^{n}}が非自明な線形関係を持たないとき,{\boldsymbol{v}_{1}, \dots, \boldsymbol{v}_{r}}一次独立 (linearly independent)であるという.逆に非自明な線形関係があるときには一次従属 (linearly dependent)であるという.
(iii) {\{\boldsymbol{v}_{1}, \dots, \boldsymbol{v}_{r}\} \subset \mathbb{R}^{n}}が部分空間{W\subset\mathbb{R}^{n}}基底 (basis)であるとは,次の2条件が成り立つこととする.

  • {W=\mathrm{span}\{\boldsymbol{v}_{1}, \dots, \boldsymbol{v}_{r}\}};
  • {\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{r}}は一次独立である.

補題5.2. {\boldsymbol{v}_{1},\dots, \boldsymbol{v}_{r}\in \mathbb{R}^{n}}に対して,{A=\begin{pmatrix}\boldsymbol{v}_{1} \dots \boldsymbol{v}_{r} \end{pmatrix}}とおく.次の3条件は互いに同値である.

  1. {\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{r}}は一次独立である.
  2. {\mathrm{Ker} A=\{\mathbf{0}\}}である.
  3. {\mathrm{rank}(A)=r}である.

命題5.1. 部分空間{W\subset\mathbb{R}^{n}}の部分集合{\{\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{r}\}}についての次の2条件は互いに同値である.

  1. {\{\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{r}\}}{W}の基底である.
  2. 任意の{\boldsymbol{v}\in W}{\boldsymbol{v} =c_{1}\boldsymbol{v}_{1}+\dots+c_{r}\boldsymbol{v}_{r}}とただ一通りに書ける.

5月23日 部分空間の次元

6.1. 次元

補題6.1. {W\subset \mathbb{R}^{n}}を部分空間とする.

  1. {\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{p}\subset W}が一次独立であり,
  2. {V=\mathrm{span}\{\boldsymbol{w}_{1}, \dots, \boldsymbol{w}_{q}\}}であれば,

{p\leqq q}が成り立つ.

系6.1. 部分空間{W\subset\mathbb{R}^{n}}の基底の要素の個数は,基底のとり方によらず一定である.これを{W}の次元と呼んで{\dim W}と書く.

6.2. 像と核の基底

行列A の核の基底の求め方 A\boldsymbol{x}=\boldsymbol{0} の解のパラメーター変数の係数ベクトルの集合は,\mathrm{Ker}\,A の基底である.

定理6.1. (Rank nullity theorem). {m\times n}行列{A}に対して,{\dim(\mathrm{Ker}\, A)+\mathrm{rank}(A)=n}が成り立つ.

行列A の像の基底の求め方

命題6.1. {m\times n}行列{A}{j}列ベクトルが軸列 (pivot column)であるとは,{\mathrm{rref}(A)}{j}列ベクトルがある行の最初の{1}を含むこととする.{A}の軸列の集合は{\mathrm{Im}\, A}の基底である.

系6.2. {\mathrm{rank}(A)=\dim(\mathrm{Im}\, A)}. 特に定理6.1から,{m\times n}行列{A}に対して{\dim\mathrm{Ker}\, A+\dim\mathrm{Im}\, A=n}である.

5月30日 内積と正規直交基底

7.1. 内積と正規直交基底

定義7.1. (a) {\boldsymbol{v}=\begin{pmatrix}v_{1}\\ \vdots\\ v_{n} \end{pmatrix}}, {\boldsymbol{w}=\begin{pmatrix}w_{1}\\ \vdots\\ w_{n} \end{pmatrix}\in\mathbb{R}^{n}}内積 (inner product)

\displaystyle \boldsymbol{v} \cdot\boldsymbol{w} =v_{1}w_{1}+v_{2}w_{2}+\dots+v_{n}w_{n}\in\mathbb{R}

(b) {\boldsymbol{v}}, {\boldsymbol{w}\in\mathbb{R}^{n}}直交している (orthogonal) \Longleftrightarrow {\boldsymbol{v}\cdot\boldsymbol{w}=0}
このことを{\boldsymbol{v}\bot\boldsymbol{w}}と書き表す.
(c) {\boldsymbol{v}\in\mathbb{R}^{n}}ノルム (norm) {\|\boldsymbol{v}\| =\sqrt{\boldsymbol{v}\cdot\boldsymbol{v}}}
ノルムが{1}であるベクトルを単位ベクトル (unit vector)という.

定義7.2. ベクトル{\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{r}\in\mathbb{R}^{n}}正規直交 (orthonormal)であるとは,次が成り立つこと:

\displaystyle \boldsymbol{v}_{i}\cdot \boldsymbol{v}_{j} =\delta_{i,j}

右辺の{\delta_{i,j}}Kroneckerの{\delta}記号

命題7.1. (i)正規直交なベクトルの集合は一次独立である.

(ii)特に正規直交な{\{\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{n}\} \subset\mathbb{R}^{n}}{\mathbb{R}^{n}}の基底である.

補題7.1. (Pythagorasの定理) {\boldsymbol{v}}{\boldsymbol{w}}が直交しているとき,\displaystyle \|\boldsymbol{v}+\boldsymbol{w}\|^{2} =\|\boldsymbol{v}\|^{2}+\|\boldsymbol{w}\|^{2}.

7.2. 直交射影

補題7.2. 部分空間{V\subset \mathbb{R}^{n}}に対して

\displaystyle V^{\bot}=\{\boldsymbol{x}\in\mathbb{R}^{n} \mid \boldsymbol{x}\cdot \boldsymbol{v} =0,\,\boldsymbol{v}\in V\} \subset\mathbb{R}^{n}

は再び部分空間である.これを{V\subset\mathbb{R}^{n}}直交補空間 (orthogonal complement)という.

命題7.2. 部分空間{V\subset \mathbb{R}^{n}}の正規直交基底{\{\boldsymbol{u}_{1},\dots, \boldsymbol{u}_{r}\}}を取る.

(i) {\boldsymbol{x}\in\mathbb{R}^{n}}に対して

\displaystyle \mathrm{pr}_{V}(\boldsymbol{x}) =\sum_{j=1}^{r}\,(\boldsymbol{x}\cdot\boldsymbol{u}_{j})\boldsymbol{u}_{j}

{\boldsymbol{x}-\mathrm{pr}_{V}(\boldsymbol{x})\in V^{\bot}}となるただ一つの{V}の要素.

(ii) {\mathbb{R}^{n}\ni\boldsymbol{x}\mapsto\mathrm{pr}_{V}(\boldsymbol{x})\in V\subset\mathbb{R}^{n}}は線形写像.これを{V}への直交射影 (orthogonal projection)と呼ぶ.

応用:Cauchy-Schwarzの不等式

補題7.3. {V\subset\mathbb{R}^{n}}を部分空間とするとき,{\mathrm{pr}_{V}(\boldsymbol{x})\leqq\|\boldsymbol{x}\|}, ({\boldsymbol{x}\in\mathbb{R}^{n}}).

命題7.3. {\boldsymbol{x}}, {\boldsymbol{y}\in \mathbb{R}^{n}}に対して,{|\boldsymbol{x}\cdot\boldsymbol{y}| \leqq\|\boldsymbol{x}\|\|\boldsymbol{y}\|}

6月6日 中間テスト

6月13日 Gram-Schmidt の直交化と QR 分解

定義7.3. 余弦関数{\cos:[0,\pi]\rightarrow[-1,1]}は可逆である.その逆写像を{\mathrm{Arccos}:[-1,1]\rightarrow[0,\pi]}と書く.これを用いて{\boldsymbol{v}}, {\boldsymbol{w}\not= \boldsymbol{0}}, {\in\mathbb{R}^{n}}のなす角{\theta}

\displaystyle \theta=\mathrm{Arccos}\frac{\boldsymbol{v}\cdot\boldsymbol{w}} {\|\boldsymbol{v}\|\|\boldsymbol{w}\|}

と定める.

8.3. Gram-Schmidtの直交化

定理8.1. (Gram-Schmidt の直交化) 部分空間{V\subset\mathbb{R}^{n}}の基底{\{\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{m}\}}に対して,{V_{j}=\mathrm{span}\{\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{j}\}}, ({1\leqq j\leqq m})とおけば,漸化式

\displaystyle \boldsymbol{u}_{1}=\frac{\boldsymbol{v}_{1}}{\|\boldsymbol{v}_{1}\|},\quad \boldsymbol{u}_{j}=\frac{\boldsymbol{v}_{j}-\mathrm{pr}_{V_{j-1}}(\boldsymbol{v}_{j})} {\|\boldsymbol{v}_{j}-\mathrm{pr}_{V_{j-1}}(\boldsymbol{v}_{j})\|},\quad 2\leqq j\leqq m

により定まる{\{\boldsymbol{u}_{1},\dots,\boldsymbol{u}_{m}\}}{V}の正規直交基底である.

系8.1. (QR 分解) {n\times m}行列{A=\left(\boldsymbol{v}_{1}\,\boldsymbol{v}_{2}\, \dots\,\boldsymbol{v}_{m}\right)}{\mathrm{rank}(A)=m}を満たすとする.
定理8.1.の記号で,{j=1}のとき

\displaystyle \boldsymbol{u}_{1} =\frac{\boldsymbol{v}_{1}}{\|\boldsymbol{v}_{1}\|},\quad r_{1,1}=\frac{1}{\|\boldsymbol{v}_{1}\|},

{2\leqq j\leqq m}のとき

\displaystyle \boldsymbol{u}_{j} =\frac{\boldsymbol{v}_{j}-\mathrm{pr}_{V_{j-1}}(\boldsymbol{v}_{j})}{\|\boldsymbol{v}_{j}-\mathrm{pr}_{V_{j-1}}(\boldsymbol{v}_{j})\|},\quad r_{i,j}=\begin{cases} \boldsymbol{u}_{i}\cdot\boldsymbol{v}_{j} & (1\leqq i<j), \\ \|\boldsymbol{v}_{j}-\mathrm{pr}_{V_{j-1}}(\boldsymbol{v}_{j})\| & (i=j) \end{cases}

とおく.このとき,

  1. {n\times m}行列{Q=\left(\boldsymbol{u}_{1} \boldsymbol{u}_{2}\dots\boldsymbol{u}_{m}\right)}において,{\boldsymbol{u}_{1},\dots,\boldsymbol{u}_{m}}は正規直交で,
  2. {m}次正方上三角 (upper triangular)行列{R=\begin{pmatrix}r_{1,1} & r_{1,2} & \dots & r_{1,m}\\ 0 & r_{2,2} & \ddots & \vdots\\ \vdots & \ddots & \ddots & r_{m-1,m}\\ 0 & \dots & 0 & r_{m,m} \end{pmatrix}}は,{A=QR}を満たす.

8.4. 直交行列と直交変換

定義8.1. 線形写像{f:\mathbb{R}^{n}\ni\boldsymbol{v}\mapsto A\boldsymbol{v}\in \mathbb{R}^{n}} 直交変換 (orthogonal transformation), あるいは{A}直交行列 (orthogonal matrix)であるとは,

\displaystyle \|f(\boldsymbol{v})\|=\|\boldsymbol{v}\|, \quad \boldsymbol{v}\in\mathbb{R}^{n}

が成り立つこととする.特に{\mathrm{Ker}\,f=\{\boldsymbol{0}\}}だから,直交変換は可逆である.

6月20日 行列式とその性質

9.1. 行列式

定義9.1. (i) 自然数{n}に対して,集合{\{1,2,\dots,n\}}から自分自身への可逆写像{\sigma}{n}次の置換 (permutation)という.{n}次の置換の集合を{S_{n}}と書く.
(ii) {\sigma\in S_{n}}に対して{\mathrm{inv}(\sigma)=\{(i,j)\mid1\leqq i\sigma(j)\}}{\sigma}の逆転 (inversion)の集合という.その要素の数{\ell(\sigma)}{\sigma}長さ (length)といい,{\mathrm{sgn}(\sigma)=(-1)^{\ell(\sigma)}}{\sigma}符号 (signature)という.

定義9.2. {n}次正方行列{A=\begin{pmatrix} a_{1,1} & \dots & a_{1,n}\\ \vdots & \ddots & \vdots\\ a_{n,1} & \dots & a_{n,n} \end{pmatrix}}行列式 (determinant)を

\displaystyle \det A=\sum_{\sigma\in S_{n}}\, \mathrm{sgn}(\sigma)a_{\sigma(1),1}a_{\sigma(2),2}\cdots a_{\sigma(n),n}

と定める.

例9.1. (i) {n=2}のとき,{\det\begin{pmatrix}a & b\\ c & d \end{pmatrix}=ad-bc}.
(ii) (Sarrusのルール).{n=3}のとき

\displaystyle \det \begin{pmatrix} a_{1,1} & a_{1,2} & a_{1,3} \\ a_{2,1} & a_{2.2} & a_{2,3} \\ a_{3,1} & a_{3,2} & a_{3,3} \end{pmatrix} = a_{1,1}a_{2,2}a_{3,3}+a_{1,2}a_{2,3}a_{3,1}+a_{1,3}a_{2,1}a_{3,2}

\displaystyle -a_{1,1}a_{2,3}a_{3,2}-a_{1,2}a_{2,1}a_{3,3}-a_{1,3}a_{2,2}a_{3,1}.

{4}次以上の場合は,一般には,定義から行列式を計算するのは現実的ではない.

9.2. 行列式の基本性質

補題9.1. {n}次正方行列に対して{\det{}^{t}A=\det A}

命題9.1. {n}次正方行列{A}の行列式は次の性質を持つ.
(i) 線形性.{\det A}{A}の各行ベクトル,列ベクトルの線形関数である:

\displaystyle \det\begin{pmatrix} {}^{t}\boldsymbol{v}_{1} \\ \vdots \\ c^{t}\boldsymbol{v}_{i}+{}^{t}\boldsymbol{w}_{i} \\ \vdots \\ ^{t}\boldsymbol{v}_{n} \end{pmatrix} =c\det\begin{pmatrix} ^{t}\boldsymbol{v}_{1} \\ \vdots \\ ^{t}\boldsymbol{v}_{i} \\ \vdots \\ ^{t}\boldsymbol{v}_{n} \end{pmatrix} +\det \begin{pmatrix} ^{t}\boldsymbol{v}_{1} \\ \vdots \\ ^{t}\boldsymbol{w}_{i} \\ \vdots \\ ^{t}\boldsymbol{v}_{n} \end{pmatrix},

\displaystyle \det\left(\boldsymbol{v}_{1}\dots c\boldsymbol{v}_{i}+\boldsymbol{w}_{i}\dots\boldsymbol{v}_{n}\right) =c\det\left(\boldsymbol{v}_{1}\dots\boldsymbol{v}_{i}\dots\boldsymbol{v}_{n} \right)+\det\left(\boldsymbol{v}_{1}\dots\boldsymbol{w}_{i}\dots \boldsymbol{v}_{n} \right)

(ii) {A}の2つの行ベクトル(または列ベクトル)を入れ替えた行列を{B}とすると,{\det B=-\det A}である.

系9.1. {n}次正方行列{A}の簡約行列{\mathrm{rref}(A)}を作る際に,行の定数倍{a_{1},\dots,a_{r}}倍と,2つの行の入れ替えを{s}回行ったとする.
(i) {A}が可逆であるためには,{\det A\not=0}であることが必要十分である.
(ii)そのとき{\det A=(-1)^{s}a_{1}\cdots a_{r}}である.

6月27日 行列式と体積

10.1. 行列式の展開

命題10.1. (積の行列式) (i) {n}次正方行列{A}, {B}に対して,{\det(AB)=\det A\cdot\det B}が成り立つ.
(ii)特に{A}が可逆なら,{\det(A^{-1})=(\det A)^{-1}}である.

{n}次正方行列{A=\begin{pmatrix} a_{1,1} & \dots & a_{1,n}\\ \vdots & \ddots & \vdots\\ a_{n,1} & \dots & a_{n,n} \end{pmatrix}}{(i,j)}小行列 ({(i,j)}-minor)を

\displaystyle A^{(i,j)}=\left(\begin{array}{ccc|ccc} a_{1,1} & \dots & a_{1,j-1} & a_{1,j+1} & \dots & a_{1,n}\\ \vdots & \ddots & \vdots & \vdots & \ddots & \vdots\\ a_{i-1,1} & \dots & a_{i-1,j-1} & a_{i-1,j+1} & \dots & a_{i-1,n}\\ \hline a_{i+1,1} & \dots & a_{i+1,j-1} & a_{i+1,j+1} & \dots & a_{i+1,n}\\ \vdots & \ddots & \vdots & \vdots & \ddots & \vdots\\ a_{n,1} & \dots & a_{n,j-1} & a_{n,j+1} & \dots & a_{n,n} \end{array}\right)

と定義する.

定理10.1. (行列式のLaplace展開) {n}次正方行列{A=\begin{pmatrix}a_{1,1} & \dots & a_{1,n}\\ \vdots & \ddots & \vdots\\ a_{n,1} & \dots & a_{n,n} \end{pmatrix}}に対して

\displaystyle \det A=\sum_{j=1}^{n}\,a_{i,j}(-1)^{i+j}\det A^{(i,j)}=\sum_{i=1}^{n}\,a_{i,j}(-1)^{i+j}\det A^{(i,j)}

が成り立つ.

系10.1. (Cramerの公式) {n}次可逆行列{A}{i}行と{j}列を抜いた{n-1}次正方行列を{A^{(i,j)}}と書くとき,

\displaystyle A^{-1}=\left((-1)^{i+j}\frac{\det A^{(j,i)}}{\det A}\right)_{i,j}.

10.2. 体積との関係

定義10.1. {\boldsymbol{v}_{1},\dots, \boldsymbol{v}_{m}\in\mathbb{R}^{n}}の張る平行{m}次元体 ({m}-parallelpiped)とは,{\mathbb{R}^{n}}の部分集合

\displaystyle P(\boldsymbol{v}_{1},\dots, \boldsymbol{v}_{m}) =\{ t_{1}\boldsymbol{v}_{1}+\dots+t_{m}\boldsymbol{v}_{m} \mid 0\leqq t_{i}\leqq 1\} \subset\mathbb{R}^{n}

のことである.その{m}次元体積 ({m}-volume) {V(\boldsymbol{v}_{1},\dots, \boldsymbol{v}_{m})}を,{m}に関して帰納的に

\displaystyle V(\boldsymbol{v}_{1}) =\|\boldsymbol{v}_{1}\|, \quad V(\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{m}) =V(\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{m-1})\cdot\|\boldsymbol{v}_{m}-\mathrm{pr}_{V_{m-1}}(\boldsymbol{v}_{m})\|

と定める.ただし{V_{i}=\mathrm{span}\{\boldsymbol{v}_{1},\dots, \boldsymbol{v}_{i}\}}

命題10.2. {\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{m}\in\mathbb{R}^{n}}に対して,{n\times m}行列{A=\left(\boldsymbol{v}_{1}\dots \boldsymbol{v}_{m}\right)}を取れば,

\displaystyle V(\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{m})=\sqrt{\det\left(^{t}AA\right)}.

7月4日 固有値と固有ベクトル

11.1. 固有値と固有ベクトル

定義11.1. 線型写像{f:\mathbb{R}^{n} \ni\boldsymbol{v}\mapsto A\boldsymbol{v}\in\mathbb{R}^{n}}, あるいは{n\times n}行列{A}固有ベクトル (eigenvector)とは,{\boldsymbol{v}\not=\boldsymbol{0},\ \in\mathbb{R}^{n}}

\displaystyle A\boldsymbol{v}=\lambda\boldsymbol{v},\quad \lambda\in\mathbb{R}

を満たすもの.このとき{\lambda}{A}または{f}固有値 (eigenvalue)といい,{\boldsymbol{v}}{A}{\lambda}固有ベクトルとも呼ばれる.

定義11.2. {n\times n}行列{A}特性多項式 (characteristic polynomial)を

\displaystyle \Phi_{A}(x)=\det\left(xE_{n}-A\right)

と定める.

命題11.1. {n\times n}行列{A}の固有値は{\Phi_{A}(x)=0}の実数解に一致する.

定義11.3. {n\times n}行列{A}{\lambda\in\mathbb{R}}に対して,

\displaystyle E_{\lambda}(A)=\mathrm{Ker}(\lambda E_{n}-A)\subset\mathbb{R}^{n}

{A}{\lambda}固有空間 ({\lambda}-eigenspace)という.

補題11.1. {\lambda\in \mathbb{R}}{n\times n}行列{A}の固有値であるためには,{E_{\lambda}(A)\not=\{\boldsymbol{0}\}}であることが必要十分である.そのとき任意の{\boldsymbol{v}\not =\boldsymbol{0}}, {\in E_{\lambda}(A)}{A}{\lambda}固有ベクトルである.

11.2. 固有基底と対角化

定義11.4. {n\times n}行列{A}の固有ベクトルからなる{\mathbb{R}^{n}}の基底が存在するとき,それを{A}固有基底 (eigenbasis)という.

命題11.2. {n\times n}行列{A}が固有基底{\left\{ \boldsymbol{v}_{1}, \dots,\boldsymbol{v}_{n}\right\} }を持つとき,各{\boldsymbol{v}_{i}}の固有値を{\lambda_{i}}とし,{T=\left(\boldsymbol{v}_{1}\dots\boldsymbol{v}_{n}\right)}とおけば,

\displaystyle T^{-1}AT=\begin{pmatrix} \lambda_{1} & 0 & \dots & 0\\ 0 & \lambda_{2} & \ddots & \vdots\\ \vdots & \ddots & \ddots & 0\\ 0 & \dots & 0 & \lambda_{n} \end{pmatrix}

である.このとき{A}対角化可能 (diagonalizable)であるという.

7月11日 対称行列

13.1. 対称行列と二次形式

定義13.1. (1) 関数{Q:\mathbb{R}^{n}\rightarrow\mathbb{R}}二次形式 (quadratic form)であるとは,

\displaystyle Q(\boldsymbol{x})=\sum_{1\leqq i\leqq j\leqq n}\,c_{i,j}x_ix_j

と書けること.
(2) {n}次正方行列{S}対称行列 (symmetric matrix)であるとは,{^{t}S=S}を満たすこと.

命題13.1. S\mapsto\left(Q_{S}(\boldsymbol{x})={}^{t}\boldsymbol{x}S\boldsymbol{x}\right)n次対称行列の集合から,n変数二次形式の集合への全単射である.

補題13.1. {S}{n}次正方行列とする.
(i) {\Phi_{S}(x)=0}の解は全て実数解である.
(ii) {S}の固有値{\lambda\not=\mu}に対して,{E_{\lambda}(S)\bot E_{\mu}(S)}である.

定理13.1. (スペクトル定理) n次対称行列Sに対して,n次正方行列Tで,{}^tTT=E_{n}かつ,{}^tTSTが対角行列になるものがある.

7月18日 特異値分解

連絡事項

  • 期末テストについて
  • 次回,授業アンケートを実施する.

14.1. 対称行列の対角化の計算法

  1. 方程式{\Phi_{S}(x)=0}を解いて{S}の固有値{\lambda_{1},\dots,\lambda_{r}}を求める.
  2. {\left(S-\lambda_{i}E_{n}\right)\boldsymbol{x} =\boldsymbol{0}}を解いて,{E_{\lambda_{i}}(S)}の基底{\{\boldsymbol{v}_{1}^{i},\dots,\boldsymbol{v}_{d_{i}}^{i}\}}を求める.
  3. {\{v_{1}^{i},\dots,v_{d_{i}}^{i}\}}にGram-Schmidtの直交化を適用して,{E_{\lambda_{i}}(S)}の正規直交基底{\{\boldsymbol{u}_{1}^{i}, \dots,\boldsymbol{u}_{d_{i}}^{i}\}}を作る.
  4. {T=\left(\boldsymbol{u}_{1}^{1},\dots,\boldsymbol{u}_{d_{1}}^{1}, \boldsymbol{u}_{1}^{2},\dots,\boldsymbol{u}_{d_{2}}^{2},\dots\dots,\boldsymbol{u}_{1}^{r},\dots,\boldsymbol{u}_{d_{r}}^{r}\right)}とおけば,{^{t}TT=E_{n}}

    \displaystyle ^{t}TST=\begin{pmatrix} \lambda_{1}E_{d_{1}} & 0 & \dots & 0 \\ 0 & \lambda_{2}E_{d_{2}} & \ddots & \vdots \\ \vdots & \ddots & \ddots \\ 0 & \dots & 0 & \lambda_{r}E_{d_{r}} \end{pmatrix}.

14.2. 特異値分解

補題14.1. {A}{m\times n}行列とするとき,{n}次正方行列{^{t}AA}の固有値は非負である.これらの固有値の平方根を{A}の特異値 (singular value)と呼び,大きい順に{\sigma_{1}\geqq\sigma_{2}\geqq\dots \geqq \sigma_{n}\geqq0}と書く.

定理14.1. {A}{m\times n}行列とする.

(1)線形写像{f:\mathbb{R}^{n}\ni\boldsymbol{v}\mapsto A\boldsymbol{v} \in\mathbb{R}^{m}}に対して,次の2条件を満たす{\mathbb{R}^{n}} の正規直交基底{\{\boldsymbol{u}_{1},\dots, \boldsymbol{u}_{n}\}}がある.

  1. {f(\boldsymbol{u}_{i})\bot f(\boldsymbol{u}_{j})}, ({1\leqq i\not=j\leqq n});
  2. {\|f(\boldsymbol{u}_{i})\|=\sigma_{i}}, ({1\leqq i\leqq n}, {\sigma_{i}}{A}の特異値).

(2) {A}に対して,{n}次直交行列{T_{1}}{m}次直交行列{T_{2}}があって

\displaystyle A=T_{2}\begin{pmatrix} \sigma_{1} & 0 & \dots & 0\\ 0 & \sigma_{2} & \ddots & \vdots\\ \vdots & \ddots & \ddots & 0\\ 0 & \dots & 0 & \sigma_{n} \end{pmatrix}{}^{t}T_{1}

が成り立つ.これを{A}特異値分解 (singular value decomposition)という.

7月25日 演習

テスト用演習解答のページ

8月1日 期末テスト

成績評価について

成績評価は中間,期末テストの結果を総合的に判断して行います.

中間テストについて

  • 6月6日の授業の時間に中間テストを行いました.
  • 範囲は,4月11日から今日5月23日までの授業内容と,4月18日から5月30日までの演習内容です.
  • 教科書,ノートの持ち込みは禁止します.筆記具と計時機能のみを持つ時計,それに学生証を持ってきてください.

期末テストについて

  • 8月1日の授業の時間に期末テストを行いました.
  • 範囲は,5月30日から7月18日までの授業内容と,6月13日から7月25日までの演習内容です.
  • 教科書,ノートの持ち込みは禁止します.筆記具と計時機能のみを持つ時計,それに学生証を持ってきてください.

授業の補足

問題9.1. (3)の解答
\displaystyle \det\left(\begin{array}{c|c} O & E_{p}\\ \hline E_{q} & O \end{array}\right)を求める.この行列をA, n=p+qと書くと,

\displaystyle \det A =\sum_{\sigma\in S_{n}}\,\mathrm{sgn}(\sigma) a_{\sigma(1),1}a_{\sigma(2),2}\cdots a_{\sigma(n),n}

の右辺の和のうち0でないものは,

\displaystyle \sigma(i)=\begin{cases} i+p & 1\leqq i\leqq q, \\ i-q & q<i\leqq n \end{cases}

で与えられる\sigma\in S_nの項だけしかない.

\displaystyle \mathrm{inv}(\sigma)=\{(i,j)\mid1\leqq i\leqq q<j\leqq p+q\}

の要素の数は i , j の取り方がそれぞれ q , p 通りでpqだから,

\displaystyle \det\left(\begin{array}{c|c} O & E_{p}\\ \hline E_{q} & O \end{array}\right)=(-1)^{pq}.