線形代数 (2019年度編入生向け)

2019年4月5日作成

2019年6月6日9:03更新

授業日時と場所

  • 水曜日16時40分から18時10分まで
  • C-612セミナー室

線型代数とは

線型代数学は英語では linear algebra で,linear は 1 次式の意味です.一方の algebra の語源は,現在のウズベキスタン周辺であるホラズムの数学者ムハマド・ベン・ ムサ・アル・フワーリズミー (al-Khwarzmi) による al-jabr です.al-jabr は等式の両辺に同じ正の数を足す,あるいはかける操作を指し,両辺から同じ数を差し引く意味の wal muqabala と併せて,方程式を解くことを意味します.すなわち線形代数学は,一次方程式系を解くことや,そこから派生したアイデアを学ぶものです.

教科書について

教科書は特に指定しません.必要に応じて講義資料を配布します.

参考書としては次の2冊を挙げておきます.

授業の進め方

授業は講義によります.授業の最後にはレポート課題を出します.履修者の皆さんは課題の解答をレポートにして,翌週の授業の最初に提出してください.

授業内容

以下はあくまで予定であり,事情により随時変更されることがあります.

4月10日 線型方程式系 (復習)

1.1. Gauss-Jordan 消去法

  • 行基本変形
  • 階段行列 (reduced row echelon form)
  • Gauss-Jordan 消去法

1.2. 行列の階数

  • \mathrm{rank} AA\boldsymbol{x}=\boldsymbol{b} の解の構造

1.3. ベクトル表示

  • 線型結合

4月17日 行列が定める線型写像 (復習)

2.1 線型写像

  • 写像の復習
    • 写像とその定義域,値域(または終域)
    • 全射,単射,全単射
    • 全単射f:X\rightarrow Yの逆写像f^{-1}:Y\rightarrow X
    • 写像f:X\rightarrow Y, g:Y\rightarrow Zの合成$g\circ f: X\rightarrow Z$
  • 線型写像f: \mathbb{R}^n\ni \boldsymbol{x}\rightarrow A\boldsymbol{x}\in \mathbb{R}^mの定義と特徴付け
  • 線型写像の合成は行列の積を与える.
  • 全単射である線型写像は可逆行列に,その逆写像は逆行列に対応する.

2.2 \mathbb{R}^n の部分空間

  • 線型写像の像と核
  • \mathbb{R}^n の部分空間,\mathrm{span}\{\boldsymbol{v}_1,\dots,\boldsymbol{v}_r\}
  • 線型関係と線型独立性
  • 部分空間の基底
  • 例:行列の像と核の基底の計算法

4月24日 休講

5月1日 即位の礼

5月8日 一般線型空間

3.1. 部分空間の次元
補題3.1. {V\subset\mathbb{R}^{n}};部分空間.

  1. {\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{p}\subset V}が一次独立で,
  2. {V=\mathrm{span}\{\boldsymbol{w}_{1}, \dots,\boldsymbol{w}_{q} \}}であれば,

{p\leqq q}

系3.2. 部分空間{V\subset\mathbb{R}^{n}}の基底の元の個数は,基底のとり方によらず一定.その個数を{V}次元 (dimension)と呼んで{\dim V}と書く.

3.2. 線型空間

  • 線型空間 (linear space)またはベクトル空間 (vector space)の定義
  • S\subset V一次結合,その集合\mathrm{span} S
  • ベクトル空間の部分空間
  • S\subset V一次独立性の定義,V基底
  • Vが有限基底を持つとき,その個数を{V}次元 (dimension)と呼んで{\dim V}と書く.

3.3. 線型写像

  • 線型写像{f:V\rightarrow W}の定義
  • {f} {\mathrm{Im} f\subset W} {\mathrm{Ker} f\subset V}
  • {\mathrm{rank}(f)=\dim(\mathrm{Im} f)}{f}階数という.
  • {f:V\rightarrow W};線型写像,{\mathfrak{B}=(\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{n})}{V}の基底, {\mathfrak{C}=(\boldsymbol{w}_{1},\dots, \boldsymbol{w}_{m})}{W}の基底{[f]_{\mathfrak{B},\mathfrak{C}}=\begin{pmatrix}a_{1,1} & \dots & a_{1,n}\\ \vdots & \ddots & \vdots\\ a_{m,1} & \dots & a_{m,n} \end{pmatrix}} s.t.

    \displaystyle f(\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{n})=(\boldsymbol{w}_{1},\dots,\boldsymbol{w}_{m})\begin{pmatrix}a_{1,1} & \dots & a_{1,n}\\ \vdots & \ddots & \vdots\\ a_{m,1} & \dots & a_{m,n} \end{pmatrix}.

    {f}{(\mathfrak{B},\mathfrak{C})}行列という.

    5月15日 {\mathbb{R}^{n}}の内積

    4.1. {\mathbb{R}^{n}}の内積の復習

    定義4.1. (1) {\boldsymbol{v}=\begin{pmatrix} v_{1} \\ \vdots \\ v_{n} \end{pmatrix}}, {\boldsymbol{w}=\begin{pmatrix}w_{1} \\ \vdots\\ w_{n} \end{pmatrix} \in \mathbb{R}^{n}}内積 (inner product)

    \displaystyle \boldsymbol{v}\cdot\boldsymbol{w}=v_{1}w_{1}+v_{2}w_{2}+\dots+v_{n}w_{n}\in\mathbb{R}

    (2) {\boldsymbol{v}}, {\boldsymbol{w}\in\mathbb{R}^{n}}直交 (orthogonal, {\boldsymbol{v}\bot\boldsymbol{w}}) {\Longleftrightarrow} {\boldsymbol{v} \cdot \boldsymbol{w} =0}
    (3) {\boldsymbol{v}\in\mathbb{R}^{n}}長さ (length) {\|\boldsymbol{v}\|=\sqrt{\boldsymbol{v}\cdot\boldsymbol{v}}}.長さが{1}のベクトルを単位ベクトル (unit vector)という.

    定義 4.2. (1)ベクトル{\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{r}\in\mathbb{R}^{n}}正規直交 (orthonormal)
    {\Longleftrightarrow}

    \displaystyle \boldsymbol{v}_{i} \cdot \boldsymbol{v}_{j} =\delta_{i,j}=\begin{cases} 1 & i=j, \\ 0 & i\not= j \end{cases}

    {\delta_{i,j}}Kroneckerの{\delta}関数
    (2)特に{m}次元部分空間{V\subset \mathbb{R}^{m}}の正規直交部分集合{\{\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{m}\}}{V}の基底.これを{V}正規直交基底 (orthonormal basis)という.

    命題 4.1. {V\subset\mathbb{R}^{n}};部分空間.
    (i) {V^{\bot}=\{\boldsymbol{x}\in\mathbb{R}^{n}\mid\boldsymbol{x} \cdot \boldsymbol{v}=0,\,\boldsymbol{v}\in V\}}{\mathbb{R}^{n}}の部分空間 ({V}直交補空間 (orthogonal complement)).
    (ii) {\left\{ \boldsymbol{u}_{1},\dots,\boldsymbol{u}_{m}\right\} }{V}の正規直交基底.
    {\Mapsto} {\forall \boldsymbol{x}\in\mathbb{R}^{n}},

    \displaystyle \mathrm{pr}_{V}(\boldsymbol{x}) =\sum_{j=1}^{r}\,(\boldsymbol{x}\cdot\boldsymbol{u}_{j})\boldsymbol{u}_{j}

    {\boldsymbol{x}-\mathrm{pr}_{V}(\boldsymbol{x})\in V^{\bot}}となるただ一つの{V}の要素.
    (iii) {\mathbb{R}^{n}\ni\boldsymbol{x}\mapsto\mathrm{pr}_{V}(\boldsymbol{x})\in V}は線形写像 ({V}への直交射影 (orthogonal projection)).

    4.2. Cauchy-Schwarzの不等式

    補題 4.1 (Pythagoras の定理). (i) {\boldsymbol{v}\bot \boldsymbol{w}} {\Mapsto} { \|\boldsymbol{v} +\boldsymbol{w}\|^{2} =\|\boldsymbol{v}\|^{2}+ \|\boldsymbol{w}\|^{2}}.
    (ii) {V\subset\mathbb{R}^{n}};部分空間 {\Mapsto} {\mathrm{pr}_{V}(\boldsymbol{x})\leqq\|\boldsymbol{x}\|}, ({\boldsymbol{x}\in\mathbb{R}^{n}}).

    命題 4.2 (Cauchy-Schwarz の不等式). {|\boldsymbol{x}\cdot\boldsymbol{y}|\leqq\|\boldsymbol{x}\|\|\boldsymbol{y}\|}

    定義 4.3. {\cos:[0,\pi]\rightarrow[-1,1]}は可逆.{\mathrm{Arccos}:[-1,1]\rightarrow[0,\pi]};その逆写像.
    {\boldsymbol{v}}, {\boldsymbol{w}\not=\boldsymbol{0}}, {\in\mathbb{R}^{n}}のなす角{\theta\in[0,\pi]}:

    \displaystyle \theta=\mathrm{Arccos}\frac{\boldsymbol{v}\cdot\boldsymbol{w}}{\|\boldsymbol{v}\|\|\boldsymbol{w}\|},\quad\cos\theta=\frac{\boldsymbol{v}\cdot\boldsymbol{w}}{\|\boldsymbol{v}\|\|\boldsymbol{w}\|}

    4.3. Gram-Schmidtの直交化と{QR}分解

    定理 4.1 (Gram-Schmidt の直交化). {V\subset\mathbb{R}^{n}};部分空間,{\{\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{m}\}};その基底.
    {V_{j}:=\mathrm{span}\{\boldsymbol{v}_{1},\dots, \boldsymbol{v}_{j}\}}, ({1\leqq j\leqq m}).

    \displaystyle \boldsymbol{u}_{1}=\frac{\boldsymbol{v}_{1}}{\|\boldsymbol{v}_{1}\|},\quad\boldsymbol{u}_{j}=\frac{\boldsymbol{v}_{j}-\mathrm{pr}_{V_{j-1}}(\boldsymbol{v}_{j})}{\|\boldsymbol{v}_{j}-\mathrm{pr}_{V_{j-1}}(\boldsymbol{v}_{j})\|},\quad2\leqq j\leqq m

    により定まる{\{\boldsymbol{u}_{1},\dots,\boldsymbol{u}_{m}\}}{V}の正規直交基底.

    系4.1(QR分解). {A=\left(\boldsymbol{v}_{1}\boldsymbol{v}_{2}\dots\boldsymbol{v}_{m}\right)}{n\times m}行列 s.t. {\mathrm{rank}(A)=m}
    {\Mapsto}

    1. {\exists ! Q=\left(\boldsymbol{u}_{1}\boldsymbol{u}_{2}\dots \boldsymbol{u}_{m}\right)}{n\times m}行列 s.t. {\boldsymbol{u}_{1},\dots,\boldsymbol{u}_{m}}は正規直交,
    2. {\exists ! R=\begin{pmatrix}r_{1,1} & r_{1,2} & \dots & r_{1,m}\\ 0 & r_{2,2} & \ddots & \vdots\\ \vdots & \ddots & \ddots & r_{m-1,m}\\ 0 & \dots & 0 & r_{m,m} \end{pmatrix}}{m}次正方上三角 (upper triangular)行列

    s.t. {A=QR}

    5月22日 内積空間

    • \mathbb{R}ベクトル空間に加えて\mathbb{C}ベクトル空間も扱う.
    • \mathbb{R}/\mathbb{C}ベクトル空間上の内積,内積空間とその例
    • 内積空間の元のノルム,内積空間の距離関数,内積空間での直交関係
    • 内積空間の有限次元部分空間への直交射影,Gram-Schmidtの直交化
    • 例:Fourier展開への導入

    5月29日 行列式 (その1)

    6.1. 対称群

    • {n}次の置換 (permutation)と対称群 (symmetric group) {S_{n}}
    • {r}次巡回置換 ({r}-cycle) {(a_{1},\dots,a_{r})}, 特に互換 (transposition).
    • 置換の互いに交わらない巡回置換の積への分解.
    • 置換の符号

    6.2. 行列式

    • {n}次正方行列{A=\begin{pmatrix}a_{1,1} & \dots & a_{1,n}\\ \vdots & \ddots & \vdots\\ a_{n,1} & \dots & a_{n,n} \end{pmatrix}}行列式 (determinant)

      \displaystyle \det A=\sum_{\sigma\in S_{n}}\, \mathrm{sgn}(\sigma)a_{\sigma(1),1}a_{\sigma(2),2}\cdots a_{\sigma(n),n}

    • 基本性質:
      1. {\det{}^{t}A=\det A}
      2. {\det A}{A}の各行ベクトル,列ベクトルの線型関数.
      3. {\det A}{A}の行または列について交代的.
    • 階段行列による行列式の計算法
    • {\det(AB)=\det A\cdot\det B}.
    • {A}が可逆なら,{\det(A^{-1})=(\det A)^{-1}}

    6月5日 行列式(その2)

    7.1. Laplace展開

    定理7.1. {n}次正方行列{A=\begin{pmatrix}a_{1,1} & \dots & a_{1,n}\\ \vdots & \ddots & \vdots\\ a_{n,1} & \dots & a_{n,n} \end{pmatrix}}に対して

    \displaystyle \det A=\sum_{j=1}^{n}\,a_{i,j}(-1)^{i+j}\det A^{(i,j)}=\sum_{i=1}^{n}\,a_{i,j}(-1)^{i+j}\det A^{(i,j)}.

    ただし,

    \displaystyle A^{(i,j)}=\left(\begin{array}{ccc|ccc} a_{1,1} & \dots & a_{1,j-1} & a_{1,j+1} & \dots & a_{1,n}\\ \vdots & \ddots & \vdots & \vdots & \ddots & \vdots\\ a_{i-1,1} & \dots & a_{i-1,j-1} & a_{i-1,j+1} & \dots & a_{i-1,n}\\ \hline a_{i+1,1} & \dots & a_{i+1,j-1} & a_{i+1,j+1} & \dots & a_{i+1,n}\\ \vdots & \ddots & \vdots & \vdots & \ddots & \vdots\\ a_{n,1} & \dots & a_{n,j-1} & a_{n,j+1} & \dots & a_{n,n} \end{array}\right)

    {A}{(i,j)}小行列 ({(i,j)}-minor).

    7.2. 行列式と体積

    定義7.1. {\boldsymbol{v}_{1},\dots, \boldsymbol{v}_{m} \in \mathbb{R}^{n}}の張る平行{m}次元体 ({m}-parallelpiped)

    \displaystyle P(\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{m})=\left\{ t_{1}\boldsymbol{v}_{1}+\dots+t_{m}\boldsymbol{v}_{m}\mid0\leqq t_{i}\leqq1\right\} \subset\mathbb{R}^{n}

    {m}次元体積 ({m}-volume) {V(\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{m})}を,{m}に関して帰納的に

    \displaystyle V(\boldsymbol{v}_{1})=\|\boldsymbol{v}_{1}\|,\quad V(\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{m})=V(\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{m-1})\cdot\|\boldsymbol{v}_{m}-\mathrm{pr}_{V_{m-1}}(\boldsymbol{v}_{m})\|

    と定める.ただし{V_{i}=\mathrm{span}\{\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{i}\}}

    定理7.2. {\boldsymbol{v}_{1}, \dots,\boldsymbol{v}_{m} \in\mathbb{R}^{n}}に対して,{n\times m}行列{A=\left(\boldsymbol{v}_{1}\dots\boldsymbol{v}_{m}\right)}を取れば,

    \displaystyle V(\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{m})=\sqrt{\det\left(^{t}AA\right)}.

    7.3. Cramerの公式

    定理7.3. {n}次可逆行列{A=\left( \boldsymbol{v}_{1} \cdots \boldsymbol{v}_{n}\right)}に対して,連立一次方程式{A\boldsymbol{x}=\boldsymbol{b}}の解は

    \displaystyle x_{i}=\frac{\det A_{i}(\boldsymbol{b})}{\det A},\quad A_{i}(\boldsymbol{b})=\left(\boldsymbol{v}_{1}\cdots\overset{\underset{\vee}{i}}{\boldsymbol{b}}\cdots\boldsymbol{v}_{n}\right)

    特に

    \displaystyle A^{-1}=\left((-1)^{i+j}\frac{\det A^{(j,i)}}{\det A}\right)_{i,j}.

    7.4. 線形変換の行列式

    {n}次元ベクトル空間{V}上の線形変換{f : V \rightarrow V}行列式 {\det f=\det[f]_{\mathfrak{B}}}. ただし{\mathfrak{B}=\{\boldsymbol{v}_{1},\dots,\boldsymbol{v}_{n}\}}{V}の基底.

    6月12日 Jordan 標準形

    6月19日 Jordan 分解

    6月26日 エルミート形式

    7月3日 特異値分解

    7月10日 指数写像

    7月17日 双対空間

    7月24日 テンソル積.