1. 行列と行列の演算（線形代数）

線形代数は、ベクトル空間と線形写像に関する理論と応用を扱う。制御工学、特に現代制御理論では重要な数学ツールとなっている。線形代数は、次の概念や操作を含む。
１．ベクトルとベクトル空間：ベクトルは数値の集合であり、方向と大きさを持つ量である。2次元ベクトルは平面上の点を表し、3次元ベクトルは空間上の点を表す。ベクトル空間は、ベクトルの集合であり、ベクトルの加法とスカラー倍の操作が定義される。
２．行列と行列演算：行列は数値を行と列の格子状に並べたもので、線形方程式の解を求めることやベクトルの変換を表現するために使用される。行列の加法、乗法、逆行列などの演算が含まれる。
３．線形写像：線形写像は、ベクトル空間の間での写像であり、ベクトルの加法とスカラー倍の操作により実行される。例えば、回転や拡大縮小などの変換が線形写像に含まれる。
４．固有値と固有ベクトル：固有値と固有ベクトルは、行列に関連する概念であり、行列が特定のベクトルをどのようにスケールするかを示す。固有値問題は、多くの物理現象や工学問題の解析に重要となる。
５．線形方程式の解法：線形方程式は、未知の変数が線形に関係する方程式であり、行列を用いて表現されることが多い。ガウス消去法や逆行列法などの解法がある。
以上の概念や操作の原理を理解すれば、工学的には各種のソフトウェア（Matlab, Scilab, Octaveなど）に実装されている関数を活用すれば良い。ただし、新しいアルゴリズム（例えばAIの実装）を開発するためには、原理の理解は重要である。

線形代数の基本的枠組み

ベクトルは多次元の変数をひとまとめにしたもの、行列は多次元の比例定数表をひとまとめとしたものと考える。例えば、$$y_1 = a_{11}x_1 + a_{12}x_2 + \cdots + a_{1n}x_n \\y_2 = a_{21}x_1 + a_{22}x_2 + \cdots + a_{2n}x_n \\ \vdots \\y_m = a_{m1}x_1 + a_{m2}x_2 + \cdots + a_{nm}x_n$$の線形連立方程式は、$$y = \begin{bmatrix} y_1 \\ y_2 \\ \vdots \\y_m\end{bmatrix} \;\;\;\;\; A = \begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \cdots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{bmatrix} \;\;\;\;\; x = \begin{bmatrix} x_1 \\ x_2 \\ \vdots \\x_n \end{bmatrix} $$ とすることで、$$y = Ax $$と表記できる。
\(x\)が\(n\)次元ベクトル、\(y\)が\(m\)次元ベクトル、（\(m,\;n\)は一般には異なる）、\(A\)が\(m\)行、\(n\)列のサイズのとき\(m/n\)と表記する（\(m \times n\)の表現が一般的？）。
行列\(A\)により、\(x\)の集合としての\(n\)次元空間\(U\)から、\(y\)の集合としての\(m\)次元空間\(V\)への関数$$f: U \rightarrow V $$として、$$x \longmapsto Ax$$を考えることができる。（\(\longmapsto\)の記号は、写像の元の対応を表す）これが、線形代数の基本的な枠組みである。

ベクトルの加法とベクトルのスカラー倍

ベクトルの加法は、同じ次元の二つのベクトルを足し合わせて新しいベクトルを作る操作である。例えば、2次元ベクトル \(a = (a_1, a_2)\)と\(b = (b_1, b_2)\)の加法は次のように計算する。$$a + b = (a_1 + b_1, a_2 + b_2)$$ この操作は次元が高くなっても同じとして拡張する。例えば、3次元ベクトルの場合は\(a=(a_1,a_2,a_3)\)と\(b=(b_1,b_2,b_3)\)のとき $$a+b=(a_1+b_1,a_2+b_2,a_3+b_3)$$となる。
スカラー倍は、ベクトルの各成分に同じスカラー（大きさだけを表す量）を掛ける操作である。例えば、2次元ベクトル\(a=(a_1,a_2)\)に対してスカラー\(k\)を掛けると$$ka=(k \cdot a_1,k\cdot a_2)$$となる。この操作も次元が高くなっても同じで、例えば、3次元ベクトルの場合は\(a=(a_1,a_2,a_3)\)に対してスカラー\(k\)を掛けると$$ka=(k\cdot a_1,k\cdot a_2,k\cdot a_3)$$となる。

線形性

線形空間（Linear Space）は、ベクトル空間とも呼ばれ、集合\(U,\;V\) と演算（加法とスカラー倍）から構成される。つまり、\(f: U \rightarrow V \)ついて、$$f(e_1 x_1 + e_2 x_2) = f(e_1) x_1 + f(e_2) x_2 = a_1 x_1 + a_2 x_2$$となる。これは、$$f(x_1 + x_2) = f(x_1) + f(x_2) , \;\;\;\;\; f(x r) = f(x) r$$という性質による。行列算では、$$A(x_1 + x_2) = A x_1 + A x_2 , \;\;\;\;\; A(x r ) = (A x) r$$となり、分配則と結合則に対応している。線形空間というのは、加法とスカラー倍が考えられることが基本で、線形写像は、加法とスカラー倍を保存するところが基本となる。「加法とスカラー倍の法則」を線形性という。スカラー倍は和から発展したものだとも考えられるので、より根源的なのは、$$f(x_1 + x_2) = f(x_1) + f(x_2)$$で、「重ね合わせの原理」とも言われる。線形性をもった空間が線形空間、線形性を保存する写像が線形写像である。線形空間\(V\)の元のことを\(V\)のベクトルという。

行列の演算

例えば、\(A,\;B\)が正方行列の場合、行列の和は、$$A + B = \begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{bmatrix} + \begin{bmatrix} b_{11} & b_{12} & \cdots & b_{1n} \\ b_{21} & b_{22} & \cdots & b_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ b_{n1} & b_{n2} & \cdots & b_{nn} \end{bmatrix} \\ = \begin{bmatrix} a_{11} +b_{11} & a_{12} + b_{12} & \cdots & a_{1n} + b_{1n} \\ a_{21} + b_{21} & a_{22} + b_{22} & \cdots & a_{2n} + b_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{n1} + b_{n1} & a_{n2} + b_{n2} & \cdots & a_{nn} + b_{nn} \end{bmatrix}$$となる。