MatrixTheory: Finite Dimensional Linear Space
有限维线性空间
- 线性组合：对数域$\mathbb{F}$上的线性空间$V$，对$\alpha _1,...,\alpha _k \in V$，$x _1,...,x _k \in \mathbb{F}$，称：
$$
x _1 \cdot\alpha _1+x _2\cdot \alpha + ...+x _k\cdot\alpha _k
$$为其线性组合。
注意，“$\cdot$”为该线性空间所定义的数乘运算。
- 定义$\text{span}[\alpha _1,...,\alpha _k]=\{x _1 \cdot\alpha _1+x _2\cdot \alpha + ...+x _k\cdot\alpha _k\}$为向量组$\alpha _1,...,\alpha _k$的张成子空间。该子空间为包含了$\alpha _1,...,\alpha _k$的最小子空间。
对某个线性空间，若其可以由有限个向量张成，则称该线性空间为有限维线性空间，反之为无限维线性空间。
线性无关 & 线性相关
- 对某个张成$\text{span}[\alpha _1,...,\alpha _k]$，$\forall \alpha \in \text{span}[\alpha _1,...,\alpha _k]$，若$\alpha = x _1 \cdot\alpha _1+x _2\cdot \alpha + ...+x _k\cdot\alpha _k$的系数$x _1,x _2,...,x _k$唯一，则称$\alpha _1,...,\alpha _k$线性无关。
判断的充要条件：$x _1 \cdot\alpha _1+x _2\cdot \alpha + ...+x _k\cdot\alpha _k=0$当且仅当$x _1=x _2=...=x _k=0$。 反之若$x _i$不全为0，则称线性相关。
线性相关定理
若$\alpha _1,...,\alpha _m$线性相关：
- $\exists j \in \{1,...,m\}$，使得$\alpha _j \in \text{span}[\alpha _1,...,\alpha _{j-1}]$；
证明：
$x _1 \cdot\alpha _1+x _2\cdot \alpha _2 + ...+x _m\cdot\alpha _m=0$
假设$x _i$不为零的最大下标为$j$，则：
$x _1 \cdot\alpha _1+x _2\cdot \alpha _2 + ...+x _j\cdot\alpha _j=0$
则：
$x _j\cdot\alpha _j=-x _1 \cdot\alpha _1-x _2\cdot \alpha _2 - ...-x _{j-1}\cdot\alpha _{j-1}$
则：
$\alpha _j=-x _1/x _j \cdot\alpha _1-x _2 /x _j \cdot \alpha _2 - ...-x _{j-1} /x _j \cdot\alpha _{j-1}$ - 如果将$\alpha _j$从向量组中删除，则剩余的向量组成的张成与原张成一样。
$j=1$时说明$\alpha _1$是零向量。
基
- 基：一组线性无关的向量$\alpha _1,...,\alpha _k$张成的空间$V$。这组向量称为该张成的基。
有限维线性空间一定存在一组基。
- 易由线性相关定理推出，即删除法；
- 也可由基的扩充定理推出，即添加法：$\alpha _1,...,\alpha _k$，但$\text{span}[\alpha _1,...,\alpha _k]< V$，则可在其后添加向量，使之成为$V$的一组基。
基向量的数目$k$则称为该空间的维数$\text{dim}$。$\{0\}$的维数为0。
- 补空间：$U\oplus W=V$，则称$U$为$W$补空间。补空间可以有无穷多个，除非$U=W$，则其补空间只能为$\{0\}$。
维数公式
空间$V$，子空间$U$、$W$，则：
$$
\text{dim}(U+W)=\text{dim}(U)+\text{dim}(W)-\text{dim}(U\cap W)
$$
$$
\text{dim}(U _1\oplus U _2 \oplus...\oplus U _n)=\text{dim}(U _1)+\text{dim}(U _2)+...+\text{dim}(U _n)
$$
与矩阵相关的空间
$A _{m\times n}$：
- $N(A)$：零空间，$Ax=0$，$R ^n$的子空间，可用行变换求解。
- $C(A)$：列空间，列向量张成的空间，$R ^m$的子空间，也可用行变换求解。因为行变换不会改变列向量的相关性。
- $R(A)$：行空间，行向量张成的空间，$R ^n$的子空间，可用行变换求解。
- $N(A ^T)$：左零空间，$A ^Tx=0$，$R ^m$的子空间，也可用行变换。
Hermite标准型：阶梯阵的基础上令行第一个非零为$1$，且其所在列的其他位置都是$0$。Hermite标准化后，行空间即为Hermite的线性无关行，但列空间由原列向量组成。求左零空间时，可求$(A|E)$的行变换，得到$(\frac{H}{0}|P)$，则$PA=\frac{H}{0}$。
满秩分解
对$A _{m\times n},r(A)=r$，$A _{m\times n}=P _{m\times r} \times Q _{r\times n}$，其中$P$列满秩，$Q$行满秩，这样的分解称满秩分解。
存在性
$$
P _1 A Q _1 =
\begin{pmatrix}
E _r& 0 \\
0& 0
\end{pmatrix}
$$
则：
$$
\begin{align*}
A
&=
P _1 ^{-1}
\begin{pmatrix}
E _r& 0 \\
0& 0
\end{pmatrix}
Q _1 ^{-1}\\
&=
P _1 ^{-1}
\begin{pmatrix}
E _r\\
0
\end{pmatrix}
\begin{pmatrix}
E _r\space 0
\end{pmatrix}
Q _1 ^{-1}
\end{align*}
$$
则：
$$
\begin{align*}
P = P _1 ^{-1}
\begin{pmatrix}
E _r\\
0
\end{pmatrix}\\
Q =\begin{pmatrix}
E _r\space 0
\end{pmatrix}
Q _1 ^{-1}
\end{align*}
$$
唯一性
$$
A = P \times Q=P \times E _r \times Q=P\times U ^{-1}\times U \times Q
$$
所以一定不唯一。
求法
求Hermite标准型$H _A$，则非零行所组成矩阵即为$Q$，线性无关列所对应的$A$的列向量组成的矩阵即为$P$
线性变换
对$\mathbb{F}$上的线性空间$U$和$V$，若：
- $\forall \alpha,\beta \in U$，$T(\alpha + \beta)=T(\alpha)+T(\beta)$
- $\forall k \in \mathbb{F}$，$\alpha \in U$，$T(k \cdot \alpha)=k\cdot T(\alpha)$
则称$T$是线性空间$U$到$V$的线性变换。
线性变换的性质
- $T(0)\to 0$。证明：$T(0)=T(0+0)=T(0)+T(0)$
- $T(-\alpha) = 1T(\alpha)$
- 设$\alpha _1,\alpha _2,...,\alpha _k \in U$线性相关，则$T(\alpha _1),T(\alpha _2),...,T(\alpha _k)$线性相关
- 线性变换由一组基的像唯一确定
线性变换的运算
对线性空间$U$和$V$的线性变换集合$L(U,V)$，$T _1,T _2 \in L(U,V)$，定义：
- $(T _1 + T _2)(\alpha)=T _1(\alpha)+T _2 (\alpha)$
- $k \in \mathbb{F}$，$(k\cdot T _1)(\alpha)=k\cdot T _1(\alpha)$
$(T _1 + T _2)$和$(k\cdot T _1)$也是$U\to V$的线性变换。换句话说，集合$L(U,V)$的加法和数乘运算是封闭的。
零变换是零向量。
负变换是负函数。
因此，集合$L(U,V)$是一个线性空间。
$T \in L(U,V),S\in L (V,W)$，定义：
$$
(S\cdot T)(\alpha)=S(T(\alpha))
$$
类似于复合函数的定义。易证$S\cdot T$是$U\to W$的线性变换。
上述复合运算的结合律成立，即$(T _1\cdot T _2)\cdot T _3= T _1\cdot (T _2\cdot T _3)$。
分配律亦成立。但交换律不一定成立。