线性代数基本概念与定理
矩阵与方程组
-
若方程组中，第$k$个方程的前$k-1$个变量的系数均为0，且$x_k$的系数不为0，则称该方程组为严格三角形的
-
若一个矩阵满足：
- 每一非零行中的第一个非零元为1；
- 第$k$行中的元不全为零时，第$k+1$行首变量之前零的个数多于第$k$行首变量之前零的个数；
- 所有元素均为零的行必在不全为零的行之后
则称其为行阶梯形矩阵
-
若一个矩阵满足
- 矩阵是行阶梯形的；
- 每一行的第一个非零元是该列唯一的非零元
则称该矩阵为行最简形
-
(线性方程组的相容性定理) 一个线性方程组 $Ax = b$ 相容的充要条件是向量$b$可写为矩阵$A$列向量的一个线性组合
-
下述法则对任何标量 $\alpha, \beta$ 及矩阵 $A,B,C$ 都是成立的
- $A+B = B+A$
- $(A+B)+C=A+(B+C)$
- $(AB)C=A(BC)$
- $A(B+C)=AB+AC$
- $(A+B)C=AC+BC$
- $(\alpha\beta)A=\alpha(\beta A)$
- $\alpha(AB)=(\alpha A)B=A(\alpha B)$
- $(\alpha+\beta)A=\alpha A + \beta A$
- $\alpha(A+B)=\alpha A + \alpha B$
-
若存在一个矩阵$B$使得$AB=BA=I$,则称$n\times n$矩阵$A$为非奇异的或可逆的。矩阵$B$称为矩阵$A$的乘法逆元
-
一个$n \times n$矩阵若不存在乘法逆元，则称为奇异的
-
若$A$ 和$B$ 为非奇异的$n \times n$矩阵，则$AB$也为非奇异的，且$(AB)^{-1}=B^{-1}A^{-1}$
-
转置的代数法则
- $(A^T)^T=A$
- $(\alpha A)^T = \alpha A^T$
- $(A+B)^T=A^T+B^T$
- $(AB)^T=B^TA^T$
-
如果从单位矩阵$I$开始，只进行一次初等行运算，得到的矩阵称为初等矩阵。分别对应于三类初等行运算，有三类初等矩阵
- 第一类初等矩阵由交行矩阵的两行得到
- 第二类初等矩阵由单位矩阵的某一行乘以一个非零常数得到
- 第三类初等矩阵由矩阵的某一行的倍数加到另一行得到
一般的，假设为一的初等矩阵，我们可以认为是由经过行运算或者一个列运算得到的。若为一的矩阵，左乘的作用就是对进行相应的行运算。若为一的矩阵，右乘等价于对进行相应的列运算。
-
若$E$为一初等矩阵，则$E$是非奇异的，且$E^{-1}$为一与它同类型的初等矩阵
-
若存在一个有限初等矩阵的序列$E_1, E_2, \dots, E_k$，使得 $B=E_kE_{k-1}\dots E_1A$ 则称$A$与$B$为**行等价的**
-
(非奇异矩阵的等价条件) 令$A$为一$n \times n$矩阵，则下列命题是等价的
- $A$是非奇异的
- $Ax=0$仅有平凡解0
- $A$与$I$行等价
非奇异矩阵$A$求解$A^{-1}$的一种方法：增广矩阵$(A\vert I)$的行最简形式为$(I\vert A^{-1})$
-
当切仅当$A$为非奇异时，n个未知量n个方程的线性方程组$Ax=b$有唯一解
-
将矩阵$A$分解为一个单位下三角形矩阵和一个严格上三角形矩阵$U$的乘积的过程，通常称为$LU$分解
-
标量积或内积
$$ x^Ty=(x_1,x_2,\cdots,x_n)\begin{bmatrix}y_1\ y_2\ \vdots \ y_n\end{bmatrix}=x_1y_1+x_2y_2+\cdots+x_ny_n $$ -
$x$和$y$的外积
$$ xy^T= \begin{bmatrix} x_1\\x_2\\\vdots\\x_n \end{bmatrix} \\ (y_1,y_2,\cdots,y_n)= \begin{bmatrix} x_1y_1 & x_1y_2 & \cdots & x_1y_n \\ x_2y_1 & x_2y_2 & \cdots & x_2y_n \\ \vdots \\ x_ny_1 & x_ny_2 & \cdots & x_ny_n \\ \end{bmatrix} $$ -
假设从一个$m \times n$ 矩阵$X$ 和一个$k \times n$ 矩阵$Y$开始，我们可以得到矩阵乘积$XY^T$。设将$X$按列进行划分，且将$Y^T$按行进行划分，然后进行分块矩阵乘法，我们看到$XY^T$可以表示为向量的外积之和
$$ XY^T=(x_1,x_2,\cdots,x_n) \begin{bmatrix} y_1^T \\ y_2^T \\ \vdots \\ y_n^T \end{bmatrix} = x_1y_1^T+x_2y_2^T+\cdots+x_ny_n^T $$这个表达式称为**外积展开**
行列式
-
令$A=(a_{ij})$为一$n \times n$矩阵，并用$M_{ij}$表示删除$A$的行和列得到的$(n-1) \times (n-1)$矩阵，矩阵$M_{ij}$的行列式称为$a_{ij}$的**子式**。定义$a_{ij}$的余子式$A_{ij}$为
$$ A_{ij}=(-1)^{i+j}\det (M_{ij}) $$ -
一个$n\times n$矩阵$A$的行列式，记为$\det(A)$，是一个与矩阵$A$对应的标量，他可如下递归定义：
$$ \det(A)= \begin{cases} a_{ij} & 当n=1时 \\ a_{11}A_{11} + a_{12}A_{12} + \cdots + a_{1n}A_{1n} & 当n>1时 \end{cases} $$ 其中 $$ A_{1j}=(-1)^{1+j}\det(M_{1j}), j=1,\cdots,n $$为$A$第一行元素对应的余子式 -
设$A$为一$n \times n$矩阵，其中$n \geq 2$， 则$\det(A)$可表示为$A$的任何行列的余子式展开，即
$$ \begin{align} \det(A) &=a_{i1}A_{i1}+a_{i2}A_{i2}+\cdots+a_{in}A_{in} \\ &= a_{1j}A_{1j}+a_{2j}A_{2j}+\cdots+a_{nj}A_{nj} \end{align} $$其中$i=1,\cdots,n$，且$j=1,\cdots,n$ -
设$A$为一$n\times n$矩阵，则$\det(A^T)=\det(A)$
-
设$A$为一$n\times n$三角形矩阵，则$A$的行列式等于$A$的对角元素的乘积
-
令$A$为一$n\times n$矩阵
- 若$A$有一行或一列包含的元素全为零，则$\det(A)=0$
- 若$A$有两行或两列相同，则$\det(A)=0$
-
令$A$为一$n\times n$矩阵。若$A_{jk}$表示$a_{jk}$的余子式，其实$k=1,\cdots,n$，则
$$ a_{i1}A_{j1}+a_{i2}A_{j2}+\cdots+a_{in}A_{jn}= \begin{cases} \det(A) & 当i=j时 \\ 0 & 当i\neq j时 \end{cases} $$ -
若$E$为一初等矩阵，则
$$ \det(EA)=\det(E)\det(A) $$ 其中$$ \det(E)= \begin{cases} -1 & 若E为第Ⅰ类初等矩阵 \\ \alpha \neq 0 & 若E为第Ⅱ类初等矩阵 \\ 1 & 若E为第Ⅲ类初等矩阵 \end{cases} $$ -
一个$n \times n$矩阵$A$是奇异的充要条件为
$$ \det(A)=0 $$ -
若$A$和$B$均为$n \times n$矩阵，则
$$ \det(AB)=\det(A)\det(B) $$ -
令$A$为一$n \times n$矩阵，我们定义一个新矩阵，称为矩阵$A$的伴随
$$ adj A = \begin{bmatrix} A_{11} & A_{21} & \cdots & A_{n1} \\ A_{12} & A_{22} & \cdots & A_{n2} \\ \vdots \\ A_{1n} & A_{2n} & \cdots & A_{nn} \end{bmatrix} $$$A(adj A)=\det(A)I$若$A$为非奇异的，则$\det(A)$为非零标量，且可以记
$$ A\left(\frac{1}{\det(A)}adj A\right)=I $$ 因此
$$ A^{-1}=\frac{1}{\det(A)}adj A， 其中\det(A)\neq 0 $$ -
克拉默法则 令$A$为一$n \times n$非奇异矩阵，并令$b\in R^n$。令$A_i$为将矩阵$A$中的第$i$列用$b$替换得到的矩阵。若$x$为方程组$Ax=b$的唯一解，则
$$ x_i=\frac{\det(A_i)}{\det(A)} $$ -
给定$R^3$的两个向量$x$和$y$，可以定义第三个向量，即向量积，记为$x\times y$
$$ x \times y = \begin{bmatrix} x_2y_3 - y_2x_3 \\ y_1x_3 - x_1y_3 \\ x_1y_2 - y_1x_2 \end{bmatrix} = \begin{vmatrix} e_1 & e_2 & e_3 \\ x_1 & x_2 & x_3 \\ y_1 & y_2 & y_3 \end{vmatrix} $$
向量空间
-
令$V$为一定义了加法和标量乘法运算的集合。这意味着，对$V$中的每一个元素$x$和$y$，可唯一对应于$V$中的一个元素$x+y$，且对每一个$V$中的元素$x$和每一个标量$\alpha$，可唯一对应于$V$中的元素$\alpha x$，如果集合$V$连同其上的加法和标量乘法运算满足下面的公理，则称为向量空间
A1. 对$V$中的任何$x$和$y$，$x+y=y+x$
A2. 对$V$中的任何$x,y,z, (x+y)+z=x+(y+z)$
A3. $V$中存在一个元素$0$，满足对任意的$x \in V$有$x+0=x$
A4. 对每一$x \in V$，存在$V$中的一个元素$-x$，满足$x+(-x)=0$
A5. 对任意标量$\alpha$和$V$中的元素$x$和$y$， 有$\alpha(x+y)=\alpha x + \alpha y$
A6. 对任意标量$\alpha$和$\beta$及$x \in V$，有$(\alpha+\beta)x=\alpha x+\beta x$
A7. 对任意标量$\alpha$和$\beta$及$x \in V$，有$(\alpha \beta)x=\alpha(\beta x)$
A8. 对所有$x \in V$，有$1\cdot x=x$
-
若$V$为向量空间，且$x$为$V$的任一元素，则
- $0x=\boldsymbol0$
- $x+y=0$蕴涵$y=-x$(即$x$的加法逆元是唯一的)
- $(-1)x=-x$
-
若$S$为向量空间$V$的非空子集，且$S$满足如下条件：
- 对任意标量$\alpha$，若$x \in S$，则$\alpha x \in S$
- 若$x \in S$且$y \in S$，则$x+y \in S$
则$S$称为$V$的子空间
-
矩阵的零空间 所有齐次方程组$Ax=0$的解得集合组成了$R^n$的一个子空间。子空间$N(A)$称为$A$的零空间
-
令$v_1,v_2,\cdots,v_n$为向量空间$V$中的向量。$\alpha_1v_1+\alpha_2v_2+\cdots+\alpha_nv_n$（其中$\alpha_1,\alpha_2,\cdots,\alpha_n$为标量）称为$v_1,v_2,\cdots,v_n$的线性组合。向量$v_1,v_2,\cdots,v_n$的所有线性组合构成的集合称为$v_1,\cdots,v_n$的张成。向量$v_1,\cdots,v_n$的张成记为$Span(v_1,\cdots,v_n)$
-
若$v_1,v_2,\cdots,v_n$为向量空间$V$中的元素，则$Span(v_1,v_2,\cdots,v_n)$为$V$的一个子空间
-
${v_1,\cdots,v_n}$是$V$的一个张集的充要条件为$V$中的每个向量都可写为$v_1,v_2,\cdots,v_n$的一个线性组合
-
如果向量空间$V$中的向量$v_1,v_2,\cdots,v_n$满足
$$ c_1v_1+c_2v_2+\cdots+c_nv_n=0 $$ 就可推出所有标量$c_1,\cdots,c_n$必为0，则称它们为线性无关的 -
如果存在不全为零的标量$c_1,c_2,\cdots,c_n$，使得向量空间$V$中的向量$v_1,v_2,\cdots,v_n$满足
$$ c_1v_1+c_2v_2+\cdots+c_nv_n=0 $$ 则称它们为线性相关的 -
令$x_1,x_2,\cdots,x_n$为$R^n$中的$n$个向量，并令$X=(x_1,\cdots,x_n)$。向量$x_1,x_2,\cdots,x_n$线性相关的重要条件是$X$是奇异的
-
令$v_1,\cdots,v_n$为向量空间$V$中的向量。当且仅当$v_1,\cdots,v_n$线性无关时，$Span(v_1,\cdots,v_n)$中的任一向量$v$才可唯一的用向量$v_1,\cdots,v_n$的线性组合表示
-
令$f_1, f_2,\cdots,f_n$为$C^{n-1}[a,b]$中的函数，定义$[a,b]$上的函数$$W f_1,f_2,\cdots,f_n $$为
$$ W[f_1,f_2,\cdots,f_n](x)= \begin{vmatrix} f_1(x) & f_2(x) & \cdots & f_n(x) \\ f_1^\prime(x) & f_2^\prime(x) & \cdots & f_n^\prime(x) \\ \vdots \\ f_1^{(n-1)}(x) & f_2^{(n-1)}(x) & \cdots & f_n^{(n-1)}(x) \end{vmatrix} $$函数$$W[f_1,f_2,\cdots,f_n](x)$$ 称为$f_1,f_2,\cdots,f_n$的朗斯基行列式
-
令$f_1, f_2,\cdots,f_n$为$C^{n-1}[a,b]$中的元素。若在$[a,b]$中存在一个点$x_0$，使得$$W\left[f_1,f_2,\cdots,f_n \right](x_0)\neq 0$$，则$f_1,f_2,\cdots,f_n$线性无关
-
当且仅当向量空间$V$中的向量$v_1,v_2,\cdots,v_n$满足
- $v1,v_2,\cdots,v_n$线性无关
- $v_1,v_2,\cdots,v_n$张成$V$
时，称他们是向量空间$V$的基
-
若${v_1,v_2,\cdots,v_n}$为向量空间$V$的一个张集，则$V$中任何$m$个向量必线性相关，其中$m>n$
-
若$v_1, v_2,\cdots,v_n$和$u_1,u_2,\cdots,u_m$均为向量空间$V$的基，则$n=m$
-
令$V$为一向量空间。若$V$的一组基含有$n$个向量，我们称$V$的维数为$n$。$V$的子空间{0}的维数为0. 如果有有限多个向量张成$V$，则称$V$是有限维的；否则，称$V$是无限维的
-
若$V$是维数$n>0$的向量空间，则：
- 任一$n$个线性无关的向量张成$V$
- 任何张成$V$的$n$个向量是线性无关的
-
若$V$是维数$n>0$的向量空间，则：
- 没有少于$n$个向量构成的集合可以张成$V$
- 任何少于$n$个的线性无关的向量构成的子集可以扩展为$V$的一组基
- 任何多于$n$个的向量的张集均可通过删除其中的向量得到$V$的一组基
-
令$V$为一向量空间，且令$E=[v_1,v_2,\cdots,v_n]$为$V$的一组有序基。若$v$为$V$中的任意元素，则$v$可以写为
$$ v = c_1v_1+c_2v_2+\cdots+c_nv_n $$ 其中$c_1,c_2,\cdots,c_n$为标量，因此可以将每一向量$v$唯一对应于$R^n$中的一个向量$c=(c_1,c_2,\cdots,c_n)^T$，采用这种方式定义的向量$c$称为$v$相应于有序基$E$的坐标向量，并记为$[v]_E$。$c_i$称为$v$相对于$E$的坐标 -
如果$A$为一$m \times n$矩阵，由$A$的行向量张成的$R^{1\times n}$的子空间称为$A$的行空间。由$A$的各列张成的$R^m$的子空间称为$A$的列空间
-
两个行等价的矩阵有相同的行空间
-
$A$的行空间的维数称为矩阵$A$的秩
-
(线性方程组相容性定义) 一个线性方程组$Ax=b$的相容的充要条件是$b$在$A$的列空间中
当且仅当$A$的列向量线性无关时，方程组$Ax=0$仅有平凡解$x=0$
-
令$A$为一$m \times n$矩阵。当且仅当$A$的列向量张成$R^m$时，对每一个$b \in R^m$，线性方程组$Ax=b$是相容的。当且仅当$A$的列向量线性无关时，对每一$b \in R^m$，方程组$Ax=b$至多有一个解
-
当且仅当一个$n \times n $矩阵$A$的列向量为$R^n$的一组基时，$A$时非奇异的
-
一般的，矩阵的秩和其零空间的维数加起来等于矩阵的列数。一个矩阵的零空间的维数称为矩阵的零度
-
若$A$为一个$m \times n$矩阵，则$A$的秩与$A$的零度的和为$n$
-
若$A$为一$m \times n $矩阵，则$A$的行空间的维数等于$A$的列空间的维数