上课材料之二:
第二章  数学基础 (Mathematics)
第一节  矩阵(Matrix)及其二次型(Quadratic Forms)
第二节  分布函数(Distribution Function),数学期望(Expectation)及方差(Variance)
第三节数理统计(Mathematical Statistics)
第一节  矩阵及其二次型(Matrix and its Quadratic Forms)
2.1 矩阵的基本概念与运算
一个m×n矩阵可表示为:
矩阵的加法较为简单,若C=A+Bcij=aij+bij
但矩阵的乘法的定义比较特殊,若A是一个m×n1的矩阵,B是一个n1×n的矩阵,则C=AB是一个m×n的矩阵,而且,一般来讲,ABBA,但如下运算是成立的:
结合律(Associative Law)  (AB)C=ABC
分配律(Distributive Law)  A(B+C)=AB+AC
问题:(A+B)2=A2+2AB+B2是否成立?
向量(Vector)是一个有序的数组,既可以按行,也可以按列排列。 行向量(row vector)是只有一行的向量,列向量(column vector)只有一列的向量。
如果α是一个标量,则αA=[αaij]。
矩阵的转置矩阵(transpose matrix)记为,是通过把的行向量变成相应的列向量而得到。
显然()′=,而且(+)′=+
乘积的转置(Transpose ofa production ) 
可逆矩阵(inverse matrix),如果n级方阵(square matrix)A和B,满足AB=BA=I。则称A、B是可逆矩阵,显然。如下结果是成立的:
2.2 特殊矩阵
1)恒等矩阵(identity matrix)identity matrix是什么意思
对角线上元素全为1,其余全为0,可记为I;
2)标量矩阵(scalar matrix)
即形如αI的矩阵,其中α是标量;
3)幂等矩阵(idempotent matrix)
如果矩阵具有性质,这样的矩阵称为幂等矩阵。
定理:幂等矩阵的特征根要么是1,要么是零。
4)正定矩阵(positive definite)和负定矩阵(negative definite),非负定矩阵(nonnegative ) 或 半正定矩阵(positive semi-definite ),非正定矩阵(nonpositive  definite) 或 半负定矩阵(negative semi-definite);
对于任意的非零向量,如有>0(<0),则称A是正(负)定矩阵;如有≥0(≤0),非负(非正)定矩阵。如果A是非负定的,则记为A≥0;如果是正定的,则记为A>0。协方差矩阵是半正定矩阵,几个结论:
a)恒等矩阵或单位矩阵是正定的;
b)如果是正定的,则也是正定的;
c)如果是正定的,是可逆矩阵,则是正定的;
d)如果是一个n×m矩阵,且n>m,,则是正定的,是非负定矩阵。
5)对称矩阵(symmetric matrix);
如果=′,则称为对称矩阵。
2.3 矩阵的迹(trace)
一个n×n矩阵的迹被定义为它的对角线上的元素之和,记为,则,如下结论是显然的。
1)    (是标量)  特例
2)
3)
4),特例
5)循环排列原则 tr(ABCD)=tr(BCDA)=tr(CDAB)=tr(DABC)
定理:实对称矩阵A的迹等于它的特征根之和。
因为A是实对称矩阵,故有在矩阵C,使得,其中,所以,
2.4 矩阵的秩(rank)
一个矩阵A的行秩和列秩一定相等,一个矩阵的秩就可以定义为它的行秩或列秩,记为r(A),不加证明,我们给出如下结果:
1)(行数、列数)
2),其中A、B分别为m×n1、n1×n矩阵,特例:如果A、B为n×n矩阵,而且AB=0,则
3),其中是n×n的方阵
4)
5)设是n×n矩阵,且,则
6)设是n×n矩阵,且,则
2.5 统计量的矩阵表示