费希尔信息矩阵Fisher's information matrix

Fisher information matrix 是用利用最大似然函数估计来计算方差矩阵，表示随机变量的一个样本所能提供的关于状态参数在某种意义下的平均信息量。

三个意义：

①估计MLE的方程的方差；

②log likelihood在参数真实值处的负二阶导数的期望；

③MLE的渐进分布的方差：

Score Function 的期望值为0，证明如下：

为什么其逆矩阵即可用来表示方差的下限，即CRB约束？