BNN-CI论文阅读

论文全名为Variable Selection with Rigorous Uncertainty Quantification using Deep Bayesian Neural Networks

算法：

Step 1：根据数据维度和数据个数给出了网络的复杂程度规定

Step 2：训练神经网络

Step 3：利用神经网络对每个变量Xi 求导，导数的估计为整个数据集中求出的导数的平均值

Step 4：对导数的估计量进行改动使其变为无偏估计

Step 5：给出导数估计量的抽样分布，利用假设检验做特征选择

 

长处：

1.给出了导数的计算方法，使得神经网络中可以引入relu等激活函数

2.给出了网络大小与数据维度之间的关系，对网络设计有一定好处

 

缺点

1.虽然给出了多重比较的假设检验，但并没有详细阐述多重比较方法。

   只给出了多个变量导数的概率分布，若想依靠此分布去做特征选择，则要遍历所有情况，且可能有很多个结果

2.在模型变量较少时效果并不是很好

 

后续应做的工作

1.对贝叶斯网络不是很熟，应该去试着写一下

2.关于导数修改使其变成无偏估计并没有完全搞懂

3.各种分布和理论的证明没有细看