王老头

导航

Preapare DeepLearning Interview《二》

1. 无监督学习中存在过拟合吗?

答:存在。我们可以使用无监督学习的某些指标或人为地去评估模型性能,以此来判断是否过拟合。

2. 多任务学习中标签缺失如何处理?

答:一般做法是将缺失的标签设置特殊标志,在计算梯度的时候忽略。

3. 对于多分类问题,为什么神经网络一般使用交叉熵而不用欧式距离损失?

答:交叉熵在一般情况下更容易收敛到一个更好的解。

softmax函数以及相关求导过程

4. 梯度下降法,为什么需要设置一个学习率?

答:使得迭代之后的值在上次值的邻域内,保证可以忽略泰勒展开式中的二次及二次以上的项。

5. 解释反卷积的原理和用途?

答:反卷积即转置卷积,正向传播时乘以卷积核的转置矩阵,反向传播时乘以卷积核矩阵由卷积输出结构近似重构输入矩阵,上采样。

6.

posted on 2018-09-23 10:49  王老头  阅读(142)  评论(0)    收藏  举报