深度学习与神经网络全局概览：核心技术的发展历程

本文经机器之心（微信公众号：almosthuman2014）授权转载，禁止二次转载

作者： Syed Danish Ali、Rahul Ahuja

机器之心编译

参与：吴攀、李亚洲

原文连接：http://mp.weixin.qq.com/s?__biz=MzA3MzI4MjgzMw==&mid=2650717969&idx=1&sn=712e4880e63db42bcb4db5ba06c9856d&scene=0#wechat_redirect

 

目录

 

一、神经网络的历史

二、单层感知器

三、多层感知器

 

• 参数初始化

• 激活函数

• 反向传播算法

• 梯度下降

• 成本函数

• 学习率

• 动量

• Softmax

• 多层感知器：总结

 

四、深度学习概览

 

• 受限玻尔兹曼机和深度信念网络

• Dropout

• 处理类不平衡的技术

• SMOTE：合成少类过采样技术

• 神经网络中对成本敏感的学习

详细内容请看链接内容。