摘要: 1. 粒子群算法简介 + 粒子群算法(particle swarm optimization,PSO) 由Kennedy和Eberhart在1995年提出,属于进化算法的一种,是通过对模拟鸟群扑食行为设计的。 + 基本思想: 从随机解出发,通过迭代寻找最优解,通过适应度来评价解的品质。 + 场景设定 阅读全文
posted @ 2018-11-30 16:19 小楼——夜听春雨 阅读(2678) 评论(0) 推荐(0) 编辑
摘要: 1. 使用二次代价函数引起梯度消失的原因 2. 交叉熵代价函数 什么是交叉熵代价函数 解决梯度消失问题的原理 3.总结 这是对自己第一次接触到梯度消失问题的总结。主要是二次代价函数引起的梯度消失的问题,然后使用交叉熵代加函数解决这个问题,对这个过程的原理初步进行了了解。 对于其他问题引起的梯度消失问 阅读全文
posted @ 2018-11-30 16:18 小楼——夜听春雨 阅读(798) 评论(0) 推荐(0) 编辑