摘要: 遗传算法模仿了生物遗传进化的过程,可以在给定范围内搜索最优解。遗传算法的设计一般包括参数编码、初始群体的设定、适应度函数的设计、遗传操作设计(选择、交叉、变异)、控制参数设定等。 0.问题 在这里,我们基于python使用遗传算法尝试搜索函数 \(y = -x^2+2x+5\) 在区间$[0,63] 阅读全文
posted @ 2020-01-23 14:37 qxcheng 阅读(726) 评论(0) 推荐(0) 编辑
摘要: 为了加深对卷积神经网络底层原理的理解,本文通过使用numpy来搭建一个基础的包含卷积层、池化层、全连接层和Softmax层的卷积神经网络,并选择relu作为我们的激活函数,选择多分类交叉熵损失函数,最后使用了mnist数据集进行了训练和测试。 关于卷积网络的详细原理和实现可参考下列文章: "刘建平P 阅读全文
posted @ 2019-10-23 23:22 qxcheng 阅读(5386) 评论(7) 推荐(3) 编辑
摘要: 在本篇博文中,我们只使用numpy来搭建一个简单的包含输入层、隐藏层、输出层的神经网络,我们选择sigmoid作为激活函数,选择均方差损失函数,最后使用mnist数据集进行了训练和测试。 1、公式推导 均方差损失函数: $$ loss = J(W,b,x,y)=\frac{1}{2}||a^L y| 阅读全文
posted @ 2019-07-29 22:57 qxcheng 阅读(3054) 评论(0) 推荐(0) 编辑