摘要：
GAN的进一步探究 书接上回, 因为本人在GAN才刚入门, 尽管直接调用别人的ACGAN得到的效果已经很棒, 但是我还是想要继续看一下不同参数对于生成图像的影响, 帮助自己去更好理解. 学习率调节 为了平衡D和G的过程, 我们可以适当更改学习率. 这个小trick甚至有个专门的名字叫Two Time 阅读全文
摘要：
本文章已更新, 因为比赛结束, 所以已对部分内容修改. 事情原委是这样的: 在水下机器人比赛的字母识别模块中, 因为字母识别这东东和二值化和环境, 包括摄像头布局等都是高度相关的, 所以OCR并不是很好用, 几乎是必须制作自己的数据集. 例如下面就是一个原始图片和我自己编写程序实现的二值化效果(字母 阅读全文
摘要：
欢迎来到assignment3 从现在开始, 网上的博客数量就少了很多. 毕竟从现在, 我们开始了更具体网络的学习. 这里的组织形式可能会比较怪, 我会将RNN相关的课程内容和代码混在一起, 这样也可以同时作为学习笔记, 也是考虑到RNN之后没有官方讲义之后自己概括性的评说, 感觉比较好组织. 因为 阅读全文
摘要：
这篇文章之所以来的比较早, 是因为我们机器人比赛字符识别数据集不够, 想自己造点数据集其实 课程内容总结 所谓GAN, 原理很简单, 我们有一个生成器网络和鉴别器网络, 生成器生成假的数据, 鉴别器分辨真假, 二者知己知彼互相优化自己, 从而达到博弈的效果. 实际操作中, 我们一般是训练k步鉴别器, 阅读全文
摘要：
期中考试结束了,来填坑,因为真正接触到了玄学和银河的部分,也算是试验了几天的成果把( 在上一个文章中, 我们已经提到了, 通过本课程学到的各种技巧, 我们将准确度提升到了80%, 这已经超过了大多数CS231N博客的效果了. 但是毕竟这个是在基本的卷积网络架构去操作的, 所以后续想要再提升, 就只能 阅读全文
摘要：
pytorch 环境搭建 课程给你的环境当中, 可以直接用pytorch, 当时其默认是没有给你安装显卡支持的. 如果你只用CPU来操作, 那其实没什么问题, 但我的电脑有N卡, 就不能调用. 考虑到我已有pytorch环境(大致方法就是确认pytorch版本和对应的cuda版本安装cuda,再按照 阅读全文
摘要：
卷积神经网络 基本算法实现 卷积神经网络应该算是图像处理中绝对的主流了, 关于算法得基本思想我在之前也学的比较懂了, 这点如果不了解网上有很多教程. 不过我并没有用代码亲自实现它. 我们首先确定怎么编写. 前面搞全连接网络总是会想着怎么去简化运算, 现在我们接触了新的网络, 要实现基础版本反而又不大 阅读全文
摘要：
dropout 定义 & 作用 & 基本实现 如课程所说,dropout最大的意义在于防止过拟合. 我们还记得, dropout在网络架构上介于激活函数之后, 下一层输入之前. 想法很简单, 就是将隐含层的某些数据屏蔽掉, 直接从以输入到下一层, 概率为p. 需要注意的是, dropout是仅针对训 阅读全文
摘要：
预警: 本次内容不算多, 但数学推导较复杂 Normalization 归一化的意义 之前内部的权重没有做过标准化. 实际上如果能标准化, 可以提升训练效果, 甚至可以提升精度(虽然不大). 设立专门的batch/layer normalization层的意义在于: 梯度更加规范 对于学习率(可以更 阅读全文
摘要：
本章内容较多预警 Intro 我们写过一个两层的神经网络, 但是梯度是在loss内计算的, 因此对网络的架构相关的修改难免比较困难. 为此, 我们需要规范化网络设计, 设计一系列函数. , 后面我们还会封装一个类, 这也是最希望的方式了. 环境搭建 又到了工科生最上头(bushi 的搭环境环节. 我 阅读全文