Jerry_Jin

摘要： 信息熵、交叉熵、KL散度、JS散度、Wasserstein距离交叉熵（cross entropy）是深度学习中常用的一个概念，一般用来求目标与预测值之间的差距。以前做一些分类问题的时候，没有过多的注意，直接调用现成的库，用起来也比较方便。最近开始研究起对抗生成网络（GANs），用到了交叉熵，发现自己对交叉熵的理解有些模糊，不够深入。遂花了几天的时间从头梳理了一下相关知识点，才算透彻的理解了，特地记... 阅读全文

摘要： 神经网络的前向传播和反向传播公式详细推导 本篇博客是对Michael Nielsen所著的《Neural Network and Deep Learning》第2章内容的解读，有兴趣的朋友可以直接阅读原文Neural Network and Deep Learning。 对神经网络有些了解的人可能都 阅读全文

摘要： 1、什么是 softmax机器学习总归是要接触到 softmax 的，那么这个东东倒底是怎么来的呢？实际上 softmax 可能指两种相似但不相同的东东。1.1. softmax function这函数定义比较符合 softmax 这个名字：可见 softmax function 是从一个输入序列里算出一个值。可见 softmax 确实会返回输入序列中最大的那个值的近似值。softmax 是对真 ... 阅读全文

摘要： 1、However, but, yet, while, whereas 表转折的区别 表示转折关系的并列连词 however: 然而，不过。位置句首、句中，用逗号隔开；语气比but 弱，不直接引出相反意见。用作副词较常见。 I’d like to go with you, however, my h 阅读全文

摘要： 人有悲欢离合，月有阴晴圆缺。中秋佳节，为大家奉上一篇关于目标检测中“阴晴圆缺”不平衡的综述：Imbalance Problems in Object Detection: A Review (https://arxiv.org/abs/1909.00169, under review at TPAMI)，同时也结合自己最近在这方面的 Tech Report: Is Sampling Heurist... 阅读全文

摘要： git rebase是对commit history的改写。当你要改写的commit history还没有被提交到远程repo的时候，也就是说，还没有与他人共享之前，commit history是你私人所有的，那么想怎么改写都可以。而一旦被提交到远程后，这时如果再改写history，那么势必和他人的history长的就不一样了。git push的时候，git会比较commit history，如果... 阅读全文

摘要： Sometimes CUDA program crashed during execution, before memory was flushed. As a result, device memory remained occupied. There are some solutions: 1. 阅读全文

摘要： Paper：https://arxiv.org/abs/1711.07971v1 Author：Xiaolong Wang, Ross Girshick, Abhinav Gupta, Kaiming He (CMU, FAIR) 1 创新点 这篇文章非常重要，个人认为应该算是cv领域里面的自注意力 阅读全文

摘要： In everyday data processing for Machine Learning and Data Science projects, we encounter unique situations, those require boilerplate code to solve th 阅读全文

摘要： In this post, I review the literature on semantic segmentation. Most research on semantic segmentation use natural/real world image datasets. Although the results are not directly applicable to medica... 阅读全文