探索技术本身

摘要： 多层感知机 Outline 传统的线性神经网络存在一个问题：不论增加任何数量的节点，最终效果等价于一个节点。本篇文章为这个问题提供了一个可能的解决方案：对于部分节点，使用非线性函数代替线性函数。 Method 1.ReLU函数（实际使用较多）：只保留正数。 2.sigmoid函数：将值映射到0到1之 阅读全文

摘要： 前言 softmax回归为一种分类模型。 基本原理 由于softmax回归也是一种线性叠加算法，且需要输出离散值。 很自然地想到，可以取值最大的输出为置信输出。更进一步想到，如果有三个人A、B、C分别说自己的正确程度为100、200、200，那么在三个人说的话都一样正确的情况下，可以考虑累加，那么A 阅读全文