摘要:
概念depth 所表示的意思是从input到output最长的路径长度。传统的机器学习算法也是有depth这个性质的:BP:depth = layers + 1;SVM:depth = 2,核函数和线性分类器?Deep的动机 在depth比较小的时候,很多ML能够完成指定的任务,不过会有一些显著的缺点:节点数增长的非常快,会随着input的规模成倍地增加。要明白这一点,先思考一下节点与节点的关系:在同一层:扩充。在不同层:组合。这样的话,在增加相同节点数的时候第二种状态下的节点能表达的情况数会更多,而且这点上是不是有点“组合爆炸”的感觉?这里YY一下,如果大脑中的神经元和ML中的神经元非常.. 阅读全文
浙公网安备 33010602011771号