摘要：softMax层反向传播图如图所示，这里我们将图中-ti/yi的反向传播泛化为Li，方便我们的推导。 这里我们规定S=exp(a1)+...+exp(an) , yi=exp(ai)/S "乘"节点 有两个分支，对于向上的分支：Li*exp(ai) 然后将所有分支相加: ∑Li*exp(ai) 对于 阅读全文

摘要：秋天就这样不经意的降临，其实日历早就翻过，只是忘了这是南方，更忘了这是南方的秋， 终于有了些凉意．向往常一样的在一条熟悉小路上散步，这样的习惯已经N多年，忽然想起家乡的秋，此刻的脚下飘散着枯萎而又干黄的落叶，伴随着脚步碎去．似乎这种感觉才强烈的预示着季节的转换． 只是这南方的天，这样的场景很难出现， 阅读全文