懵懂的菜鸟

摘要： JS散度（Jensen-Shannon divergence） JS散度解决了KL不对称的问题，JS是对称的。 很明显，如果P1，P2完全相同，那么JS =0， 如果完全不相同，那么就是1. JS散度是利用KL散度来得到的。JS是对称的而且值是有界的[0,1]. P,Q和第三个分布进行KL计算（第三 阅读全文

摘要： 1. 相对熵的认识 相对熵又称互熵，交叉熵，鉴别信息，Kullback熵，Kullback-Leible散度（即KL散度）等。设和 是取值的两个概率概率分布，则对的相对熵为 在一定程度上，熵可以度量两个随机变量的距离。KL散度是两个概率分布P和Q差别的非对称性的度量。KL散度是 用来度量使用基于Q的 阅读全文

摘要： python中的list和array的不同之处list是列表,可以通过索引查找数值，但是不能对整个列表进行数值运算In [96]: b=[1,2]In [97]: b[1]Out[97]: 2In [98]: type(b)Out[98]: listIn [99]: b+bOut[99]: [1, 2, 1, 2]array是数组，也可以通过索引值查找数据，但是能对整个数组进行数值运算In [10... 阅读全文