摘要： 转自http://www.cppblog.com/sosi/archive/2010/10/16/130127.aspx In probability theory and information theory, the Kullback–Leibler divergence[1][2][3] (also information divergence,information gain,... 阅读全文

摘要： 这里聊聊统计模式识别中的基本概念。首先，考虑字符识别的问题（图1），目标是最小化错分概率。当收集大量数据（如图像）之后，可以算出某字符图像所占的比例，且这个玩意可以表示为先验概率 。 当我们猜一个图像（未看到图像）对应字符时，如果，一般会将其归为类 对应的字符。这会最小化误分概率，基本我们知道会存在错分的情况。 图1进一步，将图像转换为特征变量 （字符高度与宽度比值），这会给分类决策带来更多信息... 阅读全文