TF-IDF

参考：http://www.cnblogs.com/ywl925/p/3275878.html

这个模型主要用于信息检索，但它的思想用于图像也未尝不可。

TFIDF的主要思想是：如果某个词或短语在一篇文章中出现的频率TF高，并且在其他文章中很少出现，

则认为此词或者短语具有很好的类别区分能力，适合用来分类。

只需理解两个概念就行了：

                         

TF（词频）公式：

\mathrm{tf_{i,j}} = \frac{n_{i,j}}{\sum_k n_{k,j}}   

以上式子中 n_{i,j} 是该词在文件d_{j}中的出现次数，而分母则是在文件d_{j}中所有字词的出现次数之和。

 

IDF反文档频率：

       \mathrm{idf_{i}} = \log \frac{|D|}{|\{j: t_{i} \in d_{j}\}|}

  • |D|：语料库中的文件总数
  • |\{ j: t_{i} \in d_{j}\}| ：包含词语 t_{i} 的文件数目（即 n_{i,j} \neq 0的文件数目）如果该词语不在语料库中，就会导致被除数为零，因此一般情况下使用1 + |\{j : t_{i} \in d_{j}\}|

然后

\mathrm{tf{}idf_{i,j}} = \mathrm{tf_{i,j}} \times \mathrm{idf_{i}}

 

posted @ 2015-05-18 14:26  牧马人夏峥  阅读(142)  评论(0)    收藏  举报