通过sklearn使用tf-idf提取英文关键词

Demo1

TfidfTransformer + CountVectorizer = TfidfVectorizer

from sklearn.feature_extraction.text import TfidfVectorizer, TfidfTransformer

corpus = [
       'This This is the first document.',
      'This This is the second second document.',
      'And the third one.',
      'Is this the first document?',
]

tfidf_model = TfidfVectorizer()

tfidf_matrix = tfidf_model.fit_transform(corpus)

word_dict = tfidf_model.get_feature_names()

print(word_dict)

print(tfidf_matrix)

['and', 'document', 'first', 'is', 'one', 'second', 'the', 'third', 'this']
(0, 1) 0.3493402123185688
(0, 2) 0.431504661587479
(0, 6) 0.2856085141790751
(0, 3) 0.3493402123185688
(0, 8) 0.6986804246371376
(1, 5) 0.7717016211057586
(1, 1) 0.24628357422338598
(1, 6) 0.20135295972313796
(1, 3) 0.24628357422338598
(1, 8) 0.49256714844677196
(2, 4) 0.5528053199908667
(2, 7) 0.5528053199908667
(2, 0) 0.5528053199908667
(2, 6) 0.2884767487500274
(3, 1) 0.4387767428592343
(3, 2) 0.5419765697264572
(3, 6) 0.35872873824808993
(3, 3) 0.4387767428592343
(3, 8) 0.4387767428592343

参数设置

关于参数:

  • input:string{'filename', 'file', 'content'}

    • 如果是'filename',序列作为参数传递给拟合器,预计为文件名列表,这需要读取原始内容进行分析

    • 如果是'file',序列项目必须有一个”read“的方法(类似文件的对象),被调用作为获取内存中的字节数

    • 否则,输入预计为序列串,或字节数据项都预计可直接进行分析。

  • encoding:string, ‘utf-8’by default

    • 如果给出要解析的字节或文件,此编码将用于解码
  • decode_error: {'strict', 'ignore', 'replace'}

    • 如果一个给出的字节序列包含的字符不是给定的编码,指示应该如何去做。默认情况下,它是'strict',这意味着的UnicodeDecodeError将提高,其他值是'ignore'和'replace'
  • strip_accents: {'ascii', 'unicode', None}

    • 在预处理步骤中去除编码规则(accents),”ASCII码“是一种快速的方法,仅适用于有一个直接的ASCII字符映射,"unicode"是一个稍慢一些的方法,None(默认)什么都不做
  • analyzer:string,{'word', 'char'} or callable

    • 定义特征为词(word)或n-gram字符,如果传递给它的调用被用于抽取未处理输入源文件的特征序列
  • preprocessor:callable or None(default)

    • 当保留令牌和”n-gram“生成步骤时,覆盖预处理(字符串变换)的阶段
  • tokenizer:callable or None(default)

    • 当保留预处理和n-gram生成步骤时,覆盖字符串令牌步骤
  • ngram_range: tuple(min_n, max_n)

    • 要提取的n-gram的n-values的下限和上限范围,在min_n <= n <= max_n区间的n的全部值
  • stop_words:string {'english'}, list, or None(default)

    • 如果为english,用于英语内建的停用词列表

    • 如果为list,该列表被假定为包含停用词,列表中的所有词都将从令牌中删除

    • 如果None,不使用停用词。max_df可以被设置为范围[0.7, 1.0)的值,基于内部预料词频来自动检测和过滤停用词

  • lowercase:boolean, default True

    • 在令牌标记前转换所有的字符为小写
  • token_pattern:string

    • 正则表达式显示了”token“的构成,仅当analyzer == ‘word’时才被使用。两个或多个字母数字字符的正则表达式(标点符号完全被忽略,始终被视为一个标记分隔符)。
  • max_df: float in range [0.0, 1.0] or int, optional, 1.0 by default

    • 当构建词汇表时,严格忽略高于给出阈值的文档频率的词条,语料指定的停用词。如果是浮点值,该参数代表文档的比例,整型绝对计数值,如果词汇表不为None,此参数被忽略。
  • min_df:float in range [0.0, 1.0] or int, optional, 1.0 by default

    • 当构建词汇表时,严格忽略低于给出阈值的文档频率的词条,语料指定的停用词。如果是浮点值,该参数代表文档的比例,整型绝对计数值,如果词汇表不为None,此参数被忽略。
  • max_features: optional, None by default

    • 如果不为None,构建一个词汇表,仅考虑max_features--按语料词频排序,如果词汇表不为None,这个参数被忽略
  • vocabulary:Mapping or iterable, optional

    • 也是一个映射(Map)(例如,字典),其中键是词条而值是在特征矩阵中索引,或词条中的迭代器。如果没有给出,词汇表被确定来自输入文件。在映射中索引不能有重复,并且不能在0到最大索引值之间有间断。
  • binary:boolean, False by default

    • 如果为True,所有非零计数被设置为1,这对于离散概率模型是有用的,建立二元事件模型,而不是整型计数
  • dtype:type, optional

    • 通过fit_transform()或transform()返回矩阵的类型
  • norm:'l1', 'l2', or None,optional

    • 范数用于标准化词条向量。None为不归一化
  • use_idf:boolean, optional

    • 启动inverse-document-frequency重新计算权重
  • smooth_idf:boolean,optional

    • 通过加1到文档频率平滑idf权重,为防止除零,加入一个额外的文档
  • sublinear_tf:boolean, optional

    • 应用线性缩放TF,例如,使用1+log(tf)覆盖tf

Demo2

from sklearn.feature_extraction.text import TfidfVectorizer, TfidfTransformer

# 1
tfidf_model = TfidfVectorizer(binary=False, decode_error='ignore', stop_words='english')
vec = tfidf_model.fit_transform(corpus)
tfidf_model.get_feature_names()

# 2
from sklearn.feature_extraction.text import TfidfVectorizer
tfidf_model = TfidfVectorizer(stop_words='english', ngram_range=(1, 1),
                analyzer='word', max_df=.57, binary=False,
                token_pattern=r"\w+",sublinear_tf=False)
vec = tfidf_model.fit_transform(corpus)
tfidf_model.get_feature_names()

# stop_words:string {'english'}, list, or None(default)如果为english,用于英语内建的停用词列表。
# - 如果为list,该列表被假定为包含停用词,列表中的所有词都将从令牌中删除; 
# - 如果None,不使用停用词。

# ngram_range(min,max):是指将text分成min,min+1,min+2,.........max 个不同的词组。
# 比如'Python is useful'中ngram_range(1,3)之后可得到'Python' 'is' 'useful' 'Python is' 'is useful' 和'Python is useful'
# 如果是ngram_range (1,1) 则只能得到单个单词'Python' 'is'和'useful'

# analyzer:string,{'word', 'char'} or callable定义特征为词(word)或n-gram字符

# max_df可以被设置为范围[0.7, 1.0)的值,基于内部预料词频来自动检测和过滤停用词。
# max_df: float in range [0.0, 1.0] or int, optional, 1.0 by default当构建词汇表时,严格忽略高于给出阈值的文档频率的词条,语料指定的停用词。
# - 如果是浮点值,该参数代表文档的比例,整型绝对计数值,如果词汇表不为None,此参数被忽略。

# binary:boolean, False by default
# - 如果为True,所有非零计数被设置为1,这对于离散概率模型是有用的,建立二元事件模型,而不是整型计数。

# token_pattern: 正则表达式显示了”token“的构成,仅当analyzer == ‘word’时才被使用。

# sublinear_tf:boolean, optional应用线性缩放TF,例如,使用1+log(tf)覆盖tf

http://www.javashuo.com/article/p-rkocllvo-kp.html

参数设置:https://blog.csdn.net/laobai1015/article/details/80451371 ; https://www.jianshu.com/p/ce0be2f8a4ee

https://zhuanlan.zhihu.com/p/67883024

posted @ 2021-05-13 16:51  douzujun  阅读(542)  评论(0编辑  收藏  举报