随笔分类 -  NLP

摘要：斋藤康毅 深度学习进阶：NLP 学习笔记 阅读全文

摘要：李沐 动手学深度学习 学习笔记 词向量是⽤于表⽰单词意义的向量，并且还可以被认为是单词的特征向量或表⽰。 将单词映射到实向量的技术称为词嵌⼊。近年来，词嵌⼊逐渐成为⾃然语⾔处理的基础知识。 虽然独热向量很容易构建，但它们通常不是⼀个好的选择。 ⼀个主要原因是独热向量不能准确表达不同词之间的相似度，⽐ 阅读全文

摘要：斋藤康毅 深度学习进阶 学习笔记 自然语言处理（Natural Language Processing，NLP） 顾名思义，就是处理自然语言的科学。 简单地说，它是一种能够让计算机理解人类语言的技术。 换言之，自然语言处理的目标就是让计算机理解人说的话，进而完成对我们有帮助的事情。 语料库 单词的分 阅读全文

摘要：邱锡鹏 NNDL 学习笔记 阅读全文

摘要：中文自然语言处理的完整机器处理流程 中文分词利器 jieba 和 HanLP 动手实战中文文本中的关键字提取 了解数据必备的文本可视化技巧 面向非结构化数据转换的词袋和词向量模型 动手实战基于 ML 的中文短文本聚类 从自然语言处理角度看 HMM 和 CRF 一网打尽神经序列模型之 RNN 及其变种 阅读全文

摘要：概率（probabilty）和统计（statistics）看似两个相近的概念，其实研究的问题刚好相反。 概率研究的问题是，已知一个模型和参数，怎么去预测这个模型产生的结果的特性（例如均值，方差，协方差等等）。 举个例子，我想研究怎么养猪（模型是猪），我选好了想养的品种、喂养方式、猪棚的设计等等（选择 阅读全文

摘要：概率图模型 用图来表示变量概率依赖关系的理论，结合概率论与图论的知识，利用图来表示与模型有关的变量的联合概率分布。 由图灵奖获得者Pearl开发出来。 概率图模型理论分为概率图模型表示理论，概率图模型推理理论和概率图模型学习理论。 近10年它已成为不确定性推理的研究热点，在人工智能、机器学习和计算机 阅读全文

摘要：条件随机场（conditional random field，简称CRF） 是一种鉴别式机率模型，是随机场的一种 常用于标注或分析序列资料，如自然语言文字或是生物序列。 由Lafferty等人于2001年提出 结合了最大熵模型和隐马尔可夫模型的特点 是一种无向图模型 近年来在分词、词性标注和命名实体 阅读全文

摘要：命名实体识别（Named Entity Recognition，简称NER） 又称作“专名识别” 指识别文本中具有特定意义的实体 主要包括人名、地名、机构名、专有名词等。 阅读全文

摘要：词性标注（Part-Of-Speech tagging, POS tagging） 也被称为语法标注（grammatical tagging）或词类消疑（word-category disambiguation）， 是语料库语言学（corpus linguistics）中将语料库内单词的词性按其含义 阅读全文

摘要：句法分析-Parsing 对句子中的词语语法功能进行分析。 比如“我来晚了”，这里“我”是主语，“来”是谓语，“晚了”是补语。 句法分析分为句法结构分析和依存关系分析两种。 依存句法分析( Dependency Parsing, DP) 通过分析语言单位内成分之间的依存关系揭示其句法结构。 语言的文 阅读全文

摘要：https://blog.csdn.net/Luzichang/article/details/91365752 假设有这样一个问题，远在另一个城市上大学的儿子每天通过邮件向你汇报他今天做的最多事情是什么，这些事情可能是这三项之一：打球、读书、访友。 那么在这种场景下，如何推测儿子所在城市的天气情况 阅读全文

摘要：维特比算法 一种动态规划算法（动态规划 Dynamic Programming，是运筹学的一个分支，是求解决策过程最优化的过程。） 用于寻找最有可能产生观测事件序列的-维特比路径-隐含状态序列 特别是在马尔可夫信息源上下文和隐马尔可夫模型中 在计算机科学领域，应用动态规划的思想解决的最基本的一个问题 阅读全文

摘要：HMM算法实现： # https://blog.csdn.net/wk19951125/article/details/88862095 class HMM(object): def __init__(self): import os # 主要是用于存取算法中间结果，不用每次都训练模型 self.m 阅读全文

摘要：REF：https://zhuanlan.zhihu.com/p/103392455 # 正向最大匹配法（FMM，Forward Maximum Matching） # 反向最大匹配法（BMM, Backward Maximum Matching） # 双向最大匹配法 首先看两种方法结果的分词数，分 阅读全文

摘要：条件随机场(Conditional Random Field，简称CRF)是一种判别式无向图模型，它是随机场的一种，常用于标注或分析序列语料，如自然语言文字或是生物序列。 跟隐马尔可夫模型通过联合分布进行建模不同，条件随机场试图对多个变量在给定观测值后的条件概率进行建模。 阅读全文

摘要：隐马尔可夫模型(Hidden Markov Model，简称HMM)是结构最简单的动态贝叶斯网络(dynamic Bayesian network)，这是一种尤其著名的有向图模型，主要用于时序数据建模，在语音识别、自然语言处理等领域有广泛应用。 在分词算法中，隐马尔可夫经常用作能够发现新词的算法，通 阅读全文

摘要：基于词的n元语法模型是一个典型的生成式模型，早期很多统计分词均以它为基本模型，然后配合其他未登录词识别模块进行扩展。 其基本思想是：首先根据词典(可以是从训练语料中抽取出来的词典，也可以是外部词典)对句子进行简单匹配，找出所有可能的词典词，然后，将它们和所有单个字作为结点，构造的n元切分词图，图中的 阅读全文

摘要：最少切分分词算法 该分词算法依据最少切分原则，从几种分词算法切分结果中取切分词数最少一种的。 比如，从正向最大匹配和逆向最大匹配两者中选择词数较少的方案，当词数相同时，采取某种策略，选择其中一个。 https://blog.csdn.net/cuixianpeng/article/details/4 阅读全文

摘要：最大概率法分词是在最大匹配分词算法上的改进。 在某些语句切分时，按最大长度切分词语可能并不是最优切分。 而不按最优长度切分词语，则同一语句会出现多种切分结果。 计算每种切分结果的概率，选取概率最高的切分作为最优分词切分。 http://www.shizhuolin.com/?p=1860 阅读全文