【490】自然语言处理算法精讲——笔记

• 概率模型与条件概率
• 贝叶斯原理与推理
• 随机变量：联合概率
  
  
• 伯努利分布和二项式分布
• 多项式分布、伽玛分布和Beta分布
• 泊松分布、高斯分布、对数正态分布
  
  
• 贝叶斯概率解题实例
  
  
• 语言与智能：信息熵——演变和定义
• 语言与智能：交叉熵的定义
  
  
• 语言模型：语言概率
• 三元语言模型
  • 马尔可夫链
  • 隐马尔可夫模型
  • unigram model
  • bigram model
  • trigram model
  • N-Gram model
• 语言模型评价：交叉熵
• 语言模型评价：Perplexity（困惑度）
• 语言评价模型：Interpolation（插值）
  
  
• 神经网络：反向传播2
  • 实例推导
    
    
• Word2Vec
• CBOW
• Skip-Gram
• 词性标注——POS Tagging
  
  
• 混合模型详解：EM模型
  • 
    
  • 
  • 

  • 

  • 参考：EM算法与‘简单🌰’的三硬币模型
• 隐马尔可夫模型，实现POS tagging