Sayaki

摘要： 01背包 现有N件物品和一个最多能承重M的背包，第i件物品的重量是$w_i$，价值是$v_i$。在背包能承受的范围内，试问将哪些物品装入背包后，可使价值最大，求这个最大价值。 每件物品只有选和不选两种状态，所以称为01背包问题。 dp[i][j]：在背包承重为j的前提下，从前i个物品中选，能够得到的 阅读全文

摘要： 符号表示 x表示单词或者词向量。y表示词序列。 分类 通常情况下，假设输入x是给定的，训练逻辑回归的权重w（只修改决策边界）。 Softmax 将计算分为两步： 第一步，用W的第y行乘以向量x，得到向量$f_y$。 然后将向量$f_y$输入到Softmax，得到一个概率分布。 交叉熵误差 举例：假设 阅读全文

摘要： 如何运用word2vec进行高效训练 将常见的单词组合（word pairs）或者词组作为单个“words”来处理。 对高频出现的单词进行抽样，减少训练样本的个数。 对优化目标采用负采样(negative sampling)，即每次让一个训练样本仅仅更新一小部分的权重，从而降低计算负担。 详细内容参 阅读全文

摘要： Word Meaning 目前最常见的方法：用分类资源来处理词义。例如wordnet。 NLTK（Natural Language Toolkit）自然语言处理工具包是用于自然语言处理的主要python包。 引用NLTK导入wordnet的代码 from nltk.corpus import wor 阅读全文