雪饮者

摘要：今天要介绍的最小二乘法是用来做参数估计的方法，笔者把同济大学高等数学第六版下册翻了一下，觉得书中所讲句句珠玑，已经无可挑剔了，就“照本宣科”了。 “许多工程问题，常常需要根据两个变量的几组实验数值——实验数据，来找出这两个变量的函数关系的近似表达式，通常把这样得到的函数的近似表达式叫做经验公式，经验 阅读全文

摘要：机器学习(Machine Learning, ML)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，是使计算机具有智能的根本途径，其 阅读全文

摘要：应朋友之约，在这里简要谈一下过拟合的问题。 给定一个假设空间H，一个假设h属于H，如果存在其他的假设h’属于H,使得在训练样例上h的错误率比h’小，但在整个实例分布上h’比h的错误率小，那么就说假设h过度拟合训练数据。这是Tom Mitchell在Machine Learning中对过拟合给出的定义 阅读全文

摘要：一．问题描述 1.1文本建模相关 统计文本建模的目的其实很简单：就是估算一组参数，这组参数使得整个语料库出现的概率最大。这是很简单的极大似然的思想了，就是认为观测到的样本的概率是最大的。建模的目标也是这样，下面就用数学来表示吧。一开始来说，先要注意假设了一些隐变量z，也就是topic。每个文档都符合 阅读全文