随笔分类 - 模式识别
哈尔滨工业大学 计算机专业 研究生课程笔记
摘要:我来填坑了,最近好忙,没有时间写博客,今天上午刚刚进行完本课程的实验考试,在这里进行简要汇总。 任务介绍 利用20000条手写识别数据,提前训练好分类器,考试时只需要跑预测模型即可。 本质上一个分类问题,类别总数是10。 本任务比较有意思的一点是,老师提供的训练数据,是利用PCA与LDA降维得到的特
阅读全文
摘要:知识点汇总 以下所有知识点是我在期末复习过程中自己整理的,采用相似算法对比分析的方式进行总结。 从判别函数的角度分析判别函式模型与生成式模型; 根据判别函数的输出来决定待识别模式属于哪个类别,这类方法所采用的模型称作判别式模型。而对于生成式模型,以贝叶斯分类器为例,不能构造区分不同类别的判别函数,而
阅读全文
摘要:1. 成分分析 常用的成分分析有PCA和FDA,本章主要介绍主成分分析PCA,对于FDA,只是简要介绍其主要数学思想。 进行成分分析的目的是对数据集特征进行降维,降维的好处有: 减少计算量 提高泛化能力:减少模型的参数数量。往往数据特征维度越高,模型越容易过拟合。 融入核函数的SVM,虽然是在高维特
阅读全文
摘要:1. 非线性判别函数 本章介绍广义线判别函数与核函数,并分析他们的不同。 2. 广义线性判别函数 对于非线性问题,我们依旧可以使用线性分类器进行求解。 广义线性判别函数增加了特征的高次项,将低维特征转化为高维特征。将低维线性不可分问题转化为高维的线性可分问题,并学习到高维空间下的线性分类器,该分类器
阅读全文
摘要:1. 线性判别函数 本章介绍的线性判别函数都归属于判别式模型,即对于分类问题,根据判别函数$g(x)$的取值进行判断,比如正数归为第一类,负数与零归为第二类。关于判别式模版与生成式模型的区别可以阅读我以前的 "博客" ,最典型的生成式模型是贝叶斯分类器,这个在之前的 "博客" 中也有介绍。 在介绍具
阅读全文
摘要:1. 概率密度函数的参数估计 前文讲到了利用贝叶斯决策理论构建贝叶斯分类器,初学者难免会有疑问,既然已经可以通过构建贝叶斯分类器的方法处理分类问题,那为什么还要学习本章节内容? 事实上,贝叶斯分类器的缺可以通过计算先验概率与类条件概率来设计最优分类器。但是对于大多数实际问题,我们往往无法知道这两个概
阅读全文
摘要:1. 贝叶斯决策理论 贝叶斯决策理论是解决分类问题的一种基本统计途径,其出发点是利用概率的不同分类决策,与相应决策所付出的代价进行折中,它假设决策问题可以用概率的形式描述,并且假设所有有关的概率结构均已知。 2. 各种概率及其关系 先验概率: $$P(\omega_i)$$ 后验概率: $$P(\o
阅读全文
摘要:一、前言 今天刚刚考完研究生第一门专业课,在考试后打算写一篇该课程的笔记总结,包括如下内容: 课程知识点,不限于课程内容 实验编写,代码开源 部分考试内容 此外,我打算对于日后每个课程(包括数理统计、最优化方法、人工智能、自然语言处理、机器翻译、知识工程、文本理解),都展开一个系列博客,希望大家为我
阅读全文

浙公网安备 33010602011771号