随笔分类 - 模式识别
摘要：1. 基本概念 1.1 神经元 神经网络是很多的 神经元 模型按照一定的层次结构连接起来所构成的。 1.2 激活函数 \(\text{ReLU}\) 函数：修正线性单元ReLU，是一种人工神经网络中常用的激活函数。 \[\text{ReLU}(x) = \max(0, x) \] \(\text{s
阅读全文
摘要：1. 决策树 1.1 决策树简介 决策树（Decision Tree）是一种以 树形数据结构 来展示决策规则和分类结果的模型。每一条从根结点（对最终分类结果贡献最大的属性）到叶子结点（最终分类结果）的路径都代表一条决策的规则。 1.2 决策树的构建过程 首先生成一个 根节点，其 包含所有的样本。 判
阅读全文
摘要：1. 聚类 给定样本集 \(D = \{ \bm{x}_1, \bm{x}_2, ..., \bm{x}_n \}\)，\(\bm{x}_i \in \mathbb{R}^d\)。 通过聚类将 \(n\) 个样本划分为 \(k\) 个 簇划分 \(\mathcal C = \{ C_1, C_2,
阅读全文
摘要：1. 主成分分析 PCA PCA：寻找最能够 表示 原始数据的投影方法，对数据进行降维，除去冗余的信息。——不考虑类别 1.1 PCA 主要步骤 计算 散布矩阵 \(S\)（或者样本的协方差矩阵） \[S = \sum_{i=1}^{n}(\bm{x}_i - \bm{\mu})(\bm{x}_i
阅读全文
摘要：1. 贝叶斯分类器 1.1 贝叶斯公式 假设有一个试验的样本空间为 \(S\)，记 \(B_1, B_2, \ldots, B_c\) 为 \(S\) 的一个划分，\(A\) 为试验的条件，且 \(P(A) \not = 0\)，则： \[P(B_i | A) = \frac{P(B_i)P(A|B
阅读全文
摘要：1. SVM 简介 1.1 SVM 支持向量机 给定如图所示的线性可分训练集，能够将两类样本正确分开的直线很多。 感知机算法可以找到一条直线，且找到的直线不唯一。 然而感知机无法确定哪一条直线最优，但是 \(\text{SVM}\) 可以。 \(\text{SVM}\) 可以找到能够将训练样本正确分
阅读全文
摘要：1. 线性判别函数 1.1 定义 在 \(d\) 维特征空间中，有 线性判别函数： \[G(x) = w^{\text{T}} x + b \]其中，\(w = [w_1, w_2, \ldots, w_d]^T\) 称为 权值向量，\(b\) 称为 偏置，都是需要学习的参数。\(G(x) = 0\
阅读全文
摘要：1. 模式识别系统的各个设计环节 模式采集：借助物理设备（传感器、摄像头）进行数据的采集和存储。 预处理：数据清洗、降噪，增强数据中有用的信息。 特征提取：提取数据中对识别有用的特征。 分类器学习：根据训练数据特点，选择合适的分类器模型，利用训练集学习得到参数。 2. 模式识别的目标及原理 目标：寻
阅读全文
浙公网安备 33010602011771号