随笔分类 - 机器学习理论
摘要:贝叶斯决策论,作为解决模式识别问题的一种基本的统计途径,其假设决策的问题可以用概率的形式表示,并且假设所有有关的概率结构均已知。 根据贝叶斯公式,可以知道后验概率可以表示成似然函数和先验概率的乘积形式(证据对于每个类别都是相通的,所以在决策过程中可以忽略)。贝叶斯决策一般是用于分类场景,我们根据每个
阅读全文
摘要:什么是自组织映射? 一个特别有趣的无监督系统是基于 竞争性学习 ,其中输出神经元之间竞争激活,结果是在任意时间只有一个神经元被激活。这个激活的神经元被称为 胜者神经元(winner takes all neuron) 。这种竞争可以通过在神经元之间具有 横向抑制连接 (负反馈路径)来实现。其结果是神
阅读全文
摘要:极大似然估计 考虑一个高斯分布$p(\mathbf{x}\mid{\theta})$,其中$\theta=(\mu,\Sigma)$。样本集$X=\{x_1,...,x_N\}$中每个样本都是独立的从该高斯分布中抽取得到的,满足独立同分布假设。 因此,取到这个样本集的概率为: $$\begin{al
阅读全文
摘要:1. 从一个栗子开始 Slot Filling 比如在一个订票系统上,我们的输入 “Arrive Taipei on November 2nd” 这样一个序列,我们设置几个槽位(Slot),希望算法能够将关键词'Taipei'放入目的地(Destination)槽位, 将November和2nd放入
阅读全文

浙公网安备 33010602011771号