摘要：
LSTM 长短时记忆网络(Long Short Term Memory Network, LSTM)，是一种改进之后的循环神经网络，可以解决RNN无法处理长距离的依赖的问题，目前比较流行。 长短时记忆网络的思路： 原始 RNN 的隐藏层只有一个状态，即h，它对于短期的输入非常敏感。 再增加一个状态， 阅读全文
posted @ 2019-03-26 21:54 Charlie_ODD 阅读(9628) 评论(0) 推荐(1)
摘要：
一、理解隐马尔科夫 1.1 举例理解 假设我手里有三个不同的骰子。第一个骰子是我们平常见的骰子（称这个骰子为D6），6个面，每个面（1，2，3，4，5，6）出现的概率是1/6。第二个骰子是个四面体（称这个骰子为D4），每个面（1，2，3，4）出现的概率是1/4。第三个骰子有八个面（称这个骰子为D8） 阅读全文
posted @ 2019-03-26 19:29 Charlie_ODD 阅读(1315) 评论(0) 推荐(0)
摘要：
作者：cstghitpku链接：https://zhuanlan.zhihu.com/p/51279338来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 1.分词 Word Segmentation chqiwang/convseg ，基于CNN做中文分词，提供数据和 阅读全文
posted @ 2019-03-20 22:13 Charlie_ODD 阅读(1270) 评论(0) 推荐(0)
摘要：
LU分解在本质上是高斯消元法的一种表达形式。实质上是将A通过初等行变换变成一个上三角矩阵，其变换矩阵就是一个单位下三角矩阵。这正是所谓的杜尔里特算法（Doolittle algorithm）：从下至上地对矩阵A做初等行变换，将对角线左下方的元素变成零，然后再证明这些行变换的效果等同于左乘一系列单位下 阅读全文
posted @ 2019-03-18 17:41 Charlie_ODD 阅读(1281) 评论(0) 推荐(0)
摘要：
基本并行实现的讨论： 正如前面所讲的，矩阵相乘过程中，结果矩阵C中的每个元素都是可以独立计算的，即彼此之间并无依赖性。所以如果采用更多的处理器，将会显著地提高矩阵相乘的计算效率。 对于大小为n × n 的矩阵，加入我们有n个处理器，那么结果矩阵中的每一行，都可以用一个处理器来负责计算。此时，总共的并 阅读全文
posted @ 2019-03-18 17:36 Charlie_ODD 阅读(8866) 评论(0) 推荐(0)
摘要：
串行计算： 并行计算： 这里我们假定了要解决的问题完全可分为4个独立运行的部分，由4个processors来独立运行。实际问题中，独立性和关联性是一个“太极”关系，就涉及到划分的粒度和通讯的频率等等问题。 计算机系统可以分为以下四类： 单指令单数据流（SISD）：一个单处理器执行一个单指令流，对保存 阅读全文
posted @ 2019-03-16 13:16 Charlie_ODD 阅读(1600) 评论(0) 推荐(0)
摘要：
一、基本概念 （1）一种使用多阶段决策过程最优的通用方法。 （2）动态规划过程是：每次决策依赖于当前状态，又随即引起状态的转移。一个决策序列就是在变化的状态中产生出来的，所以，这种多阶段最优化决策解决问题的过程就称为动态规划。 假设问题是由交叠的子问题所构成，我们就能够用动态规划技术来解决它。一般来 阅读全文
posted @ 2018-12-18 16:32 Charlie_ODD 阅读(21892) 评论(0) 推荐(0)
摘要：
一、基本概念 在计算机科学中，分治法是一种很重要的算法。字面上的解释是“分而治之”，就是把一个复杂的问题分成两个或更多的相同或相似的子问题，再把子问题分成更小的子问题……直到最后子问题可以简单的直接求解，原问题的解即子问题的解的合并。这个技巧是很多高效算法的基础，如排序算法(快速排序，归并排序)，傅 阅读全文
posted @ 2018-12-17 09:02 Charlie_ODD 阅读(26779) 评论(0) 推荐(1)
摘要：
一.与CUDA相关的几个概念：thread，block，grid，warp，sp，sm。 sp: 最基本的处理单元，streaming processor 最后具体的指令和任务都是在sp上处理的。GPU进行并行计算，也就是很多个sp同时做处理 sm:多个sp加上其他的一些资源组成一个sm, stre 阅读全文
posted @ 2018-12-01 15:40 Charlie_ODD 阅读(3671) 评论(0) 推荐(0)
浙公网安备 33010602011771号