摘要： 1.词嵌入 one-hot 向量将每个单词表示为完全独立的个体，不同词向量都是正交的，因此单词间的相似度无法体现。换用特征化表示方法能够解决这一问题。我们可以通过用语义特征作为维度来表示一个词，因此语义相近的词，其词向量也相近。将高维的词嵌入“嵌入”到一个二维空间里，就可以进行可视化。常用的一种可视 阅读全文

摘要： 对于自然语言和音频等前后相关联的数据，需要使用循环神经网络进行处理 1. 数据表示 序列数据：对于一个序列数据 x，用符号xt来表示这个数据中的第t个元素，用yt来表示第 t个标签，用 Tx和 Ty来表示输入和输出的长度。可以是单词也可以是字符，音频的一段元素。第 i个序列数据的第t 个元素用符号x 阅读全文