笔杆abc

摘要： 重点： ①有的模型只能进行instance级别的representation，本文是任意层级 ②选取positive pair 的原则是：模型根据不同上下文对于同一个时间戳的representation应当一致。 ③随机剪裁层保证了模型不会只学到绝对位置信息而忽视了上下文信息。 疑问 ①本模型在ET 阅读全文

摘要： Transformer 论文全名：Attention Is All You Need transformer模型主要解决翻译问题，而且倾向于逐词翻译。由于翻译时需要考虑到至少两方面信息：单词的意思，单词在句子中的位置。所以embedding过程也是针对这两方面信息。 在Transformer里，编码 阅读全文

摘要：   ![](https://i 阅读全文

摘要： 词向量 为了数字化的表示词汇表里的一个词，我们很自然的就能想到独热编码的方式。然而这样做不仅会导致维度过大，而且会造成不同词的词向量之间的关系无法通过向量表示出来。所以需要用一种维度更低的向量来表示词语：词向量。词向量是一个维度远远小于词汇表大小的向量，向量里的每个元素都是浮点数。 skip-gra 阅读全文

摘要： 本篇博客是最后一次博客作业，分为两个部分：①对第四单元的总结。 ②对本学期OO课的总结。 第四单元作业的架构设计 第一次作业 · UML类图管理 ​ 类图中有什么元素，我就建什么类。这包括：MyClass， MyInterface，Operation, Parameter, Attribute。 在 阅读全文

摘要： 本博客对第三单元的三次作业进行了总结。对技术博客的5个要求，把其中的(1),(4),(5)合并分析，按照三次作业分类。最后分析了测试策略（要求(2)），容器选择的经验(要求(3))。 一、设计策略、架构维护和算法选择 规格里为了描述的简便和清晰，采用了平凡的数据结构。然而我的程序为了实现规格的要求， 阅读全文

摘要： (1)总结分析三次作业中同步块的设置和锁的选择，并分析锁与同步块中处理语句直接的关系 同步块的设置是基于架构建立的。我三次作业的架构较为一致：用三元组<电梯楼层，运动状态，门的状态>来表示电梯的当前状态。在run方法的循环中，每次算出其下一状态以及状态转移所需时间，然后sleep相应时间。如果在求算 阅读全文

摘要： 面向对象编程第一单元总结 一、程序结构 1.第一次作业 类图 各个类的设计考虑 Main 主类，负责从标准输入中读取字符串并进行预处理。在Main中构造一个表达式Expression，Expression中用<BigInteger, Term> 的map存储各个项Term。Term是一项，有系数和指 阅读全文