KevinScott0582

摘要： 上期我们讲完了针对序列中单个元素的自注意力机制计算方法，为了更方便理解多头自注意力机制，我们先将自注意力机制改写为矩阵形式。 3.1 Self-Attention的矩阵形式 在实际计算中，序列的各个元素并行输入到自注意力机制中，将所有位置的向量堆叠起来 \[\mathbf{X}= \begin{bm 阅读全文

摘要： 前面我们介绍了注意力机制的基本概念和核心思想，不难看出，注意力机制与其说是一种模块，倒不如说是一种“加权求和”的思想，通过识别各个信息元素之间的相互关系并转化为注意力分数（这个过程甚至可以用一个DNN来实现，这也是缝模块的一种思路），在解码的每一个时间步增加注意力计算得到上下文向量，让模型可以根据当 阅读全文

摘要： 一、题目描述 正整数 n 代表生成括号的对数，请设计一个函数，用于能够生成所有可能且有效的括号组合。 二、测试用例 示例一： 输入：n = 3 输出：["((()))","(()())","(())()","()(())","()()()"] 示例二： 输入：n = 1 输出：["()"] 三、回溯 阅读全文

摘要： 一般来说，时间序列分析大多基于循环神经网络(RNNs)来进行, 但RNNs也存在着训练速度慢, 门控机制复杂, 难以并行化等缺点。相比之下, 卷积神经网络(CNNs)具有更快的训练速度，更强的并行能力，可以充分利用GPU加速计算，适用于大规模数据处理。那么能否将CNNs引入时序任务中，以达到改善计算 阅读全文

摘要： Attention顾名思义，说明这项机制是模仿人脑的注意力机制建立的，我们不妨从这个角度展开理解 1.1 人脑的注意力机制 人脑的注意力机制，就是将有限的注意力资源分配到当前关注的任务，或关注的目标之上，暂时忽略其他不重要的因素，这是人类利用有限的注意力资源从大量信息中快速筛选出高价值信息的手段，是 阅读全文

摘要： 题目描述 编写解决方案，找出单词 'bull' 和 'bear' 作为 独立词 有出现的文件数量，不考虑任何它出现在两侧没有空格的情况（例如，'bullet', 'bears', 'bull.'，或者 'bear' 在句首或句尾 不会 被考虑）。 返回单词 'bull' 和 'bear' 以及它们对 阅读全文

摘要： Understanding LSTM Networks-了解LSTM网络 原文来自于大神Cristopher Colah于2015年在Github上发布的一篇博客, 窃以为此文不失为一篇入门神经网络的经典文章, 遂产生了汉化的想法, 附原文链接Understanding LSTM Networks 阅读全文

摘要： 题目描述 定义配送表 delivery, 包含以下字段 Column Name Type delivery_id int customer_id int order_date date customer_pref_delivery_date date delivery_id 是表的主键(具有唯一值的 阅读全文

摘要： 一、问题描述 排班问题(Scheduling Problem)，是运筹优化领域的一个经典问题。在日常生活中，企事业单位进行人力资源管理时经常会碰到一个问题，那就是员工的倒班问题。企业每天有额定的在岗人数，如何生成排班方案，使得在不使员工加班的前提下，雇佣更少的员工？ 只是模型罢了 我们就以阿米诺斯航 阅读全文

摘要： 题目描述 输入employee表和department表，查询部门工资最高的员工，按任意顺序返回结果表 测试用例 employee表： id name salary departmentId 1 Joe 70000 1 2 Jim 90000 1 3 Henry 80000 2 4 Sam 6000 阅读全文