2020年11月10日

软注意力机制和硬注意力机制

摘要： 注意力机制中的软和硬 注意力机制是当前深度学习领域比较流行的一个概念。其模仿人的视觉注意力模式，每次只关注与当前任务最相关的源域信息，使得信息的索取更为高效。 注意力机制已在语言模型、图像标注等诸多领域取得了突破进展。 注意力机制可分为软和硬两类： 软性注意力（Soft Attention）机制是指 阅读全文

posted @ 2020-11-10 20:49 那抹阳光1994 阅读(8933) 评论(0) 推荐(0)

导航