2024年9月19日
DLA：动态层级注意力架构，实现特征图的持续动态刷新与交互 | IJCAI'24
摘要： 论文深入探讨了层级注意力与一般注意力机制之间的区别，并指出现有的层级注意力方法是在静态特征图上实现层间交互的。这些静态层级注意力方法限制了层间上下文特征提取的能力。为了恢复注意力机制的动态上下文表示能力，提出了一种动态层级注意力（DLA）架构。DLA包括双路径，其中前向路径利用一种改进的递归神经网络 阅读全文
posted @ 2024-09-19 09:42 晓飞的算法工程笔记 阅读(975) 评论(0) 推荐(0)