每日Paper - 2026-03-06

# 每日Paper - 2026-03-06 ## 今日精选论文 ### 1. Knowledge Graph and Hypergraph Transformers with Repository-Attention and Journey-Based Role Transport - **作者**: Mahesh Godavarti - **链接**: [arXiv:2603.03304](https://arxiv.org/abs/2603.03304) - **领域**: Machine Learning (cs.LG); Artificial Intelligence (cs.AI) #### 核心思想 提出了一种简洁的架构，用于联合训练句子和结构化数据，同时保持知识和语言表示的可分离性。模型将知识图谱和超图视为具有角色槽的结构化实例，并将它们编码为语言转换器可以关注的键值存储库。 #### 创新点 1. **Repository-Attention**：语言模型可以直接关注知识图谱/超图的结构化信息 2. **Journey-Based Role Transport**：统一了边标记KG遍历、超边遍历和句子结构 3. **双数据流架构**：分层混合注意力机制，支持实例局部、邻域和全局信息混合 4. **多任务目标**：涵盖掩码语言建模、链接预测和角色一致性去噪 #### 实验结果 论文提出的架构实现了语言上下文和结构化知识之间明确、可检查的分离，同时通过交叉注意力实现了紧密对齐。 --- *更多精彩论文将持续更新，记得关注每日Paper推送~*