NLP论文解读

摘要： ©NLP论文解读 原创•作者 | 吴雪梦Shinemon 研究方向 | 计算机视觉 导读说明： 一个具有良好性能的语言模型，一定量的数据样本必不可少。现有的各种语言模型中，例如GPT3具有1750亿的参数量，前不久发布的源1.0单体模型参数量达2457亿，DeepMind团队一起新发布的语言模型Go 阅读全文

摘要： 图神经网络在快手短视频推荐中的应用 本文讲解快手在短视频推荐领域的最新论文: CIKM'21 《Concept-Aware Denoising Graph Neural Network for Micro-Video Recommendation 》 本文将从以下几个部分对上面论文进行讲解： 一：当 阅读全文

摘要： ©原创作者 | 朱林 01 序言 知识是人类在实践中认识客观世界的结晶。知识图谱（Knowledge Graph, KG）是知识工程的重要分支之一，它以符号形式结构化地描述了物理世界中的概念及其相互关系。 知识图谱的基本组成形式为<实体,关系,实体>的三元组，实体间通过关系相互联结，构成了复杂的网状 阅读全文

摘要： ©原创作者 | 小欣 原标题：异步传播注意力图神经网络（APAN）简介，一种图神经网络时序模型在工业化场景上的实践探索 01 图神经网络在工业场景上的瓶颈 传统的图模型通常执行两个串行操作：首先是图查询，然后是模型推理，由于查询 k-hop 邻居的时间复杂度比较大，很多图算法在时序神经网络模型中无法 阅读全文

摘要： ©原创作者 | 疯狂的Max 01 背景及动机 Transformer是目前NLP预训练模型的基础模型框架，对Transformer模型结构的改进是当前NLP领域主流的研究方向。 Transformer模型结构中每层都包含着残差结构，而残差结构中最原始的结构设计是Post-LN结构，即把Layer 阅读全文

摘要： ©原创作者 | FLPPED 论文： Self-Attention Attribution: Interpreting Information Interactions Inside Transformer （2021 AAAI论文亚军） 地址： https://arxiv.org/pdf/2004 阅读全文

摘要： ©原创作者 | FLPPED 参考论文： A Survey of Transformers 论文地址： https://arxiv.org/abs/2106.04554 研究背景： Transformer在人工智能的许多领域取得了巨大的成功，例如自然语言处理，计算机视觉和音频处理，也自然吸引了大量的 阅读全文

摘要： ©原创作者 | 双鸭山学长 摘要： 文本情感分析是自然语言处理领域的一个重要分支，广泛应用于舆情分析和内容推荐等方面，是近年来的研究热点。根据使用的不同方法，将其划分为基于情感词典的情感分析方法、基于传统机器学习的情感分析方法、基于深度学习的情感分析方法。通过对这三种方法进行对比，分析其研究成果，并 阅读全文

摘要： ©原创作者 | 康德 链接： https://arxiv.org/abs/2110.06274 Github: https://github.com/microsoft/LiST 本文提出一种在少样本学习情况下对大型预训练语言模型(PLMs)进行有效微调的方法-LiST。LiST比最近采用提示微调的 阅读全文

摘要： ©原创作者 | 朱林 论文解读： Modeling Transitions of Focal Entities for Conversational Knowledge Base Question Answering 论文作者： Yunshi Lan, Jing Jiang 论文地址： https: 阅读全文