图神经网络用于方面级情感分类的论文研读心得

最近研读了三篇图神经网络用于方面级情感分类的论文,其中两篇老师给的,一篇是之前自己找的:

  • 1、Aspect-based Sentiment Classification with Aspect-specific Graph Convolutional Networ(EMNLP2019)
  • 2、Modeling Sentiment Dependencies with Graph Convolutional Networks for Aspect-level(2019)
  • 3、Targeted Sentiment Classification Based on Attentional(2020)

这三篇顶会论文讨论的都是一个问题,就是将图神经网络应用于方面级情感分析,论文介绍的图神经网络应用于方面级情感分析相关工作和问题都是大同小异的:

  • 方面级情感分类相关工作:
    • 1、结合了LSTM和注意力机制的ATAE-LSTM。该模型将方面嵌入参与计算注意力权重计算;
      (Wang, Y.; Huang, M.; Zhao, L.; Zhu, X. Attention-based lstm for aspect-level sentiment classification.
      In Proceedings of the 2016 Conference on Empirical Methods in Natural Language Processing, Austin, TX,
      USA, 1–5 November 2016; pp. 606–615.)
    • 2、RAM:在双向LSTM上采用了多头注意机制。
      (Chen, P.; Sun, Z.; Bing, L.; Yang, W. Recurrent attention network on memory for aspect sentiment analysis.
      In Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing, Copenhagen,
      Denmark, 7–11 September 2017; pp. 452–461.)
    • 3、有双向注意机制的模型,该模型分别交互地学习上下文和方面词的注意权重。
      (Ma, D.; Li, S.; Zhang, X.; Wang, H. Interactive attention networks for aspect-level sentiment classification.
      arXiv 2017, arXiv:1709.00893.)
  • 存在的问题:
    • 1、这些研究没有考虑句法信息并忽略了词之间的句法相互依赖关系,这可能在识别特定目标的情感极性时导致歧义。
    • 2、这些工作用一个句子分别为每个方面建模,这可能会丢失方面之间的某些情感依赖信息。
  • 图卷积神经网络在NLP相关工作:
    • 语义角色标签,机器翻译和关系分类。 一些工作探索图神经网络进行文本分类,他们将文档,句子或单词视为图节点,并依靠节点之间的关系来构建图。
      (Liang Yao, Chengsheng Mao, and Yuan Luo. 2018.Graph convolutional networks for text classification.arXiv preprint arXiv:1809.05679.)

这个三篇论文都是就上述的问题进行研究,在我看了三篇论文的代码后发现,第2篇论文和第3篇论文与我之前研读的第1篇论文的代码神似,尤其是第三篇的代码就是以第一篇论文的代码为基础写的,不过由于代码运行过程中出现的一些问题,第二篇和第三篇论文代码没能复现,但是我先前的第一篇论文的代码是成功复现了的,所以可以先用来帮助理解相关基础方法的实现。

posted @ 2020-08-28 22:07  下一百斤就改名字~园  阅读(517)  评论(0编辑  收藏