A Generalization of Transformer Networks to Graphs
摘要:基于稀疏性和位置编码这两个重要概念设计Graph Transformer架构 图的稀疏性 在NLP中,Transformer在词语特征表示时作为全注意力,也就是说,Transformer把一个句子中的词语当作全连接图看待。在NLP中这么设计有两个理由: 很难找到一个句子中单词之间有意义的稀疏联系。因
阅读全文
Computational Protein Design with Deep Learning Neural Networks
摘要:本文使用深度神经网络完成计算蛋白质设计去预测20种氨基酸概率。 Introduction 针对特定结构和功能的蛋白质进行工程和设计,不仅加深了对蛋白质序列结构关系的理解,而且在化学、生物学和医学等领域都有广泛的应用。在过去的三十年里,蛋白质设计取得了显著的成功,其中一些设计是由计算方法指导的。最近一
阅读全文