知识图谱第三方工具
DeepKE
DeepKE 是一个基于深度学习的开源中文知识图谱抽取框架,支持低资源、长篇章的知识抽取工具,支持命名实体识别、关系抽取和属性抽取功能。
- DeepKE为三个知识抽取功能(命名实体识别、关系抽取和属性抽取)设计了一个统一的框架
- 可以在不同场景下实现不同功能。比如,可以在标准全监督、低资源少样本和文档级设定下进行关系抽取
- 每一个应用场景由三个部分组成:Data部分包含Tokenizer、Preprocessor和Loader,Model部分包含Module、Encoder和Forwarder,Core部分包含Training、Evaluation和Prediction
OpenUE
OpenUE主要架构
1、models 模块
其存放了我们主要的三个模型,针对整句的关系识别模型,针对已知句中关系的命名实体 识别模型,还有将前两者整合起来的推理验证模型。
2、lit_models 模块
其中的代码主要继承⾃pytorch_lightning.Trainer。其可以⾃动构建单卡,多卡,GPU,TPU 等不同硬件下的模型训练。
3、data 模块
data中存放了针对不同数据集进⾏不同操作的代码。使⽤了transformers库中的tokenizer先 对数据进⾏分词处理再根据不同需要将数据变成我们需要的features。
数据形式(json)
deepdive
deepdive是由斯坦福大学InfoLab实验室开发的一个开源知识抽取系统。它通过弱监督学习,从非结构化的文本中抽取结构化的关系数据 。是目前人工智能学习领域的一个热门项目。原文见http://deepdive.stanford.edu/
DeepDive是一个从暗数据(dark data)中提取价值的系统。
与暗物质(dark matter)一样,暗数据是隐藏在文本、表格、图形和图像中的大量数据,缺乏结构,因此基本上无法通过现有软件处理。
DeepDive通过从非结构化信息(文本文档)创建结构化数据(SQL表)并将这些数据与现有的结构化数据库集成,帮助揭示暗数据。
DeepDive用于提取实体之间复杂的关系,并对涉及这些实体的事实进行推断。
DeepDive帮助用户处理各种各样的暗数据,并将结果放入数据库。
有了数据库中的数据,人们可以使用各种标准工具来使用结构化数据;例如,可视化工具(如Tableau)或分析工具(如Excel)。
参考资料
Protégé
- 本体编辑器
- 基于RDF(S),OWL等语义网规范
- 图形化界面
- 提供了在线版本——WebProtégé
- 适用于原型构建场景
Protégé 的不足:
- 基本只提供单人编辑,在线版本的并发功能支持也不完善;并发编辑时需要通过文 件共享来实现;
- 因为基于单机构建,因此对大数据量支持不够,会出现内存溢出;
- 不支持时态、复杂事件、业务规则等的建模;
- 完全依靠人工,难以实现与知识图谱构建(半)自动化过程的交互。
建模预期成果
Falcon-AO
Falcon-AO是一个自动的本体匹配系统,已经成为RDF(S)和OWL所表达的Web本体相匹配的一种实用和流行的选择。编程语言为Java。其结构如下图所示:
此处主要介绍它的匹配算法库,其余部分可查看官方文档。
匹配算法库包含V-Doc、I-sub、GMO、PBM四个算法。其中V-Doc即基于虚拟文档的语言学匹配,它是将实体及其周围的实体、名词、文本等信息作一个集合形成虚拟文档的形式。这样我们就可以用TD-IDF等算法进行操作。I-Sub是基于编辑距离的字符串匹配,这个前面我们有详细介绍。可以看出,I-Sub和V-Doc都是基于字符串或文本级别的处理。更进一步的就有了GMO,它是对RDF本体的图结构上做的匹配。PBM则基于分而治之的思想做。
计算相似度的组合策略如下图所示:
首先经由PBM进行分而治之,后进入到V-Doc和 I-Sub ,GMO接收两者的输出做进一步处理,GMO的输出连同V-Doc和I-Sub的输出经由最终的贪心算法进行选取。
转载