扫地升 - 博客园

2024年7月1日

摘要： QAnything接口主要包括7个接口：新建知识库、查看知识库、删除知识库；上传文件、获取文件列表、删除文件；问答。一.新建知识库（POST） 1.URL http://{your_host}:8777/api/local_doc_qa/new_knowledge_base 2.请求参数（Body 阅读全文

posted @ 2024-07-01 23:11 扫地升阅读(814) 评论(0) 推荐(0)

解析QAnything启动命令过程

摘要：一.启动命令过程日志启动命令bash ./run.sh -c local -i 0 -b hf -m Qwen-1_8B-Chat -t qwen-7b-chat。输入日志如下所示： root@MM-202203161213:/mnt/l/20230918_RAG方向/QAnything# bas 阅读全文

posted @ 2024-07-01 23:07 扫地升阅读(840) 评论(0) 推荐(0)

2024年2月4日

Nebula Siwi：基于图数据库的智能问答助手思路分析

摘要：本文重点分析 Nebula Siwi 智能问答思路，具体代码可参考[2]，使用的数据集为 Basketballplayer[3]。部分数据和 schema 如下所示：一.智能问答可实现的功能 1.Nebula Siwi 源码整体结构主要包括前段（Vue）和后端（Flask）代码结构，整体结构如下阅读全文

posted @ 2024-02-04 00:00 扫地升阅读(435) 评论(0) 推荐(0)

2024年1月23日

梳理Langchain-Chatchat知识库API接口

摘要：一.Langchain-Chatchat 知识库管理 1.Langchain-Chatchat 对话和知识库管理界面 Langchain-Chatchat v0.28 完整的界面截图，如下所示： 2.知识库中源文件和向量库知识库 test 中源文件和向量库的位置，如下所示： 3.知识库表结构 kn 阅读全文

posted @ 2024-01-23 22:50 扫地升阅读(6918) 评论(1) 推荐(2)

2024年1月22日

langchain中的Document类

摘要：在Langchain-Chatchat的上传文档接口（upload_docs）中有个自定义的docs字段，用到了Document类。根据发现指的是from langchain.docstore.document import Document。本文简要对Document类进行介绍。 1.上传文档接口阅读全文

posted @ 2024-01-22 00:28 扫地升阅读(1334) 评论(0) 推荐(0)

2024年1月14日

FX图中的节点代表什么操作

摘要：在 FX 图中，每个节点代表一个操作。这些操作可以是函数调用、方法调用、模块实例调用，也可以是 torch.nn.Module 实例的调用。每个节点都对应一个调用站点，如运算符、方法和模块。一.节点操作下面是一些节点可能代表的操作： 1. 函数调用例如，torch.add(x, y)会被表示为阅读全文

posted @ 2024-01-14 23:58 扫地升阅读(140) 评论(0) 推荐(0)

PyTorch中的AOTAutograd、PrimTorch和TorchInductor

摘要：一.PyTorch 中的 AOTAutograd 在 PyTorch 中，AOTAutograd 是一个先进的功能，它是 Ahead-Of-Time (AOT) Autograd 的缩写。这是一种新的自动微分方法，它在编译时而不是运行时计算梯度。这使得它可以更有效地处理大型计算图。以下是一些关于 A 阅读全文

posted @ 2024-01-14 23:57 扫地升阅读(495) 评论(0) 推荐(0)

PyTorch中的FX图

摘要：一.FX 图介绍 FX 图是 PyTorch 中的一个主要数据结构，用于在 FX 中间表示（Intermediate Representation，IR）中表示程序。FX 图由一系列节点组成，每个节点代表调用站点（比如运算符、方法和模块）。 FX 图的主要目标是提供一种方式来转换和优化 PyTorc 阅读全文

posted @ 2024-01-14 23:57 扫地升阅读(631) 评论(0) 推荐(0)

TorchDynamo 原理和示例

摘要： TorchDynamo 是一个设计用于加速未修改的 PyTorch 程序的 Python 级即时（JIT）编译器。它通过 Python Frame Evaluation Hooks（Python 框架评估钩子）来实现这一目标，以便在运行时动态地生成和优化代码。这使得 TorchDynamo 可以有效阅读全文

posted @ 2024-01-14 23:57 扫地升阅读(751) 评论(0) 推荐(0)

PyTorch中的Eager模式

摘要：在 PyTorch 中，"Eager Execution"（即即时执行模式）是指一种动态图计算模式，其中每个操作都立即被执行，而不是被先放入计算图中。这与静态图计算框架（如 TensorFlow 的早期版本）的工作方式不同。在即时执行模式中，你可以像使用 NumPy 一样进行操作，逐步构建计算图，方阅读全文

posted @ 2024-01-14 23:56 扫地升阅读(1901) 评论(0) 推荐(0)