06 2025 档案
摘要:1. MCP介绍 MCP 是一个开放协议,它规范了应用程序向 LLM 提供上下文的方式。MCP 就像 AI 应用程序的 USB-C 端口一样。正如 USB-C 提供了一种标准化的方式将您的设备连接到各种外围设备和配件一样,MCP 也提供了一种标准化的方式将 AI 模型连接到不同的数据源和工具。 2.
阅读全文
摘要:1. What is function call function call是OpenAI提出的 让大语言模型调用外部函数/工具的能力。大模型经过微调之后,具备了根据用户Query自主判断什么时候应该调用外部工具(函数)并生成执行相关操作所需要的参数的能力。这是大模型ReAct能力的核心。 2. f
阅读全文
摘要:1. 环境配置(NVIDIA显卡为例) 1.1 机器上需要安装的各组件 1)显卡驱动Driver:显卡硬件对外的交互媒介,作用类似于CPU的kernel核。 2)cuda Toolkit:cuda Toolkit也常被叫做 cuda。作用是:封装了显卡Driver的调用逻辑,提供更高一层的对外调用接
阅读全文
摘要:1.Query在文档库中的检索 对于复杂的搜索任务,例如问答检索,使用“检索与重排序”可以显著提升搜索效果。对于给定的query,首先在检索系统中初步检索出多个和query相关性较强的chunk块,然后将这多个chunk块再经过重排序算法进行精排。最终得到较为准确的召回结果。在检索问答领域,检索方法
阅读全文

浙公网安备 33010602011771号