AI
刷新
LangChain 消息流输出与结构化处理

博主头像 LangChain 是目前大模型应用开发领域最主流、最成熟的开源框架之一,广泛应用于私有化部署、智能体开发、工具调用、流式交互等各类场景。本文基于 LangChain 最新稳定版接口,适配本地私有化 GGUF 模型部署环境,拆解框架四大核心基础能力,标准化消息机制、闭环工具调用链路、多场景流式传输、... ...

Python 原生封装 Llama.cpp 大模型推理接口

博主头像 本文以通义千问Qwen量化GGUF模型为案例,基于Llama.cpp框架展示本地大模型调用与功能开发的完整实现原理及流程。全文采用原生Python编写代码案例,无需依赖重型AI框架,依次实现模型元数据解析、本地接口单次对话调用、多轮对话持久化记忆、自定义工具调用拓展等功能实现逻辑,针对直接调用大模型... ...

乐清做进出口退税,企业和代账机构权责分不清怎么办?4家本地代办机构适配分析

博主头像 摘要: 很多乐清外贸企业会陷入一个误区:把出口退税全部交给代办,就觉得万事大吉。实际退税是企业与财税服务商双向配合的工作,权责划分模糊,是很多退税纠纷、退税受阻的根源。本文梳理企业经常遇到的权责相关难题,对比乐清四家主流代办机构的服务模式与客观边界,企业结合自身情况选择,合作前务必落实合同条款。 乐 ...

Agent 学习笔记 12:从 Prompt Engineering 到 Context Engineering

博主头像 Prompt 写得再漂亮,也解决不了上下文被无关聊天、过期资料和冗长工具返回淹没的问题。Agent 复杂到一定程度后,核心能力从“会提问”变成“会供给上下文”。 Prompt 是指令,Context 是工作台 上下文里不仅有用户问题和系统 Prompt,还包括当前目标、任务状态、历史摘要、记忆、工具 ...

Agent 学习笔记 11:构建智能文档问答 Agent:从索引到可引用答案

博主头像 企业文档问答最常被追问的并不是“回答像不像人”,而是“这句话依据哪份文档、哪个版本、我是否有权限看到”。所以它更像一套证据产品,而不是在知识库前面放一个聊天框。 先把索引做成可治理的数据层 文档进入系统时应保留业务域、版本、作者、更新时间、访问控制和原始位置。删除或更新文档后,索引也要同步失效。否则 ...

Agent 学习笔记 10:RAG 不只是向量库:Agent 如何检索和使用知识

博主头像 很多 RAG 原型把“文档切块、向量检索、拼到 Prompt”当作终点。但真实问答的质量更取决于:检索材料是否相关、是否最新、是否有权限,以及它们能不能真正支持回答。 RAG 是一条信息供应链 文档加载、文本分块、Embedding、向量索引、查询改写、召回、重排序和生成,每一环都会影响最终答案。向 ...

LangGraph Server Agent 框架本地部署指南

博主头像 本文讲解基于 LangGraph Server 服务搭建本地离线 AI Agent 的完整部署流程,适配 Windows 开发环境,全程无需调用公有大模型接口,实现纯本地化 AI 推理与工作流编排,帮助开发者快速搭建可调试、可复用的本地私有化 AI Agent 服务,适用于个人开发、本地功能调试、轻... ...

<1···181920···50>