Surging AI Agent:.NET 生态原生智能微服务引擎,让大模型与业务微服务融为一体
一、概述
传统.NET 项目中,AI 大模型往往作为外部服务调用,业务微服务与大模型割裂,面临接口调试复杂、数据外传、部署链路冗长、多语言运维成本高等一系列难题。Surging AI Agent基于 Surging 分布式微服务引擎原生打造,把本地私有化大模型、向量 RAG 检索、微服务业务能力、智能 Agent 编排统一在一套.NET 技术栈,实现 AI 能力和业务微服务一体化开发、运行、部署、运维。

🚀终端自然语言驱动,engine‑cli 开启智能开发时代
Surging 通过
engine‑cli命令行工具,将 AI 智能体深度嵌入研发工作流。开发者不用记忆复杂指令,直接使用自然语言和终端对话。- 提问框架原理,Agent 直接给出 Surging 架构讲解;
- 输入自然语言业务需求,智能体自动解析意图,自动生成完整微服务模块代码;
- 自动完成项目编译、模块输出、服务注册,一键产出可运行的业务 dll 模块,开箱即可启动微服务实例、自动生成 Swagger 接口文档。
从截图演示可见,只需要简单描述:生成订单中心微服务模块,生成商品、用户、订单明细全部业务模块,Agent 自动拆解子任务,输出完整模块组件,编译生成业务程序集,直接交付可运行微服务。同时支持查询服务列表、查看接口路由,实时掌握集群微服务状态。

🧠 私有化本地大模型一键部署,数据不出内网
依托 LLamaSharp 原生 C# 推理能力,engine‑cli 内置模型管理能力,一行命令即可拉取、管理 GGUF 格式开源大模型,完全离线私有化运行,业务敏感数据无需对外传输。
engine‑cli install model ‑s ‑t llama ‑‑limit 10
支持 Meta‑Llama‑3.1‑8B 等主流开源大模型,支持多种量化版本,普通开发机器即可运行;支持 CPU 纯内存运行,也可 GPU 加速推理,灵活适配开发、生产环境硬件条件。

📚 内置向量模型,开箱即用 RAG 知识库体系
除大语言模型外,CLI 工具同样支持一键下载 BGE‑small 向量 Embedding 模型,快速搭建 RAG 向量知识库,支持文档解析、向量化入库、相似度检索,用于框架文档问答、业务知识库智能检索场景。
engine‑cli install model ‑t bge‑small ‑e ‑‑limit 10
不需要引入 Python 环境,全部在.NET 栈完成向量计算与检索;支持精细化文档分层,提升检索准确度,为 Agent 提供可靠的领域知识库支撑,缓解大模型幻觉问题。

⚡AI Agent 无缝调用业务微服务能力
Surging AI Agent 最大的优势:Agent 智能体可以直接调用现有微服务接口能力。
Agent 不需要额外写大量适配胶水代码,直接复用 Surging 引擎的 HTTP、WebSocket、GRPC 通信协议,访问已注册微服务路由接口。
- 查询用户微服务列表,读取业务接口元数据;
- 调用订单、日志等业务服务完成数据查询;
- Agent 结合大模型推理 + 业务接口返回真实业务数据,完成智能问答、业务分析。
微服务启动后自动输出 Swagger 文档,Agent 能够感知全部对外接口,把 AI 智能能力注入业务系统,打通 “大模型思考” 到 “业务系统执行” 的完整闭环。
✨核心亮点总结
- 全栈.NET 原生:大模型推理、向量检索、Agent 编排、微服务业务全部 C# 实现,告别多语言混合项目。
- 私有化离线部署:本地运行 LLM+BGE 向量模型,业务数据不对外流出,满足企业内网安全要求。
- 自然语言驱动开发:engine‑cli Agent,对话式生成微服务模块,自动编译输出业务组件,大幅提升开发效率。
- Agent 直接调用微服务:复用现有 RPC、HTTP、GRPC 能力,业务接口直接作为 Agent 工具,无需复杂适配。
- 统一运维管控:AI 推理服务与业务微服务由 Surging 服务管理器统一管控,统一端口、注册发现、日志监控。
- 面向未来扩展:架构原生支持多模态模型扩展,后续可接入 LLaVA 等多模态模型,实现图片文档识别生成代码等高级能力。
结尾
现在测试研发多模态模型,整个Agent 是组件化开发,后续会接入到我研发的云驿平台。我还购买了com 域名, 我是要准备干票大的,让你们看看surging的真正威力。

浙公网安备 33010602011771号