yupi智能体-AI模型接入
使用AI模型的途径
1 使用云服务场提供的接口进行调用
优点:方便,不用本地部署,直接利用云服务商现成的大模型,按需付费,维护成本第
缺点:受限于云服务商能够提供的模型,不能进行自由的切换,此外企业内部私有数据以及敏感数据大部分情况下不能上云
2 本地自部署
优点:可控性高,灵活性高,可自主选择模型以及设计对应的工作流,无网络延迟以及数据安全问题
缺点:部署成本以及维护成本高
接入模型的途径
ai应用平台直接接入:一般ai平台都会提供api key 通过下载相关依赖以及调用api key可以直接调用对应的服务,国内的比如智普glm,阿里云百炼,以及deepseek等都提供对应的接口api 平台按量收费
ai软件接入,利用公司提供的ai软件比如codex和claude code 以及course等编译器直接接入大模型,通过软件平台调用大模型进行思考以及执行任务
程序接入:通过自己编程开发实现对应的接口以及功能,进行大模型以及相应工具的调用也能实现上述功能
后端ai智能体开发:
项目初始化:加载对应的开发框架以及依赖组件,实现后端项目的初始化,一般常用的比如spring boot(注意这里jdk必须要选17以上的,因为spring ai这类与ai开发整合的spring框架只支持17版本即以上的)
然后还要添加一些依赖,比如spring web, mysql, pgVector, redis等等相关依赖也可以加入一些常用的组件库如HuTool组件库和Knife4j接口文档
程序调用大模型可以使用以下四种方式
1 sdk接入:
使用官方提供的软件开发工具包进行集成
优点:对于支持模型的对应功能完整,封装完善并且文档齐全,有类型和ide提示
缺点:绑定对应的生态模型时表现能力才会很好,并且需要引入额外的依赖包,灵活度稍差
场景:如果是需要企业级应用或者长期项目,采用这种方式成本最低
2 API/ http调用
优点:可以跨平台,轻量灵活,不需要额外的依赖
缺点:需要自己封装相关的请求发送以及接受,制定好相应的处理策略
场景:脚本工具,跨语言集成,轻量级应用
3 私有化部署
优点:数据完全本地,隐私性强,没有网络依赖,可以深度定制化
缺点:硬件成本高,运维复杂,更新迭代慢,技术门槛高
场景:金融,医疗,政务等敏感应用场景
4 智能体平台/低代码
优点:快速搭建,低代码,开发门槛低,内置工作流和工具链
缺点:灵活性受限,平台锁定风险,成本随规模上升
场景:业务验证,非技术团队,快速原型
上述四种方式如何进行选择
约束条件:数据敏感与否,预算是否有限,技术选型难度,交付周期
评估自身/团队条件:有专业的算法/后端团队: sdk/私有化,业务人员为主:智能体平台
是否考虑长期演进: 深度定制? 快速上线?
浙公网安备 33010602011771号