2025.7.18学习日记
1. 大模型接入
大模型的接入分为AI应用平台接入,AI软件客户端接入,程序接入三种方式.其中在程序接入方式中,又拥有4中主流的接入方式,分别为SDK接入,HTTP接入,Spring AI接入,Langchain4J接入等.
- SDK接入:
1. 下载并安装SDK-官方软件开发包:
例如我选择的大模型为阿里云百炼大模型,并且确定在JAVA程序中接入大模型,此时我需要在阿里云百炼模型的平台中找到支持Java程序的SDK
【注】:该步骤请阅读阿里云百炼的光放文档...
2. 获取模型的API_KEY:
如果是本地部署的模型,那么这一步可以省略,如果是使用平台的模型,需要获取平台给予的API_KEY,确保平台能够识别调用者并给予相应的服务
3. 调用模型
如果是本地部署的模型,这一步需要自己写调用过程,如果是使用平台的模型,根据平台给与的API参考,结合Java程序的SDK,复制粘贴到你的JAVA程序中即可.例如Java程序的部分代码如下:
,在其中,JAVA程序根据Generation方法生成了参数,并构建了系统预设,定义生成配置等.在对应的调用模型的过程如下
- HTTP接入
现在考虑这样的一种情况,如果官方没有提供JAVA程序的软件安装包,应该如何去调用大模型呢,此时应该使用HTTP方式接入,
【注】:官方如果提供SDK的方式调用,优先考虑SDK调用,之后再考虑HTTP调用。根据经验来说HTTP调用引入的依赖会比较少。
1. 获取模型API_KEY:
该步骤和SDK接入的方法一致
2. 调用模型
还是考虑使用平台的模型,需要根据平台给的参考以及所使用的程序类型,将代码复制到程序之中。例如我使用的是Shell程序,那么我可以粘贴curl代码到shell程序中;再入我使用的是JAVA程序,也是同理。
【注】:curl是最方便的构造HTTP请求的工具,再shell程序中运行;如果是其他程序需要构造HTTP请求,可以参考官方文档,也可以利用AI工具将转换成JAVA,C等程序的代码 - Spring AI接入
等待中...
2. 大模型工具调用
等待中...

浙公网安备 33010602011771号