Spring AI Alibaba -- 初识Spring AI Alibaba与Ollama
Spring AI Alibaba入门
什么是 Spring AI Alibaba?
Spring AI Alibaba 开源项目基于 Spring AI 构建,与阿里云百炼大模型、通义系列大模型集成的AI智能体应用。是阿里云通义系列模型及服务在 Java AI 应用开发领域的最佳实践,提供高层次的 AI API 抽象与云原生基础设施集成方案,帮助开发者快速构建 AI 应用。
支持ChatBot、工作流、多智能体应用开发模式的AI框架。
SAA(Spring AI Alibaba)继承了Spring AI的所有原子能力抽象并在此基础上扩充了丰富的模型、向量存储、记忆、RAG等核心组件。
第一个SAA示例(文生文)
此处使用阿里云百炼大模型。
注意:JDK最少17或以上。
注意:SAA、Spring AI和Spring Boot的版本有对应关系,引入依赖时需要谨慎处理。
所有大模型的调用均基于OpenAI协议或者Spring AI Alibaba 官方推荐的模型服务灵积(DashScope)整合规则,实现一致的接口设计规范,确保多模型切换的便利性。
准备大模型调用三件套APIKey、模型名、BaseUrl:
-
进入阿里云百炼平台,获取密钥APIKey。这个key适用于阿里云百炼平台里面的所有模型。
-
获取模型名称和BaseUrl开发地址(查看API参考页面获取)。
- 华北2(北京):
https://dashscope.aliyuncs.com/compatible-mode/v1
- 华北2(北京):
-
使用IDEA创建父工程Maven项目,POM文件如下:
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<groupId>com.ali</groupId>
<artifactId>springAiAlibaba-workV1</artifactId>
<version>1.0-SNAPSHOT</version>
<packaging>pom</packaging>
<modules>
<module>saa01-helloworld</module>
</modules>
<properties>
<project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
<project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding>
<maven.compiler.source>17</maven.compiler.source>
<maven.compiler.target>17</maven.compiler.target>
<java.version>17</java.version>
<!-- Spring Boot 新建2025.9-->
<spring-boot.version>3.5.5</spring-boot.version>
<!-- Spring AI 新建2025.9-->
<spring-ai.version>1.0.0</spring-ai.version>
<!-- Spring AI Alibaba 新建2025.9-->
<SpringAIAlibaba.version>1.0.0.2</SpringAIAlibaba.version>
</properties>
<dependencyManagement>
<dependencies>
<!-- Spring Boot -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-dependencies</artifactId>
<version>${spring-boot.version}</version>
<type>pom</type>
<scope>import</scope>
</dependency>
<!-- Spring AI Alibaba -->
<dependency>
<groupId>com.alibaba.cloud.ai</groupId>
<artifactId>spring-ai-alibaba-bom</artifactId>
<version>${SpringAIAlibaba.version}</version>
<type>pom</type>
<scope>import</scope>
</dependency>
<!-- Spring AI -->
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-bom</artifactId>
<version>${spring-ai.version}</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>
<build>
<plugins>
<plugin>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-maven-plugin</artifactId>
<version>${spring-boot.version}</version>
</plugin>
</plugins>
</build>
<repositories>
<repository>
<id>spring-milestones</id>
<name>Spring Milestones</name>
<url>https://repo.spring.io/milestone</url>
<snapshots>
<enabled>false</enabled>
</snapshots>
</repository>
</repositories>
</project>
-
创建子模块,其pom文件如下:
<?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd"> <modelVersion>4.0.0</modelVersion> <parent> <groupId>com.ali</groupId> <artifactId>springAiAlibaba-workV1</artifactId> <version>1.0-SNAPSHOT</version> </parent> <artifactId>saa01-helloworld</artifactId> <properties> <maven.compiler.source>17</maven.compiler.source> <maven.compiler.target>17</maven.compiler.target> <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding> </properties> <dependencies> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> </dependency> <dependency> <groupId>com.alibaba.cloud.ai</groupId> <artifactId>spring-ai-alibaba-starter-dashscope</artifactId> </dependency> <dependency> <groupId>org.projectlombok</groupId> <artifactId>lombok</artifactId> <optional>true</optional> </dependency> </dependencies> </project> -
配置YML文件
server.port=8001 # 大模型对中文乱码UTF8的处理 server.servlet.encoding.charset=UTF-8 server.servlet.encoding.enabled=true server.servlet.encoding.force=true spring.application.name=saa01-helloworld #springai ????config # 这里的APIkey配置在了系统环境变量里面。 spring.ai.dashscope.api-key=${aliQwen-apikey} # ???baseUrl????????? spring.ai.dashscope.base-url=https://ws-XXXXX.cn-beijing.maas.aliyuncs.com/api/v1 spring.ai.dashscope.chat.options.model=deepseek-v3 #spring.ai.dashscope.chat.options.model=qwen-plus -
编写配置类SaaLLMConfig
@Configuration public class SaaLLMConfig { // 方式一,从配置文件读取apikey @Value("${spring.ai.dashscope.api-key}") private String apiKey; // 配置大模型对外暴露的api @Bean public DashScopeApi getDashScopeApi() { return DashScopeApi.builder().apiKey(apiKey).build(); } } -
Controller应用
@RestController public class ChatHelloController { @Resource private ChatModel chatModel; /** * 普通调用 * @param msg * @return */ @GetMapping("/hello/dochat") public String dochat(@RequestParam(name="msg",defaultValue = "你是谁") String msg) { return chatModel.call(msg); } /** * 流式返回调用,就是返回的消息一个字一个字的往外蹦,是当下最常用的。 * @param msg * @return */ @GetMapping("/hello/streamchat2") public Flux<String> stream(@RequestParam(name="msg",defaultValue = "你是谁") String msg) { return chatModel.stream(msg); } }
什么时对话模型(Chat Model)
Chat Model 接受一系列消息作为输入,与模型LLM进行交互,并接受返回的消息左前卫输出。这里的消息不止纯文本,还包括语音、图片、视频作为输入输出。
在SAA中,消息还支持不同的角色,帮助底层模型区分不同消息。
如何切换大模型
在yml文件里修改spring.ai.dashscope.chat.options.model 即可。
Ollama私有化部署
Ollama 是开源免费的本地大模型运行工具。
Ollama下载地址:Ollama · Run AI models locally and in the cloud
安装Ollama
-
手动创建Ollama安装目录
在安装包的所在路径进入cmd
输入命令符安装:OllamaSetup.exe /DIR=E:\Ollama
-
手动创建大模型存储目录
新建一个环境变量

-
复制转移大模型存储目录
创建完系统变量后,停止Ollama,然后进入C盘-用户-电脑名称-.ollama--》复制整个models到刚才新剪的目录,复制完后删除C盘的models目录。

- 重启Ollama,打开cmd 输入Ollama list 查看大模型资源包是否正常显示。
下载模型
命令:ollama ps 查看运行中的ollama大模型。
-
在ollama 网站上搜对应的模型
-
直接复制命令执行即可。

微服务对接大模型
-
新建一个module,pom文件如下:
<?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd"> <modelVersion>4.0.0</modelVersion> <parent> <groupId>com.ali</groupId> <artifactId>springAiAlibaba-workV1</artifactId> <version>1.0-SNAPSHOT</version> </parent> <artifactId>saa02-ollama</artifactId> <properties> <maven.compiler.source>17</maven.compiler.source> <maven.compiler.target>17</maven.compiler.target> <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding> </properties> <dependencies> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> </dependency> <dependency> <groupId>com.alibaba.cloud.ai</groupId> <artifactId>spring-ai-alibaba-starter-dashscope</artifactId> </dependency> <dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-starter-model-ollama</artifactId> <version>1.0.0</version> </dependency> <dependency> <groupId>org.projectlombok</groupId> <artifactId>lombok</artifactId> <optional>true</optional> </dependency> </dependencies> </project>- 配置文件内容:
spring.application.name=saa02-ollama server.port=8002 server.servlet.encoding.charset=UTF-8 server.servlet.encoding.enabled=true server.servlet.encoding.force=true spring.ai.dashscope.api-key=${aliQwen-apikey} # ??ollama?????? spring.ai.dashscope.base-url=http://localhost:11434 spring.ai.dashscope.chat.options.model=qwen3.5:0.8b -
控制类:
@RestController public class OllamaController { @Resource(name = "ollamaChatModel") private ChatModel chatModel; /** * 普通调用 * @param msg * @return */ @GetMapping("/ollama/dochat") public String dochat(@RequestParam(name="msg",defaultValue = "你是谁") String msg) { return chatModel.call(msg); } /** * 流式返回调用 * @param msg * @return */ @GetMapping("/ollama/streamchat") public Flux<String> stream(@RequestParam(name="msg",defaultValue = "你是谁") String msg) { return chatModel.stream(msg); } }
本文来自博客园,作者:NE_STOP,转载请注明原文链接:https://www.cnblogs.com/alineverstop/p/23389533
浙公网安备 33010602011771号