SpringAI 她来了,真的来了

写在前面

自从ChatGPT火了之后,各种产品都在不停的拥抱AI,在各自场景中接入AI,国内外各种大模型层出不穷。

好像有点扯远了,言归正传,今天我们要说的是SpringAI,大家在逛Spring 官网(https://spring.io/)
应该发现了,在官网中多了SpringAI 模块

springAI

一、SpringAI 简介

我们来看看官网是怎么介绍的

Spring AI is an application framework for AI engineering. Its goal is to apply to the AI domain Spring ecosystem design principles such as portability and modular design and promote using POJOs as the building blocks of an application to the AI domain.

Portable API support across AI providers for Chat, text-to-image, and Embedding models. Both synchronous and stream API options are supported. Dropping down to access model-specific features is also supported.

上面翻译过来就是

Spring AI是一个面向AI工程的应用框架。其目标是将可移植性和模块化设计等设计原则应用于AI领域的Spring生态系统,并将POJO作为应用程序的构建块推广到AI领域。

跨AI提供商的便携API支持聊天、文本到图像和嵌入模型。同时支持同步和流API选项。还支持各种定制的功能。

总的来说就是:Spring出了一个AI框架,帮助我们快速调用AI,从而实现各种功能场景。

在之前的文章中我们有说过Java怎么调用OpenAI,
传送门👉Java程序接入ChatGPT 👈

今天我们就来看看怎么使用Spring 自己提供的框架调用AI

二、各种模型

这里列举出了支持的各种厂商的各种模型接入,有我们熟悉的Amazon、Google 等模型,但目前还不支持国内的任何一种模型

2.1 Chat Models 聊天模型

聊天模型

2.2 Text-to-image Models 文生图模型

文生图模型

2.3 Transcription (audio to text) Models 音频文本互转模型

音频模型

2.4 Embedding Models 嵌入模型

嵌入模型

三、接入准备

我们这里以接入OpenAI 为例,看看需要做哪些准备

① 首先我们得能魔法上网

② 注册过OpenAI账号,并创建了API keys

还不知道怎么注册的可以翻一翻之前的文章,
传送门 👉 如何注册OpenAI 👈

注: 之前我们注册生成的API keys 可能过期了,有可能需要重新创建一个

创建API key

要想接下来调用成功,上面两步缺一不可

四、创建springboot项目

Spring Initializr 创建项目

注:

  • Server URL 这里一定要 填https://start.spring.io/ ,而不是 https://start.aliyun.com/ 阿里云暂时还不支持
  • jdk一定要选择17及以上版本

创建springboot项目

② 选择支持模块

如果上面一步选择正确的话,这一步我们会看到一个AI模块,这里选择OpenAI 模型和Spring Web即可,

如果这一步没看到AI模块的,请return到上一步

模块选择

五、所需依赖

按照上面添加模块之后,idea会默认给我们添加如下依赖,当然了也还用到其他依赖,这里就不都贴出来了

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
</dependency>

如果你用的是Gradle 构建工具,那就是

dependencies {
    implementation 'org.springframework.ai:spring-ai-openai-spring-boot-starter'
}

注:

添加依赖之后,如果我们项目配置的是阿里云镜像的话,需要修改成如下仓库地址,否则依赖下载不下来

<repositories>
    <repository>
        <id>spring-milestones</id>
        <name>Spring Milestones</name>
        <url>https://repo.spring.io/milestone</url>
        <snapshots>
            <enabled>false</enabled>
        </snapshots>
    </repository>
</repositories>

六、修改配置文件

application.properties 或者application.yml配置文件

spring.ai.openai.api-key=前面步骤创建的apikey
spring.ai.openai.chat.options.model=gpt-3.5-turbo
spring.ai.openai.chat.options.temperature=0.7

或者

spring:
  ai:
    openai:
      api-key: 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
      chat:
        options:
          model: gpt-3.5-turbo
          temperature: 0.7

  • api-key : 前面步骤创建的apikey
  • chat.options.model: gpt模型 ,上面我们配置的是3.5 模型
  • chat.options.temperature:Spring AI与PT模型交互时,特别是在聊天或文本生成场景下,模型生成文本时的随机性程度为0.7

七、代码编写

这里我们只是简单测试一下,所以代码都写在了controller 层里

@RestController
public class ChatController {
    private final OpenAiChatClient chatClient;

    @Autowired
    public ChatController(OpenAiChatClient chatClient) {
        this.chatClient = chatClient;
    }

    @GetMapping("/ai/generate")
    public Map  generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        return Map.of("generation", chatClient.call(message));

    }

    @GetMapping("/ai/generateStream")
    public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        Prompt prompt = new Prompt(new UserMessage(message));
        return chatClient.stream(prompt);
    }
}

代码解释:上面代码提供了generategenerateStream 两个方法接收前端传来的参数message,然后将message作为prompt (如果你还不知道prompt可以去百度一下)去调用封装好的大模型,并将大模型的结果返回去。

八、Spring AI函数调用流程

AI函数调用流程1

AI函数调用流程2

九、其他模型调用

上面例子中我们只是列举出OpenAI 模型调用方式,其他模型大家可以参考官方文档,文档写的也非常详细

假设我们想使用亚马逊的大模型,可以到https://docs.spring.io/spring-ai/reference/api/bedrock-chat.html 查看文档

其他模型调用

本期内容到这儿就结束了,希望对你有所帮助

我们下期再见 (●'◡'●)

posted @ 2024-04-15 08:18  xiezhr  阅读(435)  评论(0编辑  收藏  举报