11_Spring AI 干货笔记之对话模型概述 - 实践

一、对话模型 API

对话模型 API 使开发者能够将 AI 驱动的对话补全功能集成到其应用程序中。它利用预训练的语言模型（例如 GPT，生成式预训练变换器），生成类似人类的自然语言响应来回复用户输入。

该 API 通常通过向 AI 模型发送提示词或部分对话来工作，模型随后根据其训练数据和对自然语言模式的理解生成对话的补全或延续。生成的响应随后返回给应用程序，应用程序可以将其呈现给用户或用于进一步处理。

Spring AI 对话模型 API 设计为一个简单且可移植的接口，用于与各种 AI 模型交互，允许开发者在不同模型之间切换而只需最少的代码更改。这种设计符合 Spring 的模块化和可互换性理念。

同时，借助像用于封装输入的 Prompt 和用于处理输出的 ChatResponse 这样的伴生类，对话模型 API 统一了与 AI 模型的通信。它管理了请求准备和响应解析的复杂性，提供了一种直接且简化的 API 交互方式。

您可以在"可用实现"部分找到更多关于可用实现的信息，以及在"对话模型比较"部分找到详细的比较。

二、API 概述

本节提供了对 Spring AI 对话模型 API 接口及相关类的指南。

2.1 ChatModel

以下是 ChatModel 接口定义：

public interface ChatModel extends Model<Prompt, ChatResponse>, StreamingChatModel {
  
  default String call(String message) {
  ...}
  @Override
  ChatResponse call(Prompt prompt);
  }

带有 String 参数的 call() 方法简化了初始使用，避免了更复杂的 Prompt 和 ChatResponse 类的复杂性。在实际应用中，更常见的是使用接受 Prompt 实例并返回 ChatResponse 的 call() 方法。

2.2 StreamingChatModel

以下是 StreamingChatModel 接口定义：

public interface StreamingChatModel extends StreamingModel<Prompt, ChatResponse> {
  
  default Flux<String> stream(String message) {
    ...}
    @Override
    Flux