博主简介：CSDN博客专家，历代文学网（PC端可以访问：https://literature.sinhy.com/#/?__c=1000，移动端可关注公众号 “ 心海云图 ” 微信小程序搜索“历代文学”）总架构师，16年工作经验，精通Java编程，高并发设计，分布式系统架构设计，Springboot和微服务，熟悉Linux，ESXI虚拟化以及云原生Docker和K8s，热衷于探索科技的边界，并将理论知识转化为实际应用。保持对新技术的好奇心，乐于分享所学，希望通过我的实践经历和见解，启发他人的创新思维。在这里，我希望能与志同道合的朋友交流探讨，共同进步，一起在技术的世界里不断学习成长。
商务合作：请搜索或扫码关注微信公众号 “ 心海云图 ”

在这里插入图片描述

在这里插入图片描述

Java LLM开发框架全面解析：从Spring AI到Agents-Flex

在人工智能席卷全球的今天，Java开发者无需转向Python生态，也能充分利用大语言模型的强大能力，这得益于日益成熟的Java LLM开发框架。

近年来，随着大语言模型（LLM）技术的迅猛发展，AI能力已成为现代应用开发不可或缺的部分。作为企业级开发的主力语言，Java生态系统快速响应，涌现出多个高质量的LLM开发框架，使Java开发者能够在不脱离熟悉技术栈的前提下，轻松集成AI功能。

这些框架各具特色，从Spring官方推出的Spring AI到阿里贡献的Spring AI Alibaba，从LangChain的Java实现LangChain4j到轻量灵活的Agents-Flex，为不同场景下的AI集成提供了多样化选择。它们抽象了与LLM交互的复杂性，提供了提示词管理、记忆机制、函数调用、检索增强生成（RAG）等核心功能，极大地降低了AI集成的门槛。

本文将深入探讨Java生态中主流的LLM开发框架，帮助您全面了解其特点、用法及应用场景。

1 Spring AI：官方出品的AI集成框架

Spring AI是Spring官方推出的AI应用开发框架，旨在为Java开发者提供一套便捷的AI能力集成方案。作为Spring生态系统的一部分，它自然融入了Spring熟悉的编程模型和设计理念。

1.1 核心概念与特性

Spring AI的核心能力包括：

  • 模型通信：提供统一接口与多种大语言模型（如OpenAI GPT、Google Gemini）进行交互。
  • 提示词管理：结构化管理与构建发送给模型的提示词。
  • 检索增强生成（RAG）：通过VectorStore等抽象，实现外部知识库与模型的结合，提升回答的准确性。
  • 工具调用：允许模型调用Java应用中定义的方法，实现与外部环境的交互。

1.2 快速入门示例

使用Spring AI非常简单，只需在Spring Boot项目中添加相关依赖：

<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-core</artifactId>
<version>1.0.0</version>
</dependency>

然后配置模型访问参数：

spring:
ai:
openai:
api-key: YOUR_OPENAI_API_KEY

创建一个简单的AI服务接口：

@RestController
public class AIController {

private final OpenAiChatClient chatClient;
public AIController(OpenAiChatClient chatClient) {

this.chatClient = chatClient;
}
@GetMapping("/chat")
public String chat(@RequestParam String message) {

return chatClient.call(message);
}
}

1.3 应用场景

Spring AI特别适合基于Spring Boot的企业级应用，尤其是需要快速集成AI能力的传统Java项目。典型应用场景包括：

  • 智能客服系统：集成问答能力到现有企业系统
  • 内容生成：自动生成产品描述、营销文案等
  • 数据增强：通过AI增强现有数据分析和处理流程

2 LangChain4j：功能全面的AI工具箱

LangChain4j是流行Python库LangChain的Java实现，提供从模型交互到复杂智能体的全方位支持。尽管功能强大，但其概念和API相对复杂，学习曲线较陡，对新手开发者可能造成一定挑战。

2.1 核心概念与特性

LangChain4j提供了丰富的功能模块：

  • 提示词模板：支持动态生成提示词
  • 聊天记忆管理：维护对话上下文状态
  • 智能体：创建自主决策的AI智能体
  • 函数调用：让模型能够调用外部方法和工具
  • RAG支持：实现检索增强生成流程
  • 多模态支持：处理文本和图像模型

2.2 快速入门示例

首先添加LangChain4j依赖：

<dependency>
<groupId>dev.langchain4j</groupId>
<artifactId>langchain4j-open-ai</artifactId>
<version>0.25.0</version>
</dependency>

创建一个简单的聊天应用：

public class SimpleChat {

public static void main(String[] args) {

OpenAiChatModel model = OpenAiChatModel.builder()
.apiKey("YOUR_OPENAI_API_KEY")
.modelName("gpt-3.5-turbo")
.build();
String response = model.generate("请问你叫什么名字");
System.out.println(response);
}
}

使用聊天记忆功能：

class ChatWithMemory {

public static void main(String[] args) {

OpenAiChatModel model = OpenAiChatModel.builder()
.apiKey("YOUR_OPENAI_API_KEY")
.build();
ChatMemory memory = MessageWindowChatMemory.withMaxMessages(10);
// 第一次对话
String userMessage1 = "我叫张三";
String assistantReply1 = model.generate(userMessage1, memory);
System.out.println("Assistant: " + assistantReply1);
// 第二次对话，模型会记住上下文
String userMessage2 = "我叫什么名字？";
String assistantReply2 = model.generate(userMessage2, memory);
System.out.println("Assistant: " + assistantReply2);
}
}

2.3 高级功能：函数调用

LangChain4j支持函数调用，让LLM能够执行外部定义的方法：

public class FunctionCallingExample {

// 定义可调用的函数
@Tool("获取指定城市的天气信息")
public String getWeatherInfo(@P("城市名称") String cityName) {

// 这里实际应该调用天气API
return cityName + "的天气是晴转多云，气温20-2