Java稳态底座×Python敏态大脑

最近主导了一个AI智能体（Agent）平台的从0到1搭建项目。在这个过程中，不仅验证了技术架构的可行性，更是在基础设施配置上踩了不少坑。今天借此机会复盘一下，希望能给正在探索AI落地的同行们一点参考。

一、 架构选型：为什么是“Java + Python”？

在AI应用落地时，我们面临一个经典矛盾：业务系统追求高并发、强事务（稳态），而AI模型推理追求灵活性、生态丰富（敏态）。

 最终我们确定了双栈架构：

- 稳态底座（Java Spring Boot）：负责用户鉴权、WebSocket长连接管理、消息路由以及核心业务逻辑。Java在处理高并发请求和复杂的企业级业务流转上，依然是不可撼动的王者。

- 敏态大脑（Python FastAPI/Flask）：负责意图识别、Prompt编排以及对接大模型（如通义千问）。Python拥有丰富的AI库，能让算法迭代速度最大化。

- 中间件解耦：两者之间通过RabbitMQ进行异步通信。Java接收请求后丢进队列，Python消费处理后再回调。这种设计保证了即使AI响应慢，也不会拖垮主业务流程。

二、 基础设施踩坑记：被忽视的“最后一公里”

代码写好了，但在部署上线阶段，我们在网络和域名配置上浪费了整整一天时间，这里必须重点提醒。

 1.  数据库连接的“假通”

    部署初期，Java服务一直报Communications link failure。本地命令行能连MySQL，但程序就是连不上。排查许久才发现是MySQL 8.0默认配置问题——skip-networking未注释且bind-address限制了IP。修改配置并开放防火墙端口后，才真正打通了数据链路。

 2.  域名注册的“顺序陷阱”

    这是最容易被忽视的一环。很多开发者习惯先买服务器、配好Nginx、甚至代码都跑起来了，最后才想起来买域名。

    血泪教训：一定要先注册域名并完成实名认证！

    我们在配置DNS解析时，发现域名列表显示“无数据”，导致无法添加解析记录。原因很简单：域名还没买，或者买了没实名。在国内，未实名的域名会被Serverhold，DNS解析完全无效。正确的顺序必须是：注册域名 -> 实名认证 -> 购买服务器 -> 配置DNS解析 -> 备案（如需）。

 三、 总结与思考

这次实战让我深刻体会到，AI项目的难点往往不在于模型本身，而在于如何将模型稳定地集成到现有工程体系中。

- 架构上，不要试图用一种语言解决所有问题，让专业的工具做专业的事。

- 工程上，基础设施的规范性（如域名、网络策略）是项目按时上线的基石，切勿眼高手低。

 

下一步，我们计划引入RAG（检索增强生成）来优化回答准确率。AI落地是一场马拉松，愿我们都能稳步前行。

产品v0.1地址:

http://112.124.106.108:8080/chat/home