摘要:
反直觉结论:当你用 Executors.newFixedThreadPool(10) 去调用一个 JNI 封装的 ONNX Runtime 模型时,线程池越大,Rerank 服务死得越快。 这不是危言耸听,而是我在 order-service 的推荐排序链路里,用 650ms 的 P99 延迟和 1 阅读全文
posted @ 2026-08-28 14:04
爱上网的小徐
阅读(3)
评论(0)
推荐(0)
摘要:
别背“RAG = 向量检索 + LLM”这个公式了——你线上 80% 的“答非所问”,根本不是模型不够聪明,而是你的检索链路在“召回”阶段就把正确答案排到了第 50 名开外,重排序模型连见它一面的机会都没有。 我是 order-service 的 owner。上周三凌晨,客服机器人把“订单超时未支付 阅读全文
posted @ 2026-08-27 10:00
爱上网的小徐
阅读(2)
评论(0)
推荐(0)
摘要:
别背公式:你的 Function Calling 不生效,不是模型傻,而是你的 JSON Schema 根本就是错的 一次线上事故:order-service 接入大模型做"查单改单"的 Agent,模型在 80% 的请求里拒绝调用 cancelOrder 函数,反而一本正经地告诉用户"请联系人工客 阅读全文
posted @ 2026-08-26 10:00
爱上网的小徐
阅读(4)
评论(0)
推荐(0)
摘要:
用 Java 接入大模型 API:工程实践与坑(附完整代码) 先说一个反直觉的结论:"接入大模型 API"最难的不是"调通接口",而是"生产可用"。 你花 5 分钟能发出第一个请求,但真正上线时,流式响应、结构化输出、超时重试、限流、Token 成本、并发、安全——每一个都会咬你一口。这篇文章不教" 阅读全文
posted @ 2026-08-25 16:09
爱上网的小徐
阅读(6)
评论(0)
推荐(0)
摘要:
AI 辅助 Java 开发的实战经验:大模型到底能帮你到什么程度? 先说一个反直觉的结论:用 AI 写代码,"让它一次性写完整个类"往往是最低效的用法;真正让你提效的,是把它当成一个"能理解你代码库的结对程序员",拆碎任务、给它上下文、让它补你不爱做的部分。 这篇文章是我把大模型用在 Java 工程 阅读全文
posted @ 2026-08-25 16:02
爱上网的小徐
阅读(9)
评论(0)
推荐(0)
摘要:
Spring Boot 自动配置原理与自定义 Starter 很多同学天天用 Spring Boot,却说不清"为什么我不写一行配置,项目就能跑起来"。 本文带你从源码层面拆解自动配置,并教你如何写一个属于自己的 Starter。 为什么要理解自动配置 Spring Boot 最大的卖点是约定优于配 阅读全文
posted @ 2026-08-25 14:35
爱上网的小徐
阅读(6)
评论(0)
推荐(0)
浙公网安备 33010602011771号