AI趋势分析输出完全离谱?我靠三层根因排查一次性修好,而不是瞎改提示词

上周迭代 trae-novel 的 AI 趋势分析功能,撞上一个特别典型的「AI 输出垃圾」场景:点页面上的「AI 趋势分析」按钮,结果秒出,但内容完全脱离网文行业的实际,像随机拼凑的填充文本,和想要的「近 3 个月热门题材变化、头部作品特征、用户偏好趋势」差了十万八千里。我一开始也差点去改提示词,最后靠三层根因排查一次性解决,过程里的坑值得记一下。

别急着改提示词,先把链路摸清

第一反应确实是 prompt 写得不行,准备直接调模板。但转念一想:数据源本身就是错的,提示词再好也吐不出正确结论。于是先去摸「AI 趋势分析」的入口和数据链路:一开始手动翻前端代码找后端接口,翻了两小时只找到按钮绑定逻辑,后端实现入口影子都没见着。后来换成 MCP 图谱工具直接检索项目内的实现关联,几秒就定位到 bestseller 模块下的趋势分析后端实现,顺带把对应测试用例也翻出来了,排查效率直接翻了 10 倍。

根因根本不在提示词

读完实现代码和测试用例,问题根本不是提示词能兜住的,是三层叠在一起:

  1. 数据源又窄又错:喂给 AI 的源数据只有近 7 天抓取结果,样本量不够,还有重复抓取、口径不统一的问题——同一本作品的销量被不同爬虫抓了 3 次,没去重也没归一,直接喂进去,AI 就得出「头部作品销量是腰部 10 倍」这种离谱结论。
  2. 提示词空泛没约束:原来的 prompt 就一句「请分析网文趋势」,既没限时间范围、数据维度,也没要求输出必须基于给定源数据,等于让 AI 自由发挥,输出离谱是必然。
  3. 输出没做合理性校验:后端拿到 AI 返回结果,不做任何校验,哪怕内容和源数据完全无关也直接返给前端展示。

我定位数据时特意拉了一周源数据和 AI 输出结论对比,发现 AI 说的「科幻题材占比 35%」和实际源数据里的「科幻题材占比 12%」差了近 3 倍,根因就是重复数据导致的统计偏差,压根不是 AI 分析错了。

修起来没想的那么顺

确认根因动手修,还是踩了两个坑:

第一个是补丁匹配失败:一开始按常见改法直接写了个调提示词的补丁,执行时提示匹配不上——原来当前仓库代码和补丁对应的版本有差异,直接改提示词的补丁根本对不上。后来改成精确指定行号修改,才把 prompt 补全了分析维度、数据约束和输出格式要求。

第二个是只改了后端没改前端:刚改完后端以为完事,测试时发现前端还是展示原来的错误结论,用户根本不知道结果是基于什么数据算的。后来把前端的新增判断依据、数据来源说明、异常修正提示都补上,又清掉之前的结果缓存,才算彻底修好。

这次留下的三条经验

排查下来最大的感受:遇到 AI 输出问题,别上来就改提示词,先走一遍全链路,能少绕很多路。

  1. 三层排查法:先查数据源对不对(重复没、口径统一没、样本够没),再查 prompt 给的约束够不够,最后查输出做没做合理性校验,三层都没问题再考虑调提示词。
  2. 工具提效:跨文件查代码链路,优先用 MCP、IDE 的代码关联工具,比手动翻代码快得多,大项目里手动找入口特别容易漏。
  3. 全链路修复:改后端逻辑一定同步看前端展示、缓存、校验,不然后端改了前端还用旧逻辑,等于白改。

说到底,AI 输出问题的根因九成不在提示词本身,先找数据和其他环节,比瞎调 prompt 有用得多。

posted @ 2026-09-08 09:50  钱栈up  阅读(7)  评论(0)    收藏  举报