AI生成的内容,为什么和用户预期不一样?
用户反馈说“任务数对不上”,我查了三天才发现问题不在AI,在规则定义。
问题现象:
会议助手上线后,有用户反馈:“智能纪要里显示有8条内容,但任务中心只有5条。剩下的3条去哪了?”
用户的直觉是:AI漏掉了。或者系统有bug。
排查过程:
第一步,检查数据存储。SQLite里数据完整,没有丢失。
第二步,检查前后端接口。数据正常传输,没有截断。
第三步,检查任务生成逻辑。终于发现问题所在。
根本原因:
我的任务生成逻辑是这样的:
def generate_tasks(meeting_content):
tasks = []
for item in meeting_content:
if item['type'] in ['分工', '待办']: # 只有这两种类型生成任务
tasks.append(item)
return tasks
“分工”和“待办”会生成任务,“决策”和“问题”不会。
但用户看到的是“智能纪要”里所有内容的总数(包含决策和问题),和“任务中心”里只有分工和待办,对不上是必然的。
解决方案:
第一步:增加透明度
在“智能纪要”模块加一条提示:
共生成 8 条纪要条目(其中 5 条已转化为任务,3 条为决策/问题记录)
用户一看就明白:不是AI漏了,是决策和问题本身就不需要生成任务。
第二步:增加筛选/查看功能
在“任务中心”加一个筛选器,让用户能按类型查看:
全部 | 待办 | 分工 | 决策(仅查看)| 问题(仅查看)
用户想确认“那3条去哪了”,点一下筛选就能看到,疑虑自然消除。
踩坑总结:
用户对AI输出的预期和产品实际逻辑之间,天然存在信息差。当用户说“不对”的时候,不一定是AI错了,很可能是产品没有把“为什么是这样”解释清楚。
AI产品经理要做的,不仅是让AI输出正确的结果,更要让用户理解这个结果是正确的。透明的规则说明和清晰的交互反馈,比提高模型准确率更能解决用户的实际困惑。

浙公网安备 33010602011771号