AI生成的内容,为什么和用户预期不一样?

用户反馈说“任务数对不上”,我查了三天才发现问题不在AI,在规则定义。

问题现象:

会议助手上线后,有用户反馈:“智能纪要里显示有8条内容,但任务中心只有5条。剩下的3条去哪了?”

用户的直觉是:AI漏掉了。或者系统有bug。

排查过程:

第一步,检查数据存储。SQLite里数据完整,没有丢失。

第二步,检查前后端接口。数据正常传输,没有截断。

第三步,检查任务生成逻辑。终于发现问题所在。

根本原因:

我的任务生成逻辑是这样的:

python
def generate_tasks(meeting_content):
    tasks = []
    for item in meeting_content:
        if item['type'] in ['分工', '待办']:  # 只有这两种类型生成任务
            tasks.append(item)
    return tasks

“分工”和“待办”会生成任务,“决策”和“问题”不会。

但用户看到的是“智能纪要”里所有内容的总数(包含决策和问题),和“任务中心”里只有分工和待办,对不上是必然的。

解决方案:

第一步:增加透明度

在“智能纪要”模块加一条提示:

text
共生成 8 条纪要条目(其中 5 条已转化为任务,3 条为决策/问题记录)

用户一看就明白:不是AI漏了,是决策和问题本身就不需要生成任务。

第二步:增加筛选/查看功能

在“任务中心”加一个筛选器,让用户能按类型查看:

text
全部 | 待办 | 分工 | 决策(仅查看)| 问题(仅查看)

用户想确认“那3条去哪了”,点一下筛选就能看到,疑虑自然消除。

踩坑总结:

用户对AI输出的预期和产品实际逻辑之间,天然存在信息差。当用户说“不对”的时候,不一定是AI错了,很可能是产品没有把“为什么是这样”解释清楚。

AI产品经理要做的,不仅是让AI输出正确的结果,更要让用户理解这个结果是正确的。透明的规则说明和清晰的交互反馈,比提高模型准确率更能解决用户的实际困惑。

posted @ 2026-06-26 15:46  竹雨禅月  阅读(20)  评论(0)    收藏  举报