2025年7月14日
让大语言模型在不知道答案时拒绝回答：KnowOrNot框架防止AI幻觉
摘要： 在政府AI服务部署中，一个关键的技术挑战是如何确保系统在面对超出其知识范围的查询时能够恰当地承认信息不足，而非产生误导性的回答。考虑这样一个场景：公民通过政府AI聊天机器人查询MediShield每个保单年度的最高索赔限额，系统回答为" 150,000"。但是自2025年4月起，该限额已调整至200 阅读全文
posted @ 2025-07-14 17:36 deephub 阅读(13) 评论(0) 推荐(0)