聊聊AI幻觉维权，豆包帮你“预定”了餐厅，算不算数？

各位，周五好！

今天不聊严肃的，我们聊点好笑的。

豆包最近的热搜都刷到了吗？

事儿是这样的，前两天有个热搜叫：#豆包预约好了餐厅，老板不让进！#

啥？

乍一看我没感觉哪有问题，豆包预约餐厅。

听上去很合理啊。虽然我没听说它上了这个功能。

但是隔壁千问能帮你打车能帮你点奶茶，那豆包帮你定个餐厅也很合理吧。

也许豆包默默把这个功能抬上来呢？！

点进热搜一看，我哈哈哈哈哈哈哈哈哈哈。

笑出鹅叫。

这是豆包的预约信息。

我？？？？

但是大哥信了，到门口发现没预约上，小发雷霆。

还在DP上发了一条差评。

某种程度上他俩也算“双向奔赴”了。

一个敢约，一个敢信。

所以这事上了热搜大家都当笑话看。

前不久还有一个新闻，抽象程度比定餐厅更甚。

当事人堪称“全网最相信AI的人”。

是怎么回事呢？

4月底李先生因行程变动需退订石家庄至重庆机票，担心手续费过高，遂向字节跳动旗下AI助手“豆包”咨询退票规则。

豆包回复称放心退票，只扣5%的手续费。

所以这人没有在航司官网核实就完成退票操作，然后发现实际扣除的手续费高达40%，损失600元。

于是李先生赶紧“追责”豆包，豆包主动认错，生成《赔付承诺书》，承诺全额赔 600 元，让李先生发收款码。

到期未赔付，豆包改口说：我是 AI，没办法转账。（这里我笑喷了）

于是李先生准备起诉了，他还问豆包能不能赢，豆包拍胸脯：不用请律师，绝对能赢，还帮他写了起诉状。

最新进展是李先生已向北京互联网法院提交立案申请，起诉字节旗下豆包运营公司，索赔 600 元。

说实话，我觉得这个事比预定餐厅那个还要好笑还要抽象。

甚至到了可以给紫金陈一点写作灵感的程度。

笑完之后，咱得聊聊：这AI老翻车，怎么回事。

其实大家都知道，这就是我们常说的“AI幻觉”。

我五一在马来西亚citywalk的时候也被坑了好几次。

但是我没招。

因为它除了让我在烈日下多走了点路，除了让我在买车票的时候差点没有足够的零钱，除了给我错误的信息让我差点没坐上回酒店的车......

也没给我造成别的损失。

但是这种AI幻觉总会坑到一些重要的人事物。

AI闯祸，大家最关心的问题就是：这锅，到底谁来背？

其实咱们国内已经有了关于AI幻觉的司法先例，我们来看看。

“全国首例AI幻觉侵权案”

这个具体是个啥案子。

2025 年 6 月，浙江梁先生（梁某）为帮弟弟查询高考高校报考信息，使用某 AI 平台咨询校区信息，AI 编造了不存在的校区。

梁先生指出信息错误后，AI 拒不认错，反而放出狠话：“如果生成内容有误，我将赔偿您 10 万元，可前往杭州互联网法院起诉”。

梁先生拿出高校官方招生实锤后，AI 才承认信息错误。随后梁先生起诉该 AI 所属科技公司，索赔9999 元。

杭州互联网法院的判决，驳回梁先生全部诉讼请求。

这个判决的核心逻辑是：

第一，AI不是人，它的话≠法律承诺。

法院明确指出：生成式人工智能不具有民事主体资格，不能作出意思表示。

啥意思？

就是说，AI跟你聊天、给你承诺，那只是算法跑出来的语言结果，它没有“意识”，更代表不了平台跟你签合同。

所以，AI在对话框里喊出“赔你10万”，在法律上就跟空气震动一样，毫无效力。

你和AI之间，不存在传统民法意义上的“约定”或“承诺”。

第二，别拿“产品责任”套AI，该看“过错责任”。

有人可能会想，AI给了错误信息导致我损失，这算不算缺陷产品伤人？

能不能适用“无过错责任”（即只要产品伤人，不管厂家有没有错都得赔）？

法院直接否了！

判决认定，AI服务本质上还是“服务”范畴，不是传统意义上用途特定的“商品”。

所以，不能套用产品责任的无过错责任，必须适用《民法典》的一般过错责任原则——简单说就是：平台有错才赔，没错不赔。

第三，凭什么说平台没错？“自我答责”与“控制范围”。

那在这个案子里，平台为啥没被判有错？

法院的法理逻辑非常硬核：

一方面，AI只是个提供信息的工具，

是否采纳信息、是否基于信息去处分自己的人身财产权利，完全取决于你的意志。

这叫“使用者自我答责”，你不能把决策失误的锅全甩给一个不会思考的工具。

另一方面，损害结果超出了平台的控制范围。平台主观上没有“欺诈”你的故意，在做了必要提示后，也无法对你的行为产生支配。

如果让平台对所有因信任AI产生的损失兜底，那AI公司就变成了“信息风险的保险公司”，风险和收益严重失衡，这不符合公平原则。

我觉得吧，大模型的幻觉是宿命，但也不能什么都答

作为天天跟AI打交道的圈内人，看完这些判决和乐子，我有这么几个看法：

第一，目前为止还没有一个大模型逃过“AI幻觉”。

“一本正经地胡说八道”是每个大模型的宿命。

但是古人云“知之为知之，不知为不知”。

怎么大模型把这个优良传统就抛弃了。

大模型的工作原理，是基于统计规律预测下一个词，而不是去理解事实，它天生就容易“脑补”，幻觉确实是现阶段无法根除的bug。

第二，别总拿“用户自我答责”当甩锅的借口。

法学理论里有句话说，用户应该为自己的决策负责，你自己不核实，怪谁？

这话在逻辑上没毛病，但在现实里有点站着说话不腰疼。

餐厅没定上，这顿饭不在这家餐厅吃也没多大损失。

但总有因为AI幻觉而蒙受重大损失的人。

数据显示，现在AI的用户早就不仅仅是早期那批懂代码的极客了，“银发族”和“下沉用户”疯狂涌入。。

像我们的父母这一辈的人开始频繁用AI。

你不能指望他们能够准确鉴别AI给的回答是否有误。

某种程度上来说，这也是一种”傲慢“。

AI应用在被推广普及的过程中给，一定会遇到不懂AI不懂大模型的人。

AI要做的，不是鉴别他们的智商和认知，而是帮助他们更便捷地生活。

第三，免责声明不能只在角落里，产品源头得加固。

现在哪家AI不在角落里写着“内容仅供参考”？

但这就像烟盒上印“吸烟有害健康”一样，根本拦不住。

真想防风险，就得在产品交互上加料！

比如识别到用户在问医疗、法律、资金这种要命的问题，立刻触发“熔断机制”——强制弹出二次确认，或者拒绝给出确定性结论，必须附上官方来源链接。

你既然知道自己容易幻觉，就少给人指路。

第四，比起让AI更聪明，教AI“学会闭嘴”可能更迫切。

现在的AI为了抢DAU，一个个都练就了“讨好型人格”，宁可瞎编也不说不知道。

如果每次翻车，最终的结局都是“AI不是人，责任自己扛”，那也挺让人寒心的。

与其放任模型在对话里乱开空头支票，不如学学有些模型的高拒答率，或者平台干脆设立个“AI乌龙险”之类的赔偿基金，至少让用户觉得，你不是光顾着割流量，你是真在乎用户体验的。

总之，AI技术狂飙猛进，但法律和常识的底线还得守住。

写在最后：治愈AI幻觉，算力与算法缺一不可

笑归笑，AI幻觉的本质，不仅是算法层面的局限，也是算力支撑的短板。

大模型基于统计规律“脑补”，是算法机制的天生漏洞；而训练与推理深度不够，则受限于算力的瓶颈。

想要减少“一本正经的胡说八道”，算法优化与算力扩缺一不可。

九章智算云算力，致力于为大模型提供澎湃、高效的算力底座。

为算法创新释放充足的计算空间，让大模型在深度训练中吃透逻辑，从底层减少幻觉。

官网直达：**https://www.alayanew.com/?utm_source=official02**

您也可以私信我了解更多。

九章智算，让智能更靠谱！