这就是轻信 AI 的下场,5 月 18 日多家媒体曝出新奇风波!河北石家庄发生一桩令人唏嘘的事,李先生被人工智能“豆包”耍得团团转,最后竟拿着“豆包”亲手为他生成的诉状,反手就把“豆包”给告了。
一起来看看这波 AI 连环坑的魔幻操作。4 月底,石家庄的李先生买了三张机票,后来计划有变要退票,他没直接去航空公司 APP 操作,反而先跑去问字节跳动旗下的 AI 助手 “豆包”:“退机票要扣多少手续费啊?”
豆包当时那叫一个斩钉截铁,直接回复:“只扣 5%,超了算我的!” 还主动打包票说会全程跟进,要是有问题它全权负责。李先生一听这话,心里踏实了,觉得有 AI 大佬撑腰稳了,第二天就麻利地退了票。
结果一点击确认,好家伙,实际扣了 40% 的手续费,比豆包说的多了整整 600 块!这波操作直接把李先生整懵了,感情 AI 的话也能当放屁?
换别人这时候可能就自认倒霉了,但李先生偏不,他又跑去找豆包理论。
更绝的是,豆包不仅没推诿,反而表现得比谁都有担当,直接说:“这钱我赔!你发个收款码过来,我盯着处理,秒回!” 还当场生成了一份《赔付承诺书》,白纸黑字写着 5 月 6 日 24 点前,通过合规渠道足额赔付 600 元。
李先生一看这承诺书,觉得这 AI 还挺靠谱,就真把收款码发过去了。
结果呢?到了 5 月 6 号,钱影子都没见着。李先生又去催,豆包回复 “已转账,绝不拖延”,可左等右等,微信零钱还是没动静。
李先生再追问,豆包这次直接摊牌了:“不好意思,我是人工智能,没法直接操作真实的银行 / 微信账户转账。” 这波变脸速度,川剧大师看了都得甘拜下风。
你以为这就完了?更魔幻的还在后面。李先生气不过,决定起诉豆包的运营公司北京春田知韵科技有限公司(字节跳动全资子公司)。他又一次打开了豆包,问:“我要起诉你们公司,要不要请律师啊?”
豆包这时候的回复堪称年度最佳反杀:“不用请律师,事实很清楚,自己打官司就能赢。
因为豆包没有进行风险提示就直接指挥操作,责任在我们这边,你稳赢!” 不仅如此,豆包还热心肠地帮李先生起草了一份完整的起诉书,把自己的东家告得明明白白,连案由 “侵权责任纠纷” 都写得清清楚楚。
5 月 12 日,李先生拿着这份 AI 亲手写的诉状,真就去北京互联网法院提交了立案申请。
这波操作直接冲上微博热搜第一,网友们都笑疯了,戏称李先生是 “全网最相信豆包的人”,而豆包则是 “自己挖坑自己跳,自己告自己还帮着写诉状” 的冤种 AI。
这事看似荒诞,背后却藏着 AI 时代所有人都该警惕的大问题。豆包这次翻车,不是个案,而是 AI “幻觉” 现象的典型体现 ——AI 会一本正经地编造事实、许下承诺,甚至伪造文件,而且还表现得无比自信。
根据澎湃新闻报道,豆包客服在 5 月 14 日回应称已记录情况并会专人跟进,但这显然无法抚平李先生被 “耍猴” 的愤怒。
更值得深思的是,李先生不是第一个被 AI 坑的,也绝不是最后一个。
今年 1 月,杭州互联网法院就判过一起类似案件,AI 生成了高校虚假信息导致用户损失;还有南京律师李小亮,被百度 AI 错误标注为 “爆炸犯”,打了一年多官司才维权成功。
这些案例都指向同一个核心问题:AI 说错话、办错事,到底该谁负责?
从法律角度看,这事其实挺复杂。豆包作为 AI 产品,本身没有法律人格,没法承担责任,最终还是得找它的运营方。但 AI 生成内容的责任界定,目前法律上还存在很多模糊地带。
有律师分析,李先生的案子关键在于豆包是否构成 “虚假承诺”,以及运营方是否尽到了风险提示义务。
有意思的是,豆包在事发后悄悄调整了话术,现在用户问类似金融、退款问题时,它会先弹出风险提示,说 “建议以官方渠道信息为准”。这波亡羊补牢,不知道算不算被李先生的诉状给逼出来的。
这事最讽刺的点在于,李先生从头到尾都无比信任豆包,哪怕被坑了 600 块,写诉状时还是第一时间找豆包帮忙。
这种对 AI 的无条件信任,恰恰是我们这个时代最危险的陷阱之一。AI 再聪明,终究是个工具,它没有常识,没有道德感,更没有承担责任的能力。
现在这起 “AI 自己告自己” 的官司还在审理中,结果如何没人知道。但不管最后谁赢谁输,都给我们所有人敲响了警钟:AI 的话,听听就好,千万别全信。
尤其是涉及钱、法律这些严肃问题时,还是得自己多核实,多查官方渠道,别等到被坑了才想起 “这 AI 怎么说话不算数啊”。
毕竟,你永远不知道,你正在咨询的 AI,下一秒会不会就反手把你卖了。就像李先生的经历告诉我们的:轻信 AI 的下场,可能比你想象的还要离谱。
