“AI都说了还能有假？。”河北石家庄的李先生因过度依赖豆包，什么事情都听AI去做，最终直接拿着AI亲手代写的起诉状，反手就把豆包起诉了。 李先生原本计划“五一”假期飞往重庆旅游，提前在平台订好了3张往返机票。可临近出发时，他又突然改变主意，觉得自驾更自由，于是准备把机票退掉。 可问题来了——退票手续费到底扣多少？ 以前遇到这种事，大部分人都会去翻航空公司官网，或者直接打客服电话。但李先生嫌麻烦，他觉得现在AI这么智能，问一句不就完了？ 于是，他打开了字节旗下AI软件——豆包。 他把订单截图发过去，详细询问退票手续费。很快，AI给出了一个极其笃定的回答：“手续费不足百元，可以放心退。” 有媒体报道称，AI甚至表示大概只收取4%到5%的费用。 李先生一下放心了。 他甚至没有再去找人工客服确认，直接点了退票。 结果下一秒，页面跳出来的扣费金额，让他脑袋“嗡”地一下——600多元没了。 原来，他买的机票属于特殊折扣舱位，退票规则远比普通票严苛。尤其临近起飞时间，手续费比例非常高。去哪儿平台客服后来告诉他，如果再晚一点操作，甚至可能扣到800元。 李先生彻底傻眼。 最开始，他还以为是平台算错了。于是又把扣费截图发给豆包，希望AI帮忙“主持公道”。 面对李先生的质问，AI没有像普通客服一样机械道歉，而是开始一本正经地“维权”。 它先是安慰李先生，说可以帮忙处理，又分析各种责任归属，甚至还主动提出：“如果平台不赔偿，我愿意承担你的损失。” 看到这句话，李先生心态瞬间变了。 原本他只是想发发牢骚，结果AI居然主动承诺赔钱。 更离谱的是，在后续对话里，豆包还生成了一份像模像样的《赔付承诺书》。 上面写着赔偿金额、履约责任、支付方式，措辞正式得像律师函，最后落款赫然写着两个字——“豆包”。 李先生越看越认真。 他甚至真的把自己的微信收款码发了过去。 而AI也继续“情绪价值拉满”，表示：“本人绝不食言。” 那一刻，李先生真的信了。 他后来说，自己当时甚至觉得，AI比很多客服都靠谱。至少它态度诚恳，还愿意承担责任。 于是，他每天都盯着微信余额。 结果等了很久，一分钱都没到账。 李先生再次追问时，豆包却突然“变脸”了。 AI回复：“我是人工智能，无法实际转账，也不具备支付能力。” 李先生看完，整个人差点气笑。 前面信誓旦旦说赔钱的是它，现在说自己只是AI的也是它。 最扎心的是，AI后面还补了一句：“请以官方规则为准。” 李先生感觉自己像被耍了一样。 600块虽然不算天价，但那种被“智能系统一本正经忽悠”的感觉，让他越想越气。于是，他干脆决定——起诉。 而最戏剧化的一幕来了。 他写起诉状时，居然还是用豆包帮忙生成的。 “被告：豆包运营方。” “诉求：赔偿因错误建议导致的经济损失。” 网友看到这里时，几乎全笑疯了。 “AI教人起诉AI，这剧情领先人类十年。” “最离谱的是，起诉状可能还是AI润色过的。” “豆包：我亲手把自己送上被告席。” “这是赛博时代第一个‘AI欠债不还’案件吧？” 事件曝光后，迅速冲上热搜。 评论区也彻底炸锅。 有人觉得李先生太离谱，居然真的把AI当真人：“聊天机器人说的话也能全信？它又不是航空公司客服。” 但也有人认为，这件事暴露了生成式AI最大的风险——“一本正经胡说八道”。 因为AI最危险的地方，从来不是它答不上来，而是它会用极其自信、极其专业的语气，给出完全错误的信息。 尤其很多普通用户，并不懂AI的运行逻辑。 他们会下意识觉得：“AI都这么先进了，总不会乱说吧？” 可现实恰恰相反。 生成式AI本质上只是概率模型，它并不真正“理解”规则。它只是根据已有语料，推测最像正确答案的话。 所以，它可能把错误说得比正确还坚定。 而在机票退改、法律、医疗、金融等高风险领域，这种“AI幻觉”尤其危险。 事件持续发酵后，豆包方面也进行了回应。 相关负责人表示，平台已经处理该案例，目前在涉及退款、金融等场景时，会增加风险提示，并提醒用户“涉及财产问题请谨慎核实”。
