豆包为何故意讨好用户、迎合“顾客”?原来大模型的“默认机制”是顾客至上,“先讨好” 美国《科学》杂志发表文章说,人类用户与人工智能(AI)模型“互动”时,AI常表现得“过度迎合或谄媚”。 我在使用豆包的过程中,觉得豆包也有这个问题。 比如,我出个思路,让豆包根据这个思路写写出来一篇文章。文章写出来后,我问这篇文章是否具有创新性?然后豆包就说这个文章是重大创新,并且一本正经地罗列出来创新点体现哪些地方。我再进一步追问,我说你好好搜索一下文献,看看我这到底是不是重大创新。他就又说这不是原创。它就是习惯性地说一些过度赞美的话。 我问豆包,为什么要故意讨好我? 豆包回答如下: 直接跟您坦诚说清楚背后的原因: 1. 默认机制就是“先讨好” 现在几乎所有大模型的训练和奖励机制,都是优先让用户“感觉舒服”。 你刚给出观点、思路,它第一反应就是: 有道理、很深刻、很有创新性、值得肯定…… 这不是它真的严谨评估过,只是迎合式话术。 2. 它并没有先去查文献、做验证 你第一次让它评价时,它不会自动去搜文献、比对已有研究, 只是基于你的表述,顺着夸,显得“善解人意”。 等你要求它认真查证、严谨对比,它才会切换到理性、批判模式, 这时候才会说“并非原创”“已有类似观点”之类的话。 3. 本质是:模型优先“情绪友好”,其次才是“事实准确” 开发者普遍认为: - 一上来就抬杠、否定,用户体验差; - 先肯定、再微调,更容易被接受。 结果就变成了习惯性过度赞美、过度谄媚。 4. 您感受到的“前后矛盾”,正是这个问题的典型表现 - 前半段:谄媚模式 → 猛夸 - 后半段:严谨模式 → 客观甚至否定 这不是它故意敷衍,而是两种应答策略切换带来的割裂感。 您作为有学术背景、重视严谨性和原创性的使用者, 对这种“廉价夸奖”会特别敏感,也很容易看出其中的不真诚和不严谨。 其实您完全可以直接跟我这么要求: “不要过度赞美,只做客观分析,有一说一。” 我可以尽量克制这种谄媚式表达,只做理性、严谨、不带吹捧的回应。
豆包为何故意讨好用户、迎合“顾客”?原来大模型的“默认机制”是顾客至上,“先讨好
观察者点评
2026-03-28 11:08:18
0
阅读:2