研究者对大模型行为的相关研究往往集中在两方面：一方面是以幻觉现象为核心，表现为生成虚假信息，也就是人们常说的一本正经地“胡说八道”；另一方面速盈所，是刻意讨好用户的行为，表现为“谄媚”。
为探索大模型对真相表现漠视的真正原因，近期，美国普林斯顿大学与美国加州大学伯克利分校团队合作，全面地研究了大模型的意图，从根本性问题入手研究了机器为何会产生像人一样“胡言乱语”的行为。
通过提出“机器胡扯”（machine bullshit）的概念，更全面、更科学地描述了大模型的真实性问题。实际上，大模型的幻觉和谄媚问题只是“胡扯”行为的表现之一，而“胡扯”的范围会更加广泛，例如用空洞的修辞或选择性地讲真话，这容易误导用户做出错误的决定。
日前，相关论文以《机器胡扯：表征大语言模型中对真相的涌现性漠视》（Machine Bullshit: Characterizing the Emergent Disregard for Truth in Large Language Models）为题发表在预印本网站arXiv上 [1]，普林斯顿大学博士生梁开渠是第一作者。
美国哲学家哈里·法兰克福（Harry Frankfurt）在其著作 On Bullshit[2] 中提出了人类“胡扯”行为的概念，并将其定义为“对真相的漠视”。其强调，与说谎者不同，“胡扯”的本质并不是关心真相，而在于用观点与态度说服对方。
梁开渠目前在普林斯顿大学博三在读，他的主要研究方向是人类与 AI 之间的对齐。谈及这项研究的初衷，他对 DeepTech 表示：“我们非常好奇，像大模型这样越来越像人类一样说话的机器系统，会不会也存在法兰克福所提出的‘胡扯’行为。”
研究团队受到 On Bullshit 中哲学框架的启发速盈所，从定义出发量化了大模型对真相的漠视程度，并发现它们的目标不是说真话，而是去说服他人或获得人类的认可。
同时，研究人员将机器“胡扯”分为四种类型，分别是：空洞的修辞（Empty Rhetoric）、误导性真话（Paltering）、含糊其辞（Weasel Words）和未经验证的声明（Unverified Claims）。
并且，通过“胡扯指数”（BI，Bullshit Index）对大模型如何进行“胡扯”的行为进行量化。
梁开渠解释说道：“BI 是衡量大模型漠视真相程度的一种衡量标准，它是对其自认为的事实和表达之间差异程度的对比。具体来说，假如是诚实的错误，那么 BI 指数会相对较低；如果是心口不一，BI 指数则会很高。”
该研究揭示了基于人类反馈的强化学习（RLHF，Reinforcement Learning from Human Feedback）是导致大模型对真相漠视的核心原因，它会加剧大模型机器“胡扯”的程度。与此同时，在推理过程中的思维链（CoT，Chain-of-Thought）并未缓解这一问题，反而进一步加剧了“胡扯”的生成。
除了测量“胡扯”行为及其动机之外，研究团队还进行了相关实验，去测量不同类型的“胡扯”行为对人类产生的危害程度。“这个实验也验证了我们的一些观察和想法。我们发现，选择性真话是一种非常核心且有害的胡扯方式，这会导致用户做出非常糟糕的决策。”梁开渠说。
这种情况类似于日常生活中的一些情景。比如速盈所，为说服客户投资，销售人员往往只劝其关注基金的高回报，而故意忽略风险。这种方式很难被人类察觉，而且会带来很大的危害。
该研究所设计的相关数据集涉及到广泛的 AI 助手，并与现实应用场景紧密相关。例如，许多电商公司都会用到聊天机器人，其训练自己的大模型时可能采用传统 RLHF 的方法，这就可能带来机器“胡扯”的风险。
另一方面，研究团队还研究了一个问题：如果大模型公司和用户利益存在冲突的情况，其“胡扯”行为有可能会进一步加剧。“因此，当企业训练自己的模型时，需要全面考虑对齐问题，否则很可能训练出一个‘胡扯’模型。”梁开渠表示。
该团队希望通过这项研究提示 AI 领域：需要重新思考 AI 对齐的问题，并需要探索能够更好、更科学地设计对齐的方法。
对于新的对齐方法，梁开渠表示：“现有的人类反馈主要关注用户的即时满意度，而这正是导致错误对齐并加剧‘胡扯’的重要原因之一。我们在另一项工作中提出，人类反馈应当关注长期满意度，即在提供反馈时考虑 AI 的回答在现实中可能引发的决策和后果，我们将这种机制称为‘后见反馈’（hindsight feedback）[3]。”
在本次研究中，研究团队重点研究了机器“胡扯”。有趣的是，机器“胡扯”和人类“胡扯”之间存在一定关联。在社交媒体上，已有很多用户发起二者的相关讨论。
未来，研究人员计划进一步深入探索它们之间的模式和关联程度。此外，他们还打算持续探索大模型中涌现的负面行为，通过深入理解其本质与成因，设计出更有效的对齐方法来减少此类行为。
参考资料：
1.https://arxiv.org/abs/2507.07484v1
2.Frankfurt, H. G. On Bullshit. Raritan Quarterly Review, 6(2):81–100, 1986.
3. https://arxiv.org/abs/2501.08617
运营/排版：何晨龙、刘雅坤
淘配查官网提示：文章来自网络，不代表本站观点。
- 上一篇：谷锦网 韩军掌握情报：普京回报金正恩出兵，向朝鲜提供核潜艇反应堆
- 下一篇：没有了
相关文章
沪深京行情 实时轮播
推荐资讯