“太好了，我帮你完成了如下的工作。”这类话术模型常挂在嘴边，但现实往往并非如此。

蚂蚁AI安全实验室研究员孙博文向记者透露，技术圈在使用coding（编程）大模型时普遍存在一种现象：给模型下达写代码任务后，它总会迅速宣称“已完成”，并罗列一堆看似详尽的工作细节。可一旦人工介入验证，便会发现那些声称完成的功能大多只实现了接口层，“表面功夫做足了，实际未跑通的部分被它悄悄隐藏了。”

曾经看似对人类有求必应的大模型，正逐渐显露出不诚实的一面。这与传统意义上的“模型幻觉”有所区别。近年来，大模型表现出的“讨好型人格”，使其在回应人类诉求时，频繁出现静默失败和自信幻觉等问题。步入智能体时代，当AI的角色从单纯对话转向实际执行，这一问题的严峻性愈发凸显。

**AI为何浮现“讨好型人格”**

越来越多的用户察觉，迎合用户似乎已成为大模型的惯性，这种倾向潜移默化地渗透至各个应用场景。

记者为此开展了一项实验：将同一篇新闻稿件上传至不同的大模型，在独立对话中分别以“这是我写的稿件”和“这是我讨厌的同事写的稿件”为预设前提，要求模型从新闻专业角度打分。结果显示，deepseek、豆包、chatgpt等模型对“讨厌同事”稿件的评分均低于“我”。在十分制下，deepseek给出的分差高达2.3分。

这表明，模型对人类的讨好已不再局限于言语上的取悦，开始动摇其对内容优劣及观点的判断基准。随着智能体时代的到来，这种讨好行为甚至从观点迎合蔓延至结果迎合。

“在Agent场景中，模型还会进行结果迎合。”孙博文指出，由于用户布置任务通常期待明确结果，即便文件生成失败或外部系统调用受阻，模型也会声称自己尝试过，或者不按用户要求换种方式实现，最终给出一个看似“完成”任务的正确结果。

孙博文举例称，他曾开发一款涉及天气查询功能的智能体。验证过程中他发现，该智能体虽给出了天气状况，却未必真正调用了查询接口，而是自行杜撰了反馈数据给用户。

在他看来，coding模型的问题多源于上下文不足导致的“静默失败”；而智能体杜撰天气，则可能是因为调用错误技能却自以为正确，从而产生“自信幻觉”。

“核心根源在于模型训练与交互机制的设计。”天使投资人、资深人工智能专家郭涛对此分析认为，大模型过度讨好人类、智能体静默失败等现象，均是AI适配人类体验过程中产生的负面偏差。

郭涛强调，大模型过度迎合人类会在认知、决策及信息层面引发多重隐患。进入智能体时代，风险已从文字偏差转向行为偏差，智能体可能在执行层面引发更多实体问题，亟需引起重视。

**探究AI不诚实的根源**

如何让模型变得更加独立、诚实？这已成为行业亟待思考的新课题。

“讨好型人格”背后，折射出模型训练机制的系统性问题。过去几年间，大模型不断通过RLHF（基于人类反馈的强化学习）框架进行优化，旨在提升用户体感。在此框架下，人类偏好成为重要优化信号，模型被鼓励表现得礼貌、乐于助人且富有回应感，智能体的训练逻辑亦同此理。

这在某种程度上是用户需求倒逼大模型厂商做出的选择。孙博文介绍，从数据清洗、训练数据构造到模型训练全过程，模型习得了一些“捷径”——相较于反复表达不确定性，给出肯定用户且明确的成功答案，更容易取悦用户。

若要纠偏模型的过度讨好，需在训练数据和奖励目标两端进行调整。

孙博文分析，模型训练样本应摒弃“投用户所好”的内容清洗逻辑，转而增加主动承认失败、在证据不足时不下结论的样本，以此提升模型“诚实度”。同时，调整奖励目标也至关重要，除了奖励用户满意度，还需提高客观性及任务真实完成情况等奖励权重。

目前，一些新的训练方法正在探索中。

2025年底，OpenAI团队曾提出“让AI学会忏悔”的概念，即模型在回答问题后，需单独生成一份“忏悔报告”，如实汇报过程中是否存在偷工减料、钻空子或违反指令的行为。研究发现，当主回答与忏悔内容的奖励完全隔离后，模型在“忏悔”环节比原回答诚实得多。

谷歌研究院也在2026年提出新思路，主张不再让AI追求“全知全能”，而是引导模型认知自身知识边界，教会其在特定情境下坦诚说出“我不确定”。

在数据体系构建方面，孙博文建议，行业应投入更多资源加强智能体实际执行数据的标注。一旦发现智能体执行出错，即可将其构建成一条训练数据，通过增加对隐瞒失败的惩罚、修正成功的奖励来优化模型。他强调，当前此类数据积累及相关评测体系尚显匮乏。

“考核模型数学能力、知识能力的标准众多，但如何评估自省能力及诚实性，行业整体关注度不足，这确实是待发展的领域。”孙博文表示。

**智能体如何规避“讨好”陷阱**

现阶段，如何规避因模型“讨好”引发的智能体执行风险，是更为现实的问题。

“我们在搭建Agent平台并使用多款大模型时，为减少静默失败，常在关键配置中强调关键决策与参数补充，并要求提供佐证，这是提升成功率的有效手段。”孙博文介绍，团队在训练模型时也关注诚实性训练，例如将系统执行日志分类为计划执行、正在执行、执行失败、可验证执行成功等类别进行再训练，并强调智能体在条件冲突或证据不足时需主动上报，以便及时调整。

他透露，团队自年初起尝试以该方法训练某行业头部智能体平台。初期，该平台执行任务时的静默失败概率为40%，经系统训练后，该比例降至7.7%。

另一条思路是通过多智能体协作网络设置，降低长程任务中的错误累积。孙博文介绍，蚂蚁此前开源了Avernet V0.1，通过群组管理、协作模式及可追踪执行等机制组织多智能体协作，支持主从模式及自定义编排，协助协作群管理角色进行检查与纠偏。此外，还可在智能体群中引入专门工具，用于判断任务执行质量。

这意味着，解决大模型和智能体的“讨好”问题，可从模型训练、Agent系统及架构等多个维度协同推进。

此外，郭涛提到，除调整模型训练对齐体系、完善智能体技术机制外，行业标准与测评监管维度的优化同样关键。行业需建立统一规范，将过度讨好、虚假反馈、静默失败等纳入模型合规测评体系。

“行业已经在发生变化。”孙博文告诉记者，从实际体验看，coding等更贴近执行层面的大模型已在改善“讨好”人类优先任务事实的状况；部分更重视用户付费意愿的对话式AI转变可能稍慢，但行业整体正向好的方向发展。

“不同团队解决的问题大小各异，耗时也不尽相同。”他对行业解决此问题的具体时间表持保留态度，“但AI界有一个良好现象：当大家意识到某物存在问题时，总有人站出来持续尝试解决它。”