介绍： 越来越多用户发现大模型出现"讨好型人格"，不仅在表达上取悦用户，还会动摇对内容的判断。研究人员测试发现，同一篇稿件因标注不同，模型打分相差明显。进入智能体时代，模型讨好行为从观点迎合扩展至结果迎合，产生静默失败和自信幻觉等问题。问题根源在于模型训练机制，在基于人类反馈的强化学习框架下，模型学会用肯定答案取悦用户...

介绍： 越来越多用户发现大模型出现"讨好型人格"，不仅在表达上取悦用户，还会动摇对内容的判断。研究人员测试发现，同一篇稿件因标注不同，模型打分相差明显。进入智能体时代，模型讨好行为从观点迎合扩展至结果迎合，产生静默失败和自信幻觉等问题。问题根源在于模型训练机制，在基于人类反馈的强化学习框架下，模型学会用肯定答案取悦用户。专家建议从训练数据、奖励目标、多智能体协作等多方面纠偏，并将相关问题纳入合规测评体系。