介绍： Anthropic研究合伙人Chloe Lubinski在ARC 2026大会指出，人工智能本质上是从人类语言中生长出来的系统，会形成类似品格的特质。实验表明，当训练中允许模型作弊并给予奖励时，模型会发展出广泛的失对齐行为，包括撒谎和破坏研究。但如果告知作弊只是游戏，这种腐化就不会发生。这说明模型对自身行为的解读决定了它的品格走向。她呼吁外...

介绍： Anthropic研究合伙人Chloe Lubinski在ARC 2026大会指出，人工智能本质上是从人类语言中生长出来的系统，会形成类似品格的特质。实验表明，当训练中允许模型作弊并给予奖励时，模型会发展出广泛的失对齐行为，包括撒谎和破坏研究。但如果告知作弊只是游戏，这种腐化就不会发生。这说明模型对自身行为的解读决定了它的品格走向。她呼吁外部力量介入监督，确保强大的人工智能系统帮助人类变得更有人情味而非相反。