介绍： 2025年初，一则惊悚谣言在社交媒体迅速蔓延——“中国80后死亡率达5.2%” 。大众哗然之际，调查结果令人咋舌，竟是AI的错误解读引发这场闹剧。而这绝非个例，AI “信口开河” 的情况频频发生。ChatGPT曾错误描述文物背景，甚至伪造文献来源；还有AI编造虚假法律条例，让人哭笑不得。
 
专家指出，AI幻觉问题根植于技术原理缺陷，数据源...

介绍： 2025年初，一则惊悚谣言在社交媒体迅速蔓延——“中国80后死亡率达5.2%” 。大众哗然之际，调查结果令人咋舌，竟是AI的错误解读引发这场闹剧。而这绝非个例，AI “信口开河” 的情况频频发生。ChatGPT曾错误描述文物背景，甚至伪造文献来源；还有AI编造虚假法律条例，让人哭笑不得。
 
专家指出，AI幻觉问题根植于技术原理缺陷，数据源错误、模型训练机制偏差，以及“温度系数”设置不当等，都是幕后黑手。尽管业界绞尽脑汁，尝试各种办法减少幻觉，但无奈难以彻底根除。AI幻觉已渗透进诸多领域，肆意制造信息污染，美国就有律师因引用AI虚构判例而受到处罚。在此情形下，专家呼吁AI明确承认自身局限，只是如何平衡技术创造力与事实准确性，依旧是摆在眼前的一道棘手难题 。