生成式AI为何会一本正经地编造事实?

生成式 AI 在提供流畅文本时常表现出“自信症”，即便对事实缺乏确认也会以确定的语气输出。其根本原因在于模型的预测机制：基于大规模语料的统计关联，GPT 类模型通过最大化下一个 token 的概率来生成内容，而不是检索或验证真实世界的知识库。训练数据本身包含噪声、过时信息以及未经核实的陈述，模型在学习过程中无法区分真伪，只会捕捉出现频率较高的语言模式。

此外，模型的目标函数旨在优化语言流畅度和上下文一致性，而非事实准确性。为了提升生成质量，训练时往往使用“teacher‑forcing”方式强制模型在每一步都产生最可能的词汇，这导致在缺乏明确上下文时模型倾向于“填补空白”，即凭借已有的语言惯例自行构造细节。正如源材料所述，AI 会“装得很有把握”，即使内部并未确认信息的真实性。

另一个关键因素是缺乏外部 grounding。除非显式接入检索系统或知识图谱，模型只能依赖内部参数进行推断。没有实时查询或事实校验的环节，生成的陈述只能是对训练分布的近似复现，因而容易出现“编造”现象。即便在特定领域的微调中加入了专业数据，仍可能因分布漂移或稀缺样本导致误差累积。

面对这种“幻觉”倾向，专家建议将生成式 AI 视作“草稿生成器 + 校对工具”的组合。先让模型提供初稿，再由人工或可信的检索系统对关键数据、法律条款等进行二次核验。明确指令、要求分段输出或列点，有助于后续核对；同时避免向公开模型输入敏感信息，以降低隐私泄露风险。通过这种人机协同的流程，能够在保持效率的前提下显著降低事实错误的概率。