Lost in the Middle 现象解析

Lost in the Middle 指大语言模型处理较长上下文时，对输入序列中段信息利用率显著下降的现象：开头与结尾更容易被保留并用于生成，中间的约束、事实或任务要求则更易被“淹没”。业务侧常见表现包括重要细节未被回答、摘要遗漏关键点，以及同一类请求因上下文略有增减而时好时坏。

该现象不宜简单归咎为模型随机失灵，而更宜理解为上下文长度与信息位置共同作用的结果。当材料一次性接近或触及平台 token 上限时，即便未必触发硬截断，模型对全序列的有效利用也会变得不均；中部内容的召回与遵守程度随之下降，输出便可能与上下文明确给出的条件脱节。排查时若已排除资料残缺、格式错乱和任务描述歧义，仍反复出现“中间写过却像没看见”，应优先怀疑上下文编排问题。

工程上有效的应对不是继续堆长单次提示，而是重构信息进入模型的路径。可将长文档拆成多段分别提供，并在后续调用中只保留必要摘要，避免无关中段持续占用有效上下文；也可在提示词开头加入简要概括，帮助模型先锚定核心信息与硬约束，降低对中部原文的被动依赖。同时对照平台 token 上限控制单次规模，防止临界长度下的不稳定行为。将 Lost in the Middle 当作可观测、可复现的上下文设计缺陷来定位与修复，比反复改写表面措辞更能提升输出稳定性。