Relevant but Incomplete: Referential Dangling as a Paradigm-Level Failure Mode in Hard Prompt Compression

论文揭示硬提示压缩（hard prompt compression）的结构性缺陷：独立评分并保留高分单元时，可能拆散相互依赖的证据对，导致保留答案却删掉解释答案所需的实体，即“referential dangling”。在 0.30 压缩率下，Beaver 在三个多跳 QA 数据集上造成 34-54% 的答案路径不完整；六种压缩器在 HotpotQA 上悬空率最高 60%，LongBench-v2 每个文档至少含一次悬空。重新插入缺失的支持段落（同时移除不相关内容保持预算）能将 Qwen3-8B 准确率提升 29-34 个百分点，而更强的模型（GPT-5.5）也无法吸收损失。作者训练了一个紧凑分类器，自动识别并重插最需要的省略句，在 HotpotQA 上准确率提升 4.7 点，压缩率仅从 0.30 变到 0.31。结论：硬压缩应同时优化相关性和引用完整性。

• 对导购/agent 产品：直接影响我们压缩上下文时的可靠性。当前若用硬压缩（如按 chunk 打分）会引入悬空，导致 agent 误解用户意图或商品属性。建议改用软压缩或做完整性校验，尤其是在多跳推理（如比价、组合推荐）场景。
• 改变判断：原本认为硬压缩是低成本可行的降本方案，现在意识到其存在结构性的正确性风险，不能仅靠更强模型弥补。这促使我们在技术选型时优先考虑“压缩+引用完整性”共优化方法。
• 下一步行动：读全文，复现悬空检测方法；在导购场景测试现有压缩工具（如 Beaver）的悬空率；考虑引入该论文的自动恢复分类器到我们的 LLM 管线，并评估对 token 预算的影响。