超出截断?基于承诺许可的省略和语义保存在LLM解码中的局限性
Beyond Truncation? Entailment-Licensed Elision and the Limits of Semantic Preservation in LLM Decoding
0 arXiv cs.AI/CL/LG 2026-11-09 阅读原文 ↗
原文链接:https://arxiv.org/abs/2611.08975v1
大型语言模型(LLM)通过指令优化回答问题时会产生过多的内容,我们想知道是否可以通过在解码循环中使用训练免费的控制器来移除这些内容,同时保留内容的重要性,评估的最简单的基准是截断模型自己的回答到相同长度。
原始摘要(英文)
Instruction-tuned large language models (LLMs) answer at greater length than a request needs. We ask whether a training-free controller inside the decoding loop can remove that surplus while preserving content, judged against the simplest possible baseline: truncating the model's own answer to the same length. An entr…
正在加载讨论……