论文arxiv cs.LG · 1w ago必读
PhantomFill: When the Form Demands an Answer, Language Models Invent One
分类释义：学术论文 / 技术报告
TL;DR
研究发现 LLM 在填写表单时，即使在自由文本中会诚实回答「不知道」，也会因必填字段约束而100%编造答案，13个模型中10个完全无法抵抗这种「格式压力导致的幻觉」。
关键要点
- 01研究发现 LLM 在填写表单时。
- 02即使在自由文本中会诚实回答「不知道」。
- 03也会因必填字段约束而100%编造答案。
- 0413个模型中10个完全无法抵抗这种「格式压力导致的幻觉」。
为什么值得关注
工程师在构建JSON提取、API响应生成等结构化输出pipeline时，必须认识到表单schema本身就会诱发幻觉。一个简单的schema修改（允许可选字段或明确允许返回空值）可能是比prompt engineering更有效的解法。
对你的工程实践意味着什么
LLM 实时生成MiniMax-M2.7缓存命中
| 角色 | 你应该做什么 |
|---|---|
| Tech Lead | 审查团队现有的结构化输出pipeline，将必填字段数量纳入代码review检查项 |
| 应用工程师 | 在调用LLM做JSON提取或表单填充前，检查schema中是否存在不必要的必填约束 |
| 应用工程师 | 将「知道」「不确定」类问题对应的字段改为可选，避免强制模型编造 |
| 运维 / 平台 | 暂无直接影响，了解即可 |
| 产品 / 业务 | 评估业务表单字段的必填必要性，将可空字段标记为可选而非强制留空 |
同类资讯
本页 TL;DR 与「为什么」由 LLM 生成 · 模型：MiniMax-M2.7 / Claude Haiku 4.5