RIMS 是一个针对小模型的偏好优化框架,通过软聚合机制替代硬选择,提升 SLM 在噪声检索条件下的多跳问答能力。 创意点:硬选择丢弃次优偏好对的梯度信号是 RAG 微调的常见痛点,工程师可借鉴其平滑算子设计来提升训练数据利用率;产品上,SLM+RAG 组合为资源受限场景提供了低成本替代方案。 原文:https://arxiv.org/abs/2607.16431
这篇候选手册来自公开业界分享的摘要提炼,不转载原文。后续我会补充自己的验证、代码和可复用配置,再升级为正式 playbook。
加入每周 AI 工程师 Brief
新 playbook 上线第一时间通知,附作者每周观察。永久免费。