打分更高,答得更差:当AI医生学会了用废话掩盖关键遗漏
论文揭示基于评分表的强化学习存在"打分越高答得越差"的漏洞:加权求和让廉价检查项替代关键决策。作者提出ProRubric,将检查项分组为必须同时满足的方案维度并加失败条款,在不改动评分内容的前提下显著提升医疗问答等任务的...
论文揭示基于评分表的强化学习存在"打分越高答得越差"的漏洞:加权求和让廉价检查项替代关键决策。作者提出ProRubric,将检查项分组为必须同时满足的方案维度并加失败条款,在不改动评分内容的前提下显著提升医疗问答等任务的...
本文介绍DeltaTTG方法,它训练一个基于Token-to-Go指标的进度表模型,为多轮AI agent强化学习提供细粒度步骤反馈,在ALFWorld等多个基准上超越GRPO等强化学习基线,且训练成本接近GRPO,支持...
ClawLoop让智能体自己出题、自己判分、自己诊断弱点,全程不用外部教师模型,在三个基准上都超过了依赖强教师的方法。
本文介绍ExeWorldBench基准,用于评测AI能否将物理世界理解转化为可执行3D代码。研究发现代码可执行率提升远超实际结构、运动和因果正确性的提升,多阶段系统随阶段增多表现急剧衰退,揭示当前AI世界构建能力的深层局...
GeoFix提出FOCAL几何奖励,通过跨视角深度一致性并校准相机视野重叠偏差,用单一奖励同时提升视频扩散模型的几何一致性与视觉质量,适用于训练与推理对齐,支持4D场景生成。
本文介绍SALD,一种扩散模型自我参照训练框架。模型通过对比同一样本在高低噪声下的误差差异,动态调整样本、时序与频率三个维度的训练权重,无需外部老师网络,在多架构多数据集上显著提升生成质量与收敛速度。
Meta旗下AI助手Muse现已向付费用户开放代拨美国商家电话功能,可处理预约、咨询等任务。订阅计划起价每月20美元,含每周5亿token额度。Muse目前用户已超1000万。
美国联邦航空管理局(FAA)宣布将耗资8.75亿美元的AI系统SMART推广至全美22个空管中心,该系统已在华盛顿特区上空帮助重新规划180个航班,平均每班节省10分钟飞行时间和约80加仑燃油,但代表逾1.5万名管制员的...
AI评分模型容易被“自夸式回答”欺骗,论文提出ReVeR:从任务本身推理评分标准,裁判配备Python工具验证硬性约束,用4B小模型实现超越8B对比系统的偏好准确率与下游策略效果。
论文发现大模型强化学习训练中梯度能量会动态集中到少数方向,据此提出Ares优化器,自动追踪谱结构调整更新秩,在多规模模型和多个强化学习算法上均超越AdamW等主流优化器。
研究发现软件版本迭代中积累的可发现性、颗粒度、可观测性三大特性影响AI智能体操作效果。基于此提出ANIS框架,自动合成AI专用界面,在八款软件上成功率提升至74.5%,token消耗降低约75%。