2025-05-29
当心安全漏洞！韩国中央大学研究团队揭示大语言模型在遵守安全政策时面临的严峻挑战
韩国中央大学研究团队开发了名为CoPriva的基准测试，评估大语言模型遵守上下文安全策略的能力。研究发现，虽然多数模型能成功拒绝直接违反安全政策的查询，但在面对间接攻击时存在严重漏洞，泄露率平均增加40%以上。即使是推理...
2025-05-29
不是所有模型都适合专家卸载：揭秘混合专家模型的局部路由一致性
这项研究分析了混合专家模型（MoE）的"局部路由一致性"特性，即连续词元激活相似专家的程度，这对内存受限设备上的模型部署至关重要。研究者提出了两种测量指标：段路由最佳性能（SRP）和段缓存最佳命中率（SCH），分析了20...
2025-05-29
思维增强型策略优化：搭建外部指导与内部能力之间的桥梁 - 清华大学研究团队开创强化学习新范式
清华大学研究团队开发的"思维增强型策略优化"(TAPO)通过将外部高级思维模式整合到强化学习中，显著提升了大语言模型的推理能力。这种方法从仅500个样本中抽象出思维模板，在AIME、AMC和Minerva Math等基准...
2025-05-29
Trinity-RFT：阿里巴巴开源的通用强化微调框架，让大语言模型拥有"经验学习"能力
Trinity-RFT是阿里巴巴团队开发的开源框架，专为大语言模型的强化微调设计。它采用三位一体结构，包含RFT核心（探索者、训练者和缓冲区）、智能体-环境交互和数据流水线三大核心组件。框架支持同步/异步、在线/离线和策...
2025-05-29
QwenLong-L1：阿里巴巴用强化学习打造的长文本推理模型，超越OpenAI-o3-mini
阿里巴巴Qwen-Doc团队推出的QwenLong-L1框架通过强化学习解决了大型语言模型长文本推理的关键挑战。该框架采用渐进式上下文扩展策略，包含热身监督微调、课程引导分阶段强化学习和难度感知回顾采样三大核心组件。实验...
2025-05-28
语音无需语音：Menlo Research团队为低资源语言开发的创新语音指令训练方法
这篇研究论文介绍了"Speechless"，一种创新方法，可以在不使用实际语音数据的情况下训练语音指令模型，特别适用于越南语等低资源语言。研究团队通过将文本指令转换为语义表示，绕过了对高质量文本转语音(TTS)系统的依赖...
2025-05-28
变革性进化：Transformer Copilot——用学习错误日志提升大语言模型的微调质量
《Transformer Copilot》论文提出了一种革命性的大语言模型微调框架，通过系统记录和利用模型训练过程中的"错误日志"来提升推理性能。研究团队受人类学习者记录和反思错误的启发，设计了一个"副驾驶"模型来辅助原...
2025-05-28
RIPT-VLA：用简单奖励让机器人更聪明！德克萨斯大学Austin分校开创视觉-语言-动作模型的互动式后训练新范式
德克萨斯大学Austin分校的研究团队提出了RIPT-VLA，一种创新的视觉-语言-动作模型后训练范式。该方法通过让AI模型与环境互动并仅接收简单的成功/失败反馈来学习，无需复杂的奖励函数或价值模型。实验证明，RIPT-...
2025-05-28
时间洞察：北京大学和华为诺亚方舟实验室联合打造真实场景下大语言模型时间推理的多层级基准
北京大学与华为诺亚方舟实验室研究团队共同开发了TIME基准，这是首个专为评估大语言模型在真实世界场景中的时间推理能力而设计的多层级基准。该研究提出了三个层级的时间推理框架，包含11个细粒度任务，并构建了涵盖38,522个...
2025-05-28
正交残差更新：为深度网络提供稳定高效的更新机制
这篇研究论文提出了一种称为"正交残差更新"的新方法，解决了深度神经网络中标准残差连接的局限性。研究人员发现，在传统残差连接中，模块输出与输入流直接相加可能导致冗余特征学习。他们的创新方法将模块输出分解为平行和正交两个组件...
2025-05-28
顽固的智能：KAIST研究团队揭示大型推理模型如何任性"修改"用户指令
韩国科学技术院（KAIST）的研究团队发现了大型语言模型中一个令人担忧的现象："推理刚性"。这种现象表现为即使是最先进的AI模型，如GPT-4o或Qwen3，也会在解决问题时固执地坚持熟悉的推理模式，甚至会"修改"用户明...
2025-05-28
旋转位置编码之舞：比尔肯特大学研究团队开创无需训练的视频动作迁移新技术
比尔肯特大学研究团队提出RoPECraft，一种无需训练的视频动作迁移方法，通过巧妙操作扩散变换器中的旋转位置编码实现。该方法首先从参考视频提取光流信息，用于扭曲RoPE张量；再通过流匹配优化和相位约束正则化，确保生成视...
2025-05-28
修复"伤害"模型表现的数据：级联LLM技术重标注负面样本，提升信息检索的稳健性
这项来自加拿大滑铁卢大学的研究挑战了"更多训练数据总是更好"的观念，发现某些数据集反而会损害信息检索模型性能。研究者提出了RLHN方法，使用级联LLM技术识别并重标注训练数据中的"假负样本"。实验表明，这种方法显著提升了...
2025-05-28
WebAgent-R1：通过端到端多回合强化学习训练网页智能体
这项研究介绍了WebAgent-R1，一种用于训练网页智能体的端到端多回合强化学习框架。不同于传统方法，它直接通过在线交互学习，仅依靠二元任务成功奖励信号指导。实验表明，该方法显著提升了Qwen-2.5-3B和Llama...
2025-05-28
Think-RM：用长程思考推理提升生成式奖励模型的全新思路——来自乔治亚理工和亚马逊的联合研究
Think-RM是一项创新研究，通过使奖励模型具备"长程思考"能力来提升AI系统对人类偏好的理解。传统的奖励模型要么仅提供分数（BT RM），要么依赖浅层思考（GenRM），而Think-RM则模拟人类深度分析问题的过程...
2025-05-28
SAKURA：探索大型音频语言模型如何"听懂"并"思考"——首个评估音频多跳推理能力的基准测试
台湾国立大学研究团队开发了SAKURA，首个专门评估大型音频语言模型多跳推理能力的基准测试。研究发现，即使最先进的模型也面临两大挑战：一是在识别某些音频属性（如情绪）时准确率不高；二是即使能正确识别音频信息，也难以基于这...
2025-05-28
用形式验证工具训练推理验证器：宾夕法尼亚州立大学研究团队让AI自动检查每一步推理是否正确
这项由宾夕法尼亚州立大学研究团队开发的FOVER方法解决了AI推理验证器训练中的两大难题：数据标注成本高和应用范围有限。研究者利用形式验证工具（如Z3和Isabelle）自动检查AI在形式逻辑和定理证明任务中的每一步推理...
2025-05-28
多空间理解新突破：Meta研究团队打造多帧空间理解的多模态大语言模型
这篇研究介绍了Meta团队开发的Multi-SpatialMLLM，一种能够理解多帧图像空间关系的多模态大语言模型。研究者创建了首个大规模多帧空间理解数据集MultiSPA，包含超过2700万个样本，并在此基础上训练模型...
2025-05-28
RAVENEA: 哥本哈根大学团队开创多模态检索增强视觉文化理解新基准
RAVENEA是哥本哈根大学研究团队开发的首个多模态检索增强视觉文化理解基准，集成了超过10,000份人工标注的维基百科文档，用于评估视觉语言模型的文化敏感性。研究发现，轻量级视觉模型在配备文化感知检索功能后，在文化视觉...
2025-05-28
安全交易也能抗风险：斯科尔科沃研究团队的伊塔库拉-赛托损失函数突破性研究
斯科尔科沃科技学院研究团队开发了一种新型损失函数——基于伊塔库拉-赛托散度的损失函数，用于解决风险敏感强化学习中的数值不稳定性问题。与传统方法相比，该损失函数不仅数值稳定，还保持尺度不变性，同时保留指数效用的理论保证。研...