/
揭秘指令特定神经元与专家：一个分析LLM指令跟随能力的全新框架
这项由香港科技大学研究团队开展的创新研究揭示了大型语言模型（LLM）执行指令能力背后的神经机制。研究者通过提出SPARCOM分析框架，成功识别并分析了"指令特定神经元"和"指令特定专家"这两类稀疏组件在模型内部的分布与功能。通过精心设计的HEXAINST数据集，研究发现这些组件不仅具有功能通用性和独特性，而且在模型微调过程中发生显著变化。研究结果表明，模型的指令执行能力主要源于这些稀疏组件的精确激活，为理解LLM内部工作机制提供了新视角，对构建更可靠的AI系统具有重要指导意义。
MUSEG：清华-阿里团队打造时间感知多段定位技术，大幅提升视频理解能力
清华大学与阿里巴巴通义实验室联合研发的MUSEG技术通过创新的时间戳感知多段定位方法，显著提升了视频中的时间理解能力。该方法引入多段定位任务和精心设计的阶段性奖励机制，使模型能够精确识别视频中的多个相关事件及其时间关系。实验表明，MUSEG在各类时间理解任务上全面超越现有方法，为未来视频智能分析开辟了新方向。
像人类需要疫苗一样，AI模型也需要"免疫"：Vector研究所提出模型免疫方法对抗虚假信息
这项由加拿大Vector研究所领导的研究提出了"模型免疫"概念，通过让AI模型在训练过程中接触已标记的虚假信息，增强其辨别和拒绝类似虚假内容的能力。类比人类疫苗接种原理，研究者在微调阶段向模型注入约5-10%的已标记错误内容作为"疫苗"。初步实验表明，免疫后的模型处理虚假信息的能力从60%提升至78%，同时保持了常规任务性能。研究团队还设计了严格的伦理与治理框架，确保虚假内容使用安全。这一方法为提高AI系统的事实准确性提供了预防性解决方案。
DeepResearchGym：一款免费、透明且可复现的深度研究评估沙盒，让研究者摆脱商业搜索API的束缚
DeepResearchGym是一个创新的开源评估框架，专为深度研究系统设计，旨在解决当前依赖商业搜索API带来的透明度和可重复性挑战。该系统由卡内基梅隆大学研究团队开发，结合了基于ClueWeb22和FineWeb大型网络语料库的可重复搜索API与严格的评估协议。实验表明，使用DeepResearchGym的系统性能与使用商业API相当，且在评估指标间保持一致性。人类评估进一步证实了自动评估协议与人类偏好的一致性，验证了该框架评估深度研究系统的有效性。
打造自主信息搜索智能体：阿里巴巴WebDancer的探索之路
阿里巴巴集团和同义实验室的研究团队推出了WebDancer，这是一种能够在网络上自主搜索信息并回答复杂问题的智能体系统。研究团队提出了一个四阶段构建框架，包括数据合成、轨迹采样、监督微调和强化学习。他们创新性地开发了CRAWLQA和E2HQA两种方法来生成高质量训练数据，并采用ReAct框架使智能体能够交替进行思考和行动。实验结果表明，WebDancer在GAIA和WebWalkerQA等基准测试中表现优异，甚至在某些情况下超越了GPT-4o，证明了该方法在构建自主信息搜索智能体方面的有效性。
无需验证师：如何让大型语言模型在没有答案检查者的情况下进行更好的推理
这项研究提出了"VeriFree"——一种不需要验证器的方法，可以增强大型语言模型(LLM)的通用推理能力。传统方法如DeepSeek-R1-Zero需要验证答案正确性，限制了其在数学和编程以外领域的应用。VeriFree巧妙地计算正确答案在模型生成的推理过程后出现的概率，作为评估和训练信号。实验表明，这种方法不仅能匹配甚至超越基于验证器的方法，还大幅降低了计算资源需求，同时消除了"奖励黑客"问题。这一突破将有助于开发出在化学、医疗、法律等广泛领域具有更强推理能力的AI系统。
快思与慢想：让AI学会像人一样思考的突破性研究——DualityRL团队的"思想家"模型
这项研究提出了"思想家"（Thinker）任务，一种受人类双重加工理论启发的新型AI训练方法。研究者将问答过程分解为四个阶段：快速思考（严格预算下给出初步答案）、验证（评估初步答案）、慢速思考（深入分析修正错误）和总结（提炼关键步骤）。实验表明，该方法使Qwen2.5-1.5B模型的准确率从24.9%提升至27.9%，DeepSeek-R1-Qwen-1.5B模型从45.9%提升至49.8%。显著的是，仅使用快速思考模式就能达到26.8%的准确率，且消耗更少计算资源，证明了直觉与深度推理作为互补系统的培养价值。
图像渲染反馈强化学习：从ServiceNow研究团队到高质量矢量图形生成的突破
ServiceNow研究团队开发了一种名为RLRF的新方法，通过强化学习显著提升了AI生成矢量图形(SVG)的质量。与传统方法不同，RLRF让AI能够"看到"自己生成的SVG代码渲染后的效果，并据此获得反馈。研究表明，这种方法不仅提高了生成图像的视觉准确性，还使代码更加简洁高效，并能够轻松泛化到从未见过的图像类型。这一突破为从图像或文本自动生成高质量矢量图形铺平了道路，对设计和开发领域具有重要意义。
专家精简大法：香港中文大学与华为诺亚方舟实验室联手助力大型混合专家模型在内存受限设备上高效运行
香港中文大学与华为诺亚方舟实验室合作开发了PreMoe框架，解决了大型混合专家模型(MoE)在内存受限设备上的部署难题。研究团队发现MoE模型中的专家表现出明显的任务专业化特征，据此提出了概率专家精简(PEP)和任务自适应专家检索(TAER)两大核心技术。实验证明，DeepSeek-R1 671B模型在精简50%专家后仍保持97.2%的MATH500准确率，内存需求降至688GB；而更激进的精简方案（减少87.5%专家）也能保持72.0%的准确率。该方法适用于多种MoE架构，为强大AI系统的广泛部署铺平了道路。
SCIENCEBOARD：评估科学工作流中的多模态自主智能体
SCIENCEBOARD是一项开创性研究，旨在评估多模态自主智能体在真实科学工作流中的表现。研究团队构建了一个包含169个高质量任务的基准测试，涵盖生物化学、天文学等六个科学领域，并开发了一个真实环境让智能体通过CLI或GUI接口与科学软件交互。实验评估表明，即使是最先进的模型在这些复杂科学任务上的成功率也仅为15%，远低于人类表现，揭示了当前技术的局限性并为未来科学智能体的发展提供了宝贵见解。
玩游戏也要考！普林斯顿团队开发"VideoGameBench"测试视觉语言模型能否通关经典游戏
普林斯顿大学研究团队开发了VideoGameBench，这是一个新基准测试，挑战视觉语言模型在经典视频游戏中的表现。研究发现，即使最先进的AI模型如Gemini 2.5 Pro在10款90年代游戏中也仅能完成0.48%的进度，表明当前AI在空间感知、记忆管理和实时交互等人类自然擅长的能力上仍有巨大差距。研究结果对理解AI与人类认知差异提供了重要参考。
Alita：极简设计打造无限创造力的通用AI助手
Alita是一种新型通用AI代理系统，采用极简设计理念，以"最小预定义，最大自我进化"为原则构建。由普林斯顿大学等多家机构研究团队开发的Alita，只配备一个核心能力和少量通用模块，能自主创建所需工具并重用为模型上下文协议(MCPs)。实验显示，Alita在GAIA基准测试上达到87.27%的通过率，超越包括OpenAI Deep Research在内的复杂系统，证明简约设计可带来卓越性能。
打破极限：清华与阿里联合研究团队用多智能体协作突破大语言模型外部知识输入的窗口限制
清华大学与阿里巴巴通义实验室合作研发了EXTAGENTS，一个创新的多智能体框架，解决了大语言模型处理超大规模外部知识的限制问题。该研究通过全局知识同步和知识累积推理两大创新组件，使模型能够有效整合远超其上下文窗口大小的信息量，在多跳问答和长篇综述生成等任务中取得显著优势。这一突破为知识密集型应用提供了无需额外训练的高效解决方案，同时保持了高并行性和可扩展性。
脑部核磁共振正片加强！波尔多大学研发通过强化学习驱动大语言模型的神经退行性痴呆症可解释诊断框架
法国波尔多大学研究团队开发了一个突破性框架，用于神经退行性痴呆症的差异化诊断。该框架将3D脑部MRI转换为文本报告，并利用强化学习优化的大语言模型进行详细诊断推理。不同于传统"黑箱"方法，这一系统能生成透明、有因果关系的解释，同时保持高诊断准确率。研究显示，通过群组相对策略优化(GRPO)训练的轻量级模型能展现复杂推理行为，包括假设检验和非线性思考，提供与临床决策流程一致的排序诊断结果。
揭秘事实核查的不确定性：哥本哈根大学研究团队如何让AI解释证据冲突
这项研究提出了CLUE框架，首次能够生成自然语言解释来揭示AI事实核查系统不确定性的来源。与现有方法不同，CLUE能识别文本片段间的冲突与一致关系，并解释它们如何影响模型的预测不确定性。实验表明，CLUE生成的解释在三种语言模型和两个事实核查数据集上都更忠实于模型不确定性，用户评价其更有帮助、信息更丰富、冗余更少且逻辑更一致。CLUE不需要微调或架构更改，适用于任何白盒语言模型，为事实核查提供了实用支持。
SynLogic：香港科技大学与MiniMax联合开发的逻辑推理数据集，让AI更懂得思考
来自香港科技大学和MiniMax的研究团队开发了SynLogic，一个可合成35种逻辑推理任务的框架与数据集，填补了AI逻辑训练资源缺口。研究表明，在SynLogic上进行强化学习训练显著提升了模型逻辑推理能力，32B模型在BBEH测试中超越了DeepSeek-R1-Distill模型6个百分点。更值得注意的是，将SynLogic与数学和编程数据混合训练不仅提高了这些领域的学习效率，还增强了模型的泛化能力，表明逻辑推理是构建通用AI推理能力的重要基础。
大型语言模型的一步生成能力：揭秘人工智能"一口气"说故事的秘密 - AIRI与Skoltech研究成果
这项研究揭示了大型语言模型的惊人能力：只需两个特殊训练的向量，冻结的语言模型就能在一次计算中生成数百个准确词汇，而非传统的逐词生成。研究者发现，这种能力要求特定的输入排列方式，且生成速度比自回归方法快约279倍。这一发现不仅展示了语言模型未被充分探索的并行生成潜力，还为快速文本重建开辟了新方向。
深度解析：腾讯混元团队《先走后跑》——利用强化学习实现大模型简洁推理的新突破
腾讯混元团队提出的"ConciseR"是一种通过两阶段强化学习实现大模型简洁推理的新方法。研究遵循"先走后跑"原则，先确保模型具备准确推理能力，再优化输出简洁性。第一阶段通过改进的群体相对策略优化(GRPO++)提升推理能力，第二阶段通过长度感知的群体相对策略优化(L-GRPO)减少输出长度。实验结果显示，该方法在AIME、MATH-500等多个基准测试中既减少了输出长度(平均20%以上)，又保持或提高了准确率，展现出高效率-高准确率的理想平衡。
AutoRefine：让大语言模型主动搜索并优化信息的全新范式
这项研究提出了AutoRefine，一种革新性的强化学习框架，为大语言模型引入了"边思考边搜索和完善"的全新范式。与传统方法不同，AutoRefine在连续搜索调用之间添加知识完善步骤，让模型能够有效过滤和组织信息。通过结合答案正确性和检索质量双重奖励，该方法在七项问答基准测试中平均提升6.9%的准确率，特别在复杂多跳推理场景中表现突出，解决了现有检索增强推理的核心局限性。
多模态大语言模型深受模态偏差影响：理解、原因与解决方案
这篇研究论文揭示了多模态大语言模型(MLLMs)存在严重的模态偏差问题，即模型过度依赖文本信息而忽视图像等其他模态。研究团队通过理论分析和实验证明，这种偏差主要源于三个因素：数据集不平衡、模态骨干能力不对称以及训练目标设计不当。他们提出了系统的研究路线图和解决方案，包括增强视觉模态在数据集中的贡献、改变模型关注点和应用偏好优化策略。未来研究方向则包括开发更客观的评估指标、探索更多模态组合中的偏差问题以及应用可解释AI技术深入分析偏差机制。
京公网安备 11010802021500号
