AI也能学会"反思"?Essential AI发现预训练就能让大模型学会自我纠错
Essential AI团队通过系统研究发现,大语言模型的反思能力在预训练阶段就开始萌芽,而非传统认为的仅在强化学习后出现。研究团队对OLMo-2等模型的240个检查点进行测试,发现简单的"Wait,"触发词就能激发模型...
Essential AI团队通过系统研究发现,大语言模型的反思能力在预训练阶段就开始萌芽,而非传统认为的仅在强化学习后出现。研究团队对OLMo-2等模型的240个检查点进行测试,发现简单的"Wait,"触发词就能激发模型...
这项研究首次提出了"任意条件到文字描述"的视频生成新模式,通过多模态大语言模型将用户的各种创意输入转化为结构化描述,再驱动现有视频生成系统。研究团队构建了包含33.7万实例的大规模数据集,并设计了创新的渐进式训练策略,实...
南京大学团队提出DDT(解耦扩散变换器)架构,通过"分工合作"方式将AI绘画中的语义理解和细节生成任务分离。该方法在ImageNet数据集上创下1.31 FID的新纪录,训练效率提升4倍,推理速度提升3倍,为AI图像生成...
上海人工智能实验室等机构联合发布VisuLogic基准测试,专门评估AI的纯视觉推理能力。测试包含1000道人工验证题目,涵盖数量、空间、位置等六类推理任务。结果显示,包括GPT-4o在内的顶级AI模型准确率仅26-28...
微软研究院开发出革命性的1位大语言模型BitNet b1.58 2B4T,仅需0.4GB内存就能运行2千亿参数规模的AI模型,相比传统模型内存消耗降低90%以上,能耗降低95%,推理速度提升40%,在保持相当性能的同时让...
Allen Institute for AI推出首个能实时追溯大语言模型输出到万亿训练数据来源的系统OLMOTRACE。该系统通过创新的并行算法,可在几秒内找到AI回答中与训练数据完全匹配的文本片段,为AI行为分析开创了...
上海交大团队首次建立AI视觉推理评估标准RISEBench,测试发现即使最先进的GPT-4o-Image在推理驱动的图像编辑任务中准确率仅28.8%。研究涵盖时间、因果、空间、逻辑四大推理维度,揭示当前AI缺乏真正理解物...
NVIDIA研究团队发布了Eagle 2.5,这是一个突破性的视觉语言模型,专门用于长视频理解任务。该模型仅使用80亿参数就在Video-MME等基准测试中达到72.4%的准确率,与GPT-4o等顶级商业模型相当。Eag...
阿里巴巴等机构联合研究团队通过分析2021-2024年间148个国家发布的2000多个多语言AI评测基准,发现尽管全球已投入超过1100万美元,但现有评测体系与人类真实判断仍存在巨大鸿沟,特别是在语言理解任务上关联度仅1...
这项由上海交通大学与OPPO人工智能中心合作的研究首次深入探索了多模态大语言模型的视频空间推理能力提升方法。研究发现传统提示词对小型模型无效,转而采用GRPO强化学习训练法,构建了包含10万样本的VSI-100k数据集。...
KAIST研究团队开发出革命性AI检索系统UniversalRAG,首次实现跨文字、图片、视频的智能信息路由。该系统能根据问题特点自动选择最合适的信息类型和详细程度,在8个基准测试中显著优于传统方法,平均性能提升15-2...
StepFun和清华大学联合提出Open-Reasoner-Zero,这是首个开源的大规模推理导向强化学习训练框架。该方法采用极简的vanilla PPO算法直接在基础模型上训练,无需复杂预处理,仅用十分之一训练时间就在...
这项NVIDIA团队的突破性研究解决了AI视觉理解中的精确局部描述难题。通过创新的聚焦提示技术和本地化视觉架构,DAM模型能够准确描述图片和视频中任何指定区域的详细内容,性能显著超越现有方法,为医疗诊断、教育辅助、无障碍...
卡内基梅隆大学研究团队开发出"反蒸馏采样"技术,能让AI模型在保持正常性能的同时,阻止竞争对手通过观察推理过程来复制模型能力。这种方法巧妙地在模型输出中加入"毒性"内容,对人类用户无害但会干扰机器学习过程,为AI公司提供...
约翰斯·霍普金斯大学团队发现AI专家混合系统存在10-20%的性能损失,开发出C3PO方法通过测试时动态优化专家选择策略,让1-3亿参数的小模型超越7-9亿参数大模型,在六个基准测试上提升7-15%准确率,为资源受限环境...
新加坡国立大学研究团队开发了JudgeLRM,一个专门用于评判AI系统表现的模型。研究发现传统训练方法在需要复杂推理的评判任务上效果较差,因此采用强化学习训练JudgeLRM,使其具备真正的推理能力。JudgeLRM-3...
ByteDance研究团队提出ReTool框架,通过强化学习让大型语言模型学会在数学推理中战略性使用代码工具。该方法在AIME数学竞赛中达到67%准确率,比传统文本推理方法提升27个百分点,训练效率提高近3倍,展现了工具...
卡内基梅隆大学发布了他们的一项最新研究,他们对20多个开源推理模型进行了后训练,涵盖数学推理、科学问答、代码生成、指令遵循等多个维度,最终发现,数学能力优异的模型,在其他任务上表现平平,甚至还不如未加强数学推理能力的原始...
微软全新推出的研究助手( Researcher)与分析助手(Analyst ),让多步骤调研和深度数据分析变得像对话一样简单。无论是关键商业谈判,还是从海量数据中发现规律,这两款专为工作场景设计的推理助手,助你分钟级解锁...
Skywork AI推出的第二代多模态推理模型R1V2,通过创新的混合强化学习方法,成功解决了AI"慢思考"策略在视觉推理中的挑战。该模型在保持强大推理能力的同时有效控制视觉幻觉,在多项权威测试中超越同类开源模型,某些指...