2025-05-26
预训练和强化学习就能AGI，我的朋友已经不涂防晒霜，Anthropic研究员Douglas：模型对全球GDP的影响类似中国崛起
2025年5月23日，正值Claude 4系列模型发布当天，Redpoint的AI播客《Unsupervised Learning》邀请到了Anthropic的技术团队成员Sholto Douglas进行了一次深度对话。
2025-05-26
ByteDance Seed研究团队发布BAGEL：探索统一多模态预训练中的涌现能力
ByteDance Seed团队发布的BAGEL是一个突破性开源基础模型，采用混合变换器专家架构，能同时执行多模态理解和生成任务。研究显示，随着训练数据和模型规模增加，BAGEL展现"涌现能力"—从基础理解和生成，到复杂...
2025-05-26
推理模型更懂如何表达自信：大型语言模型如何通过慢思考实现更准确的自我评估
这项研究证明推理模型（使用链式思考的大语言模型）不仅在解决问题上表现优异，还能更准确地表达其确信度。研究人员在六个数据集上评估了六种推理模型，发现它们在33/36种测试设置中比非推理模型表现更好。深入分析揭示这一优势来源...
2025-05-26
突破数学题的天花板：通用推理大模型如何实现全领域思维能力提升
这项研究突破了大语言模型推理能力主要局限于数学和编程领域的限制，提出了"General-Reasoner"训练方法，使模型能够在物理、化学、金融等多领域展现高水平推理能力。研究团队构建了包含23万个跨学科问题的高质量数据...
2025-05-26
解码混合语言对话：CS-Sum基准测试揭示大型语言模型的理解局限
这篇研究来自新加坡南洋理工大学，首次建立了覆盖英语-汉语、英语-泰米尔语和英语-马来语的代码切换对话摘要基准测试CS-Sum。研究评估了10个大型语言模型，发现即使最先进的模型在处理混合语言时也存在严重局限，主要表现为忽...
2025-05-26
揭开真相：现有长视频理解评估其实靠猜？多伦多大学团队推出更公平的VideoEval-Pro评测基准
这项研究揭示了现有长视频理解评估基准的严重缺陷：过度依赖多选题导致结果膨胀，且许多问题存在先验偏好使模型无需真正理解视频就能作答。针对这些问题，多伦多大学团队开发了VIDEOEVAL-PRO基准，采用开放式短答案形式，真...
2025-05-26
隐私保护的大模型压缩新思路：香港大学等机构推出FedPrLLM联邦修剪框架
这项由香港大学等机构合作开发的FedPrLLM框架，首次将联邦学习与大语言模型修剪技术结合，解决了隐私敏感领域无法共享数据进行模型压缩的难题。研究表明，采用层比较的一次性修剪策略且不进行权重缩放，可以在保护数据隐私的同时...
2025-05-26
SSR：通过推理引导式空间理解增强视觉语言模型的深度感知能力
SSR是西湖大学研究团队开发的创新框架，通过引入深度感知增强视觉语言模型的空间理解能力。该方法将原始深度数据转换为结构化的推理语言，作为中间表示，显著提升空间推理能力。研究团队还创建了包含超过百万级的SSR-COT数据集...
2025-05-26
别只在需要时思考，这些混合推理大模型让思维更高效
微软研究院与北京大学的团队开发出全新的大型混合推理模型（LHRMs），解决了大型推理模型的过度思考问题。这种创新模型能够像人类一样，根据问题复杂度自动决定是否需要深入思考。研究团队设计了两阶段训练方法，包括混合微调和混合...
2025-05-26
谁才是真正的好老师？北科研团队比较不同推理蒸馏源对大语言模型影响
这篇研究探讨了大语言模型知识蒸馏过程中教师模型选择的重要性。北科a-m-team团队从三个顶级模型（AM-Thinking-v1、Qwen3-235B-A22B和DeepSeek-R1）收集了189万个问题的推理答案，分...
2025-05-26
MigrationBench：AWS AI Labs打造的Java代码迁移基准测试平台，让AI助力软件升级
AWS AI Labs团队开发了MigrationBench，这是首个针对Java代码从版本8迁移到17/21的大型基准测试平台。研究包含5,102个完整项目和300个精选挑战性项目，解决了代码迁移评估的难题。实验表明，...
2025-05-26
研究推理的奖励模型：微软提出新方法让AI评判能力更上一层楼
微软研究院新提出的"奖励推理模型"(RRM)为大型语言模型开创了全新评估方式。传统奖励模型对所有问题使用统一计算资源，而RRM能像人类一样先进行推理思考再做判断，对复杂问题投入更多思考资源。研究团队通过强化学习框架训练模...
2025-05-26
CompeteSMoE：通过竞争机制实现统计保证的混合专家模型训练
这项研究提出了CompeteSMoE，一种创新的稀疏混合专家(SMoE)训练方法，通过引入竞争机制来优化大型语言模型。传统SMoE依赖独立路由器分配任务，而CompeteSMoE让所有专家直接处理输入并选择反应最强的进行...
2025-05-26
思考快与慢的大融合：香港中文大学团队打造高效推理验证框架，让AI灵活验证自身思维过程
这篇论文介绍了香港中文大学研究团队开发的创新框架"Solve-Detect-Verify"和灵活验证器"FlexiVe"。该系统模拟人类"快思考"和"慢思考"的双重认知模式，能根据问题复杂度智能调配计算资源。验证器首先采...
2025-05-26
大语言模型中的分词限制：一项探究符号和算术推理边界的研究
这项由不列颠哥伦比亚大学张翔和曹俊泰领衔的研究，揭示了大语言模型中一个被忽视的关键限制：分词系统对符号和算术推理能力的影响。研究团队发现，即使使用思维链提示技术，模型的推理能力仍受制于分词格式。通过将原子符号（如字母）明...
2025-05-26
解锁长文推理效率：首尔国立大学和成均馆大学开发的"推理路径压缩"技术让LLM思考更快更省资源
首尔国立大学和成均馆大学的研究者提出了"推理路径压缩"(RPC)技术，一种无需训练的方法，能够对大语言模型在推理过程中生成的冗余内容进行压缩。研究发现推理路径存在"语义稀疏性"——大量重复或多余的内容。RPC通过定期评估...
2025-05-26
NExT-Search：重建生成式AI搜索的用户反馈生态系统，打破大语言模型搜索的反馈断层
NExT-Search是一项创新研究，旨在解决生成式AI搜索中的用户反馈断层问题。传统网络搜索通过丰富的用户点击和停留时间等信息不断优化，而生成式AI搜索虽提高了便利性，但用户只能对最终答案提供粗粒度反馈，无法指出具体环...
2025-05-26
让语言模型流动起来：MediaTek Research团队研发的Latent Flow Transformer，通过流匹配压缩Transformer层数
MediaTek Research团队提出的Latent Flow Transformer（LFT）是一种创新架构，通过流匹配技术将多个Transformer层压缩为单层，大幅提升效率。研究引入"重耦合比率"指标精确预测...
2025-05-26
"真相神经元"：探索大语言模型中的"诚实机制"——史蒂文斯理工学院揭秘AI如何区分真假
史蒂文斯理工学院研究团队发现大语言模型内部存在"真相神经元"，这些特殊神经元能够识别信息真实性，不受主题限制。研究通过积分梯度方法定位这些神经元，证明抑制它们会显著降低模型在真实性测试中的表现。实验表明，这些神经元主要分...