让语言模型流动起来:MediaTek Research团队研发的Latent Flow Transformer,通过流匹配压缩Transformer层数
MediaTek Research团队提出的Latent Flow Transformer(LFT)是一种创新架构,通过流匹配技术将多个Transformer层压缩为单层,大幅提升效率。研究引入"重耦合比率"指标精确预测...
MediaTek Research团队提出的Latent Flow Transformer(LFT)是一种创新架构,通过流匹配技术将多个Transformer层压缩为单层,大幅提升效率。研究引入"重耦合比率"指标精确预测...
史蒂文斯理工学院研究团队发现大语言模型内部存在"真相神经元",这些特殊神经元能够识别信息真实性,不受主题限制。研究通过积分梯度方法定位这些神经元,证明抑制它们会显著降低模型在真实性测试中的表现。实验表明,这些神经元主要分...
前一阵红杉资本的AI创业逻辑刷屏,核心观点是AI正在从工具变为劳动力,并最终要用产出去衡量价值。而在AI创业领域同样有重要与影响力的Y Combinator(YC)也频频释放新的创业方法论。
这项研究介绍了WikiDYK基准测试,利用维基百科"你知道吗"板块的实时更新内容评估大语言模型的知识注入能力。研究发现,双向语言模型(BiLMs)在记忆知识方面显著优于因果语言模型(CLMs),准确率高出约23%。基于此...
这篇研究探讨了Alpha世代(2010-2024年出生)独特的数字通信模式如何挑战现有AI内容审核系统。研究者评估了四大AI系统(GPT-4、Claude、Gemini和Llama 3)以及人类审核员理解这一代专属语言的...
斯科尔科沃科技学院和合作伙伴的研究团队开发了新型AI方法"TLG",有效识别违反常识的奇怪图像。该方法利用大型视觉-语言模型从图像提取基本事实,再通过注意力池化分类器分析这些事实的一致性,实现了WHOOPS!数据集73....
斯坦福大学研究团队开发了MedCaseReasoning数据集,这是首个专门评估人工智能与临床医生诊断推理一致性的开源数据库。现有医疗AI评估标准仅检验诊断准确率,忽视了推理过程质量。该数据集包含14,489个诊断问答案...
这项由斯坦福大学和多家研究机构联合推出的R3(强健的无评分标准奖励模型)系统,解决了现有AI评估模型在可控性与可解释性方面的关键缺陷。不同于仅提供分数的传统模型,R3能适应任何评分标准,支持单项评分、对比评分和二元评分三...
这篇论文介绍了一种名为"低秩克隆"(LRC)的新型知识蒸馏方法,能极大提升小型语言模型的训练效率。哈尔滨工业大学深圳校区和百度公司的研究团队通过训练可学习的低秩投影矩阵,同时实现了软剪枝和激活克隆,避免了传统方法中的信息...
斯坦福大学与微软研究院联合开发的通用用户模型(GUM)突破了传统用户模型的局限性,实现了跨应用、跨情境的用户理解。这项研究通过分析用户日常计算机使用行为,构建置信度加权的自然语言命题,精确捕捉用户行为、知识与偏好。研究团...
这篇研究探讨了模型合并技术在大型语言模型预训练中的应用。字节跳动Seed团队通过从百万到千亿参数级别的系统实验证明,在稳定训练阶段合并检查点不仅显著提升模型性能,还能准确预测学习率衰减效果,大大节省计算资源。研究提出的P...
浙江大学ReLER实验室研究团队提出了SEED-GRPO,一种基于语义熵的不确定性感知策略优化方法,用于改进大型语言模型的训练。该方法通过计算模型对不同问题回答的语义多样性,来识别模型的不确定性程度,并据此动态调整学习力...
这篇论文介绍了HISTAI数据集,这是一个包含60,000多张全切片影像的大规模开源病理学数据集。由HistAI团队开发,该数据集涵盖多种组织类型,每个病例都附有详细的临床元数据,包括诊断信息、患者人口统计学数据和病理学...
NVIDIA最新发布的HelpSteer3-Preference是一个包含超过4万个样本的开放许可偏好数据集,涵盖STEM、编程和多语言等多样化任务。由专业标注者标注的高质量数据使研究团队训练出在RM-Bench和Jud...
这项研究提出了一种创新的无配对数据训练方法,用于开发轻量级智能手机图像信号处理器(ISP)。传统方法需要具有像素级对齐的配对RAW-RGB数据,而该方法通过多重损失函数和三个鉴别器的对抗训练,成功实现了无需配对数据的高质...
这项研究解决了语音合成中的多音字问题,特别针对资源有限的波斯语。研究团队提出了两大创新:一是构建HomoRich数据集,为多音字消歧提供丰富素材;二是重新思考G2P系统设计思路,利用这些数据改进基于规则的模型。他们既提升...
这篇论文介绍了一种名为LATENTSEEK的创新框架,它通过在潜在空间进行测试时实例级政策梯度优化,显著提升了大型语言模型的推理能力。研究团队在GSM8K、MATH-500和AIME2024等基准测试上评估了该方法,结果...
圣地亚哥大学团队提出的VSA(视频稀疏注意力)机制,通过巧妙的两阶段设计解决了视频生成模型的计算瓶颈。它首先将视频分割成小立方体,在粗粒度层面快速识别重要区域,再只在这些区域内进行精细计算。实验表明,VSA能在不损失生成...
这项研究首次提出了ViPlan基准测试,系统评估视觉语言模型在视觉规划任务中的表现。研究对比了"VLM作为规划器"和"VLM作为接地器"两种方法,发现在抽象的积木世界中接地器方法更优,而在模拟家庭环境中规划器方法表现更佳...
MTVCrafter是一项开创性研究,首次通过4D运动令牌化直接建模原始3D运动序列,而非传统的2D姿势图像,实现了高质量人物动画。由中国科学院深圳先进技术研究院团队开发的这一框架,结合了4D运动令牌化器(4DMoT)和...