腾讯天美AI团队重新定义语言模型训练:精确还是多样?探索下一个词预测的新平衡
腾讯联合香港中文大学的研究团队首次发现,在大语言模型训练中追求精确性比多样性更有效。他们重新解释了传统交叉熵损失为强化学习算法,提出创新的奖励塑形策略,通过精细化奖励机制平衡多样性与精确性。实验表明精确导向的预训练策略能...
腾讯联合香港中文大学的研究团队首次发现,在大语言模型训练中追求精确性比多样性更有效。他们重新解释了传统交叉熵损失为强化学习算法,提出创新的奖励塑形策略,通过精细化奖励机制平衡多样性与精确性。实验表明精确导向的预训练策略能...
加州大学伯克利分校研究团队开发了InfoSynth系统,这是一个能够自动生成高质量编程题目的AI工具。该系统使用KL散度和熵来测量题目新颖性和多样性,采用基因算法模仿生物进化过程,通过变异和杂交机制从现有题目生成新题目。...
腾讯优图实验室推出Youtu-Agent框架,通过模块化设计和双模式自动生成机制,将AI代理开发从手工制作转向智能生产。框架包含无梯度的代理实践模块和大规模强化学习训练能力,在WebWalkerQA和GAIA基准测试中分...
SenseTime研究院联合清华大学和中科大开发了多模态智能助手SenseNova-MARS,能同时使用图像搜索、文本搜索和图像裁剪三种工具进行复杂视觉推理。通过创新的两阶段强化学习训练和新算法BN-GSPO,该系统在多...
韩国科学技术院研究团队开发的Avatar Forcing系统实现了虚拟头像的实时双向互动突破。该技术让AI头像能够在500毫秒内感知并回应用户的表情、动作等非语言信号,如用户微笑时头像也会微笑。通过因果扩散强制技术和偏好...
中科院团队发布NeoVerse系统,仅需普通单镜头视频即可重建三维动态场景并生成任意角度视频。该系统突破传统多设备限制,通过学习100万段网络视频获得强大泛化能力,在重建精度和生成质量上超越现有方法,支持视频稳定、超分辨...
清华大学研究团队开发出DNA-Train训练方法,通过DualityForge框架生成14.4万个包含反常现象的视频样本,训练AI模型学会观察实际视频内容而非依赖语言常识。实验显示该方法在反常视频理解任务上实现24%性能...
这项由普林斯顿大学和加州大学洛杉矶分校联合完成的研究提出了Deep Delta Learning(DDL)架构,通过引入可学习的几何变换让神经网络具备选择性遗忘能力。DDL基于Hauseholder变换设计了Delta算...
Sakana AI开发的快速权重产品键值记忆技术,通过将静态记忆系统升级为动态学习系统,让AI能够像人脑一样在对话过程中实时记录和回忆重要信息。该技术成功解决了AI记忆系统在存储容量与计算效率之间的根本矛盾,在超长文本处...
南京大学研究团队开发的MorphAny3D系统实现了3D变形技术的重大突破,能让任意物体间进行平滑自然的跨类别变形转换。该系统基于结构化潜在表示技术,通过创新的注意力融合机制和方向矫正策略,解决了传统方法无法处理不同类别...
斯坦福大学研究团队发现AI模型推理链长度与"幻觉"现象存在U型关系:过短推理会跳过关键步骤,过长推理容易迷失方向,只有适中长度能实现最佳准确性。研究通过大量实验揭示了AI思考过程的内在机制,为优化AI可靠性和改善人机交互...
如果你熟悉大语言模型机制,应该知道注意力计算的原理:通过计算不同token的注意力权重,来得出下一个token。按这个逻辑,联想科技大会堪称CES2026的"注意力之王"。
MIT团队开发的VLASH技术首次解决了机器人动作断续、反应迟缓的根本问题。通过"未来状态感知"让机器人边执行边思考,实现了最高2.03倍的速度提升和17.4倍的反应延迟改善,成功展示了机器人打乒乓球等高难度任务,为机器...
字节跳动Seed团队开发的GR-RL系统成为全球首个能够自主穿鞋带的学习型机器人,成功率达83.3%。该系统通过三阶段训练策略突破了机器人精细操作的技术瓶颈:数据过滤技术筛选高质量演示、镜像增强提升泛化能力、在线强化学习...
Meta公司推出的Tuna模型实现了AI视觉理解与生成的统一架构,通过创新的级联编码器设计和三阶段训练策略,在图像视频理解、生成和编辑等多项任务中达到同规模最佳性能。该模型证明了统一多模态处理的可行性,为通用人工智能发展...
石溪大学团队首次将牛顿物理定律融入AI视频生成,开发出NewtonRewards框架。该技术通过提取视频运动轨迹和物体特征作为物理量代理,用恒加速度约束和质量守恒约束训练AI遵守物理定律。在6万个物理场景测试中,系统在视...
OPPO AI团队通过分析1000份AI生成报告,首创了深度研究智能体评估体系FINDER和失效诊断系统DEFT。研究发现当前AI研究助手的主要问题不是理解任务,而是信息验证和内容生成环节,其中19%的错误源于AI为营造...
这项由弗吉尼亚理工学院主导的Infinity-RoPE研究,首次实现了AI视频生成的无限时长突破。通过Block-Relativistic RoPE、KV Flush和RoPE Cut三个核心技术,该框架让现有短视频AI...
上海AI实验室开发RePro训练方法,通过将AI推理过程类比为优化问题,教会AI避免过度思考。该方法通过评估推理步骤的进步幅度和稳定性,显著提升了模型在数学、科学和编程任务上的表现,准确率提升5-6个百分点,同时大幅减少...
上海交通大学研究团队开发的SpeContext技术,通过让小型模型充当"信息筛选秘书",解决了AI大模型在长时间推理时的性能瓶颈。该技术在云端实现24.89倍速度提升,边缘设备提升10.06倍,几乎无准确性损失,为AI复...