ByteDance发现词汇表竟然也有「超量」:大语言模型的神秘增长密码
ByteDance研究团队发现了大语言模型扩展的新维度:通过扩大输入词汇表可显著提升模型性能而几乎不增加计算成本。他们提出的过度词汇化变换器将输入和输出词汇表分离,输入端使用1280万词条,让400M参数模型达到10亿参...
ByteDance研究团队发现了大语言模型扩展的新维度:通过扩大输入词汇表可显著提升模型性能而几乎不增加计算成本。他们提出的过度词汇化变换器将输入和输出词汇表分离,输入端使用1280万词条,让400M参数模型达到10亿参...
华为诺亚方舟实验室推出MMDOCIR,这是首个专门针对长文档多模态信息检索的基准测试系统。该系统能够在平均65页的复杂文档中精确定位信息,不仅理解文字内容,还能解读图表、表格等视觉元素。通过对313份真实文档的测试,研究...
上海交通大学团队通过"推理时间扩展"技术让AI学会深度思考,在医学诊断中取得突破。研究发现AI思考时间越长诊断越准确,仅用500个样本就实现6%-11%准确率提升。AI模型展现出类似医生的临床推理能力,能进行差异诊断和证...
加州大学圣克鲁兹分校等机构联合开发的PGraphRAG框架,通过构建用户中心知识图谱解决了AI个性化服务的冷启动问题。该技术不再依赖单一用户历史数据,而是利用用户相似性网络实现个性化文本生成。在12项任务测试中,PGra...
Meta团队开发出CLUE系统,这是一种无需人工标注数据就能判断图像安全问题的AI方法。该系统通过将主观安全规则客观化、智能筛选相关规则、分解复杂条件、消除判断偏见等创新技术,在测试中达到95.9%召回率和94.8%准确...
Meta研究团队开发了MR.Q算法,这是一种能够用单一参数设置处理多种不同强化学习任务的通用算法。该算法在118个测试环境中展现出优秀的综合性能,同时保持了高效率和轻量化特点。MR.Q巧妙结合了模型方法和无模型方法的优势...
谷歌DeepMind推出Streaming DiLoCo技术,通过流式同步、重叠通信和4位量化压缩三项创新,将大规模AI模型训练的带宽需求降低400倍。该方法在保持模型质量几乎不变的前提下,让普通研究机构也能负担得起超大...
上海AI实验室团队通过分析100多个多模态大语言模型在20多个基准上的表现,系统揭示了AI评测领域的三大冗余问题:基准内部维度重复、测试实例数量冗余、跨基准领域重叠。研究发现至少50%的测试题目是多余的,且模型能力越弱冗...
北京交通大学等机构联合开发出首个多图像视觉定位AI模型Migician,能像人类一样在多张图片中精确定位目标物体。该模型平均准确率达63.82%,比同类AI高出25个百分点,在自动驾驶、安防监控、医疗影像等领域具有广泛应...
田纳西理工大学研究团队通过结合强化学习和变形金刚架构,成功开发出具备"元学习"能力的AI系统。该系统能在未见过的环境中快速适应并持续改进,展现了900%的性能提升。研究证实AI可进行技能组合、适应环境变化,且对训练数据质...
伊利诺伊大学和阿里巴巴联合推出Mobile-Agent-E,这是一款革命性的自我进化手机智能助手。该系统采用分层多智能体架构,能够处理复杂的跨应用任务,更重要的是具备从经验中学习的能力。在新开发的Mobile-Eval-...
这项由北京交通大学和字节跳动联合完成的研究首次证明了AI可以仅通过观看视频就学会复杂技能。他们开发的VideoWorld系统通过观察围棋对局和机器人操作视频,不仅掌握了游戏规则,还达到了围棋5段专业水平,在机器人任务中的...
中山大学团队针对OpenAI O1等长思考推理模型存在的"长度不和谐"问题,提出了O1-Pruner优化方法。该方法通过长度-和谐奖励机制和强化学习训练,成功将模型推理长度缩短30-40%,同时保持甚至提升准确率,显著降...
上海AI实验室研究团队深入调查了12种先进视觉语言模型在自动驾驶场景中的真实表现,发现这些AI系统经常在缺乏真实视觉理解的情况下生成看似合理的驾驶解释。通过DriveBench测试平台的全面评估,研究揭示了现有评估方法的...
谷歌和香港大学研究团队提出Learn-by-interact框架,让AI智能体通过自主与环境互动来学习,核心创新是"逆向构建"机制,能将失败操作转化为有价值训练数据。在四个真实环境测试中,该方法显著提升了AI在软件编程、...
TransPixeler是由香港科技大学和Adobe研究院联合开发的AI视频生成技术,专门解决生成带透明效果(RGBA)视频的难题。该技术巧妙扩展现有视频生成模型,让AI能同时生成RGB颜色和Alpha透明度信息,避免了...
腾讯混元团队通过366组实验发现了AI大模型低精度训练的关键规律,提出Capybara缩放定律。研究揭示指数位比尾数位更重要,存在训练数据临界值现象,4-8位精度具有最佳成本效益。该成果为AI训练提供精确预测工具,有助于...
阿里巴巴研究团队开发出ProgCo方法,让AI像程序员一样生成验证程序来检查和纠正自己的答案。该方法在数学问题和指令遵循任务上表现卓越,准确率提升超过7%,同时具有比传统方法更高的计算效率,为AI自我纠错开辟了新的技术路...
小豆科技发布的Xmodel-2是一个专门针对推理任务优化的12亿参数语言模型。通过创新的张量程序架构、WSD学习率调度和数据配比优化,该模型在复杂推理和智能代理任务上表现卓越,超越了许多同规模模型。经1.5万亿token...