多模态大模型训练里,那个被忽略的"连接器"到底在做什么
研究发现多模态大模型的投影器训练本质是粗粒度分布对齐,仅需少量数据即可,并提出PORTAL方法,无需图文对和梯度训练,仅用统计信息通过最优传输构建投影器,效果媲美传统训练流程。
研究发现多模态大模型的投影器训练本质是粗粒度分布对齐,仅需少量数据即可,并提出PORTAL方法,无需图文对和梯度训练,仅用统计信息通过最优传输构建投影器,效果媲美传统训练流程。
本文解读StartLux-Decision决策模型家族,涵盖Instant与AutoThink双模式设计、RLCD?强化学习方法、DecisionPivot对照基准以及策略感知校准技术,揭示AI决策模型如何学会按需思考、...
本文研究如何将大语言模型生成的知识指导接入视觉问答模型,对比浅层决策级融合与深层注意力矩阵注入两种策略,发现数据稀缺场景下浅融合效果显著优于深融合,挑战了"融合越深越好"的普遍假设。
企业需要建立清晰的业务规则和权限管理机制,确保AI的使用可信、安全。更重要的是,AI需要理解数据在具体业务场景中的含义,以及数据背后的业务逻辑。
NYU名誉教授Gary Marcus在Big Technology播客中拆解了Anthropic 1.4万亿美元IPO的八九条隐忧:近9000亿美元负债、token maxing退潮后营收增速骤降、中国模型的低价竞争,以...
Hugging Face 联合创始人 Thomas Wolf 与 ServiceNow AI 平台安全高级副总裁 Amanda Grady 在 NVIDIA AI Podcast 中,结合 Hugging Face 遭遇...
我们用联想ThinkStation PGX,在本地部署MiniMax H3与ComfyUI,完成了一条包含12个镜头、时长约30秒的科幻短片。
乍看之下,PCI Express 6.0(或称PCIe Gen 6,以下简称PCIe 6)虽然相较PCIe 5的带宽翻了倍,但奈奎斯特频率(Nyquist Frequency)和波特率(Baud Rate)没变,已有电路
RuleTrek是一个评估AI智能体在复杂真实场景中识别和应用规则能力的多领域基准测试,涵盖税务、数据库等六大领域。测试11个前沿大模型发现,即便是表现最好的模型,在规则识别、推演和端到端推理任务上的得分也普遍偏低,暴露...
SwarmRSI是一个让AI科研智能体组成蜂群协同进化的框架,通过反馈引导突变、互补重组和递归演化机制解决失败归因不清、有用代码被埋没的问题,在三大科学基准上取得领先表现,其生成的程序还被生物学家实际复现用于免疫学研究。
本文介绍JSSA方法,通过联合查询键低维投影与无需数据搬运的专用计算核,解决长上下文大模型解码中的内存带宽瓶颈,在不训练模型的情况下实现最高6.43倍解码加速,且推理准确率接近完整注意力。
论文提出Glance Forcing方法,仅用一条PF-ODE轨迹即可训练出超越全量数据基线的自回归视频生成模型,通过双LoRA专家拆分高低噪声阶段任务,训练成本降低上万倍,VBench得分反超传统方法。
Reddit求推荐帖常有多人回复各推不同的电影,传统强化学习训练方法把每个回复者拆成单独训练样本,导致信号被回复者身份主导。论文提出ReMaRk,合并所有回复者答案统一打分,用更少计算量达到更好推荐效果,并在问答任务上验...
本文介绍SYNC方法,让不同语言模型通过共享词汇编号而非向量直接传递事实,接收方用自身拟合的内部方向理解信息,早层写入效果远超中间层,跨9个新模型验证成功率达72%-98%。
StreamErase是一套视频物体擦除新方案,通过三阶段蒸馏把慢速双向扩散模型压缩成单步因果生成器,结合注意力锚点机制,实现26FPS实时擦除并支持无限长视频流式生成,速度提升超40倍。
本文介绍LLM-to-Flow Distillation方法,利用大语言模型作为自适应教师,通过生成渐进式子目标课程并给出相对偏好判断,无需代理奖励即可指导分子和多肽生成模型实现自然语言驱动的科学发现对齐。
AgentSafeEvo提出让攻击者与防御智能体在多轮工具交互中共同进化的强化学习框架,并用可学习性加权动态调整训练重心,在多项安全和通用能力基准上大幅提升大语言模型智能体的攻击抵抗力与任务完成表现。
AI把算力需求推到了前所未有的高度,但需求并没有均匀落在每个市场。11月17日的三季度业绩说明会上,长鑫科技给出的不只是一份营收1187亿元、环比增长19%的成绩,更是一张按场景切分的产品地图:服务器、汽车、端侧AI,各...