GVA:给大模型的记忆做一次“断舍离”,只留价值不留钥匙
论文提出 GVA 方案,只缓存分组后的 Value,用可学习矩阵现算 Key,配合共享旋转位置编码,缓存空间比 GQA 减少约 45%到 47%,3.5亿参数模型实验显示准确率与 GQA、MLA 相当。
论文提出 GVA 方案,只缓存分组后的 Value,用可学习矩阵现算 Key,配合共享旋转位置编码,缓存空间比 GQA 减少约 45%到 47%,3.5亿参数模型实验显示准确率与 GQA、MLA 相当。
LynnReal-Omni是一个统一文生视频、图像控制、编辑、长视频生成等多任务的原生多模态视频扩散框架,结合智能体3D场景控制实现稳定高保真生成,并通过轻量解码器等技术大幅压缩推理延迟。
希腊公司Kiefer历时数月打造双语语音识别系统Sophea,揭示一个模型难以同时精通希腊语与英语的容量竞争难题,并公开数据校准、模型集成与多次测量翻车的真实工程细节。
AMD最近推出了面向嵌入式开发的智能体AI(Agentic AI)助手AMD Ross。AMD Ross覆盖从架构设计、优化、调试、PCB设计、原理图审查,到软件、AI以及实际系统部署的完整流程,将AMD嵌入式工具、经过...
Strata是一个开源的本地推理引擎,跟llama.cpp、Ollama算是一类东西,负责把模型读进来,在你的硬件上跑起来,MIT协议,免费。 不同的是,它很偏科。 Strata几乎是为Qwen3.8-Flash-N...
中关村团队开源的7B基座模型ZGCM-1,靠混合注意力架构、FP8加速训练、MDP中训练等技术,以小参数量在数学推理和智能体搜索任务上媲美千亿级大模型,全流程数据代码彻底开源。
Atria团队推出744亿参数智能体模型Atria Dawn Preview,16项基准测试5项夺冠,并深入分析769条真实研发记录,揭示AI提案执行、人类掌控决策的新型人机协作模式。
KaiNinja将TRELLIS.2扩展至零件级3D生成,提出双体积O-Voxel表示解决零件接触面无法表达的问题,训练数据首次引入agent生成的3D资产,整体几何和零件质量均超越现有方案,且无需分割器。
论文提出Elo-per-token方法评测AI智能体测试时表现,发现智能体进步速度会随token增加而递减甚至跑输随机重复采样,而人类专家在长时间竞赛中持续加速进步,揭示AI持续学习能力的关键缺口。
这篇论文发现,同样的模型、同样的干净数据、同样数量的后门攻击样本,仅仅因为具体挑选哪几条数据不同,攻击成功率能从3%波动到80%。研究者提出SAILS方法,用学习到的集合评分器结合少量真实验证,高效找出最强攻击组合,比传...
本文解读谷歌团队一项研究,探讨如何让AI设计工具突破"千篇一律"的困境。通过将设计方向探索与代码生成分离,借助结构化候选方案和温度采样机制,在保持代码精确性的同时拓宽设计多样性,并在30万条真实任务中验证效果。
Occamy-1.0是Accio团队推出的35B参数co-work模型,基于Qwen3.6继续训练,通过执行导向的数据构建、多框架轨迹回放与分阶段训练,在多项办公智能体评测中以更低成本逼近甚至超越更大规模的顶级模型表现。
论文提出相对能力概念,研究语言模型预测何时能超越市场等外部预测源。通过能力门控机制按领域动态分配权重,在2357个预测问题上显著提升准确率,但发现模型自身置信度并不能可靠预示其相对优势。
伊利诺伊大学团队发现AI难以识别火灾烧毁物体,提出TRACE基准和FRM特征恢复模块,无需修图,只修正AI的内部特征表示,让检测和推理准确率大幅提升,损毁越重效果越明显。
本文介绍了一项针对泰文OCR的合成数据研究,通过可控的文档重建流水线拆解字体、排布、背景等因素的影响,并据此训练出仅用合成数据、超越Typhoon OCR 7B的泰文OCR模型Wayu-Paxa-OCR-Zero。
StepFun-Audio团队推出StepAudio 3 Gen,用离散自回归而非扩散模型统一语音合成、声音设计、唱歌、音效与音乐生成,通过RVQ Adaptor与四阶段渐进训练解决多模态融合中的能力干扰问题,在TTS和...
大语言模型调用技能时容易挑出一堆重复功能的候选。本文介绍DSR框架,用行列式点过程和查询残差核区分"真冗余"与"因相关而相似",在SkillRouter基准上显著提升多技能任务的覆盖率。
2026亚马逊云科技软件企业峰会暨Marketplace用户大会于深圳召开,汇聚全球软件高管、独立软件开发商卖家与企业买家,共同探讨Agentic AI时代的软件创新、全球业务拓展与软件采购新路径。
Nathan Lambert在对话中拆解了开放模型追赶闭源前沿的真实逻辑:算力、数据、人才三种资本构成了差距的根源,而中国实验室选择开源更多是分发与商业化的务实决策,蒸馏则是用资金换算力等价输出的有效路径,但并不等同于简...