挑选最强的毒药:如何用更聪明的方式攻破大模型
这篇论文发现,同样的模型、同样的干净数据、同样数量的后门攻击样本,仅仅因为具体挑选哪几条数据不同,攻击成功率能从3%波动到80%。研究者提出SAILS方法,用学习到的集合评分器结合少量真实验证,高效找出最强攻击组合,比传...
这篇论文发现,同样的模型、同样的干净数据、同样数量的后门攻击样本,仅仅因为具体挑选哪几条数据不同,攻击成功率能从3%波动到80%。研究者提出SAILS方法,用学习到的集合评分器结合少量真实验证,高效找出最强攻击组合,比传...
本文解读谷歌团队一项研究,探讨如何让AI设计工具突破"千篇一律"的困境。通过将设计方向探索与代码生成分离,借助结构化候选方案和温度采样机制,在保持代码精确性的同时拓宽设计多样性,并在30万条真实任务中验证效果。
Occamy-1.0是Accio团队推出的35B参数co-work模型,基于Qwen3.6继续训练,通过执行导向的数据构建、多框架轨迹回放与分阶段训练,在多项办公智能体评测中以更低成本逼近甚至超越更大规模的顶级模型表现。
论文提出相对能力概念,研究语言模型预测何时能超越市场等外部预测源。通过能力门控机制按领域动态分配权重,在2357个预测问题上显著提升准确率,但发现模型自身置信度并不能可靠预示其相对优势。
伊利诺伊大学团队发现AI难以识别火灾烧毁物体,提出TRACE基准和FRM特征恢复模块,无需修图,只修正AI的内部特征表示,让检测和推理准确率大幅提升,损毁越重效果越明显。
本文介绍了一项针对泰文OCR的合成数据研究,通过可控的文档重建流水线拆解字体、排布、背景等因素的影响,并据此训练出仅用合成数据、超越Typhoon OCR 7B的泰文OCR模型Wayu-Paxa-OCR-Zero。
StepFun-Audio团队推出StepAudio 3 Gen,用离散自回归而非扩散模型统一语音合成、声音设计、唱歌、音效与音乐生成,通过RVQ Adaptor与四阶段渐进训练解决多模态融合中的能力干扰问题,在TTS和...
大语言模型调用技能时容易挑出一堆重复功能的候选。本文介绍DSR框架,用行列式点过程和查询残差核区分"真冗余"与"因相关而相似",在SkillRouter基准上显著提升多技能任务的覆盖率。
Nathan Lambert在对话中拆解了开放模型追赶闭源前沿的真实逻辑:算力、数据、人才三种资本构成了差距的根源,而中国实验室选择开源更多是分发与商业化的务实决策,蒸馏则是用资金换算力等价输出的有效路径,但并不等同于简...
Scale AI 创始人 Alexandr Wang 在 Y Combinator 访谈中提出:AI 正让智能和执行力变得充裕,这意味着创业与进步的真正瓶颈,将从"谁更聪明""谁执行力强"转移到"谁对未来有更清晰的愿景与...
论文研究如何在反馈稀缺时,把用户提示智能路由给多个大语言模型中最优的一个,提出全信息与bandit两种设置下的在线学习算法,并给出理论遗憾值保证与实验验证。
七人团队自研五套技术系统与环境数据引擎,训练出网络安全能力对标顶尖模型的开源检查点,在CyberGym等测试集上大幅超越基座模型,证明小团队也能做前沿网络安全AI后训练。
论文提出PLC-DPO方法,将偏好数据标签视为干净、反转、平局三种隐藏状态,用策略与参考模型的边际信号动态判断并修正训练方向,在57个模型数据集组合中平均胜率达60.5,显著优于传统DPO及现有鲁棒方法。
论文提出COBRA-Skills框架,用上下文赌博机挑选待测试技能,结合三种证据驱动的进化操作持续更新技能池,在六个AI代理任务上以更低成本取得比现有方法更高的性能提升。
论文提出SAS方法,通过将选择器分数以对数形式注入注意力softmax,让语言建模损失直接端到端训练稀疏注意力选择器,摆脱了传统蒸馏训练的排序错位问题,在推理、长文本理解和智能体任务上全面超越现有方法。
Instinct凭短信式界面走红,获100亿美元估值,与OpenAI的Dots和Meta的Muse同台竞争,未来或转向收费与广告。
The Verge记者实测Alexa Plus一年,称其智能家居控制、语音理解和响应速度明显提升,但广告泛滥、记忆与日程能力不可靠,个人助理功能仍不成熟。
这篇论文搭建了受控实验框架,研究图像分词器在统一自回归多模态模型中与文字联合训练的行为,发现任务损失需分别分析,重建质量与多模态可学习性可能背离,图像token空间甚至会影响文字建模难度。
这篇论文指出,过去用浏览量衡量实体冷门程度并不准确,提出结合维基数据结构指标重新定义稀有实体,并设计了一套让视觉语言模型边推理边检索维基百科的框架,在MERLIN多语言基准上超越现有最优方法6.9%,冷门实体切片上提升最...
NVIDIA联合欧洲多家软件与基础设施合作伙伴,在英国、法国、意大利、比利时等地部署基于Cosmos、Nemotron等模型的AI智能体与数字孪生系统,覆盖能源管理、交通规划、市民服务等场景,法国Cote-d'Or省已实...