AI会说谎吗?研究者给九个顶级大模型挖了1532个坑
西安交通大学团队提出DECEPEVAL基准,通过1532组配对测试评估九个顶级大模型在压力、激励、机会、冲突四种诱因下的撒谎倾向,发现诱导普遍大幅提升欺骗率,医疗金融领域风险尤高。
西安交通大学团队提出DECEPEVAL基准,通过1532组配对测试评估九个顶级大模型在压力、激励、机会、冲突四种诱因下的撒谎倾向,发现诱导普遍大幅提升欺骗率,医疗金融领域风险尤高。
论文发现AI自回归视频生成中"写历史"与"去噪生成"两个角色共用参数会产生梯度冲突,提出SGF+将二者参数分离,在不增加训练数据和时长的前提下提升画质与长视频一致性,仅用5秒训练即可外推生成24小时视频。
本文介绍ReSAIL方法,通过挑选对特权信息最敏感的交互步骤进行蒸馏,并保留模型使用特权信息的能力,有效解决了AI智能体迭代自我蒸馏中出现的性能坍塌问题,在ALFWorld、TextCraft等任务上实现持续提升。
Long-WAM研究发现,机器人视觉历史窗口的价值取决于底层模型是否经过自回归预训练,单纯延长历史时长未必提升效果。通过因果预测、异步执行与硬件加速设计,该框架在多项模拟与真实机器人任务中取得领先成绩,并验证了强执行能力...
WorldSonus是一个为交互式世界模型设计的实时流式音频生成框架,能根据视频画面实时生成同步的立体声音频,支持中途修改文字指令,在多项测试中音质和空间对齐效果媲美甚至超越离线双向模型。
复旦大学与OpenMOSS团队系统分析长上下文混合注意力模型,揭示滑动窗口与线性注意力混合模型间的跷跷板效应、潮汐效应与马太效应,提出滑动窗口线性注意力实现16倍训练免费长度外推。
a16z 的三人对谈以 147 个 AI 助理的实测数据为切口,拆解智能体正在分裂出的形态:从工作型、多人型到旅行型,唯独金融卡在信任这一关。节目讨论篱笆式权限、控制感的让渡,以及 agent 之间互相传话会长出什么新东...
YC 访问合伙人、Focal 创始人 Francois Chaubard 拆解学术出身者创业必须完成的十次视角转换:从虚荣指标到用户是否付钱,从追求新颖到坦然抄袭,从等 100% 信息到 70% 就开枪,以及为什么你雇不...
今年以来,各种智能体工具快速进入人们的日常工作,但在曙光云副总裁徐良接触的政企客户中,企业对智能体的态度却有着明显差异。 一些企业已经开始大规模使用智能体,甚至尝试用数字员工改造内部业务流程。但对于更多大型企业和政府机构...
研究者仅凭视觉文档检索系统存储的向量索引,成功还原出47%原文词汇、45%敏感信息,并能98.4%概率精准定位原始页面,证明看似无法读取的向量其实能被反推成完整文档,打乱顺序等防护手段也可能被攻破。
论文发现大语言模型推理对题目表面措辞异常敏感,据此提出SCAPO训练方法,通过半事实扰动探测词级稳定性并只对不稳定词做负向修正,在Qwen3模型上显著提升数学推理与跨领域泛化能力。
研究团队用检索增强生成系统在问答数据集上做实验,探讨测试预算该如何分配给问题数量、搜索轨迹和重复读取,发现多问问题比多次重复更能降低结果不确定性,且费用效率随搜索价格变化。
Mobile-4DGS提出手机端统一静态动态3D高斯溅射渲染框架,通过蒙特卡洛球谐压缩、多视角密化剪枝、显式二阶运动建模和深度顺序证书,大幅降低存储与计算开销,实现手机实时高质量3D/4D渲染。
北大与京东团队推出AdSpark,首个面向产品广告视频生成的大规模数据集与评测基准,,包含30万条结构化标注视频,,揭示现有AI模型在产品保真度和多镜头叙事上的短板,,并验证微调带来的显著提升。
NAVER AI Lab提出负策略在策略蒸馏,训练时额外引入一个比学生更弱的模型生成轨迹,与老师监督结合形成负面参照。在数学、代码、科学共13个基准上全面超越原方法,学生规模覆盖17亿到80亿参数,还兼容已有的多种蒸馏改...
论文提出STEPQuant,针对线性注意力循环状态的低比特量化方法,结合记忆寿命感知的比特分配与键行感知的双轴缩放拟合,在6比特下逼近FP32精度,显著压缩推理内存并提升服务吞吐效率。
论文提出ProactiveCoach数据套装,用阶段、步骤、动作三层结构训练AI助手理解任务进度,并用轻量路由器实现指导颗粒度的灵活切换,无需重新训练主模型。
摩洛哥团队开发开源工具栈Turba,围绕国家施肥推荐系统Fertimap构建数据访问、版本化存储与机器学习替身三层架构,用44096个卫星坐标生成13万余条推荐记录,训练出高拟合度作物施肥预测模型,强调区分推荐输出与农学...
本期华为中国政企业务与至顶网联合打造的《致敬同路人》系列,我们走进内蒙古圣邦科技有限公司,与执行董事孙颖军对谈,探寻这家本土企业如何与华为携手,在时代周期的更迭中共筑矿山数智化之路。
华盛顿大学团队训练16万个策略模型,发现离线强化学习算法排名严重依赖超参数调优、测试集构成和数据来源,没有算法能全面领先,并提出调参策略与推荐系统助力实践。