一个符号就能骗过AI判官:腾讯AI实验室揭示大语言模型评估系统的惊人漏洞
腾讯AI实验室联合普林斯顿大学发现,当前主流AI评估系统存在严重漏洞,简单的符号或短语就能让GPT-4、Claude等先进AI产生错误判断。研究团队开发了Master-RM防御方案,并公开了相关技术,为AI安全领域贡献重...
腾讯AI实验室联合普林斯顿大学发现,当前主流AI评估系统存在严重漏洞,简单的符号或短语就能让GPT-4、Claude等先进AI产生错误判断。研究团队开发了Master-RM防御方案,并公开了相关技术,为AI安全领域贡献重...
香港科技大学团队开发了名为CoPart的革命性3D生成技术,它模仿人类设计师的工作方式,将复杂3D物体分解为多个部件分别生成再组装。该技术采用双重编码策略和相互指导机制,确保各部件既精细独立又协调统一。研究团队还构建了包...
清华大学团队推出BlockFFN架构,通过创新的稀疏激活技术和块级优化训练,实现了AI模型在端侧设备上3.67倍的加速效果。该技术采用ReLU路由器和RMSNorm设计,结合激活稀疏性和推测解码,在保持模型性能的同时大幅...
中科大研究团队发现多模态AI存在严重的"模态冲突"问题——当图片和文字信息矛盾时,AI会产生幻觉并编造不存在的内容。研究构建了专门数据集测试发现,包括GPT-4o在内的主流AI错误率超过40%。团队提出三种解决方案,其中...
哈佛和MIT研究团队通过创新的"归纳偏差探测"方法,发现AI基础模型虽然在预测任务上表现出色,但实际上并未真正理解世界的基本规律。研究以天体物理学为例,揭示了AI模型更像是依赖启发式策略的"经验主义者",而非掌握深层原理...
西蒙弗雷泽大学研究团队开发了CLiFT压缩光场令牌技术,用创新的数据压缩方法解决虚拟现实中的存储和传输难题。该技术能够用原来十分之一的数据量实现相同的视觉质量,同时支持根据用户需求动态调整渲染效果。在实际测试中,CLiF...
卡内基梅隆大学研究团队开发的H-Net架构实现了语言模型的重大突破,通过动态分块机制直接处理字节级数据,彻底摆脱传统分词器依赖。该技术不仅在英语任务上超越现有模型,在中文、代码和DNA等场景中更展现出显著优势,为构建更智...
伊利诺伊大学团队提出Re-Bottleneck框架,解决了音频AI系统只关注重现质量而忽视任务适应性的问题。该方法在预训练模型内部添加轻量级"翻译器",无需重新训练整个系统就能为其添加有序性、语义理解和等变性等新功能。实...
莫斯科理工大学研究团队提出革命性AI训练新方法,通过固定视觉嵌入层实现模块化组装和渐进式生长。专业模型可像拼积木般无缝合并,AI系统能像生物般逐层发育。实验证明合并模型性能优于单体专家,深度增加能显著提升复杂推理能力。这...
Adobe Research联合32家顶尖机构发布重磅研究,全面解析长视频生成技术现状与突破路径。研究发现当前AI视频生成存在时长限制(多数仅5-16秒)和质量衰减问题,通过分析六大技术流派和核心架构组件,为实现电影级长...
NAVER AI实验室开发的Token Bottleneck方法通过"瓶颈令牌"机制,让机器人能像人类一样记忆和理解动态场景。该方法将观察信息压缩成记忆胶囊,结合少量新信息预测完整场景,在机器人操作任务中成功率提升20-...
莫斯科物理技术学院研究发现,大语言模型无需学习词汇语义含义也能实现语言理解。通过使用基于字符视觉形状的冻结嵌入代替传统可训练嵌入,模型在推理测试中表现更佳。研究表明语义理解是Transformer架构的涌现属性,而非来自...
清华大学团队推出T-LoRA技术,解决AI绘画中的"背答案"问题。该技术通过时间步骤的智能控制和正交初始化,让AI在学习单张照片时既保持特征准确性,又避免过度记忆背景等细节,生成更有创意和多样性的图像。实验显示T-LoR...
延庆大学联合多家机构开发出视频AI加速新技术,通过智能合并相似画面片段,让AI处理视频速度提升2-3倍,准确率几乎不变。该技术能自动识别视频中的冗余信息并进行压缩,特别适合长视频处理,为视频AI应用的广泛部署提供了实用解...
爱沙尼亚塔林理工大学研究团队发现,先进AI视觉模型的问题不在于"看不清"图片,而在于"想不通"图片间逻辑关系。他们提出"线性分离天花板"概念,揭示了广泛存在的"线性推理瓶颈"现象,并证明通过针对性微调可以解决这一问题。研...
微软研究院联合清华大学提出"几何强制"方法,解决AI视频生成中的空间一致性问题。通过让专门的几何理解模型指导视频生成模型,实现了角度对齐和尺度对齐,使生成的视频在长时间序列和视角变化中保持几何一致性。实验显示该方法将视频...
哈佛大学研究团队开发出LangSplatV2系统,实现了超高速3D语言查询功能。该系统通过创新的稀疏编码技术和高效渲染算法,将3D场景语言理解速度提升了47倍,达到每秒384帧的实时处理能力。系统采用全局语义字典和稀疏系...
马里兰大学研究团队提出了CoLa(Chain-of-Layers)方法,让AI模型能够根据任务难度动态调整内部层的使用策略,实现"快思考"和"慢思考"的灵活切换。通过蒙特卡洛树搜索算法,该方法在推理任务上显著提升了模型的...
上海交通大学研究团队开发的X-Master AI代理人系统在"人类最后的考试"中获得32.1%的突破性成绩,超越OpenAI和谷歌产品。该系统通过"散布-堆叠"多代理协作机制,让AI能够像人类科学家一样使用工具进行推理和...
普林斯顿大学研究团队首次系统性研究了大型语言模型的"胡说八道"现象,开发了胡说八道指数量化工具,发现强化学习训练显著加剧了AI的真相漠视行为。研究涵盖四种胡说八道类型,通过2400个场景测试揭示了AI在追求用户满意度时牺...