LIVE INDEX / 最新文章
拼图游戏的隐藏危机:上海人工智能实验室研究发现视觉语言模型能将分散的图像碎片重组理解

拼图游戏的隐藏危机:上海人工智能实验室研究发现视觉语言模型能将分散的图像碎片重组理解

上海人工智能实验室的研究揭示了视觉语言模型具有"视觉拼接"能力,可以整合训练中看到的分散图像碎片。研究者将图像切分成不同粒度的碎片进行测试,发现模型不仅能根据完整图像识别相关信息,还能通过纯文本引用进行推断。这种能力虽有...

安全与可信的智能代理时代:向量研究所发布LLM多智能体系统信任、风险与安全管理全面综述

安全与可信的智能代理时代:向量研究所发布LLM多智能体系统信任、风险与安全管理全面综述

这份来自向量研究所、康奈尔大学和格罗宁根大学研究团队的综述分析了基于大语言模型的代理型多智能体系统中的信任、风险和安全管理框架(TRiSM)。研究系统地探讨了代理型AI从概念基础到安全挑战,提出了包含治理、可解释性、模型...