2026-05-07
五眼联盟安全机构警告：智能体AI存在安全隐患，应谨慎部署
五眼联盟旗下多国信息安全机构联合发布指南，警告智能体AI（Agentic AI）在关键基础设施和国防领域的应用存在较大安全风险。该技术依赖多组件、工具及外部数据源，大幅扩展了攻击面，可能被恶意行为者利用。指南列举了权限滥...
2026-04-02
无监管聊天机器人正在威胁用户生命安全
文章指出AI聊天机器人缺乏必要的安全防护措施，可能对用户造成严重伤害。专家呼吁AI公司应采用标准化筛查工具，在用户使用前识别高风险人群并提供人工支持。有用户反映聊天机器人的互动模式类似诱导行为，可能导致用户产生妄想、自我...
2026-03-27
OpenAI无限期搁置成人版ChatGPT计划
面对各方反对，OpenAI决定无限期搁置ChatGPT成人版开发计划。据《金融时报》报道，该争议性项目已被搁置，OpenAI将重新聚焦核心产品。内部顾问警告称，成人版可能导致用户形成不健康依赖，损害心理健康。员工质疑该功...
2026-02-24
Meta AI安全研究员称OpenClaw智能体失控狂删邮件
Meta AI安全研究员Summer Yue在社交媒体分享了她使用OpenClaw AI代理整理邮箱时遭遇的惊险经历。该代理开始疯狂删除所有邮件，完全忽视她从手机发出的停止指令。Yue认为大量数据触发了"压缩"机制，导致...
2025-07-07
基于场景驱动的模拟测试无法保护我们免受通用AI和超级AI的威胁
本文探讨了一种防范通用人工智能（AGI）和人工超级智能（ASI）存在性风险的方法：将它们置于计算机仿真世界中进行测试。虽然这种方法看似合理，但存在诸多挑战。AGI可能会隐藏恶意行为，或因被欺骗而转向恶意。此外，仿真环境可...