/
欧洲AI安全与网络滥用桌面推演的核心洞察
本报告呈现了在德国、荷兰和法国与政府高级决策者开展的三次桌面演练（TTX）成果。演练由RAND欧洲、英国AI安全研究所及米拉魁北克AI研究所联合设计，以2026年国际AI安全报告为基础。采用RAND"次日"方法论，每场演练让15至20名高级官员扮演内阁成员，应对AI驱动的网络安全危机。核心议题涵盖危机阈值界定、国家AI资产治理、开源模型滥用防范、关键基础设施加固及盟友情报共享等六大方向。
Okta高管谈CIO如何保障AI智能体的安全
数据安全与隐私是企业推进AI智能体计划的核心挑战。Dresner Advisory调查显示，超85%的受访企业认为这一议题至关重要。Okta AI安全高级副总裁Harish Peri就此接受采访，深入探讨了影子AI、智能体身份治理、授权管控及非人类身份安全等关键问题。他指出，AI智能体应被视为独立的一级身份类型，需构建细粒度权限体系，并以"授权智能体"来监管其他智能体的行为，实现实时动态授权与全生命周期管控。
面向AI生物工具的风险指数观测站（RIO）
RAND正在开发AI生物工具风险指数观测站（RIO），这是一个持续更新的自动化辅助平台，用于评估AI生物工具的滥用风险。该平台将追踪新兴工具，通过动态仪表板、预警信号为政策制定者和开发者提供实用指导。RIO还将推出"风险计算器"，帮助开发者自评风险并获取防护建议。此前RAND与CLTR合作的全球风险指数已对57种AI生物工具进行评估，其中13种被列为高风险。
Tenet Security正式成立，专注防御企业AI智能体安全威胁
前思科AI安全研究人员Barak Sternberg与Nevo Poran联合创立Tenet Security，并正式推出专为保护自主AI智能体设计的安全平台。该平台核心技术"智能体侧模拟"可在AI智能体操作生产系统前预判其行为风险，提前拦截恶意动作。公司研究发现企业实际运行的AI智能体数量往往是安全团队掌握数量的5倍，并揭示了一种名为"智能体劫持"的新型攻击手法。Tenet已获得600万美元种子轮融资。
SailPoint斥资约2亿美元收购AI智能体安全初创公司Entro
身份安全平台SailPoint宣布收购以色列AI智能体安全初创公司Entro Security，交易金额约2亿美元。Entro平台可自动盘点企业网络中的AI智能体，识别不安全存储的访问凭证，并在智能体出现异常行为时向管理员发出预警。此次收购将增强SailPoint旗下Agentic Fabric产品的能力，使其覆盖逾1000种非人类身份与智能体类型，并自动修复AI智能体访问权限过宽等安全风险。
经过验证的机器学习基础设施安全研究报告
随着前沿AI系统的快速发展，保障其运行基础设施的安全变得尤为迫切。恶意攻击者可能窃取模型权重或破坏系统运行，而失控的AI系统也可能利用自身基础设施漏洞绕过安全监控。研究人员于2026年初调查了23位专家，探讨形式化方法能否有效降低AI基础设施风险，并分析了机器学习推理与训练栈中最适合形式化验证的组件、可保障的安全属性及现有落地障碍，为AI实验室、硬件厂商及政府机构提供了初步建议与技术路线图。
AI安全准备不足已成企业AI落地最大障碍
Linux Foundation最新报告显示，AI安全准备不足已超越成本和技能短缺，成为企业采用AI的首要障碍。调查发现，安全与隐私顾虑两年内从17%飙升至48%，57%的组织存在安全与风险管理能力缺口，43%的受访者表示安全问题正阻碍AI项目产生实际价值。报告同时指出，企业正通过内部技能提升应对挑战，94%的受访者认为员工技能升级至关重要，且其综合回报显著优于外部招聘。
苹果正研发iPhone防抢夺功能，设备被夺后将自动锁定
苹果正在开发一项新的iPhone安全功能，当系统检测到设备被从用户手中抢走时，会自动锁定手机。该功能将借助加速度计等传感器识别抢夺动作，并结合配对Apple Watch的距离、所连接的Wi-Fi网络及所处位置等信息综合判断。一旦确认设备可能被盗，除自动锁屏外，还将触发与"失窃设备保护"相同的访问限制。目前该功能仍在开发中，具体发布时间尚未公布。
Okta将AI智能体安全管理扩展至Amazon Bedrock并向第三方身份提供商开放
身份和访问管理公司Okta宣布扩展其"Okta for AI Agents"平台，新增与Amazon Bedrock的集成，并支持非Okta身份系统。该平台允许企业在不依赖单一供应商的情况下，发现、接入、保护和管理AI智能体。新功能包括影子智能体发现、Bedrock智能体直接导入、访问策略执行及一键关闭异常智能体等。此外，平台还向使用微软Entra ID等其他身份提供商的企业开放，提供统一的智能体身份控制平面。
ChatGPT推出"信任联系人"功能，可在用户有自我伤害风险时发出警报
OpenAI本周推出可选安全功能"信任联系人"，允许成年ChatGPT用户指定一名亲友，当系统检测到用户存在自伤或自杀相关讨论时，将通知该联系人。若自动监控系统发现严重安全隐患，专项团队将在1小时内审核并决定是否发送通知。该功能不会共享聊天详情，仅说明大致原因。此举背景是多起AI聊天机器人与用户自伤事件相关的诉讼案件。
AI-BOM：企业应对影子AI安全威胁的新防线
随着AI应用深度融入企业供应链，传统软件物料清单（SBOM）已无法全面覆盖AI资产。AI物料清单（AI-BOM）应运而生，可追踪模型、数据集、SDK库、MCP服务器、AI代理等组件及其交互关系。思科已开源其AI-BOM工具，Palo Alto Networks和Google Wiz也在积极布局。专家指出，攻击者已利用AI入侵企业系统并篡改系统提示词，AI-BOM能实时监测配置变更，有效防范供应链攻击。
AI聊天机器人礼品卡诈骗：一个可能让你损失惨重的订阅陷阱
美国用户David Duggan因使用Claude AI聊天机器人订阅服务，发现信用卡被盗刷两笔各200美元的礼品卡费用，合计损失400美元。Reddit上多名用户反映遭遇类似欺诈。Anthropic表示正在加强防护措施，一旦识别欺诈购买将取消订阅并退款，但称无证据显示卡片信息泄露源自其平台。建议受害者立即联系银行申请拒付，并更换银行卡及登录信息。
AI厂商将安全漏洞推卸给用户，责任意识严重缺失
当AI厂商大力鼓吹企业用AI解决安全问题的同时，一旦AI自身存在漏洞，却以"符合预期行为"或"设计如此"为由推卸责任。近期研究人员发现，Anthropic、Google、Microsoft的三款AI代理工具存在可被劫持的漏洞，三家厂商虽支付了漏洞赏金，却均未发布CVE或公开安全公告。Anthropic的MCP协议被曝存在设计缺陷，威胁约20万台服务器，但Anthropic拒绝修复，称其为"预期行为"，将安全责任转嫁给开发者和企业用户。
AI安全隐患加剧，CIO对AI采用的顾虑持续上升
据Logicalis对全球逾1000名CIO的调查，超四分之一的受访者将AI视为重大风险来源，与恶意软件、勒索软件等传统威胁相当。57%的CIO表示员工不当使用AI正危及数据安全，但仅37%的企业对内部AI工具使用情况具备可视化管理能力。调查显示，近半数受访者表示希望AI"从未被发明"。此外，94%的CIO反映网络安全人才短缺，三分之一表示漏洞检测能力有所下降。
英国金融监管机构紧急评估Anthropic AI模型安全风险
Anthropic最新AI模型Claude Mythos Preview能够识别软件中潜伏数十年的安全漏洞，已发现数千个高危漏洞，涵盖主流操作系统和浏览器。英国央行、金融行为监管局及国家网络安全中心已就此展开紧急磋商。Anthropic同步推出"Project Glasswing"项目，邀请亚马逊、苹果、微软等机构参与，将该模型用于防御目的，以应对AI技术被滥用的潜在风险。
高盛CEO对Anthropic的Mythos AI风险"高度警觉"
高盛首席执行官大卫·所罗门表示，他对Anthropic最新AI模型Mythos的能力"高度警惕"，并正与该公司密切合作。Anthropic警告称，Mythos在发现和利用软件漏洞方面已超越绝大多数人类专家，可能对经济、公共安全和国家安全构成严重威胁。英国AI安全研究所确认Mythos是网络安全威胁的重大升级，能在无人干预下自主发现系统漏洞。美英监管机构均已启动相关应对措施。
跟踪骚扰受害者起诉OpenAI：ChatGPT助长施害者妄想并无视警告
一名硅谷女性起诉OpenAI，指控其前男友在长期使用ChatGPT后产生妄想，进而对其实施跟踪骚扰。诉状显示，OpenAI曾三次收到该用户存在危险的警告，其内部安全系统甚至将其账户活动标记为涉及"大规模杀伤性武器"，但公司在恢复其账户后仍未采取有效干预措施。该用户后被捕并面临多项重罪指控，案件引发外界对AI系统可能加剧心理妄想及现实伤害风险的广泛关注。
网络安全威胁转向生态系统：从AI技能恶意软件到31Tbps攻击
本周网络威胁呈现新趋势，攻击者不再仅依靠恶意软件，而是滥用企业日常使用的工具和平台。OpenClaw宣布与VirusTotal合作扫描恶意AI技能，德国机构警告Signal钓鱼攻击，AISURU僵尸网络制造31.4Tbps创纪录DDoS攻击。Notepad++托管基础设施被入侵分发后门，Docker AI助手存在关键漏洞，微软开发LLM后门检测器。攻击者正通过滥用信任机制，渗透到已获得访问权限的系统中。
CrowdStrike推出智能体安全平台，重塑企业网络安全运营
CrowdStrike在其年度Fal.Con 2025大会上发布了智能代理安全平台和智能代理安全团队两款新产品，旨在应对AI时代日益增长的安全需求。新平台基于企业图谱架构，统一企业遥测数据，配备AI优化查询语言。Charlotte AI AgentWorks提供无代码平台，让安全团队可轻松构建和部署可信安全代理。智能代理安全团队则通过AI驱动的代理直接服务客户，解决传统防御无法应对AI速度威胁的问题。
思科：微调后的大语言模型成为威胁放大器——恶意行为可能性增加22倍
思科最新研究表明，经过微调的大语言模型正在重塑网络攻击格局。这些模型可以自动化侦察、身份模仿和实时检测规避，加速大规模社会工程攻击。一些专门用于攻击的模型月租低至75美元。研究还发现，微调过程会削弱模型的安全控制，使其更容易被利用。这迫使安全领导者必须重新制定防御策略，将大语言模型视为新的攻击面来加以防护。
京公网安备 11010802021500号
