2026-07-01
欧洲AI安全与网络滥用桌面推演的核心洞察
本报告呈现了在德国、荷兰和法国与政府高级决策者开展的三次桌面演练（TTX）成果。演练由RAND欧洲、英国AI安全研究所及米拉魁北克AI研究所联合设计，以2026年国际AI安全报告为基础。采用RAND"次日"方法论，每场演...
2026-06-26
Okta高管谈CIO如何保障AI智能体的安全
数据安全与隐私是企业推进AI智能体计划的核心挑战。Dresner Advisory调查显示，超85%的受访企业认为这一议题至关重要。Okta AI安全高级副总裁Harish Peri就此接受采访，深入探讨了影子AI、智能...
2026-06-24
面向AI生物工具的风险指数观测站（RIO）
RAND正在开发AI生物工具风险指数观测站（RIO），这是一个持续更新的自动化辅助平台，用于评估AI生物工具的滥用风险。该平台将追踪新兴工具，通过动态仪表板、预警信号为政策制定者和开发者提供实用指导。RIO还将推出"风险...
2026-06-17
Tenet Security正式成立，专注防御企业AI智能体安全威胁
前思科AI安全研究人员Barak Sternberg与Nevo Poran联合创立Tenet Security，并正式推出专为保护自主AI智能体设计的安全平台。该平台核心技术"智能体侧模拟"可在AI智能体操作生产系统前预...
2026-06-16
SailPoint斥资约2亿美元收购AI智能体安全初创公司Entro
身份安全平台SailPoint宣布收购以色列AI智能体安全初创公司Entro Security，交易金额约2亿美元。Entro平台可自动盘点企业网络中的AI智能体，识别不安全存储的访问凭证，并在智能体出现异常行为时向管理...
2026-06-05
经过验证的机器学习基础设施安全研究报告
随着前沿AI系统的快速发展，保障其运行基础设施的安全变得尤为迫切。恶意攻击者可能窃取模型权重或破坏系统运行，而失控的AI系统也可能利用自身基础设施漏洞绕过安全监控。研究人员于2026年初调查了23位专家，探讨形式化方法能...
2026-05-28
AI安全准备不足已成企业AI落地最大障碍
Linux Foundation最新报告显示，AI安全准备不足已超越成本和技能短缺，成为企业采用AI的首要障碍。调查发现，安全与隐私顾虑两年内从17%飙升至48%，57%的组织存在安全与风险管理能力缺口，43%的受访者表...
2026-05-27
苹果正研发iPhone防抢夺功能，设备被夺后将自动锁定
苹果正在开发一项新的iPhone安全功能，当系统检测到设备被从用户手中抢走时，会自动锁定手机。该功能将借助加速度计等传感器识别抢夺动作，并结合配对Apple Watch的距离、所连接的Wi-Fi网络及所处位置等信息综合判...
2026-05-16
Okta将AI智能体安全管理扩展至Amazon Bedrock并向第三方身份提供商开放
身份和访问管理公司Okta宣布扩展其"Okta for AI Agents"平台，新增与Amazon Bedrock的集成，并支持非Okta身份系统。该平台允许企业在不依赖单一供应商的情况下，发现、接入、保护和管理AI智...
2026-05-13
ChatGPT推出"信任联系人"功能，可在用户有自我伤害风险时发出警报
OpenAI本周推出可选安全功能"信任联系人"，允许成年ChatGPT用户指定一名亲友，当系统检测到用户存在自伤或自杀相关讨论时，将通知该联系人。若自动监控系统发现严重安全隐患，专项团队将在1小时内审核并决定是否发送通知...
2026-05-07
AI-BOM：企业应对影子AI安全威胁的新防线
随着AI应用深度融入企业供应链，传统软件物料清单（SBOM）已无法全面覆盖AI资产。AI物料清单（AI-BOM）应运而生，可追踪模型、数据集、SDK库、MCP服务器、AI代理等组件及其交互关系。思科已开源其AI-BOM工...
2026-05-07
AI聊天机器人礼品卡诈骗：一个可能让你损失惨重的订阅陷阱
美国用户David Duggan因使用Claude AI聊天机器人订阅服务，发现信用卡被盗刷两笔各200美元的礼品卡费用，合计损失400美元。Reddit上多名用户反映遭遇类似欺诈。Anthropic表示正在加强防护措施...
2026-04-20
AI厂商将安全漏洞推卸给用户，责任意识严重缺失
当AI厂商大力鼓吹企业用AI解决安全问题的同时，一旦AI自身存在漏洞，却以"符合预期行为"或"设计如此"为由推卸责任。近期研究人员发现，Anthropic、Google、Microsoft的三款AI代理工具存在可被劫持的...
2026-04-16
AI安全隐患加剧，CIO对AI采用的顾虑持续上升
据Logicalis对全球逾1000名CIO的调查，超四分之一的受访者将AI视为重大风险来源，与恶意软件、勒索软件等传统威胁相当。57%的CIO表示员工不当使用AI正危及数据安全，但仅37%的企业对内部AI工具使用情况具...
2026-04-14
英国金融监管机构紧急评估Anthropic AI模型安全风险
Anthropic最新AI模型Claude Mythos Preview能够识别软件中潜伏数十年的安全漏洞，已发现数千个高危漏洞，涵盖主流操作系统和浏览器。英国央行、金融行为监管局及国家网络安全中心已就此展开紧急磋商。A...
2026-04-14
高盛CEO对Anthropic的Mythos AI风险"高度警觉"
高盛首席执行官大卫·所罗门表示，他对Anthropic最新AI模型Mythos的能力"高度警惕"，并正与该公司密切合作。Anthropic警告称，Mythos在发现和利用软件漏洞方面已超越绝大多数人类专家，可能对经济、公...
2026-04-13
跟踪骚扰受害者起诉OpenAI：ChatGPT助长施害者妄想并无视警告
一名硅谷女性起诉OpenAI，指控其前男友在长期使用ChatGPT后产生妄想，进而对其实施跟踪骚扰。诉状显示，OpenAI曾三次收到该用户存在危险的警告，其内部安全系统甚至将其账户活动标记为涉及"大规模杀伤性武器"，但公...
2026-02-10
网络安全威胁转向生态系统：从AI技能恶意软件到31Tbps攻击
本周网络威胁呈现新趋势，攻击者不再仅依靠恶意软件，而是滥用企业日常使用的工具和平台。OpenClaw宣布与VirusTotal合作扫描恶意AI技能，德国机构警告Signal钓鱼攻击，AISURU僵尸网络制造31.4Tbp...
2025-09-19
CrowdStrike推出智能体安全平台，重塑企业网络安全运营
CrowdStrike在其年度Fal.Con 2025大会上发布了智能代理安全平台和智能代理安全团队两款新产品，旨在应对AI时代日益增长的安全需求。新平台基于企业图谱架构，统一企业遥测数据，配备AI优化查询语言。Char...
2025-04-08
思科：微调后的大语言模型成为威胁放大器——恶意行为可能性增加22倍
思科最新研究表明，经过微调的大语言模型正在重塑网络攻击格局。这些模型可以自动化侦察、身份模仿和实时检测规避，加速大规模社会工程攻击。一些专门用于攻击的模型月租低至75美元。研究还发现，微调过程会削弱模型的安全控制，使其更...