人工智能(AI)正逐步嵌入商品预测、路线规划、文件处理、仓储监控及配送等数字基础设施之中。在交通运输、物流、仓储及库存管理领域,AI被广泛应用于需求预测、路线优化、预测性维护、文件处理、仓储机器人及异常检测。这些应用虽能提升效率、可视化程度和响应能力,但同时也带来了对数据、模型、软件供应商、云服务及自动决策规则的新型运营依赖风险。
本报告由RAND欧洲科学与新兴技术项目完成,受AI安全研究所资助,重点探讨这种运营依赖如何转化为保险风险,尤其关注AI相关故障同时影响多家企业的情形。报告聚焦交通运输、物流、仓储及库存管理领域,特别关注聚合风险,即共享的AI系统缺陷、共同的服务依赖、网络攻击或监管冲击,可能在多名保单持有人和多个保险险种之间引发相关联的损失。
研究方法综合了学术与行业文献综述、AI相关事故及诉讼案例桌面调研、来自运营、法律、保险和技术背景的利益相关方访谈,以及用于测试AI相关损失如何在企业和投资组合间蔓延的结构化情景分析。
主要发现
AI在供应链中的应用将持续增长,但速度参差不齐
预计近期增速最快的是风险较低的应用场景,包括监控、预测、优化、预测性维护和文件处理,这类应用可较顺畅地融入现有数字工作流程。而自主化程度更高或以执行为导向的应用,由于涉及更高的安全、责任、系统集成及业务连续性问题,推进速度将相对较慢。
AI相关故障可能产生隐性依赖与关联保险损失
在承保层面看似相互独立的企业,实际上可能共同依赖同一模型供应商、云平台、仓储机器人系统、地图服务、物流软件或数据源。这就形成了聚合风险:一旦共享的AI系统出现缺陷、服务中断、遭受网络攻击或受到监管冲击,可能同时在多名保单持有人和多条保险业务线之间引发连锁损失。
治理与保险应对机制仍在演进之中
目前,AI在供应链中的应用在许多场景下仍以辅助为主,而非完全自主,高风险决策环节仍依赖人工判断。与此同时,AI相关故障的责任认定在运营商、开发商、供应商和集成商之间仍难以厘清。保险公司已开始通过调整保单条款、添加除外责任及逐案评估等方式加以应对,但针对AI相关供应链风险的成熟承保或覆盖方案目前尚未形成。
主要建议
针对供应链运营商及AI与技术提供商,应在AI系统成为不可或缺的运营依赖之前,建立基础管控措施,包括AI应用清单管理、有效的人工监督、数据溯源追踪、运行时监控、分阶段部署以及经过测试的应急回退程序。
针对保险公司和再保险公司,应将AI风险纳入承保与累积风险管理体系,而非将AI使用视为非此即彼的风险敞口。具体应关注:AI的应用场景、其所拥有的操作权限、涉及哪些供应商和模型、系统更新是否经过测试,以及是否建立了人工审核、监控和回退机制。
针对各国监管机构,应区分可管理的投资组合聚合风险与真正具有灾难性的AI风险,并评估现有保险和监管工具是否足以应对。如果私人市场无法消化极端的AI相关关联损失,监管机构应探讨公私联合保险机制、政府兜底安排或其他协调应对方案。
Q&A
Q1:AI在供应链中的聚合风险是什么意思?
A:聚合风险是指,多家在表面上相互独立的企业,实际上共同依赖同一AI模型供应商、云平台或物流软件等基础设施。一旦这些共享系统发生故障、遭受网络攻击或受到监管冲击,可能同时波及多名保单持有人和多条保险业务线,造成大规模关联损失,而非孤立的单一事故。
Q2:现在的保险公司是如何应对AI供应链风险的?
A:目前保险公司尚处于探索阶段,主要通过调整现有保单条款、增加针对AI相关风险的除外责任条款以及逐案评估等方式加以应对。但整体而言,针对AI相关供应链风险的成熟承保框架和覆盖方案尚未形成,行业标准仍在持续演进中。
Q3:供应链企业应该如何降低AI运营依赖带来的风险?
A:企业应在AI系统成为核心运营依赖之前,提前建立基础管控措施。具体包括:建立AI应用清单、保持有效的人工监督机制、实施数据溯源追踪、部署运行时监控系统、采用分阶段部署策略,以及制定并测试应急回退程序,确保在AI系统出现故障时能够迅速切换至备用方案。
