据8x8公司周二发布的一份报告显示,超过半数的全球企业科技领导者表示,在其组织内部,CIO(首席信息官)要为AI失误承担责任。这家商业通信公司在7月对美国、英国、法国、澳大利亚和爱尔兰的2500多名科技高管进行了调查,得出了这一结果。

8x8的调查发现,与其他部门负责人相比,CIO已跃升为AI输出问题的头号责任人,相比之下,只有16%的客户服务负责人和6%的法务负责人表示他们会在AI出错时承担责任。

8x8首席执行官塞缪尔·威尔逊在接受CIO Dive采访时通过邮件表示,治理和文档记录流程的碎片化,导致CIO对公司AI使用情况的掌控力不足。威尔逊说:"需要有更多结构性保障措施,确保CIO真正了解AI在事件发生前、发生中或发生后究竟做了什么。"

尽管企业对AI系统缺乏信任,但大多数企业仍在推进AI应用,将其嵌入整个企业的核心业务流程中,即便他们对这项技术究竟归谁负责并不明确。

成功采用AI的压力正沉重地压在科技领导者身上——根据Writer公司4月的一项调查,61%的受访者表示,如果他们未能带领组织完成AI转型,就担心会失去工作。

自企业开始部署AI技术以来,AI的责任归属问题一直是困扰各组织的痛点。Altimetrik公司4月的一份报告发现,AI应用成败的责任大多落在CIO、CTO或其他科技领导者身上。

威尔逊表示,尽管CIO要承担责任,但他们往往对公司使用的所有工具和流程缺乏全面了解,只能依靠他人及时告知情况。此外,他们通常也无权决定供应商选择,也无法主导建立审计追踪机制。

他说,许多公司在看待责任问题时存在误区。

威尔逊说:"他们只检查AI是否给出了正确答案,但没人去检查它为什么会得出这个答案。只看结果的CIO,就像在读一本没有章节的书的最后一页。你无法为一个你根本无法重新推演的决策辩护。"

如果CIO要为此承担责任,他们可以采取一些措施来获得对AI流程更大的掌控权。威尔逊表示,领导者应与IT团队合作,对AI供应商进行持续的IT和安全审查。

他说:"CIO还应该让团队对供应商更加强硬。如果供应商无法展示其模型的实时运行情况,那就等于是在让你签字放弃责任追究权,却不给你保留追责所需的工具。"

威尔逊补充说,科技领导者还可以与IT、法务、合规部门以及部署该技术的业务部门的负责人共同组建一个委员会,从而在问题发生之前就明确责任归属。他表示,质量管理已经是企业实践中数十年的组成部分,类似的流程也可以应用于AI智能体。

Q&A

Q1:为什么CIO会成为AI失误的主要责任人?

A:调查显示超过半数的企业科技领导者认为CIO要为AI错误负责,这一比例远高于客户服务(16%)和法务(6%)等其他部门负责人。这与治理流程碎片化、CIO对AI使用缺乏全面掌控力有关。

Q2:CIO在AI责任问题上面临哪些实际困难?

A:CIO常常对公司使用的AI工具和流程缺乏全面可见性,需要依靠他人告知情况,而且通常无权选择供应商或建立审计追踪机制,这使得他们很难为无法重新推演的决策承担责任。

Q3:企业该如何解决AI责任归属不清的问题?

A:科技领导者可以联合IT、法务、合规部门及业务部门组建委员会,提前明确责任归属;同时要求供应商展示模型实时运行数据,并对AI供应商进行持续的安全审查,将传统质量管理经验应用到AI智能体管理中。

CIO DIVE