经过多年令人振奋的新产品发布和推广后，AI领域最具影响力的企业如今开始公开争论这项技术的发展速度是否过快。
Anthropic首席执行官达里奥·阿莫迪呼吁减缓前沿AI的开发速度，而OpenAI则支持采取更强有力的安全措施。英伟达首席执行官黄仁勋和Meta首席执行官马克·扎克伯格分别对协调放缓AI发展的呼声提出了反对意见。这场争论重新唤起了一些关于AI最令人担忧的警告，其中包括对日益强大的系统最终可能变得难以被人类控制，甚至可能导致人类文明终结的担忧。
这些警告的影响范围已远远超出了那些开发前沿模型的公司；员工、董事会成员和客户接触到的都是同样的新闻标题。尽管大多数组织内部部署的AI在本质上要简单得多，主要用于总结文档、编写代码或自动化工作流程等任务，但这种恐惧依然真实存在。
这种双重性给CIO带来了一个棘手的问题：当技术的顶尖开发者们本身都在AI风险问题上存在分歧时，CIO该如何让员工对组织的AI战略产生信心？
让不确定性变得可管理
答案并不需要假装这些不确定性不存在。对CIO而言，建立对AI的信心意味着向员工、高管团队和董事会提供证据，证明即使技术本身仍存在不确定性，组织依然能够做出负责任的决策。
Linthicum Research创始人、德勤前首席云战略官戴维·林蒂库姆表示："CIO可以承诺的是流程：受管控的部署、人工监督、持续监测，以及对已知和未知事项的透明沟通。他们不应该承诺的是结果，比如AI永远不会出错、永远不会被滥用，或者其未来行为可以预测。"
对AI本身的信心和对使用AI的组织的信心之间存在重要区别。CIO无法可信地承诺AI系统永远不会出现意外行为——他们也不应该这样承诺。试图提供这种确定性反而会让组织在出现问题时更加脆弱。
林蒂库姆说："董事会不需要完美，他们需要知道风险已被识别、有人负责且得到管理。要承诺的是尽职调查、防护机制和问责制，而不是确定性。"
这种方法要求展示当组织的假设发生变化时会如何应对。IT解决方案提供商VLCM的技术领导顾问、前CIO尼尔·尼科莱森表示，企业应该比传统企业风险更频繁地重新评估其AI风险。企业风险管理评估可能每年进行一次，而企业AI评估可能需要每两个月或每季度进行一次。
这种更频繁的评估流程为CIO提供了具体的展示依据。与其向董事会声称组织拥有负责任的AI战略，他们可以展示这一战略如何随着模型、应用场景和风险的变化而不断演进。
尼科莱森说："AI在快速变化，相关技术和实践也在快速变化。当组织能够跟上这些变化，并拥有评估这些变化及其影响的可靠流程时，信心就会随之建立。"
同样的原则也适用于出现问题的情况。林蒂库姆表示，组织应该进行诚实的事后总结，并对所学到的经验教训保持透明。
他说："应该表达'我们将如何发现并应对意外情况'，而不是'不会有意外情况发生'。"
用实际行动展示负责任的AI
政策和框架固然重要，但如果没有人能够展示这些政策如何影响实际决策，它们就很难成为负责任行为的证据。
这在AI部署实践中已经成为一个真实的担忧。安永近期针对年营收至少10亿美元企业的202名美国高级AI决策者进行的调查发现，"尽管98%的受访企业都制定了正式的AI治理政策，但大约一半（47%）的受访者表示，其组织此前在进行紧急部署时并未遵循AI治理流程。"
这些数据揭示了一个可信度缺口：拥有一项政策并不必然证明组织在情况变得棘手时会遵循这项政策。
AI合同管理平台Sirion的总裁兼联合创始人坎蒂·普拉巴表示，CIO应该做好准备，展示其负责任AI战略所产生的实际决策。
她说："负责任的AI必须体现在你做出的每一个决策中，而这些决策都应该是可解释的。"
这可能意味着记录哪些AI应用场景获得批准、哪些在审查后经过修改、哪些被拒绝。这也可能意味着展示在哪些地方增加了人工监督、在哪些地方将敏感数据排除在系统之外，或在哪些地方为解决风险而放慢了部署速度。
跟踪决策随时间演变的过程是展示有效监督的另一种方式。林蒂库姆建议保留AI治理的具体证据，包括风险评估、测试结果、事件记录和供应商尽职调查，以支撑更广泛的AI责任声明。
让"否"变得可见
多位专家还建议追踪那些未能进入部署阶段的AI项目，认为这可以成为AI战略被审慎管理的最清晰信号之一。
林蒂库姆说："信任建立在可见的自我约束之上。"
他认为，CIO应该愿意强调那些因未达到组织标准而被撤回的AI部署项目："那些'否'的故事才是你最有价值的沟通资产。"
他举例说，比如一项因隐私顾虑而被否决的内部人脸识别提案，或一个因质量下降而被撤下的客户服务机器人。这些决策能让董事会成员——或员工——看到组织并非仅仅因为技术可用就一定要部署AI。
普拉巴从决定AI应该用在何处这一角度出发，也提出了类似观点。她说，如果现有技术已经能有效解决问题，那么加入AI可能会带来不必要的复杂性和风险。因此，负责任的AI也包括能够解释公司在哪些地方主动选择不使用AI。
对于正在观察AI如何介入其工作的员工来说，这一点尤为重要。一个完全由已批准部署项目组成的战略，可能看起来像是AI不可避免的扩张，最终甚至可能取代人类的角色。而一个包含了明确记录的"不部署AI"决策的战略，则能让重要员工对自己在公司中的位置感到安心。
通过这种自我约束，传递出的信息是：AI必须在工作流程中赢得自己的位置。
让分歧发挥作用
组织信心还取决于当组织内部人员对某项AI决策产生分歧时会发生什么。
一些分歧是不可避免的：工程师可能发现某项业务领导者认为可以承受的技术风险；员工可能会质疑某个系统对他们工作的影响；高管可能看到一个机会，而其他人认为这个机会伴随的风险过大。
林蒂库姆表示，组织应该让所有参与AI系统的人都能够提出这些担忧，而不仅仅是负责该技术的高管。
他建议设立一个拥有暂停部署权限的跨职能AI审查小组。相关担忧应被迅速确认，依据既定标准进行评估，并以书面形式给予回应，即便最终的答复是组织并不认同这些担忧。
林蒂库姆说："以可见且尊重的方式处理分歧是一种优势；而压制分歧则会以新闻曝光的方式泄露出来。"
这并不意味着每一个反对意见都应拥有否决权。尼科莱森建议，AI决策需要明确的责任归属，并配备一套解决分歧的既定流程。他表示，他将AI安全视为企业风险管理的延伸，这意味着组织需要在做出决策之前，依据其整体风险承受能力来权衡相互竞争的各种担忧。
最有效的方法可能是将这两种思路结合起来。员工需要知道提出担忧会得到真正的重视，而组织也需要明确谁最终有权决定下一步的行动。
普拉巴关于可解释决策的观点在这里同样适用：一项决策并不会因为所有人都认同它而变得更可信；它变得更可信的原因在于，组织能够解释自己是如何得出这一决策的，以及有哪些证据支持了这一决策。
信心来自于已展示出的判断力
尽管当前许多讨论都围绕着AI未来的理论性应用展开，但总会有某些令人担忧的AI新闻标题最终被证明与企业自身相关。
尼科莱森表示，CIO应该能够解释某项特定进展是否适用于自己所在的环境，说明组织已经采取了哪些措施来防止同类问题发生，并详细说明从该事件中学到了什么。如果某个新闻标题并不适用，CIO也应该能够解释原因。
AI行业将继续围绕这项技术应该以多快的速度发展，以及多大的风险是可以接受的这些问题展开争论。CIO无法为自己的组织解决这些争论，更无法为那些正在构建前沿模型的公司解决这些争论。但他们可以展示自己的组织在面对这种不确定性时是如何做出决策的。
Q&A
Q1：为什么CIO现在面临新的AI信任问题？
A：因为AI领域的顶尖公司和领导者本身对AI发展速度和风险存在公开分歧，这种不确定性传递给了员工、董事会和客户，让CIO难以简单地为组织的AI战略建立信心。
Q2：CIO应该如何向董事会证明AI是被负责任地管理的？
A：CIO应该展示具体的治理证据，比如风险评估记录、测试结果、被拒绝或修改的AI项目案例，而不是空泛地承诺AI永远不会出错，重点是证明组织拥有识别和管理风险的可靠流程。
Q3：企业内部对AI决策出现分歧时应该怎么处理？
A：建议设立跨职能的AI审查小组，赋予其暂停部署的权限，确保任何担忧都能被迅速评估并以书面形式回应，即使最终结论是不认同这些担忧，公开透明地处理分歧比压制分歧更有利于建立信任。
