随着银行业加快AI应用步伐，对治理和负责任使用AI的关注度正在上升。市场研究机构Evident周二发布的年度报告对全球50家最大金融机构进行了调查，结果显示，除一家银行外，所有受访银行均已建立负责任AI使用原则，而这一数字在2023年仅为16家。
超过三分之二的受访银行表示，他们为AI系统制定了额外的详细管控措施，包括对系统输入和输出内容的检查、对可使用工具的限制，以及系统上线后的持续监督。
Evident联合创始人兼联合首席执行官亚历山德拉·穆萨维扎德通过邮件告诉CIO Dive："领先的银行会统一制定标准化的防护机制、权限管理、评估协议、监控要求和升级机制，然后将这些直接嵌入到企业级AI平台和架构中。"
为支持AI应用场景，各银行正快速引入专业人才，将资源集中用于赋能使用AI的员工，并加强保护信息安全的管控措施。
去年银行业AI应用的推进速度约为前三年的三倍，表明银行正逐步进入AI应用的成熟阶段。参与此次指数调查的50家银行自2021年以来共报告了超过1100个AI应用场景。
在人才、创新、领导力和透明度等方面的评估中，摩根大通在Evident成熟度指数中排名第一，其后依次是Capital One、加拿大皇家银行和澳联邦银行。报告发现，尽管公众对日益强大的AI系统的担忧在增加，但该指数中排名领先的银行已在严格管控和完善治理方面进行了投入。
报告发现，随着银行扩大AI应用规模，它们更加关注将AI深度融入工作流程，而非追求普遍采用。报告AI项目投资回报率的银行数量为12家，高于去年的8家。
软件实施和咨询工具是今年银行报告中提到的一些能带来价值的AI应用场景。美国银行、富国银行、花旗集团、纽约梅隆银行、摩根大通等机构都详细介绍了各自在机构内部部署AI的方式。
Evident报告发现，前50家银行的AI治理人才同比增长33%，这表明行业内安全问题依然是重中之重。银行也在努力将AI应用于风险缓释策略——根据埃森哲的数据，超过半数银行IT高管预计AI智能体将完全融入风险管理、合规与审计职能，以及欺诈检测和交易监控领域。
穆萨维扎德在邮件中告诉CIO Dive，治理和安全是银行科技高管的首要关切，因为AI运行在一个高度监管、后果重大且建立在信任基础上的系统中。该技术可用于辅助信贷、欺诈、支付、交易、财务咨询、客户数据和金融服务等方面的决策。
她表示："因此，错误可能直接转化为财务损失、客户损害、监管违规或系统性与声誉风险。"
穆萨维扎德在报告中表示，从AI应用中节省出时间的银行，往往会将这些时间重新投入到客户服务、产品开发以及处理积压工作中。她还补充说，在Evident指数中得分较高的银行，专注于AI的实际应用及其影响，并增加了诸如AI科学家、AI产品经理、工程师和风险专家等人才，以支撑这一目标的实现。
Q&A
Q1：有多少银行建立了负责任AI使用原则？
A：根据Evident调查的50家全球最大金融机构，除一家银行外，所有受访银行均已建立负责任AI使用原则，而2023年这一数字仅为16家。
Q2：哪些银行在AI成熟度指数中排名靠前？
A：在Evident的成熟度指数评估中，摩根大通排名第一，其后依次是Capital One、加拿大皇家银行和澳联邦银行。
Q3：银行业AI治理人才增长情况如何？
A：根据Evident报告，前50家银行的AI治理人才同比增长33%，反映出安全问题在行业内依然是重中之重。
