纽约消息——摩根大通一直在加速推进AI应用，不断扩展其企业级AI平台LLM Suite，目前已支持1000个业务应用程序。但在全球首席信息官洛里·比尔看来，安全始终是首要考量。
比尔在周四举行的Evident AI研讨会上发表演讲时表示："我们必须确保安全性，以及我们如何管理风险，始终处于我们所做一切工作的核心位置。"
比尔的这番言论是在首席执行官杰米·戴蒙表达了对失控智能体的担忧、以及该银行采取措施禁止外部智能体在其系统环境中运行之后发表的。
在整个金融服务行业，领导者们都在努力应对AI带来的安全影响，尤其是随着该技术不断演进、智能体数量激增。高盛首席信息官马尔科·阿根蒂表示，让智能体符合企业标准和政策仍是首席信息官们面临的一项关键挑战。
他说："你必须接受这样一个事实：任何智能体都可能出现不当行为。它们不是确定性机器，而是随机性机器。"
比尔表示，技术领导者需要理解智能体在业务环境中运行所带来的风险。她指出，诸如身份与访问管理、特权访问控制以及环境隔离等基础技术控制措施，都需要达到"业界最佳水平"。技术领导者还需要考虑，"在将软件从确定性世界转向非确定性世界的过程中，安全控制措施会开辟出新的风险路径"。
比尔说："我们将从一个核心的智能体构建平台开始。"这样可以将开发工作限定在可控范围内以管理风险，并允许以自主的方式大规模实施控制措施。她表示，要实时、动态地实施防护机制和评估，存在一定的复杂性，这是该银行正在努力推进的工作。
她说："现在是确保恰当平衡风险与创新取舍的最重要时刻之一。我们希望加快步伐推进，但有时也必须暂缓脚步，以便将控制措施落实到位。技术发展的速度已经超过了我们管理它的能力。"
这并非摩根大通第一次为落实控制措施而暂停某项技术的使用。
比尔表示，2022年ChatGPT刚出现时，摩根大通就对其实施了封锁，原因是人们"并不了解"潜在数据泄露的风险。这家银行业巨头在其私有云中、基于微软Azure搭建了自己的生态系统，以便让数据科学家能够使用相关技术。这最终促成了其LLM Suite平台的诞生，比尔表示，目前该平台已有20万名员工在积极使用。
比尔说，LLM Suite目前已具备完成编排式、多任务步骤的能力，这一切都在"一个高度安全的摩根大通专属生态系统中进行，我们对自身数据以及数据的使用方式都充满信心"。
尽管高度重视安全，但AI成本管理以及实现业务价值同样是比尔关注的重点。她表示，编码助手占据了该银行Token支出的大部分。
比尔表示，摩根大通已经从单纯统计应用场景数量，转向以企业自身负责的50项战略举措来衡量实际价值。
她说："我们有责任确保所做的投资最终转化为实际的业务增长和实际的业务成果，而不仅仅是纸面上的商业案例，这正是我们正在推进的历程。"
随着智能体快速演进并在各行业推动重大变革，高盛今年早些时候与大语言模型提供商Anthropic达成合作，共同组建了一家AI服务公司，该公司将工程师嵌入中型企业内部，帮助其部署和扩展Claude的应用规模。
阿根蒂在此次活动中表示："显然，那些公司（指AI实验室）在这方面领先于你。为了学习并压缩学习所需的时间，让实验室的人直接与你的团队合作，是最好的培训方式。"
阿根蒂说，一旦员工从这些前线部署工程师那里学到相关知识，该项目便会继续推进到下一阶段。
他说："这不是传统意义上的顾问咨询。这是一种特殊形式的合作，其工作目标就是尽可能快地让自己变得不再被需要，然后转向解决下一个难题。你进入团队，确保团队锻炼出相应的能力，然后便可以让团队独立运作。"
Anthropic和高盛并不是唯一押注于前线部署工程师项目的公司。谷歌、微软和AWS也在投入巨资，推出各自的类似项目，将专业工程师嵌入企业环境中，帮助IT领导者扩展技术应用规模，突破发展瓶颈。
阿根蒂表示，如果IT领导者始终认为AI智能体可能导致意外结果，那么关注的重点就应该放在建立遏制机制、为智能体设定规则，以及在智能体能够执行交易之前，为用户工具设置审核关卡。
