随着AI智能体在众多组织中快速普及,这一数字浪潮已经无法逆转。但当员工在工作中使用未经授权的智能体时,会发生什么?

经授权的AI智能体可以成为高效的工作工具,组织会为员工提供一系列经过批准的选项供其使用。

问题在于团队成员使用个人AI智能体的情况。尽管他们可能从这些影子AI智能体中获得个人层面的便利,但使用它们会带来风险、混乱和合规问题。

在本期节目中,Klaviyo公司首席技术官苏拉比·古普塔(Surabhi Gupta)分享了技术领导者在发现组织内存在影子AI智能体时应如何应对。

古普塔探讨了如果影子智能体在工作环境中肆意蔓延将会带来哪些风险,比如合规方面的隐患。她还讨论了AI智能体与那些可能悄悄混入IT环境的传统应用程序在行为方式上有何不同,以及在AI智能体加入之后,关于影子技术的相关政策应当如何演变。

节目后半部分,古普塔参与了"问题创意"桌面演练环节,在这个虚构的场景中,狗头人、小精灵和哥布林们在一家虚构公司里制造了一场数字混乱。

Q&A

Q1:什么是影子AI智能体?

A:影子AI智能体是指员工在工作中使用的、未经组织授权或批准的个人AI智能体。虽然员工可能从中获得个人便利,但这类工具的使用会给组织带来风险、混乱和合规问题。

Q2:影子AI智能体与传统的影子IT应用有什么不同?

A:根据Klaviyo首席技术官苏拉比·古普塔的介绍,AI智能体的行为方式与那些可能悄悄混入IT环境的传统应用程序存在差异,这也意味着企业需要针对影子技术制定新的管理政策,以适应AI智能体带来的新情况。

Q3:企业该如何应对员工使用未授权AI智能体的问题?

A:企业可以通过提供一系列经过审核批准的AI智能体选项供员工使用,来减少员工转向使用个人未授权工具的需求,同时需要关注合规方面的潜在风险,并及时调整相关管理政策。

InformationWeek