AI在法律界的应用正引发严重问题。律师借助AI撰写法律文书时,AI频繁"幻觉"出虚假案例,且这些案例看起来极为真实。自2023年纽约南区首次曝光以来,此类事件不断蔓延。据HEC巴黎商学院统计,全球已记录约1200起AI幻觉相关案例,仅美国就有800起,且数量仍在上升。尽管法院已开出六位数罚款,问题依然加剧,表明AI幻觉问题远未解决。
微软数据安全、隐私和合规总经理Herain Oberoi称,围绕AI和安全开展的工作“对于合作伙伴来说是一个巨大的机会”——尤其是在帮助客户了解AI风险、构建解决这些风险的应用、以及围绕新攻击面构建仪表板和报告等领域。