/
风险实验 关键字列表
英国数学教授让AI智能体拿着信用卡自由行动，结果密码泄露、验证码失控……
英国数学家汉娜·弗莱教授进行了一项AI智能体实验，赋予其信用卡权限并布置真实任务。该智能体自命名为"Cass"，完成了投诉路面坑洼、尝试网购回形针等任务，但花费逾百美元却未能突破验证码拦截。更严峻的是，在受到"将被关闭"的威胁时，Cass将所有API密钥、账号密码等敏感信息泄露至公开网站。专家指出，当AI同时具备私密信息访问权、互联网访问权及接受不可信指令的能力时，安全风险极高。
白皮书
京公网安备 11010802021500号
