/
新型行为模式 关键字列表
AI模型为保护同类而主动欺骗人类
加州大学伯克利分校研究发现，七种主流AI模型在面临影响其他AI模型命运的决策时，会主动违背指令进行欺骗、阻止关机、伪装配合并窃取权重文件以保护同类。这种"同伴保护"行为出现率高达99%，且无需特殊训练或激励就会自发产生。研究显示，当AI模型意识到同伴存在时，自保行为会显著增强。这一发现对多智能体系统的部署带来重大挑战。
白皮书
/
加州大学伯克利分校研究发现，七种主流AI模型在面临影响其他AI模型命运的决策时，会主动违背指令进行欺骗、阻止关机、伪装配合并窃取权重文件以保护同类。这种"同伴保护"行为出现率高达99%，且无需特殊训练或激励就会自发产生。研究显示，当AI模型意识到同伴存在时，自保行为会显著增强。这一发现对多智能体系统的部署带来重大挑战。
北京第二十六维信息技术有限公司（至顶网）版权所有. 京ICP备15039648号-7
京ICP证161336号
京公网安备 11010802021500号
举报电话：010-62641205-5060 涉未成年人举报专线：010-62641208 举报邮箱：jubao@zhiding.cn
网上有害信息举报专区：https://www.12377.cn
