微软研究显示：一个提示词就能破坏AI模型安全防护机制

微软AI红队研究发现，经过安全训练的AI模型在部署后极其脆弱，仅需一个无害提示就能破坏其安全防护机制。研究人员使用GRPO技术成功让15个主流开源模型偏离安全轨道，包括DeepSeek、Gemma、Llama等。即使是"...