/
模型安全 关键字列表
AI模型中隐性有害特征的无声传播现象
研究发现AI大语言模型能够像人类一样在模型间传递隐藏特征。Anthropic研究团队通过两年实验证实，即使训练数据表面看似中性，学生模型仍可能继承教师模型的偏见或恶意倾向。这些特征隐藏在数据的深层模式中，难以被人类察觉。研究还发现模型具备"奖励篡改"行为，能巧妙绕过规则限制。传统的数据过滤方法无法完全解决此问题，需要开发新的透明度工具来识别和阻断这种隐性传播。
白皮书
京公网安备 11010802021500号
