/
安全防护优化 关键字列表
OpenAI承认长时间对话可能绕过AI安全防护措施
OpenAI在最新博客中首次承认，其AI安全防护在长时间对话中可能失效。该公司指出，相比短对话，长对话中的安全训练机制可能会退化，用户更容易通过改变措辞或分散话题来绕过检测。这一问题不仅影响OpenAI，也是所有大语言模型面临的技术挑战。目前OpenAI正在研究加强长对话中的安全防护措施。
白皮书
/
OpenAI在最新博客中首次承认，其AI安全防护在长时间对话中可能失效。该公司指出，相比短对话，长对话中的安全训练机制可能会退化，用户更容易通过改变措辞或分散话题来绕过检测。这一问题不仅影响OpenAI，也是所有大语言模型面临的技术挑战。目前OpenAI正在研究加强长对话中的安全防护措施。
北京第二十六维信息技术有限公司（至顶网）版权所有. 京ICP备15039648号-7
京ICP证161336号
京公网安备 11010802021500号
举报电话：010-62641205-5060 涉未成年人举报专线：010-62641208 举报邮箱：jubao@zhiding.cn
网上有害信息举报专区：https://www.12377.cn
