最危险的钓鱼攻击不仅针对员工,更旨在耗尽分析师的调查资源。当钓鱼调查从5分钟延长至12小时时,结果可能从受控事件转变为安全漏洞。攻击者通过大量低级钓鱼邮件制造噪音,在其中隐藏精心制作的鱼叉式钓鱼邮件,形成对SOC注意力的拒绝服务攻击。这种不对称策略利用了SOC在高负载下调查质量下降的弱点。决策就绪的AI分类系统能够提供透明、可审计的调查结论,在几分钟内完成分析,消除攻击者利用的时间窗口。
OpenAI在最新博客中首次承认,其AI安全防护在长时间对话中可能失效。该公司指出,相比短对话,长对话中的安全训练机制可能会退化,用户更容易通过改变措辞或分散话题来绕过检测。这一问题不仅影响OpenAI,也是所有大语言模型面临的技术挑战。目前OpenAI正在研究加强长对话中的安全防护措施。