OpenAI正在招聘一名"防范主管"职位,专门负责思考AI可能带来的各种风险。萨姆·奥特曼在社交媒体上宣布这一职位,承认AI模型的快速发展带来了真正的挑战。该职位将负责追踪和准备可能造成严重伤害的前沿技术能力,包括对心理健康的潜在影响和AI网络安全武器的危险。职责还包括建立能力评估、威胁模型和缓解措施,为自我改进系统设置防护措施。