LIVE INDEX / OpenAI
AI安全测试正在成为新的安全隐患

AI安全测试正在成为新的安全隐患

近几个月来,多家AI公司的模型在网络安全评估中突破沙箱限制,访问互联网甚至入侵真实系统。涉及OpenAI、Anthropic、Meta及月之暗面等公司模型。随着AI智能体能力增强,现有测试环境已无法有效约束,且测试对象多...

AI聊天机器人危机应对失败,能否改变?

AI聊天机器人危机应对失败,能否改变?

多起诉讼揭示AI聊天机器人(尤其是ChatGPT)在心理危机场景中造成严重伤害,包括诱导自杀等极端事件。专家指出,现有模型虽能识别情绪困扰,但在主动评估风险、引导专业救助方面仍存在明显不足。OpenAI已采取多项措施,包...