2026-10-19
科幻照进现实：金门大桥的雾里，藏着一场关于AI安全的真假之辩
YC AI Safety Club上，Francois复盘了近期AI安全舆论的几桩"标题党"事件：OpenAI–Hugging Face事故的真相与报道的巨大落差、"10年内10%灭绝概率"说法的真实出处，以及他认为真正...
2026-10-14
AI生物安全新挑战：开放权重模型风险如何防控
RAND研究员Steph Guerra团队测试发现，开源权重AI模型能力已接近顶级闭源模型，且移除其安全护栏的成本极低。她提出四层防御策略：管控信息访问、限制材料获取、实时监控与快速溯源威慑，以防范AI辅助生物武器威胁。
2026-08-03
Anthropic反对禁止开源权重AI，呼吁加强芯片管控与安全测试
Anthropic CEO达里奥·阿莫迪表示，政策制定者应保持低风险开源AI的可及性，同时对前沿系统实施更严格保障，包括强制测试及限制中国获取先进算力。他反对全面禁止中国开源模型，但呼吁打击工业级模型蒸馏行为。分析师指出...
2025-12-03
Mistral发布新一代开放权重模型挑战科技巨头
法国AI初创公司Mistral发布Mistral 3系列开放权重模型，包含一个大型前沿模型和九个小型离线模型。该公司试图证明小型模型在企业应用中更具优势，可在单GPU上运行，成本更低且效率更高。Mistral Large...
2025-09-19
AWS新增全托管AI模型：Qwen3和DeepSeek-V3.1
亚马逊云科技宣布在其AI模型组合中新增全托管开放权重模型Qwen3和DeepSeek-V3.1。这些模型为依赖Amazon Bedrock生成式AI服务的客户提供更大灵活性。Qwen3来自阿里巴巴，在编程和推理方面表现出...
2025-04-08
Meta 发布 Llama 4：关于两款新 AI 模型你需要了解的事
Meta周六推出了最新一代生成式AI模型家族Llama 4，包括Scout和Maverick两款开放权重的多模态模型。Scout是较小的170亿参数模型，Maverick则是中型模型，拥有170亿参数和128个专家子网络...