AI存在性危机爆发,但科技公司仍在加速前进
Anthropic研究员因AI安全担忧离职,OpenAI首席科学家呼吁研究放缓,但行业本周仍密集发布新模型、融资与新产品,Oracle云业务大幅增长。
Anthropic研究员因AI安全担忧离职,OpenAI首席科学家呼吁研究放缓,但行业本周仍密集发布新模型、融资与新产品,Oracle云业务大幅增长。
随着AI智能体在企业中自主决策日益普遍,CIO职责从技术部署转向治理、流程规范与人员管理。IBM数据显示仅11%的CIO和CTO为AI智能体大规模部署做好准备,超七成组织认为AI应用速度已超越治理能力。
Anthropic一名研究员本周离职,在X平台发文警告公司"正冲向自我改进的超级智能",其对齐团队负责人也联署该声明,此事恰逢公司筹备IPO之际。
Anthropic与Google DeepMind多名AI安全研究员本周离职,担忧AI失控风险;Meta新AI代理Muse测试中也暴露数据隐私安全漏洞。
调查报道称Anthropic安全团队追踪反AI活动人士并主动向警方报告潜在威胁,公司回应称此举仅为员工安全保障,否认构建预测性监控系统。
OpenAI宣称以万级智能体解出Navier-Stokes问题,但因涉及数学家未授权数据使用及打压竞争对手Anthropic关联研究者,引发学界对其动机与诚信的广泛质疑。
Dario Amodei提出三步走计划以“调节AI前沿发展节奏”,首先向METR等第三方机构开放模型评估权限,并呼吁行业建立统一安全标准,同时警告需在技术上领先中俄等国。
OpenAI CEO Sam Altman在采访中确认2026年不会推动公司上市,并称当前时机“不明智”。他还表示,构建超出人类控制的AI“绝对”可能发生,但会采取措施加以防范。
约翰迪尔推出Pro Service自修复软件,年费195美元起,但仅千余日活用户,农民质疑其难解复杂故障且信任不足。
Y Combinator最新一期Demo Day聚焦深科技,VC評選出海上核能數據中心、光互聯芯片、機器人等九家最受關注的創業公司。
PEC 2026 AI创新者大会暨第三届提示工程峰会:Won Token,Won World(赢得Token,赢得世界)!
9月12日,AI创新者大会暨第三届提示工程峰会(PEC 2026)在北京中关村东升科技园众智园举办,主题为“Won Token, Won World”(赢得Token,赢得世界)。作为本届大会的第一个核心环节,主题为“2...
前Anthropic研究员Jacob Coxon因伦理担忧离职并发帖警告,称AI公司正竞相开发可能导致人类灭绝的超级智能,帖子获超1.56亿浏览,多名业内人士回应确认风险担忧真实存在。