OpenAI在周一发布的一篇博客文章中呼吁建立国际人工智能安全与保障标准，并加强对该技术负责任发展的研究，此前业界对AI可能超越现有安全框架的担忧日益加剧。
OpenAI表示，应对AI发展下一阶段的挑战需要"让对齐研究跟上AI能力的发展步伐，以确保我们以及其他机构构建的AI系统始终与人类价值观保持一致，并处于人类的控制之下"。
此前一周，CEO萨姆·奥特曼与Anthropic、微软和SpaceX等公司的高管一同呼吁放缓前沿AI模型的开发速度。奥特曼与Anthropic CEO达里奥·阿莫代伊本周将向联合国安理会做简报。
在业界领袖和顶尖AI开发者日益担忧该技术快速发展可能导致人类灭绝之际，OpenAI正呼吁制定更多安全要求。
OpenAI在博客文章中表示，国际标准对该技术发展节奏的把控可能与研究同样重要。这些标准有助于解决AI提供商面临的挑战，例如安全评估的碎片化，以及全球各地AI开发能力的不均衡。
OpenAI表示，加强数字安全防护、推进对齐研究，以及帮助人们理解和引导AI发展的下一阶段同样至关重要。
博客文章写道："随着AI系统变得越来越强大和自主，包括它们承担更多AI研发工作本身，这一点变得愈发重要。"
OpenAI表示，诸如AI标准与创新中心等机构以及各州法律有助于使研究工作标准化。该公司还表示，联邦AI框架以及某种形式的公私合作伙伴关系也会有所帮助。今年6月，特朗普总统签署了一项行政命令，要求AI提供商自愿接受其模型审查，但目前尚不存在官方联邦框架。
博客文章指出，国际社会在评估标准、报告要求和事故定义方面的努力，有助于研究人员比较证据、理解新兴能力，并在全球层面应对风险。
博客写道："AI的开发和部署正在多个国家同时进行，采用趋势正在全球蔓延，其影响很可能会在某个时间节点以某种方式波及每一个人。"
尽管呼吁放缓AI发展，OpenAI仍于周二发布了GPT-6 Sol和DPT-6 Luna，前者是一款更便宜的模型，后者则专注于提升专业工作能力。
咨询与IT服务公司Columbus Global US数据与AI高级销售总监CJ Combs在给CIO Dive的邮件中表示，面对全球AI研究节奏放缓的呼声，企业CIO对组织内部事务的掌控力其实比他们意识到的要大。
Combs表示："这种呼吁通常被表述为让实验室暂停开发，直到模型变得更安全。但真正重要的暂停发生在企业内部，这是一种为了构建而暂停，而非为了等待而暂停。"
Combs指出，许多组织在部署AI时缺乏适当的基础——数据不干净、治理不成熟、且没有明确的责任归属。他补充道，当他们的智能体做出无法解释的行为时，他们便会感到惊讶。
Combs表示，放慢脚步来修复数据、明确当智能体的行为涉及人力资源、财务、IT或安全等多个领域时由谁负责监督，以及设定价值目标，这些都是CIO掌控组织内部安全与保障标准的方式。
他表示，OpenAI呼吁制定标准是一个积极信号，但这更多体现的是AI提供商计划如何行事，而非科技领导者应如何在组织内部构建AI应用模式。提供商无法看到某个组织的数据、审批链条，或者智能体究竟与哪个系统进行了交互。
Combs表示："两者可以并存。全球标准值得建立，但CIO仍然不能将责任外包给这些标准。应将任何外部标准视为底线，并设定更高的自身标准。"
Q&A
Q1：OpenAI为什么呼吁建立国际AI安全标准？
A：因为业界对AI可能超越现有安全框架的担忧日益加剧，业界领袖和顶尖AI开发者担心该技术快速发展可能导致人类灭绝，因此OpenAI认为需要国际标准来解决安全评估碎片化、全球AI开发能力不均衡等挑战。
Q2：企业CIO应该如何应对AI安全问题？
A：CIO应放慢脚步修复数据基础、明确当智能体行为涉及人力资源、财务、IT或安全等领域时由谁负责监督，并设定价值目标。同时应将外部标准视为底线，设定更高的自身标准，不能将责任完全外包给全球标准。
Q3：OpenAI在呼吁放缓AI发展的同时还发布了新模型吗？
A：是的，尽管OpenAI呼吁放缓AI发展速度，但该公司仍于周二发布了GPT-6 Sol和DPT-6 Luna两款新模型，前者是更便宜的版本，后者则专注于提升专业工作能力。
