/
超越政府监管工具箱：企业与公民社会如何共同应对AI风险
变革性人工智能带来安全与社会风险，仅靠政府难以及时应对。本报告基于文献综述、从业者访谈及五次沙盘演练，构建了一个面向非政府主体的框架，涵盖三大角色：在开发与部署环节管控技术与运营风险、通过市场机制塑造安全激励、在AI变革期维护社会稳定与公众信任。报告为企业及公民社会提供切实可行的AI风险管理路径，并探讨如何补充和强化公共政策。
阿联酋加速布局智能体AI，治理与问责挑战随之升级
阿联酋正推动政府服务向自主智能体AI系统大规模转型，计划在未来两年内将相当比例的政府服务迁移至自主AI模型。专家指出，海湾合作委员会各国在AI战略制定上表现突出，但治理框架在实际操作层面仍不成熟。随着AI深度嵌入公共服务，数据治理、网络安全、模型可解释性及问责机制将成为关键挑战，治理需从合规工作转变为贯穿AI全生命周期的持续性职能。
AI安全治理刻不容缓，专家警告切勿等待"切尔诺贝利时刻"
在新加坡ATxSummit科技峰会上，多位AI领域专家与科技领袖发出警告：随着AI系统能力不断增强、评估难度持续上升并深度融入日常生活，AI治理已进入更紧迫的阶段。加州大学伯克利分校教授Stuart Russell警告，若等到重大AI灾难发生才采取行动，将是严重失误。专家们呼吁将治理机制嵌入AI开发全流程，推动政府与产业持续协作，并强调针对自主Agent AI的评估方法亟需创新升级。
人工智能如何侵蚀人类自主决策能力的正式模型
随着AI系统在政府、经济和社会中承担越来越多的决策角色，人类是否还能主导集体结果成为核心议题。研究表明，一旦人类决策能力退化到某一临界点，重新夺回决策权所需的技能、制度和政治基础可能将不复存在。本报告基于社会选择理论，构建了AI侵蚀集体人类能动性的形式化模型，并通过联盟决策框架提出量化指标，用于追踪决策权力分布的变化，以识别不可逆转的临界点。
南非AI政策草案因引用AI捏造文献被迫撤回
南非通信与数字技术部近日撤回了一份已通过内阁审批并公开征询意见的国家AI政策草案，原因是文件引用列表中存在多处"虚构来源"。通信部长索利·马拉齐确认，至少六处引用系AI"幻觉"生成，并表示相关起草和审批人员将面临追责。他强调，此事件暴露了AI使用中人工监督的必要性。议会委员会主席亦公开要求重新起草，并建议此次"不要再用ChatGPT"。
四分之三的英国IT领导者缺乏完善的AI治理计划
红帽公司调查显示，87%的英国企业IT决策者已部署智能体AI系统，但仅四分之一建立了完善的治理机制。受访者普遍反映对数据、基础设施及AI供应商关系缺乏足够掌控，多数人希望政府出台更强有力的AI监管政策。调查还发现，2026年仅48%的决策者能完全掌握数据存储与访问情况，67%拥有AI"退出策略"。红帽认为，企业需要更强的开放性与透明度来弥合AI部署与治理之间的差距。
科技部回复人大、政协提案：推进人工智能产业应用和立法工作
提案针对我国人工智能大模型产业应用存在的问题，提出强化关键技术研发、促进数据安全共享、加强伦理治理规范、强化人才引培等建议，对提升我国生成式人工智能整体竞争力，推动人工智能快速有序健康发展具有重要意义。
京公网安备 11010802021500号
