随着AI系统在政府、经济和社会中承担越来越多的决策角色,人类是否还能主导集体结果成为核心议题。研究表明,一旦人类决策能力退化到某一临界点,重新夺回决策权所需的技能、制度和政治基础可能将不复存在。本报告基于社会选择理论,构建了AI侵蚀集体人类能动性的形式化模型,并通过联盟决策框架提出量化指标,用于追踪决策权力分布的变化,以识别不可逆转的临界点。
南非通信与数字技术部近日撤回了一份已通过内阁审批并公开征询意见的国家AI政策草案,原因是文件引用列表中存在多处"虚构来源"。通信部长索利·马拉齐确认,至少六处引用系AI"幻觉"生成,并表示相关起草和审批人员将面临追责。他强调,此事件暴露了AI使用中人工监督的必要性。议会委员会主席亦公开要求重新起草,并建议此次"不要再用ChatGPT"。
红帽公司调查显示,87%的英国企业IT决策者已部署智能体AI系统,但仅四分之一建立了完善的治理机制。受访者普遍反映对数据、基础设施及AI供应商关系缺乏足够掌控,多数人希望政府出台更强有力的AI监管政策。调查还发现,2026年仅48%的决策者能完全掌握数据存储与访问情况,67%拥有AI"退出策略"。红帽认为,企业需要更强的开放性与透明度来弥合AI部署与治理之间的差距。
提案针对我国人工智能大模型产业应用存在的问题,提出强化关键技术研发、促进数据安全共享、加强伦理治理规范、强化人才引培等建议,对提升我国生成式人工智能整体竞争力,推动人工智能快速有序健康发展具有重要意义。