政策制定者、技术专家以及公众都曾对AI快速发展可能给社会带来的危害表示担忧。这些担忧包括偏见问题、数据隐私侵犯、虚假信息传播,以及对AI智能体失去控制等。
对许多人来说,这些问题相对较新,但IEEE标准协会过去十年间一直致力于探索如何优先推动AI系统的负责任开发。
2016年,IEEE标准协会发起了"IEEE自主与智能系统伦理考量全球倡议"(简称A/IS),并发布了《伦理协调设计》报告。该报告的使命是鼓励所有参与自主与智能系统设计的人员,通过运用伦理考量来优先保障人类福祉,造福全人类。
这份报告由来自世界各地的多学科专家团队共同编写,提出了自主与智能系统的八项基础原则,涵盖人权、人类福祉、透明度等方面。超过100位顶尖AI伦理专家为此提供了意见建议。该倡议的第二版报告于2017年发布。据该全球倡议创始执行主任、现任IEEE"2030星球积极倡议"全球总监约翰·C·哈文斯介绍,这两版报告均面向公众征求意见,收到了数百页的反馈材料。截至2019年,贡献者已超过400人,且这一社群仍在持续壮大。
哈文斯表示:"《伦理协调设计》之所以独树一帜,在于它不仅仅是一份原则清单,更是一份出自IEEE这样具有公信力的组织之手的报告。在它发布的时候,市面上还没有类似的东西。"
自发布以来,一系列标准相继问世,为设计、构建和部署以人类价值观为优先考量的技术提供了实用指南。多个AI伦理认证项目也随之推出。
今年是《伦理协调设计》首份草案发布十周年。为此,IEEE标准协会近期推出了专题网站、播客系列和博客,回顾这份报告取得的成就与产生的影响。
八项指导原则
《伦理协调设计》第一版报告指出,"伦理"一词常与"道德"混用,但在负责任的AI系统设计领域,二者并不等同。报告借鉴了经典伦理学传统和基于价值观的设计方法论,为从事AI工具开发的工程师们提供了可操作的建议。
该报告为自主系统设计确立了八项基础性通用原则:尊重人权、将增进人类福祉作为开发成功与否的评判标准、赋予个人数据自主权以掌控自身身份信息、确保有效性、保持透明度、落实问责制、提高对滥用风险的警觉性,以及要求系统开发者具备相应能力。
报告作者写道,这些原则将应用伦理学的关注点提前至AI系统的设计阶段,而非等到系统发布后才加以考虑。
一系列标准体系
IEEE 7000系列标准正是基于《伦理协调设计》的框架开发而成。目前该系列共包含29个项目,其中11项已正式发布,更多项目仍在陆续推进中。这些标准涵盖的主题包括:伦理系统设计模型流程(IEEE 7000-2021)、AI系统透明度(IEEE 7001-2021)、数据隐私(IEEE 7002-2022)、算法偏见考量(IEEE 7003-2024)、对人类福祉的影响(IEEE 7010-2020)、机器可读的个人隐私要求(IEEE 7012-2025),以及模拟人类共情能力的系统(IEEE 7014-2024)。
AI伦理认证
IEEE标准协会提供一整套AI伦理项目,其中包括IEEE CertifAIEd认证,该认证分为两类:个人认证和产品认证。
个人专业认证旨在帮助从业者掌握评估自主与智能系统是否符合IEEE方法论及伦理标准的相关技能。
哈文斯说:"《伦理协调设计》之所以独树一帜,在于它不仅仅是一份原则清单,更是一份出自IEEE这样具有公信力的组织之手的报告。"
产品认证项目则评估某一组织的AI工具或系统是否符合IEEE本体规范中规定的标准。CertifAIEd认证评估师会对产品进行评估,以确保其达到相关标准。评估完成后,产品所有者可将评估结果提交至IEEE合格评定项目,该项目有权对产品予以认证并颁发认证标志。
IEEE标准协会近期还推出了"面向儿童的负责任AI"认证项目。该项目旨在认证面向儿童的AI产品已经过独立测试和验证,符合相关设计与伦理要求。
全新行业连接组织
"IEEE人工智能系统促进全球繁荣协作产业联盟"应运而生,旨在为AI系统开发者提供必要的资源、知识和工具,帮助其将人类福祉置于优先地位。该联盟目前已拥有超过200名成员。
该联盟将自身的工作描述为一套实用的、系统层面的负责任技术设计框架,致力于将"繁荣发展"这一理念转化为可在AI系统全生命周期中应用的方法、指标和工具。
该组织正在制定相关指导方针,为如何设计、评估和治理能够切实改善人类福祉与生态可持续性的系统提供依据。
其下设的多个分委员会分别聚焦于认知、教育、信仰、地球关怀、灵性等多个议题。
哈文斯表示:"该组织的工作直接建立在《伦理协调设计》中关于福祉的章节以及IEEE 7010标准(《评估自主与智能系统对人类福祉影响的推荐实践》)的基础之上。这是有意为之的,因为如果在设计阶段不优先考虑人类与地球的繁荣发展,那么人类福祉和地球可持续性就只会沦为事后补救的次要考量。"
播客与博客
为纪念十周年,IEEE标准协会推出了名为《伦理协调设计:十年影响力》的五集播客系列节目,该系列于10月21日首播,此后每两周更新一集。
节目内容围绕《伦理协调设计》的愿景、基础原则的遴选过程,以及这些原则如何最终转化为IEEE 7000系列标准展开。
首期节目《伦理协调设计的起源》探讨了将伦理考量切实融入AI与自主系统设计的早期探索历程。多位专家就其中的挑战、争论、全球协作,以及推动负责任技术从伦理原则走向可操作标准与实践的现实影响展开了讨论。
第二期节目《章节与委员会》聚焦于那些致力于将宽泛的人类价值观转化为AI与自主系统实用指导方针的多学科团队。
这些播客讨论内容将作为思想领导力项目的素材,该项目还包括关于IEEE 7000系列标准的博客文章,以及相关教育资源,旨在持续提升公众对这项开创性工作的认知度与支持度。
