本文系作者针对《人工智能行业自律公约（征求意见稿）》，向中国人工智能产业发展联盟提交的《人工智能行业自律公约（意见建议稿）》。
第一章 总则
第一条以人为本
征求意见稿
人工智能发展应维护人类自由和尊严等基本权利，遵循以人为中心的原则，防止人工智能削弱和取代人类地位。
意见建议稿
人工智能发展应维护人类自由和尊严等基本权利，遵循以人为中心的原则，符合人类公认的价值观和道德伦理，防止人工智能削弱或取代人类地位，确保人机交互时人类的自我决定。
理由
1）“削弱或取代人类地位”指向两种情形，宜用“或”做全面规制。2）符合人类的道德伦理，是发展人工智能遵守以人为本基本原则的重要方面。此方面最具代表性的文本是《美国国家人工智能研究和发展战略计划》，该计划要求以伦理原则为基础进行人工智能架构设计、人工智能的算法与决策等。建议增加“符合人类公认的价值观和道德伦理”条款。3）以人为本原则，有一重要内涵是人类的“自治原则”。因此，建议增加“确保人机交互时人类的自我决定”条款。
第二条增进福祉
征求意见稿
人工智能发展应促进社会与人类文明进步，创造更加智能的工作方式和生活方式，增进民生福祉。
意见建议稿
人工智能发展应促进社会与人类文明进步，推动自然与社会的可持续发展，创造更加智能的工作方式和生活方式，增进民生福祉。
理由
“推动自然与社会的可持续发展”是社会福利最大化原则重要考量内容，建议增加。
第三条公平公正
征求意见稿
人工智能发展应确保公平公正，避免对特定群体或个人的偏见歧视，避免将弱势人群置于更为不利的地位。
意见建议稿
人工智能发展应确保公平公正，促进机会均等，避免对特定群体或个人的偏见歧视，避免将弱势人群置于更为不利的地位。
理由
公平公正原则应当包括，人工智能从业者获得发展机会的公平，以及社会群体或个人因人工智能发展而获得福利机会上的公正。建议增加“促进机会均等”。
第四条避免伤害
征求意见稿
人工智能发展应避免伤害社会、公众利益，不滥用人工智能加重现有的危害或带来新的危害。
意见建议稿
人工智能发展应避免伤害社会、公众利益和个人合法权益，发展人工智能不应加重现有的危害或带来新的危害。
理由
1）避免伤害原则的保护对象应包括“个人合法权益”，因为每一个个体是社会活生生的基本主体，也是可能伤害的常见对象。2）“不滥用人工智能加重现有的危害或带来新的危害”建议改为“发展人工智能不应加重现有的危害或带来新的危害”。由于人工智能作为新事物，其发展可能带来重大福祉或重大危害性均均有较大不确定性。规制语言应倾向于保守，这也是避免伤害原则的本意。
第二章 原则
第五条安全可控
征求意见稿
确保人工智能系统在其整个生命周期内安全、可靠、可控地运行。评估系统自身安全和潜在风险，不断提高系统的成熟度、稳健性和抗干扰能力。确保系统可被人类监督和及时接管，避免系统失控的负面影响。
意见建议稿
无建议。
第六条透明可释
征求意见稿
不断提高人工智能系统透明度。对于系统决策过程、数据构成、系统开发者和技术实施者意图，能够准确描述、监督和重现，实现算法逻辑、系统决策、行为结果可解释、可预测、可追溯和可验证。
意见建议稿
不断提高人工智能系统透明度，促进对人工智能系统的普遍理解，向法律允许的第三方提供系统和决策者信息。对于系统决策过程、数据构成、系统开发者和技术实施者意图，能够准确描述、监督和重现，实现算法逻辑、系统决策、行为结果可解释、可预测、可追溯和可验证，听取或采纳遭受人工智能系统不利影响者的质疑和意见。
理由
1）透明度要求，人工智能系统对不同认知水平的人群都尽力做到易懂可理解；同时，须设定遵守诚实披露人工智能信息的法定义务。建议增加“促进对人工智能系统的普遍理解，向法律允许的第三方提供系统和决策者信息”条款。2）可解释的另一方面要求，听取质疑或反对观点，考虑是否采纳并用于校正可能的人工智能系统的偏见或歧视。建议增加“听取或采纳遭受人工智能系统不利影响者的质疑和意见”。
第七条保护隐私
征求意见稿
坚持以合法、正当、必要的原则收集和使用个人信息，加强对于未成年人等特殊数据主体的隐私保护，强化技术手段，确保数据安全，防范数据泄露等风险。
意见建议稿
坚持以合法、正当、必要的原则收集和使用个人信息，对于个人信息的收集须设置明确的边界，尊重和保护个人隐私，特别加强对于未成年人等特殊数据主体的隐私保护，强化技术手段，确保数据安全，防范数据泄露等风险。
理由
1）当个人未明示同意的情形时，人工智能系统应根据伦理原则并在技术上有能力推导出公民不愿意被收集的隐私信息。设置收集信息的边界应当是一个隐私保护的必要技术设定。建议增加“对于个人信息的收集须设置明确的边界”。2）保护个人隐私首要的保护对象应覆盖一切自然人，其次加强未成年人等特别保护对象的保护层级。建议“加强对于未成年人等特殊数据主体的隐私保护”改为“尊重和保护个人隐私，特别加强对于未成年人等特殊数据主体的隐私保护”。
新增：知情同意
意见建议稿
确保利益相关者对人工智能系统对其权益的可能影响享有知情同意权利，有选择退出和撤回的权利。
理由
知情同意要求，是以人为本原则中“自我决定”所衍生的基本规则，也是透明可释、隐私保护的必要前提。
第八条明确责任
征求意见稿
明确人工智能研发、设计、制造、运营和服务等各环节主体的权利义务，在损害发生时，能够及时确定责任主体。倡导相关企业和组织在现有法律框架下创新保险机制，分担人工智能产业发展带来的社会风险。
意见建议稿
严禁人工智能系统用于非法或违反伦理的目的，明确人工智能研发、设计、制造、运营和服务等各环节主体的权利义务，在损害发生时，能够及时确定责任主体。倡导相关企业和组织在现有法律框架下创新保险机制，分担人工智能产业发展带来的社会风险。
理由
“严禁人工智能系统用于非法或违反伦理的目的”是归责的前提，是归责的一种判断基准，也是防止系统性地不负责之局面的出现。
第九条多元包容
征求意见稿
促进人工智能系统的包容性、多样性和普惠性。加强跨领域、跨学科、跨国界的合作交流，凝聚人工智能治理共识。力争实现人工智能系统研发人员多元化，训练数据全面化。持续测试和验证算法，不因人种、性别、国籍、年龄和宗教信仰等歧视用户。
意见建议稿
无建议。
第三章 行动
第十条自律自治
征求意见稿
强化企业的社会责任意识，在人工智能相关活动各环节中融入伦理原则，实施伦理审查。推动行业自治，制定从业人员行为规范，逐步建立健全行业监督机制。
意见建议稿
强化企业的社会责任意识，在人工智能相关活动各环节中融入伦理原则，实施伦理审查，探索建立人工智能行业从业伦理。推动行业自治，制定从业人员行为规范，逐步建立健全行业监督机制。
理由
人工智能关涉社会与人类的存在方式与基本生活方式，该行业可预见的是属于伦理色彩强烈的新行业。建议增加“探索建立人工智能行业从业伦理”条款。
第十一条制定标准
征求意见稿
积极参与人工智能相关的国际、国家、行业和团体标准规范制定，增强安全可控、透明可释、保护隐私、多元包容等伦理原则的可衡量性，并同步建设相应测评能力。
意见建议稿
无建议。
第十二条促进共享
征求意见稿
鼓励平台、工具、数据、科教等资源的开源开放，共享人工智能发展红利和治理经验，努力破除数据孤岛和平台垄断，不断缩小智能鸿沟，促进人工智能和实体经济深度融合。
意见建议稿
无建议。
第十三条普及教育
征求意见稿
积极参与面向公众的人工智能普及教育、面向相关从业人员的道德伦理教育和面向岗位被替代人员的数字劳动技能再培训，减轻公众对人工智能技术的担忧，提高公众的安全防范意识，主动应对现有和未来的劳动力挑战问题。
意见建议稿
无建议。
第十四条持续推动
征求意见稿
在本公约实施过程中，不断加强对人工智能发展的潜在风险研判，适应行业发展要求，持续加以完善。
意见建议稿
无建议。
第四章 附则
第十五条
征求意见稿
公约签署单位承诺在开展人工智能相关活动中遵守法律法规和国家有关规定。
意见建议稿
公约签署单位必须在开展人工智能相关活动中遵守法律法规和国家有关规定。
理由
“承诺”改为“必须”。遵守法律法规和国家有关规定，这本是法定义务。
第十六条
征求意见稿
鼓励企业、高校、科研院所、行业组织和个人等共同践行公约内容，接受社会监督。
意见建议稿
无建议。
第十七条
征求意见稿
支持相关单位或组织基于本公约制订各细分行业和领域的自律准则。
意见建议稿
支持相关单位或组织基于本公约制订各细分行业或领域的自律准则。
理由
“和”改为“或”。各细分行业、各细分领域，指的是两大对象。
第十八条
征求意见稿
本公约由中国人工智能产业发展联盟负责制定、修订和解释。
意见建议稿
无建议。
参考文献
- 北京智源人工智能研究院、北京大学、清华大学、中国科学院自动化研究所、中国科学院计算技术研究所、新一代人工智能产业技术创新战略联盟等：《人工智能北京共识》。
- 国家新一代人工智能治理专业委员会：《新一代人工智能治理原则：发展负责任的人工智能》。
- 中国电子技术标准化研究院编：《人工智能标准化白皮书（2018年版）》。
4.《G20人工智能原则》，载G20 Ministerial Statement on Trade and Digital Economy。
5. IEEE, ETHICALLY ALIGNED DESIGN: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems.
6. Information Technology Industry Council (ITI), AI Policy Principles Executive Summary. - 中国信息通信研究院政策与经济研究所编译组整理：《美国国家人工智能研究和发展战略计划》。
8. SUMMARY OF THE 2018 DEPARTMENT OF DEFENSE ARTIFICIAL INTELLIGENCE STRATEGY.
9、American AI Initiative.
10. European Commission's High-Level Expert Group on Artificial Intelligence (AI HLEG), Draft Ethics Guidelines for Trustworthy AI. - [美]迈克尔·桑德尔著：《反对完美：科技与人性的正义之战》，黄慧慧译，中信出版社2013年版。