《AI和全球治理：范式、原因和冲突》学习笔记

学习心得
笔者阅读完Michael Veale的最新论文《AIandGlobalGovernance:Modalities,Rationales,Tensions》，仿佛打开了一扇门，门外是清晰的人工智能治理路径，欣喜万分，反复研读。笔者将通过本文呈现该论文的重要观点摘录，供大家一起学习了解，更推荐大家阅读原文犀利和利落的文风，读来十分畅快。
同时，该论文翔实的资料，也可以作为开展人工智能全球治理学习材料的最佳目录。
人工智能治理的是什么
人工智能已经成为了一个松散的伞状概念，近些年里被指代为数据挖掘、大数据、机器学习的技术。该论文更关注对什么进行治理。
该论文认为可以通过对人工智能的开发、使用和基础设施来分别理解具体治理的目标和范畴。
全球人工智能治理模式的综述
01 道德准则和委员会
此类更多是公司内部的委员会，如IBM的人工智能伦理委员会、谷歌短暂的外部伦理委员会，或者是其他大型技术公司资助的项目，如亚马逊、苹果、谷歌、Facebook、IBM和MicrosoȽ在2016年建立的人工智能伙伴关系（PAI）。
这些实体通常在名义上寻求协调开发人工智能系统的行业参与者的行动，并旨在塑造公司内部和公司之间对社会负责的人工智能治理的未来议程。然而这些原则通常是倡议性的，受制于企业的文化和取舍，更甚至于通过伦理性的行业自律代替政府监管。
02 行业治理
超越伦理的行业自我管理更多是由控制着人工智能资源的少数公司进行推动的，推动方式更多是通过学术会议，但是这个是专家话语的管理和交流，而非实证。
目前比较突出的是通用人工智能，如何充分利用其价值而规避其风险。多数通用人工智能基于云计算为前提的新的、基于平台的商业模式作为服务出售的，从而使平台成为重要的治理决策者。在未来，全球人工智能治理似乎有可能与平台治理高度交融。如果重要的中介机构仍然存在，它们将既是强大的治理者，也是立法者监管人工智能系统的目标。
03 合同和许可
受到开源的影响，通用人工智能采取了开源的方式，但是无法制衡被用于有争议的任务，进而转向为合同或严格的开源许可证。在人工智能领域，RAIL（Responsible AI Licenses）倡议声称要超越这些倡议，增加"行为使用限制"，这是一个试图使模型类似于OpenAI专有的DALL-E 2图像生成模型。该许可禁止用户使用该模型用于如下：特别是诽谤他人；提供医疗建议；用于执法或类似目的；用于意图或具有广义上的歧视效果的目的；用于某些完全自动化的决策，这是基于数据保护法的规定等。但对其有效实施的最主要障碍是，只有版权人可以执行版权许可。与此相关的是，以这种方式开发人工智能系统的开源或公共利益团队可能缺乏能力来发现和管理通用人工智能系统的大量用户，他们也没有必要的法律资源来实现这种规模化的管理。我们可以设想另一个制度层面的执法机制--就像拥有许多开源软件版权的基金会创建了"面向社区"的执法原则，但据我们所知，目前还没有出现这样的建议。
04 标准
标准在网络技术领域曾经获得成功，因为网络技术的实现依赖于各项技术之间的协同与一致。在人工智能治理领域也有过一些类似的产出，最早出现的几套标准之一是IEEE P70xx系列。这些标准包括已发布的关于透明度的标准（7001-2021），在设计中考虑道德问题的流程（7000-2021），以及关于偏见和"道德驱动的推理"的标准（7003TM7008TM）。国际标准化组织（ISO）也通过2017年成立的ISO/IEC JTC 1/SC 42委员会拥有一系列的标准，大部分正在开发中。但是上述标准的问题是保留标准版权，通过授权本地化等来进行盈利。也有部分公共机构投入人工智能治理的标准，比如美国国家标准和技术研究所NIST创建了一个人工智能风险管理框架（NIST 2023），以及英国的国家物理实验室，它是英国人工智能标准中心的一个合作伙伴。
问题在于标准只是建立了一个最佳实践。其能作为一个信号传递给立法者是否需要更严格的立法或者传递给司法机关用以评估其是否构成过失。而各国监管对于人工智能治理标准采取了两种态度：混合型和共生型。混合型是指通过标准和认证的方式激励企业遵守法律规定，如欧盟人工智能法案所提议的。共生型是指通过标准和认证方式强化了其他治理系统的权威和合法性，如欧盟数据保护和网络安全法中的可选行业认证机制。
05 国际协议
在国际行业自律的同时，围绕人工智能问题出现了一系列的政府间标准和论坛。标准和原则包括经济合作与发展组织（OECD）关于人工智能的建议（OECD 2019），联合国教科文组织关于人工智能伦理的建议（UNESCO 2021），以及20国集团人工智能原则（G20 2019）。在大多数情况下，这些与行业文件或可以说是行业利益没有很大的区别。
欧洲委员会（The Coucil of Europe，简称CoE）在人工智能治理中起到了很大的作用。2019年9月，CoE成立了一个政府间委员会，即人工智能特设委员会（the Ad Hoc Committee on AI，以下简称CAHAI），以研究为人工智能系统的开发、设计和应用建立一个横向的法律框架的可行性。2022年6月，部长委员会指示CAHAI的后续机构，即人工智能委员会，"迅速着手制定"这样一份文书。CAHAI的建议与上述原则明显不同，它建议围绕有效遵守和独立的国家监督机构进行规定，并建议禁止某些类型的人工智能系统，如从事社会评分的系统。在撰写该报告时，人工智能委员会应美国的要求，在第二次全体会议上同意在一个封闭的起草小组中起草拟议公约的迭代，该小组仅由潜在的条约缔约方组成。而该举动受到民间社会机构的强烈批评，他们声称没有做出这样的最终决定。媒体报道强调，这是在美国的压力下进行的，CoE在吸引美国成为签署国方面有很大的外交利益，美国不希望其在缩小公约范围方面的谈判立场被公之于众。同时，CoE设法获得了代表欧盟成员国进行谈判的权力，担心"公约可能会影响现有的和可预见的未来的欧盟共同规则或改变其范围"。
06 具有域外实际影响力的国内法规
某些国内法规将会产生国际影响，包括以该国为目标市场或者为了减少跨司法辖区的合规成本，将某些国家的法规直接作为了“事实上的国际治理标准”。
欧盟及各成员国已迅速成为了全球人工智能治理的主要参与者。最近，欧盟委员会提出了人工智能法草案，主要目的是为人工智能系统在某些高风险应用领域的特点制定统一的最高标准，如教育评估、招聘或警务和司法的各个方面。这些系统的供应商将负责自我证明他们符合某些基本要求，这些要求将在欧洲私营标准化机构、欧洲标准化委员会（CEN）和欧洲电工标准化委员会（CENELEC）及其国家成员撰写的专有标准中阐述。任何希望向欧洲市场销售高风险系统或提供高风险人工智能系统的供应商，必须按照欧洲标准认证其系统。除了人工智能法案草案外，还有涉及到了人工智能的运用、发展或基础设施相关的治理规则，比如the Digital Services Act [Regulation (EU) 2022/2065, DSA] 和the Fairness in Platform-to-Business Regulation [Regulation (EU)2019/1150]涉及到了在线平台中基于人工智能推荐系统的透明性要求。因为推荐系统往往是跨国家的，所以这样的透明性就带来了全球性的影响。
还有GDPR在数据保护领域也产生了重要的影响，世界各地的数据保护法在结构上大同小异，GDPR第22条的自动化决策以及第15条的画像都对很多司法辖区的法律产生了重要的影响。
知识产权法也有类似的影响。比如著作权法可以禁止未经适当授权使用某些个人或非个人数据。日本现行著作权法以及后续的英国、欧盟立法，都规定了对文本和数据挖掘的授权豁免。而这点对于利用大量的网络数据，尤其是艺术家、作家等创作的内容进行大模型训练具有非常重要的作用。对使用该模型的用户所产出的内容是否享有授权，以及是否可以获得著作权，这些都会影响全球人工智能治理规则。进一步说，商业秘密保护的法律也是限制了对人工智能系统和数据集的审查，以及透明度的实现。
在某些情况下，竞争领域的法律会阻止数据的合并和融合，可能会导致人工智能基础设施无法实现打通和融合。因此竞争法领域也是在考虑如何构建治理规则，如the Digital Markets Act (EU Regul. 2022/1925, DMA) 、proposed UK Digital Markets Unit，但是目前并未有直接针对AI的执法案例。
结论
该论文的第三部分人工智能全球治理的背后原因和内在紧张关系因内容比较犀利，就不在本文中呈现。有兴趣可阅读论文的原文内容。
全球人工治理规则正在以如下的范式进行推进：一套互相重叠的具有跨国性质的私人标准和最佳实践制定，配合国际组织颁布的原则，在国家层面又有大量的现有和正在制定的法律框架组成。
目前的治理框架里，私人引导性非常明显。
人工智能所强化了的社会、经济和环境问题不仅仅是技术的结果，而是与许多更广泛和非常不同的系统纠缠在一起。以什么样的框架来制定是关键。
各国、公司、利益集团和参与者都在大谈特谈新型技术时，在规划和促进形成一个怎样的未来。对于没有参与讨论的参与者、社区、利益集团，应该怎么看待呢？作者最后给出了一个建议：牢记Susan Strange
等国际政治经济批评学者提出的关键问题：Cui bono?谁真正受益？