学习心得
算法供应链（algorithmic supply chain）中的“多个行为主体（multiple actors）”的问题成为了目前人工智能领域的一大难题。尤其是在大模型兴起后，基于大模型可以有大量的下游应用，同时大模型依赖于硬件计算能力、超大量的训练数据、存储能力等基础服务，使算法供应链的问题更为突出。在法律规制领域，为了解决算法供应链里的“多个行为主体”的责任分配问题，欧盟《人工智能法》引入了多个主体：提供者、部署者、产品制造者、分发者、进口者等，分别阐述对各自参与部分的义务。国内《互联网信息深度合成服务管理规定》将主体分为了服务提供者和技术支持者，而《生成式人工智能服务管理办法》又没有对主体进行区分。所以算法供应链的复杂性所带来的多个法律主体之间的责任分配问题尚没有统一的解决方案。
本公众号之前发表过Michael Veale的论文《AI和全球治理：范式、原因和冲突》的学习笔记，作者从综合视角上阐释了人工智能全球治理的路径，Micheal的另一篇合作论文也是同样很丰富的从技术、政治、法律多视角来阐释了当前人工智能领域供应链里多个行为主体导致了责任分配困境，对于我们打开思路，寻求更好的治理方案提出了具有前瞻性的思考。
算法里的责任原则
责任原则通常会被理解为一种机制（mechanism）或者一种品格（virtue）。在欧洲和非美国的英美国家，将责任原则理解为一种机制，是一种制度安排，让行为主体对他们的系统负责。而在美国语境下责任原则是一种规范性的概念（normative concept），一套评价行为的标准，通常与透明性、负责任等联系在一起，可以理解为一项积极追求的品质。往往会推演到要求算法系统而非针对开发的组织，比如负责任的人工智能，将责任原则等同了技术功能，然而实则无法转化为技术上可操作的概念。据此，作者将责任原则理解为一种机制的解释，行为主体据此对他们负责的技术承负责任。
在算法背景下，我们首先要转变一个概念的理解，理解算法系统不是简单地理解“算法”，而是一个算法实现的社会技术系统（socio-technical alogrithmic system），即人和代码的动态安排。实则是认可了算法是在更广泛的人类背景下产生和工作的。这一转变也隐含了算法系统是多个行为主体参与后形成的结果：由组织完成的研发、部署和使用。
算法中的责任原则，低层次的体现是记录在开发、部署和使用系统时做出的选择和决策，如描述数据集的数据卡、描述模型规格和能力的模型卡等，这是作为一种品格的追求。高层次的体现是提供全面理解和审视算法系统的研发、部署和使用过程的方法，比如可审计性、可审查性、可竞争性、可追溯性等，这是一种作为机制的追求。
作者更进一步的指出在算法系统里以单个组织为中心去思考已经是一个没有意义的分析框架，因为算法是由多个行为主体导致的结果。但这并不意味着，就无法对单个组织进行追责，更多的是指出识别特定算法系统的行为主体和过程变得复杂了。
AI服务和算法的供应链
作者基于对AI服务和算法的供应链的分析提出了如下几个关键特征。
01、AI服务和算法的研发、部署和使用分别由相互依赖的行为主体实施
在算法供应链中，人工智能技术的研发、部署和使用由被数据流捆绑在一起的多个行为主体实施。如下图所示，供应链中的各个行为主体的活动都依赖于其他行为主体的活动，包括各种相互作用的人工智能和非人工智能技术，如云服务、数据中心、数据源、模型等。
作者又进一步提出了这种依赖关系的深层属性：
1. 供应链中的不同行为者的依赖关系是由技术、法律和政治经济因素构成的
技术因素导致产生依赖关系是显而易见的，比如网络和数据处理技术使人工智能技术的研发、部署阶段可以分布在不同地区实施。然而，技术能力不能决定相互依赖的关系或供应链的结构。供应链中的行为主体也可以通过政治经济因素，比如规模效应、有利的法律框架，如知识产权、数据保护等，来影响和主导在供应链中的依赖关系。
2. 供应链中的行为主体之间是不对等的
供应链之间的行为关系是不对等的，比如某些行为主体负责核心功能的实现，比如某些行为主体提供了基于云的技术架构，而其他行为主体依赖于此。互相依赖关系的不对等带来了权力的不对等。同时需要注意的，正如第1点所说这些关系可能是因为技术、法律和经济等因素导致的权力不平衡。
3. 相互依赖关系可能导致问题的继承与传播
供应链之间的相互依赖关系可能导致一个行为主体的问题通过其他行为主体的系统而传播。比如一个人工智能服务在某种程度上有偏见（如面部识别在特定的人口统计学上表现不佳），这种偏见将被依赖该服务的下游应用所继承。在复杂的人工智能场景下，行为主体和相互依存关系之间是没有记录，没有想到，甚至可能是动态的，导致这种级联关系是复杂且不可预测的。除非是上游系统提供者发现，否则下游的行为主体可能直至发现极端事件都意识不到这个问题。
02、供应链里的互相依存关系是动态的、不稳定的
由于供应链里的行为主体是通过数据流联系起来的，一个链路每次被实例化时都可能有所不同。比如，使用一个服务在视频流里检测到人脸，可能会触发流向一个单独的人脸识别服务来识别这个人的身份，而这个服务是依赖于供应商的服务，然后返回结果。再基于识别的身份结果触发新的服务流向。因此，供应链里的行为主体可以动态地被实例化。而供应链里不同主体之间的动态依赖关系又取决于其权力关系，受制于技术、法律、政治经济因素。比如研发者会增加新功能、研发者改变服务条款等，都会导致供应链里的不同主体之间的依赖关系发生变化。
03、某些行为主体已经出现了横向或纵向的整合
算法供应链里某些行为主体已经发生了横向（跨市场和行业）、纵向（跨生产和销售）的整合，这对他们在供应链中的定位和作用有影响。
1. 横向一体化
横向整合的行为主体跨市场、跨行业经营。最典型的就是云服务供应商（如亚马逊、微软、谷歌、阿里云）在许多相关和相邻的市场提供服务，甚至在具体的供应链中反复出现，承担不同的功能。主要服务商也会通过投资、收购的方式，进入相关市场或进一步巩固其市场地位。
2. 纵向一体化
纵向一体化的行为主体控制着研发、销售等多个阶段。几个主要的人工智能供应商亚马逊、微软和谷歌，同时拥有着研发和销售人工智能服务的关键基础设施。最先进的人工智能需要更多的数据、更大和更复杂的模型、大规模计算以及复杂的训练和测试过程。通过控制研发和销售，供应商可以将他们的人工智能技术整合到提供给客户和最终用户的其他服务中，再利用客户的真实数据来测试和进一步完善人工智能的技术，进而降低了开发迭代人工智能技术的净成本。
除了主要的人工智能服务商，大多数供应商仅关注于少量密切相关的服务，如算法招聘、处理法律文件等，他们将利用主要的人工智能服务商的技术能力、基础设施等。
04、供应链正日益围绕具有系统重要性的供应商进行整合
上述第（一）点所述相互依赖和第（三）点整合的动力推动着算法供应链日益围绕着人工智能的主要服务商（如亚马逊、微软、谷歌）进行聚拢。人工智能主要服务商提供了跨业务的一体化服务，可以轻松拥有最先进的技术、易于扩展并实现全球覆盖。
因此，主要的人工智能服务商对人工智能的治理和责任原则落地具有系统性的重要意义。
算法供应链中的责任原则
如上所述，人工智能的研发、部署、使用可能是由供应链里的不同行为主体承担，他们相互之间是互相依赖的关系，共同产生了人工智能服务的运作和效果。因此，责任原则在算法供应链的领域，如果关注“以组织为中心”的推进路径，会遇到很多的困难和障碍。而且，算法供应链中的相互依赖关系是受技术、法律、政治经济的多重因素影响的，所以问责制作为一种机制的角度，应当充分考虑上述因素，不能仅从技术角度理解，应当全面考虑谁应该负责、对什么负责、为了什么以及怎么安排机制落实责任原则。
01、算法系统的责任分布在几个不同的行为主体
算法供应链的责任应该被分配在不同的行为主体，但是从实践情况来说可能很难识别行为主体，在不同情况下行为主体也可能不同。更进一步说，没有任何一个行为主体可以全面理解和控制整个算法生态链。
数据保护法通过解决谁是数据控制者的方案来解决谁是主要责任主体。比如欧盟法院在裁决中给出过如下的结论：如果行为主体有影响力，即使不实际接触数据，也可以被认定为控制者；控制者不对其实际控制的环境之前或之后的行为负责；控制者在“权力、能力和义务”的框架里对数据保护法负责。数据保护法认识到了多行为主体，也有了细致的责任分配逻辑，然而无法直接复用到人工智能服务中。在人工智能服务中，可能使用者才是数据控制者。而供应商是数据处理者。这种责任分配方式无法体现人工智能服务商在算法生态链中的核心角色，他们可以通过技术来掌握核心功能，通过标准条款来胁迫客户接受不平等条款等，也可以通过数据处理协议的安排限制自己的责任到数据处理者的范围。
欧盟《人工智能法》明确指出人工智能服务的使用者不同于人工智能服务的提供者，提出了对提供者的义务。但是并没有充分反映出供应链的相互依赖和动态关系，甚至可能导致研发下游的行为主体承担确保人工智能技术符合法定义务，如培训、测试、问责制和风险管理等，而真正对研发承担责任的服务商不承担更多的义务。
因此，正确理解算法供应链里的责任分配是非常重要的，即谁在为谁做什么，谁为谁在执行什么关键功能，谁是供应链的核心，以及谁具有系统性的重要作用。需要在正确理解技术、法律、政治经济的动态因素基础商，把责任分配给供应链上对算法结果产生影响的行为主体。
02、责任范围限制了整个供应链的可见性
算法供应链将研发、部署和使用都分布在了不同主体，彼此之间最多能看到自己的上下游，无法对整个算法供应链有完整的信息。控制研发的人工智能服务提供者可能对下游的环境和部署、使用的实例不了解；控制部署和使用的行为主体缺乏对模型的认知，无法了解训练、测试、验证等情况。因此基于风险管理的路径，算法生态链中行为主体的责任范围就是个很困难的问题。
1. 责任范围限制了问题框架的作用
许多算法问题围绕着问题的定义和解决问题框架的选择，这些选择为人工智能系统设计提供了信息。然而算法供应链中，最接近问题的是部署和使用人工智能的行为主体，但是提供解决框架的却是研发人工智能的行为主体。再加上算法供应链的动态性，更进一步加大了复杂性。所以可能导致某些人工智能在部署时就带有特定的基本假设，而这个假设可能会排除人工智能系统在某些其他领域的部署和使用。算法供应链的整合问题，又导致了限制互操作性的技术障碍和成本使得有些组件不易于被替换。
2. 责任范围导致了风险管理框架难以实施
欧盟《人工智能法》、众多的政策和立法倡议、学术论文都提出了影响评估、风险管理机制。尤其是个人数据保护影响评估是欧盟GDPR的核心机制，人工智能涉及到个人数据的，则应当适用。但是算法生态链导致了风险管理框架难以实施，比如研发人工智能的行为主体不了解客户的部署环境和使用场景，无法评估是否有潜在风险；比如部署和使用人工智能的行为主体不了解模型的研发过程，很难评估系统是否适合当前的场景，更何况模型还会不停地更新和迭代。因此，没有任何一个行为主体对整个算法生态链有全面的认知，无法做出准确的风险评估。
3. 需要扩大责任原则的范围
为了使责任原则发挥效果，只能扩大责任范围，使行为主体了解整个算法生态链，掌握更多的信息。比如增加人工智能服务的“know your customer”义务，要求供应商去理解客户使用人工智能服务的目的和意图。同时，围绕着个人数据保护的透明度义务，也一定程度增加了可见性。但是责任原则是针对场景或背景的，因此要求人工智能的研发主体在记录和提供算法系统的相关信息都应当基于场景或背景。显然，场景或背景化分析在算法生态链里是比较困难的。
03、服务化的分销模式使供应商将控制权扩展到了部署之后
算法服务方式改变了原有的软件授权模式，改为以API接口方式提供相应的服务。而且对于大型供应商来说，其对客户的依赖远小于客户对他们的依赖，以有利的方式构建了他们与客户以及供应链中其他方的关系。供应商会采用标准服务协议随时变更服务的范围，最大化其对部署后服务的控制，甚至定位自己为数据处理者，试图降低其责任。供应商可以采取技术+法律的策略，塑造供应链，使自己在市场中处于有利的地位，实现收入最大化和风险最小化。
04、供应链跨境问题导致监管寻租问题
数据处理和网络技术促使了人工智能服务的研发、部署和使用可以分布在不同的国家。比如在劳工保护比较低的国家进行数据清洗和标注。
结论
算法供应链对以组织为中心的责任原则提出了挑战。人工智能技术涉及到算法供应链，其研发、部署和使用由共同产生结果和功能的多个行为主体承担。主要供应商已经呈现了横向和纵向的高度整合，而且整个生态链也在逐步向这些主要供应商聚拢，因此主要供应商的问题是具有系统性的影响性。特定系统的问题又通过了供应链传播，在不同的使用实例中发生变化，让人难以理解它们是如何运作和发挥作用的。正是这些长期互相依赖并动态变化的行为主体构成了供应链，各自承担了其中的一部分责任，然而互相又不能完整了解整个生态链，这种有限的可见度导致了风险管理机制难以发挥作用，而供应商又可以采用服务条款、标准API机制控制技术的同时减少法律责任，甚至可以实现监管寻租。
总而言之，未来的算法责任原则必须正视和解决算法供应链的动态变化和依存性问题，充分了解算法供应链是如何实现结构化的、如何产生的技术结果、如何动态变化的，在了解了其中的技术、法律、政治经济因素，正确分配算法生态链中研发、部署和使用人工智能技术的行为主体的责任，使其对人工智能技术的运作和影响负责。
算法供应链（algorithmic supply chain）中的“多个行为主体（multiple actors）”的问题成为了目前人工智能领域的一大难题。尤其是在大模型兴起后，基于大模型可以有大量的下游应用，同时大模型依赖于硬件计算能力、超大量的训练数据、存储能力等基础服务，使算法供应链的问题更为突出。在法律规制领域，为了解决算法供应链里的“多个行为主体”的责任分配问题，欧盟《人工智能法》引入了多个主体：提供者、部署者、产品制造者、分发者、进口者等，分别阐述对各自参与部分的义务。国内《互联网信息深度合成服务管理规定》将主体分为了服务提供者和技术支持者，而《生成式人工智能服务管理办法》又没有对主体进行区分。所以算法供应链的复杂性所带来的多个法律主体之间的责任分配问题尚没有统一的解决方案。
本公众号之前发表过Michael Veale的论文《AI和全球治理：范式、原因和冲突》的学习笔记，作者从综合视角上阐释了人工智能全球治理的路径，Micheal的另一篇合作论文也是同样很丰富的从技术、政治、法律多视角来阐释了当前人工智能领域供应链里多个行为主体导致了责任分配困境，对于我们打开思路，寻求更好的治理方案提出了具有前瞻性的思考。
算法里的责任原则
责任原则通常会被理解为一种机制（mechanism）或者一种品格（virtue）。在欧洲和非美国的英美国家，将责任原则理解为一种机制，是一种制度安排，让行为主体对他们的系统负责。而在美国语境下责任原则是一种规范性的概念（normative concept），一套评价行为的标准，通常与透明性、负责任等联系在一起，可以理解为一项积极追求的品质。往往会推演到要求算法系统而非针对开发的组织，比如负责任的人工智能，将责任原则等同了技术功能，然而实则无法转化为技术上可操作的概念。据此，作者将责任原则理解为一种机制的解释，行为主体据此对他们负责的技术承负责任。
在算法背景下，我们首先要转变一个概念的理解，理解算法系统不是简单地理解“算法”，而是一个算法实现的社会技术系统（socio-technical alogrithmic system），即人和代码的动态安排。实则是认可了算法是在更广泛的人类背景下产生和工作的。这一转变也隐含了算法系统是多个行为主体参与后形成的结果：由组织完成的研发、部署和使用。
算法中的责任原则，低层次的体现是记录在开发、部署和使用系统时做出的选择和决策，如描述数据集的数据卡、描述模型规格和能力的模型卡等，这是作为一种品格的追求。高层次的体现是提供全面理解和审视算法系统的研发、部署和使用过程的方法，比如可审计性、可审查性、可竞争性、可追溯性等，这是一种作为机制的追求。
作者更进一步的指出在算法系统里以单个组织为中心去思考已经是一个没有意义的分析框架，因为算法是由多个行为主体导致的结果。但这并不意味着，就无法对单个组织进行追责，更多的是指出识别特定算法系统的行为主体和过程变得复杂了。
AI服务和算法的供应链
作者基于对AI服务和算法的供应链的分析提出了如下几个关键特征。
01、AI服务和算法的研发、部署和使用分别由相互依赖的行为主体实施
在算法供应链中，人工智能技术的研发、部署和使用由被数据流捆绑在一起的多个行为主体实施。如下图所示，供应链中的各个行为主体的活动都依赖于其他行为主体的活动，包括各种相互作用的人工智能和非人工智能技术，如云服务、数据中心、数据源、模型等。
作者又进一步提出了这种依赖关系的深层属性：
1. 供应链中的不同行为者的依赖关系是由技术、法律和政治经济因素构成的
技术因素导致产生依赖关系是显而易见的，比如网络和数据处理技术使人工智能技术的研发、部署阶段可以分布在不同地区实施。然而，技术能力不能决定相互依赖的关系或供应链的结构。供应链中的行为主体也可以通过政治经济因素，比如规模效应、有利的法律框架，如知识产权、数据保护等，来影响和主导在供应链中的依赖关系。
2. 供应链中的行为主体之间是不对等的
供应链之间的行为关系是不对等的，比如某些行为主体负责核心功能的实现，比如某些行为主体提供了基于云的技术架构，而其他行为主体依赖于此。互相依赖关系的不对等带来了权力的不对等。同时需要注意的，正如第1点所说这些关系可能是因为技术、法律和经济等因素导致的权力不平衡。
3. 相互依赖关系可能导致问题的继承与传播
供应链之间的相互依赖关系可能导致一个行为主体的问题通过其他行为主体的系统而传播。比如一个人工智能服务在某种程度上有偏见（如面部识别在特定的人口统计学上表现不佳），这种偏见将被依赖该服务的下游应用所继承。在复杂的人工智能场景下，行为主体和相互依存关系之间是没有记录，没有想到，甚至可能是动态的，导致这种级联关系是复杂且不可预测的。除非是上游系统提供者发现，否则下游的行为主体可能直至发现极端事件都意识不到这个问题。
02、供应链里的互相依存关系是动态的、不稳定的
由于供应链里的行为主体是通过数据流联系起来的，一个链路每次被实例化时都可能有所不同。比如，使用一个服务在视频流里检测到人脸，可能会触发流向一个单独的人脸识别服务来识别这个人的身份，而这个服务是依赖于供应商的服务，然后返回结果。再基于识别的身份结果触发新的服务流向。因此，供应链里的行为主体可以动态地被实例化。而供应链里不同主体之间的动态依赖关系又取决于其权力关系，受制于技术、法律、政治经济因素。比如研发者会增加新功能、研发者改变服务条款等，都会导致供应链里的不同主体之间的依赖关系发生变化。
03、某些行为主体已经出现了横向或纵向的整合
算法供应链里某些行为主体已经发生了横向（跨市场和行业）、纵向（跨生产和销售）的整合，这对他们在供应链中的定位和作用有影响。
1. 横向一体化
横向整合的行为主体跨市场、跨行业经营。最典型的就是云服务供应商（如亚马逊、微软、谷歌、阿里云）在许多相关和相邻的市场提供服务，甚至在具体的供应链中反复出现，承担不同的功能。主要服务商也会通过投资、收购的方式，进入相关市场或进一步巩固其市场地位。
2. 纵向一体化
纵向一体化的行为主体控制着研发、销售等多个阶段。几个主要的人工智能供应商亚马逊、微软和谷歌，同时拥有着研发和销售人工智能服务的关键基础设施。最先进的人工智能需要更多的数据、更大和更复杂的模型、大规模计算以及复杂的训练和测试过程。通过控制研发和销售，供应商可以将他们的人工智能技术整合到提供给客户和最终用户的其他服务中，再利用客户的真实数据来测试和进一步完善人工智能的技术，进而降低了开发迭代人工智能技术的净成本。
除了主要的人工智能服务商，大多数供应商仅关注于少量密切相关的服务，如算法招聘、处理法律文件等，他们将利用主要的人工智能服务商的技术能力、基础设施等。
04、供应链正日益围绕具有系统重要性的供应商进行整合
上述第（一）点所述相互依赖和第（三）点整合的动力推动着算法供应链日益围绕着人工智能的主要服务商（如亚马逊、微软、谷歌）进行聚拢。人工智能主要服务商提供了跨业务的一体化服务，可以轻松拥有最先进的技术、易于扩展并实现全球覆盖。
因此，主要的人工智能服务商对人工智能的治理和责任原则落地具有系统性的重要意义。
算法供应链中的责任原则
如上所述，人工智能的研发、部署、使用可能是由供应链里的不同行为主体承担，他们相互之间是互相依赖的关系，共同产生了人工智能服务的运作和效果。因此，责任原则在算法供应链的领域，如果关注“以组织为中心”的推进路径，会遇到很多的困难和障碍。而且，算法供应链中的相互依赖关系是受技术、法律、政治经济的多重因素影响的，所以问责制作为一种机制的角度，应当充分考虑上述因素，不能仅从技术角度理解，应当全面考虑谁应该负责、对什么负责、为了什么以及怎么安排机制落实责任原则。
01、算法系统的责任分布在几个不同的行为主体
算法供应链的责任应该被分配在不同的行为主体，但是从实践情况来说可能很难识别行为主体，在不同情况下行为主体也可能不同。更进一步说，没有任何一个行为主体可以全面理解和控制整个算法生态链。
数据保护法通过解决谁是数据控制者的方案来解决谁是主要责任主体。比如欧盟法院在裁决中给出过如下的结论：如果行为主体有影响力，即使不实际接触数据，也可以被认定为控制者；控制者不对其实际控制的环境之前或之后的行为负责；控制者在“权力、能力和义务”的框架里对数据保护法负责。数据保护法认识到了多行为主体，也有了细致的责任分配逻辑，然而无法直接复用到人工智能服务中。在人工智能服务中，可能使用者才是数据控制者。而供应商是数据处理者。这种责任分配方式无法体现人工智能服务商在算法生态链中的核心角色，他们可以通过技术来掌握核心功能，通过标准条款来胁迫客户接受不平等条款等，也可以通过数据处理协议的安排限制自己的责任到数据处理者的范围。
欧盟《人工智能法》明确指出人工智能服务的使用者不同于人工智能服务的提供者，提出了对提供者的义务。但是并没有充分反映出供应链的相互依赖和动态关系，甚至可能导致研发下游的行为主体承担确保人工智能技术符合法定义务，如培训、测试、问责制和风险管理等，而真正对研发承担责任的服务商不承担更多的义务。
因此，正确理解算法供应链里的责任分配是非常重要的，即谁在为谁做什么，谁为谁在执行什么关键功能，谁是供应链的核心，以及谁具有系统性的重要作用。需要在正确理解技术、法律、政治经济的动态因素基础商，把责任分配给供应链上对算法结果产生影响的行为主体。
02、责任范围限制了整个供应链的可见性
算法供应链将研发、部署和使用都分布在了不同主体，彼此之间最多能看到自己的上下游，无法对整个算法供应链有完整的信息。控制研发的人工智能服务提供者可能对下游的环境和部署、使用的实例不了解；控制部署和使用的行为主体缺乏对模型的认知，无法了解训练、测试、验证等情况。因此基于风险管理的路径，算法生态链中行为主体的责任范围就是个很困难的问题。
1. 责任范围限制了问题框架的作用
许多算法问题围绕着问题的定义和解决问题框架的选择，这些选择为人工智能系统设计提供了信息。然而算法供应链中，最接近问题的是部署和使用人工智能的行为主体，但是提供解决框架的却是研发人工智能的行为主体。再加上算法供应链的动态性，更进一步加大了复杂性。所以可能导致某些人工智能在部署时就带有特定的基本假设，而这个假设可能会排除人工智能系统在某些其他领域的部署和使用。算法供应链的整合问题，又导致了限制互操作性的技术障碍和成本使得有些组件不易于被替换。
2. 责任范围导致了风险管理框架难以实施
欧盟《人工智能法》、众多的政策和立法倡议、学术论文都提出了影响评估、风险管理机制。尤其是个人数据保护影响评估是欧盟GDPR的核心机制，人工智能涉及到个人数据的，则应当适用。但是算法生态链导致了风险管理框架难以实施，比如研发人工智能的行为主体不了解客户的部署环境和使用场景，无法评估是否有潜在风险；比如部署和使用人工智能的行为主体不了解模型的研发过程，很难评估系统是否适合当前的场景，更何况模型还会不停地更新和迭代。因此，没有任何一个行为主体对整个算法生态链有全面的认知，无法做出准确的风险评估。
3. 需要扩大责任原则的范围
为了使责任原则发挥效果，只能扩大责任范围，使行为主体了解整个算法生态链，掌握更多的信息。比如增加人工智能服务的“know your customer”义务，要求供应商去理解客户使用人工智能服务的目的和意图。同时，围绕着个人数据保护的透明度义务，也一定程度增加了可见性。但是责任原则是针对场景或背景的，因此要求人工智能的研发主体在记录和提供算法系统的相关信息都应当基于场景或背景。显然，场景或背景化分析在算法生态链里是比较困难的。
03、服务化的分销模式使供应商将控制权扩展到了部署之后
算法服务方式改变了原有的软件授权模式，改为以API接口方式提供相应的服务。而且对于大型供应商来说，其对客户的依赖远小于客户对他们的依赖，以有利的方式构建了他们与客户以及供应链中其他方的关系。供应商会采用标准服务协议随时变更服务的范围，最大化其对部署后服务的控制，甚至定位自己为数据处理者，试图降低其责任。供应商可以采取技术+法律的策略，塑造供应链，使自己在市场中处于有利的地位，实现收入最大化和风险最小化。
04、供应链跨境问题导致监管寻租问题
数据处理和网络技术促使了人工智能服务的研发、部署和使用可以分布在不同的国家。比如在劳工保护比较低的国家进行数据清洗和标注。
结论
算法供应链对以组织为中心的责任原则提出了挑战。人工智能技术涉及到算法供应链，其研发、部署和使用由共同产生结果和功能的多个行为主体承担。主要供应商已经呈现了横向和纵向的高度整合，而且整个生态链也在逐步向这些主要供应商聚拢，因此主要供应商的问题是具有系统性的影响性。特定系统的问题又通过了供应链传播，在不同的使用实例中发生变化，让人难以理解它们是如何运作和发挥作用的。正是这些长期互相依赖并动态变化的行为主体构成了供应链，各自承担了其中的一部分责任，然而互相又不能完整了解整个生态链，这种有限的可见度导致了风险管理机制难以发挥作用，而供应商又可以采用服务条款、标准API机制控制技术的同时减少法律责任，甚至可以实现监管寻租。
总而言之，未来的算法责任原则必须正视和解决算法供应链的动态变化和依存性问题，充分了解算法供应链是如何实现结构化的、如何产生的技术结果、如何动态变化的，在了解了其中的技术、法律、政治经济因素，正确分配算法生态链中研发、部署和使用人工智能技术的行为主体的责任，使其对人工智能技术的运作和影响负责。