欧盟AI法下首个AI监管沙盒指南：荷兰数据保护机构发布AI监管沙盒的形式建议

《人工智能法》要求各成员国从2026年8月起至少设立一个“人工智能监管沙盒”。在监管沙盒中，监管机构为人工智能系统供应商提供支持，帮助他们在开发过程中解决如何符合《人工智能法》的问题，以便其产品能够符合规定进入市场。监管机构的解释旨在阐明《人工智能法》中的规则，使供应商更容易遵守这些规则。同时，监管机构也能通过这种方式更好地了解创新性人工智能系统以及供应商所面临的问题。在沙盒内，监管机构采取创新友好和灵活的态度，但规则本身不会被暂停。
本文是荷兰监管沙盒的形式提议，由荷兰数据保护局（AP）和荷兰数字基础设施监察局（RDI）发布。该提议描述了荷兰沙盒的期望出发点和建议的流程安排。这是在荷兰经济事务部的协调下，由多个监管机构和部委通过密切合作制定的，其中包括一个试点项目，涉及25个不同组织提出的40个问题，并与荷兰人工智能生态系统中的利益相关者进行了对话。这份公开发布的提议是为各部门制定的最终报告的简化和缩略版本。
该提议的目标是为2026年8月前启动一个最终的沙盒奠定坚实基础。
提议的形式与荷兰关于人工智能监管的最终建议紧密相关，并且考虑了条例中规定的不同监管角色。在荷兰，预计最终的执行法规将指定不同的市场监管机构负责监督人工智能法的遵守情况。此外，还将指定协调市场监管机构以促进合作。最后，人工智能监管通常与现有的行业特定、领域特定以及基本权利监管有所重叠，因此这些领域也可以在人工智能监管中发挥作用。
荷兰的这一提议是在欧盟委员会尚未公布沙盒的执行措施时制定的。
这些执行措施将阐述选择标准、参与申请和参与条件的原则。荷兰通过人工智能委员会参与这些执行措施的制定，并将根据本提议的出发点进行贡献。如果这些执行措施对本提议的某些部分产生影响，最终的沙盒需要与之保持一致。
一、荷兰AI监管沙盒建议的出发点
根据《人工智能法》设立的监管沙盒应有助于提高法律确定性、创新和更好的立法，并促进良好实践的发展。重要的是，这个新的工具，即监管机构与人工智能开发者共同协作的工具，应良好运作，且各方都应从各自的角色出发，为沙盒的目标做出贡献。因此，荷兰人工智能沙盒建议基于以下出发点：
1. 所有监管机构均参与荷兰AI监管沙盒
《人工智能法》涉及众多行业和领域，因此众多监管机构将在监督中发挥作用。建议设立一个监管沙盒，所有相关监管机构都参与其中，以便以高效的方式回答来自所有行业的问题。关于《人工智能法》的一般问题将集中处理，而需要特定专业知识的问题将由相关监管机构回答。
2. 荷兰设立一个跨行业的AI监管沙盒
所有与《人工智能法》相关的（市场监管）机构都将参与其中。通过一个接入点获得沙盒的访问权限。沙盒及其流程应易于被社会获取。通过所有相关监管机构的参与，人工智能供应商无需自行寻找应与谁联系。通过这种设置，监管机构共同对《人工智能法》进行解释。
3. AI监管沙盒内的角色与监管机构在《人工智能法》监督中的角色成比例
监管机构在《人工智能法》框架内所扮演的角色，将决定其在沙盒中的角色。在《人工智能法》监督中具有协调角色的监管机构，也将履行AI监管沙盒中的协调角色。对特定产品或应用领域负有监督责任的市场监管机构，也将在沙盒中负责回答有关该产品或应用领域的问题。在监督中提供额外横向或领域特定视角的监管机构，也将为沙盒带来这些视角。
4. 荷兰沙盒专注于与遵守《人工智能法》相关的支持
然而，人工智能供应商仍需自行负责最终的产品合规性。荷兰AI监管沙盒主要专注于法规方面的支持，因为这符合监管机构的角色，并且促进资源的有效利用。这种支持还包括在供应商为使人工智能系统符合《人工智能法》的要求而进行的活动（如测试或验证）中提供法律和技术建议。监管机构提供建议，但不帮助供应商实际使人工智能系统符合要求，因为供应商始终自行负责实现人工智能系统与《人工智能法》的合规性。荷兰AI监管沙盒也不提供任何形式的认证。
5. 监管机构提供专业知识，但不提供物理或技术基础设施
建立此类基础设施成本高昂，会影响选择，并且只惠及少数参与者。《人工智能法》也未要求提供此类基础设施。此外，已经存在多个提供此类服务的现有工具，例如测试和实验设施（见出发点6）。
6. AI监管沙盒应尽可能与其他满足人工智能供应商其他需求的工具相衔接
AI监管沙盒在与其他促进创新的工具（如测试和实验设施或欧洲数字创新中心）之间具有特定的角色。还可以进一步探索这些工具是否可以提供监管机构自身不提供的某些服务，例如技术或物理基础设施。重要的是要向外界清晰地传达这一点，并在必要时将供应商引导至其他工具。
7. 荷兰AI监管沙盒也回答不符合密集支持流程条件的问题
《人工智能法》规定的最低要求是，人工智能供应商与监管机构进行密集的支持流程，其中监管机构和提问者多次会面以进一步探讨问题。这种支持流程适用于复杂到足以合理化大量时间投入的问题。然而，在探索和试点过程中得出结论，（a）组织中也有大量需求需要回答不符合密集支持流程条件的问题，（b）这种回答对于监管机构来说也有用，从其一般信息角色出发，并了解存在哪些问题，（c）这种额外时间投入的合理性是由于对提问者、监管机构和更广泛的人工智能生态系统带来的额外收益。此外，确定哪些问题适合密集支持流程，对于市场监管机构来说无论如何都需要进行选择。因此，荷兰沙盒也将回答一部分“非密集支持流程”问题。为此，重要的是，这些问题的答案应尽可能公开反馈。这将有助于人工智能的负责任发展，并使人工智能供应商更容易符合法律要求。此外，荷兰沙盒通过这种方式与围绕提供关于《人工智能法》信息的更广泛目标相衔接。
8. 在荷兰AI监管沙盒中，问题可以持续提交
但重要的是要能够持续满足期望。如果监管机构可用的容量被过度需求，必须能够通过例如暂时关闭沙盒或设置问题限额来限制新问题的提交。
9. 明确从AI监管沙盒中给出回答问题的时间范围
根据复杂程度而定。这些估计的时间范围不能产生任何权利。核心团队将提出一些提交要求，以确保向提问者提供有效的回答。
10. 荷兰AI监管沙盒是需求驱动的
在沙盒启动时，尽可能开放可以提交的问题类型以及问题的复杂程度。
11. AI监管沙盒专注于提前支持遵守《人工智能法》
原则上，只有在与《人工智能法》相关或《人工智能法》要求的情况下，才会涉及其他立法的问题。
12. 随着时间的推移，AI监管沙盒的设置可以根据市场和监管机构的需求和专业知识进行调整
在第一个运营周期后，沙盒的运作将（定期）进行评估，并在必要时进行调整。预计需求和专业知识将持续发展，沙盒可以根据这些情况进行调整。
二、荷兰AI监管沙盒的建议流程安排
基于上述出发点和额外的见解，监管机构在本章中提出了一个由三个支柱组成的流程：（i）核心团队负责协调和回答相对简单的问题，（ii）专家团队负责回答专家问题，以及（iii）密集支持流程，其中监管机构和提问者多次会面以进一步探讨问题。整个荷兰沙盒分为六个阶段：
1、预注册
荷兰AI监管沙盒通过一个窗口提供提交问题的可能性。
2、注册、选择和初步回答
问题到达监管机构，进行分类以识别不同类型的问题，并以书面形式回答简单问题。
3、准备
提问者和相关监管机构准备一个密集支持流程。
4、参与密集支持流程
提问者和相关监管机构一起进行的流程，以进一步探讨关于遵守《人工智能法》的问题。
5、评估与结束
监管机构与供应商协商制定最终文件，记录学习成果，并决定结果公开的形式。
6、参与后
监管机构使学习成果尽可能透明和可共享。
在本章的后续部分中，将进一步解释这些阶段。下面的示例（示例 1）已经展示了在荷兰AI监管沙盒不同阶段中可能的处理方式。
示例1：问题在不同沙盒阶段的处理方式
假设一个人工智能开发者为一家航运公司开发一个人工智能系统，用于预测其船舶的维护需求。
1. 预注册
开发者向窗口提交问题。窗口评估问题是否完整、是否涉及《人工智能法》，以及答案是否已公开可用。如果问题相关，窗口将其转发至核心团队。
2. 注册、选择和初步回答
核心团队评估是否可以自行回答该问题（因为问题较为普遍），或者是否需要行业特定的知识来回答，或者该问题是否适合进入沙盒密集支持流程。如果问题被归类为专家问题，核心团队将联系相关的市场监管机构和领域或行业特定的监管机构。在此案例中，核心团队联系了环境与交通监察局（ILT）。随后，ILT可以自行回答该问题，并在必要时通过核心团队与提问者联系以获取更多信息。ILT以书面形式回答问题，核心团队将答案反馈给提问者。
3. 准备和参与密集支持流程，评估和结束，以及参与后
如果问题被认为适合进入密集支持流程，核心团队将联系相关监管机构（在此案例中至少包括ILT），并与提问者取得联系。随后，他们将共同制定一个行动计划，并开展一个密集的沙盒流程。事后，将所学到的经验教训记录在最终报告中。
1. 预注册
这一阶段（窗口阶段）的目的是让人工智能提供者能够找到荷兰沙盒及其相关指导信息。有一个网站提供关于沙盒、《人工智能法》、所有已有的指南以及常见问题解答（FAQ）的信息。这个网站（窗口）不一定由监管机构管理，可能更适合由一个执行机构来负责。监管机构也会通过自己的沟通渠道将人工智能供应商引导至沙盒。此外，沙盒将被推广以吸引多样化的利益相关者参与。这些活动旨在提高沙盒的知名度，并鼓励广泛的人工智能开发者参与，特别是中小企业和初创企业。
人工智能供应商通过该网站提交问题也属于预注册阶段。这些问题不会直接发送给监管机构以供回答。首先，会筛选出重复的问题，或者明显不属于荷兰AI监管沙盒范畴的问题，例如涉及其他立法的问题，或者与正在开发的具体人工智能应用不够相关的问题。相关的问题将被转发至监管机构的核心团队。
原则上，提问者在提交问题和参与密集支持流程时无需支付费用。然而，为了保证沙盒的质量和效率，问题必须满足一定的提交要求（见示例 2）。
2. 注册、选择和初步回答
问题通过窗口到达核心团队，协调监管机构在此团队中发挥作用。荷兰沙盒的特点是注册和选择阶段的广泛性，在这一阶段，窗口筛选后但不符合密集支持流程条件的问题，仍将由监管机构以书面形式回答。当问题到达核心团队时，该团队将对适合简单回答的问题直接作出回应。如果没有其他相关监管机构提出异议，答案将返回给提问者。然而，有时问题显然不适合直接回答，这适用于两种类型的问题：
专家问题：有些问题需要更多的时间或特定领域的知识。这可以通过咨询相关监管机构的专家来解决。专家问题最终仍将通过书面形式完全回答。与提问者的沟通可以是回答过程的一部分。
沙盒密集支持流程问题：有些问题足够复杂且具有社会相关性，值得在沙盒密集支持流程中进行回答。这类问题将在与提问者进行多次会议中进行讨论和展开。符合条件的问题将进入下一阶段——准备阶段。
在处理过程中，专家问题可能被发现适合在沙盒密集支持流程中进一步探讨。在这种情况下，监管机构将与提问者进行讨论。此外，已回答的书面问题可以稍后以匿名形式通过窗口发布，例如作为常见问题解答（FAQ）。
注册、选择和初步回答阶段的流程是核心团队进行的一种分类过程，该团队按照固定节奏定期开会。不符合沙盒密集支持流程条件的问题将被识别并准备进行书面处理。符合沙盒密集支持流程条件的问题也将被选出。在问题分类中适用提交和选择标准，见下方示例 2。
示例 2: 提交要求和选择标准
提交要求：
问题必须满足一定的提交要求才能得到处理。这保证了沙盒的质量和效率。提交要求是成比例的，并且应尽可能公平地保持沙盒的可访问性。随着时间的推移，这些要求可能会根据趋势和提问者对《人工智能法》的基本了解而发生变化。然而，提交要求应始终与欧盟委员会即将出台的执行措施保持一致。
例如，可以要求人工智能供应商提供人工智能系统和使用环境的清晰描述。另一个要求可能是让提问者自行阐述其问题与《人工智能法》的关联，并说明其问题如何适用于他们正在开发的人工智能系统。
选择标准：
除了提交要求外，当问题数量超过监管机构的可用容量时，还需要选择标准。
一次性回答或专家问题：
原则上，书面处理的问题将按照到达顺序进行处理。如果问题积压过多，监管机构可以根据适用于沙盒密集支持流程的选择标准，对问题进行优先排序。如果问题数量超过监管机构的可用容量，沙盒可以暂时关闭。
沙盒密集支持流程：
监管机构可以根据透明的选择原则，自由地将努力集中在问题上，这些原则将发布在AI监管沙盒的网站上。选择原则是《人工智能法》第57条第9款中规定的监管沙盒的目标，以及欧盟委员会执行措施中可能对该目标的补充。在此基础上，根据《人工智能法》第62条第1款，监管机构可以优先为在欧盟设立的中小企业（包括初创企业）提供准入。
在沙盒密集支持流程中处理的问题必须涉及可能需要符合《人工智能法》要求的人工智能系统。这包括高风险人工智能、具有透明度风险的人工智能以及通用目的人工智能系统（除非这些系统属于人工智能办公室的监督范围）。
此外，监管机构应考虑人工智能系统在沙盒密集支持流程中的成熟度，例如在制定沙盒计划时协助最终确定问题表述。将问题与产品成熟度相匹配是有效完成流程的条件。例如，可以要求供应商具备完成流程的技术和运营能力，并愿意采取措施以确保符合法律义务。
3. 准备
这一阶段是启动沙盒密集支持流程的准备阶段。为此，负责处理的监管机构将与提问者建立联系，进行初步沟通，进一步探讨问题，并讨论沙盒密集支持流程的具体形式。在首次会议后，可以决定是否启动沙盒密集支持流程。如果决定启动，负责处理的监管机构和提问者将根据《人工智能法》制定一个沙盒计划。该计划至少应包括目标、条件、时间表、方法以及待执行活动的要求。此外，沙盒计划还可以用于进一步完善和细化所提出的问题，以使其对提问者、监管机构以及更广泛的人工智能生态系统都有价值。此外，还可以与人工智能生态系统中的其他设施建立联系（见示例 3）。同时，双方还将就如何公开所获得的见解达成协议。
如果决定该问题不适合进入沙盒密集支持流程，或者可以在没有密集流程的情况下通过书面形式回答，也可以做出相应决定。
示例 3: 与人工智能生态系统中的其他倡议建立联系
在设立最终沙盒时，将探索其他组织是否可以偶尔或定期参与监管沙盒。例如，测试和实验设施、欧洲数字创新中心、欧洲数据空间、ELSA 实验室或认证机构等。这种联系为提问者提供了机会，无论是在沙盒内还是沙盒外，都可以在沙盒范围之外的问题上获得帮助。例如，通过其他倡议提供技术基础设施或数据。
4. 参与沙盒密集支持流程
在第四阶段，提问者和监管机构（们）将根据共同制定的沙盒计划开展沙盒密集支持流程，以期在最终报告中尽可能全面地回答所提出的问题。监管机构可以提供法律和技术专业知识，协助对人工智能系统进行测试，以确保其符合《人工智能法》的要求。技术规格的测试不由监管机构完成。此外，与《人工智能法》无关的技术规格测试在所有情况下均在沙盒之外进行。
监管沙盒不会豁免任何法律义务。监管机构有义务采取创新友好的态度。基于这一出发点，期望提问者能够纠正沙盒内出现的与法规的任何冲突。如果提问者未能让监管机构满意地解决这些问题，沙盒密集支持流程可能会被终止。这一约定也将始终在沙盒计划中明确记录。
示例 4: 在真实环境中进行测试
《人工智能法》确实允许对附件 III 中提到的高风险人工智能系统在真实环境中进行测试，而不会被视为投放市场或投入使用。这样做的目的是在人工智能系统正式投放市场之前，收集可靠和稳健的数据，并评估和验证该人工智能系统是否符合《人工智能法》的要求。如果在沙盒密集支持流程框架内进行真实环境测试，参与者和负责的监管机构将商定条件和适当的保障措施，以保护基本权利、健康和安全。鉴于《人工智能法》对沙盒流程之外的真实环境测试所规定的条件，沙盒流程内的真实环境测试也必须提供同等程度的保护。
5. 评估与结束
第五阶段用于制定沙盒密集支持流程的最终文件。这至少包括最终报告，其中描述了所执行的活动、结果以及任何学习成果。此外，还可以制定一份书面记录，证明在沙盒中进行的活动，以便日后对产品进行合规性评估。
6. 参与后
第六阶段确保监管机构使沙盒的学习成果尽可能透明并可共享。这支持了更广泛的人工智能生态系统。监管机构将努力以匿名形式分享书面回答问题的学习成果，例如通过制定常见问题解答（FAQ）。对于沙盒密集支持流程，如果参与者同意，将发布最终报告。另一种选择是发布一份匿名的公开总结，其中包含所学到的经验教训。
三、荷兰沙盒的建议角色分配
为了使荷兰沙盒良好运作，每个阶段都需要相关方的不同投入。出发点是根据将在执行法规中确定的监管职责分配来安排。这意味着所有各方都需要有足够的能力，并且要释放足够的资源，以便能够有效地履行其角色。
示例 5: 参与监管机构：专家问题和沙盒密集支持流程
原则上，核心团队在协商后决定由哪个组织作为处理监管机构来接手专家问题或沙盒密集支持流程。处理监管机构是制定回答和所需协调工作的主要责任方。在沙盒密集支持流程中，处理监管机构也是与提问者沟通的首要联系点。如果需要其他领域的专业知识，处理监管机构还需确保其他相关监管机构参与回答过程，核心团队在此过程中提供支持。
在分配处理监管机构的角色时，核心团队会考虑各监管机构根据《人工智能法》及其他法规所规定的职责。最适合处理该问题的监管机构将被指定为处理监管机构。在实践中，这意味着在《人工智能法》下被指定为市场监管机构的监管机构可以被指定为处理监管机构。如果他们的特定知识能够帮助市场监管机构更好地解释法律，相关的行业或领域特定的监管机构也可以被邀请提供支持，前提是他们具备相应的处理能力。
对于所有类型的问题，包括由核心团队回答的问题，所给出的答案在发送给提问者之前，会在一定时间内对沙盒中的其他相关监管机构可见。这些监管机构可以在答案发送前提出意见或要求修改，以确保回答的质量和一致性。核心团队在所有情况下都可以与提问者取得联系。
以下是沙盒中不同角色的进一步说明，以及它们与监管机构关于人工智能监管设置的建议的关系。
核心团队
核心团队由预期的协调市场监管机构组成。他们回答简单问题，协调专家问题的分配以及密集支持流程的启动。此外，他们作为沙盒内的核心协调机构，负责知识共享，无论是面向监管机构还是面向外部世界：在密集支持流程中获得的知识将被积极共享。此外，核心团队还负责每年（公开）报告沙盒的情况。核心团队内始终有法律和技术人工智能专业知识，以有效促进这种合作。
市场监管机构
在监管机构的建议中，为特定产品组（如《人工智能法》附件I和III中所述）指定了市场监管机构。为了尽可能接近该建议，沙盒中相同的市场监管机构将负责回答专家问题和指导密集支持流程。他们与提问者联系，指导密集支持流程，并参与所有书面答复，以确保质量和一致性。每个参与的市场监管机构都应指定一个联系人供核心团队使用。此联系人可以自行处理问题，或者将其分配给内部其他人员。
行业和领域特定的监管机构
现有的行业和领域特定的监管机构在《人工智能法》监管中也发挥着重要作用，因为他们可能已经在对其领域或领域内的人工智能产品的影响进行监管。在沙盒中，他们可以在回答问题时提供相关知识。因此，市场监管机构可以在回答问题需要特定行业或领域知识时咨询他们。这些监管机构在沙盒中的最终参与程度取决于他们在更广泛的《人工智能法》监管中的角色。
窗口团队
窗口团队管理沙盒网页，负责设置和管理客户关系管理系统，并对问题进行初步筛选。正在研究由哪个组织来管理这个窗口，例如由一个执行机构来负责。
基本权利监管机构
《人工智能法》还为基本权利监管机构（根据法规第77条）规定了特殊角色。为了加强这些基本权利监管机构，法规中包含了信息义务，并且市场监管机构应在出现基本权利风险时与他们合作。因此，基本权利监管机构可以要求市场监管机构调查可能存在基本权利风险的人工智能系统。此外，市场监管机构应在发现基本权利风险或收到严重事件报告时通知基本权利监管机构。然而，在撰写本评估时，基本权利监管机构在荷兰人工智能监管中的确切角色尚未明确。出发点是，他们在沙盒中的最终参与将反映他们在更广泛的《人工智能法》监管中的角色。
数据保护机构
根据《人工智能法》，如果参与的AI系统涉及个人数据处理，则荷兰数据保护机构将参与沙盒。
跨学科专业知识
为了有效利用可用能力，需要跨学科专业知识。尽管大部分能力是法律性质的，但荷兰沙盒需要在法律和人工智能技术知识之间保持良好平衡。在密集支持流程中，从第一次会议开始就需要人工智能技术知识，以便与提问者就人工智能产品及相关问题进行深入讨论。即使是简单和专家问题，也可能需要人工智能技术专业知识来理解来自人工智能开发者的提问。