LLM不存储个人数据？贴脸开大！德国巴登-符腾堡州发布AI处理数据合法性基础，直接点评汉堡州报告结论！

写在前面的话
本公众号曾经发布过德国汉堡发布的一份关于LLM和GDPR的报告，其认为LLM本身不存储任何个人数据，推演出了一番景象：解决了数据主体对模型要求行使权利的困境，也解开了如果训练数据违法的情况下使用LLM是否也违法的耦合关系。
本次巴登-符腾堡州数据保护和信息自由专员办公室发布的讨论文件完全是贴脸开大，直接指出如果要论证此点，前提是需要论证在通常情况下不会重新识别个人。本文件回归到了GDPR对个人数据定义等的基点，从头分析个人数据的定义、切分AI系统中数据处理活动的阶段，依次去判断合法性基础的可行性。
这一份41页的报告，本公众号将拆成上下两期来给大家奉献这场有意思的讨论~
引言和目标
本文是巴登-符腾堡州数据保护和信息自由专员办公室发布的讨论文件，题为《我们的自由：利用数据-保护数据》，旨在探讨在AI的应用中个人数据处理的法律基础。文件详细讨论了何时以及如何可以处理个人数据以训练和应用人工智能系统。它涵盖了数据处理的不同阶段，包括数据收集、处理、提供应用、使用应用和使用人工智能的结果。
文件的目的是为了帮助巴登-符腾堡州的组织更好地理解和应用数据保护法规，特别是在涉及AI系统时。文件强调了数据保护和人工智能从一开始就应该共同考虑，以加强公民的基本权利并使创新技术与数据保护相结合。这样的整合可以促进社会对新技术的接受，同时确保个人数据得到充分保护。
在修订讨论文件的过程中，巴登-符腾堡州数据保护和信息自由专员办公室收到了来自从业者和公民的大量反馈。这些反馈帮助改进了文件的内容，特别是GDPR第6条第1款f项的法律基础上，这在实践中具有特别的重要性。文件还对其他一些有用的注释进行了整合，重点始终放在法律基础上。
文件指出，讨论是持续进行的，因此这些考虑是“正在进行的工作”，可能需要根据国家和欧盟层面上的进一步指导方针进行重新评估。文件的不断更新可能是可预见的，意味着它的内容可能需要定期更新以反映法律和实践的变化。
同时，强调了本文是讨论文件，旨在强调这些不是最终决定——也涉及个别观点——而是旨在反映讨论状态。结合最后的进一步材料收集，讨论文件最终应被理解为在法律框架内更好地定位特定部署方案的辅助工具。
文件不保证完整性，最后的检查列表也没有决定性。讨论在数据保护法项下的主题有限的，只涉及在人工智能系统使用中可能涉及的个人数据处理所需的法律基础。其他主题，如系统的透明度和无歧视性（“偏见”）、数据主体权利、数据安全和数据保护设计、数据保护影响评估或特定于数据传输到欧盟以外的挑战，没有被明确提到，可能会在其他讨论文件中保留。
为了标记讨论文件的修订状态，它包含了版本号和最后修订日期。文件鼓励对公共和非公共实体（包括公司和协会以及主管当局）的人工智能技术和数据处理实践进行深入分析，以确保它们符合欧盟高标准的数据保护要求，并充分保护数据主体的权利。
个人数据和AI系统
GDPR没有针对AI系统的具体规定，因此定义个人数据的依据仍是GDPR第4条第1款的一般性定义。根据该条规定，个人数据包括所有与已识别或可识别的自然人相关的信息，个人数据的定义被赋予了广泛的含义。因此，如果基于额外的信息可以识别自然人的身份，即可认定为个人数据。识别个人数据的可能性可能来自于对数据的数字化编码和表达方式。在评估某项数据是否构成个人数据时，需要考虑所有可能被普遍采用的方法。在此背景下，还必须考虑在数据处理时可用的技术和科技的发展。但是，要确定某项数据为个人数据，必须有可能获取到识别特定自然人所需的额外信息，无论这些信息是否已经被某个实体所掌握。简而言之，要认定数据涉及个人隐私，必须能够接触到或潜在接触到足够的补充信息来识别出具体个人。而这些信息不一定要全部集中在单一实体的控制之下。
个人数据的认定对于AI系统也具有特殊意义，因为这关系到GDPR的适用。在这种情况下，主要的问题是，一个经过训练的AI模型在当前和未来是否可识别自然人。例如，如果AI模型本身包含了个人数据，或者即使在没有直接存储个人数据的情况下，也可能存在间接的可识别性。例如，汉堡和丹麦的数据保护机构认为，大型语言模型（LLM）不包含个人数据。如果按照这种理解，那么在公开提供LLM-AI模型时，提供者必须评估第三方是否可能建立个人联系。在评估人工智能（AI）模型是否涉及个人数据时，我们不能仅仅关注模型本身，而应该将整个AI系统或应用作为一个整体来考量。特别重要的是，要验证第三方或用户是否能够通过特定的输入提示，从AI应用中获取到个人数据作为输出结果。
只有当AI模型的提供者可以合理预期到某些输入提示时，我们才能将由此产生的关于个人的真实或虚构的陈述归咎于该提供者。例如，我们需要区分像“谁是[姓名]？”这样的一般性输入提示和更为具体的“[姓名]，出生于[出生日期]在[出生地]，居住在[城市]，被指控在[日期]犯了[罪行]？”这样的输入提示。
总的来说，如果第三方能够通过AI系统建立个人联系，那么这可能意味着AI系统在处理个人数据。至于是否可以通过技术和组织措施有效阻止某些特定的输入提示，这需要在具体情况下进行评估。
此外，我们还需要考虑到所谓的模型攻击。例如，在成员资格推断攻击中，攻击者试图发现训练数据中包含了哪些个人数据，以此来推断自然人的特征。而在模型反演攻击中，攻击者则试图直接从模型的学习结果中提取有关训练数据的信息。如果这类攻击对AI系统是可行的，那么AI模型本身也可能再次被视为含有个人数据。因此，在处理AI系统时，必须考虑到这些潜在的安全风险，并采取相应的保护措施。
然而，在评估过程中，我们必须考虑在一般情况下，模型攻击是否可能发生。这要求我们定期进行风险评估，评估中要考虑到所有客观因素，比如识别个人数据的成本和时间，同时还要考虑到当前可用的技术和科技的发展水平。这不仅涉及对个人（重新）识别性的法律评估，还应包括符合数据保护法规的技术方法。例如，可以采取一些技术设计上的预防措施来防止模型攻击，如“差分隐私”技术。此外，技术上的“机器学习”方法也可以用于实现删除和遗忘权。作为另一种隐私增强技术（PET），联合学习也是一个值得提及的选项。
个人联系的存在程度也关系到数据准确性的评估。例如，关于无法识别的（虚构的）个人的虚构陈述可能不会被视为事实陈述，因此可能不受GDPR第5条第1款第d项规定的准确性要求的约束。在这种情况下，也需要检验应采取哪些技术和组织措施来防止关于可识别的（真实）个人的不实陈述，以及这些输入提示在多大程度上可以归咎于提供者或用户。个人数据的处理在实现GDPR第三章中规定数据主体权利方面也起着关键作用。如果控制者对自然人的身份有合理怀疑，他可以并且应该给予数据主体提供进一步识别信息的机会，但这不是强制性的。在数据最小化的原则下，不需要存储超过实现目的所必需的个人数据，例如在训练数据中。如果有人在大型语言模型中询问“[姓名]的生日是什么时候？”并得到了错误的输出，通常可以认为“[姓名]”在AI模型中广泛存在，且无法与可识别的个人相关联。如果从输入的上下文中可以明显看出与可识别个人的直接联系，则可能需要进行不同的评估。
简而言之：
AI系统处理个人数据的程度取决于评估的时间点：自然人的可识别性可能从一开始就存在，或者只有在后来通过附加信息才变得可能。必须分析使用的机器学习算法以及自然人通过系统异常干预而重新识别的可能性。
数据处理阶段
GDPR对“处理”的定义非常广泛，几乎包括了所有与个人数据相关的操作，因此在人工智能的应用中，可能涉及到多种数据处理活动。以下是人工智能数据处理的五个典型阶段：
1. 收集人工智能的训练数据
人工智能应用的起始阶段通常涉及收集、生成、结构化或分类用于训练、测试和应用的数据。这些数据可能通过各种方式独立收集，如使用摄像头捕获图像，也可能从互联网等公开可用的资源中获取。
2. 处理数据以训练人工智能
在构建或开发人工智能系统的过程中，个人数据被用来对系统进行初步训练。为了提高系统输出的质量，可能需要进一步处理或反复处理个人数据，即进行微调，以优化人工智能系统的性能。
3. 提供人工智能应用
是否使用个人数据来训练人工智能系统涉及到数据处理，这需要具体分析。例如，如果人工智能应用程序是免费提供的，并且与用户的账户绑定，那么在提供这些应用程序时，可能就会涉及到处理那些用于训练和进一步开发应用程序的个人数据。这要取决于训练数据是否还被保留在人工智能系统中并被使用。此外，在使用应用程序过程中收集的个人数据也可能会被系统用来进一步的训练，从而需要一个独立的法律依据来支持这种处理活动。简而言之，任何涉及个人数据的处理行为，无论是用于训练还是其他目的，都必须有明确的法律基础。
4. 使用人工智能应用
根据数据保护法的“双重门槛”原则，如果个人数据的处理涉及多个参与者，那么每个参与者的数据处理都需要有独立的法律基础。这意味着，提供者和用户都需要为他们的数据处理活动找到合法依据。
5. 使用人工智能的输出
人工智能应用在输出结果时，也可能涉及到个人数据处理的情况。例如，当通过语言模型生成的文本中包含个人数据，或者利用人工智能技术生成真实个人的图像时，就可能触发个人数据的处理。在这种情况下，特别需要关注的是，如果某个实体在使用人工智能系统的过程中首次将数据与个人身份相联系——比如，在文本草稿中加入姓名和地址，或者接受并保存了某些诊断结果——那么就必须评估这种行为背后的法律依据。这涉及到将AI生成的结果与特定自然人相匹配，并考虑到这一过程可能对个人的权利和自由造成的风险。
总结来说，与人工智能系统相关的数据处理活动需要根据上述阶段进行区分，并从提供者、用户和受影响者的角度进行法律评估。
数据保护义务
1. 控制者
作为数据保护法中的“控制者”，个人或组织需对个人数据的处理承担法律义务，确保其遵循GDPR所规定的合法性、诚信、透明性、目的限制、数据最小化、准确性、存储限制、完整性和保密性等原则。控制者还需能够证明其数据处理活动符合上述要求。通常情况下，任何涉及人工智能的个人、企业、机构或其他实体都可能成为数据保护法下的“控制者”。控制者是指单独或与他人共同决定处理个人数据的目的和方式的实体。这种决定权可以被理解为对数据处理的“目的”和“方法”的决策。
在某些情况下，两方可能各自独立承担数据处理的责任。例如，一方（如出版社）向另一方（如AI开发者）提供数据集，由AI开发者单独决定这些数据的进一步处理目的和方式。AI开发者应确保数据的合法性，而出版社则需确保数据的合法传输，尤其是确保传输与原处理目的一致，并且存在适当的法律依据。
2. 共同数据控制者
根据GDPR第26条第1款，当两个或多个“控制者”共同决定个人数据的处理目的和方式时，就构成了共同数据控制者。这要求至少有两个参与者的协作，他们对个人数据的处理决定可以是共同作出的。此外，如果每个参与者的决定对处理的目的和方式有显著影响，即使这些决定是补充性的，也可能构成共同控制者。共同控制者的一个重要标准是，没有双方的参与，数据处理不可能进行，即每个参与者的处理活动与对方的处理活动是不可分割的。例如，如果两家公司共同使用它们的数据库来训练一个共享的人工智能系统，就成为共同控制者。
作为共同控制者的各方需根据GDPR第26条第1款，在一项协议中明确谁负责履行数据主体权利，以及谁负责根据GDPR第12条、第13条和第14条承担相应的信息提供义务。
关键问题：
是否有多个方共同决定处理个人数据？
是否至少有一个多方补充决定，对处理的目的和手段有明显影响？
没有一方的参与，处理是否可能？
3. 处理者
在处理者关系中，处理者根据“控制者”的指示处理个人数据，因此不需要有自己的法律基础来处理数据。根据GDPR第4条第8款和第28条，当一个实体代表“控制者”处理个人数据时，构成处理者。在此关系中，处理者一方面作为独立的实体，另一方面受到“控制者”指示的约束。根据GDPR第28条第1款，“控制者”只能与能够通过适当的技术和组织措施确保其处理活动符合GDPR要求并保障数据主体权利的实体合作。处理者基于与“控制者”的合同或其他法律工具进行处理活动，详见GDPR第28条第3款。
在某些情况下，一个人工智能系统可能根据某个控制者的指示，仅用于该控制者指定的目的，并使用个人数据进行训练，这种情况下就构成了委托处理。此外，如果控制者使用了由云服务提供商在线提供的现成人工智能系统来处理个人数据，比如进行诊断，这同样可以被视为一种委托处理。
然而，如果输入到人工智能系统中的个人数据不仅用于执行控制者的指示，还有助于改进应用程序，并且这种处理也符合服务提供商自己的商业目标，那么这种情况就不再仅仅是委托处理那么简单了。这时，服务提供商可能也被视为数据处理的控制者，因为他们从处理活动中获得了额外的利益，超出了最初委托处理的范围。
简而言之：
在人工智能系统的使用过程中，确定数据保护义务可能需要进行详细的事实分析。需要查明的是，个人数据是否仅根据另一个实体的指示和委托进行处理，或者是否有一方对处理个人数据有独立的利益。
关键问题：
各方之间达成了什么协议，个人数据的实际处理方式是如何安排的？
实际处理是否反映了各方之间的协议？
公共和非公共实体都适用的法律基础
首先，我们将介绍GDPR中关于处理个人数据的法律基础，这些基础既适用于公共实体也适用于非公共实体。
1. 同意（GDPR第6条第1款a项）
根据GDPR第6条第1款a项的规定，如果数据主体已经明确同意将其个人数据用于特定的目的，那么处理这些个人数据是合法的。根据GDPR第4条第11款，同意被定义为“数据主体在知情的情况下，自愿为特定目的自由给出的，通过声明或任何其他明确的肯定行为表示意愿，表明数据主体同意处理其个人数据”。因此，同意不仅要自愿且明确地给出，而且要在了解目的的基础上给出，即在知情的情况下给出。
为了使同意足够具体，必须明确哪些数据由谁为了什么目的处理，数据处理的方式是什么，以及谁是数据的接收者。这主要是为了让数据主体能够判断他们是否愿意给予数据处理的同意。在具体案例中，根据数据处理的侵入性确定具体的要求。与此紧密相关的是，控制者有义务告知数据主体数据处理的重要方面。根据GDPR第42条第4款，至少需要提供控制者的信息以及数据处理的目的。
在实践中，基于同意的数据处理可能根据处理阶段在人工智能系统中提出挑战。核心问题是，数据处理在多大程度上可以基于同意，这取决于正在审查的处理阶段及其特定情况。在通过大数据技术自动收集大量训练数据集或使用这些数据集时，通常不考虑同意，因为数据主体在这些处理活动中通常无感知，无法获得必要的同意声明。因此，同意在实践上已经不具有可行性了。然而，如果与数据主体有直接联系并且数据是直接收集的（例如，在B2C领域），情况可能会有所不同。
在训练阶段，由于同意的概念可能产生一些特定于人工智能的特殊情况，这些情况可能与作为法律基础的适用条件相抵触。例如，根据GDPR第7条第3款，同意是可撤回的。如果数据主体行使他们的撤回同意时，控制者则必须根据GDPR第17条第1款第b项立即删除其个人数据，除非数据处理有其他法律基础，或者GDPR第17条第3款的例外情况适用。这可能会对人工智能系统的功能产生影响，如果系统是基于这些数据进行训练的，或者将受影响的数据集分离以履行删除义务的成本过高。
此外，复杂人工智能系统的不透明性和缺乏可追溯性也可能对使用同意作为合法性基础构成挑战，因为这可能质疑以足够具体和知情的同意声明形式遵守数据保护法要求。信息必须以精确、易懂和易于访问的形式，用清晰简单的语言提供，以便数据主体能够理解数据处理的运作方式。对于控制者来说，尤其是当即使是专家也无法从人工智能系统的复杂性和架构（例如，在使用深度学习神经网络时）明确理解人工智能系统和数据处理流程时，因此满足这一要求可能特别具有挑战性。然而，可以通过至少向数据主体提供有关数据处理重要方面的信息（例如，在隐私政策中的数据处理目的和控制者的身份）来在一定程度上抵消不透明性和缺乏可追溯性。在“纯粹”使用人工智能系统和与之相关的个人用户数据（例如，账户信息或使用数据）的处理中，如果满足前提条件，可以以同意作为法律基础。通常，与其他处理场景相比没有特别的不同，只要收集的数据不用于进一步开发人工智能。然而，重要的是数据主体能够在充分的信息基础上给予知情的同意。如果收集的数据被用于进一步开发人工智能，则会出现已经提到的挑战。
总的来说，当分析同意作为法律基础时，将始终取决于具体的人工智能系统和潜在的底层数据处理。除了已经提到的考虑之外，特别是数据处理的日益复杂性和由此产生的基本不透明性可能是同意作为个人数据处理的法律基础，在这种情况下被非常有限地适用的重要指标。
关键问题：
是否存在数据主体的知情、明确肯定的同意声明？
应在处理的哪个阶段给予同意？数据主体在使用（复杂的）人工智能系统时是否能够足够了解数据处理的影响和范围？
如果受影响者撤回他们的同意并行使他们的删除权，人工智能系统的功能是否会受到影响？当前是否能够确保实施？
2. 履行合同（GDPR第6条第1款b项）
GDPR第6条第1款b项规定，如果处理个人数据对于履行合同是必要的，并且数据主体是合同的一方，那么这种处理是合法的。此外，GDPR第6条第1款b项的第二句还允许在合同缔结前的阶段进行数据处理，如果这些处理是为了采取数据主体的请求而实施的。
一个共同的前提是，数据处理必须基于一个明确的合同关系或合同前的关系。这意味着，仅仅在合同中提到数据处理，或者数据处理对合同履行有帮助，这并不足以构成合法性。换句话说，数据处理不能仅仅因为它被包含在服务协议中就自动合法化。它必须是为了实现合同的具体条款或履行合同前的具体请求而进行的。
然而，这一法律基础不适用于第三方的个人数据处理，如果第三方不是合同或合同前措施的参与方。这意味着，不能仅仅通过合同来合法化处理第三方的个人数据。例如，未经第三方同意，将他们的个人数据（如姓名）输入到人工智能（AI）系统中，通常不能依据GDPR第6条第1款b项来合法化。
如果存在合同使用关系，用户处理自己的个人数据（例如，为了看到系统对自己的反应）可能在原则上属于履行合同的一部分。例如，如果有人要求创建一个以他们的声音为训练基础的AI语音生成器，那么处理所需的语音数据可以依据GDPR第6条第1款b项作为法律基础。但是，如果使用这些语音数据来进一步改进基本的AI模型，即便这对合同履行有用，也不能简单地依据GDPR第6条第1款b项来涵盖。
同样，AI系统在医疗治疗中的使用可能基于GDPR第6条第1款b项和民法典第630a条第1款的合同主要义务的法律基础。支持诊断以履行治疗合同，可能会使与使用AI系统相关的个人数据处理合法化。例如，这可能包括使用基于摄像头传感器的AI系统进行皮肤癌的早期发现。同时，从数据主体的角度来看，AI系统的使用必须是可预见的，作为履行治疗合同的一部分，并且目的必须是明确的，正如GDPR第5条第1款b项目的限制原则所显示的。此外，根据透明度原则，必须向数据主体告知AI系统的功能和可能的影响。
关键问题包括：
是否存在一个合同关系，其中数据主体是合同的一方，或者是否有基于数据主体请求而形成的合同前关系？
数据处理是否是合同履行中客观必要的一部分，也就是说，如果缺少了这一处理步骤，是否会使得合同或合同前关系的主要目的无法实现？
数据处理对于合同或合同前的目的而言，是否仅是有益的而非必需的？即数据处理是否超出了实现合同目的所严格必要的范围。
3. 履行法律义务（GDPR第6条第1款c项）
根据GDPR第6条第1款c项的规定，处理个人数据如果是出于遵守法律规定的义务，即有法律或其他法律基础要求必须进行数据处理，那么这种处理是合法的。这种法律义务可能通过成员国的法律实践得到具体化。相关的司法判决应该是清晰和精确的，它们的应用应该是可预测的，并且应当追求公共利益的目标，同时与这一目标保持适当的比例。
控制者在履行这些法定义务时通常没有选择的余地。此外，对于法律基础和将数据处理限制在绝对必要的范围内有更严格的要求。在人工智能系统的背景下，GDPR第6条第1款c项提供的法律基础只有有限的应用范围。
关键问题包括：
是否存在一项义务，要求控制者必须进行数据处理而没有选择的余地？
数据处理是否真的仅限于满足法律义务所必需的范围内？
4. 保护关键利益（GDPR第6条第1款d项）
GDPR第6条第1款d项规定了“保护关键利益”作为处理个人数据的法律基础之一。在训练和应用人工智能系统时，明确区分不同的法律基础是至关重要的。例如，如果我们为了训练人工智能系统而收集、生成、结构化或分类数据，通常不会依赖GDPR第6条第1款d项作为法律基础。这是因为，这一基础仅适用于紧急情况下保护个人免受严重伤害或生命威胁的情况，因此被视为次要选项。其目的是为了在短期内保护个人的生命利益，且没有其他更温和的手段可供选择。目前，很难将训练人工智能系统视为这种紧急情况的必要措施。
然而，在某些特定情况下，可能会考虑使用GDPR第6条第1款d项作为法律基础。例如，当负责机构在紧急情况下使用人工智能系统来处理个人数据，而不是将这些数据用于训练时，可能会依赖这一条款。可能出现的应用场景包括，在无法联系到个人的情况下，使用人工智能系统进行生命救援。在这种情况下，还可能需要满足GDPR第9条第2款c项的条件。
简而言之，GDPR第6条第1款d项通常只适用于紧急情况下，为了保护个人的生命利益而采取的短期数据处理措施。
5. 目的变更（GDPR第6条第4款）
GDPR在其第6条第4款中规定了在目的变更情况下个人数据的进一步处理。这意味着，如果个人数据被用于与最初收集数据时不同的目的，就需要特别考虑这一规定。在人工智能系统的背景下，这一点尤其重要，比如当用于训练系统的基础数据最初是为了其他目的（比如履行合同）而收集的，现在却要用于训练目的时。
在这种情况下，关键的问题是，是否可以根据GDPR第6条第4款合法地进一步处理个人数据。为了评估新旧目的之间的兼容性，需要考虑新旧目的之间的关联性，以及这种进一步使用数据的做法是否符合数据主体的合理预期。
特殊案例：真实实验室
在所谓的“真实实验室”中，如果个人数据的使用严格限定于特定人工智能系统的发展、训练和测试，那么可以依据人工智能法（KI-VO）第59条第1款的规定，将其作为处理个人数据的法律基础。这一法律基础预设了与原始目的的兼容性，即必须根据GDPR第6条第4款积极确定并记录其与最初收集数据时所声明目的的一致性。依据这一规定，合法地进一步处理个人数据以用于“开发、训练和测试特定的人工智能系统”的前提条件是，必须满足GDPR第59条第1款中列出的所有条件（从a到j），如人工智能法第59条第1款第1句所述。这包括但不限于明确化的目的，即人工智能法规第59条第1款中所指的(a)至(v)项的具体目标。
特殊案例：科学研究目的
“科学研究”这一概念在GDPR中有广泛的定义，它涵盖了技术发展、演示、基础研究、应用研究以及私人资助的研究等活动的数据处理，如GDPR第159条第2款所述。在健康研究领域，欧洲立法者也将创新活动视为科学研究的一部分，包括用于健康护理或自然人护理的人工智能算法的训练，参考欧洲健康数据空间条例（EHDS-VO）第41条第7款。重要的是，这些研究必须能够证明它们能够带来长期的社会效益。对科学研究的公益性要求排除了不道德的研究目的和所谓的名义研究。不包括那些对自然人不利的研究，例如提高保险费率、与就业、退休和银行业务相关的活动，自然人的再识别，或开发有害产品。
与人工智能系统相关的个人数据处理可以服务于科学研究的目的。人工智能系统的使用可以作为一种科学方法，同时人工智能系统本身也可以是研究的对象。然而，并非所有的人工智能系统的训练都符合科学研究的目的。在评估与人工智能系统相关的科学研究的可接受性时，重要的是所采用的科学方法必须能够被追溯和理解，以促进知识发现的过程。这也有助于对可能存在的错误和不准确性进行质量控制，从而能够评估所采用的方法和研究结果的有效性。
特殊案例：健康研究
针对GDPR第9条第1款规定的特殊类别个人数据的使用，未来可能会依据欧洲健康数据空间条例（EHDS-VO）第34条的规定进行。该条例允许在以下情况下进一步处理（即二次使用）电子健康数据：
为了公共和职业健康领域的公共利益目的（参考EHDS-VO第34条第1款第a项），
进行健康研究，包括产品开发、算法及人工智能系统的训练、测试和评估（参考EHDS-VO第34条第1款第e项(i)和(ii)），
改善健康护理，包括提供医疗治疗（参考EHDS-VO第34条第1款第h项）。
与此相反，EHDS-VO第35条禁止在某些情况下进一步处理电子健康数据，例如，如果数据处理会导致对个人或群体产生法律、社会或经济影响的决策，如EHDS-VO第35条第1款第a项所述。这可能包括影响就业机会或提供不利的合同条件，或排除个人获得保险或信贷的机会——这些情况都可能造成歧视性影响，如EHDS-VO第35条第1款第b项所述。此外，数据处理也不得用于广告和营销目的，或开发对个人和社会有害的产品或服务，如非法毒品、酒精饮料、烟草制品、尼古丁产品、武器等，以及违反国家法律道德规定的情形，如EHDS-VO第35条第1款第c、e、eb项所述。
最后，国家法律也为出于“公共利益研究目的”的健康数据使用提供了法律基础，依据的是健康数据使用法的第4条和第6条。对研究目的的公共利益要求必须事先说明并记录。研究的公共利益并不直接推断出所使用方法的“科学性”，因为科学研究目的的评估有时取决于研究的主体和可能的实施方式。
基于科学研究法律基础开发的人工智能系统在投入使用前需要获得相应的法律基础。人工智能系统在医疗诊断中的使用可能需要根据具体情况，依据GDPR第6条第1款b项和第9条第2款h项的规定，通过合同处理，或依据GDPR第9条第2款a项的规定，获得明确的知情同意。
关键问题包括：
训练数据最初是基于什么目的被收集的，现在是否计划将其用于其他目的？
数据的进一步处理是否符合GDPR第6条第4款的规定，即是否与最初收集数据时的目的一致？
是否真正满足了对于特殊目的处理的要求？
对于数据的进一步处理，是否有合适的法律基础？