AI 开发应免于法律约束？ICO 从数据保护视角解读 AI 六大迷思|ICO《揭穿关于AI的数据保护的谬论》全文翻译

从解锁医学突破到革新英国的公共服务，人工智能（AI）有着巨大的潜力，能够使我们的生活变得更加美好。在经济的各个领域，企业似乎都对投资人工智能以推动增长和创新充满热情，而这项技术也激发了政策制定者和公众之间的热烈讨论。
本月早些时候，政府承诺在一项新的雄心勃勃的行动计划中加快人工智能的采用。人工智能今年确实成为了每个人关注的焦点——包括我们也是如此。
我的团队已经研究人工智能有一段时间了，致力于赋予并告知人们他们的权利，同时支持组织负责任且自信地使用个人数据。
毫不奇怪，人工智能的机遇和挑战也是今天数据保护日的主题。作为英国的监管机构，我们在这里帮助组织以一种保护人们安全的方式拥抱人工智能的机遇。
我们还有责任在人工智能挑战的浪潮中掌舵，迅速应对新出现的问题和风险。例如，我们在2024年底发布了关于生成式人工智能的政策立场（本公众号分析点击直达），此前在全年进行了一系列咨询。
但就像任何一种新技术一样，对人工智能的兴奋和热情也伴随着许多迷思和误解。虽然我们的咨询系列突出了人工智能开发者的一些普遍误解，我们也知道人们希望更清楚地了解他们自己的权利，以及人工智能的影响。为了确保我们在同一理解上，我在下面解决了其中一些基本的迷思。
迷思 #1：人们无法控制他们的个人数据被用于训练人工智能
事实：技术的发展并没有改变人们对他们自己的个人数据的权利。我们听到一些人担心他们无法选择是否让他们的数据被用于训练人工智能，或者他们认为一家公司可能在使用他们的数据，但他们不明白是如何使用的。
每个人都有权利决定他们自己的个人数据如何被用于开发或部署人工智能。在许多情况下，人们有权反对他们的数据以他们不舒服的方式被使用，或者如果他们只是不想被处理。
如果看到组织的做法似乎不妥，我们也会介入——例如，我们之前曾对领英LinkedIn（本公众号分析点击直达）和Meta（本公众号分析点击直达）寻求训练人工智能模型的方式提出过我们的担忧。我们与许多公司进行接触，以确保有适当的保障措施来保护人们的信息——包括尽可能简化反对的流程。
迷思 #2：人工智能开发者可以在不透明的情况下使用人们的数据
事实：从一开始，对人们保持开放和透明就不是可选的，也不是事后才想到的。我们已经明确表示，任何寻求使用人们的数据来训练他们人工智能模型的组织都必须从一开始就对其活动保持透明。
我们的咨询系列（本公众号分析点击直达）揭示了整个行业缺乏透明度，这需要改变。你必须能够信任你的权利将得到尊重，以支持在新产品和服务中使用人工智能。公司应该确保在使用个人数据训练人工智能模型之前，向人们提供清晰的信息，并给他们充足的时间，提供简单的流程，以便他们在有意愿时提出反对。
迷思 #3：如果人工智能开发者无意处理人们的个人数据，数据保护就不适用
事实：一些人工智能开发者告诉我们，他们“无意”处理人们的数据，或者他们纯粹是偶然使用这些数据。我们的立场是，组织的意图对其保护人们个人数据的法律义务没有任何影响。数据实际上发生了什么才是重要的。例如，如果一个组织想要用人们的社交媒体帖子来训练人工智能模型，他们必须合法地使用任何个人数据，即使他们的最终目标是产生一些创新的东西，比如大型语言模型。
迷思 #4：人工智能模型本身不带有数据保护风险
事实：一些开发者认为人工智能模型不“存储”个人数据，暗示数据保护不适用。我们2020年发布的初步人工智能和数据保护指导已经明确，一些人工智能模型可以包含他们所训练的个人数据，这些数据的形式允许人们被识别。我们支持EDPB最近就这一问题发表的意见（本公众号分析点击直达），我们将继续深化我们对这一复杂领域的理解。
迷思 #5：人工智能开发应免于法律约束
事实：法律对人工智能没有一概而论的豁免。我们生成式人工智能咨询的一些回应者认为，数据保护法不应该阻碍人工智能的发展，监管机构必须对创新给予一些宽容。
正如我们的专员所说，数据保护和人工智能是相辅相成的——公司不能期望在他们的产品或服务中使用人工智能，而不先考虑他们将如何确保人们的权利和自由得到保护。人们可以放心，这不仅仅是自愿的伦理规范，也不是可选的事后考虑，而是任何开发或使用人工智能的人的法律义务。
我认为数据保护实际上是在为负责任地开发人工智能铺平道路。最终，不反映技术的复杂性或其影响的开发，并不能帮助好的参与者在推动创新和增长的竞争生态系统中取得成功，也不能促使不良参与者进行改革。
我们每天都在支持这个生态系统。我们不是给组织开绿灯让他们偷工减料，而是用大量的实用建议来支持他们，以便他们能够做对。我们的创新咨询服务可以回答任何紧迫的问题，而我们的监管沙盒意味着我们可以在那里支持新产品的开发。我们还与DRCF的其他监管机构密切合作，确保公司通过人工智能与数字中心获得协调一致的跨监管支持。
迷思 #6：现有法规不适合像人工智能这样的尖端技术
事实：我们是几个监督人工智能的英国监管机构之一，但也许是我们少数几个可以追溯到设计阶段的监管机构之一，确保系统不仅被使用，而且被负责任和安全地开发。
无论他们是否使用最新的人工智能技术，如果组织使用人们的个人数据，他们就需要遵循相同的规则。数据保护之所以强大，是因为无论技术如何，它都可以被调整来帮助公司仔细评估和减轻他们自己使用或开发人工智能的任何风险。像人工智能这样快速发展的技术需要基于原则的灵活立法，而不是可能留下空白或造成障碍的更具规定性的方法。
但我们认识到我们必须迅速做出反应，以明确法律如何适用。随着人工智能以新的方式被部署或被引入新的领域，它为我们提出了更多需要解决的问题。这就是为什么我们一直在密切关注，并更新我们对新兴人工智能问题的立场，以填补这些空白。