浅论AIGC的技术与法律冲突的平衡——以数据安全为角度

生成式AI已经成为很多人工作学习必不可少的工具，而随着AI技术的进一步发展，人工智能生成内容（AIGC）逐渐开始在网络上成为热门内容。虽然AIGC发展至今，版权问题、隐私问题、安全问题，以及随之而来的所谓“岗位替代”问题引发了诸多的争议，但不可否认的是，AIGC的出现使得普通人敲开了一些专业技巧创作领域的大门。在诸如小红书等社交媒体平台上，能够调教AI生成质量极高图像的博主可以拥有大量粉丝，盖因其内容就算有瑕疵，在某些方面也可以满足受众对审美的需求。
那么，在各路大厂小厂纷纷入局，AIGC飞速发展的现在，法律应当如何回应技术提出的新挑战？这一话题从宏观层面说，是涉及如何为新兴产业限定底线的重要话题，从微观层面说，会影响相关企业的经营运转和合规制度的建立。恰逢《网络数据安全管理条例》公布，将于2025年1月1日实施，其中就对AIGC的数据安全问题做出了回应，因此，本文仅从数据安全的角度，对如何平衡AIGC领域技术和法律冲突做一些简要的分析。
一、AIGC技术与法律的冲突
总所周知，AIGC的核心技术逻辑是算法从海量资料中分析人类常见的语言、图像等逻辑，通过不同元素在规律中的概率进行重组，最后输出结果，甚至可以简单认为，AIGC本质是一种概率，因此当样本量足够大，元素区分足够细致的情况下，各元素分配的概率就会朝着在人类看来“正确”的方向上前进。随着算法的调整和优化，元素细化到每一个字、每一个线条，就会使得元素的调配更加灵活，理论上不会出现与现有内容完全一样的输出内容。正因如此，在机器自行进行组合的过程中，人力无法控制，也就导致最后输出的内容可能是全新的组合，也有可能是对现有内容的高仿。
AIGC诞生以后产生了很多技术与法律的冲突，最直观的就是对著作权客体定义的冲击。AIGC是否具备可版权性至今仍然存在争议，虽然在中国“AIGC第一案”中，北京互联网法院审理认定原告利用AI生成的图片具备版权，但该案件判决因为双方未曾上诉而生效，在未进入更高一级别的法院（特别是最高人民法院）的情况下，该案判决很难说可以代表目前主流的司法实践观点。因此，AIGC在是否属于著作权保护的客体，依然是一个有待论证的内容。
其次就是本文的主题——数据安全。不论是用来训练AI的数据，还是最后输出的内容，都有可能触及数据安全的界限。在2024年7月，某知名小说网站向旗下作者发送了“AI训练协议”，其中约定作者同意将发表在该平台的签约小说用于AI训练，此事一出引发众多作者抗议，几天后，网站不得不收回该协议，表示不会将作者的小说用于训练AI，但从舆论后续的表现来看，大部分作者并不相信，“网站肯定在后面偷偷用我们的小说训练AI”成了甚嚣尘上的阴谋论。无独有偶，国内占据大部分份额的办公软件也曾被爆出将用户的文件用于训练AI的丑闻。
前述两个事件中，其重点都在于训练AI的数据来源。不论是小说网站还是办公软件，因为其主营业务和功能限制，数据来源尚且局限在自己的用户（作者同样是小说网站的用户）上，但是使用范围更广的问答式AI，其数据来源显然不是一个网站或一家公司能够提供的，其来源势必是广泛而互通的互联网，抓取数据成为了其必经程序。对大众来说，这就带来了如前面的作者一样的担忧：“是不是有什么公司背着我拿我的信息数据搞事？”
同时，AIGC的输出同样可能成为数据安全的一块心病，如同前文分析，目前AIGC尚不具备如人一般的思考再创作的能力，它的本质是内容重组的“概率”。这就意味着“喂”给AI的数据很有可能会原封不动地“吐”出来。笔者就曾经遇到过一位客户，他利用AI为自己即将注册成立的公司设计了一个logo，在笔者为其检索该logo是否能够注册商标时，发现了和这个logo一模一样的商标。这件事中AI“吐”出来的只是一个一样的商标，而结合前文对数据来源安全性的忧虑，那产生“某天AI将我保存在网上的私密文件原封不动地提供给了另外一个用户”的恐怖想法就是顺理成章的。
此外，AI数据的输入和输出还会引发种种伦理和个人隐私保护上的问题，例如“换脸明星”、“换脸诈骗”等事情。本质其实还是用于训练和使用的数据来源出了问题，在此不再赘述。
二、现行法律对AIGC技术的回应和困境
从上述分析可以看出，对于AIGC目前仍然存在不少法律难点问题有待探讨，但本文仅从数据安全的角度出发进行分析。
2022年OpenAI发布了ChatGPT，引爆全球舆论，随机国内各大互联网公司陆续跟进AIGC业务，因此，在2023年，网信办联合多部门出台了《生成式人工智能服务管理暂行办法》，其中对AIGC的数据安全进行规定，这份规定与其说是具体的数据安全指引，不如说是一份正确价值观的倡导书，例如第四条就规定，提供和使用生成式人工智能服务应当符合社会主义核心价值观，算法设计防歧视、尊重知识产权、尊重个人信息安全等；又比如第七条规定，生成式人工智能服务提供者使用数据训练时，需要使用有合法来源的数据、尊重知识产权、遵守个人信息保护的相关法律等，本质上，这份规定只是AIGC的从业者划定了一个宏观的边界，但究竟如何监管从业者的数据安全，并没有给出答案。
同样的问题也出现在《网络数据安全管理条例》中，第十九条规定，“提供生成式人工智能服务的网络数据处理者应当加强对训练数据和训练数据处理活动的安全管理，采取有效措施防范和处置网络数据安全风险”。从实务角度来说，这句话是“正确的废话”，网络安全风险如何防范，如何监管，责任如何承担等问题，依然有待于实践来给出答案。
事实上，有关数据安全保护的具体要求、监管方式、监管部门等，大部分都集中规定在上位法中，即《网络安全法》、《数据安全法》、《个人信息保护法》，作为我国网络数据安全方面的三辆马车，这三部法律基本确认了我国对数据安全监管的基本原则和思路，以及部分敏感信息的处理和监管方式。这些法律的规定应当同样适用于AIGC产业。
虽然有可以适用的法律，我国的立法部门也在尽量平衡AIGC发展和监管之间的矛盾，但真正的问题其实是技术水平和法律之间难以解决的冲突。如前所述，AIGC的输出本质是一种“概率”，而这种概率是设计者无法控制的，换句话说，AIGC服务的提供者并不能保证AIGC 输出内容不会侵犯他人的著作权、隐私权或个人信息安全等，唯一的解决方式就是输入数据训练时，就将这些权利内容全部排除，但排除包含个人信息的内容尚且能够容忍，排除著作权法保护的内容将会直接导致AIGC的破产，毕竟在作者将作品创作出来的同时，大部分都自动具备了著作权，要求训练AI的数据不能包含版权内容，那AIGC基本成了无根之木无源之水，显然不可能继续发展。
三、AIGC从业者如何回应法律的期待和要求
从前文的分析就可以看出，真正可以解决AIGC数据安全性问题的根源在于技术的发展，但在技术发展到可以解决AIGC生成过程中的黑箱，控制其中违法侵权变量之前，从业者同样需要对法律要求做出回应，也就是老生常谈的数据合规。
与其他服务平台相比，AIGC的数据的类型更加广泛，这就要求从业在数据来源上进行深度的合规设计，如何合法的取得数据授权，如何尽量避免未经授权的内容进入AI训练的语料库，都是需要结合从业者经营范围进行具体分析的内容，此外，建立侵权投诉渠道，在争议发展为纠纷之前通过非诉手段解决也是一个可以参考的思路，而如何建立侵权投诉渠道，如何避免沟通之中出现更大的争议和纠纷，同样需要结合业务实际进行合规设计。
总之，数据安全问题可能将伴随AIGC 产业的整个生命线，从业者在精研技术的同时，同样需要时刻关注法律的监管和合规，只有在保证合规的前提下，才能使技术可以健康发展。