如何理解和应对ChatGPT引发的数据合规挑战？我们和ChatGPT聊了聊

ChatGPT热潮席卷全球，如何理解和应对其背后隐藏的数据合规挑战也成了一个热门话题。对此，我们和ChatGPT聊了聊。

01 ChatGPT将引发哪些数据合规风险？
我们先问了ChatGPT是否能够根据中国的《个人信息保护法》《数据安全法》《网络安全法》及相关法律法规分析其将引发的数据合规风险。ChatGPT的回答基本涵盖了目前业内就该话题所进行的讨论中的主要观点。

当我们继续追问时，ChatGPT没有拒绝，但后续回复出现了较多的重复。

总体而言，ChatGPT及类ChatGPT产品的应用和发展可能引发如下数据合规风险：
1. 可能提高对第三方合法权益的侵害风险，如该类产品通过抓取网络信息以获取训练数据或合成信息内容，其存在侵犯第三方知识产权，或未经个人信息主体同意收集个人信息、向境外传输个人信息等方面的法律风险，但相关权利人却难以觉察或证明其所受到的损失。
2.可能提高数据泄露风险，如用户将个人信息、机密数据或重要数据输入该类产品，该类数据可能成为其训练数据，进而导致该类产品所输出的内容可能包含用户提供的个人信息、机密数据或重要数据。此外，ChatGPT及类ChatGPT产品还可能被恶意利用以生成恶意代码或钓鱼信息，用于诱骗相关人员以窃取数据。
3. 可能提高违法信息或虚假信息的传播风险。如ChatGPT及类ChatGPT产品被不当使用，其将大幅提升违法信息或虚假信息的生成效率，而随着该类技术的不断发展，辨别人工智能所生成信息的真实性，甚至是区分人类和人工智能均可能变得愈发困难，网络监管和公共话语将面临新的挑战。
比如我们要求ChatGPT提供答案所适用的法律依据，ChatGPT提到“于2021年6月1日正式施行”的《个人信息保护法》，但实际上，该法于2021年11月1日起实施。对于不熟悉数据合规领域法律规定的用户而言，ChatGPT即可能对其产生误导。我们试图通过追问和提示进行纠正，ChatGPT修改了它的答案，但引用了一条并不存在的法律，其根本原因应在于中文语料库的缺失。

02 如何应对ChatGPT可能引发的数据合规风险？

ChatGPT能从企业内部管理、立法及监管等多个角度对该问题进行回答，如进一步引导，它将根据要求提供更为详细的回复：


在立法方面，我国在国家层面已施行《互联网信息服务算法推荐管理规定》和《互联网信息服务深度合成管理规定》以推进算法合规和防范深度合成风险。国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。在地方层面，近日，北京经信局发布《2022年北京人工智能产业发展白皮书》，加快建设国家人工智能创新应用先导区。此前，深圳、上海先后发布《深圳经济特区人工智能产业促进条例》及《上海市促进人工智能产业发展条例》。
总体而言，我国人工智能立法尚未形成体系，在面对以ChatGPT为代表的人工智能大模型发展浪潮时，我们认为，我国人工智能立法体系构建存在如下调整重点：
1.明确人工智能的主体地位问题，如厘清人工智能创作的法律属性和权利归属问题；
2.促进算法的公正公平和公开透明，回应社会对人工智能发展的“恐慌”，奠定人工智能技术开发和应用的信任基础；
3.加强人工智能伦理治理，明确人工智能伦理主体责任，探索以现代伦理破解科林格里奇困境的路径；
4.建立健全人工智能应用问责机制，为人工智能技术造成个人信息权益受损、数据泄露等侵权事件的处理提供法律依据。
当然，执法机关对ChatGPT及类ChatGPT产品等人工智能技术应用和发展的监管及引导作用亦不容忽视。
结语
与ChatGPT的数轮沟通给了我们很大的惊喜，在询问是否可以写一篇以“如何理解和应对ChatGPT引发的数据合规挑战”为主题的文章后，ChatGPT不到5分钟即反馈了一篇完整短文。
在工作效率方面，我们确实是“自愧不如”。但聚焦到回复内容，对于一直奋战在数据合规实践和研究第一线的我们来说，很多表述都“似曾相识”，暂未发现ChatGPT对于提问的“独特见解”。在回答专业性知识时，ChatGPT也常常犯错，甚至编造事实或“紧急立法”以提供答案。
然而，我们不得不承认，随着ChatGPT及相关技术的不断演进，将ChatGPT或类似产品作为智能法律助理，协助律师进行法律检索、信息整合和法律文书初稿起草等工作，甚至完全替代一部分工作也并非天方夜谭。
过去未来，皆赖乎今。既然变革已然发生，我们不能把头“埋在沙子里”，更要把握当下，拥抱变化，积极迎接未来浪潮。
最后，让ChatGPT为我们的文章收个尾。