ChatGPT“狂飙”背后危与机（上）

导言
2023年伊始，ChatGPT迅速“席卷”全球，在短短2个月内月活跃用户数破亿。曾经有文章称，ChatGPT来了之后，最先被取代的Top3行业就包括法律和技术。于是我们有了这样一场对话，从软件工程师和律师的视角，来探究ChatGPT“狂飙”背后的危与机。
01、ChatGPT是什么，它到底特殊在哪？
郝 :微软在ChatGPT发布后向OpenAI公司又追加100亿美元投资，成为Open AI最大股东，同时在一个星期内把OpenAI 、ChatGPT和Bing结合在一起，使得上百万用户通过新的Bing来使用ChatGPT。那么ChatGPT是什么，会给普罗大众的生活带来什么影响呢？
日常生活中我们常常会向客服咨询，客服分为智能客服和人工客服两种。我们常用的智能客服最早是由利用关键字搜索的聊天机器人来处理的。而最近的的智能客服是基于AI技术，通过深度学习来对自然语言进行搜索和分析，推断人的意图从而得到相应的答案。常见的搜索引擎例如谷歌、阿里、华为等均会提供聊天机器人平台，可以回应天气、利率等专业问题，也可以回答关于账户余额、企业运营信息等私人问题。在ChatBot发展的过程中，还有提供闲聊功能的聊天机器人例如微软小冰，像Siri，Alexa等私人助理（Private Agent）也很受欢迎。在和它们的交流中，我们能很明显地感受到是在与机器对话。ChatGPT就不同了，它在回答问题的同时还会质疑或反驳我们，在沟通时的语言结构更接近于人类，ChatGPT能处理大量的数据，数据模型有1750亿个参数，这都使得ChatGPT看上去更像人。
计算机历史上著名的“图灵测试”提出，“当我们与机器对话无法判断其是人还是机器时，它就通过了图灵测试。”在过去的几十年，无数软件试图通过“图灵测试”，均以失败告终。虽然这个测试在逻辑上不是很严谨，不过我认为ChatGPT几乎可以算是通过了。我们不禁思考，机器是不是真的可以解决人的脑力问题？
ChatGPT是在Transformer算法的基础上，通过搜集整理海量数据，产生的最新的文本生成平台，能够跨语言，跨领域处理大量的文本工作。这也是ChatGPT在普通人中引起热潮的原因。
申:我个人感觉ChatGPT与以往的聊天机器人相比，最大的特点就是“人模人样”。但是同时我也有疑问，ChatGPT仅凭借其语言习惯更像人，在技术上是否就会产生像计算机、互联网的发明以及触屏技术问世等开创性、跨时代的意义呢？ChatGPT的到来是否也意味着“新纪元”的开启呢？
郝:作为程序员，站在个人角度来说，我认为ChatGPT在计算机技术发展方面具有重大的意义。ChatGPT之所以在今天引起热潮，是因为大量的普通人被吸引并选择使用这一工具，这在商业上已经是一个现象级的AI产品。上一次人工智能产生这样的热度，还是2016年阿尔法狗（AlphaGo）击败人类职业围棋选手。今天，人工智能不仅在围棋领域，在教育、学术、多媒体等领域产生了巨大的突破。
ChatGPT“狂飙”的原因，在于其可以走入普通人的生活，并开始解决生产力的问题。
02、ChatGPT生成的内容有知识产权吗？
郝 :我想跟两位律师聊一下，抛开技术层面不谈，假设今天有一个助理律师能做总结或者整理这些文书工作，有一个系统是免费的或者只需要支付一点电费，您们会如何选择呢？这会使得您们的工作模式产生什么变化呢？
申:要不要用这样一个工具，我会主要考虑以下几个因素：
第一是工作质量。像我们从事法律工作对专业性是有要求的，如果使用ChatGPT，对一些泛泛的问题，ChatGPT的答复看起来是“唬人”的。但是如果涉及到特定的专业，我们进行测试时问过一些更深入的问题，它更多还是局限于对现有素材的整理归纳。以目前ChatGPT的水平来看，它是无法胜任一个中年级律师能做到的基础法律分析工作的，它提供的工作质量可能跟我的预期存在差距。
第二是知识产权问题。尽管它是免费的，但是使用ChatGPT生成的东西会不会存在知识产权方面的问题，我觉得可能大家都特别关心这个问题。
薛:（1）说到知识产权，之前香港大学曾发出通知，禁止学生使用OpenAI来生成作业。尽管我认为大学的这一做法是基于培养学生独立思考能力的角度进行的，但是我们也确实存在这样的问题，人工智能产生输出的内容到底有没有知识产权？
我个人这么理解，首先，因为咱们中国的著作权产生于1990年，那时候别说人工智能，即使是计算机也没有达到普及程度，所以立法者在当时的背景下基于立法原则，肯定没有把人工智能纳入著作权人的范畴。尽管之后著作权法进行了几次修改，但是其立法宗旨没有改变，著作权人还是在自然人、法人和非法人组织的范畴之内。
其次，根据著作权法规定，作品需要同时具备创作意图和独创性表达，才能受到著作权法的保护，这一点AI显然是不具备的。之前有一个很有趣的例子，摄影师在森林里摆放了一台设置好参数的相机，这时候有猴子经过并好奇摆弄。在摆弄过程中猴子按下快门，给自己照了一张露出惊悚表情的自拍照，这张作品在我们人类看来是非常搞笑的，也在网络上火爆一时。后来，摄影师将传播照片的“侵权者”告上法庭，法院合议后得出这样的结论：
“首先照片不是摄影师本人拍的，是猴子误触相机拍出的作品，猴子本身并没创作意图。其次对摄影师来说，在整个作品的产生中，摄影师仅仅将相机放置在原始森林里边起辅助性作用，照片的产生是偶发事件，摄影师对作品的产生同样不具有创作意图。从这个角度出发，摄影师对作品也没有著作权。”
所以基于上述两点，通常情况下AI产生的作品不应该享有著作权。但是我也大概检索过，发现有判例表明法院将AI产生作品的著作权认定为编程者所有。这个例子的特别之处在于，编程人员在编程过程中有意引导AI生成特定作品，最后作品体现了人的干预，最后结果体现了人的创作意图。所以说在这种情况下，尽管比较特殊，法院也有可能把AI作品认定为是著作权的保护对象。
具体到今天我们讨论的ChatGPT的话，我个人对ChatGPT技术不是很了解，但根据所了解到的情况，AI工具的知识领域十分广泛，实际上编程人员很难对每一个问题的答案进行干预，很难在每一个作品中体现人的意图。所以我认为，至少就目前来看ChatGPT所产生的作品很难被认定为具有著作权。
（2）音乐这个领域确实是我不太熟悉的领域。但我认为这个问题可能不是著作权法上的问题，人的思维方式摆脱原有思维方式的局限性，就有可能会产生新的作品。
郝:另外一种情况可能不太一样，如果我们在ChatGPT的创作基础上进行再创作，知识产权归谁？我需要证明创作所占百分比吗？如果某一部分是AI创作的，某一部分是我创作的，这算不算我的知识产权呢？
薛:著作权有独创性的标准，常见例子是汇编作品。比如说把现有的作品汇编成册，像鲁迅的作品集，在汇编的过程中我们会有选择。比如要表达卑亢悲愤的心情，或者要按照战争或者和平年代的顺序，我们按照顺序选择作品的过程就体现了独创性的思维方式，这样的作品是受到知识产权保护的。另外一个例子是在作品现有的基础上，增加了自己的创造性表达，这部分当然也是可以享有著作权。
郝:我想再问一个跟知识产权紧密相关的问题。有一个思想实验叫：“无限猴子定理”，说一只猴子在打字机前面随意打字，在理论上存在着打出一部莎士比亚著作的概率。在我看来猴子可能没有著作权。有一个类似的问题就是，人类可能产生的音乐旋律已经可以通过计算机全部编辑生成，包括音高节奏等。也就是说作曲家只要创作出一段旋律，一定能在数据库里找到。这样作曲家的创新可能会被扼杀，不知道您对此有什么想法？
薛:这个确实是我不太熟悉的领域。我个人认为跟著作权相比，人的思维方式摆脱原有思维方式的局限性，就有可能会产生新的作品。
申:我的理解是，作曲家可以把ChatGPT当作工具来使用，利用其庞大的数据和素材，来节省时间提高效率。如果是这样的话，ChatGPT仅仅发挥了工具的作用，真正的创作人还是作曲家自己。
03、ChatGPT会发展出意识吗？
申:以前美国有个电影《Her》,讲述的就是男主角跟AI相爱了，但是 AI自我学习能力太强大了，很快就超出了这个男主的认知水平，所以到最后只能分开。ChatGPT会进行自我学习，那么在往后发展的过程中是否会产生自我意识呢？
郝:这个问题就特别深刻了。首先什么是意识？脑科学研究里有一个说法：“如果我们把大脑打开，会看到很多血管神经元，但是看不到记忆。”在人工智能的领域里其实也是类似的。ChatGPT也是深度学习技术，这种技术最早源于神经网络。人工智能里有一个重要的领域叫AI的可解释性：也就是如何解释AI。人工智能科学家或工程师只能通过设计网络结构和参数进行实验得到结果，而不知道这些结果的逻辑推理或因果关系。这种方法让深度学习技术构建的人工智能系统的可解释性很弱。所以我也不知道计算机会不会产生意识。
我还想再说一下人工智能中深度学习里的另一种模式，叫非监督式学习。在这种方法下，机器会自行对数据进行处理，根据预先设定的规则得到相应的结果。GPT算法就是一种非监督式学习的算法。在这种算法下，计算机科学家能够控制输出结果的手段更加有限，出来的结果更不可控。这或许会让大家担心，机器存在自主的意识。不过我倒是觉得目前还不用太焦虑。意识可以包含记忆、思想、情绪、观念、意图等。目前的人工智能离这还太远，大家尽管放心。
04、ChatGPT“违法乱纪”，谁来承担责任？
郝 :如果说ChatGPT出现了一些违法的东西，责任谁担？
申:运营维护设备的，提供技术服务的，像咱们国家法律框架下就是服务提供者，技术支持者来承担。
郝:我作为程序员来讲的话，我就会觉得很冤枉，我没有办法控制这东西，即使是公司也无法控制这个风险。如果让企业、程序员承担责任的话，可能就没有公司敢研究这种技术了。
申:如果在大方面说的话，这就是立法和监管环境对整个产业、行业的影响问题了。中国和美国我觉得比较像，都是促进产业发展；欧盟可能就不太一样，更多先想到监管，要把风险想到前面。所以这几个地方的 AI水平发展也是不一样的。在产业发展上肯定还是促进的，因为毕竟它是未来的一个发展方向。咱们国家现在除了整体的政策外，各地包括深圳上海都有这方面的产业促进条例，所以产业发展肯定是鼓励的。但是一个行业的发展，不能说它只有好事没坏事，它一定是伴随着风险的，风险得去想办法去控制。刚才您讲到，责任到人、到公司，觉得很冤，我理解您这个问题下的底层逻辑是，AI的可解释性很弱，我们也无法控制它的走向。但是我们也有规定，要求在AI产品上市之前做评估，在 AI技术发展过程当中要做监控，不能说企业把AI创造出来就往市场上一扔，就任由它自生自灭了，那企业责任何在呢？所以其实在这方面，我觉得立法已经在把边界给画出来，红线就在这个地方，不能超出这红线。
而且我们讲法律上权利义务对等，你既然不让AI享有权利，为什么让它承担责任呢？这是不是也不公平。
这其实就是怎么看待技术中立的问题。好人用好的工具产生了好的效果，如果是坏人使用工具做了坏事，这个责任谁来承担呢？因为刚才我们讲的是权利，那么权利的对立面就是责任。咱们国家对于AI在伦理方面的要求是责任到人，最终这个责任是要人来承担，不能让工具背锅。
郝:对，就像网上说的，人工智能是替代不了人的，因为人工智能背不了锅。
薛:我也是感受比较深的，因为这两年AI进步确实比较明显，大家自身都能感知到。包括前两年的智能变脸软件，软件出来后我考虑了很长时间。如果说各国领导人用换脸去做一段视频，这个是否代表他的立场？在没有技术或者法律限制的前提下，没法去判断。现在的话像 ChatGPT这个软件也出来了，它不光能够制造一张假的脸，而且能制造一套假的思想，这两个东西结合起来，我觉得是一个非常可怕的事情。现在国内有没有相关法律来限制这种深度合成类的技术呢？
申:咱们国家还是有立法的，去年发布、今年生效实施的有一个《互联网信息服务深度合成管理办法》，在这之前，去年有一个《算法推荐管理办法》，都是对AI技术的特定应用场景做了一些要求。像刚才讲的图像的合成，ChatGPT文字的合成，还有其他的一些音频的等等这些，都是有要求的。法律也提到了伦理的问题，也提到了监管的手段，比如上市之前的评估问题，以及对网络空间生态的保护，这些要求都要具体到相应的企业上，我们叫做深度合成服务的提供者或者技术支持者。
现在国内对AI领域已经给予了注意力和监管压力。像刚才提到的换脸软件，国内外已经有了相应的案例。这样的换脸行为实际上会对人格造成侵害，并不是说游戏化、娱乐化之后，法律责任就不存在了。网络不是法外之地，现在我们的网络监管更强了。如果说深度合成服务带有舆论属性或者社会动员能力，那么这个产品在推出后需要到主管部门做备案，这些都是一些监管层面的措施。
05、ChatGPT会泄露个人信息或有其他数据安全风险吗？
郝 :我想问一下关于数据安全方面的问题。
一方面在国内有一些代理机构，会通过ChatGPT的方式与境外接触，然后对外进行服务，这个部分的话会不会涉及到一些数据合规出境和安全的问题？
另外一方面是数据隐私。比如说我跟 ChatGPT聊天，报出身份证号让它判断是不是幸运数字，这时候会不会有问题？最后还有一个伦理问题，比如我说需要一个人类毁灭的计划，如果人工智能给出了答案，会不会触犯法律？
申:对于伦理问题，包括个人信息问题，ChatGPT会采取屏蔽措施。如果提问这种敏感话题，它的保护机制会控制它不去泄露。您刚提到数据的问题，因为ChatGPT目前没对国内用户开放，通过一些中间的服务商或者翻墙去体验这个产品，肯定会涉及到数据安全问题。
正好我还想跟您确认一下，就您了解的，ChatGPT这个技术它是预训练的，是基于网络上已有数据，它会不会在和用户交互的过程中进行一个及时的搜集和反馈？
郝:我们讲的更具体一些，GPT这个算法虽然是预训练的，不过在实践上没有一个软件会只依赖这个预训练模型，包括ChatGPT。比如微软的New Bing，在获得ChatGPT的答案之后，还会在互联网上抓取实时的数据。
具体数据的处理还能分为两类，一类是定期补充新的数据，然后重新训练来改进模型。另一类是通过人工来标记相应的特殊数据，例如垃圾数据，防止系统违反法律或伦理。对于New Bing的结果，在实时抓取数据后不会立即影响其数据模型，只是影响到当时查询的结果，这是一个合成的结果。
申:所以在跟用户的沟通过程当中，用户的数据是会被上传的。
郝:那是肯定的。我们在询问问题的时候，所有的数据都会上传到这个平台上，问题所有内容都会上传后台。
申:那这个其实是一个很典型的数据收集场景了，收集大量的用户在使用过程当中生成的一些数据，这些数据里面有可能就会有个人信息。刚刚您举了一个例子，上传手机号想看看我的手机号码是不是吉祥号，或者对数据安全不敏感的人在无意当中上传敏感数据甚至重要数据，这些都是有可能的。如果企业在境外直接去收集的话，其实涉及到一个数据出境问题。
郝:在数据监管领域，可能欧洲的GDPR会做的比较严一些，有没有类似的政府或者国家对ChatGPT出台类似的监管措施呢？
申:我最近没有了解到有专门针对ChatGPT的监管措施出台。但是对于AI这种数据流动的监管不是一个新的问题。可能使用的工具不一样，但它涉及到的数据监管问题本质相同。
郝:刚刚讲到客户隐私上传网络谁来承担责任的问题，我们分两种情况进行讨论：一个是我自己传上去，还有一种是第三方上传的。
申:对于第一种自己上传的情况，我们从个体角度出发，首先需要判断上传者是否具有相应的行为能力，8岁孩子和成年人做出相同行为，承担的责任也是不同的。在成年状态下，我们需要具备理解判断隐私政策和用户协议内容的能力，再去承担这个责任。在数据服务者的角度，有责任去承担保护义务。因为现在各国在数据领域都强调“长臂管辖”，包括我国的法律、欧盟的GDPR以及美国的一些法律，都规定了域外效力。如果你严格按照咱们国家的法律来讲，Open AI直接收集了中国境内个人信息，就是涉及到是否要适用中国法律的问题。现在可能还有一个模糊的边界，因为ChatGPT没有正式向中国开放，很难定义它是面向中国提供服务。但是未来，如果Open AI进入中国市场，还是有可能涉及到数据出境的问题。
对于第三方上传的情况，我觉得需要看考虑问题的角度，如果从数据保护、个人信息保护的角度出发，我觉得他也应该是算一个责任主体。在中国境内设立的主体在中国境内做这个事情，就得遵守中国的法律。
另外，如果从数据跨境的角度，我们需要结合其背后的数据流，去判断它到底是整个数据链路中的哪一个环节，今儿再判断它只是数据链中的一部分还是数据出境的责任主体。这个需要具体问题具体分析。