《生成式人工智能服务管理暂行办法》专家建议

生成式人工智能（简称“AIGC”），本质系一种基于训练数据和算法模型生成文本、图片、声音、视频、代码等内容的技术。以ChatGPT为例，区别于过去的执行指令，AIGC的功能已非常强大，可以生成对话、完成翻译、创作文学艺术作品等。可以说，AIGC已经开始像人类一样，创造性地进行思考和输出，但不可否认的是，生成式人工智能在高速发展的同时，存在着个人信息保护和数据安全、反垄断、知识产权保护等多方面的法律问题，这些新的风险和合规挑战，成为我们关注的新课题。
一、知识产权保护
从生成式人工智能技术开发和应用原理来看，AIGC模型的构建主要包含三个阶段：（1）算法模型训练，在这个阶段，技术开发者获取海量数据，进行算法模型训练、调试；（2）用户输入内容或者指令；（3）根据用户输入的内容或者指令生成内容。
（一）在算法模型训练阶段，使用现有作品进行算法模型训练是否构成合理使用？是否需要获得授权？
AIGC技术开发者获取、筛选、挖掘数据，进行算法模型训练、调试，这部分数据中不可避免地包含大量受著作权保护的作品内容。
在2023年7月13日，国家互联网信息办公室会等七部门联合发布的《生成式人工智能服务管理暂行办法》（以下称“暂行办法”）就生成式人工智能数据训练也明确提出“尊重和保护知识产权”要求，如第四条第三款要求生成式人工智能提供者和使用者“尊重知识产权、商业道德，保守商业秘密……”；第七条要求提供者“（一）使用具有合法来源的数据和基础模型：（二）涉及知识产权的，不得侵害他人依法享有的知识产权……”
上述条款要求训练数据有合法来源，不能侵权他人知识产权。那么，以著作权为例，将这部分受著作权保护的作品用于人工智能模型的训练，是否构成对作品的合理使用？是否需要获得权利人的明确授权？这是一个值得关注的问题。
就国内的现行法律来说，《著作权法》第24条对合理使用作了规定，其中或可适用于生成式人工智能的情形主要有“个人使用”、“适当引用”、“科学研究”三种情形。但生成式人工智能模型的开发系基于一定的商业模式和商业目的，属于向不特定主体提供的商业性服务，较难以符合“个人使用”，也不符合“介绍、评论某一作品或者说明某一问题”的“适当引用”情形。虽然，生成式人工智能在某种程度上可以看作是“科学研究”，但“少量复制”和“供教学或科研使用”的目的限制在某种程度上也带来适用困境。
尽管生成式人工智能的测试数据在现行法律框架下，较难构成对作品的合理使用。但生成式人工智能测试所需要的原始数据的体量巨大、权属复杂，要求服务提供者在将上述数据用于数据训练前就获得权利人的事先授权，在实践中具有较大的操作障碍，最终有可能导致生成式人工智能因训练数据缺乏，而引发算法模型偏差。
因此，我们认为在“合理使用”的认定时考虑科技发展及创新因素，为“合理使用”赋予外延更为丰富的解释空间；另一方面，我们建议生成式人工智能开发者、提供者对原始数据进行分类管理，区分公共数据和享有知识产权的数据，对尚在知识产权保护期的数据，通过与拥有庞大的数据库/知识库的拥有者或者经营者达成合作协议等方式来获得部分授权。
（二）内容生成阶段，在AIGC生成内容是否具有知识产权？如有，相关权利属于谁？
探讨生成式人工智能的知识产权问题。首先要厘清的是，人工智能生成的“作品”是否符合著作权法的保护条件，以及人工智能生成的“发明”是否具有专利性、是否符合专利法的保护条件？其次，在符合知识产权法客体的条件下，相关权利归属于谁？
在中国《著作权法》的语境下，作品，是指文学、艺术和科学领域内具有独创性并能以一定形式表现的智力成果。对于人工智能生成的内容是否属于智力成果并且具有独创性？
我们从（2019）粤0305民初14010号“Dreamwrite”案件和(2019)京73民终2030号北京菲林律师事务所诉北京百度网讯科技有限公司侵害作品著作权案件中或可看出一些裁判方向。在腾讯Dreamwriter案中，法院认为涉案文章生成过程的算法设计体现了原告对于发布股评综述类文章的需求和意图，因此判决最终认定涉案作品属于法人作品。在菲林诉百度案中，法院明确了计算机软件智能生成内容不构成作品，软件研发者和使用者也不应具有作者身份和相应的署名权。两个案件裁判理由的关键点在于，如何认识人工智能生成的结果，以及生成过程中人为干预控制的程度。
在我国现有《著作权法》《专利法》框架下，认定AIGC生成内容是否具有知识产权，仍不可避免地考虑“人”发挥的作用，在“人”参与了智力活动，且AIGC生成的内容具备独创性的情况下，AIGC生成的内容才有可能获得保护。
那么，在AIGC生成的内容符合知识产权保护客体的前提下，相关权利归属于谁呢？
对于终端用户使用AIGC生成内容的权属，法律上并未有明确规定。我们认为，但若法律规则复杂，宜有约定从约定。目前主流的生成式人工智能模型，也一般通过协议等方式对生成内容的归属作出约定，主流的模式即约定权益归属于最终用户，AIGC技术提供方获得相应的使用授权。
二、反垄断
（一）AIGC是否会带来垄断？
AIGC技术开发者获取、筛选和挖掘数据的来源具有公共物品属性，并在此基础上应用算法和进行模型训练。因此，在这个领域中，那些拥有大量数据并持续创新的企业往往占据优势地位。目前，市场上领先的AIGC技术开发者通常具备较强的经济实力和市场开发能力。除了通过技术垄断和人才垄断等显性方式外，一些隐形的垄断现象也开始出现。例如，它们可能收购或吸收具有创新能力的小型企业，以消除未来潜在竞争对手的威胁；它们还可能与具有创新能力的第三方开发者合作，利用大型企业的市场地位、财务实力和技术支持进行抄袭式开发等行为。这种类型的垄断行为具有周期长、隐形、变化快、难以识别等特征，在我国现有法律框架下难以明确定义。
（二）现有法律体系对于数据垄断存在的局限性
《中华人民共和国反垄断法》第九条规定：“经营者不得利用数据、算法、技术、资本优势以及平台规则等从事本法禁止的垄断行为。”而第六十八条规定：“经营者依照有关知识产权的法律和行政法规规定行使知识产权的行为，不适用本法；但是，如果经营者滥用知识产权、排除或限制竞争，就适用本法进行规制。”考虑到AIGC生成内容知识产权归属存在争议，以及我国《反垄断法》在数据竞争中的功能定位不明确，对于存在的数据垄断行为如何界定和规制仍然存在较大空白。面对数字经济的高速发展，我国的立法、司法、执法等都面临巨大挑战。在数据经济迅速发展的当下，有必要针对AIGC训练用资料，尤其是数据近用权，作出详尽的规定，避免某家头部AI公司对数据的垄断。
三、数据安全
（一）数据分类方法
《暂行办法》第六条第二款规定：“......推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源......”第十六条第二款规定：“国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。”
《暂行办法》本身并未对数据分类分级方式作出详细的规定，有鉴于AIGC产业的特殊性，需要尽快明确针对AI可训练数据的分类方法。
全国信息安全标准化技术委员会已于2021年依据《数据安全法》第二十一条之规定出台《网络数据分类分级指引》，根据该指引，数据可以从公民个人、公共管理、信息传播以及行业领域进行分类，具体分类方法如下：

考虑到现今AIGC技术所涉行业的广度及深度，以及未来专精类人工智能开发的可能性（如医疗人工智能、法律人工智能等），针对《暂行办法》中所规定的数据分类分级方式，应当采用以行业数据分类规则进行，以便围绕数据安全制定合规框架。目前国家各部委已经围绕行业领域制定多份监管文件，包括《银行业金融机构数据治理指引》、《工业数据分类分级指南(试行)》、《电信和互联网行业数据安全标准体系建设指南》等，另有多个特化型数据安全行业指引正在编纂，AIGC产业所涉数据分类应当严格按照行业分类标准实施。当所应用数据涉及个人信息时，需依照《个人信息保护法》之规定对数据予以处理及保护。
（二）数据收集方式
《暂行办法》第七条第一款规定：“生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：（一）使用具有合法来源的数据和基础模型。
当前，由于使用开放端口获得数据成本过高、程序冗长的问题，各大AI公司训练所用数据多数通过“爬虫”技术所获取。严格地来说，在现有的立法框架下此种数据获取方式是存在合规隐患的，极端条件下甚至会构成犯罪。《个人信息保护法》第十三条第二款规定：“依照本法其他有关规定，处理个人信息应当取得个人同意......”《暂行办法》中也存在类似规定；《数据安全法》第三十二条规定：“任何组织、个人收集数据，应当采取合法、正当的方式，不得窃取或者以其他非法方式获取数据......”在司法实践中，依靠“爬虫”数据抓取的数境在大多情况下都被视为通过违法手段取得的数据，《关于办理侵犯公民个人信息刑事案件适用法律若干问题的解释》第三条甚至不允许将合法收集的个人信息数据转交给他人，给AI训练者的数据获取造成困难。
充足、广阔的数据对AIGC产业的发展至关重要，在AIGC训练的过程中要求训练者对所有所用数据逐一征求许可是不切实际的，目前中文互联网上公开数据的质量及数量均较为有限，因此可以针对AIGC产业在受控前提放宽数据获取渠道。主管部门可尝试通过“监管沙盒”制度，允许部分数据存储措施、数据安保措施达到政策标准的互联网企业在受监督的前提下广泛获取数据、并采取必要措施，如加密数据箱的方式防止这些数据外泄，做好促进AIGC产业生长与保证数据安全间的平衡。
（三）跨境数据的合规管理
《暂行办法》第二条第三款规定：“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。”若AIGC服务提供者欲向境外提供AIGC生成服务，则必然产生数据跨境问题，该条款似乎未对数据跨境的情况予以规制，存在一定瑕疵。
《数据安全法》第三十一条规定：“关键信息基础设施的运营者在中华人民共和国境内运营中收集和产生的重要数据的出境安全管理，适用《中华人民共和国网络安全法》的规定；其他数据处理者在中华人民共和国境内运营中收集和产生的重要数据的出境安全管理办法，由国家网信部门会同国务院有关部门制定。”国家网信办于2022年制定《数据出境安全评估办法》。《暂行办法》必须明确，若AIGC服务提供者如需向境外用户提供服务，需满足数据出境之评估规定。
四、包容审慎的合规态度
《暂行办法》第十四条、十五条规定：提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告；提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。该两条表明了《办法》认为生成式人工智能运营者应当对不良信息进行监管与处置同时具有及时清除、修正不良信息的职责。
关于对不良信息进行监督的责任，不但在《办法》中有明确的规定，也在《刑法》中有所涉及。生成式人工智能运营管理者如果没有履行信息网络安全管理义务，在经过监管部门责令采取改正措施之后仍然拒绝改正，从而导致了大量的违法信息、用户信息泄露，造成了严重后果的情况下，就有可能会涉嫌拒不履行信息网络安全管理义务罪。
同时，在《办法》中第三条：国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。我们认为该条体现了国家对于AIGC的态度，其中“包容审慎”蕴含的含义是“在一定程度下”，可以免除部分违规不良信息的违法责任。鉴于运营者有必要采取有效措施，提高生成内容的准确性和可靠性，我们认为可以要求AIGC对其所生成的可疑内容进行来源标注，此举一方面可以增强网络信息的透明度和可信度，以避免生成内容给公众带来误导或损害，同时也可以给AIGC运营者提供一条免责路径。