摘要:生成式人工智能的全面爆发在给社会带来显著发展红利的同时,不可避免地会引发与数据安全、算法安全、知识产权有关的刑事风险。鉴于生成式人工智能技术的复杂性和应用的广泛性,所涉刑事风险的识别与治理面临更多挑战。充分识别生成式人工智能的刑事风险需要搭建协同互补的认知框架,以系统视域对生成式人工智能潜在刑事风险进行全流程审查,借助类型化思维方法对生成式人工智能主要刑事风险进行重点剖析。在此基础上构建生成式人工智能的分级治理机制,通过企业自治、行政监管、刑事规制实现风险防控与技术发展的动态平衡。
关键词:生成式人工智能;刑事风险;数据安全;分级治理
一、问题的提出
随着深度学习技术的发展,人工智能实现由“判别”到“生成”的重大突破。2023年《生成式人工智能服务管理暂行办法》(以下简称《办法》)将生成式人工智能技术定义为“具有文本、图片、音频、视频等内容生成能力的模型及相关技术”。相较于分析式人工智能,生成式人工智能具备智能化创作能力和跨模态融合特征,不仅能对数据样本进行提取、分析,而且能创造出超越样本的新内容,实现文本、图像、视频等多模态交互转换。这意味着,生成式人工智能将会对以脑力劳动为核心的生产领域产生颠覆性影响。毫无疑问,生成式人工智能正推动人类社会加速迈入智能经济时代。
近三年,生成式人工智能全面爆发,全球AI大模型百花竞放。无论是开创多模态交互新纪元的ChatGPT-4,还是以开源模式推动全球参与创新的DeepSeek,都向我们展示了生成式人工智能在提升工作效率、创新知识生产等方面的巨大潜力。但科技终究是一把双刃剑,生成式人工智能在带来显著社会发展红利的同时,不可避免地会引发数据安全、知识产权等方面法律风险。用户成功诱导ChatGPT “越狱”的实例表明,如果使用者有意通过设置命令和禁止要求,可能诱导人工智能输出不良、虚假或违法信息,最终突破研发者对其设置的道德伦理及法律底线。[1]在此背景下,分析生成式人工智能的潜在风险并提出法律治理路径就绝非科幻意义上的感性空想,而是建构在现实基础之上的理性思考。[2]掌握智能经济时代的发展主动权需要研判和控制生成式人工智能的潜在破坏力,其中对潜在刑事风险的识别、治理显然不可或缺。
当前理论界与实务界已经对人工智能发展可能带来的刑事法律变革产生警觉,但对生成式人工智能可能引发的刑事风险缺乏系统性关注和重点性研判。因生成式人工智能具有较强的智能性,其潜在刑事风险涉及技术、伦理等多个层面,治理难度大幅提升。而明晰所涉风险的具体内容与特征是有效治理生成式人工智能刑事风险的前提,[3]刑事风险的全面研判应以了解其运作流程为基础。因此,本文坚持两点论与重点论相统一的辩证分析法,主张搭建协同互补的认知框架,首先在系统化的视域下,以生成式人工智能的工作流程为线索,全面筛查生成式人工智能的刑事风险;之后采用类型化思维方法,着重剖析生成式人工智能发展面临的主要刑事风险。最终,以刑法谦抑性原则为指导,构建生成式人工智能刑事风险的分级治理机制。
二、生成式人工智能潜在刑事风险的全流程审查
运用扎根理论对我国18份生成式人工智能的法律政策文本进行编码分析,研究揭示生成式人工智能法律风险的复杂来源涵盖数据、算法、系统和人为多个层次的关系。[4]面对如此复杂的风险来源,选择正确的切入视角对全面研判生成式人工智能潜在刑事风险尤为重要。事实上,生成式人工智能运作流程衔接紧密,各个环节都可能潜藏一定的刑事风险。因此,在强调整体性、关联性、动态性的系统论视域下,以运作流程为线索考察生成式人工智能的刑事风险,有利于后续全方位防控的实现。而作为基于Transformer的人工智能应用,生成式人工智能的主体架构遵从“语料体系+预训练+微调”的基本模式,[5]可以划分为预训练阶段、微调优化阶段和推理生成阶段三个阶段进行考察。
(一)预训练阶段的潜在刑事风险
预训练阶段是生成式人工智能构建通用能力的基础阶段,包含数据处理和自监督训练两项基本内容:首先需要收集海量原始数据,在清洗低质内容、过滤有害信息后形成高质量训练数据集;之后借助Transformer模型,根据信息的相关程度对神经网络提取的信息进行自监督学习[6];最终产出能够理解、生成自然语言的基座模型。预训练阶段所用语料是无标注的文本数据,获取海量数据是进行后续训练的关键。因此,预训练阶段的刑事风险可能集中发生于数据处理工程。
1.数据收集环节涉及的刑事风险
生成式人工智能预训练所需要的数据可能来源于百科、书籍、期刊、社交网站等各类渠道,或以接入数据平台、使用网络爬虫工具的方式直接获取,或通过达成数据交易合同间接获取。其中,网络爬虫并不区分网络数据的种类与形态,网站、社交媒体等各类网络载体中的数据都可以成为获取对象,个人数据、政务数据等也会被一并收集。[7]此时很有可能发生未经许可、授权或超出许可、授权获取信息的情况。依据非法获取数据所涉信息的不同,该类获取行为可能触犯侵犯公民个人信息罪、侵犯商业秘密罪、侵犯著作权罪、非法获取军事秘密罪、非法获取国家秘密罪、非法获取计算机信息系统数据罪等罪名。
2.数据清洗环节涉及的刑事风险
为形成高质量训练数据集,研发人员通常会采取一定的安全过滤措施以排除有害信息。但当研发方不履行信息安全保障义务,在数据清洗阶段未对数据进行实质性筛查,纵容混入或积极添加涉嫌恐怖主义、淫秽色情等违法信息的数据,若该类信息经后续交互问答环节输出、传播,研发方经责令采取改正措施但拒不改正的,可能构成拒不履行信息网络安全管理义务罪。而当研发方因疏忽大意或过于自信而造成程序漏洞使大量违法信息成为生成式人工智能训练、输出的素材时,则可能需要承担一定的过失责任。
3.数据储存环节涉及的刑事风险
在数据存储阶段,企业负有根据数据分级分类采取相应安全保护措施的义务,主要包括物理安全措施、技术安全措施、行政安全措施等。[8]若企业对所获数据中的敏感信息没有采取相应的安全、保密措施或安全、保密管理不到位,致使某些敏感数据被公开发布、恶意使用,甚至违反国家规定,故意将需要保密的数据泄露、提供给其他个人或单位,根据所涉信息内容不同,可能会触犯故意或过失泄露国家秘密罪、泄露内幕信息罪、侵犯商业秘密罪、侵犯公民个人信息罪等罪名。
(二)微调优化阶段的潜在刑事风险
微调优化阶段是塑造生成式人工智能智能化创作能力的核心阶段,旨在为生成更加真实自然、符合人类价值偏好的内容提供支持。具体而言,该阶段包括以下子环节:首先进行监督微调,利用人工标注数据初步引入人类价值偏好;接着根据人工输入数据,建立打分制的奖励模型,进一步校对、学习人类价值偏好;[9]之后继续强化学习,不再仅依赖数据标注,而是通过与人类互动学习,根据奖励信号调整行为,生成更高质量的回答[10]。对人类价值偏好的学习是此阶段的核心任务,而其引入主要由研发者的指令操控,加之模型参数运行较为复杂、封闭,故而可能引发算法偏见、算法黑箱等问题并由此衍生出相应刑事风险。
1.算法偏见衍生的刑事风险
算法偏见也被称作算法歧视,是指因算法自身因素或突发性错误等瑕疵造成不公平、不合理结果的系统性的、可重复出现的现象。[11]其成因主要包括数据偏见,即用于预训练或优化的数据本身具有偏见,以及算法模型开发者在构建算法模型选择特征变量时引入了偏见。[12]在引入、学习人类价值偏好时,若研发者偏离主流价值观,选择反对政府、煽动暴力、宣传仇恨或恐怖主义的内容,则有可能触犯包括煽动分裂国家罪、煽动颠覆国家政权罪、煽动实施恐怖活动罪、煽动民族仇恨、民族歧视罪等煽动类罪名。
2.算法黑箱衍生的刑事风险
算法黑箱是基于黑箱理论的一种隐喻,是指在算法运行的某个阶段所涉及的技术繁杂且部分无法了解或得到解释的情况。[13]生成式人工智能采用深度神经网络语言模型进行训练,通过数百万至数十亿参数的复杂交互实现内容生成,往往难以追溯具体决策路径,相较于前代人工智能具有更强的隐匿性和不可预测性。且生成式人工智能因具备推理学习能力而具有一定的自主成长性,研发者不能完全预设其所实施的所有处理行为。因此,生成式人工智能可能存在“自主犯罪”的风险。
(三)推理生成阶段的潜在刑事风险
推理生成阶段是生成式人工智能由语言训练转向实际应用的最终阶段,通过将用户指令拆解为结构化的生成任务,利用经过强化训练的模型识别任务、生成内容,最终实现用户交互。该阶段的刑事风险主要源于具体生成内容。
1.侵犯著作权的刑事风险
当用户输入正常指令时,可能因生成式人工智能输出内容的不完全可控引发相应刑事法律风险。其中,比较突出的是生成创作性内容侵犯他人著作权引发的刑事风险。现代语言学之父诺姆·乔姆斯基曾批判生成式人工智能是一种高科技的剽窃技术。事实上,生成式人工智能所创作的作品是对在先数据进行汇编、改编的产物。可能因生成内容与原作品构成实质性相似或在保留原作品核心内容基础上进行改编而侵犯他人著作权,严重时则可能升级为犯罪。
2.作为犯罪工具的刑事风险
当用户输入不当指令时,生成式人工智能可能因输出非法内容而沦为行为人实施犯罪的工具。具体而言,行为人可能利用生成式人工智能生成某些不实信息,如虚构险情、疫情、灾情、警情或编造针对特定个人或群体的侮辱、诽谤性言论,从而触犯编造、故意传播虚假信息罪、侮辱罪、诽谤罪以及扰乱公共秩序类的罪名。同时,行为人也可能诱导生成式人工智能输出某些非法信息,如宣扬恐怖主义、极端主义的信息或包含制毒、诈骗等犯罪方法的信息,触发相关犯罪风险。
三、生成式人工智能主要刑事风险的深度剖析
在认识复杂事物时,既要系统地、全面地看待问题和处理问题,又要认识和把握系统或整体中的主要矛盾和矛盾的主要方面。[14]以系统视域对生成式人工智能的潜在刑事风险进行全流程分析,有助于从整体上实现潜在刑事风险的全方位防控;借助类型化思维方法聚焦存在规制难题的主要刑事风险,则有助于重点解决生成式人工智能发展给现行刑法规制带来的挑战。因此,在对生成式人工智能潜在刑事风险进行全流程分析的基础上,需要借助类型化思维方法,进一步提炼其中的主要风险类型并对相关治理难题展开分析。
(一)数据衍生型刑事风险
未来世界经济的竞争很大程度上是数字经济的竞争[15],数据已为至关重要的经济资源和生产要素。而毋庸置疑, 生成式人工智能已经革新了以往人工智能获取、利用数据的方式。[16]其日常训练以从各领域收集的海量数据为依托,对数据利用的广度、深度均大幅提升。显然,在生成式人工智能的迭代发展中,生成式人工智能的研发者具有不容推辞的数据安全保障义务[17],需要保障数据获取、清洗、储存符合法律法规和行业准则的要求,包括伦理和价值观方面。
如前所述,研发人员在数据处理过程中不仅可能实施故意危害数据安全的行为,也可能由于疏忽大意或过于自信造成数据安全事故。目前我国刑法中未专门设置过失数据犯罪的罪名。鉴于此种情况下研发方的罪责与拒不履行信息网络安全管理义务罪较为相似,在将生成式人工智能理解为一种网络数据服务产品的前提下,可以适用拒不履行信息网络安全管理义务罪予以规制。在过失责任范围的认定上,新过失论相较旧过失论和超新过失论,既能避免具体预见难以适用人工智能领域的尴尬局面,也不会因抽象的预见过度扩大过失犯的成立范围。[18]因此,采用新过失论,在预见可能性的基础上,通过结果回避义务的履行保留出罪空间,更符合鼓励生成式人工智能发展的现实情况。
(二)算法衍生型刑事风险
算法是实现数据价值转换的引擎。生成式人工智能发展的底层逻辑在于算法的设计和创新,其不仅具有工具形态的赋能作用,也承载了社会结构中的权力关系。[19] 因而,算法偏见、算法黑箱等衍生出的刑事风险是生成式人工智能刑事风险治理需要面对的新型挑战。这些挑战集中表现为技术权力膨胀对人类主体性的威胁。“技术鸿沟”的存在往往使得信息主体无法意识到自己的信息正在被分析和利用,数据主体与算法主体的地位差距愈发悬殊,数字弱势群体的权利无法得到有效保障。[20]加强技术监管是防控算法衍生型刑事风险的必要手段。
另一有关算法运行的显著担忧是生成式人工智能“自主犯罪”的风险。事实上,在人工智能尚不具备自主意志的背景下,所谓的“自主犯罪”只是技术缺陷或人为诱导造成的假象。生成式人工智能具有运算参数庞杂、决策机制不够透明等内生缺陷。当使用者输入某些模糊性指令诱导生成式人工智能输出有害内容时,可能由于运算机制的不可解释性难以追溯错误的源头,既无法证明输入指令与生成有害内容之间的因果关系,也难以认定研发方存在主观过失,最终导致责任在技术迷宫中蒸发。此时,生成式人工智能本质上仍是智能化的辅助工具,不能成为承担刑事责任的主体。
(三)交互衍生型刑事风险
生成式人工智能在外部以聊天机器人的形式存在,用户的指令是其内容输出的依据。实质上,推理生成阶段面临的主要刑事风险具有明显的机器-用户交互特征。如前所述,生成式人工智能尚不具有刑事责任主体资格。因此,在依据用户指令生成非法内容为犯罪提供帮助的情况下,生成式人工智能仅作为犯罪工具而存在,只能追究真正对犯罪进程及结果起支配作用的自然人的刑事责任。
而交互因素的存在也提升了判断生成式人工智能生成某些创造性内容是否侵犯他人著作权的难度。鉴于生成式人工智能输出的内容是依据用户指令、利用先在数据形成的,因此在内容生成阶段,即使研发人员获取相关作品数据已经著作权人许可,若生成式人工智能输出内容与原作品构成实质性相似,仍会因侵犯他人著作权而可能涉嫌侵犯著作权罪。按照判断逻辑顺序,对生成内容独创性的认定属于侵权判断的重要一环。
思想与表达二分法是证成读者中心主义合理性的逻辑基础,也是证成人工智能生成内容具有独创性的有力依据。[21]事实上,使生成式人工智能生成完全相同内容的难度甚至大于其生成具有差异性内容的难度。[22]生成式人工智能生成内容完全可能具有独创性,具体可通过比较生成内容与先在作品内容是否具有显著差异以及生成内容是否具有可解释性来判断。
四、生成式人工智能刑事风险的分级治理机制
当代社会的风险性质使得刑法变成管理不安全性的控制工具。[23]刑法积极参与社会治理是刑法工具价值的凸显,也是刑法打击犯罪、防卫社会的规范目的的应有之义。[24]刑法介入规制生成式人工智能引发的刑事风险具有正当性和必要性。但为最大限度地释放技术创新的价值,刑法宜在治理中扮演护航者的角色。《办法》第三条也明确了我国对生成式人工智能坚持“安全与发展并重”的治理原则及“包容审慎”的监管态度。结合《办法》的精神,可尝试构建分级治理机制应对生成式人工智能刑事风险,即先通过企业自治构筑预防屏障,再以行政手段加强前置管控,最后严格坚守“形式入罪、实质出罪”的立场动用刑法进行规制。
(一)企业自治:内生性风险的预防屏障
生成式人工智能引发的刑事风险中技术类占比较大,这使得具有绝对技术优势的研发企业既是风险的制造者,也是风险的有效治理者。加强生成式人工智能研发企业的内部管理,有助于从源头上更便捷、更彻底地预防刑事风险的发生。
1.建立风险分级处理机制
企业首先应当建立具有法律、科技等复合知识背景的专业化风险管理团队,全方位审查数据安全、算法运行等领域存在的潜在风险,并对不同等级的风险采取针对性处理措施。依据系统对社会、群体、个体安全和权利造成不利影响的程度不同,可以将生成式人工智能自身风险划分为不可接受风险、高风险、有限风险、低风险。[25]评估风险等级时应以保障用户权利为原则,采用抽样统计、模型交叉验证等方法,保障测评的持续性。针对评估结果,采取专家复核、数据修正、程序冻结等差异化管控措施,及时响应处理。
2.完善数据合规治理机制
海量数据是生成式人工智能运行的基础,防范数据安全问题是生成式人工智能研发企业的重要任务。研发企业应建立系统化的数据合规治理机制,将数据合规贯穿全生命周期。首先,应加强对隐私、敏感数据的保护,采用加密等技术措施防范来自外部的数据侵犯风险,建立严格监督制度防范来自内部的数据泄漏风险。其次,应提高数据处理的透明度,对数据的来源、处理流程、择取规则适当公开,保障公众知情权,防止非法获取数据、恶意注入数据等现象发生。
3.健全企业文化培育机制
除源于技术处理的风险,对人类价值偏好的学习是生成式人工智能训练的重要部分,价值引入不当可能引发一定的伦理危机。因此,研发企业也需要加强伦理道德建设,树立绿色、健康的企业文化,以完备的科技伦理规则规范技术研发环境,通过开展定期培训等途径增强员工对法律问题、伦理问题的敏感度。其中,数字正义是需要重点强调的范畴。研发企业应肩负起消除数字鸿沟、拒绝数字垄断的责任,以避免技术权力膨胀引发的操纵、霸权风险。
(二)行政监管:风险现实化的有力阻遏
生成式人工智能企业可能为维护自身利益而怠于履行、虚假履行相关安全保障义务。此时需要行政手段介入来弥补行业自律的不足。在前置法层面,行政法的优势在于,不仅可以从技术角度对生成式人工智能进行针对性和灵活性的规范供给,还可以从行政违法层面对生成式人工智能进行更加全面的法律治理。[26]
1.健全生成式人工智能行政规范体系
目前我国生成式人工智能治理的基本法律框架已经形成,但相关条款散见于不同规范,缺乏对生成式人工智能专门化、系统性的规制方案。虽然 《办法》对生成式人工智能的技术发展与治理、服务规范、监督检查和法律责任等方面作出了规定,但依然存在规范不完备、笼统抽象、效力有限等问题。[27]在生成式人工智能行政治理规则短缺未获根本缓解的情况下,制定专门规制生成式人工智能的行政法规符合现实需求。结合我国生成式人工智能发展现实情况,可适当借鉴欧盟《人工智能法案》的风险分级监管思路,通过构建本土化分级管控机制推动有关制度的成熟完善。
2.调整生成式人工智能技术监管模式
生成式人工智能的风险监管需要专业技术或知识,这给传统行政监管模式带来了变革的挑战与机遇。从监管方式来看,采取以行政监督为主,适当吸收社会力量的协同监管方式更有利于提升监管的覆盖面和专业度,如借助行业协会或专家智库制定数据处理、算法训练方面的监管规则。从监管技术来看,对生成式人工智能的监管也应充分利用智能化手段,建立动态实时监管机制,以“科技”监管“科技”,打破与被监管对象技术不匹配、信息不对称的局面。
(三)刑事规制:法益侵害的终极保障
作为生成式人工智能刑事风险分级治理的最后一环,刑法只应在相关行为已达刑事违法标准时介入。但生成式人工智能的技术性、交互性显然为刑法介入规制带来了一定的挑战。前述全流程刑事风险审查及重点刑事风险剖析的部分已对相关危害行为及规制罪名进行了初步探讨,但生成式人工智能刑事治理的基本原则及各主体责任分配规则值得进一步阐明。
1.恪守刑法谦抑性原则
根据刑法谦抑性原则,对于某一具有社会危害性的行为,只有穷尽民事手段、行政手段等其他规制方法或措施仍无法实现有效惩处时,该行为才应被刑法规定为犯罪行为并通过刑罚方式加以惩处。[28]面对数字经济时代的新需求,刑法保持谦抑不仅是对公民自由的保护,也应体现为对科技创新的保护。对于生成式人工智能可能引发的诸多刑事风险,肩负法益保护的使命的刑法显然不应保持缄默,在出现值得规制的新兴犯罪时,考虑增设新罪无可厚非。但是否增设新罪、增设何种新罪需要采取审慎态度进行判断,刑法以过于积极的角色介入生成式人工智能的治理,反而可能给新兴技术发展带来阻力。
2.合理搭建责任分配规则
生成式人工智能在尚不具备自主意志的情况下不能成为刑事责任承担主体,因此,生成式人工智能的刑事责任分配主要在研发方(包括运营维护人员)和使用者之间进行。对于使用者而言,利用人工智能生成内容进行犯罪并不会改变其行为本身性质,应当按照其主观意图和具体行为予以定罪。而研发方的责任界定则相对复杂,需要合理设置其义务的范围。对此,可以借鉴容许风险理论,通过缓和结果回避义务避免过失犯罪的认定扩大化。[29]当前科学技术水平难以发现的缺陷属于可容许的风险,只要研发人员的行为符合法律法规要求,一般不应追究刑事责任。
五、结语
作为历史性的重大技术革新,生成式人工智能的发展不可避免地伴随着相应的风险。与传统刑事犯罪相比,人工智能既可能使得部分传统犯罪的危害发生量变,也可能导致新的犯罪形式产生。[30]全面识别潜在风险、重点剖析主要风险,是科学治理生成式人工智能刑事风险的基础。在此基础上,结合技术发展的现实需求,通过分级治理机制,全面激发企业自治和行政监管在预防和控制方面的作用,使刑法扮演好科技发展的护航者角色,既能防范法益侵害风险,又不至于阻碍科技进步。未来人工智能技术仍会不断革新,平衡社会治理与科技发展的需求是刑法需要持续关注的课题。
注释(向下滑动):
[1]参见邓建鹏,朱怿成:《ChatGPT模型的法律风险及应对》,载《新疆师范大学学报(哲学社会科学版)》2023年第5期,第94页。
[2]刘艳红:《生成式人工智能的三大安全风险及法律规制——以ChatGPT为例》,载《东方法学》2023年第4期,第30页。
[3]房慧颖:《生成型人工智能的刑事风险与防治策略——以ChatGPT为例》,载《南昌大学学报(人文社会科学版)》2023年第4期,第53页。
[4]徐伟,李文敏:《生成式人工智能法律风险的源头治理》,载《行政与法》2025年第2期,第93页。
[5]钱力等:《ChatGPT的技术基础分析》,载《数据分析与知识发现》2023年第3期,第8页。
[6]杨善林等:《人工智能与管理变革》,载《中国管理科学》2023年第6期,第3页。
[7]黄明儒,刘方可:《生成式人工智能的刑事犯罪风险与刑法应对》,载《河南财经政法大学学报》2024年第3期,第70页。
[8]程啸:《论数据安全保护义务》,载《比较法研究》2023年第2期,第66页。
[9]侯跃伟:《生成式人工智能的刑事风险与前瞻治理》,载《河北法学》2024年第2期,第160页。
[10]刘霜,祁敏:《生成式人工智能的刑事法律风险及其合规治理》,载《河南社会科学》2024年第8期,第48页。
[11]参见刘友华:《算法偏见及其规制路径研究》,载《法学杂志》2019年第6期,第75页。
[12]李立丰,张鑫蕾:《平台大数据权益的刑法平衡保护——兼论生成式人工智能大数据风险的刑法治理》,载《南通大学学报(社会科学版)》2025年第2期,第86页。
[13]参见谭九生,范晓韵:《算法“黑箱”的成因、风险及其治理》,载《湖南科技大学学报(社会科学版)》2020年第6期,第93页。
[14]杜雨来,杨玉成:《论习近平的辩证思维》,载《社会主义理论与实践》2023年第3期,第120页。
[15]王利明:《数据何以确权》,载《法学研究》2023年第4期,第56页。
[16]刘宪权:《涉生成式人工智能数据犯罪刑法规制新路径》,载《当代法学》2024年第6期,第3页。
[17]参见孙道萃:《人工智能犯罪的知识解构与刑法应对》,载《青少年犯罪问题》2023年第2期,第15页。
[18]袁彬,薛力铭:《生成式人工智能的刑法规制问题研究》,载《河北法学》2024年第2期,第151页。
[19]藏雷振,陈浩:《生成式人工智能算法风险及社会治理挑战》,载《中共中央党校(国家行政学院)学报》2025年第1期,第43页。
[20]宋建华:《反思与重塑:个人信息算法自动化决策的规制逻辑》,载《西北民族大学学报(哲学社会科学版)》2021年第6期,第103页。
[21]房颖慧:《人工智能生成内容的熟悉认定与刑法保护限度》,载《苏州大学学报(法学版)》2025年第2期,第66页。
[22]刘宪权:《人工智能时代著作权的刑法保护》,载《中国刑事法杂志》2024年第5期,第98页。
[23]劳东燕:《公共政策与风险社会的刑法》,载《中国社会科学》2007年第3期,第129页。
[24]徐岱,王沛然:《中国轻罪体系规范检视与路径选择》,载《社会科学战线》2022年第10期,第268页。
[25]参见李晓东:《功能主义视角下生成式人工智能的刑事风险检视与治理路径优化》,载《海南大学学报(人文社会科学版)》2025年4月14日网络首发,第5页。
[26]刘宪权,董凯文:《行刑二元:生成式人工智能治理的新范式》,载《探索与争鸣》2024年第7期,第128页。
[27]高志宏:《回应与超越:生成式人工智能法律规制——以<生成式人工智能服务管理暂行办法>为视角》,载《社会科学辑刊》2024年第5期,第124页。
[28]参见陈兴良:《刑法哲学》,中国政法大学出版社2017年版,第7-10页。
[29]吴宗宪,张进帅:《生成式人工智能:风险、挑战与刑事规制——以ChatGPT为例》,载《中国特色社会主义研究》2024年第3期,第69页。
[30]刘宪权:《人工智能时代的刑法观》,上海人民出版社2019年版,第16页。
参考文献:
1.刘宪权:《人工智能时代的刑法观》,上海人民出版社,2019年版。
2.陈兴良:《刑法哲学》,北京法律出版社,2017年版。
3.房慧颖:《人工智能生成内容的属性认定与刑法保护限度》,载《苏州大学学报(法学版)》2025年第2期。
4.李晓东:《功能主义视角下生成式人工智能的刑事风险检视与治理路径优化》,载《海南大学学报(人文社会科学版)》2025年4月14日网络首发。
5.李立丰,张鑫蕾:《平台大数据权益的刑法平衡保护——兼论生成式人工智能大数据风险的刑法治理》,载《南通大学学报(社会科学版)》2025年第2期。
6.臧雷振,陈浩:《生成式人工智能算法风险及社会治理挑战》,载《中共中央党校(国家行政学院)学报》,2025年第1期。
7.徐伟,李文敏:《生成式人工智能法律风险的源头治理》,载《行政与法》2025年第2期。
8.刘宪权:《涉生成式人工智能数据犯罪刑法规制新路径》,载《当代法学》2024年第6期。
9.刘宪权:《人工智能时代著作权的刑法保护》,载《中国刑事法杂志》2024年第5期。
10.高志宏:《回应与超越:生成式人工智能法律规制——以〈生成式人工智能服务管理暂行办法〉为视角》,载《社会科学辑刊》2024年第5期。
11.刘霜,祁敏:《生成式人工智能的刑事法律风险及其合规治理》,载《河南社会科学》2024年第8期。
12.刘宪权,董文凯:《行刑二元:生成式人工智能治理的新范式》,载《探索与争鸣》2024年第7期。
13.吴宗宪,张进帅:《生成式人工智能:风险、挑战与刑事规制——以ChatGPT为例》,载《中国特色社会主义研究》2024年第3期。
14.黄明儒,刘方可:《生成式人工智能的刑事犯罪风险与刑法应对》,载《河南财经政法大学学报》2024年第3期。
15.袁彬,薛力铭:《生成式人工智能的刑法规制问题研究》,载《河北法学》2024年第2期。
16.侯跃伟:《生成式人工智能的刑事风险与前瞻治理》,载《河北法学》2024年第2期。
17.房慧颖:《生成型人工智能的刑事风险与防治策略——以ChatGPT为例》,载《南昌大学学报(人文社会科学版)》2023年第4期。
18.王利明:《数据何以确权》,载《法学研究》2023年第4期。
19.杨善林,李霄剑,张强,等:《人工智能与管理变革》,载《中国管理科学》2023年第6期。
20.刘艳红:《生成式人工智能的三大安全风险及法律规制——以ChatGPT为例》,载《东方法学》2023年第4期。
21.杜雨来,杨玉成:《论习近平的辩证思维》,载《理论探讨》2023年第3期。
22.钱力,刘熠,张智雄,等:《ChatGPT的技术基础分析》,载《数据分析与知识发现》2023年第3期。
23.孙道萃:《人工智能犯罪的知识解构与刑法应对》,载《青少年犯罪问题》2023年第2期。
24.程啸:《论数据安全保护义务》,载《比较法研究》2023年第2期。
25.邓建鹏,朱怿成:《ChatGPT模型的法律风险及应对之策》,载《新疆师范大学学报(哲学社会科学版)》2023年第5期。
26.徐岱,王沛然:《中国轻罪治理体系规范检视与路径选择》,载《社会科学战线》2022年第10期。
27.宋华健:《反思与重塑:个人信息算法自动化决策的规制逻辑》,载《西北民族大学学报(哲学社会科学版)》2021年第6期。
28.谭九生,范晓韵:《算法“黑箱”的成因、风险及其治理》,载《湖南科技大学学报(社会科学版)》2020年第6期。
29.刘友华:《算法偏见及其规制路径研究》,载《法学杂志》2019年第6期。
30.劳东燕:《公共政策与风险社会的刑法》,载《中国社会科学》2007年第3期。
生成式人工智能的刑事风险识别及分级治理
作者:李冬峰 张茜来源:德和衡律师

摘要:生成式人工智能的全面爆发在给社会带来显著发展红利的同时,不可避免地会引发与数据安全、算法安全、知识产权有关的刑事风险。