AI“黄文”第一案下判！AIGC黑灰产怎么治？

对广大网文作者而言，这段时间并不太平。先是著名网文网站“某棠”的作者大批被帽子叔叔请去“喝茶”，再接着就是“AI生成色情小说第一案”宣判，结合前段时间“某手办”被认为是淫秽物品，这都体现了我国开始严厉打击色情产业的决心。
对于“某手办”是否构成淫秽色情物品这事，今天先按下不表，飒姐团队今天先来唠唠小说里的色情问题，聊聊AI生成色情小说第一案的情况。
01、用AI工具辅助写“情色”小说，小伙被判刑了
AI色情小说第一案发生在湖北，虽然这个案子是一个多月前才宣判的，但案情可以一直追溯到AI刚开始崭露头角的2022年末。行为人柯某某和当今绝大多数网络写手没什么不同，95后，喜欢二次元，平时也经常在各大付费阅读网站上看网文。2022年末，柯某某偶然发现某网站中带有“色情”内容的小说，阅读量会比较高，于是萌发了写“小黄文”赚钱的想法，正好2022年末全网都在宣传ChatGPT等AI大模型工具，柯某某就萌生了利用AI大模型辅助写小说，提高小说产量，把自己的作品收益做大做强的想法。就这样，从2022末开始，柯某某就先自己写一点小说的情节，然后再让AI大模型帮忙续写，柯某某再对续写的内容进行润色，最终得到一篇完整的“小黄文”。柯某某先后利用这种方法写出了十余篇具有情色内容的长篇小说，且柯某某还会用AI大模型将完成的小说翻译成英文等在境外网站发布，共计获利两万余元。
2023年8月，四川某市侦查机关在侦办一起非法制售淫秽漫画案的过程中发现了柯某某写的淫秽小说，随后迅速立案侦办，柯某某于2023年9月被检察机关批准逮捕，后湖北省某市人民法院认定柯某某的行为构成制作、贩卖、传播淫秽物品牟利罪，判处有期徒刑10个月，并处罚金5000元。
02、淫秽物品中的“淫秽”怎么界定？
在“某棠”平台的作者大范围被请去喝茶，小伙用AI工具辅助创作情色小说被判刑的大环境下，到底怎样判断什么才是“淫秽”“色情”物品？飒姐团队在和律师老友们探讨这些案子的过程中，有很多人调侃说如果把西厢记、金瓶梅的作者拉到现代，也会直接被帽子叔叔抓走。如此看来，是不是所有文学作品里都不能存在任何性描写，否则就容易被请去喝茶？
实际上，我国刑法第三百六十七条早已对“淫秽物品”做出了明确的定义，淫秽物品，是指具体描绘性行为或者露骨宣扬色情的诲淫性的书刊、影片、录像带、录音带、图片及其他淫秽物品。有关人体生理、医学知识的科学著作不是淫秽物品。包含有色情内容的有艺术价值的文学、艺术作品不视为淫秽物品。
但问题在于，这个定义说了等于没说，这是因为“具体描写性行为或者露骨宣扬色情”这个定义太模糊，如何才算具体描写？在某个作品中，作者并未使用任何违禁词汇，但可以让成年人联想到性行为的内容，这算不算淫秽物品？
飒姐团队在办案的过程中就遇到了这样淫秽物品鉴定过程中的争议，首先，某个被认定为构成淫秽作品的小说中，有这样一段描写：“女主一下子就握住了男主的核心思想，两个人就此进行了深入浅出的交流”该描写被认定为具体描绘了性行为，因为“核心思想”“深入浅出的交流”等词实际上能够让成年人直接明白其中含义。但如果这样程度的描写都会被认为是淫秽描写，在飒姐团队看来，显然荒谬至极。然而问题在于，在AI盛行的今天，我们完全可以“教”AI大模型批量生产出这些虽然隐晦，但成年人一看就明白的“色情”小说。（而且这种情况完全可以跳过AI自身的伦理审查机制，毕竟核心思想、深入浅出等都不是违禁词。）
其次，该定义认定某个文学、艺术作品有艺术价值，那么就不算是淫秽物品。比如色戒这部电影，就因为其有艺术价值而不被认为是淫秽物品。那问题在于，凭什么国际著名导演执导的电影就有艺术价值，而名不见经传的网文作家写的东西就没艺术价值呢？这里有个巨大的逻辑问题，并不是身份让某个作品有了艺术价值，而恰恰是因为作品本身有艺术价值，让作者有了身份。但很多办案机关的侦查人员，其实没有能力判定某部作品是否有艺术价值。
以上这些问题就直接导致了何为“淫秽物品”界定非常混乱。但是我们还是能够发现最近判定淫秽物品的走向——趋势越来越紧。
比如“某手办”，这在20年前绝对不会认为是淫秽物品，但以现在的眼光看来，其就构成淫秽物品。所以实际上，目前我国对于淫秽物品的认定越发宽泛，社会对“色情”的容忍度越发降低。
03、写在最后
以前各位老友还在讨论，AI创设的作品到底谁是作者，现在越来越多的AI第一案已经表明AI仅仅只是工具，重要的还是使用工具的人。比如在AI色情小说第一案中，作者还是行为人柯某某。这一点已经在法律界有了共识。
但是解决了“作者是谁”的问题后，各位老友们也能发现，AI由此引发的问题不降反增。AI生成淫秽色情的内容？我们在AI大模型审核的过程中，引入AI自查机制，直接切断违禁词的输出。然后呢？人类又教会了AI用非违禁词来代替违禁词，于是出现了“女主握住男主核心思想”这样的隐喻类色情表达，接下来怎么办？难道要把“核心思想”这个词禁掉吗？禁掉之后，又会出现另一个完全意想不到的词汇来替代违禁词，这样禁来禁去可能真不是问题的解决之道。
最后飒姐团队要嘱咐各位写手，尤其是想用AI来辅助写作的写手，即使把所有的违禁词全部替代掉，也不保险，如果想要描写“那方面”的内容，尽量断绝这种想法吧！