男子用AI伪造学生同事近7000张裸照——利用AI技术牟利，真“刑”！

近日，某家互联网公司技术员白某某利用AI技术“一键去衣”，深度伪造图片近7000张，每张1.5元销售，涉及多名无辜女性，已被北京警方侦破！
近几年AI技术日渐成熟，广泛应用于各行各业，为生活带来了前所未有的便捷。但同时也是把双刃剑，如果驾驭失当，则会侵犯他人合法权益，甚至跨越法律和道德的界限。
一、案情回顾
2023年6月至8月期间，互联网公司的白某某运用Stable Diffusion框架及特定的人工智能模型，在社交平台公开打广告，利用微信和腾讯QQ等即时通讯软件与客户沟通并收取费用。并接受客户委托，将包括但不限于女明星、女学生、女性同事及同学在内的照片，通过AI技术非法篡改为裸露的不雅图像。
根据统计，白某某发布的广告吸引了约3万名用户的点击关注。在两个月的短时间内，白某某已经运用AI技术通过“一键去衣”制作了近七千多张不雅照片，非法获利近万元，其行为已严重侵犯了他人权益，构成对他人名誉的损害。据此，北京市海淀区检察院已经正式对白某某提起公诉，指控其犯有制作及贩卖淫秽物品以谋取利益的罪行，将依法追责。（《中华人民共和国刑法》第三百六十三条 以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。第三百六十七条 本法所称淫秽物品，是指具体描绘性行为或者露骨宣扬色情的诲淫性的书刊、影片、录像带、录音带、图片及其他淫秽物品。）
根据《民法典》第一千零一十九条明确规定，任何组织或个人不得利用信息技术手段伪造等方式侵害他人的肖像权；未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，法律另有规定的除外。第一千零二十四条明确规定，任何组织或者个人不得以侮辱、诽谤等方式侵害他人名誉权。
“一键去衣”AI技术不仅侵害当事人的肖像权，更侵害了当事人的名誉权、著作权、个人信息等多项权利。
二、相关案例
（一）利用“AI换脸技术”侵犯公民个人信息案
自2021年始，虞某某以牟利为目的，利用AI换脸技术，将各种渠道获得的他人人脸信息，与部分淫秽视频中的人脸信息通过AI换脸软件进行替换合成，合成虚假的淫秽视频，在社交媒体上进行发布并传播获利。公安机关通过搜查，截至案发之日，查获虞某某在所组建的公开社交媒体中淫秽视频高达1200余部、淫秽图片1600余张。
2022年11月30日，杭州市萧山区人民检察院经审查，以涉嫌制作、传播淫秽物品牟利罪对虞某某提起公诉，并在审查过程中发现其同时存在损害社会公共利益的行为。经查，虞某某在使用AI技术制作淫秽照片的过程中，还依据客户的要求和提供的视频（照片）定制服务，并且其在社交平台上将AI换脸软件进行销售，并同时附有素材及使用教程。
萧山区人民检察院认为，其行为已构成对不特定对象的潜在侵犯，即不特定对象个人信息安全、公共信息安全。且虞某某在明知他人使用AI换脸软件存在不正当目的，仍然销售并提供使用指南，加剧了不特定对象个人信息安全被侵害的社会危害性，根据相关法律规定，虞某某应当承担相应的民事责任。
在依法履行诉前公告程序、无适格主体提起诉讼后，萧山区检察院依法向杭州市互联网法院提起民事公益诉讼，请求判令被告虞某某停止侵权行为，删除现持有的所有涉案个人信息，不得再违法使用深度合成技术侵害社会公益；支付公益损害赔偿金（专门用于个人信息保护、人脸深度合成技术应用的治理等公益事项）；在国家级媒体上向社会公众公开赔礼道歉。
（二）全国首例AI声音侵权案
2024年4月23日全国首例“AI生成声音人格权侵权案（某配音师诉某传媒公司、某科技公司、某互联网平台案）”在北京互联网法院进行宣判。
原告殷某职业为配音师，无意中发现，自己的声音被AI技术处理后，在一款名为“魔音工坊”的软件上以“魔小璇”的名义对外销售。原告殷某认为其行为已经侵害自己的声音权利，遂将“魔音工坊”的运营主体北京某智能公司等五被告在北京互联网法院提起诉讼，请求五被告停止侵害、赔礼道歉，并承担对己造成的经济、精神损失的侵权责任。
法院经审理后认为，利用AI技术合成的声音，如果能够使一般社会公众或者相关领域的公众根据其音色、语调和发音风格，关联到该自然人，可以认定为具有可识别性。在本案件中被告某文化传媒公司对录音制品享有著作权等权利，但不包括授权他人对原告声音进行AI处理使用的权利。案涉两被告（某文化传媒公司与某软件公司）之间签订数据协议，在未经原告本人知情且同意的情况下，授权另一被告某软件公司AI处理使用原告声音的行为并未有合法权利来源。两被告（某文化传媒公司与某软件公司）行为已构成对原告殷某声音权益的侵犯，造成原告殷某声音受损的法律后果，应承担相应的法律责任。其他被告主观上不存在过错，不承担相应的损害赔偿责任。综合考量被告侵权情节、同类市场产品价值、产品播放量等因素，对损害赔偿予以酌定。
北京互联网法院作出判决，被告某科技公司、被告某软件公司向原告殷某赔礼道歉，被告某文化传媒公司、被告某软件公司向原告赔偿经济损失25万元。
该案明确认定在具备可识别性的前提下，自然人声音权益的保护范围可及于AI生成声音。AI生成声音可识别性的认定应综合考虑行为人的使用情况，并以相关领域普通听众能否识别作为判断标准。根据《民法典》第一千零二十三条规定，对自然人声音的保护参照适用肖像权的保护，明确将声音权益作为特殊的人格利益予以保护。以立法的形式将“声音”纳入民法典中，明确参照适用肖像权的形式保护自然人的声音，体现了对人格利益全面尊重和保护的立法精神。
三、AI技术可能涉及的侵权行为
1.著作权侵犯：判断著作权的客体是否构成作品，需要考虑如下要件：
（1）是否属于文学、艺术和科学领域内；
（2）是否具有独创性；
（3）是否具有一定的表现形式；
（4）是否属于智力成果。在现阶段，AI软件（人工智能）不具备自由意志，不是法律上的主体，故而人们在使用AI软件生成图片时，不存在两个主体之间确定谁为创作者的问题，本质上仍为人使用AI工具进行创作，即整个创作过程中进行智力投入的是人而非AI软件，AI软件生成图片，只要能体现出人的独创性智力投入，就应当被认定为作品，受到著作权法保护。
2.知识产权侵犯：若AI技术使用了他人的商标或专利等知识产权而未获得授权，则构成只是产权侵犯。
3.隐私侵犯：若AI技术在未经使用人知情且允许的情况下搜集、处理、保存、泄露、传播用户的个人信息，则构成隐私侵犯。AI换脸采取了对肖像权人进行丑化或者其他可能导致肖像权人社会名誉降低的行为，程序运营者主动上传或者默许、放任用户自行上传含其肖像的视频素材并存储在模板界面作为有偿使用，普通用户超出肖像权的合理使用范围或者未及时删除自行上传的视频素材导致该视频素材被其他不特定用户使用，均构成对其肖像权的侵害。根据《民法典》第一千零二十四条的规定，可能同时构成名誉权侵权，制作者需要承担相应的侵权责任，包括停止侵权、消除影响、赔礼道歉以及损害赔偿。
在享受新技术带来便利的同时，要保持清醒的头脑和严谨的态度，在法律允许的范围内合理使用。