AIGC发展进行时，未成年人权益如何保护？

01 根据共青团中央联合腾讯对13-18岁的青少年的用网情况与网络安全的调查显示，在青少年的娱乐休闲方式中，游戏的热度已低于短视频和电影/电视节目，20%的青少年表示“几乎总是”在看短视频，“每天看几次”的比例也接近10%。
02 近日，题为“视频平台曝未成年人表演乱象”的关键词登上了某社交平台的热搜。点击查看具体内容，有网友表示其在睡前用手机刷某短视频平台时，经常在过了午夜12点，系统就会推荐一些未成年人穿着模仿成人的衣着和装扮、跳着相对暧昧的舞蹈视频。不少网友为该视频点赞，甚至留言评论称希望女孩多拍点类似的内容视频。
03 另一方面，未成年人瞒着父母在游戏中高额充值已成为不少父母的心头愁事。以上海为例，在12345市民服务热线检索关于“游戏”的工单发现，仅30天内，求助、投诉工单超过3000个，粗略浏览，与未成年人游戏充值相关的工单约占一半。充值金额较少的数千元，多的数万元甚至十余万元。而在黑猫投诉平台上，仅2023年3月，与“未成年人游戏充值”相关的投诉高达3111单。
类似的情形还有很多……随着越来越多的未成年人，在更小的年龄便接触、甚至拥有属于自己的手机与平板电脑，如何保障未成年人权益、免受不法分子的“网络不法侵害”，已成为众多网友、网络安全监管机构、和各移动应用服务商共同关注的热点问题。
本文将从各移动应用服务商角度，简要分析在为用户提供服务的同时，如何有效地避免、并制止不法分子利用移动应用服务商提供的网络平台侵害未成年人权益，并就此提出合理建议。
一、网络平台侵害未成年人权益的行为类型
01、侵害未成年人个人信息
网络平台在收集、存储儿童网络账号、位置、联系方式，以及儿童面部识别特征、声音识别特征等个人敏感信息前，存在忽视应事先征得儿童监护人的同意的可能。
同时，也容易忽视需对儿童网络账号进行有针对性地区分管理，限制其他用户可与该儿童网络账号私信联系，获取前述敏感信息。
此外，向具有浏览儿童内容视频喜好的用户推送含有儿童个人信息的短视频前，亦应当再次征得儿童监护人的有效明示同意。
02、无法有效规避、或过滤隐含“性暗示”“软色情”的视频
因自我监管能力有限，部分短视频平台尚无法确保能通过自身的审核机制，有效规避、避免将隐含“性暗示”“软色情”的视频向其他用户推送。
目前，不少平台采取的是“机器算法+人工审核”的方式。机器算法的筛查，普遍采用的是关键词设置和图片解析，最终把控敏感内容的重任，还是要落在人工审核员的头上。
而根据某视频平台2020年财报显示，该平台内容审查人员有2413名，仅次于产品和技术。尽管如此，面对每日新上传的海量视频，仍然难以避免在处理海量信息时出现遗漏。
若不能实施有效的监管，将导致不法分子通过非法拍摄、售卖儿童色情视频或图片，将猥亵、侵害儿童的行为变现牟利，形成一条黑色产业链。诱使网络用户在某些付费会员制论坛、社交软件群组、在线直播软件、网络游戏社区等，进行线上、线下交易，危害极大。甚至利用包括线下陪玩、语音陪聊、游戏陪练、内衣广告以及涉嫌擦边的表情包等实施不法利益。严重的，将可能对未成年人实施犯罪行为，如拐卖、猥亵、强奸等。
03、因自我监管能力有限，未成年人过度消费，给家长、平台均造成不同程度的经济损失
未成年人过度消费主要体现在以下两方面：
1）视频制作者、或网络主播，诱导未成年人利用父母的银行卡内存款、及各移动支付平台内的存款，持续打赏、赠送虚拟礼物道具。最终由视频制作者、或网络主播以提现的方式获得不法经济利益；
2）未成年人利用父母的银行卡内存款、及各移动支付平台内的存款，不断充值并购买游戏道具。
二、国内外监管机构、司法机关就未成年人数据隐私合规事宜已分别采取行动
如今，AIGC（AI-Generated Content，生成式人工智能，以下简称AIGC）引发了全球范围内多方监管机构的高度关注。
1、杭州市余杭区人民检察院与国内某知名短视频平台公益诉讼案
2020年，杭州市余杭区人民检察院作为公益诉讼起诉人，就某短视频平台存在侵害众多不特定儿童个人信息的侵权行为，以该短视频平台运营机构为被告，向杭州市余杭区人民法院提起公益诉讼。该案经人民法院调解，双方一致达成调解协议。



2、意大利数据保护监管机构对OpenAI实施禁令，并限期整改
意大利数据保护监管机构（GARANTE PER LA PROTEZIONE DEI DATI PERSONALI，以下简称GPDP）于2023年3月31日成为全世界第一个采取国别监管的国家——GPDP于2023年3月31日宣布全面禁用ChatGPT，并禁止OpenAI处理意大利用户数据。
GPDP认为，ChatGPT因违反个人数据保护规定，因此决定限制OpenAI处理意大利用户信息，并对OpenAI非法收集用户数据开展调查，甚至作出全面禁用ChatGPT的决定。
后OpenAI致函GPDP，阐述了其为遵守GPDP 发布的命令而实施的系列措施，包括但不限于将隐私信息通知扩大到欧洲用户和非用户，修改和澄清了若干机制，提供了易操作、无障碍的用户行权解决方案，使用户和非用户均能行使权利。基于这些改进，ChatGPT恢复了在意大利境内的服务。




（资料节选自公众号“合规小叨客”，作者数保前线）
三、AIGC研发及应用的隐私数据（针对未成年人）合规义务识别及其落实形式借鉴
新技术快速涌现和迭代，但法律的制定和实施天然具有滞后性，AIGC研发和应用如何在相关立法、执法高度不确定、规则变动频繁且模糊的情况下，快速且准确地识别隐私合规义务，无论是杭州市余杭区人民检察院公益诉讼案，还是意大利监管要求和OpenAI所做出的系列合规努力，都给了我们良好的示例，可从中识别确定性、可遵从的合规义务。
总结来说，企业在研发、利用AIGC，面向公众提供服务时，针对未成年人保护方面，应密切关注并履行下列隐私合规义务：
1、采取未成年人保护措施，例如建立年龄验证系统，过滤未成年人用户，或确保未成年人用户需经父母同意方可使用（未成年人定义各国有不同标准，应根据当地法律特殊规定实行。）
2、分级分段对未成年人网络账号实施监管，或与监护人协同监管。
根据《中华人民共和国民法典》规定，在我国，对民事行为能力的年龄有相对细化的规定。因此，网络平台在对未成年人网络账号实施监管时，可以具体法律规定进行分级分段监管。






3、其它建议：
1）对外发布的隐私政策、服务条款/用户协议、相关公告应明确声明只服务于成年人，不收集儿童数据，并在服务注册掩码中插入出生日期请求，让用户注册前确认他们已年满18岁，或他们已年满8周岁（或16周岁）并已获得父母或其他监护人的同意。
2）在年龄判别和验证机制落实上，可在用户账号注册环节采取包括但不限于以下产品交互设计：
①通过用户注册手机号的电话确认进行验证，且验证前应告知验证过程将全程录音，并长期保留该通话录音；
②通过客户端第三方支付渠道验证，如信用卡等方式（通过监护人的自有支付工具）；
③通过客户端实名认证、人脸识别、音色识别等方式验证（验证时，应当确保监护人陪同验证，并在验证前应告知验证过程将全程录音录像，且长期保留验证视频）；
④通过客户端智力测试验证，如设置对于智力、知识等存在一定要求的题库要求用户回答，常用的有较为复杂的数学计算题等，以此初步判断使用者的心智和年龄，对未通过识别验证的账号采取限制措施。
3）在采取以上年龄判别机制时，企业应当评估各类验证方式的必要性以及有效性，特别是采取实名认证、人脸识别、音色识别等敏感个人数据收集的验证方式。
写在最后
伴随着AIGC等新技术的快速涌现和迭代，法律制定与实施难免存在一定的滞后性，因此这更需要服务提供者、监护人、甚至全社会的共同协作与监督。所幸，我们看到了司法机关已担起了监督的职责。
此外，知名游戏大厂网易已对其旗下热门游戏产品接入AI及人脸识别技术，通过AI判定的疑似未成年人的用户身份，将由人脸识别验证系统进行二次验证，努力从源头保障未成年人用户上网安全。
国内著名短视频平台抖音也已发布平台规范，要求发布者对人工智能生成内容进行显著标识，以帮助用户区分虚拟与现实。针对利用“AI 换脸”“AI 绘图”等技术生成涉未成年人低俗色情图片视频，利用 AIGC 等制作发布涉未成年人有害信息等问题，抖音将通过模型识别、人工审核等方式拦截、下架，并梯度处罚相关账号。
AIGC等新技术的发展，衍生出了新的未成年权益保护的问题。毫无疑问，这将促进服务提供者对其服务内容、用户规则及平台规范、安全算法的进一步迭新，也将促进法律法规的不断完善。