补偏救弊, 解雅道陵迟之困——简评《互联网信息服务算法推荐管理规定(征求意见稿)》

2021年8月27日, 国家互联网信息办公室就《互联网信息服务算法推荐管理规定(征求意见稿)》(以下简称《算法管理规定》)向社会公开征求意见。
通力合规团队结合相关法律条款及案例对《算法管理规定》进行逐条解读, 以帮助企业正确理解算法之“正道”。
第一条为了规范互联网信息服务算法推荐活动, 维护国家安全和社会公共利益, 保护公民、法人和其他组织的合法权益, 促进互联网信息服务健康发展, 弘扬社会主义核心价值观, 根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规, 制定本规定。
通力合规团队解读
本条明确了《算法管理规定》的立法目的和上位法依据, 作为《网络安全法》、《数据安全法》与《个人信息保护法》的延伸, 《算法管理规定》针对算法推荐服务进行了专项规制。
第二条在中华人民共和国境内应用算法推荐技术提供互联网信息服务(以下简称算法推荐服务), 适用本规定。法律、行政法规另有规定的, 依照其规定。
前款所称应用算法推荐技术, 是指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。
通力合规团队解读
本条明确了《算法管理规定》的适用范围:
1) 根据现行《互联网信息服务管理办法》, “互联网信息服务”是指通过互联网向上网用户提供信息的服务活动; 2021年1月发布的《修订草案征求意见稿》将其定义扩展为: “为用户提供互联网信息发布和应用平台, 包括但不限于互联网新闻信息服务、搜索引擎、即时通讯、交互式信息服务、网络直播、网络支付、广告推广、网络存储、网络购物、网络预约、应用软件下载等互联网服务。”[1]
2) 《算法管理规定》采用了概括加列举的方式对“算法推荐技术”进行了定义, 包括且不限于应用生成合成类(自动生成短视频、AI换脸)、个性化推送类(推送新闻、广告)、排序精选类(搜索引擎、热搜)、检索过滤类(电商平台)、调度决策类(外卖、网约车)等算法技术。
第三条国家网信部门负责全国算法推荐服务的监督管理执法工作。省、自治区、直辖市网信部门依据职责负责本行政区域内算法推荐服务的监督管理执法工作。
第四条算法推荐服务提供者提供算法推荐服务, 应当遵守法律法规, 尊重社会公德和伦理, 遵守商业道德和职业道德, 遵循公正公平、公开透明、科学合理和诚实信用的原则。
通力合规团队解读
本条提出除遵守法律法规之外, 算法推荐服务提供者还应承担伦理责任。
特别的, 提供算法推荐服务应当遵守商业道德。根据2021年8月最高法发布的《反不正当竞争法司法解释(征求意见稿)》, “商业道德”是指特定商业领域普遍认可和遵循的行为规范。人民法院在判断经营者是否违反商业道德时, 应当结合案件具体情况, 综合考虑行业规则或者商业惯例、经营者的主观状态、交易相对人的选择意愿、对市场竞争秩序和消费者知情权、选择权的影响等因素。[2]
因此, 在使用算法推荐技术时, 企业既要充分保障用户的知情权、选择权等合法权益, 还应当遵守行业规则和商业惯例、不得利用算法破坏经营者之间的公平竞争。换言之, 平台“二选一”、“自我优待”等行为都将被明令禁止。
【案例】
近日, 由于涉及强迫商户“二选一”等行为, 青岛市中级人民法院判决要求美团立即停止涉案不正当竞争行为, 并赔偿原告饿了么经济损失及合理开支100万元。
青岛中院指出, 美团对跨平台商户采取了改变配送范围、降低商户曝光率、回收优惠活动等行为, 其目的是为了让商户只与美团独家合作, 这会造成饿了么平台商户的流失, 也导致商户丧失在饿了么平台的交易机会, 消费者丧失从多平台获得产品和服务的渠道。[3]
第五条鼓励相关行业组织加强行业自律, 建立健全自律制度和行业准则, 组织制定行业标准, 督促指导算法推荐服务提供者建立健全服务规范、依法提供服务并接受社会监督。
第六条算法推荐服务提供者应当坚持主流价值导向, 优化算法推荐服务机制, 积极传播正能量, 促进算法应用向上向善。
算法推荐服务提供者不得利用算法推荐服务从事危害国家安全、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动, 不得利用算法推荐服务传播法律、行政法规禁止的信息。
通力合规团队解读
本条明确了算法“向上向善”的基本原则, 企业应当对算法进行价值观引导, 从而提高推送内容的质量。
2021年8月, 中宣部等五部门印发了《关于加强新时代文艺评论工作的指导意见》, 《意见》指出, 要加强网络算法研究和引导, 开展网络算法推荐综合治理, 不给错误内容提供传播渠道。《算法管理规定》的制订, 标志着算法监管的“靴子”即将正式落地。
第七条算法推荐服务提供者应当落实算法安全主体责任, 建立健全用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等管理制度, 制定并公开算法推荐相关服务规则, 配备与算法推荐服务规模相适应的专业人员和技术支撑。
通力合规团队解读
本条衔接《网络安全法》、《数据安全法》和《个人信息保护法》, 明确了算法推荐服务提供者的算法安全主体责任。
此前, 有关当局在实践中对算法侧重于事后的监管, 根据具体的危害后果来追究互联网平台的责任, 平台则往往援引“技术中立”原则作为自身的免责事由。本次《算法管理规定》明确规定了一系列算法安全主体责任, 覆盖了算法设计、运行的各个环节。今后, 相关企业在提供算法推荐服务时需要承担更多的责任与义务。
第八条算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等, 不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型。
通力合规团队解读
本条主要针对的是算法推荐服务提供者一味追求ROI和流量, 利用算法致人成瘾或者诱导消费的现象。
为了获取流量、增加用户停留时长, 部分互联网平台往往会根据用户的兴趣点推送大量无营养、同质化的内容, 并设计各种致人成瘾的奖赏机制, 在不知不觉中收割用户的时间。一些自制力不强的用户(特别是未成年人)逐渐被算法所操纵, 沉迷于平台塑造的“信息茧房”之中。对此, 媒体多次呼吁平台不能片面逐利, 而应当承担起引领价值观的责任[4], 监管部门通过这一条予以回应。
第九条算法推荐服务提供者应当加强信息内容管理, 建立健全用于识别违法和不良信息的特征库, 完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的, 应当作出显著标识后, 方可继续传输。
发现违法信息的, 应当立即停止传输, 采取消除等处置措施, 防止信息扩散, 保存有关记录, 并向网信部门报告。发现不良信息的, 应当按照网络信息内容生态治理有关规定予以处置。
通力合规团队解读
本条衔接第七条, 细化了平台的信息内容管理义务。平台应当通过部署自动化技术手段(例如建立特征识别库), 对违法和不良信息进行识别和处置。
同时, 对于合成信息(例如AI换脸视频), 企业应当进行显著标识, 这将会是一个巨大的挑战。以深度伪造技术常用的GAN(生成式对抗网络)模型为例, GAN由一个生成器和一个判别器组成, 生成器最终可以生成判别器无法分辨真假的图像。因此, 如何训练能够识别合成内容的AI模型是未来值得进一步关注的问题。本条正式生效后, 可能将大幅增加有关企业的内容审核成本。
【案例】
2021年1月15日, 全国“扫黄打非”办公室对外通报, 微博公司因履行主体责任不力被处罚。经查, 2018年12月至2020年12月期间, 微博上多名注册用户发布网络出版物和长图小说, 其内含有明显淫秽色情内容。2021年1月4日, 北京市文化市场综合执法总队依据相关法律规定, 对运营微博的北京微梦创科网络技术有限公司作出行政处罚。[5]
第十条算法推荐服务提供者应当加强用户模型和用户标签管理, 完善记入用户模型的兴趣点规则, 不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息内容, 不得设置歧视性或者偏见性用户标签。
通力合规团队解读
本条明确企业应当对用户标签的内容进行控制。
我们理解, 此处的“歧视性或者偏见性标签”应与《算法管理规定》第十七条的价格歧视进行区分。参照《信息安全技术个人信息安全规范》, 用户画像中对个人信息主体的特征描述, 不应:
1)包含淫秽、色情、赌博、迷信、恐怖、暴力的内容;
2)表达对民族、种族、宗教、残疾、疾病歧视的内容。[6]
第十一条算法推荐服务提供者应当加强算法推荐服务版面页面生态管理, 建立完善人工干预和用户自主选择机制, 在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容。
第十二条算法推荐服务提供者应当综合运用内容去重、打散干预等策略, 并优化检索、排序、选择、推送、展示等规则的透明度和可解释性, 避免对用户产生不良影响、引发争议纠纷。
通力合规团队解读
十一至十二条规定了算法推荐服务提供者的正面干预义务: 企业应当通过增加权重等方式积极推送符合主流价值导向的信息, 同时应通过打散、去重等方式减少同质化信息的推送、提高内容质量。
第十三条算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号, 或者虚假点赞、评论、转发、网页导航等, 实施流量造假、流量劫持; 不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现, 实施自我优待、不正当竞争、影响网络舆论或者规避监管。
通力合规团队解读
本条明确了两类被禁止的行为: 流量造假、流量劫持; 干预信息呈现、干扰传播秩序。
【案例】
1) 流量造假、流量劫持
2018年, 某明星一条微博“转发量过亿”引发了社会对明星流量数据造假的关注, 该事件背后的推手微博刷量APP“星援”随后被公安部门查处。经统计, 在案发时已有用户使用19万余个控制端微博账号登录, APP开发者蔡坤苗由此获取充值金额600余万元。经审理, 北京市丰台区人民法院判决蔡坤苗构成提供侵入计算机信息系统程序罪, 判处有期徒刑五年。[7]
2) 干预信息呈现、干扰传播秩序。
2020年6月10日, 国家互联网信息办公室指导北京市互联网信息办公室对新浪微博负责人进行了约谈。针对微博在蒋某舆论事件中干扰网上传播秩序, 以及传播违法违规信息等问题, 责令其立即整改, 暂停更新微博热搜榜一周。同时, 要求北京市互联网信息办公室对新浪微博依法从严予以罚款的行政处罚。
第十四条算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况, 并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。
通力合规团队解读
本条主要针对的是长期以来备受诟病的“算法黑箱”问题。
“算法黑箱”是指算法决策对于用户而言是不透明的, 存在信息不对称的问题, 因此用户权益可能在不知情的情况下受到损害。例如, 部分电商平台未告知用户提供算法推荐服务的情况, 混淆竞价排名与自然排名, 从而影响消费者的决策; 部分网络游戏公司在游戏道具抽奖时虽然公示了中奖概率, 但由于算法程序不透明, 实际的中奖概率难以管控。
政协委员严望佳在今年两会上指出, “算法黑箱”可能潜藏未知的安全隐患, 应当加强人工智能应用的算法透明度。[8]本条从规范层面明确了算法的透明性要求, 企业应当告知用户在提供推荐服务时是否应用了算法技术, 并向用户解释算法决策的基本逻辑。
第十五条算法推荐服务提供者应当向用户提供不针对其个人特征的选项, 或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的, 算法推荐服务提供者应当立即停止提供相关服务。
算法推荐服务提供者应当向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能。
用户认为算法推荐服务提供者应用算法对其权益造成重大影响的, 有权要求算法推荐服务提供者予以说明并采取相应改进或者补救措施。
通力合规团队解读
本条主要针对的是大多数互联网企业在进行精准推送时, 未提供关闭个性化推荐功能的情形。
根据上海市消费者权益保护委员会2020年公布的《APP广告消费者权益保护评价报告》, 个性化广告推荐“不可选择”问题较为普遍。上海消保委对600款APP相关功能设置测试发现, 仅有14.5%可以找到个性化广告推荐关闭入口。事实上, 即使是提供关闭功能的APP, 其关闭入口往往也非常隐蔽。以微信朋友圈广告为例, 用户需要经过多次跳转才能找到关闭选项, 而且单次关闭操作有效期仅为6个月。
2021年8月公布的《个人信息保护法》规定, 企业不得强制向用户推送个性化广告[9], 本条在此基础上进一步扩大了用户的选择权——企业应当向用户提供选择、修改或者删除用户标签的功能。
第十六条算法推荐服务提供者向未成年人提供服务的, 应当依法履行未成年人网络保护义务, 并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式, 便利未成年人获取有益身心健康的信息内容。
算法推荐服务提供者不得向未成年人用户推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息内容, 不得利用算法推荐服务诱导未成年人沉迷网络。
通力合规团队解读
本条是针对未成年人保护提出的要求。
一直以来, 未成年人网络环境都是监管部门的重点整治对象。2020年7月, 国家网信办在《关于开展2020“清朗”未成年人暑期网络环境专项整治的通知》中指出, “严厉打击诱导未成年人在社交平台、音视频平台的热搜榜、排行榜、推荐位等重点区域应援打榜、刷量控评、大额消费等行为。”2021年9月8日, 中宣部等部门对腾讯、网易等重点网络游戏企业和游戏账号租售平台、游戏直播平台进行约谈。约谈特别指出: 要加强网络游戏内容审核把关, 严禁含有错误价值取向、淫秽色情、血腥恐怖等违法违规内容, 坚决抵制拜金主义、“娘炮”、“耽美”等不良文化; 要强化“氪金”管控, 杜绝擅自变更游戏内容、违规运营游戏等行为, 坚决遏制“唯金钱”“唯流量”等错误倾向, 下决心改变诱导玩家沉迷的各类规则和玩法设计; 要加强游戏直播管理, 禁止出现高额打赏、未成年人打赏等情况。
《算法管理规定》出台后, 将为有关部门提供更加明确的执法依据, 进一步加大监管的力度。
第十七条算法推荐服务提供者向劳动者提供工作调度服务的, 应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法, 履行劳动者权益保障义务。
通力合规团队解读
本条与近期保障新就业形态劳动者权益的系列举措风向一致。
今年七月开始, 有关部门陆续发布了《关于维护新就业形态劳动者劳动保障权益的指导意见》和《关于落实网络餐饮平台责任切实维护外卖送餐员权益的指导意见》。相关文件明确, 平台应当合理确定订单数量、在线率等考核要素, 适当放宽配送时限, 不得通过算法等手段侵害劳动者的正当权益。
根据本条规定, 企业在设计工作调度算法时不能盲目地追求生产效率, 应当保障劳动者的合法权益, 给予人性的关怀和温度。
第十八条算法推荐服务提供者向消费者销售商品或者提供服务的, 应当保护消费者合法权益, 不得根据消费者的偏好、交易习惯等特征, 利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。
通力合规团队解读
本条主要针对的是愈演愈烈的“大数据杀熟”现象。
近年来, 一些互联网企业通过算法分析处理收集到的用户信息并做出用户画像, 对价格不敏感者特别是熟客施行同物不同价的“价格歧视”政策。对于消费者的投诉, 企业往往以“供需关系”、“平台内第三方行为”等理由进行搪塞。为解决执法层面的困难, 本条将从源头上对算法进行监管。
【案例】
胡女士是携程平台的钻石贵宾客户, 2020年7月, 胡女士通过携程APP订购了舟山希尔顿酒店的一间豪华湖景大床房, 支付价款2889元。然而离开酒店时, 胡女士发现酒店的实际挂牌价仅为1377.63元, 胡女士不仅没有享受到星级客户应当享受的优惠, 反而多支付了一倍的房价。绍兴市柯桥区法院经审理后宣判携程公司赔偿胡女士订房差价, 并按房费差价部分的三倍支付赔偿金。[10]
第十九条国家网信部门建立分类分级管理制度, 根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据敏感程度、对用户行为的干预程度等对算法推荐服务提供者实施分类分级管理。
通力合规团队解读
本条提出将由国家建立算法分类分级管理制度, 具体的分类办法和管理细则仍有待网信部门进一步明确。
关于何种算法属于“具有舆论属性或社会动员能力的算法推荐服务”, 可以参照国家网信办发布的《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》(“《互联网信息服务安全评估规定》”)中的定义, 包括:
1) 开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能;
2) 开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。[11]
第二十条具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息, 履行备案手续。
算法推荐服务提供者的备案信息发生变更时, 应当在变更之日起五个工作日内办理变更手续。
算法推荐服务提供者终止服务的, 应当在终止服务三十个工作日前办理注销备案手续, 并作出妥善安排。
第二十一条国家和省、自治区、直辖市网信部门收到备案人提交的备案材料后, 材料齐全的, 应当在三十个工作日内予以备案, 发放备案编号并进行公示; 材料不齐全的, 不予备案, 并应当在三十个工作日内通知备案人并说明理由。
第二十二条完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等显著位置标明其备案编号并提供公示信息链接。
通力合规团队解读
二十至二十二条规定了“具有舆论属性或者社会动员能力的算法推荐服务提供者”的备案义务, 值得重点关注的备案内容包括“算法自评估报告、拟公示内容”, 具体的内容与形式有待网信部门予以明确。
第二十三条具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。
算法推荐服务提供者应当完善算法推荐服务管理机制, 对算法推荐服务日志等信息进行留存, 留存期限不少于六个月, 并在相关执法部门依法查询时予以提供。
第二十四条国家和省、自治区、直辖市网信部门会同有关主管部门对算法推荐服务开展算法安全评估和监督检查工作, 对发现的问题及时提出整改意见并限期整改。
算法推荐服务提供者应当配合有关主管部门依法实施的安全评估和监督检查工作, 并提供必要的技术、数据等支持和协助。
通力合规团队解读
二十三至二十四条规定了“具有舆论属性或者社会动员能力的算法推荐服务提供者”的安全评估义务, 具体如何实施安全评估有待有关主管部门进一步明确。
参照《互联网信息服务安全评估规定》, 我们理解算法推荐服务提供者可以自行实施安全评估, 也可以采取委托第三方安全评估机构的方式。安全评估的范围应涵盖算法推荐服务的合法性, 落实法律、行政法规、部门规章和标准规定的安全措施的有效性, 防控安全风险的有效性等情况。
第二十五条参与算法推荐服务安全评估和监督检查的相关机构和人员应当对在履行职责中知悉的个人信息、隐私和商业秘密严格保密, 不得泄露、出售或者非法向他人提供。
第二十六条算法推荐服务提供者应当接受社会监督, 设置便捷的投诉举报入口, 及时受理和处理公众投诉举报。
算法推荐服务提供者应当建立用户申诉渠道和制度, 规范处理用户申诉并及时反馈, 切实保障用户合法权益。
第二十七条算法推荐服务提供者违反本规定第七条、第八条、第九条第一款、第十条、第十一条、第十二条、第十三条、第十四条、第十五条第二款、第二十二条、第二十六条规定的, 由国家和省、自治区、直辖市网信部门依据职责给予警告、通报批评, 责令限期改正; 拒不改正或者情节严重的, 责令暂停信息更新, 并处五千元以上三万元以下罚款。构成违反治安管理行为的, 依法给予治安管理处罚; 构成犯罪的, 依法追究刑事责任。
第二十八条算法推荐服务提供者违反本规定第六条、第九条第二款、第十五条第一款、第三款、第十六条、第十七条、第十八条、第二十三条、第二十四条第二款规定的, 由网信等有关主管部门依据职责, 按照有关法律、行政法规和部门规章的规定予以处理。
第二十九条具有舆论属性或者社会动员能力的算法推荐服务提供者违反本规定第二十条的规定, 未按照要求备案或者在报送备案时隐瞒有关情况、提供虚假材料或者通过欺骗、贿赂等不正当手段取得备案的, 由国家和省、自治区、直辖市网信部门依法撤销备案, 并给予警告、通报批评, 责令限期改正; 拒不改正或者情节严重的, 责令暂停信息更新, 并处五千元以上三万元以下罚款。
具有舆论属性或者社会动员能力的算法推荐服务提供者终止服务未按照要求及时办理注销备案手续, 或者发生严重违法情形受到吊销互联网信息服务许可、关闭网站、终止服务等行政处罚的, 由国家和省、自治区、直辖市网信部门予以注销备案。
第三十条本规定自2021年 月 日起施行。
结语
面对互联网中海量的信息, 算法推荐技术能够为人们选择合适的内容, 满足个性化的信息需求, 但同时, 藏身于“黑箱”之中的智能推荐算法也带来了许多的社会问题。《算法管理规定》的出台, 是针对“内容违规”、“舆论操纵”、“算法歧视”等公众高度关注的问题做出的回应, 体现了监管部门对算法进行全生命周期治理的决心。相关企业应承担起算法安全主体责任, 将“向上向善”的价值观融于算法的设计与使用过程中, 做好互联网信息内容的“守门人”。
【注释】
[1] 《互联网信息服务管理办法(2011)》第二条, 《互联网信息服务管理办法(修订草案征求意见稿)》第五十二条。
[2] 最高人民法院关于适用《中华人民共和国反不正当竞争法》若干问题的解释(征求意见稿)第三条。
[3] 北京日报: 《外卖平台因“二选一”被判败诉》。
[4] 工人日报: 《帮青少年冲破“信息茧房”，需要共同担当和作为》。
[5] 中国新闻出版广电报: 《微博公司因履行主体责任不力被处罚》。
[6] GB/T 35273-2020《信息安全技术个人信息安全规范》7.4。
[7] 北京市丰台区人民法院(2019)京0106刑初1813号判决书。
[8] 南方都市报: 《算法不透明、大数据杀熟?政协委员建议加强人工智能安全研究》。
[9] 《个人信息保护法》第二十四条。
[10] 人民法院报: 《以司法裁判向大数据杀熟说不》。
[11] 《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第二条