如何把算法关进规则的笼子？

2022年全国两会期间，如何建立「数字信任」话题频频引发热议。
全国人大代表、重庆璞雨为科技创新中心执行董事高钰提议借鉴公司的财务审计方式，通过第三方对平台的算法和数据进行更有力的监督，以保护每个使用者平台上的合法权益。
作为高度依赖用户兴趣值维系流量的互联网平台，几无例外会采用算法推荐来增强用户粘性。
「猜你喜欢」或是有针对性的「首页推荐」，已为人熟知的「千人千面」式算法推荐技术在这一领域有着广泛的应用。
对平台用户来说，算法推荐技术能让人「让渡信息换取便利」，但更多潜在的个人信息安全隐患也随之浮现。
而对平台而言，算法推荐技术一方面在提升平台流量、增加交易量等方面助益颇多，具有极高商业价值；另一方面，则是应用不当可能带来的侵权风险、负面舆论、监管高压线与昂贵的违法成本。
2021年出台并实施的《个人信息保护法》在法律层面明确通过「自动化决策」概念对算法推荐技术进行了规制，并设置了专门条款规定，它的出台也使得算法推荐有了个人信息保护维度的统筹性规制基础。
2022年3月1日，规制算法推荐运用的部门规章《互联网信息服务算法推荐管理规定》（以下简称《算法推荐管理规定》）开始实施，更为数据合规中算法推荐这一重要领域提供了更清晰的规范方向。
新法新规不断出台、监管态势愈发细致、群众对从严监管呼声日益高涨，对互联网平台而言，算法推荐怎么用？如何规制？成为了绕不开的合规核心。

根据《算法推荐管理规定》，算法推荐技术大致可以分为：生成合成类；个性化推送类；排序精选类；检索过滤类；调度决策类。
通常互联网平台主要涉及的算法推荐技术有：
① 生成合成类，如 AI 客服、AI 美颜，通过 AI 技术进行脸部遮挡等行为；
② 个性化推送类，如根据用户兴趣推送个性化内容的信息流内容；
③ 检索过滤类，如关联内容推荐、关键词联想；
④ 排序精选类，如平台内搜索结果排序，直播间推荐排序。
对平台而言，每种算法推荐类别均对应着不同的风险，对所有采用算法推荐技术的功能进行盘点并分类是进行算法推荐合规管理的基础。

1. 个人信息保护合规风险
《算法推荐管理规定》第二十一条规定，算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

除了大数据「杀熟」问题，算法使用个人信息的目的、方式和范围与隐私政策宣称是否一致，从第三方采买个人信息进行用户画像分析是否对个人信息来源进行合规性审查等也是个人信息保护范畴。
而根据《个人信息保护法》，企业若违反算法推荐相关要求可能不止收到负面舆情这一不良影响；违法行为情节严重的，可能没收违法所得，并处五千万元以下或者上一年度营业额百分之五以下罚款，并可以责令暂停相关业务或者停业整顿、吊销相关业务许可或者营业执照。
直接负责的主管人员和其他直接责任人员亦可能面临相应处罚。
2. 知识产权侵权风险
互联网平台可能通过算法推荐技术了解用户的偏好，从而给用户推荐有关的内容、商品或服务。
而在互联网盗版仍然猖獗，信息网络传播权纠纷增多的今天，无论哪一种算法推荐都可能出现推送的内容侵权的问题，且此时算法在侵权内容的传播上起到了「助推」作用，如算法自动推荐两无版权视频内容、盗摄动画等，平台作为第三方也极易收到知识产权维权方的连带起诉。
3. 不正当竞争受罚风险
《算法推荐管理规定》第十五条明文规定：算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为。
《反垄断法》第十七条：禁止具有市场支配地位的经营者，没有正当理由，对条件相同的交易相对人在交易价格等交易条件上实行差别待遇。
《关于平台经济领域的反垄断指南》第十七条规定：具有市场支配地位的平台经济领域经营者，无正当理由基于大数据和算法，根据交易相对人的支付能力、消费偏好、使用习惯等，实行差异性交易价格或者其他交易条件；实行差异性标准、规则、算法；实行差异性付款条件和交易方式等，属于滥用市场支配地位，构成差别性待遇的情形。
同时，在国家市场监督管理总局公布的《禁止网络不正当竞争行为规定（公开征求意见稿）》中，用第三章、第四章两个章节的内容详细规定了「禁止利用技术手段实施妨碍干扰等不正当竞争行为」。如：
① 要求经营者不得利用技术手段，恶意对其他经营者合法提供的网络产品或者服务实施不兼容。
② 经营者不得利用数据、算法等技术手段，通过收集、分析对方的交易信息、浏览内容及次数、交易时使用的终端设备的品牌及价值等方式，对条件相同的交易向对方不合理地提供不同的交易信息，侵害对方的知情权、选择权、公平交易权等，扰乱市场公平交易秩序。
而在针对「利用技术手段实施妨碍干扰等不正当竞争行为」的处罚措施上，征求意见稿规定按《反不正当竞争法》第二十四条由监督检查部门责令停止违法行为，处十万元以上五十万元以下的罚款；情节严重的，处五十万元以上三百万元以下的罚款。

根据《个人信息保护法》《算法推荐管理规定》等法律法规的规定，互联网平台算法推荐技术的合规要点大致可归纳为以下几部分内容：
1. 保证算法的透明度和可解释性
《算法推荐管理规定》第十二条鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。
平台对用户采用算法推荐技术的，须保证透明度和算法推荐结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇。
平台应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。
当平台应用的算法技术可能对用户权益造成重大影响，应当依法予以说明并承担相应责任。若用户要求对其个人信息处理的算法予以说明的，应积极配合。
平台可综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。
2. 尊重用户决定权
用户有权拒绝平台仅通过算法作出的决定。 平台应加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制。
平台如通过算法推荐技术向用户进行信息推送、营销，应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。
此外，平台还应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。
3. 注意关照特定人群
根据《互联网信息服务算法推荐管理规定》，平台须对未成年人、老年人等群体给予特别的关注。
提供未成年人模式。平台向未成年人提供服务的，应当依法履行未成年人网络保护义务，并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，便利未成年人获取有益身心健康的信息。
平台不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息，不得利用算法推荐服务诱导未成年人沉迷网络。
提供适老服务。平台向老年人提供服务的，应当充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务。
保障劳动者权益。算法推荐服务提供者向劳动者提供工作调度服务的，应当保护劳动者取得劳动报酬、休息休假等合法权益，建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。
4. 建设算法合规体系
根据我国法律法规的要求，算法推荐服务提供者应在企业内部进行完整合规体系建设。 包括落实算法安全主体责任，建立适当的审查机制、管理体系、安全事件应急处置措施等，制定并公开算法推荐服务相关规则，并配备与算法推荐服务规模相适应的专业人员和技术支撑。
① 算法审查机制
算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。
② 特征库建设
平台应建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。
③ 生成合成类信息显著标识
平台发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输。
④ 完善人工干预
加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。
⑤ 安全事件应急处置
平台发现违法信息的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门和有关部门报告。发现不良信息的，应当按照网络信息内容生态治理有关规定予以处置。
⑥ 用户投诉机制
算法推荐服务提供者应当设置便捷有效的用户申诉和公众投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果。
⑦ 相关员工管理制度
平台应对内部负责算法推荐技术的员工建立完善的评价体系和定期考核制度，与用户评价、投诉体系挂钩建立其相应的奖惩制度，尤其应注意对用户满意度的调查分析。
此外，平台还可针对相关员工在设计算法过程中的数据采集等工作制定规范细则，并要求员工依据规范细则对数据来源、采集范围、采样数量等信息及时进行记录说明。
最后，平台应加强对相关员工的算法风险相关知识培训，使算法设计者有良好的风险防控意识及风险预判能力。
5. 实施个人信息保护影响评估（ PIA ）
根据《个人信息保护法》规定，平台利用个人信息进行自动化决策的，个人信息处理者应当事前进行个人信息保护影响评估，并对处理情况进行记录。
此外，《互联网信息服务算法推荐管理规定》第二十七条也明确了具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。
平台在启用算法推荐技术前，应首先进行个人信息保护影响评估（ PIA ），评估内容可包括对算法工程师访谈、对算法程序进行个人信息影响检查与测试等，并据此评估算法推荐技术对个人信息权益的影响情况，进行风险定级。
关于企业如何实施 PIA 评估，可参考上篇文章《企业如何实现PIA智能评估？》

算法是人类为提高生产生活的便捷程度而创造和设计的工具，它固然是一把双刃剑，对互联网企业来说，以中立的态度合理地利用算法可以使其更好地发挥正向效用，若不合理利用算法推荐技术，反而会使算法无法充分发挥其正向效用，损害用户的体验感与合作方的利益。
而作为平台方，做好算法合规，不仅可以更好的实现企业对用户的人文关怀，更方便企业宣传自身的社会责任承担与科技守正决心，还能在充分尊重用户的同时，真正实现平台流量合规变现，行稳致远。