算法推荐服务提供者“应知”过错的认定标准

自2007年Google在其基于用户关键词的广告服务AdWords中添加个性化元素，将用户在一段时间内的搜索历史进行记录和分析，从而根据用户喜好和需求实现精准化的广告展示以来，算法推荐已经广泛应用于多种类型的信息内容推荐和商业场景之中。其与信息检索（搜索）服务协同互补，共同解决信息资源迅猛发展带来的信息过载问题，成为帮助用户从海量信息中筛选有效信息并剔除无关信息干扰的重要手段。当前，网络用户无论是网上购物、听音乐、看视频，还是订外卖、找餐馆，几乎所有的信息推荐背后都有算法推荐技术的应用，由此而带来的一个法律问题是：如果被算法推荐的内容是侵权内容，算法推荐的服务提供者是否以及应该如何承担责任？
[本文不讨论网络服务提供者直接提供侵权内容，或与用户分工合作提供侵权内容的情形，仅讨论用户上传内容侵权，该侵权内容被算法推荐后，网络服务提供者过错如何认定的问题。]
算法推荐的技术原理
对算法推荐法律责任分析的前提是了解算法推荐的技术逻辑和原理。
首先，需要明确的是，推荐算法本质上是一个用技术解决如何满足用户个性化需求、拉动长尾内容流量的解决方案。其包括了多种算法技术，典型的如协同过滤推荐算法、基于内容的推荐算法和以将单个或多个推荐算法通过某种方法进行融合以达到取长补短推荐效果的混合推荐算法。协同过滤推荐算法是当下各推荐平台运用最为广泛的推荐算法，自开始被应用以来就对推荐系统的发展具有长足的影响。其核心思想是根据与目标用户的兴趣偏好相似的最近邻的偏好来进行推荐。基于内容的推荐算法则需要抽取物品的一些特征用来表征这个物品，再根据用户的历史行为数据信息学习出用户感兴趣的物品的特征，通过两者的比较确定出关联性最大的一组物品作为推荐列表并将其推荐给用户。
[ 秦冲、赵铁柱、柳毅，《个性化推荐算法的研究及发展综述》，载《东莞理工学院学报》，第28卷第3期，2021年6月。]
其次，协同过滤推荐的目的在于根据已有数据之间的关系，计算用户之间的相似度，找到有共同兴趣爱好的用户，从而产生推荐。例如，如果有两个用户对某些商品的评分相似，则系统认为这两个用户的偏好是相似的，因此会将一个用户评价较好的商品推荐给另一个用户。基于协同过滤的推荐技术并不关心用户信息或者商品项目信息，而是通过对目标用户的历史行为，主要是对商品的历史评分数据进行分析，找到和目标用户兴趣爱好相似的用户群体，依据这些用户对商品做出的评价来预测目标用户对未评分商品的评分，然后向目标用户推荐合适的商品集。
再次，运行中的推荐系统每时每刻都在进行高频的推荐运算，快速实现数亿用户和数十亿内容的相似性计算和匹配。即使推荐中会用到一些标签，这些标签也是非常粗颗粒度的。系统并不会针对某一部影视剧的片名或针对某一影视公司进行识别后进行标签推荐，而且推荐系统并不理解这些标签的实际含义。
[发言实录丨唐平中：算法推荐技术原理，https://mp.weixin.qq.com/s/Ixx05ImP8-PDm54bJ18nTg，访问时间2022年6月2日。]
有关推荐算法网络服务提供者“应知”过错认定的主流观点
目前有关算法推荐的网络服务提供者过错的认定，法学界大致有如下几种主流观点：
1、算法推荐等同于人工推荐，应当按照人工推荐的规则认定算法推荐服务提供者的责任。该观点认为：算法推荐的过程存在着平台对用户上传内容进行的主动选择和编辑。因此，平台通过算法推荐主动编辑或选择的内容，一旦侵犯知识产权，可视为主观上存在恶意。
[ 卢海君、任寰，算法推荐与网络服务平台责任，
https://mp.weixin.qq.com/s/kQE86RO--MLOKjjNChlPLA，访问时间2022年6月2日。]
“算法推送”和“人工推荐”没有区别，平台之所以能将侵权内容精准地推送给用户，是基于对被推送内容的识别。
[ 吴子芳，“算法推送”短视频：“技术外衣”难进“避风港”，
https://mp.weixin.qq.com/s/dZLY6EQzHOYVGbbq44hrQ，访问时间2022年6月2日。]
机器推荐与管理员推荐无根本差别，在“算法推荐”的过程中，原先由管理员承担的注意义务（如防止侵权产品或违法信息传播），就应当由程序设计者在算法中体现。
[ 高艳东，“算法推荐”不能免除服务平台之注意义务，
https://mp.weixin.qq.com/s/BjSjdyD8zfuDS2Idb9oO1A，访问时间2022年6月2日。]
2、算法推荐使得网络服务提供者具有更高的注意义务。先进技术工具的应用，提升了网络服务提供者对侵权内容的注意程度以及制止侵权的处理能力。算法推荐提升了平台的注意义务。
[ 张博，观点集萃｜算法推送的版权注意义务，http://www.copyrightruc.com/article/3/167.html，访问时间2022年6月2日。]
由于平台具有信息管理能力、经济利益巨大且算法模型含有制定者的价值追求，因而需要对用户的侵权行为负有更高的注意义务。
[ 胡荟集，中国政法大学知识产权法研究所“算法推荐与平台著作权侵权责任”线上主题研讨会嘉宾发言要点，https://mp.weixin.qq.com/s/KSstcBwU4FFpvpBLzyUOQ，访问时间2022年6月2日。]
算法推荐服务提供者不仅仅向用户提供了信息存储空间，而是同时提供了信息流推荐服务，涉案侵权短视频的传播是用户侵权行为与上述两种服务结合的结果，从而带来获取更多优势、利益与带来更大侵权传播风险的后果，因此理应与仅提供信息存储空间服务的其他经营者相比负有更高的注意义务。
[ (2018)京0108民初49421号判决书（一审判决书尚未生效，目前案件二审中）]
3、算法推荐网络服务提供者的注意义务不应一概而论，应合理界定。算法推荐只要算法中没有实现加入主动筛选和推送侵权内容的指令或标准，网络服务提供者就不应被视为应知而构成主观过错。对“算法推送”领域网络服务提供者信息管理能力的认定，并不能因为其存在算法技术的运用而直接提高其注意义务的标准。
[ 熊琦，“算法推送”与网络服务提供者共同侵权认定规则，载《中国应用法学》，2020年04期。]
算法为中心的信息流推送使得作品的创作与传播更加衔接对口，节约了作品传播成本。平台方在技术发展过程中所承担的注意义务应当与当前的技术发展相一致，如果赋予其过重的与技术发展不匹配的注意义务，不仅不利于创新、对行业发展不利，也与著作权法语境下的避风港原则、红旗规则等制度设立的初衷背道而驰。
[ 冯晓青，信息流推送模式下平台方著作权侵权责任研究，
https://mp.weixin.qq.com/s/z0FH12D0UuhfKzytvrxMHw，访问时间2022年6月2日。]
算法推荐网络服务提供者“应知”过错的合理认定
笔者认为，关于上述问题的讨论，必须回到我国关于网络服务提供者帮助侵权责任认定的法律框架下，并结合算法推荐的技术原理进行分析后，方可得出结论。
根据《民法典》、《电商法》、《信息网络传播权保护条例》及《最高人民法院关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》等相关规定，网络服务提供者帮助侵权责任的认定关键在于是否存在过错，即是否明知或应知侵权行为的存在但未采取合理必要措施。司法实践中，明知较为容易认定，“应知”和“合理必要措施”成为认定网络服务提供者责任的核心。（本文暂不讨论“合理必要措施”的具体认定标准问题）
有关“应知”的具体认定规则，具体体现在《最高人民法院关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》的第九条至第十二条，其中第九条是有关“应知”的综合判定考量因素，第十条和第十二条是可以认定“应知”的具体情形列举，第十一条是有关网络服务提供者较高注意义务的认定。由此，算法推荐服务提供者“应知”过错的认定大致可以分为两个层次：
1、是否属于可以直接认定“应知”的情形，即司法解释第十条和第十二条规定的“对热播影视作品等以设置榜单、目录、索引、描述性段落、内容简介等方式进行推荐”、“将热播影视作品等置于首页或者其他主要页面等能够为网络服务提供者明显感知的位置的”、“对热播影视作品等的主题、内容主动进行选择、编辑、整理、推荐，或者为其设立专门的排行榜的”、“其他可以明显感知相关作品、表演、录音录像制品为未经许可提供，仍未采取合理措施的情形”。从文意上来看，司法解释中的“推荐”并未区分人工推荐和算法自动化推荐，但是结合当时的立法背景（彼时算法推荐技术尚未出现和应用，而该司法解释是“深入总结人民法院审理信息网络传播权案件中认可度较高的审判实践，对于成熟的、没有争议的问题进行了规定，对于实践中争议较大、一时还看不清楚或者实践需求不大等问题没有规定，留给实践中根据实际情况解决”。）
[ 最高人民法院知识产权庭负责人答记者问，http://rmfyb.chinacourt.org/paper/html/2012-12/27/content55795.htm?div=-1，访问时间2022年6月2日。]
来看，相应条款的规定是在总结实践中大量存在的网站编辑人员针对用户上传的完整热门影视剧进行主动推荐、整理等行为，且其背后的法理在于在人工推荐的过程中，相关人员不可能不注意到侵权的情况，此种情形已经构成“红旗”，因而将其认定为网络服务提供者“应知”是没有疑义的。然而，如果直接将上述条款适用于当前广泛适用的算法推荐场景中，则会得出一个非常不合理的结论，即任何采取了算法推荐技术的信息存储空间服务提供者，只要算法推荐的内容出现了侵权的热播影视作品，其必然要承担帮助侵权的责任。其结果便是，网络服务提供者为了避免上述责任的承担，唯一的方式就是在算法推荐之前，对用户上传的内容进行主动审查，提前将所有侵权的片段予以识别和过滤。然而，这与“网络服务提供者未对网络用户侵害信息网络传播权的行为主动进行审查的，人民法院不据此认定其具有过错”是明显违背的。进一步而言，虽然算法推荐也是一种推荐，但与人工推荐有本质的区别，如果说人工推荐体现了编辑人员的主观价值取向，而千人千面的算法推送背后体现的恰恰并非网络服务提供者的价值取向，而是网络用户自己的价值取向。此外，相关法律规定中推定构成应知的情形，是指网络服务提供者确因其推荐、编辑等特定行为而了解到海量的用户上传内容中存在该特定内容且对该内容的侵权性有明确的认知，这与算法推荐技术原理中算法并不识别了解内容、更无从判断内容的侵权性是有本质差异的。
2、是否属于综合考虑认定应知或负有较高注意义务的情形，即司法解释第九条和第十一条规定的综合服务的性质、方式及其引发侵权的可能性大小、应当具备的管理信息的能力而认定“应知”的情形或从网络用户提供的作品、表演、录音录像制品中直接获得经济利益的情形。对此，实践中较为具有代表性的观点认为算法推荐提高了平台的信息管理能力，因而应承担更高的注意义务，但该观点显然是混淆了算法推荐与算法过滤、内容安全审查几种不同的技术原理。如前引述的算法推荐技术原理，算法推荐并不以平台对侵权内容的识别为前提，何来算法推荐技术可以提高平台对侵权内容的管理能力之说？通俗举例来说，算法推荐是将用户可能感兴趣的内容推荐给用户，即假设系统向用户推荐的十条内容中，只要有三条或者五条是可能引发用户点击、浏览行为的，即可实现较好的推荐效果，其并不追求百分之百的匹配准确性。但如果用此技术原理进行版权侵权的过滤，则显然会产生大量的误伤。此外，还有观点认为，当前各大内容平台都可以对内容安全进行审查和过滤，为何不能进行版权侵权的审查与过滤？其实这也是混淆了高阶语义审核和浅度语义审核的技术原理与现状。
[ 发言实录丨唐平中：算法推荐技术原理，https://mp.weixin.qq.com/s/Ixx05ImP8-PDm54bJ18nTg，访问时间2022年6月2日。]
暴力、血腥、政治、黄赌毒等安全内容的审核属于浅度语义审核，基于通用的识别模型即可识别，例如根据画面是否出现血腥、裸露部位等即可作出是或否的判断进而进行过滤或拦截，然而侵权审核属于高阶语义审核，要想准确判断一个片段是a剧还是b剧的画面，需要进行专门的人工标注和数据训练才可实现。面对海量更新的影视剧综艺等内容，在版权人不提供用于对比的版权文件的情况下，单方要求平台针对每部剧投入大量的人工和技术成本逐一训练模型识别，显然是不合理也脱离当前技术水平和实践能力的。而且，即使不惜花费巨额成本建立识别模型，模型也无法识别片段是正片还是宣传片花，更甚者，在短视频平台上，因存在用户被授权发布的可能性，还需要结合后台的上传人信息和授权信息才能最终确定一个片段是否侵权。显然，侵权类的高阶语义审核在当前阶段是无法通过算法等人工智能技术自动实现的。
此外，因算法推荐引发了更大的侵权可能性或从中获益从而负有更高的注意义务的观点也有一定的不合理性，因其误将算法推荐的整体流量优化效果放大在了侵权内容的传播上。算法推荐技术之所以被广泛应用于电商、内容、资讯、服务等各种平台，核心在于其通过长尾挖掘充分实现了流量的利用。打破80%的用户只买20%的商品的规律，更好地降低长尾商品的比例，同时在有限的曝光机会下，为每个展现的商品/内容争取最大的点击/成交。所以，在算法推荐技术的应用下，系统并非针对侵权内容进行单独设定并放大其传播效果，而是将平台上各种内容的传播效果进行了放大。这与宣传“千万好友分享无限量影音资源，现在登录立即免费下载海量多媒体资源”，并吸引用户注册，或者通过在网站专门设立“影视交互区”栏目，对影视作品进行多层次、体系化的事先分类、设置，供用户上传电影下载地址、海报、剧情简介等针对性地教唆、引诱、鼓励用户上传侵权内容从而引发更大的侵权可能性存在本质的区别。正如崔国斌老师所言，“尽管平台的传播能力变强了，对每一位用户的传播效果也都增加了。本来一个作品有100位用户浏览，现在变成1000位用户浏览，但这是针对侵权和非侵权内容都实现了的无差别放大的效果。这跟与平台对某一特定作品的侵权性质有无识别能力并没有直接的关系。”拥有海量用户的YouTube和一个鲜少用户访问的小网站相比，“Youtube是否需要做更多，其实是不一定的，取决于已有的技术能不能使得它能做到这一点，而不取决于它的商业规模或者用户的规模。”
[ 发言实录丨崔国斌：算法推荐技术不必然提升平台版权保护注意义务，https://mp.weixin.qq.com/s/y71J58Jp8GrVgiK9_MeUQ，访问时间2022年6月2日。]
至于直接获得经济利益而负有更高注意义务的认定，按照司法解释的规定，其强调的是网络服务提供者针对特定侵权内容获得收益或存在特定联系的经济利益，而不包括一般性的广告费和服务费。
[ 《最高人民法院关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》（2020修正）第十一条第二款 网络服务提供者针对特定作品、表演、录音录像制品投放广告获取收益，或者获取与其传播的作品、表演、录音录像制品存在其他特定联系的经济利益，应当认定为前款规定的直接获得经济利益。网络服务提供者因提供网络服务而收取一般性广告费、服务费等，不属于本款规定的情形。]
当前，算法推荐通常采取信息流刷新的方式在用户上传内容中插入一定频率的广告，广告的展现逻辑也是通过计算广告内容与用户的相似匹配度进行推荐的，而并非对特定的用户上传内容针对性投放广告，显然也不属于此处更高注意义务的情形。
综上，在对算法推荐服务提供者“应知”过错进行认定时，不应直接将算法推荐认定为法律意义上构成“应知”的推荐，否则将与网络服务提供者不存在事先审查义务的立法和司法实践相违背。同时，也不应混淆算法推荐、算法过滤、内容安全审查等不同的技术原理和现状，简单认为算法推荐技术即可提高网络服务提供者的侵权识别能力，进而赋予网络服务提供者更高的注意义务。司法实践中，仍应结合个案的具体情形综合对此进行合理认定。