互联网平台用户标签滥用风险与应对路径——学术之星法律研究系列⑯

来源:安杰世泽律师事务所

文章摘要
目次 一、问题的提出 二、用户标签的法律性质 (一)个体维度 (二)群体维度 三、 用户标签滥用风险 (一)算法操纵 (二)算法歧视 四、常见用户标签滥用风险法律规制路径 (一)用户标签生成阶段 (二
目次
一、问题的提出
二、用户标签的法律性质
(一)个体维度
(二)群体维度
三、 用户标签滥用风险
(一)算法操纵
(二)算法歧视
四、常见用户标签滥用风险法律规制路径
(一)用户标签生成阶段
(二)用户标签使用阶段
五、平台行业实践探析与优化建议
一、问题的提出
用户标签是指数据处理者在大量个人信息基础上,利用算法对数据主体特定属性(如消费偏好、行为轨迹、生活习惯等)提炼、挖掘而形成的标识。1用户画像则是基于用户标签对特定自然人的个人特征(如职业、经济、健康、教育、个人喜好、信仰、行为等方面)做出分析或预测,形成其个人特征模型的过程。2
以用户标签为基础的推荐算法已经深度嵌入在社会生活的方方面面,显现出权力化趋势。大数据杀熟、“剑桥分析”等一系列争议事件表明,算法提供者对于用户标签的滥用可能带来算法操纵、算法歧视等算法权力异化风险,从而对特定群体用户权益乃至社会秩序造成重大影响。
本文将从个体维度与群体维度分别厘清用户标签法律性质,进而在比较法视域下对于现有法律规制路径予以考察,梳理域内外大型互联网平台用户标签管理实践并提出优化建议。
二、用户标签的法律性质
(一)个体维度
用户标签本质上是通过对数据主体个人信息进行汇聚、分析得出的“衍生数据”或者“推论数据”。3
关于包括用户标签在内的“推论数据”是否构成个人信息,学界存在不同观点。肯定说认为,推论数据仍在一定程度上具有可识别性,数据主体对于其推论数据仍存在一定合理期待。4另外,我国《个保法》第四条对“个人信息”的定义采取“识别+关联”的双重标准,在一定程度上扩大了个人数据的范围。5具体而言,只要是由特定自然人在浏览网页、通话等活动中产生的信息(如个人位置信息、个人通话记录、个人浏览记录等),即便不能由信息本身的特殊性识别出特定自然人,也应判定为个人信息。6否定说认为,由于推论数据不能唯一识别个人信息主体,不构成个人信息。折中说认为,虽然单一用户标签不属于个人信息,但是大量用户标签汇聚后如具有“可识别性”,将可能构成个人信息乃至敏感个人信息。7
(二)群体维度
除了对于数据主体个体的描述,用户标签同时可以视为对数据主体所在特定用户群体的描述,具有群体性特征,如不当使用可能引起不合理的差别待遇甚至歧视待遇,减损特定用户群体(例如残疾群体、购买力较低群体等)的权益。因此,需要通过法律对特定用户群体权益予以保障。
此外,有观点认为用户标签标识的用户群体具有“群体性隐私利益”,但学界关于该种利益是否存在尚未达成共识。第一种观点否定群体性隐私利益的存在,因为目前比较法下尚无立法明确承认该种利益,且数据群组缺少独立主体地位,难以赋予其独立的权利。8第二种观点认为,群体性隐私利益是个体隐私利益的集合,群体性隐私利益遭受侵害将导致其中包含的个体性隐私利益遭受侵害。9第三种观点认为,群体隐私利益是一种独立的利益形态,群体性隐私利益遭受侵害不必然导致个体性隐私利益遭受侵害。10本文更加倾向于第三种观点,因为假如特定用户标签滥用风险现实化,该用户标签所代表群体的整体隐私权益将受到减损,但并不绝对导致其中每个个体的隐私权益均受到减损。
三、用户标签滥用风险
(一)算法操纵
在大数据时代的当下,人们的一举一动都在互联网上留下了可供处理、分析、利用的“电子痕迹”,各类算法将人们的“电子痕迹”转换为商机,导致参与数据化生活的个体经过用户画像成为了“被算法定义的人”,11成为了为算法权力所计算、预测和控制的客体。12
譬如,在滴滴、携程等公司被曝光的“大数据杀熟”事件中,算法基于消费者的历史交易记录等数据针对性地分析其消费习惯特征,从而精准掌握特定消费者的最高支付意愿并为其展示不同的交易价格,使得被算法标记为“高价值”的用户被动承担了更多的额外成本,13形成了一种消费操控。
此外,在“剑桥分析”事件中,算法对于选民的政治倾向进行了操纵。在大数据分析和分类算法的帮助下,每个用户的性格、政治立场等特征都被打上了标签。不同类别的选民群体根据他们对不同政治观点敏感性的预测,收到不同的定向广告推送,强调某一特定论点的不同方面,从而动摇或者巩固其政治立场。14
可见,用户标签滥用风险带来的算法权力异化正在以一种难以察觉的方式塑造着人们所能看到的电子世界,进而操纵人们的选择。当用户所面对的是一个真实性遭到篡改的网络世界,他们在接受了这些信息后所做出的政治和商业决策看似是自主选择,其背后实质上体现的很可能是特定利益集团的意志。

(二)算法歧视
人工智能算法是在海量数据的基础上训练产生的。根据数据领域“garbage in, garbage out”定律,如果用以训练的数据存在偏见,则训练结果也将出现偏离,这种偏离往往是难以察觉但切实存在的,被称为数据偏在(data bias)。用户标签生成机制中的数据偏在可能导致算法决策对于人类社会中既有的偏见和歧视加以继承和强化。譬如,根据卡内基梅隆大学研究者的研究发现,某自动化算法决策系统给男性工作者高薪广告推广的概率是女性的六倍,其原因在于自动化算法根据以往历史分析,发现很少有女性在高薪职位任职,因此得出“大多数女性对高薪职位并不感兴趣”的结论。15
造成算法歧视的另一重原因在于,人工智能算法旨在从海量数据中发现相关性,而非因果性,这使得算法决策可能不存在科学性与价值上的正当性,从而造成法秩序所不容许的歧视。譬如经常在电商平台搜索无糖食品的用户群体可能被标注为“糖尿病倾向”,导致保险公司提高对于该群体的保费。16

四、常见用户标签滥用风险法律规制路径
(一)用户标签生成阶段
用户标签负面清单:
中国:《互联网信息服务算法推荐管理规定》第十条规定,“算法推荐服务提供者应当加强用户模型和用户标签管理,完善记入用户模型的兴趣点规则和用户标签管理规则,不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息”。其中,“违法和不良信息”包括《网络信息内容生态治理规定》第六条所列举的法律、行政法规禁止内容,以及第七条所列举的对网络生态造成不良影响的内容。
欧盟:欧盟《通用数据保护条例(GDPR)》第22条规定,个人自动化决策不得以种族、政治观点、宗教、生物特征信息等特殊类别个人数据为作出依据,除非适用获得了数据主体明示同意或为实现重大公共利益所必需的例外情形,且采取适当措施加以保护。
(二)用户标签使用阶段
赋予数据主体用户标签控制权
中国:《互联网信息服务算法推荐管理规定》第十七条第二款规定,“算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能”。相似地,《信息安全技术个人信息安全规范》也建议提供个性化展示的个人信息控制者“建立个人信息主体对个性化展示所依赖的个人信息(如标签、画像维度等)的自主控制机制”。尚在征求意见的《网络数据安全管理条例》则进一步提出了数据主体定向推送参数控制权要求,明确利用个人信息和个性化推送算法向用户提供信息的互联网平台运营者应当“允许用户重置、修改、调整针对其个人特征的定向推送参数”。
欧盟:欧盟《数据服务法(DigitalServicesAct)》第27条提出了“推荐系统透明度(Recommender system transparency)”的概念,要求使用推荐系统的在线平台提供者应在其使用条款中以清晰易懂的语言列明推荐系统使用的主要参数,以及用户是否有修改或影响该些主要参数的选项。此外,平台应当提供便捷的方式允许用户选择和修改前述决定推荐顺序的选项。
“Opt-out”选择退出权
中国:中国法项下的用户标签Opt-out方式体现于拒绝接收个性化的推送和营销。具体而言,根据《个人信息保护法》第二十四条第二款,如通过自动化决策方式进行个性化推送、商业营销,需要同时提供不针对个人特征的选项或向个人提供便捷的拒绝方式。
欧盟:欧盟法项下的用户标签Opt-out方式体现于拒绝直接营销目的范围内的数据处理与用户画像活动。具体而言,根据GDPR第21条,如个人数据处理系出于直接营销目的,数据主体有权随时拒绝该等处理(包括在所拒绝直接营销目的范围内的用户画像活动)。
美国:美国法项下的用户标签Opt-out方式体现于对自动化决策技术的选择退出机制,具体规定于各州隐私立法。例如,CCPA对于保障用户对于自动化决策技术的选择退出权作出了原则性规定,2023年11月美国加利福尼亚州隐私保护局(CPPA)发布的《自动化决策技术规定草案(DraftedAutomatedDecisionmakingTechnologyRegulations)》则进一步对选择退出机制作出具体规定。
使用效果限制
针对基于用户标签与画像作所出的自动化决策效果设置限制,也是主流的用户标签规制路径之一。一般而言,该类限制侧重于保障弱势群体的基本权利和自由,避免引发系统性歧视后果。
特别地,中国法项下的用户标签使用效果限制侧重消费者权益保护,要求避免基于用户标签的自动化决策在交易价格等方面实行不合理的差别待遇。例如,根据《电子商务法》第十八条,电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其提供商品或者服务的搜索结果的,应当同时向该消费者提供不针对其个人特征的选项,尊重和平等保护消费者合法权益。
五、平台行业实践探析与优化建议
目前,我国以淘宝、拼多多为代表的大型互联网平台对于用户标签自主控制权的行使方式主要包括允许用户一键关闭个性化推荐,允许用户手动删除兴趣标签,或允许用户长按特定个性化推荐信息并选择“不感兴趣”从而减少相应类别信息的推送。



淘宝用户标签自主控制行业实践


拼多多用户标签自主控制行业实践
以Google为代表的欧美大型互联网平台允许用户更加精细地实现标签自主控制。在为用户提供个性化广告时,Google允许用户自主控制各类主体、品牌广告的出现频率,并允许用户限制推送赌博、酒精饮料、约会等敏感主题广告。此外,用户可以选择关闭用于向其展示广告的信息,包括账号信息(性别、年龄、语言)、向其展示广告依据的信息类别(如婚姻状况、家庭收入、教育状况、雇主规模)、以及用于展示个性化广告的活动记录(如网络与应用活动记录、YouTube历史记录)。



Google用户标签自主控制行业实践
用户标签自主控制机制的具体落实程度属于各互联网平台综合适用法规、合规成本、用户体验、广告营收等多方面因素决定的商业决策。相较而言,Google的实践较为充分地落实了全球范围内用户标签主要监管要求,完美契合我国用户标签控制权有关法律及推荐性规范要求,符合其全球科技巨头的定位;淘宝、拼多多的实践则落实了我国用户标签控制权有关法律强制性要求,但在推荐性规范要求的落实程度方面较Google仍有一定差距。
总体而言,域内外大型互联网平台均依法赋予了用户一定的用户标签控制权。但是,由于缺乏统一的合规标准,各平台对于用户自主控制标签的能力限度有所不同,且普遍缺乏对用户标签群体权益的回应。为进一步防范用户标签滥用风险,可以考虑采取如下措施优化规制路径:
发布推荐性标准或指南为平台企业提供实践参考(可借鉴欧盟第29条数据保护工作组发布的《个人自动化决策和用户画像指南》附录1提供的良好实践建议);
在算法备案自评估中要求算法推荐服务提供者阐述用户标签设置的合法性、正当性、必要性,以及用户标签滥用风险相应缓释措施;
引入算法审计机制,由独立第三方机构对平台企业用户标签设置与使用的合法性进行评估测试;
针对平台企业违法设置和使用用户标签行为提起个人信息保护公益诉讼。17
注释:
[1] 赵精武:《用户标签的法律性质与治理逻辑》,载《现代法学》2022年第44卷第6期,第102页。
[2]《信息安全技术个人信息安全规范(GB/T 35273-2020)》第3.8条。
[3] 牛彬彬:《大数据时代群体维度的数据利益保护路径研究——以“用户标签”为中心》,载《华中科技大学学报》2022年第36卷第2期,第93页。
[4] 徐文:《个人推论数据是如何被藏匿的?》,载《社会科学》2020年第10期,第107-118页。转引自前注3,第93页。
[5] 同前注3,第93-94页。
[6] 根据《信息安全技术个人信息安全规范(GB/T 35273-2020)》附录A,判定某项信息是否属于个人信息,应考虑以下两条路径:一是识别,即从信息到个人,由信息本身的特殊性识别出特定自然人,个人信息应有助于识别出特定个人。二是关联,即从个人到信息,如已知特定自然人,由该特定自然人在其活动中产生的信息(如个人位置信息、个人通话记录、个人浏览记录等)即为个人信息。符合上述两种情形之一的信息,均应判定为个人信息。
[7] 同前注1,第112页。
[8] 同前注3,第92页。
[9] Kim J, Richard L Baskerville, Yi Ding. Breaking the privacy kill chain: protecting individual and group privacy online[J]. Inf Syst Front. 2020(22): 171-185. 转引自前注3,第92页。
[10] 同前注2。
[11] 郑戈:《算法的法律与法律的算法》,载《中国法律评论》2018年第2期,第68页。
[12] John Cheney-Lippold, We Are Data: Algorithms and the Making of Our Digital Selves, New York University Press, 2017, p.141.
[13] 葛江虬:《解释论视角下<电子商务法>定制搜索结果条款的规范目的及限制适用》,载《法律科学(西北政法大学学报)》2021年第3期,第97页。
[14] 廖灿亮:《舆情大数据研究的三个阶段》,载《中国报业》2020年第19期,第51页。
[15] 刘士国,熊静文:《健康医疗大数据中隐私利益的群体维度》,载《法学论坛》2019年第3期,第125-135页。
[16] Alessandro Mantelero. From group privacy to collective privacy: towards a new dimension of privacy and data protection in the big data era[ C]//Taylor I., Floridi I., Van der Sloot B. Group privacy. New York: Spinger International Publishing, 2017: 139-158. 转引自前注3,第88页。
[17] 陈佳欣:《大数据时代下隐私的群体形态及法律回应》,载《智慧法治》集刊2023年第1卷,第103-104页。
技术驱动法律,专业成就未来