警惕利用AI技术的新型诈骗 英国批准微软收购动视暴雪

目录
《生成式人工智能服务安全基本要求（征求意见稿）》公布
中国网络空间安全协会人工智能安全治理专业委员会正式成立
国家金融监管总局提示消费者警惕利用AI技术的新型诈骗
工信部发布《工业和信息化领域数据安全风险评估实施细则（试行）（征求意见稿）》
金融监管总局发布金融消费者权益保护典型案例，2例涉及个人信息保护
上海市发布推进上海数据品牌培育工作的通知
最高法出台指导意见维护统一公平诚信的市场竞争环境
北京市市监局等四部门联合召开关于公平竞争的专题新闻发布会
阿联酋发布《负责任的元宇宙自治框架白皮书》
美国-新加坡战略技术合作伙伴关系升级
澳大利亚发布消费者数据合规和执法政策
欧盟法院驳回停止施行欧美数据隐私框架协议的申请
欧盟委员会命令Illumina解除对GRAIL的收购
英国正式批准微软收购动视暴雪
国内热点
一、元宇宙与人工智能
1. 《生成式人工智能服务安全基本要求（征求意见稿）》公布
2023年10月11日，全国信息安全标准化技术委员会秘书处发布《生成式人工智能服务安全基本要求（征求意见稿）》（以下称《征求意见稿》），适用于面向我国境内公众提供生成式人工智能服务的提供者提高服务安全水平、开展安全评估以及相关主管部门作为评估参考。
该《征求意见稿》支撑《生成式人工智能服务管理暂行办法》，在内容上细化了生成式人工智能服务在安全方面的基本要求，包括语料安全、模型安全、安全措施、安全评估等。其中，在语料安全方面，对于训练语料（Training Data）进行明确，将预训练、优化训练等所有直接作为模型训练输入的数据均纳入“训练语料”的范畴，细化了训练语料的知识产权保护要求和个人信息保护要求；同时对各来源语料进行安全评估，建立语料来源黑名单机制，并对语料可追溯性提出要求。
此外，《征求意见稿》明确提及生成式人工智能服务提供者在向相关主管部门提出生成式人工智能服务上线的备案申请前，应按照该文件中各项要求逐条进行安全性评估，并将评估结果以及证明材料在备案时提交。（图文来源：全国信息安全标准化技术委员会）

2. 中国网络空间安全协会人工智能安全治理专业委员会正式成立
2023年10月12日，中国网络空间安全协会人工智能安全治理专业委员会（以下称“人工智能安全委员会”）成立大会在北京召开。国家网信办副主任赵泽良表示，人工智能安全委员会的目标是成为人工智能安全治理方面的专业性、权威性机构，其工作要站在国家治理的高度，围绕中心服务大局；要始终把群众利益放在重要位置；要体现专业性，从专业和技术角度发展人工智能，做好人工智能安全治理。
人工智能安全委员会由国家互联网应急中心、北京智源研究院、上海人工智能实验室、阿里云、华为、金山办公等单位发起，组织人工智能领域产学研单位开展技术创新、产业协作、成果转化和行业自律，并在模型安全、内容安全、数据安全、隐私保护和知识产权保护方面不断提升人工智能安全治理能力，以行业协同方式探索人工智能安全新型综合治理新模式，为中国人工智能产业健康发展提供可持续的基础性支撑。
人工智能安全委员会首批成员单位共58家，包含人工智能领域的高校、研究院所、企业等。中国电信、科大讯飞、蚂蚁科技集团、界面财联社等单位代表在会上发言表示，响应办领导号召，积极参与专委会工作，并建言面向高质量中文语料库开发、模型安全评测、垂直领域大模型安全应用等人工智能安全治理工作扎实攻关、开放交流、深度合作。（来源：中国网络空间安全协会）
3. 国家金融监管总局提示消费者警惕利用AI技术的新型诈骗
2023年10月13日，国家金融监管总局发布一篇名为《关于警惕利用AI新型技术实施诈骗的风险提示》的文章，指出AI技术的广泛应用在为社会公众提供个性化、智能化的信息服务的同时，也给网络诈骗带来可乘之机。对此，国家金融监督管理总局发布消费者权益保护风险提示，提醒广大金融消费者警惕新型诈骗手段，维护个人及家庭财产安全。
不法分子通过面部替换、语音合成等方式，制作虚假图像、音频、视频，仿冒他人身份实施诈骗，其中涉及利用AI新型技术的主要有“拟声”“换脸”两种手段，即通过模拟他人声音或形象骗取信任，或假借名人身份传播虚假信息，进而诈骗钱财。
AI新型诈骗手段迷惑性、隐蔽性较强，诈骗金额较高。国家金融监督管理总局提示：一、网络渠道“眼见”不一定为实，涉及资金往来时，消费者应提高警惕；二、转账汇款务必核验对方身份，在无法确认对方身份时，应尽量避免转账操作；三、保护好照片、声音等个人信息，消费者应增强个人信息保护意识，对个人社交账户的安全状况保持警惕，尽量避免在互联网过多暴露个人照片、声音、视频等信息。（来源：国家金融监管总局）
二、数据合规与个人信息保护
1. 工信部发布《工业和信息化领域数据安全风险评估实施细则（试行）（征求意见稿）》
2023年10月9日，工信部网络安全管理局发布《工业和信息化领域数据安全风险评估实施细则（试行）（征求意见稿）》（以下称《细则》）。
《细则》的制定是为了贯彻落实《数据安全法》《工业和信息化领域数据安全管理办法（试行）》中关于数据安全风险评估的相关要求，通过《细则》进一步细化在工业和信息化这一具体场景、领域的相关评估规则，指导地方行业主管部门、工业和信息化领域数据处理者规范开展风险评估工作。
《细则》共十七条，适用于工业和信息化领域重要数据、核心数据处理者对其数据处理活动的安全风险评估，确定了部省两级数据安全风险评估工作体系，细化了重要数据和核心数据处理者的评估义务和具体评估内容，明确了行业主管部门监督管理评估活动的机制流程。（图文来源：中华人民共和国工业和信息化部）

2. 金融监管总局发布金融消费者权益保护典型案例，2例涉及个人信息保护
2023年10月10日，国家金融监管总局联合中国人民银行、中国证监会发布了28件金融消费者权益保护典型案例，其中金融监管总局和中国证监会各发布案例10件，中国人民银行发布案例8件，涉及银行个人信息合规问题的典型案例为2件。
① 金融监管总局的典型案例7“非法获取或使用消费者个人信息”中，某消费金融公司利用格式合同强制授权，无差别地获取借款人关系人、通讯行为、通讯信息、互联网使用信息等个人信息。某商业银行员工通过虚构业务办理需求，查询公民个人征信报告，累计出售个人征信报告900余份，非法获利20余万元。某保险公司代理人利用客户姓名、身份证号违规查询大量客户理赔信息，涉及个人家庭住址、工作单位、手机号码等敏感信息。
监管提示，《银行保险机构消费者权益保护管理办法》明确要求银行保险机构不得采取变相强制、违规购买等不正当方式收集消费者个人信息，禁止从业人员违规查询、下载、复制、存储、篡改消费者个人信息，银行保险机构在充分发挥数据价值的同时，要切实保护消费者个人信息安全。
② 中国人民银行的典型案例5“金融机构未严格落实消费者金融信息使用管理制度导致客户信息泄露”中，涉事银行未严格有效落实消费者金融信息保护相关法律法规和内控制度，业务系统权限设置不合理，导致涉案员工得以利用职务便利，在未经授权审批且没有合法、正当事由的情况下，通过银行主要业务系统私自查询、记录客户个人信息，并将相关信息对外贩卖。同时，涉事银行日常消费者金融信息保护排查、风险监测、教育培训工作不到位，在发生上述重大事件时亦未及时向当地金融监管部门报告。
监管提示，相关涉案员工因为贩卖客户信息而被以侵犯公民个人信息罪判刑；同时，根据《中国人民银行金融消费者权益保护实施办法》，银行、支付机构应当建立以分级授权为核心的消费者金融信息使用管理制度，合理设置系统权限，严格落实信息使用授权审批程序，否则发生员工非法查询并贩卖消费者金融信息的情形将侵害金融消费者信息安全权。银行应当不断强化人员管理和教育，对接触消费者金融信息的岗位人员，要培养消费者金融信息安全红线“不能碰、不想碰”的底线思维，还应当加大对辖属机构网点消费者金融信息保护管理规定落实情况的监督检查力度，开展专项排查整治，杜绝此类问题再次发生。（来源：国家金融监督管理总局）
3. 上海市发布推进上海数据品牌培育工作的通知
2023年10月12日，上海市经济和信息化委员会发布关于推进上海数据品牌培育工作的通知。该通知提出为贯彻落实《立足数字经济新赛道推动数据要素产业创新发展行动方案（2023-2025年）》，充分发挥好数据品牌牵引和示范作用，推动数据要素产业高质量发展，组织开展上海数据品牌培育工作。
通知提出，上海数据品牌培育工作以赋能城市数字化转型、促进数据要素市场高水平发展为目标，坚持“政策引导、服务支撑、品牌带动、协同推进”的原则，推动数据产品向高质量、知识型、品牌化发展，提升本市数据要素产业的创新浓度、知识密度、产业高度，持续打响上海数据品牌，助力国际数字之都建设。具体工作目标为到2025年底，企业数据管理能力进一步提高，数据产品量质齐增，品牌引领和辐射效应进一步彰显，品牌培育与数商发展的联动机制基本形成，数据要素发展生态整体跃升，打造100+上海数据品牌。
为此，通知从以下六个方面提出工作要求：
① 加快培育“好数据”与“好企业”；
② 推进多层次数据品牌建设工作；
③ 建立服务支撑体系；
④ 深化标准和标识应用；
⑤ 加大宣传推广力度；
⑥ 加强组织保障。
其中，在第五个方面“加大宣传推广力度”中，重点提出举办数据要素相关培训活动，加强专业人才培训，推广DCMM注册数据管理师、数据资产入表、企业首席数据官（CDO）等培训，增强数据品牌共识。（来源：上海市经济和信息化委员会）
三、反垄断与竞争法
1. 最高法出台指导意见维护统一公平诚信的市场竞争环境
2023年10月10日，最高人民法院召开新闻发布会，发布《关于优化法治环境促进民营经济发展壮大的指导意见》（以下称《指导意见》）、人民法院涉民营企业产权和企业家合法权益保护再审典型案例。
《指导意见》贯彻落实中央《关于促进民营经济发展壮大的意见》的有关精神，用27个条文进行细化和落实，从总体要求、依法保护民营企业产权和企业家合法权益、维护统一公平诚信的市场竞争环境、运用法治方式促进民营企业发展和治理、持续提升司法审判保障质效、加强组织实施6个方面对审判执行工作提出明确要求。
《指导意见》的第三个方面为“维护统一公平诚信的市场竞争环境”，其中涉及构建公平竞争市场机制的具体内容包括：强调依法保障市场准入的统一，依法审理涉及要素配置和市场准入的各类纠纷案件，破除区域壁垒和地方保护，遏制滥用行政权力排除、限制竞争行为，促进市场主体、要素资源、规则秩序的平等统一。依法打击垄断和不正当竞争行为，完善竞争案件裁判规则，研究出台反垄断民事诉讼司法解释，引导平台经济向开放、创新、赋能方向发展；保障和促进民营企业品牌建设；处理好保护商业秘密与自由择业、竞业限制和人才合理流动的关系。进一步加大知识产权保护力度，激发民营企业和企业家原始创新活力和创造潜能。针对恶意“维权”侵犯民营企业合法权益、扰乱正常市场秩序行为，以及利用虚假、恶意诉讼侵害企业和企业家合法权益的行为，要依法予以严厉打击。强调既要以司法手段推动政府机关、国有企业和事业单位诚信履约以维护民营企业合法权益；也要推动民营企业依法诚信规范经营，引导企业家遵纪守法，积极履行社会责任，弘扬企业家精神。（来源：最高人民法院）
2. 北京市市监局等四部门联合召开关于公平竞争的专题新闻发布会
2023年10月10日，北京市市场监管局、市财政局、市知识产权局、市科委中关村管委会联合召开新闻发布会，主题为“推动公平竞争制度不断完善，大力培育和弘扬公平竞争文化”。发布会介绍的公平竞争方面的相关情况主要包括以下四个方面：
① 全面落实公平竞争审查制度，有效实施公平竞争政策。其一，公平竞争审查机制不断完善，包括市公平竞争审查工作联席会议不断扩容，2022年至2023年上半年，北京市审查新增政策措施5759件，修改调整311件等；其二，存量政策专项清理“全域开展”，涉及各区政府、市联席会议成员单位、其他的市级委办局以及各市属机构的存量文件清理，进一步规范不当市场干预行为；其三，政策措施抽查持续推进，抽查范围进一步扩大到了全市57家市级行政机关，持续加大对政策制定机关的监督指导力度。
② 合力规制不正当竞争行为，开展商业秘密保护创新探索。其一，构建市级部门协调机制，组建北京市反不正当竞争工作联席会议；其二，强化商业秘密保护建设；其三，聚焦不正当竞争案件办理，2019年至今，市监局办结不正当竞争类案件1069件，罚没款1.5亿元，2023年全市针对各类违法行为持续开展反不正当竞争执法专项行动。
③ 对标国际先进推进改革，反垄断法律法规实施的透明度和有效性显著提升。其一，以首善标准落实经营者集中审查工作，高效审查经营者集中事前强制申报案件；其二，多角度切实开展合规指导，2023年9月印发《北京市反垄断合规指引》，并广泛开展宣传培训；其三，加大民生领域反垄断执法力度，查处医疗、教育、体育等民生领域垄断案件。
④ “稳价格”“降成本”和“惠民生”，有效维护首都市场良好价格秩序。其一，大力开展涉企违规收费专项整治，2023年已检查收费主体近300家，督促退还费用超4.1亿元；其二，积极推动降低企业综合融资成本，规范商业银行服务价格行为，督促落实国家降费减负政策；其三，着力打造公平竞争市场秩序，在重要时间点不断强化行政指导和宣传培训，推动社会共治，不断提升消费者价格维权能力和经营者依法经营意识。（图文来源：北京市市场监督管理局）
海外动态
一、元宇宙与人工智能
1. 阿联酋发布《负责任的元宇宙自治框架白皮书》
2023年10月9日，阿联酋的人工智能、数字经济和远程工作应用办公室与迪拜的经济和旅游部合作发布《负责任的元宇宙自治框架白皮书》（以下称《白皮书》），旨在阐明元宇宙拟议的自我监管原则，并强调元宇宙在各个领域的主要用途，以确保元宇宙经济的增长，在把握这一充满希望的未来行业的机遇的同时，应对其提出的关于数据保护、隐私、数字福祉和知识产权保护等的挑战。
《白皮书》提出在元宇宙的虚拟世界中，用户能够使用虚拟现实和增强现实等各种技术相互交流，而随着该领域的不断发展和日益融入日常生活，确有必要建立自我监管原则以确保安全和数字安全。阿联酋政府正在积极努力加强与数字领域各领先公司的成功合作伙伴关系，通过鼓励元宇宙领域的创新并通过研究和开发促进数字领域的经济贡献来实现，确保这一新兴经济部门的可持续增长。据悉，由阿联酋担任主席的敏捷国家联盟(The Agile Nations)于2022年4月成立了敏捷国家元宇宙监管工作组，其目标是确定元宇宙中负责任使用和运营的基本自律原则和标准。
该报告基于与主要机构和私营企业就元宇宙进行的广泛对话和磋商，最终提出了元宇宙的九项自律原则，包括：
①“访问互操作性”原则，允许用户跨平台移动数据、数字资产和身份；
②“设计和默认隐私”原则，以确保用户的权利和个人数据在元宇宙扩张时得到保护；
③“设计的可持续性”原则，以确保在元宇宙世界的设计中从一开始就考虑到能源效率和环境可持续性；
④“互惠”原则，鼓励用户之间合作、分享想法；
⑤“信任透明”原则，开发考虑用户体验和期望的服务，以增强信任；
⑥“公平、平等和包容”原则，以确保所有个人都有平等的机会参与元宇宙；
⑦“多样性承诺”原则，代表现实世界的多样性；
⑧“问责制”原则，以确保对元宇宙的系统和技术及其成果的责任和后续行动；
⑨“设计安全和有益”原则，以保护元宇宙这一虚拟空间的所有用户。（图文来源：UNITED ARAB EMIRATES）

2. 美国-新加坡战略技术合作伙伴关系升级
2023年10月12日，美国白宫发布消息称，在新加坡副总理王冠逸访问华盛顿之际，美国和新加坡启动了美国-新加坡关键和新兴技术领域对话。美国和新加坡的战略技术合作伙伴关系将进一步扩大和深化，两国将在人工智能（AI）、数字经济等前沿领域加强合作。
在人工智能（AI）领域，美国和新加坡决心深化国际人工智能安全、保障、信任和标准发展方面的信息共享和磋商，同时继续在负责任的创新方面保持领先。美国和新加坡打算启动一个双边人工智能治理小组，专注于推进共同原则和深化安全、可信和负责任的人工智能创新的信息交流。此外，还将关注可信和安全的人工智能系统的联合研究和教育资助机会，探索两国人工智能专业人员的互惠认证计划。
在数字经济领域，美国和新加坡将利用技术促进包容性和可持续的经济增长。两国打算为数字经济合作制定双边路线图，就数据治理、数字标准、数字包容性、消费者保护以及确保中小企业能够从数字经济机遇中受益等优先问题制定共同原则和目标。此外，两国还努力使数字经济更具创新性和公平性，促进可信的数据流动和有效的隐私保护。（来源：THE WHITE HOUSE）
二、数据合规与个人信息保护
1. 澳大利亚发布消费者数据合规和执法政策
2023年10月12日，澳大利亚政府公布了澳大利亚竞争和消费者委员会(ACCC)和澳大利亚信息专员办公室(OAIC)关于消费者数据权益(CDR)的合规和执法政策。
该政策强调遵守和执行消费者数据权益保护的一般方法和优先事项。其中，基于对消费者个人信息安全的风险，优先对以下情形进行执法监管：阻碍流程的数据持有者；未能满足合规日期；数据质量不满足标准；经认可的数据接收者对第三方的监督不足；数据安全保护措施不足；存在误导或欺骗行为；或滥用CDR数据行为。
该政策汇总还详细提出来自消费者的投诉、利益相关方的情报、合规参与者的报告和整改时间表、以及对数据持有人和接收人的审计与评估报告均可以作为工具，用于评估CDR合规水平并识别CDR监管框架的潜在违规行为。（图文来源：DataGuidance）

2. 欧盟法院驳回停止施行欧美数据隐私框架协议的申请
2023年10月12日，欧盟法院裁定驳回了关于停止施行欧盟-美国数据隐私框架协议的申请。这一申请由法国公民Philippe Latombe提交，提出《欧盟-美国数据隐私框架充分性决定》存在争议，该协议的应用将对其造成严重和不可弥补的损害，要求暂停施行该数据隐私框架协议。
申请人Philippe Latombe提出，基于该框架协议及充分性决定，他的个人数据可能被传输到美国企业，而无需实施额外的、充足的数据保护措施，而基于该决定，申请人无法确保其个人数据受到有效保护，同时也无法向监管当局进行申诉以确保个人数据转移的合法性。
根据欧盟法院的调查结果，认为欧美数据隐私框架协议中规定了对数据转移的保障措施，Philippe Latombe未能证明该框架协议及充分性决定缺乏适当的数据保护水平，从而会对个人或集体造成严重且紧迫的损害。因此，欧盟法院驳回了其关于停止施行欧美数据隐私框架的申请。（来源：个人信息与数据保护实务评论、欧盟法院）
三、反垄断与竞争法
1. 欧盟委员会命令Illumina解除对GRAIL的收购
2023年10月12日，欧盟委员会根据《欧盟合并条例》（EMUR）通过了恢复性措施，要求Illumina公司在欧盟委员会做出禁止交易的决定后，解除其已完成的对GRAIL公司的收购。
Illumina公司是总部位于美国的一家全球基因测序公司，从事开发、制造和商业化基因测序系统。GRAIL公司是总部位于美国的一家医疗保健公司，开发基于基因组测序和数据科学工具的血液癌症测试。在2021年7月22日，欧盟委员会收到Illumina收购GRAIL请求后便开始对可能产生的竞争影响开展调查。在深入调查进行过程中，Illumina却公开宣布已完成对GRAIL的收购。2021年10月29日，欧盟委员会发布公告称因Illumina“抢跑”收购GRAIL，违反了欧盟EUMR规定的静止义务（“Standstill Obligation”），委员会已采取有约束力的临时措施以恢复和维持有效竞争的条件。2022年9月6日，欧盟委员会禁止Illumina对GRAIL的收购，担心其收购会扼杀创新，减少新兴市场中基于血液的早期癌症检测的选择。2023年7月12日，欧盟委员会对Illumina和GRAIL违反EMUR规定的“静止义务”分别处以4.32亿欧元和1000欧元的罚款。
目前，欧盟委员会通过恢复性措施，要求Illumina解除其对GRAIL的收购，并恢复到收购前的状态。一方面，Illumina需采取适当的撤资措施（如通过贸易销售、资本市场交易），在严格的期限内确定性地完成撤资，同时使得交易解除后GRAIL的独立性恢复到收购前的水平，且保证撤资后GRAIL与收购前一样具有生存能力和竞争力。另一方面，在解除收购完成前，Illumina和GRAIL需要遵守过渡措施以保持独立，防止GRAIL进一步整合到Illumina的业务中，同时要求Illumina继续持续资助GRAIL的现金需求，以维持GRAIL的生存能力。
据悉，如果两公司不遵守恢复性措施，委员会可以根据EUMR第15条对其处以最高可达公司日均总营业额5%的定期罚款。此外，根据EUMR第14条，未能遵守恢复性措施的公司可能会被处以最高相当于其全球年营业额10%的罚款。（文字来源：European Commission）
2. 英国正式批准微软收购动视暴雪
2023年10月13日，英国反垄断监管机构竞争与市场管理局（CMA）宣布批准微软与动视暴雪的交易。根据微软官方披露的文件，历时21个月，微软终于完成了对动视暴雪总价约687亿美元（约合人民币5018.9亿元）的收购。
自2022年1月微软首次提出收购动视暴雪以来，在推进过程中一直面临着来自美国、欧洲和英国等多地反垄断监管挑战。特别在5月和7月欧盟和美国相继放行后，英国成为微软收购动视暴雪的最后的监管障碍。最终，微软选择在云游戏业务模块进行退让，承诺在其收购正式完成前，将动视暴雪的云游戏版权（包括当前游戏和新游戏）出售给法国竞争对手游戏公司育碧（Ubisoft），育碧可以向所有消费者和云游戏服务供应商直接提供动视暴雪旗下产品的云游戏版本。
CMA表示，随着云游戏市场的起飞，微软提交的新协议将阻止微软锁定云游戏领域的竞争，从而为英国云游戏客户保留有竞争力的价格和服务，在此前提下可以批准微软对动视暴雪的收购。（来源：反垄断前沿）