上海人工智能产业发展地方立法包容审慎监管原则的研究与主要条款建议

本文作者2020年受上海某政府部门委托就人工智能产业发展地方立法包容审慎监管问题进行了课题研究。围绕人工智能产业的发展和国内相关立法现状进行了梳理，对地方人工智能监管立法的权限和内容进行了研究分析，着重对金融科技发展的包容审慎监管原则实践进行了比较和借鉴。课题组还对合合科技、商汤科技等上海人工智能领域的代表性企业调研，在研究和调研基础上形成对上海人工智能产业发展立法的包容审慎监管提出若干立法建议。本文是其中一些观点，仅代表个人意见。
一、人工智能地方立法的目的与空间
地方人工智能立法的目的是为了平衡人工智能创新和人工智能风险之间的矛盾，尝试形成一套初步的监管体系，把住底线、鼓励创新，推动形成新一代人工智能发展体系，为上海建设卓越的全球城市注入新动能。
人工智能不属于《立法法》第8条中的中央事权，人工智能的地方立法存在一定的空间，但有赖于民法、刑法等一系列法律的规制。目前涉及到人工智能应用相关的民事与刑事责任确认、隐私和产权保护、数据安全利用、人工智能法律主体以及相关权利义务和责任等基础立法仍未完善。其中关键的数据安全法、个人信息保护法等基础法律刚刚出台或进入征求意见的阶段。
在上位法尚不完善的情况下，人工智能监管的地方立法可以围绕鼓励人工智能产业发展、尝试建立人工智能的底线监管原则和框架、确立人工智能产品设计和应用的道德伦理守则。在立法形式上可以多种形式并举，在制定政府规章和地方性法规条件尚不成熟的情况下可以制定规范性文件先行明确基础的鼓励与监管框架。
目前人工智能立法中可能会遇到的法律问题如下：
1.人工智能应用可导致个人数据过度采集，加剧隐私泄露风险
人工智能应用可采集用户人脸、指纹、声纹、虹膜、心跳、基因等具有强个人属性的生物特征信息。这些信息具有唯一性和不变性，一旦被泄露或者滥用会对公民权益将造成严重影响。
2.人工智能放大数据偏见歧视影响，威胁社会公平正义
当前，人工智能技术已应用于智慧政务、智慧金融等领域，成为社会治理的重要辅助手段。但是，人工智能训练数据在分布性上往往存在偏差，隐藏特定的社会价值倾向，甚至是社会偏见。例如，海量互联网数据更多体现我国经济发达地区、青壮年网民特征，而对边远地区以及老幼贫弱人群的特征无法有效覆盖。人工智能系统如果受到训练数据潜在的社会偏见或歧视影响，其决策结果势必威胁人类社会的公平正义。
3.人工智能技术的数据深度挖掘分析加剧数据资源滥用，加大社会治理和国家安全挑战
通过获取用户的地理位置、消费偏好、行为模式等碎片化数据，再利用人工智能技术进行深度挖掘分析，能够预测用户的喜好和习惯，进而对用户进行分类，可实现更加精准的信息推送。基于数据分析的智能推荐可带来用户便利、企业盈利和社会福利，但是也加剧了数据滥用问题。一是在社会消费领域，可带来差异化定价。“大数据杀熟”实现对部分消费者的过高定价，甚至进行恶意欺诈或误导性宣传，导致消费者的知情权、公平交易权等权利受损。二是在信息传播领域，可引发“信息茧房”效应。人们更多接收满足自己偏好的信息和内容，限于对世界的片面认知，导致社会不同群体的认知鸿沟拉大，个人意志的自由选择受到影响，甚至威胁到社会稳定和国家安全。
4.人工智能技术可提升网络攻击的智能化水平，进而实施数据智能窃取
一是可用来自动锁定目标，进行数据勒索攻击。人工智能技术可通过对特征库学习自动查找系统漏洞和识别关键目标，提高攻击效率。二是自动生成大量虚假威胁情报，对分析系统实施攻击。人工智能通过使用机器学习、数据挖掘和自然语言处理等技术处理安全大数据，能够辅助自动化地生产威胁情报，攻击者也可利用相关技术生成大量错误情报以混淆判断。三是自动识别图像验证码，窃取系统数据。图像验证码是一种防止机器人账户滥用网站或服务的常用验证措施，通过解决视觉难题来验证人类用户，以有效区分拦截恶意程序，保护系统数据安全。但是，人工智能技术已实现对验证码的有效破解。
5.基于人工智能技术的数据深度伪造将威胁网络安全、社会安全和国家安全
人工智能可利用收集的训练数据进行特征学习，生成逼真的虚假信息内容。特别是近年来基于生成对抗网络（GAN）的“DeepFakes”（深度伪造）技术应用，使得“换脸”虚假视频的制作门槛不断降低，大量深度伪造数据内容开始涌现。我国也出现了徐锦江版“海王”，杨幂版“黄蓉”等逼真虚假视频。
深度伪造数据内容的大量生成和传播，将给网络安全、社会安全和国家安全带来严重风险。
6.人工智能提升数据资源价值，数据权属问题更为突出
一是个人层面，数据权属体现为公民的数据权利，个人隐私保护面临挑战。用户个人隐私信息含金量高，是人工智能技术与产业发展的重要驱动。相关机构在利用用户数据追求自身利益时往往忽视用户个人隐私权益。二是行业层面，数据权属体现为企业的数据产权，数据垄断损害行业整体发展。人工智能技术使数据经济价值越发凸显，数据已成为企业的核心资产，相关企业积极储备数据资源，并阻止竞争对手获得数据，力图垄断数据资源来最大化企业利益，数据产权之争将加剧数据垄断。一方面，科技巨头依托网络覆盖和用户规模，加强数据汇聚；另一方面，人工智能中小企业获取数据的渠道受限，数据资源匮乏。企业在数据产权没有被广泛认可，以及数据流动环节存在安全风险的前提下，无论是从维护自身利益角度还是从遵守法律法规角度，都不愿将自身数据进行共享，这将可能导致初创企业和研究机构在算法设计和优化过程中无数据可用，损害我国人工智能行业整体发展。
7.人工智能凸显数据的战略地位，数据违规跨境冲击国家安全
当前，世界主要国家都制定了人工智能发展战略，对数据的依赖快速上升，数据作为国家基础性战略资源的地位更加突出。为快速积累数据，科技企业通过向消费者提供特定领域免费应用、使用政府公开数据以及进行产业上下游数据协同等方式获取尽可能多数据。以脸书、谷歌等为代表的美国科技巨头和产业巨头，依托其庞大用户规模和强大数据抓取工具，在全球范围内进行数据收集，强化数据资源优势，推进自身人工智能发展，加剧数据违规跨境流动风险。
与此同时，2018年3月，美国发布《澄清境外数据的合法使用法案》(CLOUD法案)，为美国执法机构访问在美国境内运营的企业存储在海外的用户数据提供明确授权，促使数据管辖权和跨境流动争议进一步加大，威胁我国网络主权和国家安全。
二、人工智能地方立法可以在包容审慎监管原则上探索
首先，人工智能产业监管既要包容，也要审慎，本市的地方立法一方面要为上海人工智能发展提供一个鼓励创新的制度环境，保障新业态不断发展。另外一方面应探索通过建立监管框架来防范自动化决策不透明、算法歧视、隐私侵犯、犯罪行为等AI应用相关风险。
其次，包容审慎监管根据事务发展的逻辑在不同阶段有不同的重点。例如审慎监管原则在立法中的具体落实在产业初期可能以倡导性、行业最佳实践、试点应用场景等方式为宜。
人工智能作为与当初金融科技一样的新事物，在发展初期亦不能一上来就“管死”，而是应当给予其足够的观察空间，期间内对于积极的方面要给予鼓励与支持，对于出现的问题要慎重对待，及时予以防范和纠正。
相比传统业态，人工智能代表着新的生产力，近些年对经济增长影响越来越大，成为可能爆发新技术革命的重要领域。然而，如上文所述，人工智能因为技术性强的原因也伴随着巨大的不确定性，企业不知道此种新业态会如何演变，社会无法预知人工智能会在未来产生什么影响，监管部门难以掌控好人工智能运用的每一个领域和每一次的发展方向。在此背景下，不合时宜的监管措施可能扼杀新业态潜在的创新力，制约新业态的健康发展，但缺乏监管可能导致新业态突破边界，触及公众利益或者诱发经济社会风险的底线。
包容审慎监管制度与人工智能的发展相适应，包容性监管可以为人工智能的发展创造宽松的创新环境，审慎监管可以保障人工智能的发展方向不会突破底线。从我国以网约车为代表的领域的审慎监管制度实践来看，此种原则的监管促进了共享经济的发展，极大缓解了社会存在的打车难及出租车市场垄断等问题，有效促进车辆等交通要素资源的有效配置。但网约车也带来了服务规范性及安全性等问题，甚至出现了危及生命安全、数据安全的事件，政府及时要求有关部门及企业进行深层次整改，有效解决了网约车可能触碰底线的问题，同时也促进了相关市场的良性健康发展。此外电商、外卖等领域亦存在此类问题。从这个角度看，包容审慎监管制度已经在理论和实践上被逐步接受，其对于促进新业态发展有着重要的意义。
包容审慎监管虽然着力为人工智能创造宽松的发展环境，但并不意味着放任不管，而是要通过科学探索，推动监管方式不断创新，避免出现一放就乱、一管就死的极端情形。如果说包容监管是为人工智能创新营造宽松的环境，那么审慎监管则更多地强调守住底线，确保不发生系统性风险。结合人工智能的发展趋势及特点，防范底线不仅应关注人工智能可能带来的对于市场秩序的负面冲击，也要关注对社会安全的影响。由于市场秩序及社会安全内容非常广泛，这就决定了通过审慎监管守住人工智能发展底线的复杂性：
一是人工智能的发展不能触碰扰乱市场秩序的底线。市场经济并非自由无序，而是需要必要的监管，以维护正常的市场秩序，推动要素有序高效流动，促进微观主体公开公平竞争。人工智能的发展为市场经济注入了新的动力，广阔的市场也为人工智能创造了重要的发展空间，但监管滞后可能带来对市场秩序的负面冲击。审慎监管必须强化对人工智能可能存在的影响市场秩序问题的关注，避免出现触及市场底线的局面。
二是人工智能的发展不能出现危及社会安全的底线。人工智能是一个大范围的概念，具体的应用还是要结合不同的场景。在上海，由市场应用驱动产业发展和技术创新是人工智能发展的特点和优势所在。上海发挥应用场景丰富的优势，大力推动人工智能技术在具体场景落地，为上海产业经济和城市民生赋能，首批揭榜的人工智能试点应用包括学校、医院、社区、园区、交通、政务和金融等12个具体场景。在每一个具体场景的应用中，都会有潜在的网络、数据、算法、信息风险，一旦发生大规模的风险泄露，将会对社会公众安全造成极大威胁。因此政府的监管要起到兜底作用，做好最后的风险防范。
三、金融科技包容审慎监管实践对人工智能产业立法的借鉴与反思
因金融科技与人工智能在性质、特点等方面存在一定相似性，故对金融科技的包容审慎监管亦可以借鉴到人工智能的监管中。
中国的金融科技发展相对较快，监管的思路亦一直在实践包容审慎原则。包容审慎是对新经济新业态采取包容创新、审慎理性的事中事后监管策略，强调政府跨部门协同和社会力量参与，强调融合线上线下的监管方式。从监管主体、方式、态度和环节来分析，它具有四个特点：
其一，从监管主体来看。它是一种协同监管模式，这一监管策略强调跨部门监管，融入社会力量参与监管，体现了政府与社会的合作精神。这一监管政策特别强调的是，政府不是单一的监管主体。
其二，从监管方式来看。它充分运用了采取线上线下融合的方式，有利于融合新监管技术和新监管主体。
其三，从监管态度来看。它要求政府认真对待新经济、新业态和新模式，既包容又理性谨慎，鼓励市场创新，但不是削弱监管。
其四，从监管环节来看。它不是一刀切的先行政审批，而是强调事中、事后有针对性的监管，包含了“看一看再规范”的思想。这一监管策略是“在新兴经济领域贯彻包容和鼓励创新的治理理念，推动从处理具体事项的细则式管理转变为实现设置安全阀及红线的触发式管理”。
这一新行政监管策略是自上而下形成的，是我国应对和引领第四次工业革命，促进新经济业态的包容性增长的重要举措。正是通过自上而下的推进，包容审慎的行政监管策略已在我国形成了初步共识，即对金融科技发展的包容与对金融数据保护的审慎。
《金融科技（FinTech）发展规划（2019-2021年）》中指出：在新一轮科技革命和产业变革的背景下，金融科技蓬勃发展，人工智能、大数据、云计算、物联网等信息技术与金融业务深度融合，为金融发展提供源源不断的创新活力。坚持创新驱动发展，加快金融科技战略部署与安全应用，已成为深化金融供给侧结构性改革、增强金融服务实体经济能力、打好防范化解金融风险攻坚战的内在需要和重要选择。金融科技已经成为金融服务实体经济的新途径及金融转型升级的新引擎。
在加快发展金融科技的同时，金融数据的保护方面却秉持着审慎的态度。随着数字经济的到来，排除金融监管部门，金融数据的控制者并不限于传统持牌金融机构，如银行、证券公司、保险公司，大型科技公司和互联网企业已经进入金融领域，例如，阿里巴巴集团和腾讯公司均已获得众多金融牌照，蚂蚁金服已被纳入国家的金融控股公司试点范围，可以开展金融和互联网相结合的新型金融业务，如支付业务、网络银行、网络保险等。这些公司的用户数以亿计，收集的个人金融数据和重要数据数量庞大，其所控制的海量数据的合理共享和使用可以为社会带来巨大的正面效益，但是从另外的角度看，这些大型互联网平台企业如果不受到必要的监管或者为了自身领域进行数据垄断形成“数据孤岛”，将对公共利益和个人隐私带来巨大潜在风险。
从2020年开始，国家层面已经开始重视这一问题，中国人民银行2020年2月13日发布的《个人金融信息保护技术规范》对金融机构的金融数据保护义务提出了全面系统的制度要求，具有标志性意义。该规范要求金融业机构应建立个人金融信息保护制度体系，明确工作职责，规范工作流程。制度体系的管理范畴应涵盖本机构、外包服务机构与外部合作机构，并确保相关制度发布并传达给本机构员工及外部合作方。相关制度应至少包括个人金融信息保护管理规定、日常管理及操作流程、外包服务机构与外部合作机构管理、内外部检查及监督机制、应急处理流程和预案。
2020年9月央行就发布了《金融控股公司监督管理试行办法》，该规定要求所有非金融类企业在涉足金融行业的时候，需要按照金融控股集团来进行监管。按照这个“试行办法”的规定，要求非金融企业必须与金融行业监管一致，要求有10%的资本金，换而言之就是只能十倍杠杆。
2020年11月2日，为规范小额贷款公司网络小贷业务，防范网络小贷业务风险，银保监会会同人行公开《网络小额贷款业务管理暂行办法（征求意见稿）》并向社会公开征求意见。一天后，蚂蚁宣布A+H股上市暂缓，至此对蚂蚁集团的监管措施暂时达到高潮。暂缓的理由即金融监管环境发生变化，此前的上市财务测算和板块可能需要重新评估。上文所述的金融稳定发展委员会第二十六次会议上，监管部门释放了对蚂蚁金服等金融科技企业的监管趋严信号：“既要鼓励创新、弘扬企业家精神，也要加强监管，依法将金融活动全面纳入监管，有效防范风险。”
暂缓蚂蚁集团上市，是监管层依据注册制相关规定，要求拟上市企业在增加信披透明度方面做出实际行动。上交所要求蚂蚁集团进行风险说明，且要求对上市所处金融科技监管环境改变做出评估，完全合理合规，从保护股民，提示风险的出发点也应该暂缓。
此次蚂蚁集团上市被按下“暂停键”是监管部门从保护金融消费者权益利益、市场公平和金融稳定、规范平台经济发展的角度出发，但并非否定平台经济与金融科技的发展。金融科技高速发展，对提升效率、降低成本有目共睹。
2021年6月，全国人大常委会通过《数据安全法》，目前对《个人信息保护法》也在人大审议中，这些高位阶法律将起到基础性作用。
从对金融科技企业的监管来看，把握“包容”和“审慎”的平衡并不容易，例如金融科技借助平台经济的巨大数据优势扩张边界进入金融等领域，却没有适用与金融机构相同的严格监管而产生风险。这对人工智能产业发展的地方立法具有重要借鉴意义，在包容和鼓励的同时，不能忽视了底线原则，如不得违反法律法规和社会公德、AI产品不得侵犯数据主体的权利、不得动摇人类主体地位、技术稳定性和鲁棒性应当得到切实保障等。
四、上海人工智能地方立法包容审慎监管原则的主要思路
包容审慎原则不是一个静态的、单方的口号式概念，而是中国政府在促进新业态发展过程中提出的总体的政策指导方向。在该方向的指导下，包容审慎原则的具体内容随着新业态和中国对新业态的治理能力的发展而发展。
在上海市人工智能地方立法的过程中，在大方向上把握住包容审慎的原则，从细节上进行细化。包容强调政府的监管必须站在创新的立场上，监管的大方向一定是鼓励创新，让人工智能获得生存和发展的空间。审慎即体现在立法采取的是兜底性的底线监管，即为人工智能的发展划出一条监管不能触碰的底线，如算法伦理、数据安全和个人隐私保护等，在底线之上为上海人工智能的发展创造一个充满活力的环境。对人工智能产业发展实施规制不能僵化地套用传统行业的规制标准，包容其短暂期间内出现的不足，否则人工智能新产业会因严格的规制条件而无法生存。
（一）以政府监管为主导，构建多方协同治理机制
站在监管者的角度，相比为产业发展创造宽松环境的包容性监管，审慎监管在实践中较难掌握。主要原因是政府作为后台的监管者，往往不能完全和及时了解新业态的具体发展情况与亟需解决的问题。根据创新理论，最了解新业态发展相关情况的不是政府，而是企业本身。因此，在政府作为监管主体的前提下，构建多方协同治理机制是审慎监管中不可缺少的一环。
与分享经济类似，作为新业态的代表的人工智能产业更需要此种协同治理机制。强化上海市政府的自主权和创造性，做好与现有社会治理体系和管理制度的衔接，完善人工智能产业的事中事后监管。人工智能的研发、应用、运用企业要加强企业内部的合规治理与安全保障，同时将公众纳入治理的整个环节，以强化人工智能产业发展的道德与伦理约束，促进人工智能产业以文明方式发展。
（二）强调个人隐私保护与数据安全
近年来，我国对于个人隐私保护与数据安全的保护挂念正在转变，有关部门高度重视个人隐私保护，顶层设计不断加强。在《个人信息保护法》和《数据安全法》生效后，个人信息保护与数据安全将会是今后人工智能企业合规的一大重点方向。目前来看，不少人工智能企业，包括研发、应用和运营的各个环节，都存在着个人数据保护意识不足，对个人数据使用不规范的行为。
人工智能作为当下网络发展中极为先进与极为重要的环节，对个人信息和数据的保护应当走在合规的最前列。如果说人工智能的技术风险是表现为算法和操作层面的、量的变化，那么个人信息和数据的安全风险则意味着质的突破。人工智能作为一种技术支撑，今后的运用领域不管是医疗、教育、零售还是金融业，都会嵌入个人生产生活的方方面面。在这种情况下如果不对人工智能企业进行数据和个人信息合规的监管，则会导致信息滥用，给人工智能的用户造成难以承受的损害，且会动摇市场交易秩序和社会的新人基础。
因此，上海市作为人工智能产业发展的先锋城市，理应在法律规定的大框架下，对人工智能在提取、管理、使用和交易方面对个人信息和数据的利用进行严格规范，严守底线不可突破。
（三）建立算法伦理审查机制
人工智能今后的发展方向是深度学习甚至展示人类情感，在信息领域内的应用会极大地提高信息的利用效率和挖掘价值，深刻地影响各领域的业务形态。算法是人工智能的基础层，在算法层面对人工智能进行审慎监管是从根源上遏制今后人工智能可能出现的突破人类伦理的情况。
算法决定了人工智能的发展方向。算法在本质上是“以数学方式或者计算机代码表达意见”，包括其设计、目的、成功标准、数据使用等等，都是开发者和设计者的主观选择，设计者和开发者可能将自己所怀抱的偏见嵌入算法系统。从另一个角度来说，算法所对应的数据的有效性、准确性也会影响今后人工智能发展的有效性和准确性。
人工智能技术的发展是一个不断进化的过程，未来的人工智能会向着由专用智能向通用智能，由智能感知向智能认知方向发展。未来人工智能在实现与人类感官特征互通的同时，也将全面地理解自然与人类社会；数据知识库亦能将专业知识相互关联逐渐拓展成全识知识，通盘考虑形成普适性的结论。尽管这一实现过程仍然很漫长，需要算法技术层面的不断进步，但却不是一个割裂的发展过程，在技术研发的标准中形成相应的伦理标准是必不可少的，简单而言就是人工智能的设计与实现必须秉持人类利益优先的原则。
建立人工智能的算法伦理审查机制是确认人类利益优先的底层保险。同时这一机制也具有很强的现实意义，在人工智能探索的过程中，企业自身内部和监管部门通过既定的原则和标准对技术和产品进行独立的审查和评估，有助于确保人工智能在包容的框架下审慎前行。
（四）建立人工智能合理的责任承担机制
鉴于人工智能算法模型的“黑箱”问题，即算法的解释性与问责性的不清晰。在人工智能输入的数据和输出的答案之间，存在着我们无法解释的“隐层”，由于系统的自主学习、决策能力很强，连设计者可能都不知道算法如何决策。算法的不透明性可能导致不道德和歧视性，使用大数据来源也容易出现问题，当数据不完整、不具代表性、出现偏差时，会影响决策结果。
我们认为人工智能产品法律责任依法应由产品设计者、生产者、运营者、使用者根据过错责任原则分担，由于外部技术侵入造成的损害，由外部技术侵入者承担相关责任。
同时鼓励支持人工智能企业探索通过市场化方式进行法律责任的承担，鼓励保险机构积极开发适应人工智能产品因技术限制无法完全预测风险的分散风险、补偿损失需求的保险机制和保险产品。
附件：《上海人工智能产业地方立法中包容审慎监管原则主要条款建议》
上海人工智能产业地方立法中包容审慎监管原则主要条款建议
第一条行业自律
人工智能领域的行业组织应当反映人工智能企业诉求，加强行业自律管理，并在人工智能参与制定标准、技术创新、产业化运用等方面发挥作用。
人工智能企业应当加强企业自律，人工智能的设计与开发应符合基本伦理；提升人工智能算法决策的透明度，确保算法设定公平、合理、无歧视；建立安全测评流程和管理规范，确保人工智能技术安全、可靠、可控发展；加强隐私保护，加强个人对数据的控制，防止数据滥用。
第二条公共监督
人工智能企业对其产品应当依法做好信息披露工作，接受社会与公众监督。
第三条算法伦理审查
人工智能企业应当建立伦理审查机制，在开发、设计人工智能产品的项目立项、算法理论、编码设计等不同阶段中，开展伦理审查，尽最大可能确保算法设定公平、合理、无歧视。
地方科技伦理委员会可以就涉及生命伦理、基因伦理、国家安全、公共安全等重要伦理的领域建立审查制度。
第四条算法应用管理
人工智能企业对于人工智能的运用与管理，应当符合伦理道德，践行“算法善用”理念，持续定期开展伦理审查。政府相关部门可以对生命伦理、基因伦理、国家安全、公共安全等领域建立人工智能产品算法应用的管理机制。
第五条个人信息保护
人工智能企业在收集个人信息时，应当依法采取合法、正当的方式，不得窃取或者以其他非法方式获取个人信息。法律、行政法规对收集、使用个人信息的目的、范围有规定的，应当在法律、行政法规规定的目的和范围内收集、使用个人信息，不得超过必要的限度。
第六条数据安全
人工智能企业应当根据相关法律、行政法规、规章的规定，建立健全全流程数据安全管理制度，组织开展数据安全教育培训，采取相应的技术措施和其他必要措施，保障数据安全。重要数据的处理者应当设立数据安全负责人和管理机构，落实数据安全保护责任。
第七条数据流通
鼓励人工智能企业在依法保护个人信息的前提下，开展数据的互相流通，满足人工智能深度学习的数据需求。
鼓励公共数据资源依法向人工智能企业开放，满足人工智能深度学习的数据需求。
第八条知识产权保护
鼓励人工智能企业研发拥有自主知识产权的技术和产品，依法保护人工智能的专利权益，本市相关部门制定建立人工智能企业知识产权保护的专门程序性便利措施。
第九条责任承担
人工智能产品法律责任依法由产品设计者、生产者、运营者、使用者根据过错责任原则分担，由于外部技术侵入造成的损害，由外部技术侵入者承担相关责任。
本市鼓励支持人工智能企业探索通过市场化方式进行法律责任的承担，鼓励保险机构积极开发适应人工智能产品因技术限制无法完全预测风险的分散风险、补偿损失需求的保险机制和保险产品。
第十条救济途径
本市相关部门可以指导相关行业组织建立投诉机制，受理涉及人工智能的投诉。收到投诉的行业组织应当在规定的时间内予以调查并反馈处理结果。