写在前面的话
又啃大部头咯！36页指南+150页附录！
日本《AI业务指南》是目前看到的最翔实、最全面的指南，非常具有结构性，完全长在我的研究审美上的一份指南。很好地覆盖了技术和业务的理解，再从why-what-how逻辑链路解决了为什么要进行AI治理、AI治理的是什么以及如何治理，最后辅以附录的大量案例，广度和深度都全面覆盖了！
我将分若干期，慢慢地给大家翔实展开～
第一期：理解指南的整体框架，一篇读懂AI系统全生命周期、AI价值链，这是AI治理的起点。
摘要
本文是一份由日本总务省和经济产业省联合发布的《AI业务指南》（AI Guidelines for Business），旨在为使用人工智能（AI）的企业提供统一的指导原则，以促进AI的安全和可靠使用。文档首先强调了AI技术的快速发展和社会对AI的期望，包括通过AI解决社会挑战和推动工业创新。同时，指出了AI带来的风险，特别是生成性AI可能导致的新风险，如知识产权侵犯和虚假信息的传播。《指南》提出了基于风险的方法，强调了在AI的整个生命周期中识别、评估和减轻风险的重要性，并鼓励各利益相关方合作，共同推动创新和减少风险。
文档详细阐述了与AI开发者、提供者和商业用户相关的问题，并提出了具体的指导原则和最佳实践。这些原则包括尊重人权、民主、多样性和公平正义社会，以及遵守相关法律。《指南》还强调了透明度、可解释性和问责制的重要性，并提出了一个动态的AI治理框架，以适应不断变化的技术和国际讨论。最后，文档提出了对先进AI系统的额外指导原则，并强调了建立AI治理以管理AI带来的风险和最大化其积极影响的重要性。
前言
指南的目的和背景
《AI业务指南》的制定背景和目的深刻地植根于国际合作和对话中，特别是在G7、G20和OECD等国际论坛上，日本发挥了领导作用，并做出了显著贡献。日本在2016年4月在广岛县高松市举行的G7信息通信技术部长会议上首次提出了AI研发原则，标志着日本在全球AI治理讨论中的积极参与和领导。
实际实施原则的挑战
在AI原则的实际实施中，以下问题被指出：
社会挑战的解决方案
：AI被视为解决社会挑战的方案，例如由于出生率下降和人口老龄化导致的劳动力减少。
法律制定与技术发展之间的时间滞后
：法律的制定和执行与AI技术的发展速度和复杂性之间存在时间滞后。
规则性法规可能抑制创新
：规定详细义务的规则性法规可能会抑制创新。
软法和目标导向的方法
软法的制定
：鉴于上述挑战，决定基于目标导向的概念制定指南，通过软法而非具有法律约束力的硬法来鼓励各方自愿减少AI的社会风险并促进创新和AI的使用。
指南的整合与发布
：在总务省的倡议下，发布了“国际讨论用AI研发指南草案”和“AI利用指南：AI利用的实际参考”，在经济产业省的倡议下发布了“实施AI原则的治理指南ver.1.1”。这些指南后来被整合和修改，形成了新的指南，以帮助商业运营者合作进行AI的社会实施和治理。
基于风险的方法
AI的使用可能因领域和使用方式不同而给社会带来巨大风险，社会对这种风险的分歧可能会抑制AI的使用本身。另一方面，采取过多措施可能会抑制AI的使用本身或减少使用AI的好处。因此，重要的是采取基于风险的方法，预先估计在适用领域中使用可能带来的风险水平（影响和危害发生的概率），以确保采取的措施程度与风险水平相适应。《指南》提供了基于风险方法的公司应采取的措施指南。值得注意的是，基于风险的方法已被拥有先进AI的国家普遍采用。
指南适用主体
《AI业务指南》旨在为所有从事、提供或使用AI的商业行为者提供指导，包括政府部门和市政等公共机构。
1. AI开发者（AI Developers）
AI开发者是指那些开发AI系统的业务运营者，包括进行AI研究的业务运营者。他们负责开发AI模型和算法，并通过数据收集（包括购买）、数据预处理、数据训练等活动，促进包括AI模型、基础系统以及输入/输出功能在内的AI系统的构建。AI开发者在AI生态系统中扮演着创新和技术进步的关键角色，负责创造和优化AI技术的核心组成部分。
2. AI提供者（AI Providers）
AI提供者是指将AI系统整合到应用、产品或现有系统中，并提供给AI商业用户，甚至非商业用户作为服务的业务运营者。他们负责验证AI系统、将AI系统与其他系统集成、提供AI系统和服务、为AI商业用户提供AI系统的正常运行操作支持，或执行AI服务操作本身。AI提供者可能需要与各种利益相关方沟通，以确保AI服务的顺利提供和运营。
3. AI商业用户（AI Business Users）
AI商业用户是指在其业务中使用AI系统或AI服务的业务运营者。他们的角色是按照AI提供者的意图适当使用AI系统或AI服务，与AI提供者共享环境变化等信息，维持正常运营，并在必要时操作提供的AI系统。此外，如果非商业用户可能以某种方式受到AI使用的影响，AI商业用户也有责任努力防止AI对这些非商业用户造成意外不利影响，并最大化AI的好处。
4. 非商业用户（Non-Business Users）
《指南》不适用于那些将AI用于非商业活动的人，以及那些从AI系统和服务中获益但不直接将AI用于商业活动的人，在某些情况下，这些人可能会遭受损害。然而，《指南》中包含了那些为非商业用户服务的商业行为者在开发、提供或使用AI时需要考虑的必要点。
【附录I】AI公司模式的深入理解
本文中阐述了商业中使用的人工智能（AI）的三种价值链模式。这些模式展示了AI如何在不同的商业环境中被应用，以及AI商业用户和非商业用户如何从AI中获益。
模式1：AI商业用户使用AI为商业用户和非商业用户提供利益
在这个模式中，AI商业用户实施AI系统或服务，这些系统或服务不仅为商业用户带来好处，也为非商业用户带来利益。关键点如下：
非商业用户的利益
：AI系统或服务为非商业用户提供了直接的好处，但这些用户并不直接接收AI系统或服务。这意味着非商业用户通过商业用户的AI应用间接获益。
例子
：无人便利店。在这种情况下，便利店的运营商（商业用户）使用AI技术来提高运营效率，比如通过自动化的结账流程。顾客（非商业用户）从中获得便利，因为他们可以更快地完成购物，而不需要排队等待人工结账。
模式2：AI商业用户使用AI并获得利益
在这个模式中，AI商业用户直接使用AI系统或服务，并从中获得利益，比如提高效率、降低成本或增加收入。
例子
：输电线路巡检AI。电力公司（商业用户）使用AI来检测输电线路的异常，这样可以减少人工巡检的需求，降低成本并提高安全性。
模式3：非商业用户使用AI提供商提供的AI系统或服务并获得利益
在这个模式中，非商业用户直接使用AI提供商提供的系统或服务，并从中获得好处。
例子
：智能家居设备优化AI。消费者（非商业用户）使用智能家居设备，如智能恒温器或照明系统，来提高家庭的能源效率和舒适度。
5. 数据提供者（Data Providers）
数据对于AI的学习是不可或缺的。提供此类数据的特定公司和个人（以下简称为“数据提供者”）同样不是本指南的目标对象。本指南假定那些开发、提供或使用AI的人作为数据持有者，对这些数据负责。
【附录I】数据提供者的深入理解
在AI的开发、提供和使用阶段，数据被用来训练AI模型和使用AI。在某些情况下，构建或使用数据构建的AI模型时，AI开发者、提供商或业务用户可能会使用他们自己的数据，而不使用外部数据。在其他情况下，他们可能会使用特定公司或个人提供的数据，或者从特定群体、传感器、系统等来源获取的数据。虽然不可能在本指南中描述处理此类数据的所有流程模式，但文档描述了与AI开发者、提供商和用户相关，他们应该提供或接收数据的流程。
在提供或接收特定公司或个人的数据时，重要的是参考附录6和其中提到的“合同指南”，以便在使用数据之前，让提供数据的一方（数据提供者）和接收数据的一方（可能是AI开发者、提供商或业务用户）之间达成协议和合同。
指南结构
《AI业务指南》的结构旨在引导AI业务行为者基于理想的社会愿景（基本理念 - why）、明确应做出的努力（指导原则 - what），以及具体实施的方法（实施 - how），来安全和可靠地使用AI。
1. 逻辑框架：Why-What-How
Why（基本理念）
：每个AI业务行为者需基于对理想社会的构想和利益相关者的期望来明确其基本理念。这些理念是行动的出发点，解释了为什么需要遵循特定的指导原则。
What（指导原则）
：基于基本理念，每个角色（AI开发者、提供者、商业用户）需明确其在AI方面的努力方向和目标，即指导原则。这些原则是具体的行动指南，告诉行为者需要实现什么目标。
How（实施）
：在明确了目标之后，研究、确定并实施达到这些指导原则的具体方法是至关重要的。这涉及到如何根据不同情况（目的、技术、数据、使用环境等）安全和可靠地使用AI系统和服务。
为了增加可读性，《指南》的主要部分覆盖了基本理念和指导原则，附录覆盖实施细则。
2. 结构
第一部分（Part 1）
：提供术语定义，帮助理解《指南》。
第二部分（Part 2）
：描述通过AI使用所追求的社会目标、基本理念和原则，以及AI业务行动者之间的共同指导原则。同时讨论了实施共同指导原则所需的治理结构。
第三至第五部分（Parts 3 to 5）
：详细描述AI开发者、提供者和商业用户在业务中使用AI时应考虑的预防措施。
【附录I】补充附录的论述使用
参考资料
附录6详细描述了在签订使用数据的合同时需参考的“合同指南”，旨在为AI业务运营商提供一个参考框架，帮助他们在合同中明确各方的权利和义务，以促进交易的顺利进行并预防潜在的纠纷。
为了稳定地规划和采取行动以在减少AI风险的同时获得利益，附录7提供了一个检查清单的格式。该清单包含十个指导原则和重要事项，以检查是否实施了主文档第二部分C节中描述的原则和事项。每个业务运营商都应根据自己的业务和情况定制检查清单，并有效使用它。附录还提供了AI开发者、提供商和业务用户的示例，以供参考。
附录包含了一个格式，供涉及高级AI系统的业务运营商检查重要事项的实施情况，以及检查附录2中描述的AI治理构建情况。该结构有助于从行动到AI治理的实施检查。
附录的使用逻辑
本指南全文以及附录都是基于风险的方法论编制的，鼓励业务运营商识别和处理重要事项，有效采取措施，并构建AI治理。实际的AI服务假设会根据目的、使用的技术、数据、使用环境等因素在不同情况下使用。因此，预期AI开发者、提供商和业务用户将相互合作，考虑技术进步、外部环境变化等因素，制定最佳方法。附录仅展示了实现主文档中提出的行动路线的示例手段，并未提供所有指导原则的全面实施和描述。业务运营风格假设会随着业务运营商的不同而变化，因此并非要求按照附录中的所有描述进行实施。
3. AI业务行为主体的阅读建议
AI业务行为主体的阅读建议
阅读建议
：除了必须阅读的第一部分（定义）和第二部分（社会目标和指导原则）外，还应阅读与他们角色相对应的第三至第五部分，以及附录。这些部分提供了具体的预防措施和实施指导，帮助他们理解AI使用过程中的风险和政策处理的基本概念。附录中描述的示例对于尚未确定具体努力方向的业务经营者具有参考价值，因此，仔细阅读附录中的相关内容至关重要。
管理层的责任
：业务高管，包括管理层，为了履行职责，需要根据《指南》中描述的基本理念（why）和指导原则（what），考虑并采取AI使用风险的对策，以促进AI的安全和可靠使用。
国际化考量
国际趋势的关注
：鉴于AI环境的快速全球发展，有意使用AI的业务经营者必须关注国际趋势。这包括了解和遵守国际指导原则和政策框架，以及适应不断变化的国际规则和标准。日本通过广岛AI进程在建立AI及其指导原则的国际共识方面发挥了主导作用，并在2023年12月在制定广岛AI进程综合政策框架中发挥了关键作用。《指南》旨在促进该进程，并已考虑到包括该进程在内的国际讨论。
跨国业务的合规性
：对于进行跨境活动的业务经营者，必须遵守当地法律并满足利益相关者的期望。这意味着他们需要了解和遵守不同国家和地区的AI政策和规则。
高级AI系统的治理
：特别是对于高级AI系统，一些国家和地区采取了一些措施以确保有效的AI治理，例如在AI系统上市前建立AI验证的安全框架。因此，业务经营者需要关注这些国际和地区特定的政策和措施。
第一部分 定义
相关定义
AI
截至目前，"AI"（人工智能）尚无统一定义。根据"人工"和"智能"的含义，它指的是以类似人类思维的方式运作的计算机程序，以及能够在计算机上做出智能决策的系统。过去，一些基于专家知识的系统，称为"专家系统"，在没有机器学习（ML）的情况下，根据输入的大量知识数据进行推理，被认为是AI的一种形式。然而，在2000年代及以后，随着深度学习的出现，它们被用于图像识别、自然语言处理（包括翻译）和语音识别等，并且现在被称为AI的系统能够预测、提议或在特定领域做出决策。此外，自2021年以来，基础模型已经出现，推动了通用AI的发展，这种AI与专门针对特定领域的AI不同。这不仅包括预测、推荐和决策，还包括“生成性AI”的图像、句子等的出现，引起了整个社会的广泛关注。如上所述，AI有许多不同的类型，即使是专家也很难预测AI技术的未来。
AI系统
AI系统是一个在运行过程中以不同自主级别工作的系统（如机器、机器人和云系统），包含具有学习功能的软件元素。（参考：在JIS X 22989:2023基于ISO/IEC 22989:2022中定义如下。）一个工程系统，根据人类定义的一组目标，产生内容、预测、建议和决策等输出。注释1：对于一个工程系统，可以使用与人工智能相关的各种技术和方法开发代表数据、知识和过程的模型，以执行任务。注释2：AI系统被设计为在不同的自主级别上工作。（参考：在OECD AI原则概览中定义如下。）AI系统是一个基于机器的系统，它为了明确或隐含的目标进行推断。它产生包括预测、内容、建议、决策等在内的输出，以对从接收到的数据中影响物理或虚拟环境。不同的AI系统在部署后的自主性和适应性水平上有所不同。
高级AI系统
包括最先进的基础模型和生成性AI系统在内的最高级AI系统。（引用自广岛AI进程中的定义）
AI模型（ML模型）
集成到AI系统中并通过使用训练数据的机器学习获得的模型。它根据输入数据产生预测结果。（参考：在JIS X 22989:2023基于ISO/IEC 22989:2022中定义如下。）一个基于输入数据或信息产生推断或预测的数学结构。示例：当使用线性回归训练单变量线性函数y = θ0 + θ1x时，结果模型是y = 3 + 7x或类似。
注释1：机器学习模型是训练基于机器学习算法的结果。
AI服务
使用AI系统的服务。它指的是通常向AI业务用户提供价值。AI服务不仅通过构成AI系统的技术提供和运营，还包括非技术方法，包括人类监控和与利益相关者的适当沟通。
生成性AI
代表从能够生成文本、图像、程序等的AI模型发展而来的AI的一般术语。
AI治理
设计和运营技术、组织和社会系统，以管理AI使用所带来风险的目的，这些风险水平是利益相关方可接受的，并最大化其积极影响（益处）。
深入理解AI系统（附录I）
AI训练和使用的流程
总体来说，AI模型是基于大量数据进行训练而成，使用时AI模型被用于进行推理和预测并生成输出。这是构建和部署AI系统的基础。
以下是该流程的详细总结：
数据收集：
收集原始数据，这些数据可以包括传感器数据、文本、图像、视频、音频等。
数据可能来自不同的来源，如网站信息、科学论文、书籍内容等。
数据预处理：
对收集到的原始数据进行清洗和预处理，以准备用于训练AI模型。
这可能包括数据的格式化、归一化、去除噪声等步骤。
训练（开发）：
使用预处理后的数据来训练AI模型。
通过学习算法等技术手段，AI模型从数据中学习并形成模式。
评估数据：
使用验证数据集来评估训练好的模型的有效性。
根据评估结果，决定模型是否足够好，是否可以进行部署，或者需要进一步的训练。
部署（评估模型）：
将经过验证的模型部署到实际环境中，开始执行任务。
模型开始接收输入数据，并输出推断或预测结果。
结果的使用：
AI模型的输出可以用于各种应用，如控制动作、预测、图像、音频、文本等。
输出结果可以被进一步用于决策支持、自动化控制或其他业务流程。
数据的再利用：
作为输出的数据有时被用作另一AI模型的输入，进行再训练。
一个AI模型的输出有时用作训练另一个AI模型的数据，或者基于原始AI模型创建新的AI模型。
AI系统概览
被认为具有集成软件和AI功能的系统是AI系统。AI系统输入传感器数据、文本等，并基于这些数据通过执行器或信息终端输出。请注意，附录中使用“执行器”这个术语作为输出图像、音频、文本或预测结果的设备的通用名称，以及作为电机和引擎等驱动设备的通用名称，还包括通过这些驱动设备的动作执行控制过程的物理设备。
在某些情况下，AI系统会通过包括微调、迁移学习、强化学习以及上下文学习（提示工程、记忆、检索增强生成（RAG）和工具增强）等方法，在AI开发、提供和使用阶段进行改进和调整。
AI系统举例
AI的收益和风险（附录I）
AI的收益
AI业务参与者可以使用AI来创造价值。以下是AI使用的一些预期结果：
降低运营成本
：通过自动化和优化流程，AI有助于减少运营成本。
创造新产品和服务
：AI加速现有业务的创新，创造新产品和服务。
组织革新
：AI推动组织结构和流程的革新。
此外，可以想象AI将被应用于各个领域（如农业、教育、医疗、制造业、交通等），并且使用各种部署模型（如云服务、现场系统、网络物理系统等）。
生成性AI的潜力除了上述情况之外，最近出现了生成性AI。有可能生成性AI会促使在DX方面落后的日本公司恢复势头。
日本公司的优势包括积累的高质量运营技术（OT）数据和周到的服务与工作。如果尝试使用传统的AI来实施它们，需要大量的时间和专业知识，例如，跨组织和跨行业使用OT数据、集成用于那些服务和工作的AI的数据接口、准备大量数据、创建假设许多模式的场景和案例，以及基于它们进行开发。使用生成性AI进行这些工作可以自动创建场景和案例（自我监督学习），促进AI在更多公司中的使用。有一个实际案例，生成性AI为零售公司的呼叫中心和销售支持创建回复和材料，以提高生产力。此外，系统还可以通过参考内部数据，为客户输入的询问和请求创建多种模式的回复和材料。
AI风险
请注意，下面提到的风险只是典型的例子，并不包括AI的所有风险，有些是基于假设的。因此，期望将它们仅视为示例。因此，即使存在下面提到风险，也不应抑制AI的开发、提供和使用。相反，通过认识风险并考虑风险的容忍度和利益与风险之间的平衡，期望通过积极开发、提供和使用AI来加强竞争力、创造价值和创新。
请注意，除了对业务运营商的不利影响外，还研究了对利益相关者或整个社会的风险。
1.输出包含偏见或歧视的结果（以人为本，公平性）
一家IT公司自行开发了一个AI人力资源招聘系统，但发现该系统存在一个机器学习缺陷，歧视女性。用于训练AI系统过去的10年的应聘者简历中，几乎所有申请者都是男性，因此AI认为招聘男性更为可取。该公司试图修正程序，以便它不歧视女性，但由于可能产生其他歧视，决定停止使用该系统。
2.过滤泡泡和回音室现象（以人为本）
由SNS等提供的推荐引起的社会分裂被视为问题。一些人担心，AI业务用户和非业务用户可能会因为一些现象，如过滤泡泡（一个人只被自己喜欢的信息包围）和回音室（只从周围返回与个人相同的意见），而形成极端思考的倾向。
3.多样性的丧失（以人为本）
如果整个社会以相同的方式使用相同的模型，通过大型语言模型（LLM），得出的意见和回应可能会趋于一致，失去多样性。
4.不恰当使用个人数据（隐私保护，以人为本）
个人数据的不透明使用被视为问题。例如，一个服务使用AI进行人力资源招聘。尽管AI提供了关于申请者可能撤回其申请和拒绝非正式工作邀请的可能性的信息，但没有向申请者（如学生）提供清晰的解释。此外，使用条款没有包括在一段时间内向第三方提供信息的规定，违反了个人信息保护法和就业安全法。结果，该服务被废除。
5.侵犯生命、身体和财产（安全性，公平性）
如果AI做出不恰当的判断，例如，自动驾驶汽车可能会引起事故，严重损害生命和财产。在这种情况下，一些人担心AI故障可能导致事故的巨大风险。
6.数据投毒攻击（确保安全）
在AI训练期间，存在将无效数据侵入训练数据的风险，导致性能下降和错误分类。在服务运营期间，存在针对应用程序本身的网络攻击风险，以及通过AI推理结果或提示进行攻击的风险。
7.黑箱AI，以及对判断的解释要求（透明度，责任）
黑箱AI的判断也引起了问题。例如，有关信用卡的报告指出，女性的信用额度低于同年收入的男性。在这个问题上，金融当局发起了调查，并要求信用卡公司证明算法的有效性。
8.能源消耗和环境负担（以人为本）
随着AI的广泛使用，对计算资源的需求也在增加。因此，数据中心的增强引起了人们对能源消耗增加的担忧。
此外，还有以下与生成性AI实现相关的风险：
1.泄露机密信息（确保安全，教育/素养）
在使用AI系统时，存在将个人数据和机密信息作为输入提示并可能通过AI系统的输出泄露的风险。例如，员工可能在业务操作中使用AI服务时不慎输入了源代码等机密信息。如果公司没有建立相应的规则和制度，员工可能会在公司管理范围之外，以危险的方式使用原本为非商业用户设计的生成性AI。因此，建议公司在使用处理机密信息的服务或应用程序时，选择那些集成了企业级安全功能的对话型生成性AI。
2.滥用（安全性，教育/素养）
AI技术被用于诈骗的问题日益严重，特别是使用AI合成的语音进行诈骗的情况正在迅速增加。例如，一位女性接到了模仿她女儿声音的电话，要求支付百万美元的赎金，但后来发现这个电话是使用AI合成的，是一场绑架诈骗。这类诈骗利用了AI技术模仿真实声音的能力，欺骗受害者。
2.幻觉（安全性，教育/素养）
生成性AI可能产生包含虚假信息或误导性信息的回应，这些信息被当作事实呈现，可能导致法律诉讼。例如，一位电视节目的演员发现生成性AI散布了他因贪污被起诉的虚假信息，甚至伪造了假的投诉。该演员起诉了开发和提供生成性AI的公司，指控诽谤。
3.盲目信任虚假信息和误导性信息（以人为本，教育/素养）
盲目信任由生成性AI产生的虚假信息是一种风险。例如，一位美国律师在准备民事诉讼材料时，引用了实际上不存在的先例，因为这些信息是由生成性AI提供的，导致了问题。此外，深度伪造技术的滥用在多个国家接连发生，包括使用假图像和视频进行信息操纵和舆论操纵。
4.与版权的关系（安全性）
在使用生成性AI时，一些利益相关者开始讨论如何处理知识产权问题。在国外，多位艺术家提起集体诉讼，认为AI有时生成的图像与用于训练AI的艺术家作品相似，侵犯了版权。
5.与资格等的关系（安全性）
生成性AI的使用可能会侵犯法定许可证和资格，引发法律问题。例如，当生成性AI回答法律或医疗问题时，可能会侵犯法定许可证和资格。如果一个行业试图避免此类风险，可能会延迟整个行业引入生成性AI，限制新服务和效率提升。
6.偏见的再生产（公平性）
因为生成性AI基于现有信息创建答案，如果这些答案继续被盲目信任，可能会放大现有信息中的偏见，继续和增强包含歧视的不公平输出。例如，当基于包含性别歧视的数据创建答案，并且越来越多的人相信这些答案时，固定性别歧视的风险增加了。
如上所述，通过技术进步，AI的使用带来的好处一直在增加，而传统AI所带来的风险也由于生成性AI的出现而进一步增加。生成性AI也实现了一些新的风险。此外，由于许多生成性AI服务易于使用，它们可能会以一种引发意外风险的方式被使用。
生成性AI正在迅速发展，而处理风险的技术和理念也在日新月异地进步。然而，生成性AI的内在风险在很大程度上取决于其技术特性。为了防止持续的抽象讨论，制定有效的AI治理作为更好使用的想法，在规划措施时非常重要。 生成性AI的风险会随着外部环境和技术趋势的变化而变化。由于缺乏可复现性，很难识别错误的原因。因此，需要进行社会和技术标准化、测试的有效性、反馈循环的建立，以及法律风险和人权风险的重新定义。同时，保留适合场景的适当证据也很重要。
请注意，过分担心风险本身也是一种风险，因为这样做会让AI业务运营商停止不做任何事情，选择在消除每个风险之前停止使用AI，或者使用完美的保护措施。