本文是中国信息通信研究院人工智能研究所呼娜英在宁人北京分所举办的《人工智能产业发展与合规高峰论坛》上发言整理的内容，仅供参考。
前 言
在当今数字化浪潮汹涌的时代，人工智能（AI）作为科技进步的重要驱动力，正以前所未有的速度改变着人类社会。然而，随着AI技术的深入发展与广泛应用，一系列风险与挑战也随之涌现，对个人、社会乃至全人类的安全与福祉构成了严峻考验。本文旨在深入探讨人工智能安全治理的当前态势，并分析产业实践中的有效方案。
一、人工智能风险的多维度分析
（一）模型风险
AI模型的准确性、可靠性、公平性是其核心价值的体现，但同时也是风险的主要来源。近年来，国内外频繁曝出的AI模型被攻击事件，如对抗样本攻击、模型幻觉、数据中毒等，均揭示了AI系统在安全性上的脆弱性。特别是对抗样本攻击，通过向输入数据添加微小扰动，即可导致模型输出错误结果，这一漏洞严重威胁了AI系统的可靠性。此外，模型偏见问题也不容忽视，它可能导致算法歧视，加剧社会不公。
（二）系统风险
AI系统的设计与实现过程中，若未充分考虑安全性，将可能导致严重的系统漏洞。这些漏洞不仅可能被黑客利用进行恶意攻击，如通过注入攻击绕过活体检测，造成财产损失，还可能因系统失控引发安全事故，如自动驾驶车辆因算法错误导致交通事故。此外，AI系统的数据泄露风险也不容小觑，一旦敏感数据被非法获取，将对个人隐私和国家安全构成重大威胁。
（三）伦理与法律风险
随着AI技术的广泛应用，一系列伦理与法律问题也随之浮现。如AI在招聘、信贷等领域的应用可能加剧社会不平等；AI生成的虚假信息可能误导公众，破坏社会稳定；AI武器的研发与部署可能引发国际冲突，威胁人类生存。这些风险的存在，要求我们在推动AI技术发展的同时，必须加强对AI伦理与法律问题的研究与探讨，确保AI技术的健康发展。
此外，在可持续发展方面，AI模型训练所消耗的大量资源与产生的碳排放也成为亟待解决的问题。以GPT-3模型为例，其能耗相当于1287兆瓦时的电力，并产生了552吨二氧化碳，这对全球气候目标构成了挑战。
二、生成式AI的内生风险与辐射影响
生成式AI作为AI技术的重要分支，其内生风险尤为突出。由于生成式AI模型具有高度的自主性与创造性，其输出内容往往难以预测与控制，这可能导致模型幻觉、模型偏见等问题的出现。此外，生成式AI还可能成为诱导攻击、概率输出等新型攻击手段的目标，进一步加剧了AI系统的安全性风险。
生成式AI的辐射影响也不容忽视。随着生成式AI技术的广泛应用，其输出内容将渗透到社会的各个领域，包括教育、娱乐、新闻等。若输出内容存在误导性、虚假性或有害性，将对公众的认知、价值观乃至行为产生深远影响。因此，加强对生成式AI的监管与引导，确保其输出内容的真实性、客观性与有益性，是保障社会安全与稳定的必然要求。
三、全球人工智能安全治理态势
（一）政策法规的出台与完善
近年来，各国政府纷纷出台了一系列政策法规，以加强对AI技术的监管与引导。如欧盟的《人工智能法案》、美国的《人工智能权利法案蓝图》、拜登政府人工智能行政令以及中国针对算法推荐、深度合成、人脸识别、生成式人工智能开展精细化治理，，均从政策法规层面明确了AI技术的发展方向、应用场景与监管要求。这些政策法规的出台，为各地区提供了适应本土发展的治理方案。
（二）国际合作的深化与加强
面对AI技术的全球性挑战，国际合作成为推动AI安全治理的重要途径。如联合国大会通过的联大通过中国提出的加强人工智能能力建设国际合作决议；再如中国发起的《全球人工智能治理倡议》，倡导构建多边、民主、开放、包容的全球人工智能治理体系。这些国际合作的深化与加强，为共同应对AI技术的风险与挑战提供了有力支撑。
（三）产业实践的探索与创新
在产业实践层面，各国企业纷纷探索AI安全治理的新模式与新方法。如中国信通院提出的“可信AI方法论”与“人工智能风险管理体系”实践方案，从模型风险、数据安全、隐私保护等多个维度出发，构建了全面的AI安全治理体系；再如企业通过加强AI伦理审查、建立AI责任机制等措施，确保AI技术的合规应用与健康发展。这些产业实践的探索与创新，为AI安全治理提供了宝贵的经验与启示。
四、产业实践方案
（一）可信AI方法论
可信AI方法论是构建安全、可信、可持续AI生态体系的基础。它强调在AI技术的设计、开发、部署与应用过程中，必须充分考虑安全性、可靠性、公平性、透明度与可解释性等要素。具体而言，可信AI方法论包括以下几个方面：
- 可靠可控：确保AI系统的设计与实现过程中不存在安全漏洞与隐患，能够抵御各种攻击与威胁。提高AI模型的准确性与可靠性，确保其在各种应用场景下均能保持稳定的性能与输出。
- 透明可释：增强AI系统的透明度与可解释性，使公众能够了解AI技术的决策过程与输出结果，从而建立对AI技术的信任与理解。
- 多元包容：避免AI模型因数据偏见或算法歧视而引发的社会不公问题，确保AI技术的公平性与正义性。
- 隐私保护：加强AI系统的数据保护能力，确保用户数据的安全性与隐私性，避免数据泄露与滥用。
- 明确责任：在AI研发、设计、制造、运营和服务等环节明确各主体的权利义务，在事故发生时，能够及时确定责任主体。
（二）AI风险管理体系
“AI风险管理体系”旨在探索风险分级的切实可行策略，构建全面的风险管理方案，打通全链条AI风险管理链路。 - 风险管理方面，构建“风险识别-风险评估-风险应对”的风险管控措施。从技术、应用和管理等多维度进行风险识别，找准风险点；对风险进行分析和评价，确认风险的危害程度；根据特定风险类别实施对应的风险应对方案。
- 流程管控方面，打通“技术提供方、应用提供方、应用使用方”全链条风险管理链路，将风险治理理念及人工智能治理要求贯穿于人工智能规划设计、数据处理、模型建设、测试验证和部署上线等各类活动的全流程，满足不同技术领域、不同业务规模的产业实践需要。
（三）产业实践方案
在产业实践层面，各国企业纷纷探索AI安全治理的新模式与新方法。以下是一些典型的产业实践方案： - 建立AI伦理审查机制：在AI技术的设计、开发与应用过程中，建立专门的伦理审查机构与流程，对AI技术的合规性、安全性与伦理性进行全面评估与审查。
- 加强AI数据安全保护：采用先进的加密技术、数据脱敏技术与隐私保护技术，确保AI系统在处理敏感数据时不会泄露用户隐私与国家安全信息。
- 推动AI技术标准化与认证：制定AI技术的行业标准与认证体系，对AI系统的安全性、可靠性、公平性等进行标准化评估与认证，确保AI技术的合规应用与健康发展。
- 加强AI技术研发与创新：鼓励企业加大AI技术研发与创新投入，推动AI技术的持续进步与升级，提高AI系统的安全性与可靠性。
- 开展AI教育与培训：加强对公众、企业与政府人员的AI教育与培训，提高其对AI技术的认知与理解能力，增强其对AI风险的防范意识与应对能力。
五、未来展望与建议
展望未来，人工智能安全治理仍面临诸多挑战与机遇。各国政府、国际组织及产业界应继续加强合作与交流，共同推动全球AI安全治理体系的完善与发展。同时，应注重技术创新与伦理规范的并重发展，确保AI技术在为人类带来便利与进步的同时，不损害个人、社会乃至全人类的安全与福祉。
在具体实践层面，建议加强AI模型的安全性评估与测试工作，提升模型的可靠性与可信度。同时，应推动AI技术的透明度与可解释性发展，增强公众对AI技术的信任与理解。此外，还应加强法律法规与伦理规范的建设与完善工作，为AI技术的健康发展提供坚实的制度保障。