2024年5月21日，欧盟理事会批准了一项开创性的法律，旨在协调关于AI的规则，即所谓的AI法案。
AI法案的采纳对欧盟来说是一个重要的里程碑。这项具有标志性的法律是世界首创，它应对了一个全球性的技术挑战，同时也为我们的社会和经济创造了机遇。通过AI法案，欧洲强调了在处理新技术时信任、透明度和问责制的重要性，同时确保这项迅速变化的技术能够繁荣发展，并促进欧洲的创新。
马修·米歇尔，比利时数字化、行政简化、隐私保护和建筑法规国务秘书
01、背景与意义
这项旗舰立法遵循了一种“基于风险”的方法，这意味着对社会造成伤害的风险越高，规则就越严格，是世界上第一个此类法律，可以为全球AI监管设定标准。
AI法案旨在促进欧盟单一市场内安全和值得信赖的AI系统的发展和应用，无论是私人还是公共行为者。同时，旨在确保尊重欧盟公民的基本权利，并刺激欧洲在AI方面的投资和创新。
AI法案仅适用于欧盟法律范围内的领域，并为专门用于军事和国防以及科研目的的系统提供豁免。
02、主要内容
（一）高风险和被禁止的AI分类实践
AI法案根据风险对不同类型的AI进行分类。风险较低的AI系统只需遵守很轻的透明度义务，而高风险的AI系统则需要获得授权，并且必须满足一系列要求和义务才能进入欧盟市场。比如，认知行为操纵和社会评分等人AI系统将被禁止进入欧盟，因为这些系统的风险被认为是不可接受的。该法律还禁止使用基于画像的预测性警务，以及使用生物特征数据按种族、宗教或性取向等特定类别对人进行分类的系统。
（二）通用目的AI
AI法案还涉及通用目的AI模型的使用。
对于不构成系统性风险的通用目的AI模型，将需遵守一些有限的要求，例如透明度方面的要求，但对于具有系统性风险的模型，则必须遵守更严格的规定。
（三）新的治理架构
为了确保适当的执行，设立了多个管理机构：
- 委员会内部的一个AI办公室，负责在整个欧盟范围内执行共同规则。
- 一个由独立专家组成的科学小组，支持执行活动。
- 一个由成员国代表组成的AI委员会，负责为委员会和成员国提供一致且有效地实施AI法案的建议和协助。
- 一个利益相关者的咨询论坛，为AI委员会和委员会提供技术专长。
（四）处罚
违反AI法案的罚款将设定为违规公司上一财年全球年营业额的百分比（7%）或预定金额（3500万欧元），以较高者为准。
中小企业和初创公司则需承担相应比例的行政罚款。
（五）透明度及基本权利保障
在一些提供公共服务的实体部署高风险AI系统之前，需要评估其对基本权利的影响。
法规还规定了高风险AI系统开发和使用的透明度。高风险AI系统以及某些使用高风险AI系统的公共实体需要在欧盟高风险人AI系统数据库中注册，而情感识别系统的用户必须在自然人暴露于此类系统时告知他们。
（六）鼓励创新措施
AI法案提供了一个有利于创新的法律框架，并旨在促进基于证据的监管学习。
AI法案预见到，AI监管沙箱，为开发、测试和验证创新的AI系统提供受控环境，也应该允许在现实世界条件下测试创新的AI系统。
03、实施与影响
（一）实施时间表
法案将在官方期刊上发布后二十天生效，并在生效后24个月内全面适用，除了禁止的应用（生效后6个月内生效）；实践准则（生效后9个月）；通用AI要求含治理（生效后12个月）；以及高风险系统的义务（生效后36个月）。
（二）对企业的影响
企业需根据新法案的要求，对其AI产品和服务进行全面的合规评估和调整，以满足新的法律标准。
（三）国际影响力
作为全球首部全面的AI法案，欧盟的这一举措将对其他国家和地区的AI监管产生深远影响，有望推动全球范围内的AI法律和伦理标准的提升。
04、未来展望
AI法案的通过仅仅是欧盟AI监管的第一步。未来，随着技术的不断发展和应用场景的扩展，法案也将不断更新和完善。
欧盟希望通过这一立法框架，不仅保护公民权益，促进公平竞争，还能够激发创新，为全球AI技术的发展提供一个安全、透明和可靠的环境。
先卷带动后卷，卷卷红尘。AI向善，加油！
相关链接：
1.官方新闻通稿：
https://www.consilium.europa.eu/en/press/press-releases/2024/05/21/artificial-intelligence-ai-act-council-gives-final-green-light-to-the-first-worldwide-rules-on-ai/
2.官方英文文本：
https://data.consilium.europa.eu/doc/document/PE-24-2024-INIT/en/pdf
3.朱悦老师的中文翻译：
https://aisg.tongji.edu.cn/info/1005/1222.htm