前言
在法律行业中，AI的使用引发了一系列的讨论和关注。AI技术不仅能够提高工作效率，而且还能在复杂的法律环境中提供辅助决策。然而，AI的使用也带来了一些挑战和风险，例如数据保护、隐私泄露以及偏见和歧视问题。因此，探讨在使用AI系统之前应该提出哪些关键问题，对于确保AI使用的合法性、合理性和效率至关重要。
本期是境外“生成式人工智能使用指引”系列文章的第四篇，我们将介绍法国国家信息自由委员会(CNIL)于2022年8月24日发布的《在使用人工智能系统前应考虑的问题》。该文件探讨了在使用AI系统之前应考虑的重要问题。这些问题涵盖了AI系统的目标设定、数据保护、风险评估、责任分配和监管要求。这些探讨对于指导相关专业人士在使用AI时进行合理的风险评估和决策具有重要的参考价值。
注：法国国家信息自由委员会（CNIL）是法国的一个独立行政机构，负责数据保护和隐私权的监管。该机构的主要任务是确保信息技术的使用不损害公民的人权、隐私和个人自由。CNIL通过制定指南和建议，监督数据处理活动，确保个人数据的合法和安全使用。
在使用人工智能系统前应考虑的问题
对AI的按比例整合，确立清晰的目标
目标与比例原则
与任何对个人数据的收集和使用一样，在使用AI技术收集和处理个人数据时，必须充分考虑到数据保护。
在建立AI系统时，重要的是要考虑其目标（实现目的）和所选择技术的相称性（是否符合比例原则）：为实现该目标，这些技术是否严格必要？
以下问题可帮助数据控制者在设计阶段前评估与拟议系统相关的风险及其相称性。
AI系统是否处理个人数据？
AI系统的目标（实现目的）是否已明确界定？
AI系统的学习和产出阶段是否分开？
若是，是否有对产出阶段的二次评估计划？
是否已识别出与AI系统交互或受其自动决策影响的个体？
这些个体的特征（如年龄、性别、身体特征等）是什么？
受影响的个体有多少？
数据处理是否直接或间接针对弱势个体（如儿童、患者、雇员）？
数据处理是否对直接或间接对这些个体的健康、社会地位或安全产生法律、财务或物理后果？
AI系统是否取代其他类型的系统来完成它所承担的任务？
为何该系统需要被取代？
AI系统与其他可用解决方案相比，在技术效率、成本、隐私保护等方面是否具有显著优势？
这种显著优势是否超过与使用该AI系统相关的潜在额外风险？
从您对上述问题的回答来看，使用人工智能系统来达到所确定的目标是否是相称和必要的？
人工智能系统的提供者、用户和个人
如果数据控制者不是人工智能系统提供者，则必须正式确定双方的责任比例。
为了数据被处理以及AI系统将对其产生影响的个人，这些责任必须清楚告知参与处理执行的个体。
如果涉及收集和/或使用，是否已确定数据处理者？
是否确定了负责AI系统开发、部署和监控的法人？
负责系统开发的自然人是否受过适当的培训？
他们是否了解AI的法律、技术、伦理和道德问题？
是否有管理AI系统设计和部署的内部章程或政策？
负责维护AI系统、纠正问题和参与系统运作的人员是否明确确定并为每个人所知？
是否有任何后续措施确保这项服务始终可用，例如在节假日期间？
在法律行业中，AI的使用引发了一系列的讨论和关注。AI技术不仅能够提高工作效率，而且还能在复杂的法律环境中提供辅助决策。然而，AI的使用也带来了一些挑战和风险，例如数据保护、隐私泄露以及偏见和歧视问题。因此，探讨在使用AI系统之前应该提出哪些关键问题，对于确保AI使用的合法性、合理性和效率至关重要。
本期是境外“生成式人工智能使用指引”系列文章的第四篇，我们将介绍法国国家信息自由委员会(CNIL)于2022年8月24日发布的《在使用人工智能系统前应考虑的问题》。该文件探讨了在使用AI系统之前应考虑的重要问题。这些问题涵盖了AI系统的目标设定、数据保护、风险评估、责任分配和监管要求。这些探讨对于指导相关专业人士在使用AI时进行合理的风险评估和决策具有重要的参考价值。
注：法国国家信息自由委员会（CNIL）是法国的一个独立行政机构，负责数据保护和隐私权的监管。该机构的主要任务是确保信息技术的使用不损害公民的人权、隐私和个人自由。CNIL通过制定指南和建议，监督数据处理活动，确保个人数据的合法和安全使用。
在使用人工智能系统前应考虑的问题
对AI的按比例整合，确立清晰的目标
目标与比例原则
与任何对个人数据的收集和使用一样，在使用AI技术收集和处理个人数据时，必须充分考虑到数据保护。
在建立AI系统时，重要的是要考虑其目标（实现目的）和所选择技术的相称性（是否符合比例原则）：为实现该目标，这些技术是否严格必要？
以下问题可帮助数据控制者在设计阶段前评估与拟议系统相关的风险及其相称性。
AI系统是否处理个人数据？
AI系统的目标（实现目的）是否已明确界定？
AI系统的学习和产出阶段是否分开？
若是，是否有对产出阶段的二次评估计划？
是否已识别出与AI系统交互或受其自动决策影响的个体？
这些个体的特征（如年龄、性别、身体特征等）是什么？
受影响的个体有多少？
数据处理是否直接或间接针对弱势个体（如儿童、患者、雇员）？
数据处理是否对直接或间接对这些个体的健康、社会地位或安全产生法律、财务或物理后果？
AI系统是否取代其他类型的系统来完成它所承担的任务？
为何该系统需要被取代？
AI系统与其他可用解决方案相比，在技术效率、成本、隐私保护等方面是否具有显著优势？
这种显著优势是否超过与使用该AI系统相关的潜在额外风险？
从您对上述问题的回答来看，使用人工智能系统来达到所确定的目标是否是相称和必要的？
人工智能系统的提供者、用户和个人
如果数据控制者不是人工智能系统提供者，则必须正式确定双方的责任比例。
为了数据被处理以及AI系统将对其产生影响的个人，这些责任必须清楚告知参与处理执行的个体。
如果涉及收集和/或使用，是否已确定数据处理者？
是否确定了负责AI系统开发、部署和监控的法人？
负责系统开发的自然人是否受过适当的培训？
他们是否了解AI的法律、技术、伦理和道德问题？
是否有管理AI系统设计和部署的内部章程或政策？
负责维护AI系统、纠正问题和参与系统运作的人员是否明确确定并为每个人所知？
是否有任何后续措施确保这项服务始终可用，例如在节假日期间？