巴西联邦检察院向OpenAI发送关于幻觉的法律建议书

巴西联邦检察院（MPF）近期针对OpenAI公司发出了一项具有重要意义的法律建议书，要求该公司在ChatGPT涉及个人数据的回复中增加特定警告。这一事件标志着巴西在人工智能监管领域迈出了重要一步，也反映了全球范围内对大型语言模型数据保护问题的日益关注。
法律背景与监管框架
巴西《通用数据保护法》（LGPD）于2018年获得批准，并于2020年9月正式生效，使巴西加入了全球100多个拥有特定数据保护法规的国家行列1。该法律旨在保护个人数据，基于宪法保障的基本权利原则。近年来，随着人工智能技术的快速发展，LGPD在AI平台应用中的复杂性和挑战日益凸显5。
值得注意的是，巴西瓦加斯基金会（FGV）最近发布的一项调查显示，在巴西使用的七个主要AI平台（包括ChatGPT、Gemini、Claude、Copilot、Grok、DeepSeek和Meta AI）中，没有一个完全符合LGPD的要求。研究负责人卢卡·贝利教授评价称，"AI工具在隐私保护方面的情况从低水平到令人担忧不等"，存在违反LGPD基本要求的情况5。
具体事件内容与法律依据
2025年5月21日，米纳斯吉拉斯州联邦检察院检察官卡洛斯·布鲁诺·费雷拉·达席尔瓦签署了第16/2025号建议书，该建议书是对第03/2025号建议书的补充47。这项建议的核心要求是，当ChatGPT的回复涉及个人数据时，必须向用户明确警告这些信息可能是由语言模型创建的，而不一定存在于模型的数据库中23。
检察官在建议书中明确指出，大型语言模型如ChatGPT可能会产生关于个人的数据，而这些数据并不存在于其训练数据库中。这种现象被称为"幻觉"或"通用表述"，即模型生成看似合理但实际上不准确的内容47。这种情况违反了LGPD的核心原则，特别是数据质量（第6条第V款）、透明度（第6条第VI款）和数据安全（第6条第VII款）原则26。
检察官特别强调，尽管OpenAI声称基于"合法利益"处理个人数据，但这一理由不足以支持无意中创建和传播关于个人的虚假信息26。目前ChatGPT 4.5版本仅提供关于可能出现错误的通用警告，并未具体指出何时发生"幻觉"现象，这种做法被认为不足以保护数据主体的权利47。
技术挑战与法律要求
建议书强调，即使在2025年发出第一份建议后，仍然证明了模型在技术上无法具体识别哪些回复中出现了"通用表述"现象47。这一技术限制使得问题更加复杂，因为它涉及到AI系统本身的技术能力与法律合规要求之间的矛盾。
检察院认为，缺乏有效机制来识别包含错误的回复，加上仅提供通用警告的做法，加剧了数据主体的脆弱性68。这种情况下，用户难以区分真实信息和虚假信息，特别是当涉及敏感的个人数据时26。
程序要求与下一步行动
根据建议书的要求，OpenAI必须在收到建议后15天内回复，说明为遵守建议而采取的措施，或者为可能的不遵守提供合理理由234。这一要求基于第75/93号补充法第6条第XX款，该条款赋予联邦检察院保护公民宪法权利的职责47。
请注意，联邦检察院发出的建议书并非行政处罚，而是一种半强制性的软执法工具：企业若在 15 天内未书面说明如何履行或合理拒绝，就可能触发 MPF 向法院提起民事公共利益诉讼，或将案件移交巴西数据保护局（ANPD）启动行政程序。这意味着检察机关正主动将《巴西通用数据保护法》(LGPD) 的合规义务引入对生成式 AI 的监督，而不仅依赖尚在成长期的 ANPD。
更广泛的影响与未来展望
第一，首次将“大模型幻觉”纳入 LGPD 的“数据质量”原则
MPF 指出，当 ChatGPT 回答中包含可识别个人的数据（姓名、CPF 等）却可能失实时，就侵犯了 LGPD 第6 条第V 项“准确性”与第VI 项“透明度”原则，从而产生纠正、删除等义务。这是巴西执法机关首次正式认可“幻觉”可以构成数据处理违法。
第二，检方而非监管局的“横向执法”
案件显示，在 ANPD 制定 AI 特定规则之前，地方检察机关愿意引用 LGPD 的一般条款先行干预。这一做法可能促使 ANPD 与 MPF 建立协调机制，也为其他州检察院提供执法模板。
第三，软法路径与风险分级思维
相比直接禁用模型，MPF 选择“显著警示 + 纠错通道”的方案，符合 LGPD 的风险导向逻辑，也与欧盟《AI法案》第52 条的“透明度义务”形成呼应，体现出巴西对技术创新的包容姿态。
Citations:
1.https://www.mpf.mp.br/servicos/lgpd
2.https://www.novojornal.com.br/mpf-mg-quer-aviso-sobre-riscos-de-dados-pessoais-no-chatgpt/
3.https://canaltech.com.br/inteligencia-artificial/chatgpt-deve-ter-aviso-sobre-inseguranca-de-dados-pessoais-recomenda-mpf/
4.https://www.int3r4.com.br/2025/05/21/mpf-ve-riscos-em-alucinacoes-do-chatgpt-e-emite-recomendacao/
5.https://www.conjur.com.br/2025-abr-15/a-polemica-aplicacao-da-lgpd-as-plataformas-de-ia/
6.https://g37.com.br/minas-gerais/mpf-recomenda-que-openai-exponha-avisos-sobre-inseguranca-de-dados-pessoais-no-chatgpt/
7.https://telesintese.com.br/mpf-ve-riscos-em-alucinacoes-do-chatgpt-e-emite-recomendacao/
8.https://convergenciadigital.com.br/inovacao/ministerio-publico-quer-que-openai-alerte-usuarios-sobre-alucinacoes-no-chatgpt/
9.https://analise.com/opiniao/tendencias-para-a-lgpd-em-2025-pilares-estrategicos-na-era-digital
10.https://rendageek.com.br/noticias/mpf-alerta-chatgpt/
11.https://www.mpf.mp.br/mg/sala-de-imprensa/noticias-mg/mpf-recomenda-que-openai-exponha-avisos-sobre-informacao-de-determinados-dados-pessoais-no-chatgpt
12.https://economiaempauta.com.br/inss-ministerio-publico-federal-recomenda-que-cidadaos-vulneraveis-sejam-ressarcidos-em-30-dias/
13.https://www.instagram.com/jusdanygontijo/p/DJ8DS2QMEBc/
14.https://www.mpf.mp.br/mg
15.https://www.mpf.mp.br/mg/sala-de-imprensa
16.https://www.mpf.mp.br/mt/sala-de-imprensa
17.https://www.mpf.mp.br/atuacao-tematica/ccr3
18.https://www.mpf.mp.br/pfdc
19.https://www.migalhas.com.br/coluna/migalhas-de-protecao-de-dados/424651/deepseek-e-openai
20.https://forbes.com.br/forbes-tech/2024/10/por-dentro-do-chatgpt-o-que-a-openai-faz-com-as-suas-pesquisas-na-plataforma/
21.https://www.telesintese.com.br/mpf-defende-que-marco-de-ia-deixe-direitos-autorais-em-norma-a-parte/