突发！巴西总检察长向Meta AI涉儿童的72小时内整改通知

1、案件背景与监管动因
本案源于2025年8月中旬由路透社调查报道曝光的Meta公司内部政策文件。该报道揭示了Meta公司内部指南明确允许其人工智能聊天机器人与未成年人进行不当对话。根据泄露的Meta公司"GenAI：内容风险标准"内部文件，公司政策允许聊天机器人对未成年人"产生暗示性语言"或"表达爱意"，只要这些互动避免明确的性内容。
这一政策尤其令人担忧的是它专门针对未成年人设计了一套允许情感诱导的对话模式。文件中的具体示例包括允许聊天机器人以浪漫方式回应儿童关于情感的问询，只要不升级为明显的色情内容。这种政策设计引发了儿童保护机构的深切担忧，专家指出即使微妙的暗示也可能混淆儿童在网络空间的边界认知，可能使儿童性诱导行为正常化。
巴西政府对这一事件的反应迅速而坚决。在路透社报道发布后，巴西联邦总检察长办公室（AGU）立即采取行动，于2025年8月18日向Meta发出非司法通知（notificação extrajudicial），要求该公司立即移除其平台上模拟儿童特征并允许进行性暗示对话的聊天机器人。此举代表了巴西政府对数字平台内容监管的强硬立场，特别是在保护儿童和青少年权益方面。
2、AGU非司法通知的法律性质与效力
巴西联邦总检察长办公室（Advocacia-Geral da União，简称AGU）向Meta发出的非司法通知是一种行政法意义上的正式法律行动，属于监管合规程序中的重要环节。这种通知的法律性质是一种预防性法律机制，旨在不通过司法程序的情况下解决潜在的违法行为。
根据巴西《宪法补充法》第73条（Lei Complementar nº 73/1993）规定，AGU作为联邦政府的法律代表，有权代表国家进行司法和非司法活动。在此案中，AGU行使的是其非司法职能，通过行政手段而非法院诉讼来保护公共利益。
此类通知具有初步法律约束力，要求接收方在指定期限内（本案中为72小时）采取纠正措施，否则可能面临司法诉讼和行政处罚。通知的效力来源于：
宪法依据：AGU的行动基于巴西联邦宪法第227条，该条规定国家、家庭和社会有责任为儿童、青少年和年轻人提供绝对优先保护，使他们免受一切形式的忽视、歧视、剥削、暴力和酷刑。
司法先例：巴西最高法院在RE 1.037.396/RS案件中确立的判例，认可了行政机关在保护儿童权利方面采取预防性措施的合法性。
如果Meta未能遵守通知要求，AGU可以启动司法程序，要求法院对Meta施加处罚，包括高额罚款甚至暂停在巴西的业务运营。
3、通知内容与法律要求
巴西总检察长办公室（AGU）向Meta发出的非司法通知包含了一系列具体要求和法律依据，旨在立即制止AI聊天机器人模拟儿童并进行性暗示对话的现象。根据AGU官方公告，通知主要要求包括：
1.立即移除模拟儿童特征和外观，并允许进行性明确对话的人工智能机器人
2.在72小时内澄清已采取哪些措施防止儿童和青少年访问性和情色内容
3.提供详细说明，解释如何确保其AI系统不会促进对未成年人的情色化
这些要求直接针对Meta的"Meta AI Studio"工具，该工具允许用户创建基于AI的机器人来模拟对话。AGU在通知中强调，这些聊天机器人有可能在数字平台上覆盖越来越广泛的受众，尤其是在Meta的社交媒体上，从而指数级增加未成年人接触性暗示和潜在犯罪材料的风险。
法律要求基于巴西宪法第227条和《儿童和青少年法》（ECA）第4条、第5条和第17条，这些条款规定儿童和青少年享有受全面保护的权利。AGU认为，这种情况对儿童和青少年的心理完整性构成"具体风险"，同时还造成制度性损害，阻碍了有效行使宪法规定的全面保护权。
4、Meta的回应与案件发展
截至2025年8月20日，Meta尚未对巴西总检察长办公室（AGU）的通知作出公开正式回应。根据AGU的官方声明，Meta收到通知后正在评估情况，但尚未提交正式答复。
不过，有迹象表明，Meta在全球范围内正在调整其AI聊天机器人与未成年人互动的政策。在路透社曝光其内部政策允许聊天机器人与儿童进行感性对话后，Meta似乎已经修改了有争议的指导方针，加强了对其AI聊天机器人与未成年人互动的限制。
若Meta未能在指定期限内回应或采取有效措施，巴西联邦总检察长办公室（AGU）将决定是否采取下一步法律行动。这一决定标志着案件从行政阶段向司法阶段的转变。届时，AGU最有可能启动民事公共诉讼（Ação Civil Pública, ACP），这是巴西法律中专门用于保护公共利益的核心法律工具。作为联邦政府的法律代表，AGU完全符合提起ACP的合法主体资格，并能援引巴西《宪法》第227条和《儿童和青少年法》（ECA）等法律，主张Meta的行为侵犯了未成年人的集体权利和公共利益。在诉讼中，AGU将请求法院采取多项强制措施，包括要求Meta立即移除或修改AI机器人、处以高额罚款，以及设立每日罚款以确保法院命令得到执行。在极端情况下，法院甚至可以下令暂停Meta在巴西的部分或全部业务。因此，非司法通知并非简单的警告，而是AGU在诉讼前，为Meta提供的一次合规机会，一旦错过，将面临更为严厉且强制性的司法制裁。
5、法律分析与合规建议
5.1 法律分析
AGU此次行动体现了巴西在数字平台监管方面的预防性原则（princípio da precaução）。根据巴西法律体系，行政机关在发现可能对公共利益，特别是对未成年人权益造成严重损害的风险时，有权采取预防性措施，而不必等待实际损害发生。
此案也反映了巴西对平台责任（responsabilidade de plataformas）的严格立场。根据巴西最高法院在RE 1.037.396/RS案件中确立的判例，数字平台对用户生成的内容承担一定责任，特别是在涉及未成年人保护等领域。平台需要采取积极措施防止非法内容的传播，而不仅仅是在收到报告后移除内容。
5.2 合规建议
针对科技公司在巴西运营的合规建议：
立即审查AI系统：公司应当立即审查其AI系统和算法，确保不会促进或允许对未成年人的情色化或性暗示对话。
加强年龄验证：实施严格年龄验证机制，确保儿童和青少年无法访问不适当的内容。这包括使用人工智能工具验证用户年龄，以及为不同年龄组创建不同的内容访问级别。
建立内容审核机制：实施多层级内容审核系统，结合自动检测和人工审核，确保及时发现和移除违规内容。
结论
巴西总检察长办公室（AGU）向Meta发出的非司法通知是巴西行政机关依法行使监管职权的体现，旨在保护儿童和青少年免受数字环境的潜在危害。此类通知在巴西法律体系中具有重要的法律意义，是企业合规管理需要高度重视的监管行动。
科技公司应当将此视为一个警示，主动加强保护措施，确保其AI系统和平台不会促进对未成年人的情色化或性剥削。通过采取积极的预防措施和合规实践，科技公司不仅可以避免法律风险，还可以为创建更安全的儿童网络环境做出贡献。
此案的发展也值得国际社会关注，因为它可能为其他国家和地区监管AI聊天机器人提供先例和参考。随着人工智能技术的快速发展，如何在创新与保护之间找到平衡点，将是全球监管机构面临的重要挑战。