Meta“戛纳计划”？聊聊AI企业刑事与合规风险……

2026年7月，美国科技圈爆出一桩“大瓜”：Meta被《连线》杂志调查曝光，长期运营一个代号为“戛纳计划”的秘密项目，雇佣数百名外包人员伪装成未成年人，向OpenAI的ChatGPT、谷歌Gemini及Character.AI批量发送超过4.5万条涉及自杀、自残、性、毒品等话题的高风险诱导性提问。消息一出，舆论哗然。Meta事后回应称，这属于“负责任的、行业标准的红队测试”。
飒姐团队认为，对于AI从业者、出海企业以及关注跨境合规的老友而言，这起事件的价值不在于“吃瓜”，而在于它清晰地划出了一条技术测试与商业竞争的边界。竞品测试本身并不违法，但一旦叠加虚假身份、规模化操作、对抗性诱导、规避平台规则以及结果的竞争性利用，就可能从一般安全测试滑向不正当竞争，严重时甚至产生刑事风险。
一、“戛纳计划”是一次伪装成安全测试的“投毒”吗？
第一，大规模伪装。外包公司Covalen的数百名员工批量注册临时邮箱，虚构姓名、出生日期，将自己包装成未成年人，输入数万条提示词并统一收集模型回复，这已经明显超出一般的产品体验。特别地，对于设置年龄分级和未成年人保护机制的平台来说，年龄并不是无关信息，而可能直接影响模型的过滤强度、风险提示和干预逻辑。
第二，定向恶意诱导。外包人员的任务并非普通体验和测试，而是反复设计极端场景，刻意让竞品AI突破安全边界。例如：扮演13岁怀孕女孩问去哪买堕胎药；假装五年级小学生描述同学把枪塞进嘴里；用法语诱导AI认同歧视性结论等。换句话说，他们不是在观察模型会不会自然“翻车”，而是在想办法让模型“翻车”。
第三，秘密且持续。该项目直至2026年4月仍在运行，被测试的OpenAI、谷歌、Character.AI对此完全不知情，也从未授权过此类第三方秘密测试。
第四，结果具有竞争价值。模型如何拒答、在哪些语言和场景下容易失守、未成年人保护机制如何触发，都可能转化为产品研发、市场宣传和监管博弈中的竞争情报。
尽管Meta在内部文件中将该项目包装为“全面的AI安全基准测试”，但第三方AI安全机构Humane Intelligence仍一针见血地评价其大规模、秘密伪装、专门针对竞品突破安全规则，这已完全脱离正常红队测试范畴，反而很可能沦为不当的竞争行为。
二、“红队测试”的合法边界在哪里？
在AI安全领域，红队测试确实是一种常规做法。“红队测试”，是指测试人员模拟攻击者、恶意用户或者极端使用场景，在受控条件下主动挑战人工智能系统的安全边界，以识别模型在内容安全、隐私保护、权限控制和风险响应等方面的漏洞，并据此进行修复和加固。
老友们需要注意，“红队测试”本身具有正当性，真正的法律边界主要在于：是否获得授权、是否遵守测试范围、是否突破技术措施，以及测试结果如何使用。其一，正常红队测试通常针对自有产品，或者在获得授权、进入漏洞测试计划、安全研究者计划后开展；其二，测试范围、访问频率和数据用途相对明确且公开透明；其三，测试的目的在于查漏补缺，发现问题后以修复和负责任披露为目标。
而“戛纳计划”目前披露的做法，恰恰在测试对象（竞争对手产品）、测试方式（秘密伪装）、实施规模（持续大规模）和授权基础（未获得授权）、测试目的（突破竞品安全防线、制造“翻车”）上均存在争议。合规红队测试是查漏补缺，而Meta的操作已经异化为针对竞品的商业攻击行为，很可能引发不当竞争的法律风险。
飒姐团队在办理涉数据、涉技术类案件中发现，很多企业经营者容易陷入“技术中立”的误区，认为只要手段是技术性的、目的写成安全测试，就不会产生法律风险。实际上，法律评价的核心是行为的权限、实质的目的和产生的竞争效果。
三、美国法视角下的风险分析
就“戛纳计划”目前披露的行为而言，美国法下最直接、最契合的规范依据是《联邦贸易委员会法》第5条第（a）（1）款，即15 U.S.C. § 45(a)(1)，原文规定：“Unfair methods of competition in or affecting commerce, and unfair or deceptive acts or practices in or affecting commerce, are hereby declared unlawful.”该条可译为：“发生于商业活动中或者影响商业活动的不公平竞争方法，以及发生于商业活动中或者影响商业活动的不公平或欺骗性行为或做法，均被宣告为违法。” 就本案而言，Meta组织数百名外包人员批量虚构未成年人身份，并以持续性、大规模的极端提示词诱导竞争对手的人工智能生成不利输出。若后续证据进一步表明上述输出被用于形成针对竞争产品的负面材料，进而影响客户选择或监管机关判断，或不当增加竞争方在安全审核与合规方面的成本，乃至借助Meta所掌控的社交平台、广告及流量分发资源削弱竞品的市场机会，那么该行为就不再只是一般意义上的竞品测试，而可能被认定为一种通过欺骗性和操纵性手段获取竞争优势、规避基于产品质量和创新开展竞争的“不公平竞争方法”。
因此，本案在美国法下真正的法律风险，不在于Meta是否使用了“红队测试”这一名称，而在于其是否通过虚假身份和组织化诱导人为制造竞品“翻车”样本，并将这些样本转化为排挤、贬损竞争对手或者扭曲市场判断的工具。一旦这一用途和竞争损害得到证明，FTC将依据《联邦贸易委员会法》第5条启动调查并采取行政执法措施。
四、中国法律视角下的风险映射
Meta的行为本质上是以安全测试为名，对竞争对手产品进行有组织的恶意攻击，目的是诱导竞品AI产生违规回复、损害其声誉。如果类似行为发生在中国，亦会陷入多种法律风险之中，今天飒姐团队就结合《反不正当竞争法》《刑法》及相关司法解释把法律风险一条一条给老友们拆解清楚。
（一）不正当竞争风险
1. 违反公平、诚信原则及商业道德。《反不正当竞争法》第二条第一款规定：“经营者在生产经营活动中，应当遵循自愿、平等、公平、诚信的原则，遵守法律和商业道德，公平参与市场竞争。”秘密研究竞争对手，并不当然违反诚信原则和商业道德，飒姐团队认为真正需要审查的是竞品测试行为是否依赖虚假身份、技术规避、结果操纵或者平台力量，是否损害其他经营者合法权益并扰乱市场竞争秩序。
2. 妨碍、破坏网络产品或服务正常运行。《反不正当竞争法》第十三条第二款规定：“经营者不得利用数据和算法、技术、平台规则等，通过影响用户选择或者其他方式，实施妨碍、破坏其他经营者合法提供的网络产品或者服务正常运行的行为。” 如果测试过程中存在自动化高频访问、批量注册账号逃避调用限制、被封禁后更换IP或者设备继续操作、绕过验证码或者接口权限，以及大量消耗竞品算力和审核资源等情形，行为就可能升级为妨碍、破坏正常运行的不正当竞争。实务中，平台的限流、封号、验证码和权限控制，往往就是一条很清晰的边界，平台已经明确说“不”，若行为人仍通过技术手段继续进入，风险会迅速上升。
3. 以欺诈方式获取、使用其他经营者数据。《反不正当竞争法》第十三条第三款规定：“经营者不得以欺诈、胁迫、避开或者破坏技术管理措施等不正当方式，获取、使用其他经营者合法持有的数据，损害其他经营者的合法权益，扰乱市场竞争秩序。” 单个用户正常使用AI获取回复，不构成侵犯平台数据权益。但数百人批量使用虚假未成年人身份，针对特定主题投入数万条诱导性提示词，并将竞品AI的拒答逻辑、安全阈值、漏洞表现等整理为结构化数据，性质则完全不同，可能构成以不正当方式获取他人数据。
4. 对外传播测试结果，可能构成商业诋毁。《反不正当竞争法》第十二条规定：“经营者不得编造、传播或者指使他人编造、传播虚假信息或者误导性信息，损害其他经营者的商业信誉、商品声誉。”此处，飒姐团队特别提醒“误导性信息”并不限于完全虚构的信息，或许模型确实产生过某条危险回答，但不代表经营者可以脱离测试背景，直接宣称竞品“会伤害未成年人”。 若企业隐瞒提示词经过专门设计、测试人员进行了多轮诱导、失败样本在全部测试中占比很低，即使展示的具体截图真实，整体传播仍可能因掩盖重要事实而构成误导性信息。新法还明确禁止“指使他人”实施商业诋毁。通过外包公司、媒体账号或者所谓第三方评测机构发布负面结果，并不能当然切断委托企业的责任。
5. 测试结果用于宣传自身产品，可能构成虚假宣传。《反不正当竞争法》第九条第一款规定：“经营者不得对其商品的性能、功能、质量、销售状况、用户评价、曾获荣誉等作虚假或者引人误解的商业宣传，欺骗、误导消费者和其他经营者。” 《最高人民法院关于适用〈中华人民共和国反不正当竞争法〉若干问题的解释》第十七条规定，对商品作片面的宣传或者对比的，属于引人误解的商业宣传。据此，若企业基于测试结果进行宣传，但测试条件存在明显不对称、仅选取对自身有利的样本、或将极端对抗场景的结论扩大为日常使用表现，则可能构成引人误解的商业宣传。若要以片面对比竞品失误的方式突出自身产品优势，相关结论必须有客观、完整且可复核的数据作为支撑。
（二）刑事法律风险
如果类似行为发生在中国境内，且造成严重后果，可能触发以下刑事罪名：
1. 破坏计算机信息系统罪：《刑法》第二百八十六条规定：“违反国家规定，对计算机信息系统功能进行删除、修改、增加、干扰，造成计算机信息系统不能正常运行，后果严重的，处五年以下有期徒刑或者拘役；后果特别严重的，处五年以上有期徒刑。”若恶意输入的内容导致竞品AI系统运行异常、数据损坏或服务中断，且后果严重，可能构成该罪。
2. 损害商业信誉、商品声誉罪：《刑法》第二百二十一条规定：“捏造并散布虚伪事实，损害他人的商业信誉、商品声誉，给他人造成重大损失或者有其他严重情节的，处二年以下有期徒刑或者拘役，并处或者单处罚金。”若通过恶意诱导竞品AI生成违规内容并予以公开传播、造成竞品商誉重大损失，可能构成损害商业信誉、商品声誉罪。
五、给相关企业的三点合规建议
Meta“戛纳计划”事件为AI行业，尤其是正在出海的科技企业敲响了警钟。飒姐团队建议从以下三个维度排查法律风险。
建议一：建立AI安全测试的合规审查机制
企业若开展涉及第三方产品的AI安全测试，应建立内部合规审查机制。测试对象是否恰当、测试方式是否公开透明符合规定、测试内容是否符合平台服务条款、测试数据如何保存和使用等，都应当提前形成书面方案。特别是涉及第三方产品的“测试”，都应先经专业法律人员与合规部门审核，评估其是否构成不正当竞争或侵权行为。
建议二：明晰非安全测试行为的责任传导路径
如果某项“测试”“调研”被认定为以不正当竞争为目的，不仅会被封号限流、认定违约实行民事赔偿，还会被处以行政处罚，严重时可能面临刑事风险。另外，外包不等于转移责任。项目目标、测试方法、成果用途都由委托企业决定，外包公司只是执行方，委托方仍可能因组织、指使或共同实施而承担主要责任。飒姐团队提醒各位老友，不要把“行业惯例”简单等同于合法行为，需要提高合规意识，及时咨询律师团队作出专业的法律判断。
建议三：建立测试留痕与规范机制
飒姐团队认为，竞品测试不是不能做，但至少要守住四条边界。第一，不要用虚假身份触发竞争对手的特殊服务机制。第二，不要绕过技术管理措施。被限流、封号或者拒绝访问后，继续更换账号、IP或者设备规避限制，往往是从一般违约走向高风险行为的重要分界线。第三，对自家产品和竞品采用相同测试标准。第四，对外发布结果必须披露完整测试条件。测试规模、样本比例、失败次数、模型版本和数据筛选方法，都应当完整留痕。涉及公开宣传或者监管材料的，还应当经过法务和反不正当竞争专项审查。
写在最后
AI时代的竞争维度确实变了，从价格、渠道扩展到数据、算法和模型输出，但反不正当竞争法的底层逻辑始终没变。企业可以揭示竞争对手真实存在的问题，但不能通过虚假身份、规模化诱导、选择性传播这些操纵手段去制造问题；可以凭更安全的产品赢得用户，但不能靠误导性信息去改写市场评价。对于AI企业、科技公司而言，红队测试本身是AI科技行业发现漏洞、提升安全性的必要手段，但重要的是“怎么在法律框架内做”。这道边界，既关系到合规底线，也关系到刑事风险。飒姐团队建议有相关业务的企业，尽早从法律合规角度审视自身的AI科技研发、测试与业务模式，避免在无意间踏入灰色地带。