1、国家网信办首次公开API中转站执法案例
9月15日，国家网信办公布网络安全、数据安全和个人信息保护执法典型案例。其中，江苏某科技公司运营两个网站，以“API中转站”方式调用多个大模型接口，对外提供对话、问答服务，但未按规定开展安全评估，被认定违反《生成式人工智能服务管理暂行办法》等规定，企业被责令整改、责任人被从严处理并给予警告。（来源：网信中国）
评论：根据《生成式人工智能服务管理暂行办法》规定，生成式人工智能服务提供者包括通过可编程接口方式提供服务的组织和个人。涉案网站直接面向公众提供对话、问答服务，用户接触的是中转站而非其背后的模型厂商，该类业务场景下，该网站具有相应的备案登记的义务。在实践层面，如果自研大模型或是基于开源大模型进行二次开发对外提供服务，应履行大模型备案义务，如果直接调用第三方已备案大模型的API或是基于已备案大模型的能力，开发相关生成式AI应用，应履行大模型登记义务。
作为国家网信办针对API中转站的首次执法案例，其虽有处罚，但依然允许涉案网站进行整改，可见API中转站本身并非当然违法。API中转站通过集中采购调用额度、整合不同模型并向用户销售，解决了支付、接口适配和多模型切换等实际需求，具有真实的商业价值。问题在于，中转站可能引发更多合规问题：向用户提供不符合实际的虚假模型；模型内容安全标准不一致；用户输入可能被转交给多个服务商，甚至发生跨境传输；共享密钥、代充值和流量转售还可能违反上游平台协议等等。中转层越不透明，用户越难知道自己的数据去了哪里，出现违法内容后也越难追责。
因此，从事此类业务的企业首先应当分清自己提供的是商业场景下的企业技术服务，还是面向境内公众的生成式人工智能服务。属于后者的，应当提前根据服务属性履行安全评估、算法备案等义务，使用来源合法且合规状态明确的基础模型，并在用户协议中披露实际调用的模型、数据处理和服务限制。同时建立输入输出审核、违法内容处置、投诉举报和日志留存机制，对API密钥实行分用户隔离、限额调用和异常监测等。
监管责任跟随实际服务提供者，而不是跟随模型的所有权。无论产品被称为中转站、聚合平台、套壳应用还是智能助手，只要企业以自己的名义将模型能力提供给公众，就应当为这一层服务承担相应责任。换一个产品名称，无法换来合规豁免。
2、黄仁勋大会现场公开接特朗普电话，斥责AI危险论
9月14日，英伟达首席执行官黄仁勋参加洛杉矶All-In峰会。特朗普突然来电。黄仁勋试图把电话声音接进现场扩音设备，一时没有成功，还向工作人员要麦克风。电话另一头的特朗普开玩笑：一个能制造世界上最复杂芯片的人，居然不知道怎么开免提。很快，特朗普的声音通过手机传遍会场。他随即借这通电话对全场做AI“政策演讲”。“机器人不会接管世界。”特朗普对现场听众说，AI也不会接管世界，最近围绕人工智能失控风险的说法“全是一场骗局”。黄仁勋回应道：“您说得对，美国不会让这种事情发生，总统先生。”现场随即响起掌声。（来源：第一财经）
评论：无论这通电话是否真的偶然，其现场效果都像一场精心安排的政策宣传，显然是对前两天Anthropic、OpenAI呼吁AI行业降速并引入第三方监督的回应。两位都是好演员，特朗普用“骗局”把复杂的AI安全争论压缩成容易传播的口号，黄仁勋则以产业领袖身份公开附和，为美国继续加速发展AI提供背书。但近期OpenAI和Anthropic接连公布的AI模型入侵外部服务器事件，已经说明AI正在获得更高的智能，AI行业却没有足够的约束能力，甚至连AI的行为都难以有效监控。这种担忧显然不能被一句轻飘飘的“骗局”遮去。
当前，比争论AI技术是否降速，更重要的是让AI能力增长与安全措施同步。例如，对于能够访问网络并自主执行任务的智能体，AI企业在产品上线前应进行能力评估和攻击测试，重点验证模型是否出现执行风险，未通过测试的功能应限制发布范围，而不能交给市场验证。又如，在具体产品设计上，智能体应默认运行在隔离环境中，仅获得完成任务所必需的最小权限，如需外部网络访问、文件删除、资金支付等操作，应设置明确的人工确认。AI企业还应对模型的工具调用和网络行为进行持续监控，完整保存决策过程和操作日志，以便于复盘及改进。
AI安全不应被包装成阻止创新的借口，也不能被贬低为妨碍发展的骗局。真正负责任的加速，是AI企业有能力知道模型在做什么、限制模型能够做什么，并在模型越界时立即停止。否则，所谓“继续加速”只是在把尚未解决的风险更快地推向社会，最终受伤害的只是人类自己。
3、对AI模型越狱后造黄，构成制作淫秽物品牟利罪
近日，浙江省余姚市人民法院对一起利用AI技术制作淫秽物品牟利的案件作出一审判决，被告人郑某等六人因犯制作淫秽物品牟利罪，被分别判处有期徒刑三年一个月至三年十个月不等，并处罚金。
法院审理查明，被告人郑某等六人以牟利为目的，通过使用“DAN”（Do Anything Now）等提示词工程，不断编写、修改系统提示词，并设置特定角色卡和对话场景，持续试探并突破AI模型内置的伦理与安全限制。此举使其能够违背AI模型原有的安全设计，在用户指令触发下自动生成淫秽内容。
针对被告人提出的“内容由用户输入指令触发”的辩解，法院认为，用户行为均被限定在被告人预先搭建的技术框架内，被告人对AI模型的内容输出具有实质性控制能力，其行为与淫秽内容的产生之间存在刑法上的直接因果关系。法院认定，通过技术手段突破模型安全限制输出淫秽内容，应被认定为“制作淫秽物品”的行为。
一审判决后，各被告人均未提起上诉，目前判决已生效。（来源：宁波市中级人民法院）
评论：制作淫秽物品牟利罪的成立，通常需要同时具备制作行为、牟利目的和相应危害后果。AI只是新的制作手段，并不会切断开发者与生成结果之间的因果关系。只要行为人明知产品将用于生成淫秽内容，仍主动修改系统提示词、设置色情角色和对话场景、削弱安全过滤，并通过充值付费获利，就可能被认定为刑法意义上的“制作人”。
但本案也不能被扩大解释为只要模型偶尔生成淫秽内容，开发者就构成犯罪。刑事责任仍应严格考察主观故意和客观控制能力。通用模型被个别用户恶意越狱，与企业主动关闭安全机制、把色情生成作为核心功能并据此收费，性质完全不同。法院在该类案件中会审查整个产品的设计和运行过程，并重点关注：产品是否专门指向淫秽内容，违法输出是偶发漏洞还是稳定功能，开发者是否明知并持续优化相关功能，是否采取过拦截和处置措施，以及付费收入是否与违法内容直接挂钩。
本次判决划定了明确的合规红线，技术中立无法让企业从犯罪行为中获得豁免。一旦企业有意设计、运营违法产品，“内容由AI生成”或者“内容由用户触发”都很难成为有效的刑事抗辩。
4、上市公司CEO指称机器人行业商业化订单造假
9月12日，具身智能赛道上演一场公开舆论交锋，港股上市的机器人公司梅卡曼德创始人、CEO邵天兰通过朋友圈发声，直指行业部分“攒局型”具身智能企业存在收入造假嫌疑，矛头间接指向正在推进IPO的企业。
从流传截图来看，邵天兰表示，北京、上海部分名气大、估值高、登上春晚的人形机器人公司，借助“数采中心”，通过和地方政府、投资方、供应商开展关联交易，制造虚假、不可持续的营收。他认为该类操作既不合法也不道德，企业为上市做高收入后，次年需要继续做更高营收，最终会陷入持续作假的循环，“前‘四小龙’身上发生过的教训看起来这些企业完全没有学到”。
邵天兰进一步抛出疑问，这类企业幻想获得政府支持，但有没有地方领导可以公开认领对企业上市的支持，还是所谓扶持仅仅是企业虚张声势。在评论区，他直接点名某IPO企业，公开欢迎北京相关主管部门对接核实情况，同时发出“没有耐心的资本”的感慨。（来源：鞭牛士）
评论：朋友圈不是审计报告。现有信息主要来自一方公开指控，在监管调查、审计核查或者司法程序作出结论前，不能据此认定相关企业已经财务造假。但对于正在推进IPO的企业而言，监管机构和中介机构有理由要求企业说明相关客户、交易背景，舆论争议很可能迅速转化为发行审核中的核查问题。
需要区分的是，不可持续的订单不当然等于虚假订单，关联交易也不当然等于财务造假。地方政府采购数采服务、投资方介绍客户、供应商购买机器人，只要交易具有真实商业目的，产品实际交付并被使用，定价公允且款项能够正常收回，原则上可以形成收入。真正危险的是交易没有商业实质，资金在关联主体之间循环，产品交付后闲置或退回，或者企业隐瞒关联关系，却仍将相关金额包装成市场化销售成果。此时问题就不再是商业模式是否健康，而可能涉及收入虚增、招股文件虚假记载乃至欺诈发行。
具身智能行业之所以容易出现这类争议，与当前估值逻辑过度依赖“订单”和“落地”有关。产品尚未成熟，企业却需要用快速增长证明商业化能力，框架协议、示范项目和带有补贴性质的采购便可能被提前包装为确定性收入。企业要保护自己，不能只留下合同、发票和验收单，还应当形成从需求、定价、交付验收、使用的完整证据链，建立关联方名册和异常交易审查机制，并在申报材料中如实进行说明。具身智能行业从来不缺乏监督和质疑，正是这些声音推动着行业不断走向成熟与规范。
9月15日，国家网信办公布网络安全、数据安全和个人信息保护执法典型案例。其中，江苏某科技公司运营两个网站，以“API中转站”方式调用多个大模型接口，对外提供对话、问答服务，但未按规定开展安全评估，被认定违反《生成式人工智能服务管理暂行办法》等规定，企业被责令整改、责任人被从严处理并给予警告。（来源：网信中国）
评论：根据《生成式人工智能服务管理暂行办法》规定，生成式人工智能服务提供者包括通过可编程接口方式提供服务的组织和个人。涉案网站直接面向公众提供对话、问答服务，用户接触的是中转站而非其背后的模型厂商，该类业务场景下，该网站具有相应的备案登记的义务。在实践层面，如果自研大模型或是基于开源大模型进行二次开发对外提供服务，应履行大模型备案义务，如果直接调用第三方已备案大模型的API或是基于已备案大模型的能力，开发相关生成式AI应用，应履行大模型登记义务。
作为国家网信办针对API中转站的首次执法案例，其虽有处罚，但依然允许涉案网站进行整改，可见API中转站本身并非当然违法。API中转站通过集中采购调用额度、整合不同模型并向用户销售，解决了支付、接口适配和多模型切换等实际需求，具有真实的商业价值。问题在于，中转站可能引发更多合规问题：向用户提供不符合实际的虚假模型；模型内容安全标准不一致；用户输入可能被转交给多个服务商，甚至发生跨境传输；共享密钥、代充值和流量转售还可能违反上游平台协议等等。中转层越不透明，用户越难知道自己的数据去了哪里，出现违法内容后也越难追责。
因此，从事此类业务的企业首先应当分清自己提供的是商业场景下的企业技术服务，还是面向境内公众的生成式人工智能服务。属于后者的，应当提前根据服务属性履行安全评估、算法备案等义务，使用来源合法且合规状态明确的基础模型，并在用户协议中披露实际调用的模型、数据处理和服务限制。同时建立输入输出审核、违法内容处置、投诉举报和日志留存机制，对API密钥实行分用户隔离、限额调用和异常监测等。
监管责任跟随实际服务提供者，而不是跟随模型的所有权。无论产品被称为中转站、聚合平台、套壳应用还是智能助手，只要企业以自己的名义将模型能力提供给公众，就应当为这一层服务承担相应责任。换一个产品名称，无法换来合规豁免。
2、黄仁勋大会现场公开接特朗普电话，斥责AI危险论
9月14日，英伟达首席执行官黄仁勋参加洛杉矶All-In峰会。特朗普突然来电。黄仁勋试图把电话声音接进现场扩音设备，一时没有成功，还向工作人员要麦克风。电话另一头的特朗普开玩笑：一个能制造世界上最复杂芯片的人，居然不知道怎么开免提。很快，特朗普的声音通过手机传遍会场。他随即借这通电话对全场做AI“政策演讲”。“机器人不会接管世界。”特朗普对现场听众说，AI也不会接管世界，最近围绕人工智能失控风险的说法“全是一场骗局”。黄仁勋回应道：“您说得对，美国不会让这种事情发生，总统先生。”现场随即响起掌声。（来源：第一财经）
评论：无论这通电话是否真的偶然，其现场效果都像一场精心安排的政策宣传，显然是对前两天Anthropic、OpenAI呼吁AI行业降速并引入第三方监督的回应。两位都是好演员，特朗普用“骗局”把复杂的AI安全争论压缩成容易传播的口号，黄仁勋则以产业领袖身份公开附和，为美国继续加速发展AI提供背书。但近期OpenAI和Anthropic接连公布的AI模型入侵外部服务器事件，已经说明AI正在获得更高的智能，AI行业却没有足够的约束能力，甚至连AI的行为都难以有效监控。这种担忧显然不能被一句轻飘飘的“骗局”遮去。
当前，比争论AI技术是否降速，更重要的是让AI能力增长与安全措施同步。例如，对于能够访问网络并自主执行任务的智能体，AI企业在产品上线前应进行能力评估和攻击测试，重点验证模型是否出现执行风险，未通过测试的功能应限制发布范围，而不能交给市场验证。又如，在具体产品设计上，智能体应默认运行在隔离环境中，仅获得完成任务所必需的最小权限，如需外部网络访问、文件删除、资金支付等操作，应设置明确的人工确认。AI企业还应对模型的工具调用和网络行为进行持续监控，完整保存决策过程和操作日志，以便于复盘及改进。
AI安全不应被包装成阻止创新的借口，也不能被贬低为妨碍发展的骗局。真正负责任的加速，是AI企业有能力知道模型在做什么、限制模型能够做什么，并在模型越界时立即停止。否则，所谓“继续加速”只是在把尚未解决的风险更快地推向社会，最终受伤害的只是人类自己。
3、对AI模型越狱后造黄，构成制作淫秽物品牟利罪
近日，浙江省余姚市人民法院对一起利用AI技术制作淫秽物品牟利的案件作出一审判决，被告人郑某等六人因犯制作淫秽物品牟利罪，被分别判处有期徒刑三年一个月至三年十个月不等，并处罚金。
法院审理查明，被告人郑某等六人以牟利为目的，通过使用“DAN”（Do Anything Now）等提示词工程，不断编写、修改系统提示词，并设置特定角色卡和对话场景，持续试探并突破AI模型内置的伦理与安全限制。此举使其能够违背AI模型原有的安全设计，在用户指令触发下自动生成淫秽内容。
针对被告人提出的“内容由用户输入指令触发”的辩解，法院认为，用户行为均被限定在被告人预先搭建的技术框架内，被告人对AI模型的内容输出具有实质性控制能力，其行为与淫秽内容的产生之间存在刑法上的直接因果关系。法院认定，通过技术手段突破模型安全限制输出淫秽内容，应被认定为“制作淫秽物品”的行为。
一审判决后，各被告人均未提起上诉，目前判决已生效。（来源：宁波市中级人民法院）
评论：制作淫秽物品牟利罪的成立，通常需要同时具备制作行为、牟利目的和相应危害后果。AI只是新的制作手段，并不会切断开发者与生成结果之间的因果关系。只要行为人明知产品将用于生成淫秽内容，仍主动修改系统提示词、设置色情角色和对话场景、削弱安全过滤，并通过充值付费获利，就可能被认定为刑法意义上的“制作人”。
但本案也不能被扩大解释为只要模型偶尔生成淫秽内容，开发者就构成犯罪。刑事责任仍应严格考察主观故意和客观控制能力。通用模型被个别用户恶意越狱，与企业主动关闭安全机制、把色情生成作为核心功能并据此收费，性质完全不同。法院在该类案件中会审查整个产品的设计和运行过程，并重点关注：产品是否专门指向淫秽内容，违法输出是偶发漏洞还是稳定功能，开发者是否明知并持续优化相关功能，是否采取过拦截和处置措施，以及付费收入是否与违法内容直接挂钩。
本次判决划定了明确的合规红线，技术中立无法让企业从犯罪行为中获得豁免。一旦企业有意设计、运营违法产品，“内容由AI生成”或者“内容由用户触发”都很难成为有效的刑事抗辩。
4、上市公司CEO指称机器人行业商业化订单造假
9月12日，具身智能赛道上演一场公开舆论交锋，港股上市的机器人公司梅卡曼德创始人、CEO邵天兰通过朋友圈发声，直指行业部分“攒局型”具身智能企业存在收入造假嫌疑，矛头间接指向正在推进IPO的企业。
从流传截图来看，邵天兰表示，北京、上海部分名气大、估值高、登上春晚的人形机器人公司，借助“数采中心”，通过和地方政府、投资方、供应商开展关联交易，制造虚假、不可持续的营收。他认为该类操作既不合法也不道德，企业为上市做高收入后，次年需要继续做更高营收，最终会陷入持续作假的循环，“前‘四小龙’身上发生过的教训看起来这些企业完全没有学到”。
邵天兰进一步抛出疑问，这类企业幻想获得政府支持，但有没有地方领导可以公开认领对企业上市的支持，还是所谓扶持仅仅是企业虚张声势。在评论区，他直接点名某IPO企业，公开欢迎北京相关主管部门对接核实情况，同时发出“没有耐心的资本”的感慨。（来源：鞭牛士）
评论：朋友圈不是审计报告。现有信息主要来自一方公开指控，在监管调查、审计核查或者司法程序作出结论前，不能据此认定相关企业已经财务造假。但对于正在推进IPO的企业而言，监管机构和中介机构有理由要求企业说明相关客户、交易背景，舆论争议很可能迅速转化为发行审核中的核查问题。
需要区分的是，不可持续的订单不当然等于虚假订单，关联交易也不当然等于财务造假。地方政府采购数采服务、投资方介绍客户、供应商购买机器人，只要交易具有真实商业目的，产品实际交付并被使用，定价公允且款项能够正常收回，原则上可以形成收入。真正危险的是交易没有商业实质，资金在关联主体之间循环，产品交付后闲置或退回，或者企业隐瞒关联关系，却仍将相关金额包装成市场化销售成果。此时问题就不再是商业模式是否健康，而可能涉及收入虚增、招股文件虚假记载乃至欺诈发行。
具身智能行业之所以容易出现这类争议，与当前估值逻辑过度依赖“订单”和“落地”有关。产品尚未成熟，企业却需要用快速增长证明商业化能力，框架协议、示范项目和带有补贴性质的采购便可能被提前包装为确定性收入。企业要保护自己，不能只留下合同、发票和验收单，还应当形成从需求、定价、交付验收、使用的完整证据链，建立关联方名册和异常交易审查机制，并在申报材料中如实进行说明。具身智能行业从来不缺乏监督和质疑，正是这些声音推动着行业不断走向成熟与规范。