截至2026年9月28日,纽约州参议院第9408号法案A修订版(下称“S9408A”)已获州议会两院通过。州参议院官网仍将其列为“Passed Senate & Assembly”,尚未载明送交州长、签署或成为法律的后续记录。该法案目前尚不能作为已经生效的纽约州法律对待。[1]
S9408A拟对嵌入或集成AI陪伴系统的儿童玩具实施五年临时禁令,限制在纽约州制造、交换、为销售而持有、分销及销售此类产品。与现有AI陪伴服务的安全保护义务相比,该法案进一步涉及特定产品能否继续生产和流通的问题。
对向美国市场提供陪伴玩偶、儿童机器人等产品的中国企业而言,如法案完成后续立法程序,可能直接影响产品合规判断及纽约州内的库存、供货和履约安排。下文将以两院通过的A修订版为基础,分析其适用条件、责任范围及企业应对措施。
本文看点
一、五年临时禁令的立法进展与监管定位
二、“聊天机器人玩具”的认定标准
三、纽约州内经营行为的限制与责任承担
四、企业的产品选择与纽约州业务准备
五、结语
一、五年临时禁令的立法进展与监管定位
(一)两院通过后的生效安排
S9408A拟在纽约州《一般商业法》(General Business Law,下称“GBL”)中新增第48编,由第1800条规定定义、第1801条规定禁止行为、第1802条规定执法机制。法案原案于2026年3月10日提出,5月14日形成A修订版,随后于6月1日、6月2日分别经州参议院和众议院通过。[1]
依照法案第2条,相关规定将在“成为法律后的第90日”生效,并于生效满五年后失效并视为废止。因此,两院通过之日并非禁令起算日,目前也无法据此确定具体生效日期。对于企业,现阶段可以开展产品和渠道评估;实施停止供货、调整库存等措施的最终时间,则应根据正式成法记录及最终文本确定。
【S9408A | Section 2】 This act shall take effect on the ninetieth day after it shall have become a law and shall expire and be deemed repealed 5 years after such effective date.
(二)拟议产品禁令与现行服务监管的衔接
纽约州现行GBL Article 47已对AI陪伴服务规定自伤风险应对及非真人身份提示等义务。S9408A进一步引用其中的“AI companion”定义,并将嵌入或集成该类系统的儿童玩具定义为“chatbot toy”,拟限制其在纽约州内制造、交换、为销售而持有、分销及销售。
因此,服务合规与产品禁令是两套并行规则:即使AI陪伴服务本身符合Article 47,相关玩具仍可能落入S9408A的拟议禁令;反之,不属于“chatbot toy”,也不当然排除Article 47对AI陪伴服务的适用。S9408A亦未规定取得家长同意或完成年龄验证即可豁免。
二、“聊天机器人玩具”的认定标准
拟新增第1800条将“聊天机器人玩具”(chatbot toy)界定为嵌入或集成AI陪伴系统的儿童玩具。由此,产品适用判断包含两个层次:先分别核对儿童玩具和AI陪伴系统的定义,再判断二者是否构成条文所称的嵌入或集成。仅凭产品名称、玩具外观或使用大模型,均不足以作出结论。
(一)面向12岁及以下儿童的玩耍用途
S9408A援引《美国法典》(United States Code,下称“U.S.C.”)第15编第2057c(g)条,将“儿童玩具”界定为主要设计或预期供12岁及以下儿童使用的消费品。因此,判断重点在于产品的主要目标年龄和实际市场定位,而非是否可能被未成年人使用。[2]
就年龄定位而言,15 U.S.C. §2057c(g)(2)(A)要求综合考虑制造商合理的预期用途说明及标签,产品的包装、展示、推广和广告,消费者通常对产品用途的认识,以及美国消费品安全委员会(Consumer Product Safety Commission,下称“CPSC”)工作人员发布的年龄判定指引及其后续版本。[2]
据此,制造商声明和年龄标签具有判断价值,但不足以单独决定产品属性。例如,产品虽标注“18+”,其设计文件、广告对象、销售类目及使用场景却持续面向低龄儿童,仍需评估其是否属于儿童玩具。成年买方或家长代为购买,也不会改变产品本身的年龄定位和预期用途。
就玩耍用途而言,教育与玩具功能可能并存。“学习机”“教育机器人”等名称,不当然排除兼具玩耍用途的产品;同样,外观可爱或具有家长控制功能,也不能单独证明玩具属性。因此,企业宜结合产品设计、功能说明和实际营销形成定性依据,而不宜仅依赖内部定位或单一标签。
(二)模拟持续关系的AI陪伴功能
【GBL § 1700(4)(a)】 "AI companion" means a system using artificial intelligence, generative artificial intelligence, and/or emotional recognition algorithms designed to simulate a sustained human or human-like relationship with a user by:
(i) retaining information on prior interactions or user sessions and user preferences to personalize the interaction and facilitate ongoing engagement with the AI companion;
(ii) asking unprompted or unsolicited emotion-based questions that go beyond a direct response to a user prompt; and
(iii) sustaining an ongoing dialogue concerning matters personal to the user.
儿童玩具属性成立后,还须判断产品中的AI功能是否构成“AI陪伴系统”(AI companion)。GBL §1700(4)将其定义为使用AI、生成式AI和/或情绪识别算法,旨在通过以下方式模拟与用户持续的人类或类人关系的系统:[3]
• 保留以往互动或会话信息以及用户偏好,以实现个性化并促进持续互动;
• 主动提出未经用户提示或请求、超出直接回应用户输入范围的情绪性问题;
• 持续围绕用户个人事务展开对话。
上述定义将关系模拟目的与具体交互方式相结合,三项特征之间以“and”连接。依条文文义,应逐项核查这些特征及其与持续关系设计的联系,不宜将其中任一特征视为独立、充分的认定标准。例如,设备保存音量或语言偏好,并不足以证明其具有法定陪伴功能;反之,界面关闭记忆选项后,若配套应用或云端仍保留并调用相关信息,也需要继续核查实际运行情况。
在此基础上,还需核对定义中的排除情形。GBL §1700(4)排除企业仅用于客服或严格提供其商业及客服相关信息的系统,主要为效率提升、研究或技术辅助而设计和营销的系统,以及企业仅用于内部事务或员工生产力的系统。各项排除条件的范围不同,企业应结合实际用途、设计和营销分别判断,不能仅因产品兼具工具功能便适用排除。[3]
因此,仅按指令回答算术或百科问题的设备,与保留儿童个人经历、主动询问情绪并持续讨论私人生活的玩具,需要作出不同评估。产品定性应以功能和交互机制为基础,“AI助手”“学习伙伴”等名称仅是相关证据之一。
(三)嵌入集成及不同功能模式的评价
当儿童玩具与AI陪伴系统分别符合定义时,二者如何结合便成为下一步判断的重点。法案使用“embedded in or integrated with”,未要求模型必须运行在玩具本地。对通过配套应用或云端实现陪伴功能的产品,宜结合软硬件依赖关系、消费者实际获得的功能及销售安排判断是否构成集成。仅将模型部署于云端,或由不同公司分别提供硬件与服务,尚不足以排除适用。
同样,同一产品设有儿童模式、成人模式或付费解锁功能时,应审查产品整体可获得的能力及模式切换条件。儿童模式默认关闭陪伴功能,并不当然表明该玩具不再集成AI陪伴系统。由于法案尚未细化不同集成和模式切换情形,具体评价仍需以产品事实为基础,不宜对所有双模式产品作统一结论。
上述判断还涉及功能调整的时间。若产品在销售等受限行为发生时已经符合定义,事后依据用户年龄或地址关闭陪伴功能,未必能够消除先前行为的风险。拟以非陪伴型号继续经营的企业,宜在相关行为发生前完成实质功能调整,并核对固件、应用、云端权限、说明书及营销内容是否一致。
三、纽约州内经营行为的限制与责任承担
产品符合定义,并不意味着所有相关主体的全部经营活动均落入禁令。第1801条另行规定受禁行为及其地域范围,第1802条则规定执法机制。因此,产品定性之后,还需结合各主体的具体行为、行为与纽约州的联系以及相应责任条款继续分析。
(一)制造、待售库存与流通环节的分别评价
【S9408A | 拟新增 GBL § 1801】 No person, firm, corporation, association, partnership, business entity, or agent, employee, affiliate, beneficial owner, or subsidiary thereof, shall manufacture, exchange, hold for sale, distribute, or sell any chatbot toy in this state.
第1801条列举制造(manufacture)、交换(exchange)、为销售而持有(hold for sale)、分销(distribute)和销售(sell)五类行为,各自均需审查。禁令因而不限于向最终消费者完成销售,也涉及制造、备货及渠道流通环节。[1]
其中,“为销售而持有”使州内库存成为独立的风险事项。符合定义的玩具若以销售为目的存放于纽约州仓库,即使尚未成交,也可能受该条约束。法案并未为生效前生产或采购的库存设置一般豁免,故生产日期早于生效日,不足以排除生效后持有待售、分销或销售的风险。
与此相对应,法案未禁止消费者个人持有或使用有关产品。消费者在州外购买后带入纽约州自用,与在州内再次出售或交换,应作区分。退货再售、翻新销售和清仓销售,仍需按相应行为评价;样机、赠品或捐赠则应进一步核查是否涉及分销等列举行为,免费提供本身并非当然的排除依据。
(二)地域范围及跨境经营中的主体区分
第1801条使用“in this state”,要求受禁行为与纽约州具有相应地域联系。纽约居民在其他州购买并当地收货,与企业在纽约州制造、持有待售库存或安排向州内交付,具有不同的交易事实。企业宜核对行为实施地、库存地点、接单与签约主体、交付地址及实际履约安排,不宜仅以消费者的居民身份作判断。
对于境外制造、州外仓储及第三方后续转售,法案尚未规定专门的适用标准。分析时应区分企业自行安排或参与的纽约州供货,与独立第三方的后续经营行为,并据此识别各主体可能实施的销售、分销或其他受限行为。既不能将禁令直接扩大为对全球生产活动的限制,也不宜仅凭企业注册于境外排除适用。
此外,实体规则的适用与纽约州法院能否对境外企业行使管辖权,属于不同问题。企业在美国没有办公室,不足以单独决定其中任何一项结论;跨境交易应结合具体经营联系及相应程序法规则另行评估。
(三)禁令救济与民事罚款
第1802条授权纽约州总检察长,在依据其认为充分的证据相信运营者已经或即将实施受禁行为时,代表纽约州人民提起诉讼,寻求制止继续实施相关行为的禁令,并请求民事罚款。这意味着执法可以针对即将发生的受禁行为,并非必须等待产品实际造成伤害后启动。[1]
民事罚款上限为每项违法每日15,000美元。该数额是总检察长可以请求的拟议法定上限,并非发现违规后自动适用的固定罚款。由于法案没有明确“每项违法”的计算单位,具体金额仍需结合违法事实及后续执法、司法解释判断,不宜简单按销售件数乘以天数估算。
法院认定违反第1801条时,无须另行证明任何人因此受损,并可依据纽约州《民事诉讼法与规则》第63编给予初步救济。该规则免除的是实际损害的证明要求,并未免除对产品及行为适用条件的判断。法案也未明文设置独立私人诉权,但这并不意味着其他消费者保护或民事责任依据均被排除。
(四)“禁止主体”与“运营者”的条文衔接
【S9408A | 拟新增 GBL § 1800(5)】 "Operator" shall mean any person, partnership, association, firm, or business entity, or any member, affiliate, subsidiary or beneficial owner thereof, who operates or provides an AI companion in a children's toy.
A修订版在责任主体上存在一处需要关注的文字差异。第1801条的禁止对象广泛包括个人、企业及其代理人、员工、关联方、受益所有人和子公司等,第1802条授权总检察长采取执法行动时则使用“operator”,两条的主体表述并未完全对应。
依第1800条定义,“运营者”包括运营或提供儿童玩具中AI陪伴系统的个人、组织或企业等主体,以及定义所列成员、关联方、子公司或受益所有人。单纯销售硬件的经销商是否属于这一范围,与同时运营配套陪伴服务的品牌方,可能需要不同分析。[1]
上述差异尚待后续解释,但不宜据此认定零售商或分销商当然免责。提案说明虽然提及制造商、销售商和运营者,也不能取代正式条文解决主体衔接问题。实务中,仍应先确定各方实际提供的产品和服务、参与的交易行为,再分别评价第1801条的行为限制及第1802条的执法适用。
四、企业的产品选择与纽约州业务准备
鉴于S9408A尚未生效,企业现阶段的重点是形成有事实依据的适用结论,并准备与之对应的经营调整方案。对于可能受限的产品,既可评估是否通过实质功能改造改变产品定性,也可预先安排纽约州业务限制。无论选择何种方案,都应与前述产品、行为和主体分析相衔接。
(一)以产品定性为基础确定调整方案
建议按型号建立评估档案,分别说明儿童玩具属性、AI陪伴功能及其嵌入集成关系。档案宜覆盖设计文件、包装、说明书、商品页面、广告对象、销售类目和客服话术,并标明硬件、固件、应用及云端版本,以便核对评估结论所对应的实际产品。
在此基础上,对确以长期陪伴为核心功能的儿童玩具,应重点准备纽约州供货及库存限制;对主要提供教育、问答或工具辅助的产品,则可进一步评估哪些功能导致其可能符合AI陪伴系统定义,以及删除或调整这些功能后能否形成不同结论。选择应以产品实际价值和法律要件为依据,不能仅通过更名或补充年龄声明实现。
如选择功能改造,宜核查历史互动信息的保存和调用、主动情绪提问、私人话题对话及相关营销是否同步调整。还应审查账号切换、订阅升级、关联应用和后续更新能否重新开放陪伴功能,避免销售时的定性结论与用户实际获得的能力不一致。
因此,产品评估应纳入版本和上架审批流程。功能、年龄定位、营销或销售安排发生可能影响适用结论的实质变化时,宜重新评估,并据此调整渠道供货范围。
(二)将限制落实至交易、库存及履约
对需要限制纽约州销售的型号,可将收货地址作为直接面向消费者交易的主要识别依据,并在结算、订单及仓储系统中分别设置校验。用户改址、客服手工下单、订单重建、补发及换货,均宜纳入同一控制范围,使网页上的销售政策能够实际约束接单和交付。
IP地址、账单地址和设备位置可辅助识别异常,但不宜作为唯一依据。存在已知转运安排时,还需结合实际目的地和交易事实复核。由于禁令同时涉及州内制造和为销售而持有,配送地址限制亦需与生产、库存管理配合,才能覆盖相关经营环节。
库存方面,宜在生效前核清纽约州待售库存、在途订单、经销商库存、样机及退货,并确定停止制造、供货、出库和再销售的安排。对于调拨、退货或其他处置,应先审查其自身是否涉及受限行为;将库存移出纽约州,并非条文规定的免责措施,也不能消除此前可能发生的违法。
(三)协调合作渠道并核查执行情况
品牌方的直接销售系统通常无法覆盖全部渠道,因而还需明确进口商、经销商、第三方卖家及平台履约方的职责。有关协议可约定地域限制、下游通知、流向信息提供和整改义务,并明确由谁配置配送范围、停止接单或隔离库存。限制落实后,宜通过合作方确认、测试订单及抽检核查实际执行情况。
纽约州既有执法为此提供了可参考的实施措施。2025年总检察长与沃尔玛达成的仿制武器和解文件记载,纽约消费者曾经平台购买至少46件违反相关规定的商品,其中至少9件由沃尔玛履约服务送达。和解要求建立识别和阻断程序,发现后尽快、最迟24小时内移除纽约配送选项,防止再次上架,并逐级处理违规第三方卖家。[4]
该案的参考价值在于渠道限制如何执行,而非直接确立S9408A的责任标准。沃尔玛对文件中的调查发现及违法行为均未承认亦未否认,上述期限属于该案和解约定,并非S9408A的法定整改期限。品牌方、平台或经销商的责任,仍应依据各自行为和适用条文判断。
因此,发现渠道违规后,企业宜先查明自身是否仍在接单、供货或安排受限履约,及时停止可控制的相关行为,并记录核查与整改结果。对重复违反渠道约定的合作方,可依合同采取暂停供货等措施。第三方违规不当然归责于品牌方,合同中的禁止性约定也不当然使品牌方免责。
(四)根据立法进度完成调整并保留证据
企业可指定人员持续跟进法案版本及成法记录,提前确认产品调整、系统配置和渠道协商所需时间。如法案按现有文本成为法律,应据此计算第90日的生效节点,明确各环节的最晚实施日期。生效前接单、生效后履约并无明文豁免,故调整计划应覆盖在途订单、改址、补发及退货再售,而不宜仅确定官网关闭日期。
为便于日后说明产品判断及限制措施的实施情况,建议同步留存以下材料。其作用在于证明评估和执行过程,法案并未规定持有这些材料即可免责:
• 产品评估材料:型号与版本、年龄定位、功能说明、必要交互记录、营销快照及审批结论。
• 交易履约材料:地域限制规则、校验结果、受限订单处理、支付撤销或退款、出库及平台履约记录。
• 渠道管理材料:限制通知、合同、合作方确认、库存及流向核查、违规页面处理记录。
• 异常整改材料:发现时间、受影响交易、临时限制措施、原因分析、修复及复核结果。
• 规则变更材料:配置上线、修改、解除或人工覆盖的时间、理由、审批人和操作人员。
法案未为上述销售限制记录设定统一保存年限,企业宜结合争议时效、合同、调查及诉讼保全要求确定期限,并遵守适用的数据保护规则。留证内容应与证明目的相适应,通常可优先保留州别判断及必要的订单履约信息,避免为证明地域限制而长期、无差别保存儿童对话或精确位置。
实施后仍需定期核对实际产品版本、平台配置及州内库存。如最终法律文本、适用解释或产品功能发生变化,应相应更新适用结论和经营安排,使书面评估与持续开展的业务保持一致。
(五)同步履行现行AI陪伴及儿童数据保护义务
前述措施主要针对拟议产品禁令,现行服务义务仍需独立审查。对于继续向纽约州用户提供的AI陪伴服务,包括不属于儿童玩具的产品所提供的相关服务,企业应结合GBL第47编确认运营者及相应义务,不能从硬件不受禁售限制直接推导出服务不受监管。
GBL §1701要求AI陪伴系统包含相应机制,以合理努力识别并应对用户表达的自杀意念或自伤内容,并在识别后通知用户、引导其联系988危机热线、危机短信服务或其他适当服务。落实该义务时,应核查识别、通知及转介能否在实际交互中完成,仅在用户协议中作风险提示不足以覆盖条文要求。[5]
GBL §1702另要求以口头或书面方式清楚、醒目地提示用户,其交流对象并非人类。其中,互动开始时的提示无须在同一日重复;持续互动仍须至少每三小时提示一次。对主要以语音方式交互的玩具,提示安排应与使用场景相匹配,使用户能够在交互过程中实际接收,而非仅在购买页面看到相关声明。[6]
涉及儿童个人信息的,还应分别评估美国《儿童在线隐私保护法》(Children’s Online Privacy Protection Act,下称“COPPA”)及其实施规则、纽约州儿童数据保护规则的适用。玩具定义中的“12岁及以下”只服务于相应产品范围判断,不能直接替代其他法律对年龄、运营者或数据处理活动的规定。
在硬件厂商、应用运营者与模型服务商分工提供产品和服务的情况下,建议进一步梳理各方实际开展的业务及数据处理活动,并据此分配合同职责、核查履行情况。合同分工应与法定责任相衔接,单纯约定由某一合作方“负责合规”,并不足以完成其他主体自身义务的判断。
结语
S9408A的主要影响,在于以儿童玩具与AI陪伴系统的结合为对象,将限制延伸至纽约州内的制造、待售库存及流通活动。企业是否受到影响,须依次结合产品定义、具体行为、地域联系和责任主体判断,不能仅以技术名称或销售页面上的声明作结论。
在法案尚未生效的阶段,企业宜先完成产品定性和渠道梳理,据此选择功能调整或纽约州业务限制方案,并为正式生效预留实施时间。同时,拟议产品禁令与现行AI陪伴、儿童数据保护义务应分别审查,确保产品调整、销售安排和服务合规能够相互衔接。
- 实习生陈奕帆对本文亦有贡献。
参考资料:
[1] 纽约州参议院S9408A法案进度、A修订版文本及原始版本
[2] 《美国法典》第15编第2057c(g)条
[3] 纽约州《一般商业法》第1700条
[4] 纽约州总检察长与沃尔玛和解文件Assurance No. 25-014第5段及第2项
[5] 纽约州《一般商业法》第1701条
[6] 纽约州《一般商业法》第1702条
