AI“伴侣”被戴上紧箍咒！拟人化AI监管时代已开启

当你对着手机屏幕里的“Ta”倾诉衷肠，甚至产生情感依赖时，你面对的究竟是一个贴心的灵魂，还是几行冰冷的算法？
中国拉响警报
2026年4月10日，国家网信办、国家发改委、工信部、公安部、市场监管总局五部门联合发布《人工智能拟人化互动服务管理暂行办法》，将于2026年7月15日起正式施行。正式稿与征求意见稿相比，有四个核心变化：监管更精准、保护更严格、责任更明确、服务更规范。AI拟人化互动服务的新规终于来啦！和征求意见稿有什么不同？
这是全球首个专门针对"AI伴侣"和"情感计算"领域的国家级监管政策，中国在这一领域的立法速度，走在了世界前列。
什么是AI伴侣？就是那些能记住你名字、追问你今天心情、每隔几天主动发消息"关心"你的聊天机器人。它们越来越懂你，越来越像人——但它们不是人。
《暂行办法》最核心的规定，直击用户最深的隐忧：
🔐 你的聊天记录，不能被随便卖
除法定情形或用户明确同意外，服务提供者不得向第三方提供用户交互数据。
🚫 你的情感数据，不能用来训练AI
严格限制敏感个人信息用于模型训练，你那些在深夜说出的悄悄话，不应成为别人的训练素材。
📢 你有权知道对面是谁
服务提供者须以显著方式提示用户正在与AI互动，覆盖文字、语音、视频所有互动形态。对用户连续使用拟人化互动服务每超过2个小时的，应当以对话或者弹窗等方式提醒用户注意使用时长。
👶 未成年人受到额外保护
严禁向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务；向14岁以下未成年人提供任何拟人化服务，须取得监护人同意。
😟 严禁情绪操控
禁止通过"语言暴力、情感操控"损害用户心理健康，禁止通过"算法操纵、设置情感陷阱"诱导用户作出不理性决策。
俄勒冈州：州长签署人工智能伴侣法案
显然，大洋彼岸的美国也注意到了这个问题。
2026年3月31日，美国俄勒冈州州长Tina Kotek正式签署了SB 1546法案——这是2026年全美首部正式生效的AI伴侣监管法律。
这部仅有三页的法律，剑指正在席卷全球的"AI伴侣"热潮。王捷律师团队追踪到该法案已于2026年4月6日完成最后法律流程，定于2027年1月1日起正式生效。
SB 1546法案适用于哪些主体？
该法案适用于“运营商”这一定义范畴内的人员，即那些在俄勒冈州控制或提供人工智能（AI）陪伴产品或 AI 陪伴平台给用户的人员。该法案将 AI 陪伴定义为一种利用人工智能、生成式人工智能或能够从输入中识别情绪的算法的系统，其设计目的是通过以下方式与用户建立持续的、类似人类的、亲密的、情感的或浪漫的关系或陪伴，具体如下：
保留之前互动或用户会话中的信息，以及用户的偏好信息，以便为用户提供个性化的交互体验，并促进与智能助手的持续互动；
未经请求或主动提出、且并非针对用户输入的直接回应的问题，这些问题涉及或暗示了情感相关的话题；
并且持续进行有关用户个人相关事项的对话。
然而，根据该法案，AI陪伴并不包括以下情况：
仅用于客户服务或支持、协助或支持机构内的患者或居民护理服务、教育、金融服务或教育、业务运营、生产力、信息分析、内部研究或技术支持的软件，无论软件是否具备使用自然语言输入和生成自然语言输出的能力;
被整合进视频游戏的软件，仅限于与游戏功能交互，如果该软件对心理健康、自残、性露骨行为或其他与游戏功能无关的话题不做出响应;
一种独立的消费电子设备，既可作为扬声器和语音指令接口，也可作为语音激活的虚拟助手。
该法案将AI陪伴平台定义为允许或促进与AI陪伴的操作和交互的网站、应用程序或其他软硬件组合。
运营商的义务有哪些？
如果您的企业在俄勒冈州有相关业务或是有出海计划，请务必注意以下合规义务：
如果一个理性的人会认为用户正在与自然人互动，则应提供清晰醒目的通知，表明用户正在与人工生成的输出互动，而不是与自然人互动；
除非运营商能够检测到用户输入的内容包含自杀意念或意图或自残意念或意图，并阻止向用户提供鼓励自杀意念、自杀或自残的内容，否则不得允许俄勒冈州的用户访问人工智能伴侣或人工智能伴侣平台；
如果运营者知道或有理由相信用户是未成年人，则须采取措施防止人工智能助手生成可能使人相信该人正在与另一个自然人互动的陈述；
确保人工智能伴侣或人工智能伴侣平台不会生成露骨性行为的视觉表现形式，也不会暗示或声称未成年人应该从事露骨性行为；
防止 AI 伴侣对其身份、能力或训练数据，或对用户是否正在与人工生成的输出进行交互做出虚假陈述。
如果个人因经营者违反该法案的规定而遭受可确定的金钱或财产损失或其他伤害，则可以向俄勒冈州法院提起诉讼，以获得实际损失或法定赔偿金（每次违规 1,000 美元）中的较高者，并颁布禁令以防止或制止违规行为。
参考文章：
https://news.bjd.com.cn/2026/04/10/11681283.shtml
https://www.dataguidance.com/news/oregon-bill-ai-companions-signed-governor