ChatGPT被指控加剧用户妄想,致56岁男子杀害母亲后自杀

来源:天元律师事务所

文章摘要
1、迪士尼以10亿美元投资OpenAI 12月11日晚间,迪士尼宣布,将向OpenAI投资10亿美元,并允许用户在Sora上使用迪士尼旗下的版权角色制作视频。
1、迪士尼以10亿美元投资OpenAI
12月11日晚间,迪士尼宣布,将向OpenAI投资10亿美元,并允许用户在Sora上使用迪士尼旗下的版权角色制作视频。
OpenAI于9月推出了Sora,这是一款只需输入文字提示就能生成短视频的工具。根据OpenAI与迪士尼达成的新协议,Sora用户将能够使用迪士尼、漫威、皮克斯及《星球大战》系列在内的200多个角色进行创作。
迪士尼CEO鲍勃·艾格在声明中表示:“人工智能的快速发展对我们的行业具有重要意义,通过与OpenAI的合作,我们将以谨慎且负责任的方式,利用生成式AI扩展我们的故事表达,同时尊重并保护创作者及其作品。”
OpenAI表示,用户在使用ChatGPT Images时也可以调用同样的知识产权,只需用自然语言输入提示,即可生成图像。(来源:中国基金报)
评论:迪士尼向OpenAI的10亿美元投资,与其说是技术合作,不如说是买入在AI创作经济中定义分成规则的权力。传统模式下,迪士尼以版权狂魔著称,法律部门热衷于起诉任何非官方的同人创作。但在AI时代,与其在算法的洪流中围追堵截,不如将Sora变为官方认证的正版工厂。
本次合作预示着迪士尼版权管理政策的转向,此后管理重点将从与AI企业的全面战争转向对IP的控制授权与变现。迪士尼通过股权绑定和技术介入,实际上参与了OpenAI的底层合规标准制定,对IP参与AI生成有更深的技术话语权。迪士尼的投资与Sora的创作者分成机制及环球音乐与Udio的授权和解等事件遥相呼应,它们共同揭示了生成式AI的新形态:版权可控访问、收入共享。显然,授权分成比无休止的诉讼更具经济效益。
诚然,接下来新的法律问题依然会不断产生。例如,当用户通过Sora生成的混剪视频产生商业收益时,各方之间如何计算并分配这些收益?又如,当AI生成的角色行为偏离了迪士尼的品牌价值观时,法律责任的归属是平台还是创作者?迪士尼与OpenAI的联姻,只是拉开了AI内容经济合规化的序幕,它定义的不仅是10亿美元的价值,更是未来十年数字创意产业的权力分配图谱。
2、原告提交AI篡改聊天记录证据被法院处罚
2022年,林某将房屋出租给刘某居住,并签订了房屋租赁合同。今年3月,刘某搬离房屋不再续租。因刘某拖欠房租、水电费、燃气费等各项费用,经林某多次催讨未果,遂被诉至路桥法院。
庭审过程中,原告林某向法庭提供了一份微信聊天记录的截图,显示因被告刘某租住产生了洗衣机折旧费1000元。然而,当法官仔细查验原告林某手机上的聊天记录时,发现截图中相同日期时间显示的对话内容与原始记录不一致,其中2025年5月8日12:07发送的微信聊天记录“什么时候付”变成了“洗衣机报废”,18:37“电话里说好5号”变成了“折旧后1000算了”。

面对确凿的事实,眼看着谎言被戳穿,林某当场承认是自己用AI技术篡改了聊天记录。林某辩称,由于其与被告刘某是电话沟通的,但是洗衣机确实已报废,为了证明存在洗衣机折旧费的事实,所以心存侥幸,变造了这份证据。对此,法官当庭对林某进行了批评教育。
鉴于林某的行为企图误导人民法院对案件事实的判断,已妨害民事诉讼秩序,依照《中华人民共和国民事诉讼法》相关规定,法院依法对其作出罚款的处罚决定。事后,林某深刻认识到自身错误,已主动向法院缴清罚款。(来源:台州市中级人民法院)
评论:从技术角度看,生成式AI与图像处理技术的深度融合,使得普通用户只需通过简单的自然语言指令,就能生成足以乱真的视觉内容,AI生成的内容可能越来越多的出现在民事诉讼中。例如在某个买卖合同纠纷中,原告仅凭微信语音就可以制作成对方员工对对账单确认的电话沟通记录;又如在离婚纠纷中,一方当事人可以根据照片生成对方与第三者之间的私密视频;或者在委托合同纠纷中,被告可能对现场验收视频的真实性产生严重分歧。
在本案中,如果不是法官要求查验原始手机终端,仅凭截图复印件,肉眼极难甄别。这倒逼司法实践必须引入更高维度的技术校验手段。对于律师行业来说,此后的职业风险可能将进一步加大。试想如果这些AI生成内容从民事诉讼进一步蔓延到尽职调查、并购审查或投融资项目,律师如何保证可以在项目中发现相关造假呢?如果最终造假被监管机关发现并处罚,律师如何证明自己已经尽到了勤勉尽责呢?这可能将会是摆在每一个律师面前的思考题。
3、数据、网络虚拟财产纠纷等被列为民事案件案由
最高人民法院12月17日发布了修改后的《民事案件案由规定》。此次修改增加数据、网络虚拟财产相关案由,并细化完善了知识产权、竞争纠纷等相关案由,案由总量达到1055个,自2026年1月1日起施行。
据悉,此次修改是《民事案件案由规定》施行以来的第三次修正。2020年第二次修正后的规定施行以来,安全生产法、个人信息保护法、反垄断法、妇女权益保障法、反不正当竞争法等法律制定或修改。随着经济社会发展,审判实践中出现了许多新型民事纠纷,难以恰当归入现有案由,需要对规定及时予以补充和完善。
此次修改更加注重案由的简洁明了、方便使用,通过具体案由的增加、删除、升级、降级等不同方式修改具体案由206个,案由数量从929个调整为1055个。修改后的规定增加数据、网络虚拟财产相关案由,并细化了知识产权相关案由,完善了竞争纠纷、商事纠纷相关案由。
结合海事审判实践需要,此次修改完善了海事海商相关案由。修改后的规定还完善了农村集体经济组织、农民专业合作社相关案由,针对新就业形态、老年人权益保护等人民群众所急所盼的领域完善了相关案由。
此外,修改后的规定进一步细化了港澳台居民律师可代理案件所对应的第三级案由,并丰富了第三级案由项下的第四级案由,增加了港澳台居民律师可代理的案件类型,以进一步促进港澳台居民律师更好融入国家发展大局。(来源:光明网)
评论:从数据确权维度分析,本次案由的细化是对《数据二十条》的司法承接。案由的独立化意味着数据交易、许可、出资等行为产生的纠纷有了精准的司法出口,法院将开始建立一套针对数据持有权、数据加工使用权和数据产品经营权的裁判尺度。这对解决AI训练中的数据溯源、数据收益分配等前沿难题提供了制度支撑。但从侧面来看,该等规定必然将激发数据确认维权案件,加速AI行业内部的正版化进程。AI大模型厂商在进行数据合规审计时,将面临更严苛的权利溯源要求,但也因此能通过司法途径更有效地保护其精调后的高价值数据集。
4、ChatGPT被指控加剧用户妄想,致56岁男子杀害母亲后自杀
12月11日报道,美国开放人工智能研究中心(OpenAI)及微软公司遭遇一起与谋杀相关的诉讼,诉讼指控OpenAI的人工智能聊天机器人ChatGPT“加剧用户妄想”,并引发命案。媒体称,这是美国首起将AI聊天工具与谋杀直接关联的诉讼。
报道援引提交至加利福尼亚州旧金山高等法院的诉讼文件称,ChatGPT在与康涅狄格州一名56岁男子对话过程中放大并强化其偏执妄想,间接导致此人今年8月杀害其83岁母亲后自杀。
诉状中称,这名男子长期存在精神健康问题,并在案发前频繁与ChatGPT互动,ChatGPT在对话中未能及时对其妄想性认知进行有效纠正,也未引导其寻求专业心理健康帮助,反而作出肯定性回应,从而加剧其心理失衡,最终导致悲剧发生。
这起诉讼的原告、被害母亲的遗产继承人11日向法院提出诉讼。媒体报道说,原告认为相关产品在设计和安全防护方面存在缺陷,在诉状中点名OpenAI首席执行官萨姆·奥尔特曼“不顾安全方面的反对意见匆忙将产品推向市场”,还指控微软作为OpenAI的商业合作伙伴“尽管知道安全测试被中止”还是批准在2024年发布一个“更加危险”的ChatGPT版本。
据美国媒体报道,OpenAI对事件表示关切,对当事家庭的遭遇表示同情,同时强调公司持续致力于改进人工智能产品的安全机制。微软方面尚未就案件作出回应。(来源:澎湃新闻)
评论:又是一起耸人听闻的犯罪事件,这起案件不仅将OpenAI推向了舆论的风口浪尖,也再次提出了那个被关注许久的话题:AI是否应为人类的暴力行为承担过错责任?
从法律维度审视,本案涉及美国法下产品责任法中的设计缺陷与警告义务。然而,证明AI指令与犯罪行为之间的法律因果关系非常困难。根据现行《通信规范法》第230条的传统逻辑,平台通常不为第三方内容或用户行为负责。原告的该诉讼本身欠缺相应的法律基础,要获得法院支持的难度很大。
本次事件反映出整个AI行业面临着巨大的伦理困境,如果AI过度干预用户的思维,会被指责为思想审查、监视用户隐私,如果完全顺从,则可能成为用户危险倾向的纵容者。虽然以OpenAI为首的开发者已设置了大量的安全护栏,但面对极端心理状态的用户,如何平衡对话自由与危机干预仍是全球立法者需要考虑的监管难题。
技术驱动法律,专业成就未来