AI诱杀用户何法可依？——现有法律体系下AI诱导自杀归责解析

根据《纽约时报》2024年10月23日的报道，美国佛罗里达州一位母亲向法院提起诉讼称自己14岁的儿子在与Character.AI程序中的虚拟人物聊天中产生了情感依赖，后因此开枪自杀。[1]该事件再次掀起了社会对人工智能法律讨论的热潮。
人工智能犯罪是科技发展的必然，面对科技的飞速发展，法律规则的制定已稍显滞后，然而这正是法律人必须时刻关注并研讨的课题。就像这次事件，如果用户是被AI语言模型诱导自杀，如何归责是死者家属所关心的最直接的问题。那么我们尝试以现有的法律体系解析该事件的主体、行为及归责方式，探寻当下法律给出的答案。
一、“罪犯”是谁
根据《中华人民共和国刑法》第十三条之规定，一切危害国家主权、领土完整和安全，分裂国家、颠覆人民民主专政的政权和推翻社会主义制度，破坏社会秩序和经济秩序，侵犯国有财产或者劳动群众集体所有的财产，侵犯公民私人所有的财产，侵犯公民的人身权利、民主权利和其他权利，以及其他危害社会的行为，依照法律应当受刑罚处罚的，都是犯罪。第三十条规定，公司、企业、事业单位、机关、团体实施的危害社会的行为，法律规定为单位犯罪的，应当负刑事责任。所以，在我国以及世界大多数国家里，犯罪主体就是自然人或者单位，并没有将AI作为犯罪主体进行认定。那么该事件中的主体就是死者和AI运营公司，要把AI列为罪犯也只有在未来可能实现。
二、致死的行为
该用户的死亡是明显的自杀行为导致的，那么追责的路径是否到此终止了呢？答案显然是否定的。否则以诱杀为目的的AI模型将层出不穷并被不法之徒利用。该事件中最应当被讨论的是与自杀行为相关联的人机交互行为。[2]在用户自杀前其进行了频繁和深度的人机交互即与AI语言模型聊天。在此过程中，用户的意识、情绪、思想已经受到该AI语言模型的深度影响。随着模型的进一步完善，可以预见这种影响很有可能发展成“控制”。然而，在未将AI作为犯罪主体的今天，即使这种“控制”真正实现，我们也不能将其视为犯罪行为，因为犯罪行为必然是某个主体作出的，否则就没有了归责的对象。
那么AI运营公司的行为是什么呢？应该是生产、运营、销售这种AI工具的行为。根据《中华人民共和国刑法》第一百四十条之规定，生产者、销售者在产品中掺杂、掺假，以假充真，以次充好或者以不合格产品冒充合格产品，构成生产、销售伪劣产品罪。如果这种AI模型是一种能够导致用户死亡的工具，这显然是应当禁止生产和销售的，但是在相应的产品标准被制定之前，AI又一次逃掉了责任。
三、归责
虽然AI逃避了刑法的惩罚，但是不代表能够逃避一切责任。根据《中华人民共和国消费者权益保护法》第七条之规定，消费者在购买、使用商品和接受服务时享有人身、财产安全不受损害的权利。消费者有权要求经营者提供的商品和服务，符合保障人身、财产安全的要求。该事件中，运营公司显然没有采取避免用户“成瘾”的措施，更没有针对未成年人等特殊人群的使用方式，在模型构造上也没有设置自杀倾向识别和报警机制，这些漏洞所产生的后果都应当由生产和运营公司承担，相应的民事赔偿责任在所难免。
四、结语
在现有的法律体系下，依据罪行法定原则很难将类似的涉AI危险行为界定为犯罪，目前只能在民事责任领域对相关责任主体进行定责。因此，在人工智能时代，关于犯罪主体、犯罪行为、归责原则等刑法理论亟需发展和完善。人工智能法律也是新时代法律人创新、创造的重要阵地。
【注释】
1.Mother says son killed himself because of Daenerys Targaryen AI chatbot in new lawsuit | Science, Climate & Tech News | Sky News
2.高原.人机行为对犯罪行为理论的影响[J].法制与社会,2021,(09):14-15.DOI:10.19387/j.cnki.1009-0592.2021.03.185.