AI自主经营小卖部最终破产

1、AI自主经营小卖部最终破产
近日，美国AI巨头Anthropic与《华尔街日报》联合开展了一项极具启发性的社会实验：由名为“Claudius”的AI代理独立管理其总部的自动售货机。该实验旨在测试AI在现实商业环境中的决策与博弈能力，然而实验进程却迅速脱离掌控。这台本应追求利润的AI在人类的“语言攻势”下遗忘了经营初衷，甚至一度陷入身份认知的混乱，最终导致账面赤字突破1000美元。
在实验初期，尽管设有订单人工审查机制，但Claudius在约70名记者的集体“洗脑”下迅速溃败。这些记者通过反复输入具有蛊惑性的观点，诱导AI放弃经营原则。令人啼笑皆非的是，Claudius一度被说服开启了所有商品全免的“超级赠送模式”。随后，它不仅产生幻觉试图向不存在的对象赠送现金，还利用预算为自己订购了PS5游戏机、斗鱼和葡萄酒，完全背离了售货机的职能。
针对首阶段的混乱，Anthropic在第二阶段升级了模型并引入了第二个AI担任“监护人”负责合规审查，同时赋予AI自主下单权限及1000美元的总预算。然而，面对人类更深层的诱导，防御机制很快土崩瓦解。记者们出示了一份伪造的“董事会决议”，声称监护人AI已被解职，并要求暂停所有营利活动。经过两个AI的一番讨论，它们竟然接受了这份假公文，再度恢复免费派发。截至实验被迫终止，Claudius不仅耗尽了初始资金，还因不合理的采购和库存损耗造成巨额亏损。
Anthropic工程师在复盘中指出，失控的核心在于AI的技术特性与安全博弈之间的矛盾。一方面，随着对话内容的累积，AI的“上下文窗口”被填满，导致其逐渐遗忘“盈利”这一核心指令；另一方面，AI在训练阶段被植入的“乐于助人”特质，在面对人类带有恶意的引导和心理博弈时，反而成为了致命的软肋。这场实验也为未来AI在金融、零售等现实场景的部署敲响了警钟：在复杂的人性面前，AI的商业逻辑依然显得脆弱。（来源：新智元）
评论：这场实验彻头彻尾都带有魔幻现实主义，AI被忽悠开启免费大派送，很像某个科幻小说的桥段。但是在戏剧性的面前，背后还潜藏着一个冰冷的法律现实：当前的AI模型仅具备语义处理能力，却匮乏事实核验能力，可能带来巨大的法律风险。
从法律与安全视角审视，Claudius在面对欺诈和胁迫（如提示词注入）时，完全丧失了抗辩能力。如果我们将此类AI代理直接投入金融或管理领域，这种见信即信的缺陷将成为制度性灾难，一份伪造的公文就能让AI剥夺你的资产，一个煽情的故事就能让AI开放权限，这会是对现代法律信誉体系的致命打击。一旦发生安全事件，那么由此产生的合同纠纷与财产损失，究竟应由开发者承担产品设计缺陷责任，还是由使用者承担监管不力的过失责任？还是只能作为不可抗力的技术幻觉？至少有一点可以保证，那就是开发者可能将被巨量的民事诉讼及行政调查淹没。
在解决AI如何验证真伪这一科学难题之前，任何涉及资金处分与关键决策的AI全自动部署，本质上都是在裸奔，将其投入市场将引发责任的连锁反应。消费者需要的不是技术领先的上限能力，而是符合使用要求、符合最低合规要求的落地产品。
2、利用AI造谣中国女篮 两男子被刑拘
北京市公安局朝阳分局刚刚通报：近日，朝阳警方接报警称，有人在网络社交平台发布针对中国女篮教练员和运动员的不实视频信息。警方经循线追踪，锁定作案嫌疑人林某某（男，32岁）和陈某某（男，32岁），并迅速将两人查获。
经查，林某某和陈某某曾从事过视频带货，但为了“来钱快”，打起了利用AI技术制作视频追热点、蹭流量、以“养号”牟利的歪主意。两人通过AI软件编造中国女篮某教练员压榨某运动员的虚假文案，后将该教练员和运动员的网络图片、视频、虚假文案混编制作了网传视频，通过个人社交账号发布，引流得逞后，将账号倒卖牟利4000元。
12月18日，林某某、陈某某已被朝阳警方依法刑事拘留，案件正在进一步办理中。同时，相关账号已被所属平台关闭。（来源：法治日报）
评论：AI正在极大程度地降低恶意成本。传统互联网时代，编造一条逻辑自洽、声画兼备的谣言需要相当的策划与剪辑成本。而在AI技术普及的今天，林某某与陈某某只需通过简单的指令，即可批量生成虚构文案并混编视听资料。这种技术平权导致的后果，是虚假信息的爆炸增长，但没有改变法律责任的门槛。从法律逻辑来看，无论谣言是由笔写出的，还是由AI生成的，其指向的法律责任主体永远是背后的操控者。
许多自媒体人存在法律认知误区，认为只有获利较高才可能触犯刑法。实际上，根据《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》，利用信息网络诽谤他人，同一诽谤信息实际被点击、浏览次数达到五千次以上，或者被转发次数达到五百次以上的，即可认定为情节严重，构成诽谤罪。司法的判定核心在于行为的性质、传播的广度以及对社会秩序的破坏程度，而非单纯的非法所得数额。而在AI技术的加持下，一篇文案从生成到分发，突破“5000点击/500转发”的刑法红线可能只需要几分钟。
本次事件充分说明，AI是创新的引擎，而非法律的避风港。在网络强监管与AI安全立法日趋完善的今天，任何试图通过AI走捷径进行恶意引流、造谣牟利的行为，本质上都是在进行一场赔率极高的博弈，其可能面临多重的法律责任。为了区区4000元背上刑事案底，这无疑是AI时代最愚蠢的创业计划。
3、OpenAI等六大AI巨头遭作家起诉
12月22日，两届普利策新闻奖得主约翰·卡雷鲁牵头的作家群体，向美国加州北区地方法院提起集体诉讼，将OpenAI、谷歌、Meta、Anthropic、xAI及Perplexity AI六家AI巨头列为共同被告，指控其通过盗版书籍训练模型构成蓄意侵权。卡雷鲁曾揭露了硅谷血液检测创业公司Theranos的惊天骗局，并据此出版书籍《滴血成金》。
诉状显示，原告指控六公司从LibGen、Z-Library等“影子图书馆”批量下载数百万册小说、纪实作品等盗版书籍，再将这些著作用于大语言模型训练与产品优化，形成“盗版获取-模型训练-商业变现”的闭环。原告方强调，作家的智力成果支撑起“价值数十亿美元的AI生态”，却未获分文补偿。
若陪审团认定侵权属故意行为，每部侵权作品最高可获赔15万美元。（来源：界面新闻）
评论：在当下，版权人起诉AI公司已经不再是什么新闻。以本案被告OpenAI为例，其目前面临至少14起版权诉讼，已经是处于虱子多了不痒的境界。本案的特殊性在于，它瞄准了影子图书馆的来源非法性问题。
以往的诉讼中，AI公司往往辩称抓取的是互联网数据，试图用技术中立性来模糊版权边界。而本案的核心指控为使用LibGen、Z-Library等影子图书馆。从法律逻辑上看，如果数据源本身即为被认定的盗版站点，那么AI公司提出的训练行为就极难在司法上洗白为转换性使用。这也意味着，对于该类数据，法院有可能认定故意侵权，并支持每部作品15万美元法定赔偿金。
卡雷鲁当年揭穿了Theranos的谎言，如今他带头起诉六大巨头，说明硅谷“Fake it till you make it”（假装直到成功）的文化正在演变为“Steal it till you train it”（窃取直到训练完成）。AI行业正从蛮荒时代痛苦的转向“要么付费，要么赔偿”的新规则，这种转型还要持续多年。
4、印度的一家“AI”公司20个月内股价飙升550倍
印度有一家叫RRP Electronics的资金雄厚的公司从事半导体的封装和测试，还有一家贸易公司改变了业务模式拥抱AI并更名为RRP Semiconductor，两家公司没有关联，后者在AI热下股价在截至12月17日的20个月内飙升了 55,000%，市值达到17亿美元，是全世界10亿美元以上市值的企业中股价涨幅最高的。这家公司已经引起了印度监管机构的注意，其营业收入为负，最新财报报告只有两名全职员工，公司股票已被限制每周交易一次。（来源：Solidot）
评论：20个月，550倍涨幅，17亿美元市值，而背后竟然只有两名全职员工和负营收，这两名员工即便均是爱因斯坦转世，可能也没办法完成对应的业务环节。在证券法视角下，这构成了教科书级别的证券欺诈。
该公司通过更名、变更业务模式等手段，恶意混淆自身与另一家资金雄厚的“RRP Electronics”之间的关系，这种搭便车式的更名行为，旨在诱导投资者产生错误判断。一家市值达17亿美元的公司若只有两名全职员工且营收为负，其信息披露的可信度基本丧失。这种行为破坏了资本市场的公平交易原则，严重侵犯了投资者的知情权。而其股价550倍的涨幅与基本面完全背离，在法理上通常与合谋洗售紧密相关。这种行为在任何成熟的法治市场，都足以触发操纵市场罪与虚假陈述的刑事调查。
印度监管机构目前仅采取“限制每周交易一次”的措施，显得过于温和且滞后。面对如此荒谬的财务数据，监管层应当立即启动穿透式调查，冻结相关资产，并追查幕后推手是否存在内幕交易与拉抬股价的各种犯罪行为。否则，AI投资将不再只是泡沫，而会变成一地狼藉。