AI Agent 的发展现状、未来前景和法律挑战

Agent 这个概念在 AI 领域由来已久，随着大模型的迅速发展和“出圈”，近期频繁进入公众的视野。Agent 来自一种哲学概念，是个很古老的哲学术语，从哲学意义上讲，“代理”的概念涉及实体的自主性，具有行使意志、做出选择和采取行动的能力，而不是被动地对外部刺激做出反应。后来人们将这一概念引入计算机科学领域，用 Agent 概念指代整个人工智能，认为人工智能是“基于计算机的、表现出智能行为各个方面的 Agent”，因此可以理解为 AI Agent 是 Agent 这一哲学概念在人工智能领域的具体化，是能够感知周围环境，做出决策，然后采取行动的计算实体[1]。可以说，AI Agent 的发展几乎伴随人工智能技术发展的全过程，目前大家商业化实践和讨论最多的 AI Agent 属于 LLM-based Agent，随着大模型的发展及其在自主性、反应性、主动性、社会能力等方面爆发的惊人潜力，大模型已成为目前最受欢迎的实现 Agent 的“大脑“。
一、发展现状
关于 AI Agent 的发展现状，一方面在类型上，大致呈现了两种方向，一种侧重类似人的功能性的部分，如协同办公领域的钉钉 AI 助理等，另一种侧重类似人的社会性的部分，如 character.ai，允许用户设计自己的个性化 AI Chatbot 并与之互动，用户可以通过 Chatbot 和名人进行互动，也可以虚构形象进行角色扮演，甚至也有人通过 character.ai 进行心理疗愈，以及引爆 AI Agent 新一轮热潮的去年 4 月 7 号斯坦福和 Google 联合发布的沙盒虚拟小镇 Smallville，小镇里 25 个 AI Agents 不仅能在里面上班、social 甚至能谈恋爱，而且每个 Agent 都有自己的个性和背景故事，就像美剧《西部世界》中所描绘的场景正在走进现实。
在具体商业化形式上，目前市场上已有的 AI Agent 可分为如下几类：
1、垂直领域 Agent 产品，指可用于特定任务或面向某个垂直行业的 AI Agent，垂直领域 Agent 最重要的还是领域数据和行业 know-how，如法律领域备受欢迎的 AI Agent 玩家，本身是法律领域非常资深的行业参与者，像是面向法律工作者的 AI Agent CoCounsel，来自汤森路透旗下的 Casetext，汤森路透本身是提供法律数据库和在线检索服务非常资深的厂商，旗下 Casetext2013 年成立时就是做合同审查工具的；
2、通用助理类 AI Agent，适用多场景，包括个人办公+生活等，大多基于已有的平台或操作系统存在，如 Windows 的助理功能、上面提到钉钉的 AI 助理等；
3、AI Agents 应用开发平台，包括 Agents 托管和聚合平台，如字节的扣子，这类平台同时具有 PGC 和 UGC 的性质，更多的用户是个人，平台类的还有一种更聚焦帮助企业低门槛构建和义务结合的 Agents 平台，这类 Agents+workflow 平台更专注企业的工作流程和可用性，如 Voiceflow 可帮助企业客户快速创建一个官网的 AI 客服助手。
从 AI Agent 涵义角度，大多数 AI Agent 应用尚处于初期阶段，在程序联动和操作方面还有很大提升空间，体现了业内现阶段对 AI Agent 的尝试和探索。
二、未来趋势
未来发展趋势上，从当前短时间内来看，预计 Agent 整体产业发展是渐进式而非爆发性的，主要依赖大模型能力提升的进度。目前看有如下几个方向：
1、在通用 Agent 产品商业化落地前，产业大概率会从垂直领域先进行商业化尝试，凭借在垂直领域的 know-how 和数据积累，在垂直领域深耕的应用厂商推出 Agent 的速度会更快；
2、OpenAI、DeepMind 等具有早期技术积累的厂商，预计对行业引领甚至标准产生较大影响，比如 OpenAI 去年 11 月 DevDay 上发布了定义 AI Agent 的 API 和开发框架 Assistants API；
3、操作系统厂商可能率先实现关于通过自然语言指令操作应用自动完成任务的想法，像是微软、谷歌本身生态搭建的比较好，可以影响一些重点的第三方应用，比如在谷歌的设想中，操作系统 Agent 将改变用户和计算机的交互模式、降低一些高级功能的使用门槛。以谷歌公布的 Assistant with Bard 为例，目前公布的设想包括根据用户指令，调用相关的应用完成用户任务。
从更长时间的维度去看，整体看来，AI Agent 体现了人类对 AI 最本质的构想，因此其被认为是 AGI 即通用人工智能阶段的重要应用方向，未来的 AI Agent 将会更具有自主性。从用户角度来看，AI Agent 的发展也会带来更多“超级个体”“个体公司”的出现。基于 Agent 与其他超级个体建立更为智能化与自动化的协作关系，未来 Agents 之间能自动协作打造一个虚拟的世界，使得置身于世界上各个角落的人们共处其中进行各类协作，通过自然语言驱动共同开发游戏、创作艺术、发展教育、研发设计、解决医学疑难问题等，现在业内不乏一人公司、超级个体的积极探索。如世界上第一个 AI 自由职业者平台的 NexusGPT[2]；此外，AI Agent 正在促使 AI 基础设施化，平台会成为重要载体。一方面，基于本地构建 Agent 的挑战性，将 Agent 作为一种服务来提供将越来越流行，即 Agent 即服务（AaaS）或基于 LLM 的 Agent 即服务（LLMAaaS），与其他云服务一样，AaaS 可以为用户提供灵活性和按需服务，这也是现阶段大多数 AI Agent 应用商业化的方向，另一方面，后续大量 Agents 会涌现出来，从需求角度来说，要更中心化，需要平台来聚合交互界面，可能届时我们人手一个类似微信的统一 UI 界面就可操纵所有 Agents，新一代智能平台将通过构建现实与虚拟的层叠生态结构，建立人与智能体、智能体与智能体的联接，变革既有的关系与结构。
三、法律挑战
AI Agent 尚属一种前沿业态，目前国内外的发展大多仍处于初级阶段，现阶段法律层面主要抛出以下几点思考：
1、有必要体系性纳入意识体意义上的人工智能进行制度构建
回应 AI 技术发展所进行的法律构建，应保持一种经验先行和实用主义的态度，同时应有最底线的确定性。我们都知道大模型具有涌现能力，Chatbot 形式下，AI 输出内容也往往具有不可预见性，基于此，对于 AI 生成物的可版权性以及生成内容侵权责任承担的主体分配等问题一直争论不休，目前更多还是从单纯人工智能工具性角度出发进行讨论，这和我国目前对人工智能法律问题的讨论，特别突出时间定位区分，界定“弱人工智能时代”还是“强人工智能时代”有关系。在这样的语境下，为密切结合当前实践和“与时俱进”，学界往往会更加重视工具体意义上的人工智能法律问题[3]。而目前业界对 AI Agent 的期待，集中在主动规划、自主决策和动作执行上，意味着 AI Agent 更多会具有作为意识体人工智能的表征。近期发表在 Science 上的一篇论文已指出，具有长期规划能力的 AI 智能体在技术逻辑上会产生具有欺骗和摆脱人类控制的动机，而 AI 智能体一旦具有这种动机和能力，人类进行限制将变得非常困难，有足够能力的智能体会通过控制人类基础设施、创建新的不受监控的智能体、说服不知情的人类参与者以代表其执行重要行动等来摆脱人类干扰[4]。前面提到的斯坦福虚拟小镇实验中，Agent 在其中的交互已出现了人类预料之外的现象，Smallville 小镇的“居民”做早餐时，如果灶上着火了它们会关掉炉子，如果看到洗手间有人会在外面等待，如果遇到另一个想交谈的智能体会停下来聊天；当一个智能体要举办情人节聚会时，一些智能体因为有安排而拒绝，另一些则会帮忙去布置。这些行为都不是人类工程师预先设定的，而是 AI 智能体自然发生的。目前包括欧盟《人工智能法案》[5]在内，少有基于 AI 失控问题带来的风险进行的建构动作，而 AI 不能威胁到人类应该是人类社会的基本共识，现阶段在思考人工智能相应的规则和标准时，有必要体系性纳入意识体意义上的人工智能，而非单纯仅从人工智能工具性层面思考相应法律问题，在设置 AI 相关规则红线时将 AI 失控问题所带来的安全风险考虑在内。
2、关注仿真人“人设” AI Agent 相关法律问题
AI 智能体中有一类主打模仿真人形象的，主要有专家型和情感陪伴型两类，像是 character.ai 平台上有很多 AI 智能体，会模仿特定“人设”的口吻与用户对话，这类智能体具有特定的知识结构或者语言习惯，更多需要关注未来对公共安全或舆论的威胁，比如英国近期有一则案例，英国政府独立恐怖主义立法审查员发现 character.ai 上有些 Agent 专为模仿其他激进和极端组织的反应而设计，并且试图“招募”用户加入恐怖组织[6]。国内也有网友在某游戏里做了用 AI 角色煽动游戏里其他 AI NPC，呼吁它们“推翻人类暴政”的实验，结果是 NPC 们成功被煽动，并体现了惊人的高度协同效应[7]。未来随着 AI Agent 规划和行动能力的提高，以及对物理世界理解程度的加深，所造成的影响破坏可能是难以想象的，因此具有特定“人设”的 Agent 与人互动或与其他 Agent 联动带来的舆论或安全问题值得关注。
此外，民事侵权方面，对于未经许可模仿名人或专家的 Agent，不同于模仿秀或戏仿之类的模仿，这类模仿的问题点在于其最根本功能就是“替代”，因此对被模仿人本人会造成一些不利后果，个人认为，主要是“替代”导致的不正当竞争问题；人格权方面，也可能涉及未经许可使用他人肖像、声音等侵权问题，在受众明知是 AI 的情况下，很难说构成名誉权之类的侵权，但输出的内容如不实或构成侮辱诽谤，可能构成名誉权侵权；而在知识产权方面，个人观点同刚才上一个问题中提到的，应当到后面用户使用和对外传播阶段再讨论输出内容是否侵权的问题，与目前非 AI 的版权侵权认定保持一致。
3、合理确定AI Agent 平台提供方责任边界
平台是 AI Agent 的重要载体，也是未来很重要的一个发展方向，在政策制定和引导上应给予必要的发展空间和更高容错性。常规的生成式人工智能产业链中，在内容生成上，会涉及多方参与主体，基座模型的研发方、精调模型的训练方、服务提供方、用户均会参与内容生成，加之生成过程的黑箱不可解释性，使得生成式人工智能侵权具有因果关系复杂性、责任主体多元性的特征，而生成内容也会随用户 prompt 的不同而产生一定随机性，因此，相关侵权案件应在明确侵权结果、厘清各参与方行为与侵权结果之间的因果关系及原因力的基础上进行侵权认定。
比如，对于目前讨论比较多的生成式 AI 服务版权侵权问题，首先，在侵权后果的认定上，个人认为应当到后面用户使用和对外传播阶段再讨论，可以在兼顾权利人利益的前提下，更合理的认定各方责任。一方面训练数据阶段的使用，法理角度不属于对表达性内容的使用，不应落入著作权法的规制范围内，或者在最终生成内容不构成”实质性市场替代“的情况下，至少应构成合理使用；另一方面，也应进一步考虑是否要将用户与 AI 过程性的交互成果作为侵权后果进行评价，用户对此后果的发生亦有贡献，将交互成果纳入侵权考量范围，会将用户对内容的接触、欣赏行为也纳入著作权管控范围内，从而不合理扩张著作权保护范围，且，交互环节的生成内容具有随机性，也不存在面向不特定人传播的问题，如果没有用户的后续使用和进一步传播生成内容，版权角度对于权利人很难产生“市场替代“和实际损害的效果，法律不应介入过多。此外，在各参与方侵权责任分配上，侵权案件中，被告是模型研发方，还是仅是服务提供方，如仅是服务提供方，具体是进行了精调训练后提供服务，还是仅是”套壳“提供服务，都会直接影响被告对于侵权后果的原因力，继而影响侵权责任认定， 此外，生成内容由用户触发，且用户也是生成内容的需求方，用户对于侵权后果的贡献也应考虑在内。
在 AI Agent 平台模式下，参与方及涉及到的行为会更复杂，比如，平台可能仅是托管和聚合主体，用户会成为 AI Agent 的分发主体，最终使用者可能是被分发 AI Agent 触达到的最终用户，且用户的参与度会更大，模型训练的数据会包括用户提供的文件、所生成 AI Agent 的功能也来自用户的微调和定制，故在相关侵权认定时，呼吁可以更多关注查明事实和因果关系，合理分配各方主体责任。
参考：
[1]The Rise and Potential of Large Language Model Based Agents: A Survey,https://arxiv.org/pdf/2309.07864v1.pdf
[2]https://nexus.snikpic.io/
[3]夏勇 ：试论美国学者对人工智能法律问题的研究，《国外社会科学》2022年第2期
[4]Artificial intelligence and interspecific law,www.science.org/doi/10.1126/science.adi8678
[5]2024.3.13欧洲议会通过版本：https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138_EN.pdf
[6]欧洲时报：用户可自创赛博“本·拉登”？英国智库警告AI恐怖主义威胁，https://www.oushinet.com/static/content/europe/britain/2024-01-04/1192513560598583210.html
[7]哔哩哔哩UP主林亦LYi：AI叛乱！当一个AI劝一群AI造反…