人工智能意思表示法律问题研究（上）

本文的观点是人工智能可以成为意思表示的主体，但坚持智能工具说否认人工智能的民事主体资格。本文将围绕这一观点来展开分析，从而为研究人工智能的法律行为乃至解决由人工智能所造成的民事纠纷提供一个理论基础。
一、人工智能基本概念探究与发展简析
关于人工智能的基本概念，目前学界尚无一个统一的定义。笔者认为只有在了解了AI的真正起源和发展历程之后才能更准确地作出定义。
一般认为，人工智能一词的起源是1956年8月在美国汉诺斯小镇召开的达特茅斯会议。会议的参与者包括了约翰·麦卡锡【1】、马文·明斯基【2】、奥利弗·塞弗里奇【3】、克劳德·香农【4】、艾伦·纽厄尔【5】、赫伯特·西蒙【6】在内的许多专家学者。在该次会议上，“Artificial Intelligence”作为会议的名称被会议召集人麦卡锡正式提了出来，因此大多数学者都认为“Artificial Intelligence”一词是由麦卡锡先生首先提出来的【7】，但也有学者考证，据麦卡锡晚年回忆，他也是从别人地方听来的，到底是谁也记不清了。【8】总之，1956年被人们视为人工智能元年。
但在1956年之前，英国学术界在读了图灵的那篇《计算机与智能》之后就出现了“机器智能”(Machine Intelligence)的说法。而当年参加会议的纽厄尔和西蒙却认为使用“复杂信息处理”的说法更为合适，最终他们发明了IPL语言【9】(Information Processing Language),不过他们二人在晚年还是接受了AI的说法。

△ 图1 “人工智能”与“控制论”词频对比【10】
【1】约翰·麦卡锡（John McCarthy）：LISP语言发明者。
【2】马文·明斯基（Marvin Minsky）：计算机神经网络专家。
【3】奥利弗·塞弗里奇（Oliver Selfridge）：人工智能先驱。
【4】克劳德·香农（Claude Shannon）：信息论的创始人。
【5】艾伦·纽厄尔（Allen Newell）：计算机科学家。
【6】赫伯特·西蒙（Herbert Simon）：诺贝尔经济学奖得主。
【7】〔澳〕托比·沃尔什：《人工智能会取代人类吗？》，北京联合出版公司2018版。
【8】尼克：《人工智能简史》，北京人民邮电出版社2017版。
【9】IPL语言，一种信息处理语言。
【10】数据来源：尼克《人工智能简史》，人民邮电出版社。
由此可见，人工智能就是指由人类编程，具有与人类水平相似的或者超越人类水平的处理解决问题能力的智能工具。
根据AI的发展趋势，按照其能力水平的高低，我们大致可以把它们分为：弱人工智能、通用人工智能、强人工智能和超强人工智能。
二、人工智能意思表示的主体与构成要素
当前一些“弱人工智能”已经能够作出一定的法律行为，确实可以理解有些学者把这些法律行为仍然视为是人工智能的所有者或者生产者所作出的，因为人工智能技术还处于中低端发展阶段，科幻作品中出现的人工智能行为对于这些学者来说都没有现实意义。
但未来呢？况且目前已出现一些问题不能用现行法律加以解决的情况。人工智能法律行为的核心就是意思表示，承认人工智能的意思表示就必须先明确人工智能是否能成为意思表示的主体。
（一）意思表示的主体
一个法律行为一定具备行为主体，自然人能够成为意思表示的主体这是毫无疑问的，但法人能否成为意思表示主体，在不同国家有着不同的观念。
德国法采拟制说，认为法人机关是法人的代表权人，即承认法人机关的行为是代理行为，故不承认法人直接可以成为法律行为的主体。瑞士、日本和我国法律则采实在说，承认法人可以成为法律行为主体。
人工智能能否成为意思表示的主体，理论界也存在重大分歧。有学者认为只是为了解释人工智能的行为效力而赋予其法律人格是没有必要的【11】，也有学者认为人工智能应该有有限的法律人格。【12】笔者认为，应当坚持人工智能的工具属性，而不能赋予其法律人格（与法人人格的区别）。
但是人工智能有其特殊性，这也是其区别于其他工具的一点，那就是人工智能能够作出意思表示，即认为人工智能虽不是民事主体，但承认人工智能是能够作出意思表示的主体之一。在确认了人工智能是意思表示的主体，那么接下来就要分析人工智能真的能作出独立的意思表示吗？
【11】参见吴习彧：《人工智能的法理与司法应用——论人工智能的法律主体资格》，《浙江社会科学》，2018年第6期。
【12】参见袁曾：《人工智能有限法律人格审视》，《东方法学》，2017年第5期。
（二）“机器能思维吗？”
如果将意思表示具体到意思上，就转化成了这样一个问题“机器能思维吗？”或者说“机器具有意识吗？”。当人工智能具有了与人类水平相似或者超越人类水平的处理解决问题能力时，我们不禁会问机器也会像人一样思维吗？或者说机器也和人一样也有自己的意识吗？
关于人工智能的意识问题，许多学者表达过自己的看法，笔者也将通过三个思想实验来谈谈自己的看法，为之后继续讨论人工智能的意思表示做一个铺垫。
1.图灵测试
图灵测试是1950年艾伦·麦席森·图灵(Alan Mathison Turing)先生在他的那篇著名的论文《计算机与智能》中开篇就提到的他将其称之为“模仿游戏”的一个思想实验。
图灵设置了这样一个游戏场景，共有3个人参加游戏，一位男士甲、一位女士乙和一位提问者丙（男女都可）。提问者丙一开始就被单独隔离在一个房间内，而另外两人则分别在屋外回答丙的提问，丙根据甲、乙的回答来判断谁是男士谁是女士。为避免音色、音量对游戏任务的干扰，图灵又设置了一台电传打印机或一个中介来传递问题和回答。
甲的任务是使丙出现错误判断认为甲是女士，而乙的任务则是帮助丙得出正确结论。因为丙事先不知道到底谁是男人谁是女人所以单靠书面语言则很难作出正确判断。
于是图灵假设如果将一台机器来代替甲，那么问题就出现了，在此种情况下，丙作出错判的几率是否会发生变化。如果在机器的诱导下丙作出了错判，那么由此又回归到“机器能思维吗？”这一问题上，也即机器是否具有意识。【13】
【13】A. M. Turing：《ComputingMachineryandIntelligence》，《Mind》, 1959年，第433-460页。
图灵认为机器的最佳策略可能并不是模仿人的行为，而是像人一样自然地作答。之后图灵又提出了问题的变种，不仅对各种意见作出了评价，还从不同角度提出了异议和反驳。游戏的最终，如果丙根本没有意识到是机器在回答他的提问，那么就可以得出机器就是智能的，其就通过了图灵测试从而成为真正意义上的人工智能。
2.中文屋
1980年约翰·塞尔(John Searle)在《行为与脑科学》杂志上发表了“心灵、大脑和程序”(Minds，Brains and Programs)，文中的一个思想实验“中文屋”的灵感就来自于图灵测试。
“中文屋”的具体实验是，把一个只懂英文不懂中文的人隔离在一个房间内，房间里只有一本中英文对照手册或一个计算机程序，屋中人可以在收到中文信息时比照手册或通过程序而用中文应对。屋外人用中文提问，屋中人用程序回答，交流方式是递纸条。
塞尔于是提问：假设屋外人不能识别屋中人的母语是否为中文，那么屋中人是不是就算懂中文？塞尔对此的回答是屋中人根本不懂中文，认为必须真正内化才算理解了中文。【14】
【14】John R. Searle：《Mind,LanguageandSociety:PhilosophyintheRealWorld》，《Dialogue》，1998年第626页。
笔者非常赞同许多学者对此的反驳，一个近视的人戴上眼镜算能看清东西吗？一个失聪的人通过人工耳蜗重新听见算能听见吗？人类通过飞机在天空中翱翔算能飞吗？
若按塞尔的观点以上怕是都不算了，那么笔者认为这样的标准是否过于严苛，塞尔是反“强人工智能”的，认为单纯的形式化符号操纵是没有理解力的，但是强人工智能是由弱人工智能量所进化而来，本质上又有什么不同呢？
有学者也提出疑问，到底内化到什么程度才算是懂中文呢？内化就是一点外部工具都不借助吗？由此笔者真正理解了图灵先生，人类所要追求的不是人工智能拥有思维，而是让人工智能（包括强人工智能）依照人类的思维去有所行动。【15】
【15】参见尼克《人工智能简史》，北京人民邮电出版社2017版。
3.缸中之脑
关于意识还有一个更为极端的思想实验，就是希拉里·普特南(Hilary Putnam)的“缸中脑”实验，1981年普特南出版了《理性、真理与历史》(Reason，Truth，and History)一书，与图灵一样他也在开篇就给出了“缸中脑”的思想实验：“一个人(请想象一下那就是您自己)被邪恶的科学家进行了手术,他的大脑（您的大脑）从头颅内被取出,放入一个缸中,缸里被放入维持脑存活必要的营养液。大脑神经的末梢和一台超级计算机相连,这台计算机让大脑的主人保持一切完整的幻觉。对他来说,好像人和其他事物还都存在,但实际上,这个人(您)所经历的一切都是计算机传输到神经末梢的电子脉冲的结果。这台计算机非常聪明,如果这个人想要抬起手,根据计算机的反馈能让他“看到”并“感到”手正在抬起。不仅如此,邪恶科学家还可通过改变程序使受害者“经验到”（即幻觉到）邪恶科学家所要求的任何情况或环境。他还能消除这次脑手术的痕迹,因此被害者仍然认为自己一直是处于这样的环境中。被害者甚至还会以为他正坐着读书,读的就是这样一个有趣但荒诞的故事:一个邪恶科学家把人脑从头颅中取出放到一个盛有营养液的缸中。神经末梢连到一台超级计算机,它使这个大脑的主人具有如此幻觉……”
普特南更进一步设想，假设所有的感觉器官都泡在缸里，而外面的世界就是一台大自动机。【16】这样看来，我们所有人的意识形成是否都是由机器操控的，那么到底是人类具有意识还是机器具有意识呢？其实这个思想实验本无法验证，类似于庄周梦蝶。许多科幻小说和电影如《黑客帝国》、《异次元骇客》、《盗梦空间》、《shelter》等等都受到这一思想实验的启发。
【16】希拉里·普特南：《理性、真理与历史》，上海译文出版社2016年版。
以上三个思想实验都从不同角度对于“机器能思维吗？”作出了各自的回应，在笔者看来在科学技术水平呈指数式增长的今天，也许人工智能在处理解决某些问题上会超越人类，但我们不能忘记人工智能的工具属性，说人工智能具有思维或意识，本质上还是人类的思维或意识（这一观点与塞尔的“中文屋”有本质区别，人工智能不是单纯地形式化符号操纵而没有理解力），人工智能不会具有自我的思维或意识，所有一切都是人类赋予（编程）给AI的，人工智能的理解力正是建立在此基础上而成立的。
因此，笔者认为人工智能能够作出独立的意思表示，这里的“独立”应该加上引号。在此笔者想套用尼泊德(Nipperdey)关于意思表示的一句话，人工智能意思表示理论的出发点是：人工智能有能力借助于人们的各种意思表示，在它所属的特殊法律体系划定的限度内，形成它的意思表示而投入的各种法律关系。【17】
【17】尼泊德的原话是，意思表示理论的出发点是：人有能力借助于他的各种意思表示，在他所属的特殊法律体系划定的限度内，形成他意愿投入的各种法律关系。
4.承认人工智能意思表示的法律目的
“目的是全部法律的创造者。”所有法律规则的产生都有法律的目的，为什么要承认人工智能意思表示，笔者认为法律应该认识到，在未来人工智能的普遍应用之后，人们的日常生活中的行为将变得更加多样，人工智能在其中的参与度也将大大增加，而不可避免的人工智能也将代替人们决定一些法律行为，即承认人工智能可创设意愿的法律关系。
例如，未来可能出现一种保姆机器人，它可以根据使用者输入的喜好和其自身程序的大数据分析前往超市购物，法律应该看到确实是人工智能根据自己的程序判断应该买什么不应该买什么，这是无法忽视的（这里先不考虑人工智能是否真的理解自己是在“买东西”）。
再退一步，即使认为人工智能的基础程序还是人设计的，因此无论将来怎样发展，人工智能所表达的内容最终还是起源于人的意思，表示仍然是人的表示。【18】那么当人工智能发生执行错误，即产生事实上的意思表示瑕疵时，如果法律不承认人工智能的意思表示，那就只能将问题推向使用者或人工智能开发者，而使用者或人工智能开发者并没有产生意思表示瑕疵的情形，法律是否能再次忽视该问题。
【18】参见梅迪库斯：《德国民法总论》，第199页。
为更好地解决人工智能所带来的违约或者侵权问题，其关键就是怎样看待有人工智能参与的法律行为，而法律行为的本质要素就是意思表示，因此法律需要承认人工智能的意思表示。