德雷福斯关于人工智能的主要著作均撰写于20世纪60~90年代,而他与柯林斯关于人工智能的对话也发生在20世纪的最后10年间。彼时的人工智能领域尚处在符号人工智能占据主导地位的时期。因此他们二人的主要论述也是涉及当时人工智能的开发状态,关于神经网络和机器学习的探讨则相对较少。因此在德雷福斯和柯林斯讨论中所出现的“人工智能”一词,基本上都指向了基于符号主义的人工智能。然而这并不意味着他们的讨论仅仅适用于已走入历史的符号人工智能,对于基于连接主义的神经网络研究而言,他们的洞见同样有着相当的前瞻性与反思性。
德雷福斯:人工智能需要身体
德雷福斯对于人工智能的批判源自他对于人工智能研究的观察。在1964年,德雷福斯受聘于兰德公司以评估纽厄尔等人开发的早期人工智能,借此机会德雷福斯得以对人工智能领域的发展有比较深入的观察(Dreyfus,1965)。在1967年发表的题为《为什么计算机只有具备身体才有可能具备智能》的文章中(Dreyfus,1967),德雷福斯指出了当时人工智能研究两大前提:
1、认识论前提:所有智能行为一定可以被机器所模拟,机器处理信息的方式是超脱情境的(detached)、非具身性的(disembodied)以及客观的(objective)。
2、本体论前提:基于逻辑原子论(logical atomism),智能行为的本质依赖于一系列互相独立的要素。具备这些要素之后,机器便可以模拟人类的智能行为。
德雷福斯关注的第二种人工智能研究进路则是问题解决进路。问题解决进路主要着眼于训练计算机完成人类的智力游戏,具备解决复杂智力难题的能力。智力游戏,例如国际象棋与围棋,要求参与者能够理解规则,同时根据对手策略以及游戏局面随机应变,最终达到指定的目标以获得胜利。因为许多智力游戏有着明确的规则边界,同时胜利目标单一,所以更容易被形式化为计算机可以理解的语言。西蒙和纽厄尔在20世纪50年代开发了第一个能够下国际象棋的计算机程序(Newell et al,1958),他们将国际象棋的规则完全形式化,并且为程序设定了一些基本的行棋策略。这个计算机程序虽然能够下国际象棋,但是水平仍然距离人类棋手非常遥远。另一个问题解决进路的例子是上文提到的逻辑定理证明机器(Logic Theory Machine),同样由西蒙和纽厄尔所开发。德雷福斯认为问题解决进路虽然取得了一些成果,但是并不具备开发出真正具有人类智能的计算机程序的前景。首先,这些尝试往往局限在规则简单、边界明确的智力游戏中。无论是下国际象棋还是证明数学定理,都是具备明确目标的任务。而解决人类社会中的实际问题则大大不同,许多高度情境化的问题无法被抽象成形式语言,同时不确定的边界和潜在的影响因素不可能都由开发者事先输入程序之中,问题解决也无从谈起。其次,即便是在一些规则简单、边界明确的智力游戏中,人工智能的表现也不尽如人意。当然,我们现在知道基于符号人工智能的深蓝在1999年击败了人类顶尖棋手,人类围棋冠军同样在2016年被基于深度神经网络的“阿尔法围棋”击败。人工智能的确在问题解决上取得了长足的进步,但德雷福斯的许多批评仍然有着值得思考的价值。德雷福斯认为,人类面对不确定性很强的问题时,通常会试图抽象出问题的本质,以排除不相干的或影响极小的因素,进而形成一种解决问题的策略(Dreyfus,1967)。例如在国际象棋中,棋手会评估当前的局势,以选择使用杀入敌阵的进攻策略还是稳固防守的保守策略。“进攻”或“防守”都是人类棋手对于游戏局势的一种抽象,这种抽象是基于棋手过去下棋的经验所得。尽管国际象棋的规则可以被完全形式化,但“进攻”与“防守”这样的抽象概念却很难被计算机所理解,因为这些概念是基于不同局面的抽象,没有一定之规。
问题解决进路面临的更大困难是如何从解决智力游戏到解决现实世界中不确定性更强的问题。德雷福斯用赛马赌博的例子很好地诠释了这一困难(Dreyfus,1967)。相比于现实世界中其他更加棘手的问题,赛马赌博已经是相对比较目标单一、范围有限的问题了。如果我们基于马匹的年龄、骑手的过往表现等因素设计一个程序,也许可以获得高于平均赛马赌客水平的人工智能。然而有太多的未知因素无法被先验地加入到程序中,例如马匹是否会对特定赛场特定时间开放的花朵过敏,或者骑手在赛前的情绪如何,是否处在他最佳的竞技状态。德雷福斯认为,设计者当然可以不断地把可能因素加入到人工智能设计之中,但这会使得这一程序本身变得愈加冗杂,效率愈加低下。更重要的是,这些加入的因素永远是“事后诸葛亮”(after the fact),计算机永远无法先验地意识到有哪些新的因素可能影响这场赛马,只能依靠设计者去不断增加新的条件来约束它的策略。从这一角度上讲,问题解决进路设计出的人工智能距离人类智能还十分遥远。德雷福斯进一步强调,现实生活中许多问题远比赛马更加复杂,因为它们没有一个清晰而明确的目标。在许多具备创造性的工作中,例如绘画和音乐创作,创作者一开始并不会知道自己会创作出什么样的作品。只有在完成创作之后,人们才意识到原来最终的成品会是这样子,而创造性恰恰是在这些目标不确定的问题中得以体现。计算机一旦失去清晰明确的目标,便无法运转,这是基于上文的两大前提所开发出的人工智能必定具备的特点。然而人类并非被目标所驱使,相反人类很大程度上依赖身体上的直觉,这也就是为什么德雷福斯一定强调人工智能唯有具备身体才可能具备人类智能的原因。
柯林斯:人工智能需要达到语言上的社会化
作为社会学家的柯林斯介入关于人工智能的讨论比德雷福斯晚许多。根据柯林斯自己的回忆(Collins,2019),20世纪80年代中期,他刚刚完成了《改变秩序:科学实践中的复制与归纳》一书的写作,正在寻找下一个长期的研究主题。彼时人工智能领域关于“专家系统”(expert system)的讨论正在如火如荼地展开,而柯林斯本身的研究兴趣就与知识生产和专长研究有关,因此他撰写了一篇批判专家系统与符号人工智能的文章。由于这篇文章受到相当大的关注,后来柯林斯又在其基础上撰写了讨论人工智能未来的专著《人造专家》(Artificial Experts)(Collins,1990)。柯林斯与德雷福斯对于人工智能的发展有着比较相似的悲观论断,却出自完全不同的知识脉络。与深受现象学影响的德雷福斯不同,柯林斯从知识社会学(sociology of knowledge)与专长研究(expertise studies)的角度介入这场讨论。
柯林斯对于人工智能的论断可以归纳为:人工智能想要具备真正的智能,必须首先达到语言上的社会化(linguistic socialization)(Collins,1990)。这种语言上的社会化不仅指掌握一种语言或者能够进行不同语言之间的翻译,而且是指能够使用语言和人类进行与常人无异的沟通。对于柯林斯而言,掌握语言并非只是理解词句之中固定的意义,或者如翻译机器一般将一种语言翻译为另一种语言。语言的社会化意味着使用者能够基于情境灵活地理解和使用语言,能够从容不迫地介入使用该语言的讨论环境中。使用语言本身即意味着一种实践(Collins,2019),只有长时间嵌入在使用该语言的社会环境中,个体才有可能达到语言的社会化。这也就是为什么柯林斯所强调的是语言的社会化而非单纯掌握一种语言。比之掌握语言,更重要的是社会化的过程。
那么互动型专长与人工智能开发有何联系?柯林斯认为只有通过融入一个社会群体才有可能具备该群体的互动型专长,而只有具备该群体的互动性专长才有可能进一步掌握该群体的其他知识(Collins,1990)。对于试图复刻人类智能的人工智能来讲,只有通过语言的社会化才能够融入人类社会,进而掌握人类的知识和技能。否则,人工智能开发一定会如符号人工智能一般走入瓶颈,只能部分掌握人类社会中可供形式化的知识,而永远无法掌握实践中得来的默会知识(tacit knowledge)。互动型专长作为沟通形式化知识与默会知识的桥梁,是人工智能开发的必经之路。柯林斯之所以能够掌握引力波领域的互动型专长,是因为他长期跟踪引力波研究,长期对该领域的科学家进行访谈,在实验室中进行参与式观察,逐渐习得引力波领域内的“语言”。柯林斯对于人工智能的展望亦是如此,首先要让人工智能学会如何与人类交流,这种交流可能是十分有限且粗浅的交流,但通过长期融入人类社会的环境,人工智能最终有可能具备更高层次的人类智能。尽管只是有限且粗浅的交流,对于现在的人工智能研究而言,这一目标仍然是非常困难的课题。柯林斯因此发表了他对于人工智能相对悲观的断言:在达到语言的社会化之前,人工智能不可能在其他领域具备与人类同等的智能(Collins,1990)。
人工智能之于人类社会,正如柯林斯之于引力波研究共同体,两者面临着同样的困难:如何能够习得足以融入该共同体的知识和技能?柯林斯用自身的研究经历和专长研究的理论框架为人工智能发展提出了一条道路,即首先通过嵌入社会中逐步掌握互动型专长,进而习得与人类无异的知识与技能。因为,在科林斯看来,人工智能发展的必经之路是语言的社会化,由此嵌入社会中才变得可能。
轮椅上的玛德琳
那么柯林斯如何看待人工智能与身体的关系?柯林斯部分认同德雷福斯关于具身性的论断,因为融入人类社会本身就意味着人工智能必须克服目前脱离情境的、非具身性的设计思路。然而他并不认同德雷福斯所言的人工智能必须具备一个完整的、类人的身体,才有可能掌握人类智能。对应这一观点,柯林斯提出了他的论点——最小具身性论断(minimal embodiment thesis),即人工智能需要能够与人交流的能力(具备输入与输出的器官),在满足这一条件的基础上只要具备最基本的身体即可,并不需要一个完整的、类人的身体(Selinger et al,2007)。为了论证他的这一论断,柯林斯提到了“轮椅上的玛德琳”(Madeleine on wheelchair)这一例子。玛德琳是社会学家奥利弗·萨克斯在《错把太太当帽子的人》(Sacks,1985)一书中提到的案例(Collins,2004a)。玛德琳天生双目失明,无法移动双腿,双臂行动非常困难。尽管残疾与生俱来,但玛德琳仍然在他人的帮助下融入了常人的社会,接受了良好的教育,成为一个精神世界丰富、口才出众的人。柯林斯认为玛德琳的真实案例证明了互动型专长的潜在可能,尽管玛德琳无法像常人一样生活和工作,但她仍然通过交流了解人类社会的知识。仅从精神层面而言,玛德琳并没有被她残缺的身体所束缚,毫无疑问是一个健全人。玛德琳正是柯林斯所言的“最小具身性论断”的现实案例,当一个人具备基本的交流能力时,其他身体方面的残缺并不影响其融入这个社会,进而也不会影响其学习人类社会的知识。柯林斯进一步设问:假如这个主体不是一个人呢?维特根斯坦在他的《哲学研究》中提到:“如果一头狮子能说话,我们也不可能理解它。”柯林斯循着维特根斯坦的这个思想实验继续推理:维特根斯坦认为我们无法理解说话的狮子,因为我们和狮子的生命形式(forms of life)完全不同,对世界的体验也截然不同,因此狮子所言之物一定和人类的语言内容千差万别。然而假如这头会说话的狮子从小就生活在人类社会之中呢?柯林斯认为假如是这种情况,我们最终还是可以和狮子交流。尽管狮子的身体与人类全然不同,但由于它经历了人类语言的社会化,掌握了人类的互动型专长,正常的交流甚至学习人类的知识都变得可能。尽管狮子由于身体的构造可能永远无法坐在椅子上,但它却一定可以理解“椅子”这个概念,因为在语言的社会化过程中狮子会逐渐习得这个概念。综上所述,柯林斯所强调的是语言的社会化的重要性,只要人工智能的“身体”足够与人类社会成员交流即可,并不需要一个完整且类人的身体。
事实上玛德琳这一案例最早是计算机科学家道格拉斯·莱纳特用来反驳德雷福斯的例证,在德雷福斯出版《计算机不能做什么?》(Dreyfus,1972)一书之后,许多计算机科学家试图反驳德雷福斯对于人工智能的悲观预测。莱纳特的批评在于,倘若人工智能不具备身体就无法掌握人类知识的话,为什么玛德琳可以成为一个精神层面上的健全人?对于莱纳特的批评,德雷福斯同样做出了他对于玛德琳案例的阐释(Dreyfus,1992)。德雷福斯认为,玛德琳的案例非但不是反驳他的论断,反而是对于人类具身性的最好诠释。恰恰是因为玛德琳也具备与常人类似的身体(具备一个真实的身体、具备与常人相似的大脑、能产生与常人无异的情绪等),她才有可能掌握人类社会的知识。德雷福斯在文章中这样评论“轮椅上的玛德琳”:
她(玛德琳)具备生理上和精神上的感受,同时她可以在他人的帮助下亲身感受这个世界。因此她能够与其他健全人一样产生共情,在一定程度上体会健全人认识世界的感受和过程。(Dreyfus,1992)
显然,德雷福斯并没有把具身性阐释为一个纯粹的生理性的概念,他所强调的具身性在于“身体作为一个整体感受世界”。玛德琳虽然身体残疾,但她对于世界的认识仍然遵循着现象学家所强调的整体认识论,她的感官并非各自独立于身体而存在,更没有像传统人工智能一样脱离情境而存在。因此在德雷福斯看来,玛德琳的案例并不能反驳他的论断,反而成为解释“人工智能需要身体”的最佳注脚。柯林斯同样对于德雷福斯的阐释做出了回应,他认为德雷福斯有混淆不同意义上的具身性的嫌疑。柯林斯认为,当论述人工智能为什么需要具备身体时,德雷福斯所强调的是一种生理意义上的具身性,即人工智能无法像人类一样切身地感受世界;而在玛德琳的案例里,德雷福斯转而强调概念意义上的具身性,即玛德琳仍然具备一个完整的身体,可以以身体作为整体去感受世界(Collins,1996)。在柯林斯批评德雷福斯混淆具身性的同时,德雷福斯和塞林格(Selinger et al,2007)同样批评柯林斯误解了现象学中具身性的具体意义,并且过度夸大了语言交流能带来的知识传递。以柯林斯自身在引力波研究中的经历为例,柯林斯认为自己通过习得引力波物理学家交流的特定“语言”从而具备了引力波研究的互动型专长。然而德雷福斯指出,这一过程远远不只是语言交流能够达成的:“……回答这一问题,柯林斯必须先就他与引力波科学家接触的过程进行一个现象学式的描述。如果说这一过程是完全依赖于话语的(discursive),那将会是一个非常惊人的结果。这意味着所有交流中的肢体语言、手势、实验仪器的照片甚至对于实验室的感官感受都变得不重要了。”(Selinger et al,2007)显然,德雷福斯认为柯林斯忽视了具身性对于他习得引力波知识的帮助,而将一切成果都算作了语言交流与社会化的功劳。
综观德雷福斯与柯林斯的争论,他们二人的根本分歧其实已超脱了对于人工智能的探讨,其真正的交锋点在于知识与技能如何得以传递。德雷福斯并不认同柯林斯所强调的互动型专长的重要性,他认为基于身体和实践的具身性是一切知识得以传递的基础。嵌入于情境中的、物质的身体是人与世界构成关联的核心,脱离了这样的实践,一切知识的传递皆是空中楼阁。柯林斯则充分拓展了“实践”这一概念的意义,他认为使用语言本身就是一种情境中的实践(Collins,2019),它并不依赖于一个具象的身体或者感官。只要具备他所提出的“最小具身性论断”的个体,皆可通过社会化的过程习得知识与技能,对于人工智能亦然。德雷福斯和柯林斯关于这一点还撰写了多篇文章进行论辩(Selinger,2003;Collins,2004b;Collins,2008),其论争已不仅限于人工智能的发展,更囊括了人类智能与知识本质的探讨,本文限于篇幅不再展开叙述。
总结而言,德雷福斯与柯林斯对待人工智能的论点有共通之处:他们皆反对符号主义脱离情境、依赖于形式化外在世界的研究进路。然而,如何让冰冷的机器习得人类智能活动中非表征的和不可形式化的那一面?德雷福斯给出的路径是基于具身性的实践,而柯林斯则转向语言与互动型专长。关于玛德琳的争论充分展示了德雷福斯和柯林斯在具身性问题上的分歧,也展现了来自科学技术学和现象学对于人工智能的不同思考角度。
结语
关于人工智能的哲学探讨自20世纪后半叶起逐渐成为深刻影响人工智能发展的一条学术脉络。德雷福斯与柯林斯作为其中的代表人物,他们的影响力并没有仅仅局限在哲学与社会科学的共同体内,也同样引起了人工智能研究者和计算机科学家的关注。德雷福斯更是凭借着对符号人工智能未来的悲观预测而名声大振,甚至改变了人工智能在20世纪末的发展方向。如今人工智能迈入了神经网络和深度学习的时代,借助于大数据时代所产生的巨量数据红利,深度学习在过去的10年间飞速发展。计算机科学家所面对的问题不再是符号主义时代如何形式化计算机遇到的每一个问题,而是如何建立起一个基于统计学的、高效率的深度学习模型来表征现实世界中的问题。人工智能也的确在近20年间于许多领域(棋类游戏、交通导航、数据分析等)中表现出了不逊于人类甚至超越人类的智能,这也为人工智能哲学的探讨提供了更多的问题与可能。
德雷福斯和柯林斯的争论虽然主要针对于符号人工智能,但人工智能是否需要身体的问题时至今日仍然具备相当的价值。他们二人所提出的问题和相应的思考仍然可以对应到当今的人工智能发展中。德雷福斯最重要的哲学洞见在于“人类最根本的智能活动是非表征的、不可形式化的、不可规则化的”(徐献军,2019),这对于神经网络和深度学习而言仍然是难以攻克的难题。十分遗憾的是,德雷福斯2017年因病去世,在他生命的最后几年中也没有再就人工智能的新发展留下只言片语。柯林斯在缅怀德雷福斯的文章(Collins,2019)中提到德雷福斯对于基于神经网络的人工智能持有相对乐观的态度,也许神经网络可以解决人类活动难以形式化的难题。而柯林斯在他的新作“Artifictional Intelligence”(Collins,2018)中仍然强调了语言的社会化的重要性,即便是基于神经网络的人工智能也必须要迈过这一关,才有可能掌握真正的人类智能。
参考资料略
来源:《清华社会学评论》第14辑,2020年12月。返回搜狐,查看更多