“强人工智能”将如何改变世界

【摘要】人工智能话题，在经历多年沉寂之后，最近重新引起热议。基于“神经网络”构架的软件在机器学习能力方面的进展，让人耳目一新的同时，也让不少人焦虑乃至恐惧。这是因为，“学习”能力原被认为是人类特有的能力，机器难以胜任。如今突破了这条界线，机器与人之间的界限似乎就被抹掉了。关于人工智能的忧虑中，最为值得关切的是人工智能的应用伦理及其价值植入的技术限度。实际上，人工智能的技术飞跃或者所谓“智能大爆发”带来的应用伦理问题，并不是新问题，而是一系列老问题的叠加。它会挑战我们过往的既有经验，却不是颠覆性的“消灭”。无论人工智能如何模仿人脑的“神经网络”，表现如何像人，只要人类心智现象的最终解释没有取得突破性进展，关于人工智能是否逼近人类智能的设问就缺少必要的前提。

【关键词】弱人工智能 强人工智能 量子力学 物理主义 伦理困境 价值理性

【中图分类号】 B82-057 【文献标识码】A

【DOI】10.16619/j.cnki.rmltxsqy.2016.07.003

AlphaGo的“胜利”与人工智能的演进

2016年，是人工智能（Artificial Intelligence，英文缩写为AI）议题高度亢奋的一年。谷歌DeepMind团队开发的AlphaGo程序以4比1的成绩“战胜”韩国棋手、世界冠军李世石，使这种亢奋达到了顶点。

AlphaGo程序利用“神经网络”来模仿专业棋手，并通过与其他同类程序比赛、加上程序自身的“对垒”进行“自我学习”，从而进一步提高其性能。AlphaGo对阵其他围棋程序的胜率达到了99%，并在过去的一场巡回赛中以5比0战胜了卫冕欧洲冠军樊麾。此番AlphaGo与李世石的对垒，五连胜还是负一赢四，并不妨碍我们对人工智能的发展作出进一步的评估。恰如本次赛前发布会上谷歌董事长施密特所表示的，输赢都是人类的胜利。因为正是人类的努力才让人工智能有了今天的突破，人工智能在围棋上“战胜”人类智能只是时间问题。

AlphaGo赢得围棋比赛，使得知识界科技界对待人工智能的两种典型态度再度引起关注：一种是霍金、比尔·盖茨式的“警惕人工智能”，一种是雷·库兹韦尔式的乐观兴奋与期待憧憬。2014年12月，英国理论物理学家史蒂芬·霍金警告说，人工智能的发展可能意味着人类的灭亡。2015年1月，比尔·盖茨在Reddit的“Ask Me Anything”论坛上表示，人类应该敬畏人工智能的崛起。盖茨认为，人工智能将最终构成一个现实性的威胁，虽然在此之前，它会使我们的生活更轻松。库兹韦尔是“奇点论”和“加速回报定律”主张的代表人物，他曾经表示：“要成为一位发明家或企业家，你必须得是个乐观派。对未来所存在的风险，我并非是浑然不觉，我只是对人类安然渡过奇点而无需以摧毁文明为代价持乐观态度而已。”①

自被1956年的达特茅斯学院会议正式确立为一个学科以来，“人工智能”的发展经历了多次起伏。到了1970年代，人工智能的发展开始遭遇更多的批评，随之而来的还有资金支持的锐减。研究者的过于乐观使得一些项目的承诺无法兑现，比较知名的诸如闵斯基（Marvin Minsky）对传感器技术的激烈批评，使得联结主义（即神经网络）近乎销声匿迹了10年。1973年，美国和英国政府更是严格控制对人工智能的投入，那些“没有明确目标的人工智能研究项目”被停止了拨款。

1980～1987年，人工智能重新迎来一个发展高潮，首先是日本投入了8.5亿美金研发机器人。受日本政府投资野心的刺激，发达国家进入了“人工智能”研究的竞赛状态，美国政府和企业再次在AI领域投入数十亿研究经费，但由于研究人员低估了人工智能研发的难度，进展有限，这些投资在80年代末再次受到质疑。1987～1993年，人工智能的发展又一次陷入低谷，美国研究机构DARPA（国防高等研究计划署）的主任甚至认为人工智能不再是研究的重要方向。卡内基梅隆大学移动机器人实验室主任莫拉维克（Hans Moravec）将这种挫败归咎于他的同行们不切实际的预言和承诺。②

从1993年到今天，人工智能进入了加速发展轨道。2012年6月23日，在位于米尔顿凯恩斯的布莱切利公园举行了纪念图灵百年诞辰的图灵测试。一个被设计为拥有“高度可信度”的个性化机器人“古斯特曼”在竞赛中获胜。这次竞赛主要有5台机器人、25名人类成员和30名评委参与，是有史以来规模最大的一次竞赛。经过一系列的5分钟对话后，29%的评委相信古斯特曼拥有类人的人工智能。③这次测试，使得人工智能乐观派相信，人工智能的飞跃式发展即将来临。早在2005年，雷·库兹韦尔在他的《奇点临近》一书中，预言机器的智能将在2045年超过人类的智能。④

在学术界，“奇点理论”遭到了强烈而持久的质疑。牛津大学哲学教授、人类未来研究院创始人和主任（人类未来研究院是一个多学科研究院，旨在帮助一些非常优秀的数学家、哲学家和科学家对人类大问题和全球大事务进行仔细的思考）波斯特姆（Nick Bostrom）在其出版于2014年的《超级智能：途径、危险与战略》一书中认为：“‘奇点’这一术语在很多不同领域被混乱地使用，并催生出一种不合理的技术乌托邦氛围，就好像我们会就此迎来太平盛世了。考虑到‘奇点’这个词所指的大部分涵义与本文的论述不甚相关，我们可以去掉这个词并代替以更精确的术语。”⑤波斯特姆使用“超级智能”（superintelligence）一词来描述机器“智能爆发”之后的智能状态。但是，波斯特姆的这个概念没有把工具性智能与人类的意识和自我意识等第一人称世界的内容区分开来，根据我们下面的讨论可以看出，这种混淆是误入歧途的，但这并不妨碍他的警示的有效性。

弱人工智能复杂化：人类的“超级秘书”

AlphaGo赢得围棋比赛，是不是像有些人惊呼的那样，人类智慧最后的壁垒即将坍塌，“人类应放下自己的骄傲”？⑥其实，人类以这种工具性智能为傲，本来就是概念错置。况且，以下围棋的能力来代表人类智能，也站不住脚。说到底，这是在单一的抽象博弈智能方面，体制化的学术集体战胜了天赋极高的自然个体。这种博弈，无论哪一方赢，都是人类在赢。