1.5 专用智能、通用智能和超级智能

到目前为止，计算智能程序主要涉及单个任务的表现，比如下棋、诊断脑损伤，回答《危险边缘》问题之类的。下棋（play chess）曾被认为是体现人类智能的首要例子。下棋的过程被认为能体现运用策略、解读他人动机和深入分析情境等智力要素。从这个角度来看，解决下棋的问题可能和实现通用智能一样还有很长的路要走，因为它需要具备许多更高的认知功能。一台会下国际象棋的计算机必须对对手进行评估，了解对手的动机，并分析形势。

事实上，道格拉斯·霍夫施塔特（Douglas Hofstadter）在他的著作《哥德尔、埃舍尔、巴赫》（Gödel Escher Bach）中指出：“在国际象棋中，可能有程序能打败人类，但它们并不仅仅是一个能下棋的程序。它们将会是一种通用智能程序，能像人一样喜怒无常。‘你想下棋吗？’‘不，我下棋玩腻了，咱们来聊聊诗歌吧’。”（Hofstadter，1979, 1999，p. 678）

但实际情况正好相反，我们的计算机程序能下高水平的国际象棋，但它们不能谈论诗歌。国际象棋程序的设计方式与深层心理功能或通用智能没有任何关系。相反，这些程序依赖于一种更为简单的面向特殊目的的方法，它将潜在的象棋步法用某种分支树结构组织起来。算法可在这些分支中搜索，并确定可能导致游戏成功结果的下棋路径。也就是说，国际象棋程序开发者将复杂的下棋决策问题简化为从一系列树分支中进行步法选择的问题。

围棋被认为是计算机所无法完成的任务。即使上面的方法对国际象棋是成功的，但对围棋并不适用，因为海量的围棋可选占位及其可能的组合会使得树的分支构成过于繁杂，无法像国际象棋那样去做出选择。然而，计算机科学家最近能够建立一个系统，该系统可以与世界一流水平的棋手进行对弈，因为他们建立了另一种面向特殊目的的算法。

开发下象棋或下围棋程序的知识对我们解决其他类似结构的问题很有价值。AlphaGo的成功就在于DeepMind团队设计了更为有效的启发式方法以限制在选择一步棋时所必须评估的分支数量。

鉴于这些工作主要是针对特殊目的而设计的简化式计算智能方法，到目前为止，计算机在通用智能方面没有取得很大进展也就不足为奇了。再创造一个具有特殊目的的算法可能是智能的，但即使把每个针对特殊目的的算法集合起来也不能实现通用智能。

换句话说，计算机科学在打造“刺猬”方面很有效，但在创造“狐狸”方面却力不从心。古希腊诗人阿尔奇洛科斯（Archilochus）有句名言：“狐狸知道很多事情，但刺猬只知道一件重要的事情。”当前的计算智能系统擅长特定的任务，但它们还没有达到任何通用化的水平。我们没有理由认为，结合针对特殊目的的系统，最终会导致通用智能的出现。一堆“刺猬”并不能构造出一只“狐狸”。

即使是对于人类而言，通用智能也是一个令人难以捉摸的话题。各个智力测试之间的相关性可能是由于某种大脑效率，但也可能是纯粹的统计假象。如果爱因斯坦有一个更好的大脑，那么也许他可以比其他人在各种测试项上取得更好的结果，但他的天赋却是有限的。人们的智力是由他们的成功和失败来衡量的，而不是由他们在测试中的表现来衡量的，这在很大程度上取决于拥有某种建立专业知识所必需的经验。

即使大脑效率不是卓越的人类智能的原因，它仍然可能是提高机器智能的一个因素。计算机的速度一年比一年快，几年前还慢得离谱的程序，今天已经快得可以接受了。但是，进步的更大原因是对计算机要解决的问题有了更好的理解。更强大的计算机使旧的方法更快、更实用，但它们对通用智能没有贡献，而通用智能需要更为基础的支撑，而不仅仅是计算能力。就如同汽车不仅仅是跑得更快的马一样。

以天气预报为例。随着时间的推移，天气预报变得惊人地准确。2015年对5～7天的预测的准确性与1965年对1天的预测的准确性大致相同（Stern & Davidson，2015）。更好的计算能力无疑促进了精度的提高。但更有价值的是更好的数据带来的好处，例如，更多的气象站和更好的动态模型。更好的计算机能力本身只会加快做出预测的过程。更好的数据和更好的模型使这些预测能够延伸到更有价值的未来。鉴于通用智能的这些局限，我因此对一些哲学家和其他人的担忧感到有些困惑，他们担心我们即将创造出一种通用人工智能，它将在某种程度上取代人类在世界上的地位，就像旧电影《终结者》（Terminator）中所描述的天网（Skynet）一样。

将超智能机器（ultraintelligence machine）定义为一种机器，它可以远远超过任何人类的智力活动，无论人类多么聪明。因为设计机器是一种智力活动，超智能机器可以设计出更好的机器，届时，毫无疑问将会出现“智力爆炸”，人类的智力将被远远甩在后面。因此，第一个超智能机器也将成为人类的最后一项发明（I. J. Good，1965）。

古德（Good）的假设基于这样一个论断，即设计新问题的解决方案的能力就像使用现有解决方案的能力一样，但这两种问题从根本上是不同的。求解爱因斯坦的著名方程与提出它所代表的理论是截然不同的。搜索象棋或围棋的树结构与将这些游戏呈现为树的想法截然不同。我们知道如何给出树搜索的计算方案，但我们还不知道如何构建一个智能程序，使得它具备将游戏转化为树结构来处理的洞察力。

解决定义良好的已知问题可以看作从一个菜单或一系列可选项中选择最优方案的过程。这些选择项可能是离散的，也可能是数值化的，但是所有的机器学习都有这个基本的底层结构。一些特定用途的算法，比如在现有的计算智能例子中使用的算法，已经越来越有能力解决更复杂的选择类问题，但它们仍然没有能力从一个新的角度创造一些东西。已有的证据表明，就“发明”而言（如设计新的不可预见的结构，制定新的科学范式，或者创造新的表现形式），我们需要一套不同于在已知空间进行优化的技能。我们目前还不清楚如何建立一个计算机系统来实现发明创造，但这种能力是实现通用智能的必要条件。

一些关于超级智能机器可能失控的担忧来自自相矛盾的思想实验。例如，尼克·博斯特罗姆（Nick Bostrom）曾让我们想象一个以制造尽可能多的回形针为目标的人工智能机器。然而，它不知何故变得超级聪明，并改写了自己的能力，在制造回形针方面变得更加聪明。它遵循自己的格言，尽可能多地制造回形针，它将可能的一切都转化为回形针，直至摧毁整个世界。

我并不认为这个思想实验很有说服力，不是因为我认为回形针很傻，而是因为它既假设了机器是超级智能的，但又同时假设机器超级专注于干一件事——制造回形针。它那么聪明而又具有出众的通用智能，但只专注于回形针的想法是非常愚蠢的。如果它足够聪明的话，就应该能认识到自己制造回形针背后的强制力，从而做出调整。很难想象如果没有这种能力它会成为超级智能机器。同样难以想象有什么东西能如此聪明，而又戏剧化地只专注于一项狭窄的任务。

还有许多其他理由来质疑博斯特罗姆思想实验的有效性，我们将在后面的章节中更深入地讨论这个问题。就目前而言，我们应该注意到，用来制造回形针的计算机没有任何可以让它自我改进的功能。就像会下围棋的计算机对国际象棋束手无策一样，很难想象制造回形针的机器对提高计算机自身的智能有何益处。它们属于不同的问题，在当今世界或博斯特罗姆的思想实验中，还没有可用的桥接技术使得计算机从一个问题解决空间迁移到另一个空间。它可能学会更好地驾驭回形针制造这一问题空间，但这个空间不包括任何能提高计算机能力的内容。目前还没有一种方法可以让一台下国际象棋的机器在玩这个游戏时感到无聊，进而转移精力去阅读诗歌。创造具有这种能力的计算机将需要一些目前还没有用过的方法，甚至可能还没有想象到的方法。

现在还不存在超级智能，目前的人工智能方法也没有提供实现它的途径。创造超级人工智能需要一种我们尚未想到的方法。不是说这不可能实现，但它确实表明，我们甚至还没有朝着实现这一目标的正确方向前进。人们需要发明新方法来实现这一目标。

这本书的目的是想让大家理解实现通用智能需要具备什么。它是研究的路线图，但还不是研究结果的报告。

当前关于人工智能的新闻报道可能会让人相信，我们不仅处于通用智能的边缘，而且处于失控的超级智能的边缘，这种超级智能首先会夺走我们的工作，然后是我们下一代的工作。

虽然计算智能现在确实能够承担大量以前由人类完成的任务，但它也创造了其他过去从未有过的新工作。它有可能影响和改变许多工作岗位，但它不会在这个过程中摧毁经济，而只是改变它。

如同博斯特罗姆的回形针思想实验设想的那样，以指数方式提高超级智能并摧毁世界的前景不会发生。机器学习可能会迎来更快的发展，但其最终走向将取决于来自世界的反馈，以确定这些新事物是否真的有效。例如预测未来5天的天气需要等5天才能知道它是否有效。虽然旧的气象数据为学习如何预测天气提供了好的数据源，但预报的价值只有在它告诉我们未来天气的真实情况时才能体现。更快的计算机并不能影响天气自然发展（气象数据产生）的过程，因此，一个系统改进自身的速度不仅受到计算速度的限制，还受到数据出现速度的限制。

即使我们解决了所有与通用智能学习相关的问题，其发展也会受到客观世界反馈速度的限制，而这并不受计算机处理能力的影响。我们花了5万年的时间才发明出现在的智能，我们不知道还需要多久才能开拓出通往通用智能乃至超级智能的道路。