科幻浪潮的兴起从来都不是单独发生的,它总和当时的科学的发展所密切相关。从这个意义而言,正如大刘所说,科幻作家的想象力其实并不如科学家,而科幻的繁茂的枝叶也正是从科学的坚实的根基上生长起来的。五六十年代的科幻黄金时代,也正是科学技术发展的黄金时代;而进入新世纪,最新的科幻浪潮无疑是“后奇点”(Post Singularity)科幻。

“技术奇点”的概念是基于人类科学进步的一个自然观察:总的来说,人类的科学进步的速度是越来越快的。人类从学会使用工具到进入农业时代花了数十万年的时间;从农业时代到蒸汽机用了上万年时间;而蒸汽机到电气时代,不过200年光景;而电气时代到目前的信息时代,也就不到一百年。这说明人类的科技进步速度是一个加速度,或者按照某些理论,是呈指数发展的,那么可能在不久的未来,人类的科技的进步将会快到这样一个程度,在之后技术将会变得与之前完全不同,就跟数学上的概念“奇点”一样,这之后的世界将完全无法预测。

技术奇点将以一个什么样的形式到来呢?从目前来看,人类的科技发展的主要方向有三个:生物,能源和信息。这三个领域中的任何一个产生了突破,都会导致奇点的到来。在生物领域,人类如果能够彻底的搞清楚生物的秘密,突破进化的限制,最终将生物世界和人类自己塑造成任意的形状,那无疑是技术奇点的产生;在能源领域,人类如果最终发现了核聚变或者比此要更加先进的,近乎无限能源的产生办法,那么科幻迷们常常爱说的“星辰大海”的时代就会到来,人类会突破地球的重力井,扩展到星际之间,那也是奇点的一个产生方式;而在信息科学领域,人类最终制造出了人工智能,它的智力必然会远远超过人类自身,技术奇点也会到来。这个过程还有另外一个称呼,叫做“超人巨变”。

The exponential curve of technological innovations leading up to the Singularity as predicted by Ray Kurzweil in Time Magazine

计算机的性能是一条指数发展的曲线

从目前的科学发展来看,生物或者能源科技的突破需要基本理论的革命性突破,就如同当年相对论和量子力学的产生或者DNA的发现那样的突破,而这样的突破目前来说还没有任何先兆。相比于生物或者能源,信息科学领域是最有可能产生奇点的,因为最能够支持“奇点”理论的就是计算机科学的进步。著名的摩尔定律:“每十八个月芯片的晶体管数量会增加一倍,价格降低一半”就是一个标准的指数定律,而现实中计算机性能的发展也很好的符合了摩尔定律的预测。在未来学家Ray Kurzweil的那本《奇点临近》里,作者就举出了很多的指标说明我们现在处于指数发展的一个平缓期;到了一个临界点之后,指数发展会变成近乎于无穷大的斜率,技术发生了爆炸,人类社会就进入了“奇点”时代。

“技术奇点”理论的兴起是八十年代,当然,它算不上一个严肃的科学理论,只能算作对未来的某种估计。在科学哲学上,“奇点”的理论基础来自于科学的“范式转换”说。

对科学理论的发展路径最广为人知的理论是“可证伪”说;这个理论是波普尔所推广开来的,在这个理论的视野里,科学是一个不断进化的过程;后人不断的提出新的证据证伪前人的科学理论,并且将新的证据化归为新的理论;然后新的理论再被更新的、更精细的观察数据所证伪,这就是科学前进的步伐。

而著名的科学哲学论者托马斯·库恩在他的《科学革命的结构》中提出了一个更接近于科学实在发展路径的理论:“范式转换”(Paradigm Shift)。科学并非是一个缓慢进步的过程,而是科学革命,从一个范式飞跃向另一个范式的过程,这两个范式之间不是兼容的,并不存在一个“循序渐进慢慢改进“的科学。一段时间之内,只会存在一个统一的科学研究的框架,亦即范式,而当时的科学则在范式内进行常规问题解决。从古希腊的力学到经典牛顿物理学,从牛顿物理学到爱因斯坦的相对论,再到量子力学,都是范式转换;生活在旧范式里的人是绝无可能理解新范式的。推而广之,农业社会到工业社会再到信息社会,也是范式转换的过程,一个生活在农业社会中的平民是理解不了工业社会的。而奇点的到来就是一个新的范式转换。我们这样的生活在信息社会的平凡人类是无法理解后奇点的社会的。

“技术奇点”概念的普及本身就与科幻密不可分,给予这个理论的普及很大帮助的就是一个数学家兼科幻小说家,弗诺·文奇,他的一系列科幻小说有力的普及了这个概念。实际上,连“奇点”这个词的使用,都是文奇开始的。而他的科幻小说也基本上是围绕着这个概念进行。其中最杰出的就是“界区”系列:《天渊》和《深渊上的火》,还有前年才出版的《天空的孩子》。


《深渊上的火》里的三界区设定

“界区”系列基于一个初看上去非常玄幻的宇宙设定:银河系被分为了三个部分。处在银河系内层的爬行界,在这个界区之内,任何物质的速度都无法超过光速,地球就处于这样一个界区之内;处在外层的飞跃界,在这个界区之内,物质可以超过光速,智慧生命可以超光速旅行,但是这一界区之内的智慧生物最多只会有跟人类差不多的智力;再就是处在银河系悬臂之外的超限界,这一界限内存在的都是超级智能,人类的智力水平对他们来说就像蚂蚁之于人,这些超级智能有一个统一的称呼叫做“天人”,对于普通的智慧生物,他们就跟神一样。

为何会出现这种界区的分野,小说里没有说明,但是暗示很可能是人工的,上古时期的超级人工智能为了保护普通智慧生物所设下的分类。而为什么只有超限界才会出现超级人工智能,我在十五言已经写过一篇文章,认为很可能是因为超限界的数学规律改变了,P=NP。

“界区”的设定起初会让很多科幻迷不太容易接受;因为世界设定本身是奇幻小说所擅长的内容。但是“界区”的设定更多的,是在暗示人类发展的阶段。所谓的“爬行界”,就是人类在没有发展出信息科技的时代;而“飞跃界”,则是人类发展出信息科技之后,已经大大扩张了生存空间的时代;最终的“超限界”,就是奇点之后的时代了,超级智能的出现迅速的将世界改造成了现在的我们完全无法想象的状态。

克拉克三定律中最著名的一条无疑是:“足够先进的技术与魔法无异。”而文奇所设定的超限界非常符合这样的概念。超级智能所发展的技术对于普通的人类等级的智慧生物而言,与魔法毫无差别。所以很有趣的一点是文奇的界区设定的适应范围极广,很多科幻都可以与这个设定无缝兼容。比方说日本漫画家贰瓶勉所画的《Blame!》,就可以视作典型的”后奇点“类型,设定为超限界里的一个世界所开发的自动工厂失控之后的故事。


漫画《Blame!》。其实是一个典型的后奇点故事,发生在一个遥远的未来,无论是地球还是人类都变成了我们不能理解的样子

弗诺·文奇还写过一些非智能爆炸的“后奇点”小说,最典型的就是《彩虹尽头》和相同世界观的《费尔蒙特中学的流星岁月》。极度发达的信息技术让整个世界分化的千奇百怪。其中有一个很有趣的技术是这样的:需要将图书馆里的纸质书电子化,最快的方法是什么?将书切成碎片,然后用鼓风机吹到一个封闭管道里。管道四周布满了高速照相机,可以将书的碎片飞舞的场景全部照下来,然后通过图像识别将碎片拼接起来,这样就能将纸书电子化了。看到这里,如果有生物学基础的读者肯定会想到当年DNA测定所使用的“霰弹枪法”,这可以说是直接的推广。这个方法快速,有效,但是是毁伤性的,于是《彩虹尽头》的故事,就从抗议这种纸书电子化技术开始。

实际上,生物技术产生爆炸之后的”后奇点“科幻小说也有一些,最著名的应该是格雷格·贝尔的《血音乐》和《达尔文电波》。《血音乐》就非常典型,生物技术上的突飞猛进导致了整个世界乃至宇宙的巨变。

真正意义上的人工智能的出现的前景现在还不清楚,在“奇点大学”的预测里,这个时间节点是2060年前后。也就是说,这篇文章的大多数读者都很可能能够活着看到奇点的来临。

而奇点的到来对于人类是不是个好消息?很不幸,大多数的未来学家都对此持悲观态度。超级智能产生之后,“增进人类的福祉”这一项很有可能并不包括在它的目标里。就算是包括了,人类自身对于所谓“人类的福祉”究竟是怎样的一个范畴都会有争议,就更别提让超级智能来决定如何增进人类的福祉了。在它“优化”世界的这个过程中,人类很可能会像遇到了先进欧洲文明的美洲文明一样被消灭掉,只是这个过程会更快,更无情(几个小时到几周时间);而人类在这个过程中甚至都不会像《终结者》里的那样,还有能力组织一支反抗军;在这个过程中人类连一丝一毫的机会都不会有。


Transcendence这部电影大概是第一部描写“超人巨变”过程的电影。当然,最不科学的是,人类赢了

关于为什么人类没有赢的可能性,一位AI理论研究者Eliezer Yudkowsky曾经提出了一个非常有趣的思想实验,叫做“AI盒子实验”(AI-Box Experiment)。

这个实验的假设是这样的:假如我们制造出了一个超级人工智能,我们将它关在一台电脑里,切断对外界的一切联系,只留下一个文字窗口和外面的人联系,我们能不能用这种方法来确保它不被放出来,直到我们确认了它是安全的为止?

Eliezer Yudkowsky就做了五次这样的实验。在实验中,他扮演AI,另外一个人扮演“看门人”,规则如下:

AI方必须说服看门人让AI出来,完全通过一个文字交流窗口,而且必须是看门人完全自愿的(套出看门人的密码或者指纹等方式不算在内);这个过程有两个小时的限制,但是交流必须达到一个最低量级,看门人不能够完全拒绝交流直到两个小时耗完;同时,AI方不能够用真实世界的手段来说服看门人(比方说“让我赢了我给你20美元”)。

可以看出,文字交流窗口,完全自愿的同意,以及两个小时的限制,这对于AI方的限制极大。但是在五次试验当中,Eliezer Yudkowsky仍然成功的三次说服了“看门人”,赢得了比赛。需要注意的是,他赢了前两次,而后面三次两方是在赌博,输的一方也会输钱,所以看门人一方有可能会因为这个原因而非理性判断来拒绝释放AI。

这个实验其实相当有力的支持了Eliezer Yudkowsky的论断:一个比人类更加聪明的人工智能是不可能被限制住的。普通人对于超级智能的想象往往是类似“雨人”的形象,有超级强的计算能力却缺乏心智;实则不然。很自然的,超级的智能肯定会有超级的策略水平,人类不可能在耍阴谋诡计或者战略战术上胜过超级智能。

那么更加自然的推论就是,人类在与超级智能的斗争中不可能赢。奇点之后的世界对于人类而言,很可能并不是什么友好的地方。

比起设定不错但是故事老套的《超验骇客》(Transcendence)之外,好莱坞更加严肃而深刻的奇点影片应该是电视剧《疑犯追踪》(Person of Interest)。剧中的主角Harold开发除了一套系统The Machine,用来大规模的监视人类社会来侦测恐怖分子,但是这套系统看到了一切,它的智能足以推断出人类社会中发生所有的事件,于是故事就此展开。


The Machine sees everything

这部电视剧非常深刻的讨论了超级智能与人类的关系。剧中的世界与现实的世界没有多大差别,但是实际上已经平顺的进入了后奇点时代,两个“神”(也就是两个超级人工智能)已经接管了世界,人类对此无能为力。而神与神之间的战争由微妙的人类之间的互动模式展开,这部剧正好讨论了之前所说的主题:人工智能是否会照顾到人类的福祉?开发出The Machine的Harold经历了非常艰苦的努力才使得他的Machine对人类充满善意,而另外一个人工智能“撒玛利亚人”(Samaritan,显然是来自“善良的撒玛利亚人”的典故)并不关心人类,这意味着,编剧(克里斯托弗·诺兰的弟弟,乔纳森·诺兰)对于人工智能对人类的态度同样是悲观的。

“后奇点”科幻浪潮里,除了弗诺·文奇以外,还有一个非常杰出的科幻作家,就是查尔斯·斯特罗斯。基本上他的所有小说都是关于奇点的世界的小说,但是在这些小说里,奇点发生的原因个个不同,有很多非常脑洞大开的设定。

在经典短篇《抗体》(Antibodies)里,数学家证明了P=NP,于是AI觉醒,奇点到来;经常会认为人类可能会是在机器人或者核武器或者基因灾难中毁灭,但是在数学规律里毁灭,仍然是个非常新鲜的设定。在另外一个短篇小说《导弹差距》(Missile Gap)里,人类实际上是外星人的实验动物,将整个地球表面摊开之后传送到一个太阳系那么大的平面星体上……于是所有的卫星和洲际导弹统统作废。

查尔斯·斯特罗斯最先锋的“后奇点”科幻小说,应该是他的《渐加速》(Accelarando)。在这篇小说里,人类所创造出来的超级智能最终拆解了太阳系的内行星,用这些行星的原材料做成了一台超级计算机——这个概念叫做Matrioshka Brain。它是由戴森球发展而来的:利用恒星能量的最优模式是将恒星整个包起来,不让任何能量泄露。那么,Matrioshka Brain就是一台这样的将恒星包裹起来的超级计算机。更高阶的推论则如下:凡是能够产生文明的智慧生物,发展的终极都是产生这样一台超级计算机,这些超级智能们通过人类目前科学尚不知晓的方式互相通讯,而不会泄露任何电磁信号。这也是费米悖论的一种可能的解答。


艺术家笔下的Matrioshka Brain。虽然从轨道动力学角度来讲,其几乎不可能是一个完整的球体

”后奇点“科幻小说与80年代以来兴起的”赛博朋克“类型实际上有相当大的差别。这个类型的确是”赛博“的,而不是”朋克“的。赛博朋克的类型元命题是在网络的时代,单枪匹马的个人反抗系统的故事,这也是”朋克“的真意(”赛博朋克“的源流需要另一篇文章来讲述);而”后奇点“科幻关注的是庞大的系统,和信息科技的进步本身息息相关,所以,称其为(小者语)”严厉的赛博“更为合适。

人工智能界也有“强AI”和“弱AI”的假说:“弱AI”假说认为,真正的智能需要一种特殊的结构,也就是人脑的结构才能够产生;也就是说,“智能”这种软件需要搭配特殊的硬件(神经网络等)才能够运行;而“强AI”假说认为,无论是什么样的结构,一旦系统的复杂度达到了一个临界点,智能就会自发的涌现出来。至于现在的计算机科学界对于“人工智能”的探索,仍然无法判断那种假设是正确的。但是机器学习(Machine Learning)领域告诉我们,实际上只要有足够多的样本,简单的线性定律就能够收敛到足够有意义的结论,简直就是一种巫术(Witchcraft)。这种技术不由得让人担心,可能人的智慧比我们想象的要浅薄得多。

周穆王西狩于昆仑山,遇到了一个大师工匠偃师,制造出了和真人一模一样能够跳舞唱歌甚至能够向宠姬抛媚眼的假人。偃师制造的有可能是人类有史以来的第一个人工智能。制造人是神的工作,人自己来做,是僭越。当年,各地的人们集合起来要造巴别塔直通天堂,上帝觉得这么做根本就和自己把他们当初放在地上的目的完全冲突了,“变乱他们的语言”,于是巴别塔垮掉了。人类制造超级智能的努力最终是否会成功,现在并不知道。但是,制造超越我们自己的智能,做上帝的工作,或者干脆说,制造出神本身,是人类一直以来不断追求的目标;我们这一代人在临死之前,可能真的能够看到一位新的神灵的诞生,但是这对于我们以及我们的子孙后代的福祉到底有什么影响,那就真的只有神才能回答。

来源:十五言

By editor