澎湃新闻记者 陈诗悦
2014-12-03 18:01 来自 文化课

Stephen Hawking霍金预言人工智能即将主导世界,终结人类。

著名的理论物理学家霍金12月2日在BBC发表言论,担心人工智能将终结人类,为“机器人威胁论”的阵营又增加一门重炮,一时激起理论学者、技术专家、人工智能的研究者甚至是普罗大众的广泛讨论。

同霍金持相同观点的,还有牛津大学的尼克·博斯特罗姆(Nick Bostrom)教授,他预言,这场由人工智能主导的世界灾变,将在一个世纪内吞噬人类。

而谷歌的技术总监Ray Kurzweil的担忧则更为细致深层,他认为无论技术发展如何迅猛,人们也不可能编写出足以限制住这种绝对智能的道德编码。

普通人对于这场“人类大展机器人”战争的了解,更多可能来自电影作品。《终结者》系列、《2001太空漫游》、《黑客帝国》、《银翼杀手》……早期大荧屏上,就有不少弱小人类对抗人工智能的主题。近来,此类题材的影片又出新招:斯派克·琼斯(Spike Jonze)执导的电影《她》(Her)就讲述了一段发生在一个男人与一台人工智能操作系统之间的浪漫故事。亚历克斯·嘉兰(Alex Garland)即将上映的电影《机械姬》(Ex Machina)则探讨了机器人是否具有人性。而在最新的《复仇者联盟》电影中,超级英雄们将大战奥创(Ultron)——以消灭地球上所有有机生命体为目标的超级机器人,不知道对雷神、钢铁侠和他们的小伙伴们来说,人工智能会不会是难啃的硬骨头呢?

null
电影《机械姬》海报。

另一方面,我们确确实实地感到,人类智慧与高速运转的计算机相比是多么渺小。

除了少数世界顶尖选手,现在,弈棋机几乎可以以固定的程序击败大多数的人,而对它来说这种复杂算学仅仅如同你口袋里的智能手机装的小小程序的一部分。

2011年,IBM的沃森(Watson)重型智能机器人,在美国最受欢迎的智力竞赛节目《危险边缘》(Jeopardy)中击败了两位高手,获得冠军。

许多让人类长期束手无策的问题,因为计算机而实现了创新的解决,这样的例子数不胜数。也许,机器现在看来还不够迅捷,但它们正在变得越来越“聪明”,人类“会当凌绝顶”的现状恐怕很难再维持了。

但是,这种危险是否属实?一旦人类编写了第一款真正智能的电脑程序,之后它便脱离人力、朝着更加智能的形态自我发展,那么人类被其取代命运是否就是板上钉钉的确事呢?

“也许吧”,美国奇点大学人工智能项目联合主席Neil Jacobstein的态度有些模棱两可,“我认为人工智能必然会带来伦理问题,但我们现在的工作一定会大大提高我们在面临这些问题时的生存能力。”他认为,人工智能的工作者们应该充分考虑到其工作可能带来的后果,并为这些可能的全面变化做好准备。

“这些准备最好在技术成熟、智能机器人发展完全之前就做好”,Neil Jacobstein说,“若你不考虑错误的后果,那么发生这些错误的概率将会大大提升。”但他觉得庆幸的是,我们仍有机会先发制“人”,对可能产生的负面影响和威胁做出控制。

null
电影《人工智能》剧照。

伦敦帝国学院研究认知机器人技术的Murray Shanahan教授认为,现在正在积极进行人工智能研究的人们,对于他们的创造所可能带来的疯狂后果并不自知。

“在人工智能的圈子内,人们并不认为这是一个实质的问题”,Murray Shanahan说,“反倒是公众对此忧心忡忡。也许最好的方式是中和一下两种极端,但至少现在还不是恐慌的时候。”

Shannahan的态度颇为乐观,他认为,10到20年内人们还不可能造出与人类同能级别的人工智能,但他也指出,研究者们是时候开始考虑霍金所提出的这个问题了。不过,在担忧那些以前,要建造出真正聪明绝顶的机器人最大的困难莫过于——如何真正创造基于机器的智能?

“对于这一点,我们还没有定论,是应该效仿自然呢还是从零开始。”

对于科幻小说家查尔斯·斯特罗斯来说,人工智能系统的内在威胁并不成立,因为他们不会突然间超越人类或是瞬间就由服从人类主人就变为听从自己。

“没有人想要一台能自我设定的人工智能机器,想象一下它安排自己端着一碗薯片懒散地躺在沙发上百无聊赖地操控着电视遥控器,而不是做一些我们认为有用过的事情。”斯特罗斯举例说。

回顾一下现在关于人工智能的所有工作,其实多数都是将重点置于技术而非人们所担心的自主意识和行为。

“未来的人工智能也许会变得危险”,斯特罗斯说,“但仅仅是因为人类创造了它。”

“在我看来,人工智能对于我们的最大威胁来自于其自觉意识。无人机并不能杀人,指导无人机的坐标并投射地狱火导弹的人才能杀人。斯特罗斯说,“那些控制和主导者们的动机才值得被质疑。”

斯特罗斯指出,我们已经生活在后人工智能世界了,但人们还没有意识到所有的人工智能都不过是人类自己的代理人——“它们不过是思考得更快更有效,但绝不会更仁慈的。”

来源:澎湃新闻

By editor