机器人学(Robotics)已经是一门得到完全充分发展的技术,足以保证它的论著将永垂史册;而我曾经对此将信将疑,因为它是我所虚构的。
不,不是说这门技术,是指这个单词。
1941年10月,我写了一篇机器人的故事,题为‘闪避’(“Runaround”),在“惊险科幻小说”(Astounding Science Fiction)1942年3月那期上首次发表,文中我第一次列举了我的'机器人学三守则那就是:
1。一个机器人应当不去伤害人,或因故障让人遭害。
2。一个机器人必须遵守人给它的指令,除非那些指令会和第一守则相矛盾。
3。—个机器人应当保卫自己的生存,除非这类自卫会和第一或第二守则相矛盾。
这些守则我在故事和随笔中已经多次指出过了,但是实在意想不到的是,别人都(一本正经地)无数次提到它们,把它们当作一定要在机器人上得到体现的东西,它们已经复杂到了需要这些东西的时候了。
于是,几乎有关机器人学发展的任何历史中,都要提一下我和三守则。
当我知道,由于我创造了一门当时并不存在的科学的基础,我已经把自己变成了科技史中的一个脚注时,真有愕然失禁之感。——而我当时是21岁。
这三条守则,和我已经写成的许多讲述机器人的故事,已经给许多人——从热情奔放的青少年读者到这类学术杂志的编辑老手——造成了这样一种概念、认为我在机器人和计算机方面当真是专家。因此不断有人来问我有关机器人学的没完没了的问题。
我怎么办、因而只好就这个主题写一篇问答式的小品。它会满意地解答经常问我的差不多所有的主要问题,而对于那些必须再来问我有关这个主题的一些问题的任何人来说这该是多此一举了。①
1. 阿西莫夫博士,您是如何成为机器人学方面的这般名家的?
岂敢,我不是专家,从来都不是。我一点也不清楚机器人是怎么工作的、只是极其模糊而已。说实在的,我也一点不知道计算机是怎么工作的,同样只是极其模糊而已。我根本没有使用过机器人或计算机,而且关于工业中通常是如何使用机器人和计算机的我也一点不明细情。
我并不因此感到有什么了不起。我只不过是摆事实。我希望知道有关机器人和计算机的一切,但是这么多东西我只好塞进自己的头脑中去,我虽然夜以继日任劳任怨地工作,仍然只能搞到人类知识总和的一小部分装进我的头脑里。
2. 既然如此,阿西莫夫博士,设想您在这方面一无所知,您又怎么写成这么多机器人的故事来呢?
我从未想到我必须这样做。我在三十年代阅读科幻小说时,偶然碰到一些机器人故事并且认识到我要从这些故事中了解这方面的一些什么。
那些故事中的机器人都是些恐吓分子或坏蛋,我发现我不喜欢这类故事,因为这些故事都是擅长恐惧的(technophobic)而我是喜乐好善的(technophilic)。我真心喜欢这样的故事,像在Lester del Rey的‘海伦 · 奥洛’(“Helen O'Loy”)中,或Eando Binder的‘我,机器人’(“I,Robot”)中那样,那里的机器人是惹人喜爱的。
更重要的是,我并不认为机器人就一定要讨人喜欢,只是因为这样就好。应当把它设计得符合某些安全标准,正像其它任何机器应当处在一个有理性的技术社会中一样。所以我开始写的机器人故事中,它们不是平白无故的讨人喜欢而是因为它们不得不如此。这就是我对这个领域个别的一支流派(sub-genre)的贡献。
3. 那意思说,在您开始写您的机器人故事时,您已想到这机器人学三守则了?
有一点儿。我心中有这个概念但我并没有明确到要将它落实在具体的文字上。
我写的第一篇机器人故事是1939年5月的‘罗比’(“Robbie”),那时我19岁(它刊登在“超科学故事”(Super-Science Stories)1940年9月号上,题为‘奇怪的游嬉伙伴’(“Strange Playfellow”))。在这篇故事中,有我的一个特点,那就是机器人是一名英雄,“他就是不得不忠实、慈祥和善良。他是一个机器人——造就如此。”那就是我关于第一守则的最初暗示。
在‘理性’(“Reason”),我的第二篇机器人故事中(“惊险”,1941年4月)我有一特点,即“保证了那些机器人处于下级地位。”这是关于第二守则的暗示。
在‘说谎的人’(“Liar”),我的第三篇机器人故事中(“惊险”,1941年5月),我给第一、第二守则一点说明,当时我说机器人的‘基本守则’是:“在任何情况下都不可使人受到任何一点伤害,即使这类伤害是由另一个人直接指挥的。”
然而,直到‘闪避’我的第四篇机器人故事为止,并没有把它们统括为目前那种措辞的三守则,而那是因为John Campbell,《惊险》的近期主编给我指出了它们。我始终认为John发明了这些守则,但每当我指责他的时候,他老是说它们是在我的故事中的,只是我没有费心把它们提炼出来罢了。恐怕他是对的。
4. 但是您说您杜造了‘Robotics’一词。真是这样吗?
是的。尽我所能来回忆,John Campbell并没有将这一词和三守则联系起来用。然而我在‘闪避’中这样做了,我相信这是在出版物中第一次照面。
当时我并不知道这是一个杜造的名词。物理学惯常把这种“-ics”后缀用于各类分支:如有mechanics(力学),dynamics(动力学),electrostatics(静电学),hydraulics(水力学)等等。我认为把研究robots(机器人)的学问叫robotics(机器人学)是理所当然的。
直到至少十二年后我才发觉‘robotics’并没有列入第二版韦氏大全字典或者(我很快查对了)我所查阅的其它任何字典中。尤其是,当韦氏第三版出版时,我又立即查找‘robotics’,还是没有找到。
所以我开始说,我曾经杜造过这个词,因为确实我是这样做了。
1973年中,Harper & Row公司出版的“Barnhart氏‘1963年以来的新英语’字典”问世。它收进了‘robotics’这个词,还从我声明杜造的那篇随笔中引了一段话。还就是我所说的那些,但是至少字典编者并没有提到以前还有其它什么人使用过这个词。
这个词现在是完全肯定下来了,甚至被用作机器人技术专业杂志的刊名。坦率地说,我不得不承认,能发明一词收进科学词汇中去这使我多么高兴。②
5. 我经常听到您的机器人被称为‘正电子机器人’(“positronic robots”)。为什么是正电子的呢?
当我第一次开始写科幻故事时,正电子只不过发现了六年,这是一种除了电荷相反外其它性质都和电子相同的粒子。这是被发现的(且在当时还是唯一的)最初的一点儿反物质,因而带有一种科幻的味道。
这意思就是,如果我说‘正电子机器人’而不说‘电子机器人’我就有点标新立异和未来主义而不是俗套。
更为重要的是,至少在我们的世界上,正电子是非常短暂的粒子。电子塞满了我们的世界,而正电子和其中的一个电子相撞两者就同归于尽,它们的寿命大概不比百万分之一秒长多少。
所以我曾想象过闪忽即逝的正电子所循的‘正电子小径’。这些小径类似于动物神经系统的神经细胞,而正电子本身类似于神经冲动。小径的确切的生命机能(nature)受正电子势的控制,而在某些势被定得过高的地方,某些思想或行动实际上就成为不可能。这类势的均衡归结为三守则。
6. 当然,产生一个正电子会要花费,就亚原子规模而言,大量的能量;同时,这种正电子,当它遭遇上一个电子而湮灭时,就亚原子规模而言,产生大量的能量。这种产生正电子的能量从何而来;正电子湮灭,能量又往何处而去呢?
我既不知道也不关心怎样来回答这个问题。我从来不提这种事。假定(写,我并不发愁)未来的技术会掌握它而且对这种过程了如指掌不会有人怀疑它或对它评头品足——这样的假定并不比当代人在他一扳开关而澡房的灯一直亮着的时候担忧在发电厂内发生了什么会更有多大的意义。
7. 谈起正电子能量的事,阿西莫夫博士,使我纳闷,您的机器人从哪里获得能量来做它们的工作呢?从哪里?
我假设了某种形式的核能(或‘原子能’),在三十年代我们都这么叫它。
我在1939年写我的第一篇机器人故事时,铀裂变刚好发现,但是,当然,我还没有听说过。然而,那没关系。大约从1900起,在原子内部存在着一个巨大而集中的能源已是毫无怀疑的事了。要告诉的标准‘信不信由你’的计费单是,如果可以把一两物质中的全部能量都取出来那将足够开动一艘大型远洋班轮横渡太平洋。
因此,一般的科幻推理是,可以将某种非常小的物体,作为一种‘原子能装置’嵌入机器人中;如有必要,可以保持几百万年运行不息。
随着时光流逝,我学到了有关核能实用前景的大量知识,我蛮可以给出一些当代头条标题而且卖弄聪明地说些铀分裂和镉棒之类的话,可是我不那么做。我觉得我这样是对的。我未提能源的细情,因为这和故事的情节毫无关系,同时我知道这不会给读者带来不快。
8. 在您最早的一些机器人故事中,您没有提到计算机,然而肯定地说正电子脑实际上是一种非常复杂、紧凑,而且通用的计算机?为何您不提这些呢?
因为我从来没想到要这么说。我是三十年代科幻小说的创始人、作家们是根据过去的事实来写这东西的。
碰巧幻想小说世界尽是些赋以人为生命的人形物体,包括古莱姆③和弗朗肯斯坦④的怪物。也有各种人形的'自动机这类东西是风行的。卡必克(Capek)给它们创造了个词‘robot’(机器人),然而这个词被应用于一个长期存在的概念上。
另一方面,直到二次世界大战期间建造了第一台电子计算机以前,计算机实际上并未真正风行。早些时候的机械计算器都是那么简单它们绝对产生不了‘能思考的机器’的思想。
因为我写机器人故事刚好是在二次世界大战前开始的,计算机并不存在于我的意识中,我既没有谈到也没有想到它们。即使我不自觉地做了什么,我还是实在没有为计算机的引用帮过什么忙。
在我最早的那篇机器人故事中,我的英雄小女孩遇上了一个‘会说话的机器人’,它‘把它那一大堆笨重的导线和线圈的四肢伸开躺着就占上了二十五平方码的地盘。’既然它提到有‘一个用油润滑的飞快旋转的齿轮’,那我就未曾设法在它的联系手段上要制定电子学的概念,我所有的不过是一种机械计算机而已。
到1944年11月我写故事‘出逃’(“Escape”)的时候[它在1945年8月以‘荒谬的出逃’(“Paradoxical Escape”)为题发表在《惊险》上],我已有了另一种巨大的非袖珍的结构了,我称之为‘能思想的机器’,并呼唤它‘布莱恩’⑤。那是和第一台电子计算机,ENIAC⑥,的出现差不多时候写的,当然,尽管我对此一窍不通。
最后,我确实开始写计算机故事了。我记得其中第一篇是‘特许’(“Franchise”),似乎这是在1955年8月发表的。尽管那样,我从未把机器人和计算机完全加以区分,我觉得不加区分还是对的。就我的看法,机器人是一种可行动的计算机而计算机是一种不可行动的机器人。因而此后、我在本文中凡说到‘机器人’,请记得,我使用这词同样包括计算机。
9. 该谈谈对此有什么看法:为什么机器人都是人的模样呢?肯定这不是最有效的外形。
这依旧是历史的问题。机器人成为一种‘人造假人’的传统,这要追溯到人类的想象力。
这是个戏剧性问题。还有什么能比得上创造一具人造的人类的成就更为至高无上——所以我们会有神话中的希腊发明家代达罗斯(Daedalus),他造出了一个铜制的人,太洛士(Talos),叫它看守着克里特岛的海岸。再有,哪里还能有什么比企图设计—具人造的人类来模拟上帝更为亵渎神明的事呢,因此我们亦就明白了维克多· 弗朗肯斯坦的极端傲慢自大。
在这样的背景情况下,科幻小说作家们不将它们做成人的模样就不可思议智慧的机器。智慧和人的外形似乎联系得过于密切以致难于分开。只是出现了电子计算机,它代表一种没有任何固定外形的人工智能,而机器人就被看作可行动的计算机而不再必须有人的模样了。
这样,在‘星际大战’(“Star Wars”)中非常成功的R2D2就被模造成消防龙头的样子,由于某种理由,特别是对那部分女读者来说,因而看去十分伶俐。
因此,如果我们步入目前工业中正使用着的那种真正机器人的世界,我们只能觉到最模糊的人类造型(humaniformity)的标志;如果真要有的话。然而,它们所能完成的任务,到目前为止,还是非常原始的和有限的。当机器人变得更多方面适用,同时它们的能力更普遍化时,它们便会更接近人的模样。
我这种想法有两个理由:
a)我们的技术是围绕着人的外形来建立的。我们的工具,我们的用品,我们的家具,都是造给人类使用的。它们适合我们的双手,我们的臀部,我们的双足,我们的臂长,我们屈身的方式。如果我们使唤的机器人有和我们一样的身材,和我们一样的附属器官和肢体,它们像我们一样屈身,它们就可以利用我们所有的工具和设备。它们可以生活于我们的世界之中,它们在技术上也将与我们为伍。
b)它们愈是看上去像我们,它们就愈受欢迎。计算机在许多智力不那么正常的人们中引起这样的厌恶和恐惧,或许其中的一个原因就是它们不是人的模样,因而看起来像是有点兽性的影响似的。
10. 好,那么,您认为什么时候我们会有像您所描写那样的机器人呢,它们聪明多才而且遵守三守则?
这叫人怎么说呢?就计算机技术目前进展的速度来看,在一百年以内将足够的信息容量和多方面的适应性装进一个人脑大小的装置内以造成一个具有相当智能的机器人,在我看来并不是不可能的。
另一方面,单有技术上的能力有可能证明是不够的。文明不会忍受那么长久而足以让机器人达到这般地步。即便如此,可以证明抵制机器人的社会和心理的压力将阻止它们的发展。或许我这种‘人模样的机器人可能看起来和善’的感觉会证明是错误的。而它们会表明是恐怖的(在我的机器人故事中我认为当然的某些事情,顺便一说)。
那么、即使有技术上的能力而且不存在社会的阻力,也还可能在技术方面会和我原来想象的不一样。
例如,每个机器人干嘛要有一个独立的脑来承担一切消耗和毁坏的风险呢?
当然、有某种中心计算机来负责许多机器人的行动是更有意思的⑦。看管一群机器人的中心计算机可以是任何样式的,因为它不会是袖珍式的了,而且虽然要花费些,也肯定不会像一群各自单独的非常紧凑的脑那样费用大。何况,不行动的中心计算机可以很好地加以保护,因而不会再冒在可行动的机器人脑时经常会有的那类毁坏的风险。
我们可以设想,每个可行动的机器人都有一个特征波长,它会对此作出响应并且通过它来和中心脑中它自己的哪个部位取得联系。没有它自己的一个脑,它可能在危险的冒险事业中更容易遭到厄运。缺点可能是,它要依靠电磁通讯,而这恐怕是可以用自然的和技术的手段来干扰的。换句话说,机能失灵的或丧失机能的机器人因而也还是很有可能的。
11. 既然您提到了有机能失灵的机器人的可能性,那怎么总能保证这‘三守则’呢?它们似乎是模棱两可的。您怎样定义人?您说的伤害指什么?
这三守则是故意模棱两可的。最早我在‘闪避’中使用它们,正是这种模棱两可给我提供了情节。早在我的故事‘说谎的人'中我就考虑到'伤害的定义并且在我的小说'裸露的太阳’(《The Naked Sun》,Doubleday,1957)中我甚至安排了机器人的谋杀案,尽管有三守则。
至于给人如何下定义,这是我不时打算论及的事,但是这也是我总感到辣手而避开的事。最后,我在‘你老惦着他’[“That Thou Art Mindful of Him”,《科幻小说杂志》(F&SF),5月,1974]中着手对付这一难题,结果让我自己整整兜了一圈回到了弗朗肯斯坦的情结(complex)之中。
我继续写‘二百年的人’,也许这会部分消了这分孽。那里我不但考虑了人会是什么样的而且也考虑了机器人会是什么样的,而以证明它们有几分结合作为结束。
12. 于是在‘你老惦着他’中您预见了人被机器人所代替,而同时在‘二百年的人’中您又预见了人和机器人的融合。您认为这两者哪个更可能些?
恐怕都不可能。
我觉得并非一切智能都得是相当的。设想,如某些人认为,海豚具有和我们相当的智能。然而它的进化和它的生活方式还是和我们的迥然不同,以致我们似乎不可能会有什么共同基础。我们各自的智能看来性质上是如此不同因而没有办法判断是海豚不如我们先进还是有可能比我们先进得多,因为没有一个定量的比较方法。
如果在人和海豚的比较中确实如此,那么在人和机器人的比较中何尝不会更其如此呢?
人的智能是超过三十亿年生物进化的结果,是通过对核酸和蛋白质起作用的不规则突变和自然选择的过程逐渐变化过来的,它的成就的推进标准就是繁殖阶段幸存者的标准。
机器人的智能是到现在为止三十年来技术发展的结果,是通过对金属和电的系统起作用的人的定向设计和实验逐渐变化过来的,它的成就的推进标准就是对人来说有用的标准。
这确实是非常奇特的,如果它们并不以迥异告终,这两类智能否则就是无处相同了,因而无法作直接的比较。
机器人的智能似乎专门从事于根据确定而又重复的算术运算以正确无误的精度和不可思议的速度仔细检查细微的部分。在这方面它早已远远超过我们而且这种优势会永远保持下去。
人的智能似乎专门从事于靠一时的猜测(the conjectural leap)对整体和进程作直觉的了解。在这方面我们远远胜过机器人而且这种优势也会永远保持下去。究竟,我们可以给机器人如何编制程序使它们具有直觉能力,如果我们并不知道我们自己。是怎么能直觉的?
即使我们可以使机器人更加像人,相反也罢,为什么我们要这样呢?为何不把各自的专长利用起来,使机器人越来越精于它对部分的权衡而使人(最后通过遗传工程)越来越精于他对整体的权衡。
因此我们可以有一共存的安排;这种安排是机器人和人在一起的时候远比那一方有可能单独时要多得多。
在我的《里捷贝莱》(LijeBaley)的一组小说中我的用意就在于此。‘钢的洞穴’(《The Caves of Steel》—Doubleday,1953)描绘了一个人超过机器人的社会;而在‘裸露的太阳’中描绘了机器人超过人的社会。计划写的这组小说中的第三篇是要证明这种共存的均势——但是虽然我试了,我缺乏能力去描绘我思想中还模糊不清的东西。
我在1958年初次尝试的时候就失败了,而且此后我从未真正自感我是能胜的。真遗憾,当我还是二十来岁的时候没有学到手同时也没有变得聪明起来充分认识到还有我缺乏能力去做的事情——。
[The Magazine of Fantasy & Science Fiction,1980年10月]
————————
① 但是我在臆想。我知道,问题将会继续下去。
②我也发明过‘Psychohistory’(精神史),已收进科学词汇,然而,唉,不是我创造时的原意了。
③古莱姆(Golem):十六世纪希伯来传说中有生命的假人。
④弗郎肯斯坦的怪物英国作家雪莱(Mary W. Shelley)于1818年所著小说中的生理学研究者Frankenstein,他创造一个怪物而自己被它毁灭。——译者
⑤布莱恩:Brain,即脑。
⑥ENIAC:即电子数字积分计算机的英文简称。——译者
⑦这种可能性在我最近的机器人故事“二百年的人”(“The Bicentennial Man”——Stellar Two,1976)中提到过。