受人工智能研究进展的警示，一些科学家正在考虑是否对建立在计算机基础上的智能系统可能的失控加以研究――这种系统在分担社会的劳务方面，包括从打仗到在电话中与雇主聊天所占的比重正与日俱增
图为能自行充电的捕食者“雄峰”机器人
一种能自行把门打开、找到电源并为自己充电的机器人――由人工遥控的“捕食者雄蜂”机器人――还可以接近计算机并将无人能阻止的计算机病毒杀死。然而，科学家担心的是，类似于这样的机器人其“行为”一旦失控，将会引起社会的混乱甚至产生危险的后果。
超智能机器人的出现
在计算机科学家眼里，尽管他们认同科幻影片“2001：奥德赛宇宙飞船”中描述的那台功能强大的智能计算机（我们距此还有很长的一段路要走），但是他们有正当的理由担心，技术的进步在很大范围内会改变未来劳动力就业的性质，并迫使人类与那些越来越接近甚至超越人的行为的机器人在一起生活。
譬如，在种类繁多的实验技术领域，有的机器人能与病人互动来模拟对病人的同情；有的则像计算机程序中的蠕虫病毒那样，能抗拒人们对它的灭杀。可以说，它们的智慧已经达到了一种生命力极强的高级智能阶段。
曾在加利福尼亚州召开的一次人工智能研讨会上，尽管一些从事人工智能研究的机器人专家不完全相信会出现超智能机器人的可能性，也不认为智能会从互联网上自然而然地冒出来。然而他们相信，能自动杀死计算机病毒的机器人已经出现或正在出现。
他们特别把注意力放在这样的一种不祥之兆上，即犯罪分子会利用人工智能系统用于他们的犯罪活动上。譬如，利用语言合成系统仿冒他人的声音从事犯罪，不难想象，这将会造成什么样的严重后果。如果人工智能技术被巧妙地用来从听筒上盗取个人信息，其后果又将会如何？
研讨会还探讨了未来机器人可能对人类就业造成的威胁，譬如说智能自动驾车技术、依靠软件的个人助理以及家庭服务机器人等。就在不久前，美国硅谷机器人研发公司Willow Garage，研制出了一种能在真实世界中行驶的服务机器人。
今年2月25日，美国人工智能促进协会（AAAI）在加利福尼亚州的阿西洛马召开了一次非公开的“关于人工智能的未来”研讨会，会议的一份重要报告将于下半年的晚些时候公布。早在1975年，世界领头的生物学家们也在阿西洛马尔开过一次研讨会，会议讨论了通过在有机体中置换基因而重塑生命的可能性。但考虑到其可能带来的生物危害和伦理道德问题，科学家在终止其中某些实验的同时，为重组DNA的研究制定了指导方针，以使这方面的试验能继续下去。
见仁见智的智能技术
2月会议是由AAAI会长、微软公司的埃里克·霍尔维兹（Eric Horvtz）组织召开的。霍尔维兹博士认为，随着技术的进步，人工智能系统因此可能会变得失控，科学家们应该对可能出现的超智能计算机作出反应。
数学家I·J古德（I.J.Good）于1965年曾提出一个“智能爆炸”概念，即聪明的计算机会设计出其智能比它们更高级的计算机。此后，计算机科学家弗诺尔·文戈（Vernor Vinge）在他的讲义和科幻小说中把人类将制造出比人更聪明的计算机观念加以通俗化――当这样的超智能计算机出现时，将会引起社会巨大的变化，以致“人类的时代将宣告结束。”
譬如，已经在电影和文学作品中引进的这种观念，在一些科学家的眼里会表现出不同的感受。太阳微系统公司创始人之一的威廉·乔（William Joy）认为，这会使人感到不知所措；而雷蒙德·库兹维尔（Raymond Kurzweil）等一些科学家，则对超智能计算机的出现表示赞许。他说，这样的计算机会给生命的延续和财富的创造带来巨大的进步。
“在过去5——8年间涌现出的一些新事物，”霍尔维兹说，“（说明了）技术专家正在逐渐地取代宗教，他们的理念在某种程度上与‘带人去天国’的理念有异曲同工之处。”包括库兹维尔的技术乌托邦理念，在硅谷引发了人们的想象力。今年夏天，一个名叫奇点大学（Singularity University）的机构开始授课培养骨干，旨在引导这些进展的方向，并帮助社会与由此带来的后果相适应。
机器人真的会超越人类的智慧？
尽早让民众了解真相
“面对技术专家和民众强烈关注的智能机器人发展的呼声日益高涨，我认为或迟或早我们不得不对此作出说明或进行评估，”霍尔维兹说。而AAAI的报告也将会对“人类对智能机器人失去控制”的可能性作出评估。
不仅如此，我们同时还要解决与之有关的社会、经济、法律和道德的问题，以及如何应对人与计算机的关系可能发生的变化。譬如，如何处理一种与你的配偶一样有灵性的机器人的关系。霍尔维兹称，一个专门小组正在制定引导该研究方向的办法，以便把技术用于改善社会，而不是将社会推向技术灾难的深渊。譬如，某些方面的研究只能限制在有安全保障的实验室中进行。
今年2月的人工智能研讨会可能会成为事关这一领域未来的一次关键性会议。1975年阿西洛马研讨会的组织者、1980年诺贝尔化学奖得主保罗·伯格（Paul Berg）称，对科学界而言，重要的是在警告或反对声变得不可收拾之前，引导民众了解这些事情因果关系。以转基因食物为例，伯格认为由于长期以来不把问题挑明，引起了民众之间的议论，致使事情越发变得复杂，解决起来就非常棘手。
卡内基·梅隆大学人工智能和机器学习教授汤姆·米切尔（Tom Mitchell）说，2月会议使他改变了原先对问题的看法。“开会之前，我对人工智能的前景十分乐观，并认为比尔·乔和库兹韦尔的预言高瞻远瞩”，他说，“但会议后，我认识到今后应审慎地正视这些问题，尤其是对收集个人隐私的数据资料更是如此。”
霍尔维兹表示，虽然他有些担心，但他还是冀望于人工智能研究能为人类造福，甚至还可以弥补人类的不足。他最近演示了一个建立在声音基础上的声控系统，他设计的这种系统是用来询问患者的症状，并以充满同情的口吻与病人交谈。当一位母亲说她的孩子患腹泻时，出现在屏幕上的一个面孔便会说“很遗憾听到他患上了这样的病。
一位医生后来告诉他，这种系统能对人的感情作出反应，真是太神奇了。”
资料来源The New York Times
责任编辑 则 鸣