下一次当你踏上自动扶梯时，请费心想一想邦帕尔·哈里斯（Bumper Harris），这是一名1911年受雇于伦敦地铁公司的单腿小伙，他整天在艾士阁地铁站新安装的自动扶梯上来回上下，为的是向胆小乘客证明他们是安全的。
倘若非得想到危险的话，那么今天我们更有可能冷静地思考一下自动化技术问题。但是，当按指令运转的机器被能够自动思考、决策并行动的“自控系统”取代之时，公众的忧虑有可能重新抬头。
因此，英国皇家工程学会在一份报告中主张，呼吁所有媒体和政府部门改善和提高由自控系统引发的有关社会、伦理和法律问题的公众知晓度。然而，我们需要这样的争论吗？或者说争论将会延缓给我们带来许多方便的技术的出现吗？
无人驾驶
在皇家航空研究中心的报告中，有两个情景是《新科学家》杂志的读者所熟悉的：一个是自动驱动、转向和停泊的汽车；另一个是能实施健康监测并能友好地鼓动机器人提供友情服务的“智能屋”。
这两样东西都能带来实实在在的好处。自动化交通可以使道路变得更加安全、环保、减少拥挤和更为方便。具有健康意识的屋子和虚拟陪伴能确保人们不会在缺少医疗援助或无人诉说的情况下遭受长期折磨，这些都是有助于较富裕的国家有效应对人口老龄化的好事。
然而，比起它们的人间同类来，这些系统还远不够可靠，英国南安普敦大学的访问教授威尔·斯图尔特（Will Stewart）说，人们也许不太愿意原谅它们偶尔的过错。他认为，当某些事情出错的时候，就可能有了一个“津津乐道的话题”，比如，一个自动化的外科医生犯的错误看起来是既冷漠无情又令人恶心，而人间的医疗缺陷就不会那样。
相关立法
自控系统也有可能带来立法上的头痛之苦。Pitchill咨询公司的克里斯·埃利奥特（Chris Elliott）说：“法律是根据动因而成立的，与系统是作对的。”与自控系统的冲突类似，关于对在当今最复杂案例如撞机事件中追究谁是谁非的问题，法律可能变得非常苍白，显得毫无意义。
如果一辆无人驾驶的卡车撞上了一辆有人驾驶的汽车，那么谁应该承担责任呢？是无人驾驶卡车的设计师还是计算机程序员或是制造商呢？甚至是为卡车提供导航信息的其它方呢？
埃利奥特争辩说，试图确定是个别部件或是程序出现错误，就好比试图确定掌声到底是来自你的右手还是左手一样毫无意义。
自动化难题
那些情景也许会让人不安，但是，正如斯图尔特所说的：“这是一个新情况，但不是一个新近出现的危险情况。”当我们已经把许多初期的自动化技术吸收到了我们的生活中并已接受了这些成果，那么为何我们就匆匆停止争论并有意无意地放慢技术变化的步子呢？
我们中有些人对于汽车已经为我们做了不少这一话题的众多看法感到焦虑不安，但是他们可能会平静地接受未来不断的发展进步，只要他们认为是安全有益的。
另一方面，使公众变得小心谨慎结果只能一事无成，达不到预期目的，像邦帕尔·哈里斯这样的身影将会再次重现。
自由放任的态度似乎过于极端，然而英特网提供了一个例子说明，在没有家长作风的公众讨论情况下，打破了关于责任、正义、道德和伦理的传统观念的改革创新是如何进行的。我们能否给予自控系统以同样的自由，还是说自控系统代表了一个如此重大的变化，它们需要特别对待呢？
资料来源New Scientist
责任编辑 彦 隐