人工智能会消除民主的许多实际优势，并侵蚀自由和平等的理想。如果我们不采取措施阻止它，它会进一步将权力集中在一小部分精英手中。
对被边缘化日益加深的恐惧
民主并非是必要的。由于民主国家在过去一个世纪或更长时间里取得了很大的成功，因此它们成为历史上的亮点。然而，君主制、寡头制和其他形式的威权统治是更为普遍的人类治理模式。
自由民主的出现与自由和平等的理想联系在一起，这些理想似乎是不言自明和不可逆转的。但这些理想远比我们认为的脆弱。它们在20世纪的成功取决于独特的技术条件，而这种技术条件有可能是暂时性的。
在21世纪的第2个10年，自由主义开始声名狼藉。关于自由民主服务中产阶级的能力的问题逐渐凸显；政治变得越来越种族化；在越来越多的国家中，领导人都开始表现出对群众煽动和专制的偏好。这种政治转变的原因是复杂的，但它们似乎与当前的技术发展交织在一起。支持民主的技术正在发生变化，随着人工智能的发展，民主可能会发生进一步的变化。
信息技术继续突飞猛进；生物技术正开始为我们的内在生活（我们的情感、思想和选择）提供窗口。信息技术和生物技术将共同在人类社会中造成前所未有的动荡，侵蚀人类机构并可能颠覆人类的欲望。在这种情势下，自由民主和自由市场经济可能会成为过去时。
普通人可能不了解人工智能和生物技术的任何细节，但他们能感觉到未来的趋势。在1938年，苏联、德国或美国的普通男人的处境可能比较严峻，但他们经常被告知自己是世界上最重要的事物，他们是未来。当他们看宣传海报时（这些海报通常描绘了煤矿工人和钢铁工人的英雄姿态），会发现自己就在其中：“我就在那张海报里！我是未来的英雄！”
在2018年，普通人感到自己越来越无关紧要。在TED演讲、政府智库和高科技会议中，人们兴奋传播许多神秘的术语（全球化、区块链、基因工程、人工智能、机器学习），普通人无论男女，都会认为这些术语与他们无关。
在20世纪，民众反对剥削，并寻求将他们在经济中的重要作用转化为政治权力。而现在，民众担心自己被边缘化，他们疯狂地想在为时已晚之前使用剩余的政治权力。2016年，特朗普和英国退欧得到了许多人的支持，他们仍然享有政治权力，但担心自己正在失去经济价值。也许在21世纪，民粹主义的反叛将不是针对剥削人民的经济精英，而是针对不再需要他们的经济精英。
信息技术和生物技术革命仍处于初级阶段，它们对当前的自由主义危机究竟要负多大的责任，这值得商榷。伯明翰、伊斯坦布尔、圣彼得堡和孟买的大多数人只是模糊地意识到人工智能的兴起及其对他们生活的潜在影响。然而，毫无疑问，技术革命正在加速发展，在今后几十年中，人类将面临迄今所遇到的最严峻考验。
一个新的无用阶级？
让我们从就业和收入开始讨论，因为不管自由民主在哲学上有多大的吸引力，它的力量在很大程度上都得益于一个实际优势：在政治学和经济学中，自由主义的特点是分散决策，这使得自由民主国家能够胜过其他国家，并为人民带来越来越多的财富。
自由主义向每个人承诺分得更大的蛋糕，从而使无产阶级与资产阶级、有信仰者与无神论者、土著与移民、欧洲人与亚洲人和解。如果存在一个不断增长的蛋糕，上述的和解是可能达到的。而且这个蛋糕很可能还会继续增长。然而，经济增长可能无法解决目前因颠覆性技术而产生的社会问题，因为这种增长越来越依赖于更具颠覆性的技术的发明。
当然，对于机器将人们赶出就业市场的恐惧并不新鲜。然而在过去，这种担心被证明是没有根据的。但是人工智能不同于旧机器。在过去，机器与人类所竞争的主要是手工技能。现在人工智能开始在认知技能上与我们竞争。
至少在未来几十年中，人类的智能在许多领域可能仍远超计算机智能。因此，随着计算机取代越来越多的日常认知工作，人类新的创造性工作将继续涌现。这些新工作中有许多可能会依赖于合作，而不是人类与人工智能之间的竞争。人类-人工智能团队可能不仅会比人类更优越，而且还会比独立工作的计算机更优越。
然而，大多数新工作可能需要高水平的专业知识和聪明才智，因此可能无法解决非熟练工人的失业问题或只能以极低工资就业的工人问题。此外，随着人工智能的不断进步，甚至那些需要高智商和高创造力的工作也可能逐渐消失。国际象棋世界就是例子，能够说明这种可能的趋势。在IBM的计算机“深蓝”于1997年击败加里·卡斯帕罗夫（GarryKasparov）的几年后，人类棋手仍在蓬勃发展；人工智能被用来训练人类神童，由人和计算机组成的团队证明比单纯的电脑更加优越。
然而近年来，计算机已经变得如此擅长下棋，以至于他们的人类合作者已经失去了价值，可能很快就会变得完全无关紧要。2017年12月6日，谷歌的AlphaZero项目击败了Stockfis8项目，从而达到了另一个重要的里程碑。Stockfish8在2016年赢得了世界电脑国际象棋锦标赛的冠军，它可以接触到几百年来人类所积累的国际象棋经验和几十年的计算机经验。相比之下，AlphaZero并没有被其人类创造者教授过任何象棋策略，甚至连标准的开局都没有教过。相反，它使用最新的机器学习原理自学国际象棋。尽管如此，在新手AlphaZero对阵Stockfish8的100场比赛中，AlphaZero赢了28场，打平了72场，一次都没有输。由于AlphaZero没有从任何人类身上学习，它的许多胜手和策略在人类看来似乎都是非常规的。这些策略即使不是真正的圣手，也是极具创造性。
你能猜出AlphaZero花了多长时间完成如下的工作吗？从头开始学习国际象棋，准备与Stockfish8的比赛，培养自己的天才本能。答案是4个小时。几个世纪以来，国际象棋被认为是人类智慧的最高荣耀之一。AlphaZero在没有任何人类的帮助下，在4个小时内从完全无知达到了创造性的掌握。
AlphaZero并不是唯一具有想象力的软件。在如今的国际象棋比赛中，抓作弊者的方法之一就是监控玩家展示的创意水平。如果他们下了一步特别有创意的棋，评委通常会怀疑这不是人类的下法，而一定是电脑的下法。至少在国际象棋中，创造力已经被认为是计算机而非人类的标志！今天人类-人工智能团队在国际象棋中正在发生的事情，未来可能会延伸到警务、医学、银行业和许多其他领域。
更重要的是，人工智能拥有独特的非人能力，这使得人工智能和人类工作者之间的区别不仅仅是程度上的差异。人工智能所具有的两种特别重要的非人能力是连通性和可更新性。
例如，许多司机不熟悉他们所行驶道路上不断变化的交通规则，而且他们经常违反这些规定。此外，由于每个司机都是个体，当两辆车接近同一交叉口时，驾驶员有时会误判彼此的意图并发生碰撞。相比之下，自动驾驶汽车会知道所有的交通规则，并且不会故意违反交通规则，而且自动驾驶汽车可以相互连接在一起。当两辆无人驾驶汽车接近同一个交叉口时，它们实际上不是两个独立的个体，而是同一个算法的一部分。因此，它们误判和碰撞的可能性要小得多。
同样，如果世界卫生组织发现了一种新的疾病，或者某个实验室研发了一种新药，我们无法使得世界上所有的人类医生立刻同步更新这个信息。然而，即使世界上有数十亿个人工智能医生，每个医生分别监测一个人的健康状况，它们仍然可以在一秒钟内完成更新，它们还可以互相交流对这种新疾病或新药的评估。连接性和可更新性的潜在优势是如此巨大，以至于即使在某些工作领域某些个人仍然比机器做得好，用计算机取代所有人也是有意义的。
所有这一切导致了非常重要的结论：自动化革命不是由单一的分水岭事件所组成的，相反，这将是更大混乱的连锁事件。旧的工作会消失，新的工作会出现，但新的工作也会迅速改变和消失。人们需要重新训练和改造自己，不是一次而是很多次。
在20世纪，各国政府为年轻人建立了大规模的教育体系，但在21世纪，他们将需要为成年人建立大规模的再教育体系。但这就足够了吗？变化总是充满压力的，21世纪初繁忙的世界已经产生了全球性的压力流行病。随着工作波动的增加，人们是否有能力应付？到2050年，可能会出现一个无用阶级，这不仅是因为缺乏就业机会或缺乏相关教育，而且也是因为缺乏继续学习新技能的精神毅力。
数字独裁的兴起
由于许多人失去了他们的经济价值，他们也可能会失去政治权力。同样的技术，可能使数十亿人在经济上边缘化，也可能使他们更容易受到监测和控制。
人工智能会吓到许多人，因为他们不相信它会听话。科幻小说中都认为计算机或机器人产生意识的可能性很大，不久之后就会试图杀死所有人类。但是没有证据表明：人工智能会变得更聪明而发展出意识。相反，我们应该担忧人工智能对人类主人的绝对服从而非反抗。人工智能与人类开发的任何其他工具和武器都不同；它会使得强者进一步巩固其权力。
说到监视，包括几个民主国家在内的许多国家，都在忙着建立前所未有的监视系统。例如，以色列在监控技术领域处于领先地位，并在占领的西岸创建了一个全面监控体系的工作原型。时至今日，每当巴勒斯坦人打电话、在脸书上发帖，或从一座城市到另一座城市旅行时，他们都可能受到以色列的麦克风、照相机、无人机或间谍软件的监视。算法分析收集到的数据，帮助以色列安全部队找到并消除他们认为的潜在威胁。巴勒斯坦人也许管理着西岸的一些城镇和村庄，但以色列人控制着天空、电波和网络空间。因此，不需要多少以色列士兵就能够有效控制住在西岸的大约250万巴勒斯坦人。
在2017年10月的一起事件中，一名巴勒斯坦劳工在他的个人脸书账户上贴出了自己在工作场所的照片，照片中他的旁边有推土机。在图片旁边，他写道：“早上好！”脸书的翻译算法在翻译阿拉伯字母时犯了一个小错误。算法将这些字母识别为“Ydbachhum”（意为“伤害它们”），而不是“Ysabechhum”(意为“早上好”)。以色列安全部队怀疑这名男子可能是恐怖分子，打算用推土机把人撞倒，于是迅速逮捕了他。当他们意识到算法犯了一个错误后，他们释放了他。即便如此，脸书上的那篇帖子还是被删除了——你再怎么小心也不为过。巴勒斯坦人今天在西岸的经历可能只是全世界数十亿人终将会经历的一个预演。
然而，在大多数情况下，这种强硬的策略可能并不是必要的。在一些国家，自由选择和自由投票的表象可能仍然存在，甚至公众所受的实际控制越来越少。诚然，操纵选民情绪的企图并不新鲜。但是，一旦有人获得了操控人类内心的技术能力，民主政治就会演变成一场情绪化的木偶剧。
在未来的几十年里，我们不太可能会遇到有意识机器的反叛，但我们可能不得不面对成群结队的机器人。这些机器人比我们的母亲更懂得如何触发我们的情感，并在人类精英的命令下，利用这种不可思议的能力，试图向我们推销某种东西，无论是汽车、政治家，还是整个意识形态。机器人可能会识别我们最深的恐惧、仇恨和渴望，并利用它们来对付我们。我们已经在近期世界各地的选举和公民投票中领略到了这一点，黑客学会了如何通过分析有关选民的数据并利用他们的偏见来操纵个体选民。虽然科幻惊悚片中的末日伴随着大火和浓烟，但在现实中，我们可能只会面对一个由鼠标点击带来的乏味末日。
人工智能革命最大和最可怕的影响可能是民主国家和独裁政权的相对效率。我们倾向于认为民主和独裁之间的冲突是两种不同的道德体系之间的冲突，但实际上这是两种不同的数据处理系统之间的冲突。民主在众多人和机构中分配处理信息和决策的权力，而独裁则把信息和权力集中在一个地方。考虑到20世纪的技术，把太多的信息和权力集中在一个地方是没有效率的。没有人有能力快速处理所有可用的信息并做出正确的决定。然而，人工智能可能很快会改变这种趋势。人工智能使得集中处理大量信息成为可能。事实上，它可能会使集中式系统比分散系统更高效，因为当机器有更多的信息需要分析时，机器学习会更有效率。如果你无视所有的隐私问题，把所有与10亿人有关的信息集中在一个数据库中，那么相对于尊重个人隐私且只有100万人的部分信息的数据库，你最终会得到更好的算法。如果一个威权政府命令所有公民进行DNA测序，并与某些中央机构分享他们的医疗数据，这将使得该政府在遗传学和医学研究方面对那些医学数据严格保密的社会取得巨大优势。20世纪威权政体的主要障碍（将所有信息和权力集中在一个地方的愿望）可能成为其在21世纪的决定性优势。
当然，新技术将继续出现，其中一些技术可能会有助于信息和权力的分配，而不是集中。区块链技术以及其所导致的加密货币的使用就被吹捧为对集权的一种平衡。但是区块链技术还处于萌芽阶段，我们还不知道它是否真的能抵消人工智能的集中化趋势。请记住，互联网在其早期也被炒作为自由意志的灵丹妙药，它将人们从所有的集中系统中解放出来，但现在它正使得中央集权比以往任何时候都更加强大。
权力向机器的转移
即使有些社会表面上仍然是民主的，算法效率的提高仍将使越来越多的权威从个人转移到联网机器上。我们可能会自愿放弃越来越多关于自己生活的权威，因为我们会从经验中学到要相信算法而不是自己的感受，最终会失去为自己做决定的能力。想想看，在短短20年的时间里，数十亿人都开始委托谷歌的搜索算法来完成最重要的任务之一：找到相关、值得信赖的信息。随着我们更依赖谷歌来寻找答案，我们独立定位信息的能力就会减弱。今天，“真相”已经被谷歌搜索的最高结果所定义。这个过程同样影响了我们的身体能力，例如空间导航。人们要求谷歌不仅要找到信息，还要为人们导航。自动驾驶汽车和人工智能医生将代表进一步的侵蚀：虽然这些创新将使卡车司机和人类医生失业，但更重要的是他们的权威和责任会转移到机器上。
人类习惯于把生活看作是一场关于决定的戏剧。自由民主和自由市场资本主义将个人视为不断对世界作出选择的自主个体。无论是莎士比亚的戏剧、简·奥斯汀的小说还是俗气的好莱坞喜剧，艺术作品的主题通常是英雄做出的一些至关重要的决定。生存还是毁灭？听妻子的话杀了邓肯国王还是遵循良心而宽恕他？嫁给柯林斯先生还是达西先生？基督教和穆斯林神学同样关注选择的戏剧性，认为永恒的救赎取决于做出正确的选择。
当我们依靠人工智能为我们做出更多的决定时，这种人生观会发生什么变化呢？即使现在，我们也信任Netflix所推荐的电影、Spotify所选择的音乐。但人工智能的体贴怎么会到此为止呢？
每年都有数以百万计的大学生需要决定学习什么科目。这是一个非常重要和困难的决定，是在父母、朋友和不同兴趣和意见的教授的压力下作出。它也受学生自己的个人恐惧和幻想的影响，而这些恐惧和幻想本身是由电影、小说和竞选宣传所塑造的。更复杂的是，一个特定的学生并不真正知道在某一特定职业中取得成功需要什么，也不一定对自己的长处和弱点有现实的认识。
不难看出，人工智能总有一天能对职业甚至人际关系做出比我们更好的决定。但是，一旦我们开始依靠人工智能来决定该学习什么，在哪里工作，以及与谁约会甚至结婚，人类的生活将不再是一场关于选择的戏剧，我们的人生观将需要改变。民主选举和自由市场可能不再有意义，大多数宗教和艺术作品也是如此。想象一下，安娜·卡列尼娜拿出她的智能手机，问Siri，她是应该和卡列宁结婚还是应该和时髦的弗伦斯基伯爵私奔。或者想象一下你最喜欢的莎士比亚剧中的所有关键决定都是由谷歌算法做出的。哈姆雷特和麦克白会有更舒心的人生，但那会是怎样的生活呢？我们有模型来理解这种生活吗？
议会和政党能否克服这些挑战，防止更黑暗的情况发生？目前看来似乎不太可能。技术的颠覆性甚至不是政治议程上的主要议题。在2016年美国总统大选期间，主要提到的颠覆性技术是希拉里·克林顿的电子邮件崩溃。尽管人们都在谈论失业问题，但这两位候选人都没有直接提到自动化的潜在影响。特朗普警告选民，墨西哥人会抢走他们的工作，因此美国应该在其南部边境修建一堵墙。他从来没有警告过选民，算法会抢走他们的工作，他也没有建议在加州周围建立防火墙。
我们该怎么办？
首先，我们需要把理解人类思维的运作方式放在更高的优先级上，特别是关于我们自己的智慧和同情心是如何培养出来的。如果我们在人工智能上投入太多，而在开发人类头脑方面的工作太少，那么复杂的计算机人工智能可能只会增强人类的愚蠢，并培养我们最坏（但可能也是最强大）的冲动，其中包括贪婪和仇恨。为了避免这样的结果，对于我们投资于改进人工智能的每一美元和每一分钟，明智的选择应当是将其投资在探索和发展人类意识方面。
如果我们想要防止所有财富和权力集中在少数精英手中，我们就必须更实际和更直接管理数据的所有权。在古代，土地是最重要的资产，所以政治是争夺土地的斗争。在现代，机器和工厂比土地更重要，所以政治斗争集中在控制这些重要的生产资料上。在21世纪，数据将取代土地和机械成为最重要的资产，因此政治将是控制数据流的斗争。
不幸的是，我们在管理数据所有权方面没有多少经验，这本身就是比管理土地或机器更困难的任务。数据随处可见，同时也无处可寻，它们可以光速移动，你可以随心所欲复制它们。收集的关于我的DNA、大脑和生活的数据是属于我、政府、公司、还是全体人类？
积累数据的竞争已经开始，目前由谷歌、脸书等巨头主导，在中国是百度和腾讯等巨头。到目前为止，这些公司都是“注意力商人”（attentionmerchants），它们通过向我们提供免费的信息、服务和娱乐来吸引我们的注意力，然后将我们的注意力转卖给广告商。然而，他们真正的业务不仅仅是销售广告。相反，通过吸引我们的注意力，他们设法积累了大量关于我们的数据，这些数据比任何广告收入都更有价值。我们不是他们的顾客，而是他们的产品。
普通人会发现很难抗拒这个过程。目前，我们当中的很多人都很乐意放弃我们最宝贵的资产（我们的个人数据），以交换免费的电子邮件服务和有趣的视频。但是，如果以后普通人决定尝试阻止数据的流动，他们很可能会遇到麻烦，尤其是他们可能会依靠网络来帮助他们做出决定，甚至是关于他们的健康和生存方面。
政府将数据国有化可以提供解决方案，它肯定会抑制大公司的力量。但历史表明，在权力过大的政府手中，我们的生活并不一定更好。因此，我们最好呼吁科学家、哲学家、律师甚至诗人，把他们的注意力转移到这个大问题上：如何管理数据的所有权？
目前，人类面临着与驯养动物相似的风险。我们已经培育了温顺的奶牛，它们生产大量牛奶，但在其他方面远远不如它们的野生祖先。它们不那么灵活、不那么好奇、也不那么聪明。我们现在正在创造驯服的人类，他们产生大量的数据，并在巨大的数据处理机制中充当高效的芯片，但他们很难最大限度发挥他们的人类潜力。如果我们不小心，我们会滥用升级的电脑给自己和世界造成巨大的破坏，最终成为退化的人类。
如果你发现这些前景令人担忧，如果你不喜欢生活在数字专政或某种退化的社会中，那么你能做出的最重要的贡献就是找到办法，防止过多的数据集中在极少数人手中，并找到方法使分布式数据处理比集中式数据处理更有效率。这些任务并不容易。但实现这些目标可能是民主的最佳保障。
资料来源theatlantic.com
责任编辑 岳峰
——————————
本文作者尤瓦尔·赫拉利（Yuval Noah Harari）是耶路撒冷希伯来大学的历史学家和哲学家，著有《21世纪的21个教训》（21 Lessons for the 21st Century）。