面对高科技时代的挑战——《人将何为》后记

    在这篇后记里，我想简要的叙述一下我思考这本《人将何为》所考虑的问题的缘起，也谈谈我理解这些问题是什么性质的问题？高科技的挑战是不是真实的危险？人在应对这些挑战方面可以有何作为？或者如人们常说，人类总是可以大有作为的，但这作为是不是也需要在方向上有所调整？

    我在2017年以前对技术问题并没有特别地关注，写过一篇“战争手段的发展与道德理性的成长”，做过一次“对这个世界的失望与惊奇”的讲演，也在主编《生态伦理》中了解到某些技术对生态环境的严重影响，但并没有做过专门的研究，甚至很长一段时间里不喜欢看科幻电影和小说，因为觉得那太虚幻，而现实生活中有许多紧迫的问题，直到后来认识到：技术才是我们时代的“最大真实”。

    专门的思考开始于为2017年世界哲学大会启动仪式召开的学术研讨会准备论文，因为会议的主题是“学以成人”，而当时正逢机器的自我深度学习见出成效，还有阿尔法狗打败了人类的世界围棋冠军等事件，使我觉得似乎机器倒是在努力“学以成人”，当然，只是努力“成人”的一个方面——智能。因此开始阅读相关书籍，努力思考人与物、古代人和现代人作为的差别，警觉到近代以来人们精力投向的一个根本转折，就是开始了以驾驭物质和技术为主导的价值追求。而这种追求如果越来越强，一意疾行，有可能导致在推进文明的同时也走向文明衰退。

    而我自己的经历可能也对我转向关注技术的飞跃与文明的命运起了作用。作为一个在乡下长大的孩子，从童年到文革初失学的几年，经常去捡柴、抓鱼，采摘。高中的时候先是认真的务农一年，然后是泛泛的学工一年，接触到了一些不同的农活和工种，然后当兵十年，再进入大学读书，1990年代开始就进入大家现已熟知的生活了，使用日益更新的电脑、手机，也开始游走世界。

    像我这一代中国人，可能几乎都有这样一种相当长的文明史的体验：从农业文明到工业文明，再到今天的高科技文明，甚至最前面还有一个“采集狩猎”的阶段。一个人在几十年间似乎就走过了人类上万年的文明历程，尝试过文明各个阶段的滋味。

    因此，可以说，我这一代人可能会更加明显地感觉到我们这个时代的变化之大和技术文明的发展速度之快，而且是越来越快。人类自然科学的兴起和繁荣也就四百来年，与科技紧密结合的工业革命的兴起还不到三百年，而目前最有力地推动着我们的经济发展和社会改变、也最影响我们的日常生活的那些新兴高端技术如现代信息和医疗技术，它们的诞生和飞速发展甚至大多还不到一百年。

    我最初的感觉是惊奇乃至惊喜，直到现在我想我也还保留一种对新技术的强烈好奇。但是，对发展如此之快，对我们生活具有如此笼罩性的影响的技术将把我们带向何方，我的心里却同时也生起一种越来越大的隐忧。尤其是看到人工智能包含着一种产生超越于人的智能的机器的可能性、基因工程包含着一种改变人这个物种或干脆创造一个新物种的可能性的时候，我就更感到不安了。当透过各种技术的可能性深察技术本质的时候，我开始感到畏惧。不再是国家，也许技术将变成一个远比国家更巨大而强有力的“利维坦”，我们将由它全面照管，但可能也要将权利乃至主体性全都交出。

    有关技术及其与人的关系问题不是仅仅和某个国家、甚至某个文明有关的问题，而是和整个人类及其全球化文明有关的问题。这首先是人类的控物能力与自控能力是否相称的问题。打个比方，人类今天发展出来的高端技术似乎有点像孙悟空手里的金箍棒，这个金箍棒能够越变越大，越变越威力无穷，但是，拿着这个棒子的人却不是孙大圣那样的神灵，而就是一个人，当金箍棒变得很大很沉的时候，他就几乎举不起来了，更谈不上挥洒自如，他如果要拼蛮力使用，就很可能伤毁自己。而且，他只知道怎么将它变大，却不知道怎么把它变小（今天的技术可能停滞或倒退吗？），不能像孙悟空那样可以将其收缩自如，乃至塞入耳中，一切恢复原状。而这条金箍棒又还是这人的唯一生存之道乃至唯一乐趣，它既是工具，又是武器，还是玩具，他离开它还没法生活。而这金棒子会随意变化，看来也通点灵性，最后大概会鄙视这个人，乃至取而代之。

    人类的技术发展出巨大的、在地球上几乎可以说是颐指气使的控物能力。假如人类能够同时在道德和精神上无限成长，人能自己变成圣洁的天使，那么，他拥有这些能力、并继续无限地发展这些技术大概也并不可怕，但人类虽然可以改善自己，提升一些自己的精神和道德能力，但人并不是无限可完善的。人就是人。人永远是一种中间的存在。我们也许还可以补充说，人还是一种中间向善和向上的存在，但人却永远不会是完善的神灵般的存在。人要成为神灵尚且不可能，要成为不仅全知全能而且全善的上帝就更不可能了。

    所以，我个人以为，人类实实在在面临着一种来自技术的巨大挑战和危险。许多人可能会持有不同的意见。谈到人类可能面临的危险，一种意见大概会说:“人类可能遇到的毁灭性灾难还很远很远呢，我们为什么还要为此忧心？”比如说人们早已知道了热力学第二定律，地球和太阳系终将毁灭，人类将有自己的终点。但这没什么可怕的啊，这些自然的灭寂无疑还极其遥远呢。甚至比如彗星那种毁灭性的偶然打击虽然也有可能提前发生，但概率很低很低。而且，我们发展技术，不是正可以防范这种危险吗。所以说，对技术的忧虑是自寻烦恼或自卸武功。

    是的，这类自然的、外来的灾难的确可能很远很远，而且人类还可能通过技术部分避免、逃逸和延长自己的生存。但在这“很远很远”和我们“切近的生活”之间，却还有一种危险。那就是人类自己制造的危险。且不说超级智能机器和转基因物种，就是悬在人类头顶的数千颗核弹也随时可能对人类造成灭顶之灾。不仅有现成的核武，一些目前无核的发达国家也拥有迅速进入有核国家行列的能力，尘封多年的毒气、细菌和生化武器也还有可能启封。在今天人掌握如此巨大控物能力的技术世界里，人类要给自己造成严重打击几乎是轻而易举。而我们不能排除总是有狂人的亡命之举或正常人的误判。按照事物的自然进程来说，万物皆有兴衰，人类也不例外，但人类能不能享其“天年”？而人类已经在试图改变自然的进程，不断用人为的技术手段改变外界，也改变自己的身体。

    人们可能又会回答说：“即便就是灾难临近，甚至哪怕就是明天发生，如果这灾难是不可避免甚至不可预测的，那么，为什么要让它干扰我们现在的心态和生活？”我也不完全反对这种意见，也主张一种坦然的生活，我们该做什么还是做什么。但有一种预警也可能是需要的。总得有人发出声音。而且，如果做出努力，也不是全无希望。就如海德格尔所引荷尔德林的诗句所言：“哪里有危险，哪里也就生救渡”。但救渡的前提是：我们首先要看到和正视这危险。

    甚至也有这样一种意见：“即便人类被另一种物种代替了，那么，可能也是不赖，甚至那新的物种——比如说硅基生物，还可能是一种更先进的物种呢。”这是一种非常达观或者说乐观的意见。我几乎可以肯定地说，我说服不了持这种一心相信进步、或者说不畏惧任何变化的意见的人。我承认我还是有一点个人的执念：人类的历史尽管并不很长，文明史就更只有一万余年，人类尽管有一种作为碳基生物的软弱，但可能正是因此取得了丰硕的精神文化成果。我还是珍惜，甚至无比地珍惜这些成果，也珍惜我们人类的日常生活和各种属人的感情。

    在专门研究科技之前，我已经感到，人类精神文化的其他方面与科技文化相比，已然显示出某种落后、停滞甚至无可挽回的衰落的样态。在临近近代的时候，我们还看到过突出的表现于艺术的文艺复兴；在17-19世纪，我们至少看到了艺术、哲学等人文精神文化的发展还能够基本上与科学技术发展并行；但到了20世纪，我们就看到它们在开始走向下行之路了；到了21世纪，我们甚至可以说，这种一上一下已经是一种无可挽回的趋势。一种技术自控的能力本来是可以从这种人文和信仰的精神文化中吸取丰厚资源的，但这种精神文化现在却难以维系自身。

    我在小学的时候，大概是在一本教材中读到过一个有关琥珀的故事：一位德国作家柏吉尔写到一个蜘蛛正扑向一只蝇虫，突然被一大滴落下的松脂一起裹住，松脂继续掉落，形成一个松脂球。过了多少万年，才被一个孩子发现这个松脂球的化石。这个故事不知为何让我感伤很久，那两个鲜活的虫子就这样突然地、被它们完全不知道的原因剥夺了自己的生命。这个故事同时也使我有了一种悠久的历史沧桑和无常感。但和人类目前面临的危险是来自自身还不一样，这两个虫子是遇到了一种偶然的灾难和外来的袭击，一切都还是自然的，包括掉落的松脂。地球史上恐龙的灭绝可能也是因为某种外来突如其发的原因——地球遭遇到了小行星的袭击。但是，恐龙毕竟是有过它上亿年的自身演化史，和几千万年的支配地球的历史的，而人类则只有几百万年的自然演化史（如果从智人来说则只有二、三十万年），只有它一万年的文明演变史——这同时也是它支配地球的历史。

    被种种契机——当前的和早就隐伏的——推动，于是就有了这本书的诞生。在这三年中，我不知不觉在这方面竟然已经写下了十几万文字。下面就简单介绍一下本书的内容。我首先是从人工智能入手的，这就构成了本书的前五篇文章。在第一篇文章中，我探讨了“何以为人，何以为物，人曾何为，人将何为”的问题。在第二篇文章中，我从伦理的角度观察久远的人与物、人与人、以及新出现的人与机器的关系。在第三篇文章中，我探讨了人工智能对人类未来可能提出的最大挑战是什么。在第四篇文章中，我试图回到人类精神文明的开端，回到轴心时代来思考人工智能，因为在古老的开始“接物”的文明发端之后不久，人类就已经有了一种在人的精神与自然万物平衡，也在自己的内部平衡的古老智慧。在第五篇文章，我交代了我研究人工智能，也是整个高科技带来的挑战的基本方法，那就是一种“底线思维”的方法。

    本书的后五篇文章构成了另外一辑。第一篇文章我探讨了高科技之所以是对人类的一种新的严重挑战，是因为它不仅来自人自身的动机，还特别明显的表现出它会带来一种难以预测的严重后果，所以，不能没有一种预防性的伦理与法律。第二篇有关基因工程伦理的文章则比较具体地考虑了在这个领域中的动机分析和后果预防。第三篇文章试图思考随着太空科技的发展，想象中的星际“丛林状态”将对人类道德带来的挑战。第四篇文章是综合性的，讨论现代伦理如何应变高科技时代。最后一篇则回到了我最早关注技术问题的初衷，即战争技术所带来的安全距离的消失意味着什么。

    应该说，经过这一系列的思考，一些一般的看法已经形成。简要的说，就是认为高科技时代的挑战表现出这样一个鲜明的特点——即它带来一种来自人自身的、但却难于预测的严重后果；而人的两种能力的不平衡——人的控物能力与自控能力的不平衡，人的认知事物能力的发展和精神其他方面能力发展的不平衡——不仅巨大，而且还在继续增大。

    这本书中的多数文章曾经发表。《何以为人？人将何为？》原刊于《探索与争鸣》2017年第10期；《人物、人际与人机关系》原刊于《探索与争鸣》2018年第7期；《奇点临近：福音还是噩耗》原刊于《探索与争鸣》2018年第11期；《一种预防性的伦理与法律：后果控制与动机遏制》原刊于《探索与争鸣》2018第12期；《人工智能与底线思维》原刊于《当代美国评论》2019年第1期；《现代伦理如何应变高科技时代？》原刊于《信睿周报》2019年第7期；《重返轴心时代思考人工智能》则属于博古睿中心《当中国哲学遇见人工智能》写作计划项目中的一篇，该书将由中信出版社出版。在此，我要向这些刊物和机构致以特别的谢意。

    我希望通过这些发表和本书的出版得到各种批评意见。我知道，我所发出的声音肯定还是很微弱的声音，但也正是因为微弱，才更愿意“嘤其鸣矣，求其友声”。这“友”不仅包括同感之“道友”，也包括批评之“诤友”。

    我自己也要继续探索。我基本同意海德格尔在哲学上对技术本质的描述，也赞同技术在我们的时代居支配地位的观点，但认为这些还都主要是对一种状态的描述。我们或许还可以从历史上看看技术发展至此的原因或者说动力机制，也看看和它连带着一起发生了什么。而我们在这些历史原因和社会关联的追溯中，或许能窥见解决这一问题的途径或办法之一二。

    （何怀宏）（本书即将由广西师范大学出版社出版）