人工智能的“人工非智能”效应

    就近年来媒体的公共讨论而言，“人工智能”显然已经成了定义这个时代的关键词之一。在各种公共讨论中，美国太空探索技术公司（SpaceX）的创始人埃隆·马斯克的“人工智能威胁论”，无疑是极具影响力的一个声音。

    马斯克把人工智能称之为“人类面对的最大威胁”，并将开发人工智能的努力比作“召唤恶魔”之举。早在2015年，马斯克就联合去年离世的斯蒂芬·霍金一起发出公开信，宣称危险的人工智能军备竞赛已经开打。在2017年8月，马斯克则带领一百多位人工智能领域专家发出公开信，呼吁限制人工智能的开发。马斯克甚至以耸人听闻的语调在推特上声称：人类的第三次世界大战，将会由人工智能开启。

    尽管得到霍金、比尔·盖茨以及许多专家声援，马斯克的“人工智能威胁论”仍遭到了强烈的反对。信息、技术和创新基金会在2015就把马斯克称作“危言耸听者”，指责他不负责任地激起了对即将到来的人工智能革命的担忧。该基金会每年评选“乐戴奖”，专门颁发给那些试图阻碍技术创新的人。“乐戴”一词原指19世纪英国纺织工人发起的一个秘密社团，他们摧毁棉纺机器，声称新技术将毁灭世界。2015年马斯克与霍金因人工智能威胁论而获得“乐戴奖”（比尔·盖茨亦被提名该奖项）。2017年脸书（Facebook）创始人扎克伯格甚至直接在推特上指名道姓批评马斯克关于人工智能的言论“消极而且不负责任”。而马斯克则回呛扎克伯格，声称后者对人工智能的理解“太有限”。

    值得追问的是：马斯克的人工智能威胁论是否只是故作惊人之语？其言论是否值得认真对待？在笔者看来，即便马斯克把人工智能比作“恶魔”引来一片嘘声，即便第三次世界大战之“祸首”听上去像极了哗众之音，从政治哲学角度来看，该论仍值得被认真对待。因为人工智能对人类的挑战，并不是在整体文明的层面上，而恰恰是在人类文明内部，在人类既有政治—经济—意识形态建制的层面上。

    去年辞世的法国哲学家保罗·维利里奥提出“竞速学”，提议要把速度作为核心研究对象。在维利里奥看来，人类文明的变化，根本上是速度的变化：技术的演进，所带来的实质上就是速度的提升（人和物移动速度、信息传递速度等）；政治组织的变化（譬如从奴隶制到官僚制），归根结底也是协作速度的变化。而人类文明所遭遇的各种危机，亦是速度提升所带来的挑战。从这个角度来看，人工智能所带来的挑战，恰恰缘于速度提升：人工智能在“深度学习”上的速度、对大数据的处理速度，完败人的生物“算法”。这轮速度变化的结果，我们已经开始见证：人们正在把越来越多的决断权交给人工智能算法（从购物、获取资讯到择偶、招聘人才等）。

    从竞速学出发，我们可以重新审视马斯克“第三次世界大战”论题：人工智能带来的威胁，并不是它如“恶魔”那样“有意”发动世界战争、毁灭人类文明，而是在当下主权性的民族国家格局下，人工智能所带来的速度变化，正在使它实质性地拿到越来越多的决断权。

    另一位当代法国哲学家贝尔纳·斯蒂格勒最近提出“人工非智能”这个概念。在斯氏看来，“人工智能时代”人类文明自身恰恰会进入“人工非智能”——一种人为导致的“系统性愚蠢”。在这个人工智能声称比你更了解你的时代，你不再耗费精力去了解恋爱对象而是通过约会APP算法帮你定位到“最适合的TA”，国家领导人不再耗费精力去深入了解国际上的伙伴与对手而依赖人工智能的大数据进行分析判断……这才是人工智能对人类文明的真正挑战。马斯克把人工智能比作“恶魔”也许不甚恰当，但“人工非智能”确实是人工智能深度社会化带来的一个无法回避的效应。

    马斯克希望用公开呼吁的方式，甚至不惜满口“危言”以达“耸听”的效果，来阻止人工智能军备竞赛：“国家间对人工智能优势的争夺，很可能引发第三次世界大战。”马氏的努力，除了使他成功荣获“乐戴奖”，显然没能有其他实质性效果。马斯克本人去年投入巨资成立了研发“脑机接口”的新公司Neuralink：“既然我之前对人工智能的警告收效甚微，那么好的，我们自己来塑造人工智能的发展，让它走向好的一面。”马斯克已放弃了继续公开呼吁，但值得我们反思的是：为什么马斯克的努力会无果？在笔者看来有两个结构性因素——

    第一，西方世界仍然处于全球资本主义秩序下。近年来，人工智能使各个产业成本巨幅降低，利润空间大幅增加；对人类生活不断提供各种优质服务，并且服务的潜力无可穷尽。这使得人工智能具有巨大的商业化前景。在资本主义系统中，只要有赢利空间，资本就会源源不断涌入，何况是高额赢利的空间。这一点尤瓦尔·赫拉利看得很清楚：“只要让他们获得新发现、赢得巨大利润，大多数的科学家和银行家并不在乎要做的是什么事情。”

    第二，我们的世界仍然处在民族国家格局中。在由主权国家组成的政治场域中，即便有觉得马斯克言之有理的领导人，亦无法实质性地采纳其建议，使本国自外于人工智能军备竞赛之外。这种所有行动者都具有至高的自主决定权、但实际上却无法自主做出决定的状况，便是一种经典的“纳什均衡”。数学家、诺贝尔经济学奖得主约翰·纳什论证了存在着一类策略对局状况，在该局中没有人可以通过单独改变自己的策略而获利。

    资本主义逻辑（利益最大化）加上主权国家格局（至高决断权），决定了马斯克的人工智能威胁论即便用词再激烈也只是徒劳。马斯克的“危言”真正带来的思想激荡，不在于人工智能在可见的未来是否真的能引发第三次世界大战，而是在于如果他是对的，当下世界这套支配性的政治—经济—意识形态建制，却只能逼使所有人一起眼睁睁地看着它的发生……

    要摆脱这种“人工非智能”的局限，只能通过改变资本主义秩序与民族国家格局，这也是当年马克思提出的方向。在今天，马克思并没有变得更无关，相反，其“改变世界”的“第十一论纲”变得更加迫切，并且在加速意义上变得迫切。马斯克的无力之处，恰恰是马克思的力量所在。

    （作者：吴冠军，系华东师范大学政治学系教授、欧陆政治哲学研究所所长）