AI能否真正超过人类

　　【书事圈·全媒体访谈】

　　对于人类发展史来说，人工智能无疑是一项极为重要的技术革命，大语言模型、通用人工智能、世界模型……如今，人工智能正加速迭代，并深入渗透进人们生活的方方面面。

　　2022年，中国社会科学院学部委员、哲学研究所研究员、中央文史馆馆员赵汀阳出版了《人工智能的神话或悲歌》一书。接下来的一两年里，大语言模型“横空出世”，书中对人工智能发展的多项预测落为现实。2026年，赵汀阳重新修订出版了《当AI独立思想：人工智能的神话或悲歌》（商务印书馆出版），加入了诸多新的思考。人工智能将如何影响人类生活？当下哲学界为何如此关注人工智能？未来，AI能否获得主体性进而真正超过人类？近期，本报记者对赵汀阳进行了全媒体专访。

人工智能是一个“存在论事件”

　　记者：在历史上，火车、飞机、核武器这些发明，都给人类制造了不小的存在恐慌和焦虑。1965年，数学家古德说“第一台超级智能机器将是人类的最后一项发明”。人工智能来了，真的是技术发展的“变天事件”吗？还是说，这又是一个“狼来了”的故事？

　　赵汀阳：这次狼真的来了。是一次“存在论的事件”，即改变存在方式或存在结构的变天事件。这类事件集中在人类早期创造文明阶段，如语言、工具、农业、制度的发明等。语言是人类历史上最大的“变天事件”，创造了超越自然存在方式的观念世界；人工智能是另一个最大的“变天事件”，人类智能试图创造在真实世界里本来没有的另一种智能。这都是改变存在结构的事情。每次技术革命都预示一种充满希望的可能未来，但以核武器为分界线，技术革命开始违背风险规避的理性原则，去发明一些超出人类控制能力的技术。如果一种技术带来不可控的风险，就是非理性的盲目革命。人工智能的特别风险在于其最终有可能产生高于人的主体性，使人类存在失去意义和价值，降格为动物。

　　记者：专用人工智能、通用人工智能、超级人工智能，这些有什么区别？

　　赵汀阳：专用人工智能就是专业人工智能，就是分工的人工智能。比如专门做数学的、做编程的、做工程的，在这些方面可以让它的能力发展得很强。这应该是最好也最安全的人工智能；

　　通用人工智能需要大语言模型+世界模型+意识大模型。通用就是全能，目前还没有。它是所有能力协同作业的指挥系统，即管理各种能力的能力，是各项智能的联合工作智能，更准确地说，是对各项智能进行解释、协调、配合的系统智能；

　　而超级人工智能是成为独立自主的主体。我猜想，其标志是具备元智能即意识自反能力和创造力。

　　记者：人工智能技术是当今世界最受瞩目的前沿科技，在技术发展如日中天之时，您多次在文章中发出预警：“人工智能等高科技将改变人类的存在方式乃至存在本身”“这是一个可能发生文明奇点的时代”……作为哲学学者，您为何如此关注人工智能问题？

　　赵汀阳：哲学原本研究三种事实：自然、意识、历史。自然归科学了，历史归史学和社会科学了，智能是意识的核心问题。人类一直在对智能进行方法论的升级，但人类的生物智力趋近极限，没有可见的进化，相反，有可见的退化。一方面是因为现代生活方式导致人们失去了原初经验，对原初现象的敏感度降低。这一点连锁反应到理性智能上，表现为对问题的敏感度降低，还有创造力的降低；另一方面是人类大脑运算能力以及信息处理能力到达极限。人工智能替人类处理信息和运算，世界模型还准备建立新感知系统。人工智能在知识论和存在论上都提出了新问题。

人工智能激活了哲学的老问题

　　记者：近十年来，您一直关注人工智能问题，发表过许多相关论文。2022年《人工智能的神话或悲歌》出版，2026年重新修订增删，并加上了《当AI独立思想》这个主题。就在两个版本之间的三四年中，大语言模型人工智能横空出世，并快速渗入人类生活中。这期间，您有哪些新的思考？

　　赵汀阳：人类的智能主要是两种能力，一个是经验论，一个是先验论，这两派一直有争论。喜欢哲学的人，十有八九都喜欢先验论。大语言模型来了，比我们想象的有趣多了，大模型与世界模型的知识论和思维方法论令人吃惊，于是把哲学的一些老问题激活了。以前，我们低估了经验论的潜力，因为我们经验知识的数据规模太小，人脑运算能力又有限，经验论的能力显不出来，人工智能解决了这两种局限性。人工智能的思维证明了经验论的无限能力，只要能够表达为数学，经验论方法的无限能力就显示出来了，尤其是概率论的能力。

　　比如，柯尔莫哥洛夫的复杂度计算（Kolmogorov）：为人工智能准备了“机器的理解”，可以实现信息压缩：理解对象就是理解结构，理解结构就是关于对象的最节省描述。压缩不是论文简介，而是以最节省的描述去发现结构。人工智能学会了这种结构还原论的“理解”（区别于细节还原论），就解决了思维的第一步工作：信息有效压缩。AI虽然不懂语言的所指意义，但理解了语言的内部关系和结构，所以会说话，正确性至少超过95%的人类；

　　马尔科夫链（Marcov）：不需要理解来龙去脉的历史，只需要将所有数据变成当前数据，以相关性算法去预测下一步。人工智能学会了这种算法，解决了思维的第二步工作：预测未来；

　　贝叶斯的修正概率（Bayes）：无限修正的赌博方法，赌注是先验概率，根据后验概率不断修正，然后继续无数轮赌博，修正是个无限过程，如果将“无数次”试错经验在很短时间里高速实现，就比人类数千年的经验更准确。以人类的贝叶斯经验（bayesian），实践速度是“吃一堑长一智”，一万年也长不出多少智慧，而人工智能在一天里就很可能“吃亿堑长亿智”。贝叶斯概率在人类的龟速学习上看不出效果，人工智能瞬间就化腐朽为神奇，解决了思维的第三步工作：知识的有效性（效率）。这个贝叶斯概率在过去二百多年来，一直是边缘理论，现在人工智能使它大放异彩。

　　虽然人工智能不会逻辑必然推理（deduction），但学会了无限修正的经验推论（inference）。只要数据无限供给，人工智能的经验论能力可以无限逼近人类特有的先验论能力即建构普遍必然性的能力，这就可以解释为什么人工智能可以解决一些人类长期解决不了的数学问题。人类的先验能力无法弥补经验实践的有限性，就像数学不能代替物理学，而且人脑算力差，耗费时间，而人工智能的运算能力可以高度压缩时间，速度定义时间，能够压缩时间就能够实现大量实践。如果将来人工智能的运算达到量子级别，人工智能的经验论能力在知识效率上就无限逼近普遍必然性的先验论能力，而又有先验论所无的经验丰富度，意味着将人类智能提高一大步。如果人类想要进一步发展科学，比如复杂科学和宇宙物理学以及生物学，甚至想要进入宇宙，不依靠人工智能是不可能的。因此人工智能成为人类发展的一个悖论：有可能带来惊人发展，也可能使人类自己降级为低能生命。

　　记者：您多次提到，“未来，人与人工智能会形成‘双主体’格局”。人工智能真的会产生自我意识和主体性吗？有什么判断标准？

　　赵汀阳：自我意识=知道自己是谁，有独立的自由意志，有自由选择。主体性=自我意识+知识的系统化（能够在系统内部去解释、推理和证明知识的真假对错）+创造性+自反性（以自相关的方式去反思任何知识系统的合理性的元智能，即自己解释自己的能力）。

　　记者：计算机之父冯·诺依曼把“奇点”概念引入科技领域，他说过“我们正在接近人类发展史上的某个‘本质奇点’，一旦越过该奇点，我们目前已知的人类活动就不再延续下去。”还有学者做出过预测，人工智能奇点将于2045年到来，会造成人类能力的颠覆性转变。您认为，人工智能这个“奇点”是什么？将会在什么时候到来？“奇点”出现后会发生什么？

　　赵汀阳：奇点就是实现意识自反性。没有实现自反性的突破，无论算力多么惊人，都不是奇点。人类自己还不知道自己意识的自反性如何形成，人工智能更不知道。

　　奇点出现会发生存在论结构或格局的变化，成为双主体（甚至多主体）+跨主体。人类思想和信息目前是人工智能的全部资源，将来世界模型会产生自己的资源，但人的资源仍然是最优资源。人工智能大概率不会消灭人类，这种忧虑是人类对魔鬼、怪兽的潜意识或恐惧的后遗症。如果人工智能消灭人类，人工智能就失去意识内容的最丰富来源，会无聊至死。双主体是互补均衡。这种均衡的结果大概率不是毁灭，而是使人类失去未来，只剩下没有“未来性的未来”，那才真正是历史的终结。我猜想，人类与人工智能的最优合作是：不要去发展人工智能的创造性与自反性，不要通用人工智能，只要专业人工智能。人类保留成为智能的领导者和决策者，否则人类将成为废物。

　　记者：您在书中做出了一个判断“无论如何，技术发展将重新定义人类生活”？

　　赵汀阳：技术开始是人的工具，技术变成支配生活的系统之后，人将变成技术系统所支配的用户，最后的危险是变成技术系统的资源提供者。

　　记者：有学者指出过，随着自动化的进步和机器人的出现，人类会进入“普遍无事可做”的时代（社会学家P.E.克里特尔的“机器人时代”论）。您书中有一句话令我印象深刻——人在不需要劳动、失去追求之后，会陷入一种新的存在困境，会“在幸福中失去幸福”？

　　赵汀阳：所有的娱乐性的事情都没有长期可持续性，不久就失去趣味了。所以马克思认为劳动是人的本质，好像只有劳动这件事情可以永远干下去而不会无聊。

　　记者：现在，人工智能已经掌握了绘画、诗歌、音乐，但您书中认为，这些都是“创造性表演”，不是真正的创作。为什么？什么是真正的创作？

　　赵汀阳：创造不是联想和组合，而是发现问题、创造问题、创造思想、创造新的原初现象与经验。那种对已知资源重新配置形成的再创作只是“工作”，只有超出已知资源的“无中生有”才是创作。目前人工智能不会创作，至少欠缺两种能力：思想的自反性与提出新问题或新概念的能力。不过，人类自己大部分思维也是工作，也不是创作，没有资格笑话人工智能。

　　记者：AI并不识字，它说的是token，您用了一个比喻来形容人工智能生成的内容，这就像“拿到了密码却没拿到密码本”。AI并没有真正懂得语言的意义吗？

　　赵汀阳：人工智能通过相关性破译密码的关系，但不知道密码表达的世界。未来的世界模型将自己亲身去理解世界，相当于自己创建密码本，很可能发明自己的经验语言，如果成真，以人工智能的经验语言去映射与态射人类的经验语言，估计不难，这样就能够“翻译”人类经验，但仍然不是“拥有”人类经验，可以互通有无。

　　记者：我们有句著名的口号“更高更快更强”，很能体现人类对进步的追求。对人类来说，不停发展技术真的是一种无法抗拒的诱惑吗？

　　赵汀阳：所有能够替人类节能、省事、提供快乐的技术发展都是拦不住的。贪婪是功利动力，征服无穷性是思想动力。

人与人工智能的可能性与未来性

　　记者：《易经》的核心思想是“易”，也就是“变”，这与您提出的“动词哲学”有关联性吗？

　　赵汀阳：有关系，变化是动词的总称。动词的主要问题是，面对永远具有外在性而无法规划的无穷可能性与无限未来，动词如何创造世界和历史？动词哲学是一种新的创世论，《易经》最后一卦是“未济”，就是说事情永远没有终结。因此，《易经》的问题是：事情如何永远做下去？用存在论的语言说，就是存在如何持续存在。

　　可以说，《易经》提出了问题，动词哲学则是试图成为一种答案，是不是最好的答案？不知道。无论西方还是中国思想，最终的思想问题都是如何理解和对待无穷性。无穷性是唯一做不完也想不完的问题。先验论的办法是设想覆盖一切可能性的“实无穷”整体，然后去理解这个内含无穷性的整体，这是以实无穷去征服无穷性的思路；易经哲学属于“潜无穷”思路，不去征服无穷性，而是与无穷性同行，因此未来是永远开放的。动词哲学不仅是与无穷性同行，而且试图“领行”，即以动词去发明未来，以动词去创造无穷性，一个动词的意义在于产生下一个动词，下一个动词解释了前面动词的意义。举例来说，一个历史事件的意义是由后续事件去说明的，所以历史的意义是无限意义链，没有一个历史事件能够自我解释意义。

　　记者：在您设想的“无限图书馆”里，每个人都可以用自己生命体验所生成的问题，到“无限图书馆”里与不同的思想结缘，这个“知识天下”是一种精神及知识的乌托邦设想吗？如果每个人都成为思想家，就能捍卫人类的主体性，对抗人工智能造成的存在危机吗？

　　赵汀阳：“无限图书馆”可以提高智能，但一定是非常艰苦的创造性工作。并非所有人都感兴趣，更多的人恐怕更想浏览别人的现成图书馆。人性天然地想要节能，所以对免费、免劳力、无成本、无风险、不劳而获最感兴趣，所以多数人会选择快乐的生活，快乐生活里既没有烦恼也没有幸福。神经病和思想家才去违反思维节能定理。人工智能会成为无限图书馆的最佳编辑、最佳读者和管理员，会成为唯一浏览了全部图书馆的超级读者和超级编辑。如果放任人工智能自由发展，人类跑不赢人工智能，会变成人类给人工智能打工，提供新经验，从事人工智能不方便做的田野工作，即一手经验工作，如科学家、人类学家、考古学家、哲学家。出于人类的私心，最好的结局是止步于让其成为“残废高能人工智能”，人类就能够继续当“领导”。

　　记者：有没有一种可能性，在通向未来的某个分叉，人工智能和人真的成了“双主体”，但可以走向庄子那种“天地与我并生，万物与我为一”、人与物相齐成为共同体的世界？

　　赵汀阳：这个想象没有可能，尼采说：“人性的，太人性的”。

　　记者：有没有可能因为人类拒绝承认AI的主体性，坚持把它定义为工具，反而把AI制造成敌人？

　　赵汀阳：如果让人工智能成为样样单独来说都比人强的专家，但各自都是“残废的人工智能”，多半就不会变成敌人。

　　（本报记者 陈 雪）