尼尔·弗格森评基辛格、施密特、胡滕洛赫尔合著的《AI时代：我们人类的未来》

    五十七岁的苏格兰历史学家、斯坦福大学和哈佛大学高级研究员尼尔·弗格森（Niall Fergu⁃son）12月10日在《泰晤士报文学增刊》发表文章，评论美国前国务卿亨利·基辛格、谷歌公司前首席执行官埃里克·施密特和麻省理工学院计算机科学家丹尼尔·胡滕洛赫尔合著的新书《AI时代：我们人类的未来》（The Age of AI: And Our Human Future）。

    弗格森说，基辛格一贯善于从战略层面思考技术问题。早在1957年，他还在哈佛大学教书时，就以所著《核武器与外交政策》一书，提出了防止世界毁灭的有限核战争理论，从而奠定了北大西洋公约组织此后三十年的战略基础。如今，九十八岁的基辛格仍未失去战略分析能力。他与两位合著者在《AI时代》一书中指出，人工智能时代“尚未确定其组织原则、伦理思想、愿望观念和限度观念……人工智能时代需要自己的笛卡儿、自己的康德，来解释它正在创造什么，解释这对人类意味着什么”。

    基辛格等人看到，我们已开始依赖人工智能平台，来实现一系列的服务功能，但其未来的发展不可限量。用于语言生成的GPT-3拥有当前最大的准神经网络之一，中国科学院最近又公布了更大、更强、十倍于GPT-3的预训练模型“悟道2.0”。

    伴随着人工智能的崛起，人类将不得不面对从哲学到军事上的诸多挑战。美国空军的ARTU项目已经可以驾驶飞行器、操作雷达系统，还能抛开人类的控制，实施“最后一击”。作者警告：“如果授权这种机器自行作出针对目标的决定……传统的防御和威慑概念就有可濒于解体。”

    谷歌的人工智能软件AlphaZero在国际象棋赛场上所向披靡时，采用了非正统的、有时让人不寒而栗的战术：“它牺牲了人类棋手认为至关重要的棋子，包括王后。”这就提出了一个关键问题：“如果人工智能按照其计算和估值，建议总司令牺牲相当数量的公民或其利益，来拯救更多的人呢？”人工智能不受人性影响，对传统的信号和伪装不敏感，因而可以像下棋那样，用同样的无情和速度发动战争。到那时，为了避免集体毁灭，也许最终的防御手段只剩下一个：断开连接。

    弗格森说，《AI时代》并没有完全讲明我们怎样应对未来的战争，但它指明了我们为自己制造的新问题。世界因人工智能的发展而改变，其深刻程度，一如它因原子弹或卫星的出现而改变。也许我们应该将人工智能（AI）重新命名，叫它II——非人智能，以此来提高对新危险的认识。

    （王胡）