超级智能：路线图、危险性与应对策略

    牛津大学人类未来研究院的院长尼克·波斯特洛姆的担忧是：“如果机器比人类聪明，那么我们将不再是这个星球的主宰。”人类的发展到了一个需要“干预”的时刻。

    真正令人关注的是人工智能使用者的道德，而非机器本身。

    心理学上有一个词语叫做“危机干预”，指的是当人遇见突发且巨大的创伤性事件时，原来惯有的应对模式都起不了作用了，人的情绪和行为会出现失控，而危机干预就是借用心理咨询师这个外力的辅助来帮助个体回到或建立新的内心秩序。其实，不光是我们的内心会出现需要危机干预的时候，人类的发展也到了一个需要“干预”的时刻。

    心理学描述人和动物的差别，说的是我们有情绪，有情感，会思考，会利用工具来创造。正因为自然赋予我们这样的大脑，我们才能完成许多事情。我们不是这个星球上速度最快的生物，但我们发明了汽车、火车和飞机；我们虽然不是最强壮的，但我们发明了推土机；我们的牙齿不是最锋利的，但我们可以发明比任何动物的牙齿更坚硬的刀具；我们之所以能控制地球，是因为我们的大脑比即使最聪明的动物的大脑都要复杂得多。而牛津大学人类未来研究院的院长尼克·波斯特洛姆却对人类目前这个现状提出了担忧，他说“如果机器比人类聪明，那么我们将不再是这个星球的主宰。当这一切发生的时候，机器的运转将超越人类”。他将这样的讨论放在一本书里，《超级智能：路线图、危险性与应对策略》，将来人与计算机竞争，人还会是赢家吗？这本书讨论的是我们这个时代的优先事项。

    尼克先生有一个担忧，人类之所以领先于其他物种，是因为我们的大脑拥有其他动物不具备的功能，然而，我们创造出来机器，创造出了人工智能，如果这种人工智能有一天超越了人类的智力，那么我们的命运会不会被它操控，正如动物里最聪明的大猩猩最后被人类掌控命运一样？

    在泛滥的美剧市场里，有一部电视剧叫做《疑犯追踪》。这部电视剧虚拟出一个“超级BOSS”——一个政府建造出来的掌握最多信息、非常庞大的人工智能。这个机器最开始是用来阻止犯罪的，然而有一天它被病毒感染了，本来保护人类的目标被更改，变成对人类有巨大威胁的智能武器（注意，它的定义依然还是武器）。娱乐市场永远是跟随大众主流，对人工智能的担忧早已在各种文艺/娱乐作品中出现多年，专家们对此的讨论一直没有停息过。

    而《超级智能》的尼克先生将目光集中在哪里呢？他集中在人类具有的一项优势上：我们清楚地知道如何制造超级智能机器。原则上，我们能够制造一种保护人类价值的超级智能。他认为我们占有先机，虽然我们还不能预测出超级智能会对人类造成怎样具体的影响，这会影响我们的判断，如何控制超级智能的问题，“一旦不友好的超级智能出现，它就会阻止我们将其替换或者更改其偏好设置，而我们的命运就因此被锁定了”。

    也有另外的声音反对这样的担忧，认为所谓“人工智能危及人类”，这种担心为时尚早。比如刚刚结束的博鳌亚洲论坛分论坛上，五位世界顶尖人工智能研究者均持谨慎乐观态度，虽然已议论了几年，但“没有任何证据证明计算模式能够产生情感”。几位研究者的论点比较类似：“人工智能对于人类社会可以有很大贡献，没必要刻意强调带来的一些风险，因为人工智能刚刚处于起步发展阶段，远不够先进。”简单来说，目前的人工智能还非常弱小，目前我们看到的人工智能只是嵌入式的人工智能，就是有一些算法可以模拟人脑部分的功能，比如对于语言、翻译，还有对于语音、图像的识别，这些都是非常基础性的。而要让机器能够自主决策，需要有更深层的研究，了解人脑的构造。甚至，我们还没有进入人工智能的时代，我们仅仅是在人机交互的初期，现在所谓的机器人“意识”，其实都是基于大数据基础上的分析预判，是通过各种复杂体系和算法后得出的最合理选择。而真正令他们关注的人工智能使用者的道德，而非机器本身。

    不管怎么说，早一点了解这样的趋势将对可能面临的危险带来帮助，尼克先生的书里搜集罗列了大量的证据，值得一读，推荐给关注人工智能的朋友。