AI与人类距离多远才安全

    据美国媒体报道，特斯拉公司兼太空探索技术公司CEO埃隆·马斯克，在美国全国州长协会会议期间，警告执政者“人工智能AI已经对人类文明构成了重大威胁，急需管理控制”。

    马斯克指出，人工智能AI是人类文明存在的根本风险，“人们应当真正关心AI的存在，因为在未知的黑暗处，AI对人类生活的影响比想象中更大，这将在未来的某一天打击人类”。

    “AI需要小心谨慎地预先警戒，以及政府主动的干预措施”，否则，当人类对AI监控“反应过度”时，一切已经太迟了。近两三年来，人类社会的安防意识已增强到前所未有的高度，大部分国家的公共场合都安装有摄像头，计算机系统能够将一切监控录像或图片上传到云端。由于数据庞大到难以想象，分类、检索和整合信息的工作只能交由AI完成。现如今，AI不仅可以在大数据的基础上完成寻人任务，甚至还能与不同类型的传感器合作，造就整座建筑的“神经系统”，让无生命的事物变得近似“能够呼吸”。

    然而，以摄像头为例，正是由于AI监控，许多不为人知的事件轻而易举就被展现在人们面前，无论是国际会议现场，还是案发事件现场，甚至出于不正当目的留下的犯罪痕迹都被毫无例外地暴露在世人面前。作为一种技术，AI并不具备人类心灵中的“道德感”，因此被无限制使用时，很容易扯下人类身上最后一块“遮羞布”。

    纵观现实，大自然耗费百亿年孕育出智慧生命，人类在辉煌显世了数千年后，模仿自然的手笔，只需短短数十年便能造出与自身不相上下的AI。倘若我们依然对控制权存有疑惑，想要获得文明的安全感，那不妨扪心自问：自然成功“控制”了人类吗？当然没有！因为在人类文明中，自然是背景、是环境、是赖以生存的物质资料的来源，是本质不同的存在。那么，在人工智能的问题上是否同理，人类对未来可能产生的“觉醒AI”能够“完全控制”吗？

    也许彼时，AI眼中，我们就是另一个“自然”！

    （《北京青年报》8.4 罗春晓）