近日发布的《中国社会科学院国际形势报告(2024)》指出,人类正处在新一轮科技革命的前夜,一批极具潜力的颠覆性技术正在不断加速发展,尤其是人工智能工具。
人工智能领域的突破不仅能带动新兴技术的整体发展,显著提高整体社会生产率,而且极大振奋了高科技产业界的信心,有利于增强国际社会对于世界经济复苏的信心。然而,科技的进步又必然带来新的安全问题。生成式人工智能的出现使得利用“深度伪造”实施欺骗成为可能,既能被犯罪分子用来实施经济诈骗,也能被政治力量甚至国家用来制造和传播虚假信息,或者用于战争中武器装备的自动化。生产、服务和公共管理领域的数字基础设施智能化可以造福社会,但一旦遭受攻击和破坏,将对社会的正常运转产生更严重的冲击。鉴于人工智能的高速迭代,关于人工智能与人类关系的道德伦理问题也越发引人关注。
报告认为,人工智能技术的突破不仅会带来社会运行和管理上的问题,还可能使得当前的大国博弈更具破坏性,促使国家间更多以零和博弈心态看待技术发展,导致全球技术和经济联系加速阵营化。为了化解和管控人工智能发展所带来的各类风险,各层面的合作也在国际社会中逐渐铺开,但新兴技术突破带来的安全挑战还将不断凸显。(鲁大智)