近日,一个所谓“日本首相岸田文雄”的相关视频在全球社交媒体疯传。视频中的“岸田”身着西装,语气郑重,屏幕上还配以日本电视台的台标和“突发新闻”字样。然而,从他嘴里讲出的,却是低俗“段子”。
这是一则生成式人工智能制作的假视频。所谓生成式人工智能技术,是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。换句话说,它可以创造原本不存在的对话、故事、图像、视频和音乐,模糊真实与虚假的边界,令人难以判断。
据制作该视频的男子表示,生成这则视频的原素材其实就是日本电视台新闻节目的实际影像,使用工具则是能够配合说话声音进行嘴型加工的生成式人工智能软件。据悉,这一软件学习岸田的声音用了约2小时,制作视频本身则只用了约1小时。
尽管制作“岸田”视频的男子称自己只想搞笑,且为此向日本电视台表示歉意,但细想难免令人后怕——一国政治首脑若可以被技术“操纵”面向公众发言,其发言内容如果是对外宣战呢?这一技术还可能在选举的关键节点生成诋毁竞选对手的假视频,从而以假消息左右选举。
纵观历史,科技的发展从来都是双刃剑,但剑刃指向哪里可以由人来决定。在人工智能迭代加快、应用愈发广泛的当下,各国亟需共同行动,防止人工智能“野蛮生长”。首届全球人工智能安全峰会11月在英国布莱奇利园召开,峰会发布了《布莱奇利宣言》,但距离形成具有国际法约束力、被各方均认可的人工智能治理规章尚有不小距离。
值得关注的是,在今年10月举办的“一带一路”国际合作高峰论坛期间,中国发布了《全球人工智能治理倡议》。其中指出,各方应鼓励全球共同推动人工智能健康发展,共享人工智能知识成果,开源人工智能技术;反对以意识形态划线或构建排他性集团,恶意阻挠他国人工智能发展。中国还提出,积极支持在联合国框架下讨论成立国际人工智能治理机构,协调国际人工智能发展、安全与治理重大问题。
(《新民晚报》11.17 艾舟)