让深度合成技术在法治轨道上健康运行
【资政场】
当人的面容可以被复制、声音可以被克隆、数字身份可以被模拟时，什么样的行为属于合法创新？什么样的行为构成违法侵权？近年来，随着人工智能技术的迅猛发展，AI换脸、AI拟声等深度合成技术因其逼真性和趣味性不断拓展公众的认知空间，深度合成技术在不同应用场景之下展现出越来越广泛的社会价值。然而，有人发现自己的照片被制作成换脸视频在网络传播，有人未经授权被“变成”各种数字形象，还有人遭遇利用AI克隆亲友声音实施的诈骗。技术创新带来便利的同时，也不断引发公众对于深度合成技术应用行为边界的思考。
合法应用的“双重通行证”
以AI换脸、AI拟声为代表的深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。面对这类技术，不少人存在一种认识误区：只要技术先进、用途新颖，似乎就天然具有正当性。事实并非如此。
在我国现行法律框架下，AI换脸、AI拟声等深度合成技术的合法应用，至少需要同时具备两个“通行证”：
一是权利人的明确同意。根据个人信息保护法第二十八条、第二十九条的规定，人脸、声纹作为生物识别信息，属于敏感个人信息。处理敏感个人信息应当取得权利人的同意，还必须是单独同意，藏在某些App或者平台冗长用户协议里的概括授权就不符合此项要求。因此，无论是影视剧制作中的特效换脸，还是数字音频出版中的拟声朗读，都必须获得权利人的书面或电子化单独同意。
二是全链条的标签标识。按照《互联网信息服务深度合成管理规定》和《人工智能生成合成内容标识办法》的明确要求，深度合成服务提供者在提供人脸代换、人声仿生等服务时，可能导致公众混淆或者误认的，必须在合理位置添加文字、图形或语音等显著提示标识，并在文件元数据中嵌入隐式标识，向公众明确提示此内容由AI合成，尽量减少误导公众的潜在风险。
技术滥用的三层法律风险
当不具备同意加标识的“双重通行证”时，AI换脸、AI拟声等深度合成技术的滥用可能触发民事侵权、行政违法和刑事犯罪三个层面的法律风险。
脸和声音是每个人独一无二的“人格名片”。民法典规定，不得以利用信息技术手段伪造等方式侵害他人的肖像权。对自然人声音的保护，参照适用肖像权保护的有关规定。自然人声音权益及于经AI技术处理后仍可识别出特定主体的合成声音，未经许可将他人录音制品AI化并对外出售也构成侵权。此外，若擅自将普通公民的面容通过算法拼接到低俗、带有侮辱性的场景中，导致其社会评价降低，则可能造成侵害公民名誉权。值得注意的是，明知是伪造的换脸视频仍然添油加醋地扩散，传播者同样可能构成侵权。
技术滥用行政违法的追责沿两条路径展开：对个人而言，根据修订后的治安管理处罚法规定，AI换脸拟声的上游行为——非法获取、倒卖人脸照片、声纹样本，与用AI换脸、拟声冒充他人身份行骗，在不构成犯罪的情况下，可处行政拘留。这让违法者即使“不够刑”，也跑不掉。对深度合成服务提供者而言，如若违反《互联网信息服务深度合成管理规定》第九条、第十条规定，未落实真实身份信息认证，或者未对使用者的输入数据和合成结果进行审核，监管部门可以针对具体违法行为采取相应监管和处罚措施。监管部门发现深度合成服务存在较大信息安全风险的，可以依法要求深度合成服务提供者和技术支持者暂停信息更新、用户账号注册或者其他相关服务并限期整改。
我国刑法对深度合成技术的滥用尚未规定专门罪名，对于滥用技术严重侵害法益的行为，司法实践主要依托既有罪名体系进行涵摄，其刑事风险可循“行为链条”作系统观察。
在上游数据获取环节，非法爬取、买卖用于训练换脸拟声模型的人脸照片、声纹样本等生物识别信息，可能构成侵犯公民个人信息罪，破解人脸识别认证系统获取数据的还可能触犯非法获取计算机信息系统数据罪。
在中游技术供给环节，明知他人利用深度合成实施犯罪仍提供换脸软件、克隆工具或技术支持的，可能构成帮助信息网络犯罪活动罪或非法利用信息网络罪。
在下游内容滥用环节，则依侵害法益的不同分别评价——侵害财产法益的，如换脸拟声冒充亲友、领导实施电信网络诈骗构成诈骗罪，以合成不雅影像相要挟索取财物构成敲诈勒索罪；侵害人格法益的，伪造他人不雅影像散布或捏造事实贬损他人名誉，构成侮辱罪、诽谤罪，合成淫秽视频并传播、牟利的，构成传播淫秽物品罪或制作、复制、出版、贩卖、传播淫秽物品牟利罪。当技术演变为犯罪工具，任何妄图隐匿在“算法面具”后挑战法律底线的行为，都必将受到刑法的重击。
以良法善治引导科技向善
如何规范AI换脸、AI拟声等深度合成技术的应用，守住“眼见不为实”时代的安全底线？唯有通过全方位、系统化的法治建设，方能真正引导科技向善。
首先，应积极推动综合性人工智能法的立法进程，提升黑灰产的违法成本。我国目前已形成多层次规范体系，但综合性立法仍有待完善。面对大量开源技术“离线化”在本地运行、不带水印的治理盲区，亟须在专门立法中将算法安全、数据权益、生成内容权属提升至更高的法律位阶，明确开源社区的源头守门人责任，并引入高额的民事惩罚性赔偿机制，彻底斩断黑灰产的获利空间。
其次，全面压实传播平台的筛查责任，推行“以技术制约技术”。社交与内容分发平台作为信息传播的闸门，必须建立起包含“核验元数据、用户声明、迹象识别、人工审核”在内的全流程筛查体系。监管部门应当引导科研机构与头部企业加大对“深度伪造检测技术”的研发投入，鼓励平台部署高精度的反AIGC伪造检测算法。凡是未能提供合规数字水印、疑似恶意伪造且未加打标的音视频，建议实施精细化限流或直接阻断，从源头上压缩虚假合成内容的生存空间。
最后，优化司法救济路径，降低群众的维权门槛。针对AI侵权“取证难、溯源难、维权贵”的民生痛点，司法机关应当在民事诉讼中，针对此类高科技侵权案件探索过错推定与举证责任适度缓和机制。在原告能够提供初步证据证明其肖像、声音或者其他人格权益受到深度合成技术侵害的情况下，应当由深度合成服务的提供者或传播平台承担更多的技术合规性证明责任，并协助司法机关进行日志追溯。
法治的终极价值，在于为技术安上方向盘，为社会划定安全线。只有引导深度合成技术在法治轨道上健康运行，我们才能在享受科技便利的同时，安心守住全社会的信任基石。
（作者：劳佳琦，系北京师范大学法学院副教授）