平台岂能轻易判定内容为AI生成

    用户发布的内容被平台判定为AI生成，用户因此被禁言，合理吗？日前，北京互联网法院审结了一起网络服务合同纠纷案。

    原告为涉案平台用户，被告为涉案平台运营者。原告在平台上发布了“如果你对学车感兴趣并且以后打算开车的话，可以在你最清闲的一个假期完成它……”，该内容被涉案平台判定为“包含AI生成内容但未标识”的违规情况，涉案平台作出将该内容隐藏并将用户禁言一天的处理。后原告申诉未成功。

    原告主张，其并未使用AI创作，被告的行为违约，请求法院判令被告撤销隐藏涉案内容和禁言账号一天的违规处理，并在后台系统中删除违规处理记录。

    被告称，根据平台规范的规定，原告发布的内容经机器识别为“包含人工智能生成”，经过人工复核，认定该内容缺乏明显的人类情感特征。被告作为网络服务提供方，有权自行选择合理、必要的方式和技术，请求法院依法驳回原告的诉讼请求。

    法院经审理认为，该案中，被告发布了社区公告载明“创作者在发布包含AIGC生成的内容时，应主动使用标识”“未经标签声明，使用人工智能生成的内容构成违规”。被告有权依据合同约定对涉案内容是否属于AI生成合成内容进行审查和处理。同时，被告既是算法工具掌控方又是结果判断方，应就该事实进行合理举证或解释说明。虽然被告在该案中提供了算法的备案信息，但未对涉案内容属于AI生成合成的判断依据和结果作出合理解释，应对其没有事实依据的情况下对涉案账户的处理行为承担违约责任。

    最后，法院判决被告展开对于涉案内容的隐藏，删除在后台的违规处理记录。驳回原告的其他诉讼请求。

    （《工人日报》7.3 卢越）