现在 AI 深度合成工具操作起来简单很多AI 换脸、盗用别人声音造成侵权的事情也越来越多。不少做内容的创作者还有普通网友都会碰到自己照片或者声音被别人拿去合成视频的情况。以前想要维权的时候准备证据的整个流程比较麻烦很多人维权这件事要花费不少成本。我平时刷行业资讯的时候也看到不少创作者吐槽取证难这件事。面对这样行业里存在的问题短视频平台升级了举报相关的功能新增了专门针对人脸、声音仿冒的一键举报入口方便普通人去维权。一、AI 深度伪造带来的维权难题深度伪造工具慢慢普及之后使用的人只需要几张图片、一小段音频素材就能够做出仿冒别人人脸和声音的短视频。这类视频不光会损害当事人的肖像和声音相关的权益还有可能被一些人拿来造谣、诈骗带来其他一些不好的风险。在这次功能更新之前用户如果看到 AI 换脸、克隆声音的侵权视频需要自己收集很多证据提交材料的过程很麻烦审核等待的时间也比较长。很多普通用户因为取证这件事比较困难到最后只能放弃维权。平台收到的这类侵权投诉一直在变多原来旧的举报分类已经不能够适配这种新出现的侵权情况。AI深度伪造维权难题图二、一键举报功能的核心机制平台在原来的举报页面里面单独增加了 AI 仿冒人脸、盗用声音这一个分类。用户刷到侵权短视频之后可以直接用一键举报入口提交自己的投诉。 在提交证据的时候权利人可以上传自己的原声视频也可以现场朗读指定的文字来录制语音。平台会用人脸和声纹对比的技术核验相关信息。这个步骤简化了证据提交的工作个人还有自媒体创作者都能够更方便地进行维权。除了手机端的一键举报之外平台电脑端的批量举报系统也支持这类侵权内容批量提交适合自媒体、机构一次性举报多条视频。三、对开发者与内容从业者的影响1、对于 AI 开发者开发者在制作深度合成工具的时候需要做好内容溯源、AI 标记这些工作防止工具被其他人用来伪造他人人脸、声音。2、短视频创作者创作者在使用 AI 制作视频的时候不能随便使用其他人的肖像、声音防止出现侵权方面的问题。3、行业治理层面平台新增这个专项举报通道我们能够看出来短视频平台正在完善对 AI 伪造视频的管控这也是网络内容治理里面比较重要的一项措施。四、局限性与行业展望平台一键举报这个功能只能处理平台内部侵权视频下架的工作。如果侵权视频已经被下载转发到别的网站上面平台举报没办法直接去追究责任人。想要索要赔偿或者追究刑事责任当事人还是要走相关的法律途径。 在我看来平台提供一键举报只能算是缓解手段。从长期来看想要管好 AI 深度伪造这类问题需要平台监管、技术识别还有法律法规一起配合起来。一键举报只是平台众多治理手段里面的其中一个后续针对 AI 生成内容的相关规则还会不断调整变化。