YouTube 向娱乐行业开放人脸声纹检测技术，打击 AI 深度伪造内容
阅读原文· ithome.comYouTube向娱乐行业开放人脸声纹检测工具，用于识别并下架未经授权的AI深度伪造内容。该技术类似Content ID系统，专门检测复制他人外貌或声音特征的AI生成视频及音频，标记后当事人可直接审核并要求移除，无需通过常规举报渠道。该工具于2024年启动测试，今年早些时候已覆盖政府官员及新闻记者，现进一步向演艺明星和娱乐从业者开放，无论其是否拥有YouTube频道。YouTube与CAA、UTA等经纪公司合作优化了该系统。
IT之家 4 月 22 日消息，人工智能深度伪造技术为媒体内容创作开辟了诸多可能性，该技术的获取门槛前所未有的低，几乎人人都能使用。虽然这听起来是件好事，但也意味着不法分子同样能接触到这项技术。人工智能时代最大的担忧之一，便是如何管控网络上由人工智能生成的虚假欺骗性内容。作为该领域的领军企业之一，谷歌对此有着诸多举措与考量。旗下视频平台 YouTube 正将其人脸声纹检测技术向娱乐行业开放，这是该平台打击未经授权的人工智能生成内容的最新行动。
据IT之家了解，该系统的运行机制与 YouTube 现有的内容识别系统（Content ID）十分相似，后者可识别受版权保护的音乐与视频。不过这款新工具并非扫描旋律或影视片段，而是专门识别复制他人外貌或声音特征的人工智能生成视频、音频内容。
一旦该技术标记出疑似匹配内容，受影响的当事人有权审核相关内容，并要求立即下架。这让公众人物能够守护自身的数字身份，无需通过常规且通常更为迟缓的举报渠道处理。
这并非 YouTube 在该领域的首次举措，该平台早在 2024 年就已着手打击人工智能深度伪造内容的泛滥，最初仅向小部分用户测试这款工具。今年早些时候，平台将其使用范围扩大至政府官员、政治候选人及新闻记者群体。
值得注意的是，该工具并非仅面向内容创作者。YouTube 表示，演艺明星与娱乐从业者无论是否拥有或运营 YouTube 频道，均有权使用。
YouTube 与创新艺人经纪公司（CAA）、联合人才经纪公司（UTA）、威廉 · 莫里斯奋进经纪公司（WME）以及 Untitled Management 等艺人经纪机构合作优化了该系统。