社交媒体AI生成内容泛滥:LinkedIn超过40%长文为AI写作
阅读原文· pangram.comLinkedIn上40%的长文都是AI写的,这个数据比什么‘我感觉’都有说服力,所有做内容策略的人都该看一眼这篇报告。
安全公司Pangram通过Chrome扩展收集超100万条帖子,分析发现社交媒体AI生成内容泛滥。整体AI检测率13.8%,长文(超250词)中25.72%完全由AI生成。LinkedIn最为严重,超40%长文帖子被标记为完全AI生成,占全部AI内容的62%;X/Twitter近一半文章(23.9%完全AI+22.9%混合)为AI写作。Reddit整体AI率仅4.4%,但顶层帖子AI率达11.6%。分析使用Pangram 3.3模型,假阳性率0.01%。Substack上长文AI率反而略低。
关键发现:
AI生成内容对长文冲击最大
AI垃圾内容正在淹没LinkedIn
顶级帖子的AI生成比例高于回复帖
研究方法与数据收集
结论
两个月前,我们推出了Chrome扩展程序,旨在帮助应对社交媒体上日益严重的垃圾内容问题。它允许用户在浏览社交媒体的同时扫描帖子,标记出AI生成的内容,以便他们能就如何分配注意力做出明智的决定。
Pangram是一家以研究为先的公司,不仅在行业领先的AI检测算法方面如此,在追踪AI生成内容的风险和普及程度方面也是如此。社交媒体是这方面最难研究的领域之一——比新闻文章、研究论文或亚马逊评论要难得多。但它也是最关键的领域之一,因为它可能是我们面临的最大量的AI生成内容来源。
我们相信,理解这个问题很重要,这样才能更好地应对它。因此,我们在Chrome扩展程序中加入了可选的设置,允许用户通过匿名分享他们的扫描统计信息来帮助我们的研究。我们将前几个月的数据整理成了下面的报告。
四分之一的社交媒体长文帖子被标记为完全AI生成
在我们标记为AI生成的所有帖子中,三分之二来自LinkedIn
近一半的X/Twitter文章包含AI写作
AI生成内容对长文冲击最大
在我们数据集中,AI生成内容出现在所有社交媒体平台上。所有扫描项目的平均AI率为13.8%,但具体比例因平台和内容长度而异。在五个平台中的四个上,长内容比短内容更可能是AI生成的。在所有平台上,四分之一的长期内容(超过250词的项目中有25.72%)是完全AI生成的。
Substack是个例外;在那里,完全AI生成内容的比率保持相对平稳,而且较长、内容更充实的帖子实际上比短帖子略不可能由AI生成。
LinkedIn是AI饱和程度最高的平台,超过40%的长文帖子被标记为完全AI生成。然而,如果我们将混合AI与人类内容都算在内,X/Twitter的情况最糟:将近一半的X文章要么是完全AI生成的(23.9%),要么是AI辅助/混合的(22.9%),只有53.2%的X文章被标记为完全由人类撰写。
我们的数据显示,AI 生成的内容在所有平台都是一个普遍问题,而长文内容受到的冲击尤其严重。即使是联合 AI 比例最低的长文平台 Substack,仍有超过五分之一(21.9%)的帖子被标记为 AI 生成或 AI 辅助。这与我们在其他写作场景(例如报纸评论版)中观察到的 AI 生成内容增长趋势一致。
AI 垃圾内容正在淹没 LinkedIn
LinkedIn 在所有平台中的 AI 占比最高。LinkedIn 帖子占扫描总量的三分之一,却占了我们标记的所有 AI 内容的近三分之二(62%)。与人们可能预想的相反,绝大多数用户都愿意在与个人真实身份关联的职业场景中使用 AI 代自己发言,而在随性、匿名的平台上使用 AI 的意愿则更低。
LinkedIn 还通过多种方式鼓励平台上的 AI 使用,包括内置的“使用 AI 撰写”按钮(现已更名为“优化帖子”,但仍提供 AI 写作辅助)。人们已经注意到 LinkedIn 在垃圾内容方面日益增长的声誉——或许是为了应对这一问题,LinkedIn 的一位高管最近宣布,该平台将使用内部算法检测并降低 AI 生成帖子的排名;讽刺的是,这则公告本身也是 AI 生成的。无论该公司是否真正试图在其信息流中调节 AI 内容,我们的用户仍然在 LinkedIn 上看到大量 AI 写作的痕迹。
一级帖子的 AI 生成比例高于回复帖
在我们的数据中,Reddit 的扫描量在所有平台中最高,占我们扫描总量的 36.7%。然而,Reddit 的联合 AI 比例仅为 4.4%,是所有平台中最低的之一。这主要是构成效应所致:Reddit 上的回复绝大多数由人类撰写(98.1%),而回复帖总共占我们扫描的 Reddit 内容的 72%。Reddit 上一级帖子是 AI 撰写的可能性要高得多,占比达到 11.6%,与 X/Twitter 的 10.0% AI 饱和率相当。同样的模式在 LinkedIn 上也存在,只是程度较轻:LinkedIn 上一级帖子是 AI 生成的可能性是评论的 1.35 倍。
尽管领英回复是AI生成的可能性低于帖子,但在控制长度后效果反转:领英评论实际上是AI的可能性比顶级帖子略高。对于Reddit,AI率的差异与帖子格式无关——在控制长度后,Reddit的顶级帖子是AI生成的可能性仍然高出5.25倍。
Reddit上非AI生成的回复揭示了许多反机器人策略的盲点。尽管Reddit的垃圾信息政策有效消除了使用AI自动生成垃圾回复的账户,但这种方法只能捕捉到平台上最低成本的垃圾内容。Reddit的顶级帖子仅占所有Reddit内容的四分之一,但它们对受众的影响要大得多,而且其较低的数量使得AI撰写的帖子能够绕过基于数量的审核(如频率限制)。
方法和数据收集
总体而言,自Chrome扩展程序于2026年4月24日推出以来,选择共享数据用于研究的用户帮助我们创建了一个包含1,002,627个帖子的数据集,这些帖子来自互联网上几个最大的社交媒体平台:领英、Medium、Substack、X/Twitter和Reddit。我们数据集中的每个帖子只计数一次,并且我们只扫描长度超过50个单词的项目。每个帖子都使用我们最新的AI检测模型Pangram 3.3进行了分析,该模型的误报率为0.01%。这个数据集让我们能够直接了解用户此刻在他们的信息流上看到的AI生成内容。
结论
AI写作如今在社交媒体上无处不在,成为一个问题。这令人担忧,但与我们在线上的其他地方看到的情况一致:研究人员估计,开放互联网上新发布的网站中有35%是AI生成或AI辅助的。一个完全充斥着未标明的AI内容的互联网前景黯淡,但我们认为这并非不可避免。我们希望,通过为在线AI生成内容提供透明度,我们可以让互联网用户重新获得对其注意力使用方式的一些控制。
Max是一位经验丰富的机器学习工程师。他最近在Nuro从事自动驾驶汽车工作,领导了他们的主动学习项目。他在Google、Two Sigma和Yelp有着部署成功机器学习产品的长期经验。
Max 拥有斯坦福大学理论计算机科学学士学位和人工智能硕士学位。除了对构建的热爱之外,他还是《万智牌》轮抽社区的一名活跃成员。