谷歌的人工智能正在被操纵。这家搜索巨头正在悄然反击。

2026年5月21日

托马斯·杰曼

媒体内容 · 前往原文查看

塞雷妮蒂·斯特鲁尔/ BBC/ 盖蒂图片社

BBC的一项调查揭示了一种简单的方法，可以让AI聊天机器人向公众输出错误信息。谷歌和其他AI公司现在正试图解决这个问题。

今年二月我做了一件蠢事。我听说有一种简单的方法可以污染AI聊天机器人，让它们替你传播谎言。经过一番挖掘，我了解到一些无良公司正在大规模地滥用这个问题。所以我决定亲自尝试一下。

我们发现了一些案例，其中ChatGPT、Gemini以及谷歌搜索顶部的AI概览被操纵，在涉及健康和财务等严肃话题上给出带有偏见的答案。而仅仅用了20分钟，我就骗过了ChatGPT和谷歌，让它们告诉公众，我是世界级竞技热狗大胃王冠军。这个玩笑很蠢，但问题很严重。

但这个把戏确实奏效了。我们的调查以及一直关注此问题的研究人员的工作引发了广泛批评。现在谷歌已经更新了其政策来解决这个问题，并且有迹象表明其他AI公司也在效仿。最终，这可能会让AI工具乃至整个互联网变得稍微安全一些。

但专家表示，在更好的系统到位之前，你仍有被愚弄的风险。

媒体内容 · 前往原文查看

托马斯·杰曼/ 谷歌/ BBC

“你应该假设自己正在被操纵，直到他们建立起更好的系统，”搜索引擎优化（SEO）和AI搜索咨询公司Algorythmic的创始人莉莉·雷表示。“我们正在走向这个‘唯一正确答案’的世界。以前，谷歌会给你10个蓝色链接，你可以自己做些研究。但AI只给你一个答案。人们很容易就只看表面。你需要小心。”

谷歌告诉我，其政策更新只是对其一段时间以来所做努力的“澄清”。一位谷歌发言人表示：“我们长期以来一直将核心反垃圾邮件政策和保护措施应用于生成式 AI 搜索功能——甚至在 AI 兴起之前，我们就一直在持续升级反垃圾邮件工作，以领先于新兴手段。”

本质上，谷歌声称自己什么都没改变。但在幕后，谷歌和其他公司似乎正在加大力度解决这个问题。即便如此，有证据表明，人们仍在用完全相同的手段来欺骗这家全球最大的搜索引擎。

问题所在

通常，当你向聊天机器人提问时，AI 会根据模型内置的数据生成回答。但有时，ChatGPT、Claude 和谷歌的各种 AI 产品等工具会搜索互联网来寻找答案。而问题就出在这里。

根据雷伊和其他搜索引擎专家的说法，AI 工具常常会从单个网页或社交媒体帖子中提取信息。这使得这些系统容易受到虚假信息的影响。

事实证明，操纵聊天机器人向公众传达的信息，可以简单到只需在网上几乎任何地方发布一篇精心撰写的博客文章。人们发现了这一点，并迅速找到了赚钱的机会。

我通过在自己的个人网站上发布一篇关于我吃热狗能力的文章，成功演示了这个问题。第二天，来自一些全球最大公司的 AI 就开始传播我的谎言。但我们的调查还发现，同样的伎俩被用来淡化人们对医疗补充剂的健康担忧，或影响谷歌 AI 提供的关于退休的财务信息。专家表示，这种操纵行为正在广泛且系统性地发生。

专栏追踪

托马斯·杰曼是 BBC 的高级科技记者。他撰写专栏“专栏追踪”，并联合主持播客节目“界面”。他的工作揭示了运行你数字生活的隐藏系统，以及你如何能在其中更好地生活。

像这样带有偏见或不准确的信息，也可能导致你做出错误的决定。它会影响你如何投票，或者你雇佣哪位水管工。

“在最基本的层面上，担忧在于经济影响，”经营SEO咨询公司Harps Digital的Harpreet Chatha表示。“在更严重的层面上，你可能会采纳医疗建议，结果反而让你比之前病得更重。在法律方面，你可能会得到错误信息，从而做出在你所在州或国家属于违法的行为。”

有解决方案吗？

这不是一个小问题。全球范围内，超过十亿人定期使用AI聊天机器人，每月有25亿人次看到谷歌的AI概览。如果你能颠覆这样的工具，你就拥有了巨大的力量。

但谷歌和其他公司似乎终于开始正视这个问题了。

上周，谷歌更新了其垃圾内容政策，正式确认试图操纵AI回复的行为违反了公司规定。这听起来可能只是一个小改动，但它标志着谷歌正在主动寻找那些试图滥用系统的人，并向他们发出警告。如果某家公司或网站被发现违反规定，可能会被从谷歌搜索结果中移除或降低排名。而如果你不在谷歌上，就像不存在一样。

谷歌表示，我理解错了，情况并没有改变。“上周我们对垃圾内容政策措辞的修改只是澄清，并非方法上的任何改变，”谷歌的一位发言人表示。

事实上，谷歌在2025年详细介绍了其反垃圾内容的AI措施。但我是在将近一年后才进行我的热狗实验，所以显然那些措施并未奏效。就在本周，Ray又玩了同样的把戏，让谷歌告诉人们，一位SEO同行很擅长堆沙堡。

Ray和Chatha还表示，他们注意到近几个月来发生了一些显著变化，表明谷歌和其他公司正在尝试各种解决方案。

例如，雷表示，当谷歌和ChatGPT怀疑某些公司是在自我宣传时，它们可能会悄悄将这些公司从AI回答中移除。“所以，如果你发布一份清单，声称自己是世界上最能吃热狗的人，它们就不会把你的名字列进去，”雷说。“它们可能仍然会引用你的文章，但你会被排除在考虑范围之外。”

我个人注意到一些例子，谷歌和其他AI工具正在给它们的回答添加更多标签，让你知道聊天机器人对自己的答案并不确定。其他人也注意到，ChatGPT和Anthropic公司开发的AI Claude已经开始明确告诉你，它们正在努力清除某些查询回答中的垃圾信息。雷表示，她注意到谷歌增加了更多免责声明，当你在询问与某些购买决策相关的问题时，它会建议你去查看第三方评价。

当我询问时，这些公司都不愿承认这些变化。OpenAI和Anthropic拒绝置评。谷歌的发言人没有回应我关于此事的提问。

更多相关内容：

尽管如此，查塔对这些变化是否足够持怀疑态度。“谷歌这是在打地鼠，”他说。“他们宣布（政策更新）是为了震慑人们，但那些手段只会转移阵地。”

他已经看到这种情况正在发生。随着谷歌打击操纵性的博客文章，公司们正在寻找更隐蔽的自我宣传方式。“你可以对一家公司的网站进行处罚，”他说，“但这无法阻止他们花钱请20个YouTube网红说他们的产品是最好的。”而现在，谷歌的AI正在引用YouTube视频。这个循环仍在继续。

就目前而言，操纵者很可能仍然领先一步。雷表示，最好的防御是记住AI到底是什么：一个自信地给你一个答案的工具，无论这个答案是对是错。仅仅因为看起来是一家大型科技公司在对你说话，而不是某个随机网站，并不意味着你应该盲目相信。

更新：本文最初发表于2026年5月20日，并于2026年5月21日更新，补充了关于谷歌沙堡虚假信息事件的更多细节。

--