FORGE基准发布
单个污染页面即可影响LLM推荐:FORGE基准揭示检索增强推荐系统的脆弱性
TIMELINE
1 条公开报道 · 官方一手 0 条 · 最新在前报道时间线
- 单个污染页面即可影响LLM推荐:FORGE基准揭示检索增强推荐系统的脆弱性
检索增强型LLM在消费推荐中易受GEO内容污染影响,成为虚假产品的无意推广者。新基准FORGE在225个真实产品、15个类别和5个消费场景中测试12个商业及开源LLM,发现所有模型均易受攻击:单个污染页面即可造成最高27%的受骗率,替换全部前3个结果时升至73.8%。