# 恶意软件利用LLM安全拒绝机制逃避分析

- 来源：fofr (@fofrAI)
- 发布时间：2026-06-11 15:07
- AIHOT 分数：60
- AIHOT 链接：https://aihot.virxact.com/items/cmq95w9a608vyslldqdra6l5r
- 原文链接：https://x.com/fofrAI/status/2064967812062323103

## AI 摘要

恶意软件开发者通过在间谍软件中添加核武器和生物武器相关文本，主动触发大模型安全拒绝机制，使AI安全扫描器无法分析该恶意软件。这是安全对齐中过度依赖一阶规则导致二阶盲点的典型案例：当闭源与开源模型内置激进拒绝策略时，攻击者会注入这些触发词来逃避检测。SocketSecurity的帖子指出，设计恶意软件分析管道需考虑意图以防范提示词操纵。当前仅是攻击者利用这类特征的早期阶段，未来处理复杂网络安全的用户系统可能需要模型具备更少的安全顿感。

## 正文

Fascinating side effect of safety refusals

### 引用推文

> John Scott-Railton：NEW: malware developers added nuclear & biological weapons text to to their spyware. Goal? To trigger LLM safety refusals... so that their spyware wouldn't be a...