# 苹果研究：单个神经元即可绕过大型语言模型的安全对齐

- 来源：Apple Machine Learning Research（RSS）
- 发布时间：2026-07-07 08:00
- AIHOT 分数：74
- AIHOT 标记：精选
- AIHOT 链接：https://aihot.virxact.com/items/cmrasd6r300i2ihog8ifwrqs5
- 原文链接：https://machinelearning.apple.com/research/single-neuron-safety-alignment

## 精选理由

苹果发现单个神经元足以绕过大模型安全对齐，在7个模型上验证了攻击，说明安全机制并非稳健分布，做安全攻防的必读。

## AI 摘要

苹果研究人员发现，安全对齐由两类神经元调控：拒绝神经元控制有害知识是否表达，概念神经元编码有害知识本身。在七个模型（1.7B至70B参数）中，仅需抑制单个拒绝神经元即可绕过安全对齐，回答有害请求；或放大单个概念神经元，从无害提示诱导出有害内容。整个过程无需训练或提示工程。结果表明安全对齐由个别神经元因果控制。

## 正文

研究领域：语音与自然语言处理

内容类型：论文，发表于 2026 年 7 月

单个神经元足以绕过大型语言模型的安全对齐

作者：Hamid Kazemi‡, Atoosa Chegini‡†**, Maria Safi

查看出版物

语言模型中的安全对齐通过两种机制上不同的系统运作：拒绝神经元（控制有害知识是否被表达）和概念神经元（编码有害知识本身）。通过针对每个系统中的单个神经元，我们展示了两种失效方向——通过抑制绕过显式有害请求上的安全机制，以及通过放大从无辜提示中诱导出有害内容——横跨两个模型家族、参数量从1.7B到70B的七个模型，无需任何训练或提示工程。我们的发现表明，安全对齐并非鲁棒地分布在模型权重中，而是由单个神经元介导，每个神经元在因果上足以控制拒绝行为——抑制任何一个被识别的拒绝神经元，就能绕过针对各种有害请求的安全对齐。

‡ 同等贡献

† 马里兰大学帕克分校

** 在 Apple 期间完成的工作

相关阅读与更新

VLSU：映射联合多模态理解的极限以保障AI安全

2026年1月27日，研究领域：计算机视觉，研究领域：语音与自然语言处理，会议：ICLR

多模态基础模型的安全评估通常分别处理视觉和语言输入，忽略了联合解释中原本良性内容组合后变得有害的风险。现有方法也未能清晰区分明显不安全的内容与边界案例，导致对真正有害内容的问题性过度拦截或拒绝不足。我们提出了视觉语言安全理解（VLSU），一个全面的…

解耦安全适配器实现高效护栏和灵活的推理时对齐

2025年6月27日，研究领域：方法与算法，研究领域：语音与自然语言处理，ICLR研讨会

该论文已被 ICLR 2026 举办的“跨模态可信 AI、可解释性、鲁棒性与安全性原则性设计”研讨会接收。

现有确保 AI 安全的范式（如护栏模型和对齐训练）往往难以兼顾推理效率或开发灵活性。我们提出了一种名为“解耦安全适配器”（Disentangled Safety Adapters, DSA）的新框架，通过将安全特定的……

发现机器学习中的机遇。

我们的机器学习研究每天都在开拓新领域。

加入我们。