研究：博科圣地已使用ChatGPT、Claude等主流AI聊天机器人用于袭击策划与武器开发
阅读原文· the-decoder.com首次有学术研究系统性揭露恐怖组织如何利用主流 AI 聊天机器人，从 prompt 工程培训到摩托车特技，安全过滤形同虚设，对 AI 安全政策是当头一棒。
剑桥大学CASP研究员Antonia Jülich对27名前成员的57次访谈显示，博科圣地已使用ChatGPT、Claude、Gemini、Grok、Meta AI和DeepSeek等主流AI聊天机器人，用于袭击策划、制造更强爆炸装置、武器维护及行动安全。该组织两个派系均设立了专门的AI部门。ISIS自2023年起便提供提示工程和越狱培训，并训练尼日利亚的博科圣地指挥官绕过AI安全过滤器。研究指出，安全过滤器未能可靠防止滥用。Anthropic近期承认，越狱可能永远无法完全消除。
据报道，自2023年以来，ISIS一直在提供提示词工程和越狱训练，并已培训尼日利亚的博科圣地指挥官如何绕过AI安全过滤器。
根据剑桥大学AI科学与政策项目（CASP）研究员Antonia Jülich的一项新研究，博科圣地如今正在使用ChatGPT、Claude、Gemini、Grok、Meta AI和DeepSeek等流行AI聊天机器人，其两个派系均已设立专门的AI部门。Jülich对该组织27名前成员进行了57次访谈。
研究发现，该组织将AI用于攻击策划、制造威力更强的爆炸装置、武器维护以及行动安全。ISIS联络员培训了指挥官如何绕过安全过滤器。博科圣地的两个派系都建立了自己的专门AI部门。据Jülich称，他们“把顶尖人员召集到一个房间里，用投影仪在大屏幕上展示其运作方式。”
在一个特别极端的案例中，ISWAP派系利用AI复制电影中的摩托车跳跃技巧，以便武装分子能够越过战壕。训练过程中有18名武装分子死亡，8人成功完成跳跃。
当然，事情并不仅限于摩托车特技。“前成员描述了对AI的强烈热情，一些人表示该组织此前曾考虑过大规模杀伤性武器，”Jülich写道。“尽管博科圣地对AI的使用仍属常规范畴，但这应作为一个警示，必须认真对待恐怖分子寻求AI协助制造化学和生物武器的风险。”
研究人员以及OpenAI和Anthropic等AI实验室长期以来一直警告，AI模型可能使危险知识更易获取。但该研究发现，安全过滤器未能可靠地防止滥用，这表明自愿性的自我监管显然不够。这或许正是大语言模型的天性：Anthropic最近承认，越狱攻击可能永远无法被彻底消除。
研究人员还指出，像 ChatGPT 和 Claude 这样的聊天机器人虽然吸引了公众的大部分注意力，但并非真正的隐患，因为它们主要只是让现有知识更容易被获取，而非生成任何新内容。更大的担忧在于，生命科学领域更专业的 AI 系统可能遭到滥用。