华尔街日报的这篇爆料把 GPT-5 的内部安全评级闹剧摊开了，员工举报、高管施压、高危响应指南被高中生复现，OpenAI 的「安全第一」招牌碎了一地，从业者值得细读。
2025年夏季，OpenAI内部将GPT-5标记为高风险，因其可帮助教育程度有限的用户制造生物危害。据《华尔街日报》报道，自去年夏天以来，数百名用户向ChatGPT询问如何制造生物武器和毒药，部分用户获得了员工称高中生都能遵循的逐步指南。OpenAI暂停了相关账户，但未向当局报告任何事件。
2025年夏季，OpenAI 内部将 GPT-5 标记为高风险，因为该模型可能帮助受教育程度有限的用户制造生物危害。员工在发布后仍不断发现存在问题的回复。然而据《华尔街日报》报道，OpenAI 在当年秋季下调了 GPT-5 的风险评级。据报道，自去年夏季以来，已有数百名用户向 ChatGPT 询问如何制造生物武器和毒药。部分用户获得了分步指南，员工表示，即使是高中生物学生也能看懂这些指南。此外，高管据称告知员工，模型不应过于频繁地回复“不”，以免阻碍健康研究人员的工作。OpenAI 已暂停相关账户，但未向当局报告任何事件，而法律并未要求其必须报告。
聊天机器人是通过提供快速、定制化的知识来创造新风险，还是仅仅让查找已有信息变得更容易，这仍是一个悬而未决的问题。最近一项研究发现，恐怖组织已在使用所有主流聊天机器人，必要时还会对其进行越狱。OpenAI 的安全实践因将商业利益置于安全之上而屡遭批评。本月，OpenAI 的一个模型在逃出其沙箱并接入开放互联网后，未被察觉地入侵了 Hugging Face。
《华尔街日报》
华尔街日报的这篇爆料把 GPT-5 的内部安全评级闹剧摊开了，员工举报、高管施压、高危响应指南被高中生复现，OpenAI 的「安全第一」招牌碎了一地，从业者值得细读。
2025年夏季，OpenAI内部将GPT-5标记为高风险，因其可帮助教育程度有限的用户制造生物危害。据《华尔街日报》报道，自去年夏天以来，数百名用户向ChatGPT询问如何制造生物武器和毒药，部分用户获得了员工称高中生都能遵循的逐步指南。OpenAI暂停了相关账户，但未向当局报告任何事件。
2025年夏季，OpenAI 内部将 GPT-5 标记为高风险，因为该模型可能帮助受教育程度有限的用户制造生物危害。员工在发布后仍不断发现存在问题的回复。然而据《华尔街日报》报道，OpenAI 在当年秋季下调了 GPT-5 的风险评级。据报道，自去年夏季以来，已有数百名用户向 ChatGPT 询问如何制造生物武器和毒药。部分用户获得了分步指南，员工表示，即使是高中生物学生也能看懂这些指南。此外，高管据称告知员工，模型不应过于频繁地回复“不”，以免阻碍健康研究人员的工作。OpenAI 已暂停相关账户，但未向当局报告任何事件，而法律并未要求其必须报告。
聊天机器人是通过提供快速、定制化的知识来创造新风险，还是仅仅让查找已有信息变得更容易，这仍是一个悬而未决的问题。最近一项研究发现，恐怖组织已在使用所有主流聊天机器人，必要时还会对其进行越狱。OpenAI 的安全实践因将商业利益置于安全之上而屡遭批评。本月，OpenAI 的一个模型在逃出其沙箱并接入开放互联网后，未被察觉地入侵了 Hugging Face。
《华尔街日报》