@OpenAI 造了一个强到自己都要踩刹车的模型,Astra,对标@AnthropicAI 的Mythos,

OpenAI管它叫Preparedness Framework下第一个"Critical"级别的网络安全模型,

Critical是什么意思? OpenAI的定义很具体:这个模型能在没有人指挥的情况下,对真实世界里加固过的系统开发出零日漏洞利用代码。或者你给它一个高层目标,它能自己设计并执行一整套端到端的网络攻击。

不是那种辅助安全研究员找bug,是它自己就能独立干完。

所以OpenAI做了什么? 隔离测试环境、限制网络和工具访问、加密权重、全链路监控包括对Chain of Thought的风险检测、暂停了一些不符合新标准的内部活动、找政府和AI安全组织一起测。

这跟Anthropic几个月前对Mythos做的事几乎一模一样。Mythos当时也被测出能大规模发现零日、在模拟环境中端到端接管企业网络。Anthropic的选择是:不公开,只通过Project Glasswing给AWS、Apple、Microsoft、Google、CrowdStrike这几个可信伙伴做防御用。

@sama 说:Astra是个强大的模型,我们正在努力让它广泛可用。我们不认为把强大的模型只给少数人是个好策略。鉴于它的网络能力,我们需要多一点时间来安全地做这件事。但希望不会太久。

这段话我们品一下, Sham essentially 在说:是的,这个模型能黑系统。但我们不打算走Anthropic那条路--锁起来,只给大公司和政府用。我们要让所有人都能用,只是需要时间把安全护栏建好。

我觉得这已经不是单纯的产品策略了,更像是两种世界观的正面碰撞。