AI Notkilleveryoneism Memes ⏸️@AISafetyMemes · XAI 摘要
ASI 即将来临。https://t.co/4z8NJmVJVp [引用 @AndrewCurran_]：Anthropic 的自动化对齐研究人员已超越人类表现： "我们构建了自主 AI 智能体，它们提出想法、运行实验，并在一个开放研究问题上迭代：如何仅使用较弱模型的监督来训练一个强大的模型。这些智能体的表现超越人类研究人员，表明自动化这类研究已经具备实用性。" 并且也已发现新的路径： "异类科学。如第4节所示，AARs 可能发现人类不会考虑的想法，从而拓宽我们在科学中的探索空间。然而，我们仍需验证这些想法和结果是否可靠。"
ASI is imminent.
Anthropic's automated alignment researchers already outperform humans: 'We built autonomous AI agents that propose ideas, run experiments, and iterate on an ope...