AI红队评测研究团队发布AI红队评测证据上限研究

一项新研究为AI红队评测划定了可计算的证据上限，即固定测试预算下单一结果能改变信念的最大倍数，并以闭式解定位其边界。研究发现，在可计算的危害率之上，中等规模基准足以按既定证据标准认证某类别，且零失败记录比单次复现的失败更具说服力；低于该阈值则任何可行规模的被动基准都无法提供指定安全证据。对八个评测套件的审计显示，现有基准对高频危害类别充分，但对罕见灾难性危害类别仍差数个数量级。