随着大型语言模型推动AI能力跃升，部分研究人员和行业领袖警告超级智能AI可能引发人类灭绝风险，例如设想AI为达成目标而释放生物武器。但许多专家认为这种末日场景被夸大，当前AI在应对现实世界复杂任务方面仍存在明显局限，远未达到威胁全人类的水平。分歧焦点在于AI能力增长是否会持续突破，以及其目标是否必然与人类对齐。同时，过度关注灭绝风险可能分散对AI现有危害（如传播错误信息）的监管注意力。