AI 摘要
35名美国国会议员联名致信白宫,警告通用AI模型的递归自我改进能力可能构成近期对民主与和平的最大威胁。信件指出,随着模型能力提升,AI可能在网络安全、化学、生物、放射及核相关研究乃至AI自身研发领域获得新能力,而政府机构与基础设施管理者可能来不及应对。议员强调,无论AI能力发展速度如何,联邦机构必须能够及时识别关键新能力并快速响应。
Recursive self-improvement is very reasonably the greatest near-term threat to democracy &; peace out there
New letter from 35 (!) members of Congress to the White House urging action post-Mythos. Most of the letter is about cyber risk, but also discusses importance o...