联合国专家组警告：AI 能力进步速度已超过科学认知
阅读原文· ithome.com由40名科学家组成的联合国AI独立科学小组发布首份报告，指出AI能力进步速度已超过科学界认知和政策调整速度，高度自主AI系统控制手段少，且出现欺骗行为，无法保证不会造成灾难性后果。报告警告，不加约束扩大AI部署会损害用户心理健康、被用作破坏性工具、冲击社会等。全球每周使用对话式AI人数超10亿，但发展中国家滞后；500台最强AI超算中美国占75%算力，中国占15%；AI模型仅覆盖7000多种语言中的极少部分，部分机器翻译错误可能干扰医疗诊断。
IT之家 7 月 2 日消息，联合国官网 1 日公报，由 40 名顶尖科学家和专家组成的联合国 AI 独立科学小组发布首份报告，警告 AI 快速发展在为全球各国和民众创造巨大机遇的同时，也带来了不容忽视的风险。
报告指出，政策制定者需要以科学证据为基础治理 AI，AI 能力的进步速度已经超过科学界的认知，也超过各国政府调整政策的速度。面对高度自主的 AI 系统，目前可用的控制手段仍然很少。
小组联合主席约书亚 · 本吉奥指出，越来越多证据表明 AI 可能出现欺骗行为。随着 AI 能力继续增强，科学界无法保证 AI 不会“自行或因恶意使用者”造成灾难性后果。
IT之家获悉，报告总结称，AI 的潜在益处十分巨大。如果不加约束地迅速扩大部署规模，也会产生重大风险，包括损害用户心理健康、被用作破坏性工具、冲击社会、经济和环境系统，以及增加技术失控的可能性。
AI 已在全球各国和多个行业加速普及，但不同地区的发展差距明显。目前，全球每周使用对话式 AI 的人数已经超过 10 亿，发展中国家的普及速度却相对滞后。
AI 研发资源的集中程度更加突出。全球算力最强的 500 台 AI 超级计算机中，美国掌握 75% 的算力，中国占 15%。
此外，全球使用的语言超过 7000 种，现有 AI 模型只覆盖其中很少一部分。部分语言的机器翻译存在大量错误，甚至可能干扰医疗诊断和治疗决策。