禁止开源AI将是一个错误
在华盛顿弥漫监管 AI 空气的当下,这篇文章是对‘禁止开源 AI’冲动的清晰反驳。它系统梳理了开源在教育、创新和竞争中不可替代的价值,尤其适合对政策走向摇摆不定的人阅读。
近期行政命令、国会提案及对Anthropic最先进模型的境外访问限制,可能开启新一轮AI监管。开源软件已支撑全球90%以上软件并创造8万亿美元经济价值,在教育、创新和竞争三方面持续赋能。Anthropic与OpenAI的封闭模型加剧市场集中,开源(尤其开放权重)是初创公司、教育机构和企业获得替代方案的唯一平衡力量。开源透明性使其更安全,更多工程师可剔除不需要的模型行为或修复漏洞。以中国竞争为由监管开源将适得其反,美国初创公司正依赖包括中国在内的开源模型提升效率。
本文原是一篇与 Interconnected 合著的评论文章,面向普通非技术读者。我们曾向多家媒体投稿,但都被守门人拒之门外。幸运的是,我们有自己的平台来传播这一观点。请将这篇评论转发给您认识的对开源 AI 持观望态度、或刚接触这个话题并想了解更多的人。谢谢。
华盛顿正在酝酿对 AI 进行监管的势头。最近签署的行政令要求审查 AI 模型,国会提出了进一步立法监管 AI 的提案,政府可能持有前沿 AI 实验室的部分股份,以及上周五禁止外国公民(无论身在何处)访问 Anthropic 最先进模型的行动——这些都可能是更多 AI 监管到来的序幕。
我们担心未来的行动可能无意或故意地监管甚至禁止开源——这在 AI 领域是一个饱受诋毁和误解的话题。那将是一个严重的错误。
开源——一个允许技术以公开透明的方式被共享、构建和分发的流程——是安全的、有保障的,并能推动经济增长。早在 AI 出现之前,全球超过 90% 的软件已经建立在开源之上,并产生了超过 8 万亿美元的经济效益。如今,开源技术正在悄无声息地训练、改进、部署和保障着无处不在的 AI。
三十多年来,开源一直推动着三大趋势,并坚守着美国社会珍视的三大价值观——教育、竞争和创新。
开源有利于教育,因为其根源在于学术机构试图让技术变得自由开放,而不是被大公司追求利润最大化的狂热或那些恐吓性的律师所挟持。
开源的先驱是自由软件运动,它于1983年在麻省理工学院校园内起步。那时,使用软件的每一个小举动——无论是教授学生、开展研究,还是提升打印机性能——都意味着要向AT&T或施乐这样的大公司付费或与之打交道。在这场斗争催生出开源之后,如今美国每一所大学、社区学院和编程训练营里的每一个学生,都能轻松利用开源所提供的自由来学习编程、工程和构建。开源是全世界技术教育的核心。
开源有利于创新,因为它本质上是提供了一套工具,外加一个由其他用户组成的社区,免费帮助任何人把想法变成现实。再结合它在教育中的作用,它浇灌了近期记忆中大多数创新的种子。有些种子成为爱好,给爱好者带来快乐和个人成长;另一些则成长为像Meta这样的大公司——Facebook的初始版本完全是在一整套开源软件栈上构建的。
每一天,新的想法或解决方案都在宿舍、车库或地下室中被编写成代码,这一切都因为开源让创新者可以免于诉讼或高昂账单的恐惧而自由创造。
开源有利于竞争,因为它帮助弱者挑战并与大型在位企业竞争,从而遏制垄断威胁。Linux,这款如今运行着全球超过90%云计算基础设施的开源操作系统,正是Windows垄断的解药(以至于微软前CEO史蒂夫·鲍尔默曾称Linux为“癌症”)。Android,这个开源移动系统,在苹果iPhone控制市场之前催生了一系列具有竞争力的智能手机。在自动驾驶、数据库和半导体设计等更细分但同样重要的领域,还有许多其他例子。
如果没有开源的平等化和民主化本质,我们将生活在更多垄断和更少自由市场竞争所导致的寻租后果之中。
AI会改变这一切吗?不会。
Anthropic 和 OpenAI 这个双头垄断格局,正借助它们封闭、专有的模型迅速集中权力。尤其是 Anthropic,最近展现出了垄断肌肉:当别人用它最先进的模型来改进自身模型时,它会降低该模型的性能。虽然这些模型的能力毋庸置疑,但其价格标签和市场集中度也同样不容忽视。开源 AI(主要以开放权重模型的形式存在)一直是初创公司、教育机构和企业寻求替代方案时唯一的制衡力量。
开源是否会导致更多安全或安保问题?并非如此。
我们承认,监测开源模型可能达到前沿能力时带来的安全影响是值得的。但总体而言,开源所固有的透明性使其更安全、更有保障,因为更多的工程师和研究人员可以消除不良的模型行为(比如审查),或者修复运行这些模型的软件中的漏洞。正如一句流行谚语所说:“只要有足够多的眼球,所有 bug 都会变得浅显。” 正如 Airbnb 的 CEO Brian Chesky 所解释的那样,开源模型安装在你自己公司的基础设施上时,不会传输数据。开源 AI 是最高安全、最注重隐私的路径。
中国怎么办?当心意想不到的后果。
中国当然在很多维度上(经济、军事、外交)与美国是激烈竞争者,但以这种态势为借口去监管开源,只会适得其反。
开源模型实际上正在提升许多美国初创公司的效率和盈利能力,这些初创公司无法承担向 Anthropic 或 OpenAI 支付垄断级别溢价。从事编程、法律及其他领域的 AI 公司每天都在使用开源模型,包括来自中国的模型。这些模型由中国实验室制造的事实,应该给美国敲响警钟——开源在美国投资不足、被低估了!应对之道应是在国内给予开源更多支持。因为中国而监管或限制开源,结果会适得其反:给教育、创新和竞争带来寒蝉效应,同时将世界其他地区——其中许多地方和我们一样渴望开源的益处——推向采用中国的方案。
美国前最高法院大法官路易斯·布兰代斯有句名言:在消除企业或社会不当行为时,“阳光是最好的消毒剂”。开源就是技术和 AI 领域的那束“阳光”。美国应始终站在光明的一边。