Karpathy提出计算机科学正经历第三次主芯片翻转,神经网络将成为计算的宿主进程,CPU则退化为协处理器,类似历史上FPU和GPU的变革。主导工作负载转向语言推理与多模态,市场正疯狂定价推理能力。软件3.0时代到来,应用将临时生成,模型驱动。LLM的核心价值在于创造前所未有的新事物,其能力呈现经济学驱动的“锯齿状智能”。范式迁移下,程序员角色转变为设计代理系统,护城河从编写代码转向理解LLM与设计能放大人类品味的智能体。
Karpathy今天抛出的这个观点,很可能改写整个计算机科学史的走向🤯🤯🤯
从此以后CPU作为计算机主芯片的时代可能要正式结束了, 因为未来神经网络会成为计算的宿主进程, CPU会彻底退化成一个协处理器,
现在正在发生的是第三次主芯片翻转, 前两次每一次,都彻底摧毁了旧的霸主,
第一次是1980年代的FPU, 以前浮点计算是要额外插卡的附加功能, 后来被集成进CPU,独立FPU行业十年内彻底消失,
第二次是1990年代的GPU, 以前3D加速是游戏玩家的小众玩具, 后来CUDA把它变成通用计算平台, 深度学习爆发之后,GPU的价值直接超越了主机,
所有的旧霸主都犯了同一个错误, 他们一直在优化昨天的工作负载, 而没有看到新的主导力量正在崛起,
现在第三次翻转就在我们眼前, 主导工作负载已经从传统计算,变成了语言推理和多模态,
就像现在大多数人打开电脑, 90%的时间都在和一个文本框聊天, 模型自动调用工具,生成代码,渲染界面,
目前市场已经在为这个转变疯狂定价,比如Nvidia市值5万亿美元,Intel只有4250亿,甚至微软把全部闲置的CPU库存都卖给了OpenAI和Anthropic,
就连AWS今年CPU采购量翻了三倍还是供不应求🤣😆