46条预测,8大板块,这篇X上疯传的近未来长文,强烈推荐AI领域的朋友真该读一下,
这是X博主@bayeslord 的长文,四十六条近未来预测,最近被很多行业大号转发。
现在大家聊AI未来,总爱往两个极端跑,要么全是丰裕社会的美梦,要么全是人类灭亡的警报,这篇最不一样的地方,是两头都不站。
它对技术的判断极度乐观,文中提到算法进步还有四到十个数量级的空间,AI自我迭代会是人类历史上最关键的一步,
我们现在还处在早期起飞阶段, 机器人的ChatGPT时刻也会很快到来,和后续更强版本的间隔,远不到三年。
唯一真正的硬限制只有物理层面,计算硬件还有光子,新型硅基等大量改进空间。
那它真正的警示在哪呢? 其实全在人和社会这边。
它说科技树里可能藏着很糟糕的东西,零日漏洞会遍布网络,生物,基础设施,甚至神经和模因领域,
我们对这种深度算法文明的灾难率,几乎一无所知,
权力积累是天然的滑坡,机构很容易借着安全的名义,一步步滑向不受约束的控制。
机器人规模化之后,会带来真实的接管风险,军队和警察完全自动化之后,旧的相互制衡逻辑会直接失效。
还有阶层的问题,顶层嘴上都说AI会让所有人受益,但你让他们自己变成普通人,他们绝对不愿意。
未来大概率不会是大面积的绝对贫困,但会出现大量只有有限能动性的人,被圈在系统里没有话语权。
需求侧崩溃,福利体系扛不住,都是非常现实的风险。
作者反复说我们真的不知道,没有一副全知全能的样子, 他不赞成现在就暂停研发,因为对手真实存在,单方面暂停会破坏平衡,但又反复警告不确定性,说很多人会被打个措手不及。
我看完最大的感受是,我们天天纠结模型跑分,工具迭代,其实都是细枝末节, 技术大概率会一路往前冲,拦不住的,
而且真正决定未来体验的,从来不是技术能走多快,关键看我们的社会和制度能不能跟得上。
很多细分板块我还在慢慢消化,感兴趣的可以自己去原文看。