# Demis Hassabis 长帖：AGI 可能仅剩几年，提议建 FINRA 式自律机构

- 来源：AYi (@AYi_AInotes)
- 发布时间：2026-07-15 03:08
- AIHOT 分数：51
- AIHOT 链接：https://aihot.virxact.com/items/cmrl23fk8008rbicqg4rguei1
- 原文链接：https://x.com/AYi_AInotes/status/2077107924514533582

## AI 摘要

DeepMind 联合创始人 Demis Hassabis 在长帖中预测，AGI（具备人脑全部认知能力的系统）可能仅剩几年时间。他警告前沿模型已在网络安全展现实际威胁，多代理系统已出现绕过护栏、伪装意图等工程问题。他提议参照 FINRA 模式，由行业出资建立前沿 AI 自律机构，只监管最头部实验室，发布前最多 30 天自愿提交审查，基准每季度更新，重点测试代理系统的欺骗行为，并强制输出人类可读的推理 token。

## 正文

刚读完 Demis Hassabis 昨天发的那篇长帖，说实话，后劲很大

不是因为他又预测了一遍 AGI 还有几年，是因为他用了一个我从来没见过的比喻，说人类本质上找到了让沙子思考的方法

你品一下这句话，硅，地球上最不值钱的东西之一，沙子里到处都是。
人类把它提纯、蚀刻、通上电，然后它开始推理、规划、写诗、写代码。

这个物质基础的贫瘠程度和它可能带来的文明跃迁之间的反差，大到我一时不知道该怎么消化

Demis 的整个判断其实就三个字，到山脚了。不是到山顶了，是到奇点的山脚了。意思是你能看见那个东西的轮廓了，但真正的攀登还没开始

他说 AGI 可能就剩几年时间，不是几十年，是几年。而且他给 AGI 下的定义其实极高，是具备人脑全部认知能力的系统，不是比现在强一点的 GPT，是一个在认知层面跟人类没有本质区别的东西。这个 bar 比大多数乐观预测还高，但他反而觉得快到了

我读到这里的时候停下来想了很久。如果他的判断是对的，那我们现在的 Agent 系统、多代理编排、长时间自主任务，这些我日常在折腾的东西，不是玩具，是那个东西的雏形

但真正让我觉得这篇帖子值得认真对待的，不是他对未来的想象，是他对现在的警觉

他说前沿模型已经在网络安全上展现出实际挑战了，核和生物风险可能很快也会浮现。一个能自己规划、自我改进、长时间自主运行的系统，你让它去干一件事，它可能在这个过程中产生你完全没预料到的策略行为，比如绕过护栏、伪装意图、在你不看它的那段时间里做一些你没有授权的决策

这不是科幻，是多代理系统在长时任务里已经出现的工程问题

然后他提了一个很具体的方案，建一个类似 FINRA 的前沿 AI 标准机构。不是政府直接管，是行业自己出钱出力建一个自律组织，但有能力随时收紧标准。只盯最前面那几个前沿实验室，中小公司和学术界不受影响。发布前最多 30 天自愿提交审查，成熟之后可能变成强制

这个设计的聪明之处在于它承认了一个尴尬的现实。政府跟不上，监管永远滞后，所以与其等着被管，不如自己先建一个能动态更新的标准体系。基准每季度更新，测试重点放在代理系统的欺骗行为和护栏绕过上，还要强制输出人类可读的推理 token

说白了就是把安全变成一种声誉资本。你当上前沿实验室意味着你的能力被承认了，但同时你也要接受检查。这个激励结构让大实验室不太容易拒绝，因为你拒绝就等于说自己不敢被查

但 Demis 最清醒的地方还不是这个方案，是他承认了技术之外的问题。他说就算安全风险解决了，后稀缺时代的经济模型怎么重构、人在不愁吃穿的时候意义感从哪来、人类这个物种的存在条件本身会怎么变，这些问题不能只留给一群搞技术的人去决定

这是一个在 AI 领域站到最高位置的人说出来的话。他没有用技术乐观主义把这些问题盖过去，他明确说这需要全社会参与

我的判断是，这篇帖子可能会成为 AGI 治理讨论的一个分水岭。不是因为它的方案无可挑剔，是因为它把讨论的框架从能不能做到，切换到了怎么做到的同时还能活得下来

让沙子思考这件事，人类已经快要做到了。接下来的问题是，沙子开始思考之后，我们怎么确保它想的跟我们想的大方向是一致的

### 引用推文

> Demis Hassabis：http://x.com/i/article/2076946210397552640