使用AI代理处理复杂任务时,一个反直觉的现象出现:最耗时的环节并非思考决策,而是不断修正AI的低级错误。这种隐性修正成本难以预判和管理,使人从“执行者”转变为“验证者”,用注意力填补AI的不可靠性。这反映了AI自主性增强后的新挑战。Sam Altman指出AI可能负责发现复杂规律,而人类仍需负责理解,这印证了人类需承担对AI成果进行验证与理解的新负担,而非单纯地提效。
奥特曼说的这些话,这个现象其实比很多人想象的更值得警惕。
用 AI 代理完成了一整套复杂任务,结果发现整个流程里最耗时的部分,竟然不是思考和决策,而是不断「修正 AI 犯的低级错误」。
这听起来有点反直觉。
我们通常以为 AI 能帮我们省掉大量重复劳动,但当代理能力变强之后,新的问题出现了--我们开始花更多时间去监督、纠正和兜底。
真正棘手的地方在于,这种修正成本往往是隐性的。 你很难提前预判 AI会在哪个环节突然翻车,也很难建立一套可靠的验证机制。
久而久之,很多人其实不是在用 AI 提升效率,而是在用自己的注意力去填补 AI的不可靠性。
这其实暴露了一个更深层的问题:当工具的自主性提高后,人的角色正在从「执行者」变成「验证者」。
而验证这件事,本身需要极高的判断力和系统性思维。