乔治·霍茨警告：AI编程智能体或成软件最大隐患
阅读原文· ithome.com著名黑客乔治·霍茨在经过六个月测试后警告，AI编程智能体可能是软件开发中代价最高的错误之一。他认为这些工具适合快速原型，但无法可靠处理代码细节，生成的代码可能表面完善却隐蔽问题，给组织带来高额维护成本和故障风险。霍茨本人立场已转向怀疑，认为大语言模型是复杂的统计系统而非真正智能。与之相反，安德烈·卡帕西在GPT-5.4和Opus 4.6发布后改口，认为AI智能体已永久改变了编程方式。
IT之家 5 月 26 日消息，乔治 · 霍茨（George Hotz）于 5 月 24 日发布博文，指出在当代软件开发过程中，AI 编程智能体可能是代价最高的错误之一。
IT之家注：霍茨于 1989 年 10 月出生，人称“神奇小子”（geohot），是世界著名的黑客、安全研究员和创业者。
乔治 · 霍茨，图源：WikiMedia
他以早期破解 iPhone 和 PlayStation 3 闻名，是自动驾驶技术公司 Comma.ai 的创始人，以技术极客形象在编程和人工智能领域备受关注。
霍茨称，自己用 6 个月测试了多种模型和工具，还结合 tinygrad 相关工作，结论是它们适合快速原型，却不擅长处理决定质量的细节。
霍茨在博文中担忧大组织过度依赖 AI 工具，他指出 AI 模型可以快速产生代码，但是生成的代码表面越来越像样，问题却更难识别。
霍茨认为，能力较弱的开发者很难看穿这些缺陷，最终可能把有问题的代码带入正式系统，累积出高昂维护成本和隐蔽故障风险。
在技术判断上，霍茨已从早期乐观转向怀疑。他现在更接近杨立昆（Yann LeCun）和加里 · 马库斯的观点，大语言模型并不真正具备智能。
他认为这类模型本质上是复杂的统计系统，主要任务是模仿编程分布，而不是真正理解问题。正因如此，它们能模仿代码外形，却未必能稳定完成陌生情境下的推理与修正。
与霍茨相反，安德烈 · 卡帕西近来的态度明显转向积极。他曾在 2025 年秋天认为智能体系统不可靠，但在 GPT-5.4 和 Opus 4.6 发布后改口，称 AI 智能体已经永久改变编程方式。