← 返回新闻列表

“神奇小子”乔治·霍茨警示:AI编程工具或成软件开发最大隐患

知名黑客、安全研究员乔治·霍茨近日撰文指出,在当今软件工程领域,人工智能编程智能体可能带来高昂的代价。他认为这些工具虽有助于快速原型开发,但在代码质量和细节处理上存在不足,可能导致隐蔽故障和维护成本激增。

文 / 编辑部 · 2026/05/26 · 阅读约 2 分钟

分享:
“神奇小子”乔治·霍茨警示:AI编程工具或成软件开发最大隐患

被称为“神奇小子”的乔治·霍茨于5月24日发表了一篇博文,他认为,在现代软件项目开发中,人工智能编程智能体的广泛应用恐将成为最耗费成本的错误之一。

霍茨生于1989年10月,因早期破解iPhone和PlayStation 3而声名鹊起。他是自动驾驶公司Comma.ai的创始人,以其独特的极客形象在编程和人工智能领域备受关注。

霍茨透露,在历时六个月的测试中,他评估了多种AI模型和工具,并结合自己在tinygrad项目上的经验,最终得出结论:这些AI工具在概念验证和快速原型阶段表现出色,但对于那些决定软件质量的关键细节处理能力却不尽人意。

他在博文中表达了对大型组织过度依赖AI工具的担忧。霍茨指出,尽管AI模型能够迅速生成代码,但产出的代码表面上看起来越来越完善,其内部蕴含的问题也变得愈发难以察觉。

霍茨认为,对于经验不足的开发者而言,识别这些潜在缺陷挑战重重,最终可能导致有问题的代码被整合到正式系统中,日积月累将产生高昂的维护开支和难以预测的故障风险。

在技术判断上,霍茨的态度已从最初的乐观转变为谨慎怀疑。他当前的观点更倾向于杨立昆和加里·马库斯的看法,即大型语言模型并未真正拥有智能。

他表示,这类模型本质上是复杂的统计系统,其主要功能是模仿编程模式的分布,而非真正理解问题或进行深度推理。正因为如此,它们能够模拟代码的结构外观,却难以在陌生情境下稳定地进行逻辑推理和错误修正。

与霍茨的谨慎态度形成对比的是,安德烈·卡帕西近期表现出显著的积极转变。他曾在2025年秋季对智能体系统的可靠性持怀疑态度,但在GPT-5.4和Opus 4.6等新模型发布后,他改变了立场,声称AI智能体已经彻底革新了编程范式。

广告位 · 文末横幅