Blog

Blog

PHODAL

粪围编程:人工智能代码生成中的不良实践

I. 引言:人工智能代码生成时代下“粪围编程”的定义

人工智能代码生成技术正以前所未有的速度发展,大型语言模型(LLMs)在理解自然语言并将其转化为可执行代码方面展现出强大的能力 1。这项技术的出现,预示着开发效率的提升、原型设计的加速以及软件开发门槛的降低 3。业界对人工智能编码助手的热情和快速采纳也印证了这一趋势 1。

在这种背景下,“氛围编程”(Vibe Coding)的概念应运而生。它指的是一种依赖人工智能的编程技术,开发者通过自然语言提示引导人工智能生成代码,从而将程序员的角色从手动编写代码转变为指导、测试和完善人工智能生成的源代码 1。Andrej Karpathy 将“氛围编程”定义为一种全新的编码方式,即“完全沉浸在氛围中,拥抱指数增长,并忘记代码的存在” 1。这种理念的核心在于,即使是没有深厚编程背景的人员,也能通过与人工智能进行自然语言交流来构建应用程序 3。支持者认为,“氛围编程”甚至能让业余程序员在没有大量专业训练的情况下产出软件 1。

然而,随着人工智能代码生成技术的普及,一种带有讽刺意味的说法也开始流传,那就是“粪围编程”(Shit-Fence Programming)。这个概念是对“氛围编程”不加批判地采用可能导致的负面后果的一种警示。它强调在人工智能代码生成过程中可能出现的各种问题和潜在陷阱,与“氛围编程”所追求的效率和创新形成鲜明对比。

本报告旨在深入分析“粪围编程”这一概念,探讨其在软件开发中的具体表现和潜在危害,并与“氛围编程”进行对比分析。报告还将重点关注开发者如何识别和避免“粪围编程”的实践,并探讨与之相关的其他不良模式,最终提出确保人工智能生成代码质量和可靠性的替代方法和更优实践。

II. 理解“氛围编程”(Vibe Coding):机遇与挑战

“氛围编程”之所以受到关注,在于其诸多潜在优势。首先,它可以显著缩短开发时间并提高生产力 3。通过将重复性的编码任务和样板代码的生成外包给人工智能,开发者可以将更多精力投入到更具创造性的工作和高层次的设计上 2。其次,“氛围编程”降低了非技术人员创建软件的门槛 1。产品经理、设计师甚至市场人员都可以借助人工智能快速构建原型,验证想法 2。此外,Karpathy 提出的“软件为一人”的概念也展现了“氛围编程”的潜力,即根据个人需求定制化生成应用程序 1。

然而,研究表明,“氛围编程”并非没有局限性和潜在的负面影响。一个主要的风险在于用户可能在没有完全理解的情况下接受人工智能生成的代码 1。这种做法可能导致代码中隐藏的错误、漏洞和安全隐患被忽视 1。Karpathy 本人也承认,人工智能工具在修复和理解错误方面存在局限性,有时需要通过反复试验才能解决问题 1。更令人担忧的是,如果将通过“氛围编程”生成的代码直接应用于生产环境,其潜在风险将大大增加,因为对代码的深入理解对于调试、维护和安全至关重要 1。

研究还指出,人工智能在理解项目特定背景方面存在不足,可能生成在语法上正确但在逻辑上不恰当或过于复杂的代码 12。人工智能模型的训练数据是其能力的基础,但这些数据可能包含偏差、过时的信息或不安全的编码实践 10。过度依赖人工智能还可能导致生成的解决方案过于相似或缺乏创新 10,甚至可能削弱开发人员的基本编码技能 6。此外,“氛围编程”还引发了关于责任归属、偏见、知识产权和未来工作模式等伦理问题 6。

尽管“氛围编程”具有诸多诱人的前景,但研究明确表明,如果不加批判地应用,可能会导致代码质量、安全性和开发人员专业技能方面的严重问题。这种双重性凸显了理解其细微差别和潜在陷阱的重要性。

III. 解构“粪围编程”(Shit-Fence Programming):核心问题与表现形式

“粪围编程”本质上是对“氛围编程”的一种负面解读,它形象地描绘了一种仅仅依赖人工智能生成代码,而不进行充分审查、测试和理解的做法。“shit-fence”这个比喻暗示着一种表面的、看似有效的屏障,但实际上却无法真正解决根本问题,反而掩盖了潜在的风险和漏洞。其核心特征在于对人工智能生成的代码的盲目接受,缺乏必要的批判性评估。这种做法极易导致技术债务的累积、安全漏洞的引入以及难以维护的系统的产生。

“粪围编程”可能以多种形式出现。例如,开发者可能会简单地复制粘贴人工智能生成的代码片段,而不去深入理解其内部逻辑和工作原理 17。即使静态分析工具或代码审查发现了潜在问题,开发者也可能因为对人工智能输出的盲目信任而忽视这些警告。此外,由于最初的测试中代码“似乎能够工作”,开发者可能会忽略进行充分的单元测试、集成测试和安全测试的必要性。这种不良实践还可能导致代码不符合既定的编码标准和最佳实践,使得代码库变得混乱且难以阅读。更甚者,由于只关注快速生成代码,开发者可能会忽略编写必要的文档。最令人担忧的是,人工智能可能因为缺乏对特定安全要求的了解或引入不安全的依赖关系,而在代码中留下安全漏洞 6。人工智能模型也可能因为训练数据的限制而生成不正确或过时的代码 12。

总而言之,“粪围编程”的核心在于对人工智能代码生成缺乏严谨性和批判性评估。其关注点从构建健壮且易于理解的系统转向仅仅产生表面上满足需求的代码,而这往往是以牺牲长期的可维护性和安全性为代价的。

IV. “粪围编程”的实际负面影响:案例与讨论

“粪围编程”的实践可能导致一系列切实的负面影响。首先,未经审查和充分测试的人工智能生成代码极易在生产环境中引发更多错误和异常行为 6。例如,有研究案例表明,人工智能生成的代码甚至会捏造虚假的评论信息 1。

其次,安全漏洞的风险显著增加。人工智能可能在生成的代码中引入常见的安全缺陷,如注入攻击、弱身份验证或敏感数据泄露 6。此外,人工智能还可能引入不安全或过时的第三方依赖库 10。更令人担忧的是,如果配置不当或在不安全的环境中使用,人工智能还可能泄露敏感信息 10。

第三,“粪围编程”会导致技术债务的累积。结构不良、缺乏文档且开发者不完全理解的人工智能生成代码会在长期内带来维护上的巨大挑战,并增加开发成本 6。开发者将难以调试和修改自己不理解的代码 1。

第四,团队协作和知识共享也会受到影响。过度依赖人工智能而不求甚解会导致团队内部出现知识鸿沟 9。当团队成员缺乏评估人工智能生成代码的能力时,代码审查也会变得困难 10。

最后,伦理问题也不容忽视。人工智能可能在代码中引入偏见 6。对于人工智能生成代码中出现的错误或安全漏洞,责任归属也变得模糊不清 6。此外,如果人工智能生成的代码侵犯了现有的知识产权,还会引发法律风险 6。

“粪围编程”的负面影响不仅限于代码本身,还会波及整个软件开发生命周期、团队动态以及伦理层面。这凸显了其系统性风险。

V. “粪围编程”与“氛围编程”:目标、方法与结果的差异

“氛围编程”和“粪围编程”在目标、方法和结果上存在显著差异。

从目标上看,“氛围编程”强调的是利用人工智能提高开发速度、降低开发门槛,并最终实现软件开发的民主化 3。而“粪围编程”虽然表面上也追求快速开发,但由于缺乏必要的监督和审查,其最终结果往往是质量低劣且隐藏着各种问题的代码。

在方法上,“氛围编程”依赖于开发者通过自然语言提示与人工智能进行交互,并进行迭代优化 2。一个负责任的“氛围编程”实践仍然需要开发者具备一定的编程基础,能够理解、测试和改进人工智能生成的代码。相反,“粪围编程”的特点是对人工智能生成的代码采取不加批判的接受和部署态度,缺乏必要的审查和理解 1。

从结果上看,“氛围编程”在妥善管理的情况下,可以实现快速原型设计和功能性软件的开发,但如果缺乏足够的关注,也可能导致软件存在缺陷。而“粪围编程”则极有可能产生不可靠、不安全且难以维护的代码,长期来看会对项目造成严重损害。

人为监督和批判性思维在两种方法中扮演着截然不同的角色。“氛围编程”在理想情况下,是将人工智能作为一种辅助工具,与人类的专业知识相结合,共同构建软件。而“粪围编程”则恰恰缺失了这种关键的人工要素,导致其产生负面后果。

下表总结了“氛围编程”和“粪围编程”的主要区别:

特征 “氛围编程” (Vibe Coding) “粪围编程” (Shit-Fence Programming)
主要目标 速度、易用性、软件开发的民主化 表面上追求速度,但常导致质量低劣和隐藏问题
方法 自然语言提示,与人工智能迭代优化 对人工智能生成的代码采取不加批判的接受和部署
人为角色 指导、测试、完善、理解 最少的审查、测试或理解
结果 快速原型设计,功能性但可能存在缺陷的软件 不可靠、不安全且难以维护的代码
监督 理想情况下需要强大的人为监督和批判性思维 根本上缺乏关键的人为监督

“氛围编程”和“粪围编程”的关键区别在于开发者的心态以及对人工智能生成代码的批判性参与程度。虽然“氛围编程”在负责任地使用时可能是一种有价值的工具,“粪围编程”则代表了其危险的对立面。

VI. 识别与规避“粪围编程”:开发者与组织的策略

为了识别和规避“粪围编程”的风险,开发者和组织需要采取多方面的策略。首先,必须对开发者进行教育,使其充分认识到盲目采用人工智能生成代码的潜在危害,并强调“信任但要验证”的重要性 11。

其次,对于所有人工智能生成的代码,都应实施强制性的代码审查流程。经验丰富的开发者需要仔细审查人工智能的输出,确保其正确性、安全性以及是否符合编码标准 6。同时,还需要对代码审查人员进行培训,使其掌握有效评估人工智能生成代码的方法 10。

第三,必须强制执行严格的测试协议。所有人工智能生成的代码都应进行单元测试、集成测试和安全测试 6。可以考虑使用人工智能工具来辅助生成测试用例 8。

第四,鼓励开发者深入理解人工智能生成的代码。应该要求开发者向人工智能询问代码的解释,并彻底理解其逻辑和功能 15,避免将人工智能生成的代码视为“黑箱”。

第五,建立清晰的编码标准和人工智能使用指南。需要向人工智能提供项目特定的标准和偏好信息 18,确保人为编写的代码和人工智能生成的代码之间保持一致性 6。

第六,实施人工智能代码生成的安全最佳实践。采用安全的编码习惯,避免在代码中硬编码敏感信息 6。审查人工智能建议的第三方依赖项 10。限制人工智能对敏感数据的访问,并在沙盒环境中进行测试 18。防范提示注入攻击 18。

第七,鼓励采用迭代式开发流程,并进行频繁的审查和优化。将大型任务分解为更小的单元交由人工智能处理 18,并在每个阶段审查和测试输出 18。

第八,详细记录人工智能在代码库中的使用情况。记录人工智能生成代码的来源、修改情况以及修改原因 18。使用文档工具清晰地解释人工智能创建的代码 15。

规避“粪围编程”需要教育、流程变革和技术保障相结合的多方面方法。它需要将心态从盲目依赖转变为负责任和批判性地对待人工智能代码生成工具。

VII. 软件开发中相关的反模式及其对人工智能生成代码的影响

“粪围编程”并非全新的现象,它与软件开发中一些已有的反模式密切相关,并且人工智能的普及可能会加剧这些问题。例如,“盲目崇拜式编程”(Cargo Cult Programming)指的是开发者在不理解代码工作原理的情况下,盲目地复制粘贴代码片段。人工智能的出现使得开发者更容易复制人工智能生成的代码而不求甚解,从而加剧了这个问题 17。

“意大利面条式代码”(Spaghetti Code)指的是结构混乱、难以维护的代码。如果人工智能在缺乏适当架构背景的情况下生成代码,或者开发者缺乏指导人工智能的专业知识,就很容易产生这种代码 10。虽然人工智能可以帮助开发者发现并使用现有的解决方案,从而避免“重复发明轮子”(Not Invented Here Syndrome),但如果开发者不加批判地采用人工智能的建议,可能会忽略更好、更易于理解的内部解决方案。此外,如果零散地采用人工智能生成的组件而缺乏统一的架构愿景,还可能导致系统变成一个“大泥球”(Big Ball of Mud),即一个没有清晰结构的系统。

“粪围编程”通过缺乏理解和审查,直接导致产生的代码呈现出这些反模式的特征。即使在人工智能的辅助下,维护良好的软件工程原则仍然至关重要 9。人工智能是一种增强工具,而不是替代软件开发的基本实践,例如规划、设计和架构考虑。

VIII. “粪围编程”对代码质量、可维护性和安全性的不利影响

“粪围编程”直接损害了良好软件工程的核心原则,导致代码质量下降、维护负担增加以及安全风险显著提高。

代码质量:“粪围编程”会导致编码风格不一致、不符合最佳实践,并可能引入逻辑错误 6。缺乏理解和审查使得代码难以阅读和理解 9。

**可维护性:**缺乏文档和理解使得调试、修改和扩展通过“粪围编程”产生的代码变得异常困难 1。重构结构不良或缺乏文档的人工智能生成代码也面临巨大挑战 6。技术债务的累积及其对长期开发速度和成本的影响也不容忽视 6。

**安全性:**未经审查的人工智能生成代码增加了引入安全漏洞的风险,包括不安全的依赖和有缺陷的逻辑 6。人工智能还可能生成易受常见攻击或处理敏感数据不当的代码 6。

“粪围编程”直接破坏了良好软件工程的基石,导致代码质量下降,维护负担加重,并带来严重的安全风险。

IX. 迈向负责任的人工智能代码生成:最佳实践与替代方案

要摆脱“粪围编程”,需要有意识地将人工智能工具以周全和负责任的方式融入软件开发过程,强调人为控制、批判性评估和对既定最佳实践的遵守。

首先,重申人为监督和批判性评估的重要性。应该将人工智能视为开发者的助手,而不是替代品 9。

其次,推广人工智能代码生成的最佳实践:

  • 全面记录人工智能的使用情况 18。
  • 使人工智能工具与编码标准保持一致 18。
  • 创建具体且详细的提示 18。
  • 严格审查和测试人工智能生成的代码 6。
  • 利用人类专业知识验证人工智能生成的代码 18。
  • 建立迭代式开发流程 18。
  • 对于复杂的任务,采用逐步提示的工作流程 18。

第三,建议采用“粪围编程”的替代方案:

  • 专注于将人工智能用于特定的、定义明确的任务,而不是在没有审查的情况下生成整个功能或应用程序。
  • 利用人工智能生成样板代码、代码补全和建议,同时保持人类对关键逻辑和架构的控制 6。
  • 使用人工智能辅助调试和识别人为编写代码中的潜在问题。
  • 探索人工智能在生成单元测试和文档方面的潜力 8。

最后,强调在人工智能时代持续学习和适应的重要性。鼓励开发者理解他们使用的人工智能工具的能力和局限性,并推广关于安全编码实践和负责任的人工智能使用的持续培训和教育。

X. 结论:驾驭人工智能辅助开发的未来

本报告深入分析了“粪围编程”这一概念,强调了其作为对不加批判地采用人工智能代码生成技术的警示意义。与“氛围编程”的潜在益处形成对比的是,“粪围编程”由于缺乏必要的审查、测试和理解,极易导致代码质量下降、安全风险增加以及维护困难。

然而,人工智能在软件开发中仍然具有巨大的潜力。当以负责任和审慎的态度使用时,人工智能可以显著提高开发效率、加速原型设计并推动创新。关键在于开发者和组织需要采取一种谨慎和批判性的方法来对待人工智能代码生成,始终将代码质量、安全性和可维护性放在首位。

在快速发展的人工智能领域,持续学习和适应至关重要。通过采纳最佳实践、实施严格的流程并保持对人工智能工具的清晰认识,开发者可以有效地驾驭人工智能辅助开发的未来,避免“粪围编程”的陷阱,并最终构建出更可靠、更安全的软件系统。

Works cited

  1. Vibe coding - Wikipedia, accessed March 31, 2025, https://en.wikipedia.org/wiki/Vibe_coding
  2. Vibe Coding. AI-Assisted Coding for Non-Developers | by Niall McNulty - Medium, accessed March 31, 2025, https://medium.com/@niall.mcnulty/vibe-coding-b79a6d3f0caa
  3. Replit — What is Vibe Coding?, accessed March 31, 2025, https://blog.replit.com/what-is-vibe-coding
  4. A definition of “vibe coding,” or: how AI is turning everyone into a software developer, accessed March 31, 2025, https://blog.medium.com/a-definition-of-vibe-coding-or-how-ai-is-turning-everyone-into-a-software-developer-07346324b826
  5. Vibe Coding and Vibe Design - UX Tigers, accessed March 31, 2025, https://www.uxtigers.com/post/vibe-coding-vibe-design
  6. AI Code Generation: The Risks and Benefits of AI in Software - Legit Security, accessed March 31, 2025, https://www.legitsecurity.com/blog/ai-code-generation-benefits-and-risks
  7. AI Code Generation Explained: A Developer's Guide - GitLab, accessed March 31, 2025, https://about.gitlab.com/topics/devops/ai-code-generation-guide/
  8. What I Learned from Vibe Coding - DEV Community, accessed March 31, 2025, https://dev.to/erikch/what-i-learned-vibe-coding-30em
  9. The Risks of AI-Generated Code | SecOps® Solution, accessed March 31, 2025, https://www.secopsolution.com/blog/the-risks-of-ai-generated-code
  10. The risks of generative AI coding in software development - SecureFlag, accessed March 31, 2025, https://blog.secureflag.com/2024/10/16/the-risks-of-generative-ai-coding-in-software-development/
  11. AI Coding Assistants: 17 Risks (And How To Mitigate Them) - Forbes, accessed March 31, 2025, https://www.forbes.com/councils/forbestechcouncil/2025/03/21/ai-coding-assistants-17-risks-and-how-to-mitigate-them/
  12. 6 limitations of AI code assistants and why developers should be ..., accessed March 31, 2025, https://allthingsopen.org/articles/ai-code-assistants-limitations
  13. AI-Generated Infrastructure-as-Code: the Good, the Bad and the ..., accessed March 31, 2025, https://www.styra.com/blog/ai-generated-infrastructure-as-code-the-good-the-bad-and-the-ugly/
  14. There is no Vibe Engineering - SerCe's blog, accessed March 31, 2025, https://serce.me/posts/2025-31-03-there-is-no-vibe-engineering
  15. Chapter 3 Ethics of Using AI | AI for Efficient Programming, accessed March 31, 2025, https://hutchdatascience.org/AI_for_Efficient_Programming/ethics-of-using-ai.html
  16. AI Considerations for Teaching and Learning, accessed March 31, 2025, https://teaching.resources.osu.edu/teaching-topics/ai-considerations-teaching-learning
  17. Using AI Generated Code Will Make You a Bad Programmer - Reddit, accessed March 31, 2025, https://www.reddit.com/r/programming/comments/1g8vcus/using_ai_generated_code_will_make_you_a_bad/
  18. Best Practices for Using AI in Software Development 2025 - Leanware, accessed March 31, 2025, https://www.leanware.co/insights/best-practices-ai-software-development
  19. 8 Best Practices to Generate Code with Generative AI : r/ChatGPTCoding - Reddit, accessed March 31, 2025, https://www.reddit.com/r/ChatGPTCoding/comments/1fyti60/8_best_practices_to_generate_code_with_generative/
  20. AI-Assisted Software Development: A Comprehensive Guide with Practical Prompts (Part 2/3) - Aalap Davjekar, accessed March 31, 2025, https://aalapdavjekar.medium.com/ai-assisted-software-development-a-comprehensive-guide-with-practical-prompts-part-2-3-02484af85dd7
  21. Best Practices for Coding with AI in 2024 - Codacy | Blog, accessed March 31, 2025, https://blog.codacy.com/best-practices-for-coding-with-ai

或许您还需要下面的文章:

关于我

Github: @phodal     微博:@phodal     知乎:@phodal    

微信公众号(Phodal)

围观我的Github Idea墙, 也许,你会遇到心仪的项目

QQ技术交流群: 321689806
comment

Feeds

RSS / Atom

最近文章

关于作者

Phodal Huang

Engineer, Consultant, Writer, Designer

ThoughtWorks 技术专家

工程师 / 咨询师 / 作家 / 设计学徒

开源深度爱好者

出版有《前端架构:从入门到微前端》、《自己动手设计物联网》、《全栈应用开发:精益实践》

联系我: h@phodal.com

微信公众号: 最新技术分享

标签