上周末，我们在 QCon 广州 2023 上分享了一个 AI 结合研发效能的话题：《探索软件开发新工序：LLM 赋能研发效能提升》 。我们分享了：Thoughtworks 在过去的两个月里对于 LLM （大语言模型）结合软件开发的一些探索。
在研究了 GitHub Copilot 与 JetBrains AI Assistant 的实现原理，并以某种方式参考了他们的代码之后，我尝试在 AutoDev 实现相关的 prompt 策略。
在过去的几个月里，我们一直在探索：如何将大语言模型用于研发效能提升？而随着，我们研究的逐步推进，慢慢进入一些深水区，诸如于：如何将 AI 更好地用于辅助架构设计？基于我们多年的架构设计及治理经验，开放服务能力是评价架构的重要维度之一，而 API 正是提升架构开放性和改善对外服务能力的关键手段。
上个月在计划为 AutoDev 添加多语言支持时候，发现 GitHub Copilot 的插件功能是语言无关的（通过 plugin.xml 分析），便想研究一下它是如何使用 TreeSitter 的。可惜的是，直到最近才有空，研究一下它是如何实现的。
围绕于探索 AI 对软件研发的影响，并在有了 LLM 微调工程化能力之后，我们上周末又开源了一个适用于 AI 研发提效的工具：AutoDev。如此一来，我们便构建了接近完整的 AI 在研发效能提升。
在过去的几周里，我们尝试自己结合开源的大模型 LLaMA、ChatGLM 进行模型微调，除了业务部分的探索，还有很大一部分在技术方面的探索，诸如于代码辅助生成。
本文的阅读成本很低，不需要大量地先验 AI 知识。作为纯纯的软件工程师，我们发现：学懂基本的 AI Prompt 原理与模式，不懂 LLM （大语言模型）算法，你也可以轻易驾驭 LoRA （Low-Rank Adaptation of LLM，即插件式的微调）训练。
在我们构建了 Unit Mesh 架构之后，以及对应的 demo 之后，便着手于实现 Unit Mesh 架构。于是，我们就继续开始 Unit Runtime，以用于直接运行 AI 生成的代码。
Prompt 即代码是一种基于多种输入模态的编程范式，它通过结合文本、图像、语音等多种输入方式来提供更丰富的上下文信息，帮助程序员更好地表达自己的意图，并生成相应的代码实现。Prompt 即代码将 prompt 作为代码的一部分，以及作为标准接口来定义生成的代码，同时提供注释和文档信息以支持可读性和可维护性。通过使用 prompt 即代码，程序员可以提高编码效率，同时生成更准确、更可靠的代码实现。
Unit Mesh是一种基于人工智能生成的分布式架构，与传统的分布式架构不同，Unit Mesh 中的服务单元 (Unit) 是由 AI 生成的，应用程序中的服务和数据抽象为一个个独立的单元，并通过统一的控制平面进行管理和部署。