Blog
Blog
PHODAL

如何设计一个 JVM 语言的 LLM 应用开发框架？以 Chocolate Factory 为例

Posted by: Phodal Huang in AI Sept. 23, 2023, 3:14 p.m.

本文将介绍 Chocolate Factory 框架背后的一系列想法和思路。在我们探索和设计框架的过程中，受到了：LangChain4j、LangChain、LlamaIndex、Spring AI、Semantic Kernel、PromptFlow 的大量启发。

更多 arrow_forward

Prompt 策略：代码库 AI 助手的语义化搜索设计

Posted by: Phodal Huang in AI Sept. 17, 2023, 3:41 p.m.

在过去的一周里，为了更好的构建 AI Agent 框架 Chocolate Factory（以下简称 CF），我们加入了一个新的应用：代码库 AI 助手。

更多 arrow_forward

领域驱动的问题求解 + AIGC = 开源 AI Agents 应用框架：Chocolate Factory

Posted by: Phodal Huang in AI Sept. 10, 2023, 12:39 p.m.

在过去的一段时间，我们尝试从先前的 AIGC 应用经验里，进行一些再提炼和总结。从起先的 ClickPrompt（https://www.clickprompt.org/）、ChatFlow，到我们的 AI + 软件开发组织 Unit Mesh 下构建了一系列应用：

更多 arrow_forward

如何工程化落地 LLM：五类模式加速 AI 应用开发

Posted by: Phodal Huang in AI Sept. 3, 2023, 9:59 p.m.

几个月前，在 Thoughtworks 的内部 AIGC 研讨会里，我们一直达成了一系列一致观点，诸如于：如果没有 “开源模型” 降低企业应用 LLM 的成本，那么 LLM 会很快消亡。所以，我们相信开源 LLM + LoRA 微调会成为企业的一种主流方式。现今，我们可以看到 LLaMA 2、Code LLaMA 2 等模型在不断刷新这种可能性。

更多 arrow_forward

CoUnit：探索 LLM 即团队接口人，释放平台工程生产力

Posted by: Phodal Huang in AI Aug. 25, 2023, 10:23 p.m.

在那篇《LLM as Co-integrator：重塑团队间交互，持续改进信息对齐》里，我们说道，为了更好的利用 AIGC 提升效能，我们的第二个阶段应该是：让 LLM 做一些协同工作，诸如于：构建多场景知识问答，降低知识检索成本、设计团队 API，打造智能助理。

更多 arrow_forward

AutoDev 1.1 更新：自定义大模型、自定义 prompt 行为项、自定义规范

Posted by: Phodal Huang Aug. 20, 2023, 11:41 a.m.

在过去的半个月里，我们为开源辅助编程工具 AutoDev 添加了更强大的自定义能力，现在你可以：

更多 arrow_forward

LLM as Co-integrator：重塑团队间交互，持续改进信息对齐

Posted by: Phodal Huang in AI Aug. 13, 2023, 3:36 p.m.

在五月份的 QCon 大会上，我们分享了《探索软件开发新工序：LLM 赋能研发效能提升》。在那次分享里，我们重点提及了团队并非所有的时间在 SDLC 上，可能只有 30%~50% 时间在开发软件上，甚至于有可能只有晚上才有时间写代码。所以，LLM 对于总结的提升是有限的，加之工具本身的缺乏，有可能导致带来的提升更有限。

更多 arrow_forward

LLM as Co-pilot：AutoDev 1.0 发布，全流程 AI 辅助编程

Posted by: Phodal Huang Aug. 6, 2023, 3:43 p.m.

四月，在那篇《AutoDev：AI 突破研发效能，探索平台工程新机遇》，我们初步拟定了 AI 对于研发的影响。我们有了几个基本的假设：

更多 arrow_forward

探索 prompt 编码范式：如何优雅构建测试代码生成提示词？

Posted by: Phodal Huang July 30, 2023, 8:11 p.m.

从四月份到现在，我们持续为 AutoDev 编写了一系列的功能。尽管开发了三个多月，我们却一直思考、并重构我们管理 prompt 的方式。

更多 arrow_forward

开源 AI 编程助手 AutoDev 0.7 发布—— 生成规范化代码，深入开发者日常

Posted by: Phodal Huang in AI July 23, 2023, 2:24 p.m.

几个月前，我们朝着探索：如何结合 AIGC 的研发效能提升的目标？开源了 AutoDev，如 GitHub 所介绍的：

更多 arrow_forward

Feeds

RSS / Atom

最近文章

关于作者

Phodal Huang

Engineer, Consultant, Writer, Designer

ThoughtWorks 技术专家

工程师 / 咨询师 / 作家 / 设计学徒

开源深度爱好者

出版有《前端架构：从入门到微前端》、《自己动手设计物联网》、《全栈应用开发：精益实践》

联系我: h@phodal.com

微信公众号: 最新技术分享

存档

分类

标签

作者