Blog
Blog
PHODAL

查看分类 AI

如何设计一个 JVM 语言的 LLM 应用开发框架？以 Chocolate Factory 为例

Posted by: Phodal Huang in AI Sept. 23, 2023, 3:14 p.m.

本文将介绍 Chocolate Factory 框架背后的一系列想法和思路。在我们探索和设计框架的过程中，受到了：LangChain4j、LangChain、LlamaIndex、Spring AI、Semantic Kernel、PromptFlow 的大量启发。

更多 arrow_forward

Prompt 策略：代码库 AI 助手的语义化搜索设计

Posted by: Phodal Huang in AI Sept. 17, 2023, 3:41 p.m.

在过去的一周里，为了更好的构建 AI Agent 框架 Chocolate Factory（以下简称 CF），我们加入了一个新的应用：代码库 AI 助手。

更多 arrow_forward

领域驱动的问题求解 + AIGC = 开源 AI Agents 应用框架：Chocolate Factory

Posted by: Phodal Huang in AI Sept. 10, 2023, 12:39 p.m.

在过去的一段时间，我们尝试从先前的 AIGC 应用经验里，进行一些再提炼和总结。从起先的 ClickPrompt（https://www.clickprompt.org/）、ChatFlow，到我们的 AI + 软件开发组织 Unit Mesh 下构建了一系列应用：

更多 arrow_forward

如何工程化落地 LLM：五类模式加速 AI 应用开发

Posted by: Phodal Huang in AI Sept. 3, 2023, 9:59 p.m.

几个月前，在 Thoughtworks 的内部 AIGC 研讨会里，我们一直达成了一系列一致观点，诸如于：如果没有 “开源模型” 降低企业应用 LLM 的成本，那么 LLM 会很快消亡。所以，我们相信开源 LLM + LoRA 微调会成为企业的一种主流方式。现今，我们可以看到 LLaMA 2、Code LLaMA 2 等模型在不断刷新这种可能性。

更多 arrow_forward

CoUnit：探索 LLM 即团队接口人，释放平台工程生产力

Posted by: Phodal Huang in AI Aug. 25, 2023, 10:23 p.m.

在那篇《LLM as Co-integrator：重塑团队间交互，持续改进信息对齐》里，我们说道，为了更好的利用 AIGC 提升效能，我们的第二个阶段应该是：让 LLM 做一些协同工作，诸如于：构建多场景知识问答，降低知识检索成本、设计团队 API，打造智能助理。

更多 arrow_forward

LLM as Co-integrator：重塑团队间交互，持续改进信息对齐

Posted by: Phodal Huang in AI Aug. 13, 2023, 3:36 p.m.

在五月份的 QCon 大会上，我们分享了《探索软件开发新工序：LLM 赋能研发效能提升》。在那次分享里，我们重点提及了团队并非所有的时间在 SDLC 上，可能只有 30%~50% 时间在开发软件上，甚至于有可能只有晚上才有时间写代码。所以，LLM 对于总结的提升是有限的，加之工具本身的缺乏，有可能导致带来的提升更有限。

更多 arrow_forward

开源 AI 编程助手 AutoDev 0.7 发布—— 生成规范化代码，深入开发者日常

Posted by: Phodal Huang in AI July 23, 2023, 2:24 p.m.

几个月前，我们朝着探索：如何结合 AIGC 的研发效能提升的目标？开源了 AutoDev，如 GitHub 所介绍的：

更多 arrow_forward

LLM 赋能的 BizDevOps 工具链：扩大端到端触点，内建流程与规范

Posted by: Phodal Huang in AI July 16, 2023, 5:02 p.m.

在本系列的前两篇文章《LLM 赋能的研发效能》、《LLM 赋能的软件架构》里，介绍了我们在 LLM 结合 BizDevOps、软件架构的一系列试验。围绕于这两大类探索，我们构建了两个开源 LLM 工具：AI 辅助编程工具 AutoDev（IDEA 插件 ）、架构治理工具 ArchGuard Co-mate。

更多 arrow_forward

经典软件工程复兴？大模型驱动的软件工程实践标准化

Posted by: Phodal Huang in AI July 2, 2023, 6:51 p.m.

随着大语言模型在软件开发中的应用越来越广泛，传统的软件工程实践开始被重新关注和提及。在诸如于编写清晰的文档、进行代码审查和单元测试等领域，我们可以看到 LLM（大语言模型） 能带来极多在提升。而在其它的一些领域，诸如于辅助接口设计、辅助架构设计、架构治理，我们看到人们有了越来越多的尝试。

更多 arrow_forward

开源 AIGC 电子书《构筑大语言模型应用：应用开发与架构设计》

Posted by: Phodal Huang in AI June 28, 2023, 6:16 p.m.

TL;DR 版；

更多 arrow_forward

Feeds

RSS / Atom

最近文章

关于作者

Phodal Huang

Engineer, Consultant, Writer, Designer

ThoughtWorks 技术专家

工程师 / 咨询师 / 作家 / 设计学徒

开源深度爱好者

出版有《前端架构：从入门到微前端》、《自己动手设计物联网》、《全栈应用开发：精益实践》

联系我: h@phodal.com

微信公众号: 最新技术分享

存档

分类

标签

作者