loading="lazy">
53AI知识库
学习大模型的前沿技术与行业应用场景
关注 ▲AI模数师▲ 探索AI生活,驱动数据智能
欢迎来到AI模数师 Agent智能体指北系列 的第6篇原创
如果您刚开始接触AI ,欢迎订阅小白学AI系列,零基础搞定大模型!
如果您想成为一个AI应用开发者,欢迎订阅深入浅出RAG系列。
另外~~跟大家宣布个重要的事情!我已经通过微信对话开发平台把自己变成了一个万能的超级Agent智能体,可以在后台问我各种问题~~还可以陪你玩成语接龙 和 末日生存游戏 !欢迎后台私信体验啊~~
代码生成和分析是大型语言模型(LLMs)最重要的应用场景之一,比如我们可以直接让Kimi写一段Python程序。
不过对于复杂的程序,有时候效果并不能满足我们的期望。
不过现在有了工作流,可以通过LangGraph打造一个编程智能体,通过迭代的方式,让Agent自我进化,实现更好的编程效果,主要包含两个步骤:
(2)反思这些测试的结果,以改进解决方案。
但是,通过 LangGraph 打造智能体究竟能带来多大的提升效果?我们想需要对比两种不同的架构:
通过提示词编写代码
通过LangGraph 构建编写代码的流程,如果有错误则自我纠正
我们实现了一个包含以下组件的代码生成的工作流:
受最近长上下文 LLMs 趋势的启发,我们使用 gpt-4 和 128k 令牌上下文窗口对 60k 令牌 LCEL 文档进行上下文填充。我们将一个关于 LCEL 的问题传递给我们填充了上下文的 LCEL 链以生成初始答案。
我们使用 OpenAI 工具将输出解析为 Pydantic 对象,该对象包含三个部分:(1)描述问题的序言,(2)import 代码块(3)代码。
我们首先检查 导入 执行,因为我们发现在代码生成过程中,导入语句中可能会出现幻觉。
如果 导入 检查通过,我们接下来检查代码本身是否可以执行。在生成提示中,我们指示 LLM 不要在代码解决方案中使用伪代码或未定义的变量,这应该产生可执行的代码。
重要的是,如果任一检查失败,我们将堆栈跟踪与之前的答案一起传回生成节点以进行反思。我们允许重试 3 次(仅作为默认值),重试次数可以根据需要扩展。
作为基线,我们实现了没有 LangGraph 的提示词代码生成,使用 GPT-4 和 128k 令牌上下文窗口对 60k 令牌 LCEL 文档进行内容生产。将一个关于 LCEL 的问题传递给我们填充了上下文的 LCEL 链以生成答案。
使用 LangSmith 进行评估,主要评估两项:import的内容和代码执行是否正确。
在评估集上用 20 个问题对提示词生成的代码进行了四次评估。我们看到 大约98% 的导入测试是正确的,大约 55% 的代码通过了执行测试。
失败的内容主要是它没有意识到 RunnableLambda 函数的输入将是一个 dict 并认为它是一个 string:AttributeError: 'dict' object has no attribute 'upper'
然后我们测试了 提示词 + LangGraph 在导入和代码执行中执行此类错误的检查,然后在执行更新答案生成时反思任何错误。
在相同的评估集上,我们看到 100% 的导入测试是正确的,以及 大约 81% 的代码通过了测试。
使用LangGraph也遇到了相同的错误,但在错误的反思过程中,通过三次反思,最终生成正确处理了 RunnableLambda 函数中的输入 dict。
总体而言,添加这个简单的反思步骤并使用 LangGraph 重试,导致代码执行有了显著改进,大约有 26% 的改进。
LangGraph 可以有效地通过编程智能体解决代码编写过程中的一些问题,通过对失败结果的反思,并自我迭代改进代码结果。
在不远的将来,Agent智能体已经可以替代大部分初级开发的工作,人人都能编程的时代已经到来!
欢迎关注我,获取更多关于 AI 优化的前沿资讯。别忘了将今天的内容分享给你的朋友们,让我们一起见证 AI 技术的飞跃!
觉得我的文章对你有帮助的话,请不要吝啬你的点赞、在看和转发~
53AI,大模型落地应用首选服务商
定位:开箱即用的大模型落地应用平台
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
微软技术社区:做RAG?向量搜索还不够
全球首个开源AIGC数字人模型免费使用,手机端可跑!
如何让AI基于超长文档进行问答?
翻车了?这才是真正的SD3!
Omost!让AI大模型代写AI绘画提示词
《构建和评估高级RAG》: RAG评估要素和方法
【AI大模型应用开发】AI+知识图谱极简入门:手把手带你体验LangChain实现知识图谱创建和查询(附代码和源码分析)
广州:广州市华景路37号(华景软件园)暨南大学科技大厦6楼(整层) 杨小姐 186 6662 7370
上海:上海市浦东新区金新路58号1602室 戴先生 186 1639 7587
广州:广州市华景路37号(华景软件园)暨南大学科技大厦6楼(整层) 杨小姐 186 6662 7370
上海:上海市浦东新区金新路58号1602室 戴先生 186 1639 7587
与创始人交个朋友
-->广州:广州市华景路37号(华景软件园)暨南大学科技大厦6楼(整层) 杨小姐 186 6662 7370上海:上海市浦东新区金新路58号1602室 戴先生 186 1639 7587
-->自动秒收录 | 电影导航 | 网络推广 | ChatGPT中文版 | AI绘画 | AI文生图 | 网站地图 | 网站目录