什么是LLM Agent

导语

GPT（尤其是GPT-4）等大语言模型（LLM）的推出，让人类认识到了大语言模型强大的文本生成能力。 只是用来做文本生成工具的话，LLM的能力就被严重低估了。Agents的想法的出现，则进一步激发了开发者的想象力。 AI Agents被认为是OpenAI的下一个发力方向，也是通用人工智能（AGI）时代的开始。

本文将介绍LLM Agent相关的概念、组成及应用，帮助Agents初学者更好的理解和应用LLM Agent。

本文部分内容梳理/翻译自参考文献中的文章。

LLM Agent 概念定义

关于LLM Agent， OpenAI 应用人工智能研究负责人Lilian Weng在其Blog中将LLM Agent定义为LLM、记忆（Memory）、任务规划（Planning Skills）以及工具使用（Tool Use） 的集合

其中 LLM 是核心大脑，Memory、Planning Skills 以及 Tool Use 等则是 Agents 系统实现的三个关键组件。

通过LLM和三个关键组件，LLM Agent可以拥有复杂的工作流程，其中模型基本上是与自身对话，而无需人工参与到交互的每个部分。

LLM Agent通过迭代运行并定义一些新的目标/任务，而非传统GPT那般接受单个查询的输入并返回输出

LLM Agent 常见功能

LLM Agent能够基于大语言模型进行对话、完成任务、推理，并可以展示一定程度的自主行为。

根据需要，LLM Agent可以提供丰富的功能，下面是LLM Agent 常见的功能：

• 利用LLM本身的语言能力理解指令、上下文和目标
• 利用Tools（工具套件，如计算器、API、搜索引擎等）来收集信息并采取行动完成分配的任务。
• 展示思维链推理、思维树和其他Prompt Engineering概念，建立逻辑关系以得出结论和解决问题。
• 通过将上下文和目标纳入他们的语言生产技能来为特定目的（电子邮件、报告、营销材料）生成量身定制的文本。
• 根据需要，与用户进行不同级别的交互。
• 将不同的 AI 系统（例如带有图像生成器的大型语言模型）耦合在一起，以实现多方面的功能。

LLM Agent 如何工作

工作流

LLM Agent 的工作流通常是一个迭代运行的过程，下图是babyAGI的工作流：

图片来自https://github.com/yoheinakajima/babyagi

该工作流从输入第一个目标任务开始，经过循环进行下列三个步骤，直至完成目标任务（也可能报错）：

1. 第一步： 向Task List 压入一个Task； 然后把任务发送给Execution Agent， Execution Agent 会基于上下文使用OpenAI的API来完成任务。
2. 第二步：丰富执行的结果，并将其存储到向量数据库中。
3. 第三步：根据目标和之前的任务执行结果，创建新的任务并调整任务列表的优先级。

LLM 与 三个组件

LLM Agent 以 LLM 驱动，并需要三大组件辅助以完成工作

（图片来自： https://lilianweng.github.io/posts/2023-06-23-agent/）

规划（Planning）

• 子目标和分解： LLM Agent 能够将大型任务分解为较小的、可管理的子目标，以便有效的处理复杂任务；
• 反思和细化： LLM Agent 可以对过去的行为进行自我批评和反省，从错误中吸取经验教训，并为接下来的行动进行分析、总结和提炼，这种反思和细化可以帮助 Agents 提高自身的智能和适应性，从而提高最终结果的质量。

记忆 （Memory）

• 短期记忆： 所有上下文学习都是依赖模型的短期记忆能力进行的；
• 长期记忆： 这种设计使得 AI Agents 能够长期保存和调用无限信息的能力，一般通过外部载体存储和快速检索来实现。

工具使用（Tool use）

• LLM Agent 可以学习如何调用外部 API，以获取模型权重中缺少的额外信息，这些信息通常在预训练后很难更改，包括当前信息、代码执行能力、对专有信息源的访问等。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

😝有需要的小伙伴，可以点击下方链接免费领取或者V扫描下方二维码免费领取🆓

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取==🆓