Sonya Huang：智能体（Agents）是目前大家都非常感兴趣的话题。自从大语 言模型（LLMs）浪潮开始以来，你一直处于智能体构建的核心位置。为了让大家更好地理解，什么是智能体呢？

Harrison Chase：我认为定义智能体其实有点棘手，每个人可能有不同的定义，毕竟这仍然是大语言模型和智能体相关事物的早期阶段。

在我看来，智能体就是让大语言模型在应用程序的控制流中进行决策。如果你有一个更传统的检 索增强生成链（RAG链），步骤通常是事先确定的。首先，你可能会生成一个搜索查询，然后检索一些文档，接着生成一个答案，最后返回给用户。这是一个非常固定的事件序列。

Pat Grady：Har rison，从你刚才所说的很多内容来看，都是关于决策的。而我一直认为智能体是关于行动的。这两者是否密不可分？智能体行为更多是关于决策还是行动？你怎么看这个问题？

Harrison Chase：我认为这两者是 相辅相成的。我们看到智能体做的很多事情都是决定采取什么行动。而采取行动的最大难点在于决定采取什么正确的行动。所以我确实认为解决了一个问题自然会引出另一个问题。在 你决定采取的行动之后，通常会有一个围绕大语言模型的系统，然后去执行该行动并将其反馈给智能体。所以，我认为它们确实是相辅相成的。

Sonya Huang：那么，Harrison，看来智能体和链条（Chain）之间的主要区别在于大型语 言模型本身在决定下一步采取哪些步骤、执行哪些操作，而不是像链条那样事先进行编码。这种区分智能体的方式是否公正？

Harrison Chase：是的，我认为这是正确的。而且还有不同程度的渐变。例如， 作为一个极端例子，你可以有一个基本上决定走哪条路径的路由器。所以你的链中可能只有一个分类步骤。所以LLM仍然在决定做什么，但这是一个非常简单的决策方式。另一个极 端是完全自主的智能体。这中间有如同光谱一样的程度变化。所以我说这在很大程度上是正确的，尽管正如LLM领域中的大多数事情一样，这里有很多细微差别和灰色地带。

Sonya Huang：明白了。

Harrison Cha se：我认为我们目前的重点是让人们能够轻松地创建位于这个光谱中间的东西。由于各种原因，我们看到这是目前构建智能体的最佳位置。所以我们看到一些更完全自主的东西引起 了很多兴趣，并迅速推出了原型，这些完全自主的东西有很多好处，实际上相对简单构建，但我们也看到它们经常偏离轨道，人们想要更受约束但比链更灵活和强大的东西。因此，最 近我们关注的很多是成为这个协调层，支持这些智能体的创建，特别是这些位于链和自主智能体之间的东西。我可以详细解释我们在这方面具体做了什么，但总体而言，我们想成为这 个协调框架的一部分。

Sonya Huang：明白了。所以有链，有自主智能体，中间有一个光谱。而你们的优势点是中间部分，使人们能够创建处于中间状态的智能体。

Harrison Chase：显然，这随着时间的推移发生了变化。回顾LangChai n的演变是很有趣的。当LangChain首次推出时，它实际上是链的组合，然后我们有一个类，这个智能体执行类，基本上是这个自主智能体的东西。我们开始在这个类中添加 更多的控制，最终我们意识到人们想要比我们通过那个类提供的更多的灵活性和控制。

所以，最近我们在LangGraph上投入了很多精力，这是一种LangChain的扩展 ，专门针对可定制的智能体，位于中间位置。因此，我们的重点随着领域的发展而演变。

Sonya Huang：我想再问一个为讨论做铺垫的问题。我们核心观点之一是，下一波浪 潮的人工智能将由智能体主导，并且整个行业正从副驾驶（Copilot）向智能体过渡。您是否认同这种观点？为什么呢？

Harrison Chase：总体而言，我同意您的观点。之所以如此令我兴奋的原因在于 ，副驾驶仍然依赖于人类参与整个循环。因此，外部系统可以完成的工作量在某种程度上存在上限。从这个意义上来说，副驾驶的功能有些局限性。

< span style="">

我确实认为，在正确的用户体验和人类-智能体交互模式方面还存在一些非常有趣的 问题需要思考，不过我认为这些互动模式应该更像是智能体执行操作，然后偶尔向您确认，而不是像副驾驶那样一直处于循环之中。

Sonya Huang：我记得在2023年3月左右，有一些自主智能体真正吸引了大家的想象力。Baby AGI和其他GPT项目，这些在推特上引起了极大的兴趣。但是，我觉得那第 一代的智能体架构并没有完全达到人们的预期。你认为这是为什么？你认为我们现在处于智能体炒作周期的哪个阶段？

Harrison Chase：是的，我认为可以先讨论一下智能体炒作周期。

关于为什么AutoGPT风格的架构没有成功，我觉得它非常通用且不受约束，这使得它非常令人兴奋并激发了人们的想象力。当然，这里也存在一定的灵活性，否则人 们可以直接编写代码来实现这些功能。不过，这是一种非常定向的思维方式，这也是我们今天看到的大部分智能体和助理所遵循的模式。这需要更多的工程工作，更多地去尝试并观察 哪些方法有效，哪些方法无效，这实际上更难做到。因此，这正是为什么这类智能体在一年之前还不存在的原因。

Sonya Huang：你能解释一下什么是认知架构吗？有没有一个好的思维框架让我们理解它们？

Harrison Chase： 。 如果您正在构建一个 位置查找应用程序，其中会用到一些大型语言模型。您打算用这些大型语言模型做什么？是让它们仅仅生成最终答案吗？或者您的架构更像是循环？

< span style="">

我们越来越多地看到，特别是当人们尝试将智能体真正投入生产时，这种信息流会针 对他们的应用程序及其领域进行定制。他们可能一开始就想做一些特定的检查，之后可能会有三个特定步骤。然后，每个步骤可能都包含一个循环返回的选项，或者拥有两个独立的子 步骤。

Pat Grady：你认为这是世界的发展方向吗？因为我从你那里听到两点：一是非常定制 化，二是相当原始，很多方式是硬编码的。你认为这是我们前进的方向，还是一种权宜之计，在某个时候会出现更优雅的架构或一系列默认的参考架构？

Harrison Chase：这是一个很好的问题，也是我花了很多时间思 考的问题。你可以在一个极端上争论，如果模型在规划方面变得非常好和可靠，那么你可能拥有的最好架构就是一个循环，调用LLM，决定做什么，执行动作，然后再循环。所有这 些关于我希望模型如何行动的约束，我只是把它们放在提示中，模型会明确地遵循。

有几个原因：

一是效率问题。如果你知道总是想在步骤B之后做步骤A，你可以直接把它们按顺序排列。二是 可靠性问题。这些事情不是确定性的，特别是在企业环境中，你可能希望有更多的保证简单但通用的架构就像一个在循环中运行的简单认知架构。我们在生产中看到的是定制和复杂的 认知架构。我认为还有一个不同的方向，那就是复杂但通用的认知架构，比如非常复杂的规划步骤和反思循环或思维树。我认为这一类架构可能会随着时间推移逐渐消失，因为我认为 很多通用的规划和反思将被训练到模型中。但仍会有大量非通用的规划、反思和控制循环永远不会出现在模型中。所以我对这两个方向持乐观态度。

< span style="">

Sonya Huang：我想可以这样理解：大语言模型进行非常通用的智能体推理，但你需要领域特定的推理。这是无法在一个通用模型中构建的。

Harrison Chase：完全正确。但我认为，很多任务在某些规划方面实际上非常复 杂，所以在我们得到能够可靠地处理这些任务的系统之前，还需要一段时间。

Sonya Huang：你之前和我分享过一个贝佐斯的观点，就是要专注于让你的啤酒更好 喝的事情。他指的是20世纪初，许多酿酒厂试图自己发电，而没有专注于酿酒。今天很多公司也在思考类似的问题：你认为掌控自己的认知架构真的能让你的“啤酒”更好喝吗，还 是你认为应该把控制权交给模型，专注于构建UI和产品？

Harrison Chase：我认为这可能取决于你构建的认知架构类型。回到之前的讨论，如果你构建的是一个通用的认知架构，我不认为这会让你的“啤 酒”更好喝。我认为模型提供商会致力于这些通用的规划。但如果你的认知架构基本上是在编纂你们支持团队的思维方式、内部业务流程或是你们开发特定类型代码或应用程序的最佳 方式，那么这绝对会让你的“啤酒”更好喝。特别是在我们朝着这些应用程序真正完成工作的方向前进时，那些定制的业务逻辑或思维模型非常重要。当然，用户体验（UX）和用户 界面（UI）以及分发也非常重要，但我会在通用和定制之间做出区分。

Pat Grady：Harrison，在我们深入讨论人们如何构建这些东西之前，我们能不能先从高层次的角度来看一下？我们的创始人Don Valentine以问“那又怎样？”这个问题而闻名。那么我的问题是，假设自主智能体（utonomous agents）已经完美运行，这对世界意味着什么？如果真有那么一天，生活会有什么不同？

Harrison Chase：从高层次来看，这意味着我们人类将专注于不同的事情。从总 体上看，这将使我们能够专注于我们想做的和擅长的事情，而将不必要的工作自动化。

Pat Grady：你现在看到任何有趣的实例吗？比如说已经在生产环境中运行的。

Harrison Chase：我认为目前有两个主要的智能体类别在逐渐获得更多关注：一 个是客户支持，一个是编程。我觉得客户支持是一个很好的例子。编程方面也很有趣，因为有些编程工作是非常有创造性的，需要很多产品思维和定位的考虑。但也有些编程工作会限 制人们的创造力。如果我的妈妈有一个网站的想法，但她不知道如何编码，要是有一个智能体可以完成这项工作，她就能专注于网站的构思，而自动化其余部分。所以说，客户支持方 面已经有很大的影响，而编程虽然还不够成熟，但也有很多人对此感兴趣。

Pat Grady：编程确实很有趣，因为这让我们对AI充满了乐观。它可以缩短从创意到 执行的距离，或者从梦想到现实的距离。你可能有一个非常有创造力的想法，但没有工具将其实现，而AI似乎非常适合解决这个问题。Figma的Dylan也谈到了这一点。< /span>

Harrison Chase：是的，这回到了自 动化那些你不一定知道怎么做或不想做但又必须做的事情的理念。我一直在思考，在生成式AI和智能体时代，作为一个建设者意味着什么。今天的软件建设者通常要么是工程师，要 么雇用工程师，但在智能体和生成式AI时代，这意味着人们能够建造更多种类的东西，因为他们手中拥有更多知识和资源，可以廉价雇佣和使用。

< span style="">

Sonya Huang：你提到了反思和链式思考等技术。能不能说说我们迄今为 止在这些认知架构方面学到了什么？你认为最有前景的认知架构是什么？

Harrison Chase：也许值得谈一下为什么AutoGPT这种方式不起作用，因为很多认知架构正是为了应对这些问题。

有一篇名为ReAct的论文，它提出了第一种针对智能体的认知架构。它做了两件事：一是让大语言模型预测接下来的行动，二是加入了一个推理组件，这有点像链式思考，但它在 每一步之前都加入了一个推理环节。

现在，这些问 题部分解决了，这确保了模型生成了一个长期计划，并按步骤执行，而不是生成一个五步计划后只执行第一步然后宣称任务完成。

我可以生成一个计划，去获取一个答案，但可能得到的是错误的结果。在这种情况下，我不应该 直接返回这个答案，而是应该思考自己是否正确完成了任务。如果只是在循环中运行模型，你就要求它隐性地进行这些检查。所以一些认知架构加入了显性的反思步骤，在每个动作或 一系列动作之后，要求模型明确地检查自己是否正确完成了任务。

但这些功能在模型中能达到多高的水平还是一个有趣的问题，需要长时间来讨论。

Pat Grady：Harrison， 你在人工智能峰会上提到过用户体验的话题。通常 我们会认为它是和架构相对立的。换言之，架构是幕后的东西，而用户体验则是前端可见的部分。不过，现在好像出现了一个有趣的局面，用户体验可以通过影响架构的有效性来发挥 作用，例如通过像Devin那样回溯到规划过程中的某个点，让用户可以及时发现问题并加以纠正。您能谈谈用户体验在智能体或大型语言模型中的重要性吗？也许可以分享一些您 见过的有趣案例。

Harrison Chase ：是的，我对用户体验非常着迷，我认为这是一个有待深入研究的领域。您可以轻松查看它在做什么，它会逐字流式地返回响应。您可以通过回复来轻松纠正它，也可以轻松地提出后 续问题。因此，我认为聊天目前显然已经成为主流的用户体验。

不过，聊天也存在一些缺点。您知道，它通常是一条人工智能消息，然后一条人类消息，人类始终处于循环之中，这更像是copilot的模式。我认为，让系统能逐 渐脱离人类的干预，将使它能够为您完成更多任务，并为您服务。这在我看来是极其强大且实用的。然而，话又说回来，大型语言模型并非完美，它们也会出错。那么，我们该如何平 衡这两者呢？

假设您有 10 个智能体并行地在后台运行，它们可能时不时需要向人类澄清问题。因此，您可以拥有一个类似电子邮件收件箱的东西，智能体可以向您发送求 助信息，例如“我遇到问题了，需要帮助”。然后，您可以在此时介入提供帮助。

对于撰写不同类型内容的智能体、进行研究的智能体（例如研究型智能体），这无疑是非常强大的功能。OpenAI 研究人员开发了一个很棒的项目，围绕智 能体拥有了一些非常有趣的架构。我认为这是一个非常适合此类审阅的场景。您可以让智能体撰写初稿，然后由您进行审阅并留下评论。实现方式可以有多种。例如，最简单的一种方 式是，您可以直接留下大量评论，然后将所有评论まとめて发送给智能体，让它去逐条修正。

例如，我留下评论，智能体在修正的同时，我也可以继续添加其他评论。不过，我认为这是一个 单独的用户体验模式，搭建和启动它都非常复杂。

最后一个我想谈论的关于用户体验的想法是，这些智能体将如何从互动中学习。正如我们讨论的，人类会不断纠正智能体或提供反馈。如果我不得不 100 次 重复提供相同的反馈，那会让人抓狂，不是吗？就像在玩一个超前的游戏，我们仍在尝试弄清楚许多问题，这也是我们花很多时间思考的内容。

Pat Grady：实际上，这让我联想到你似乎因为积极参与开发者社区并密切关 注开发者社区正在发生的事情以及开发者们遇到的问题而略有名气。LangChain直接解决了其中一部分问题，但我猜你还会遇到许多超出范围的其他问题。那么在开发者尝试 使用LLMs或构建AI时遇到的问题中，有哪些有趣的问题是你们目前没有直接解决的？

Harrison Chase：我们没有构建矢量数据库，尽管我们认为合适的存储非常有趣 ，但我们没有做这件事。我们也没有构建基础模型，也不做模型微调。虽然我们绝对想要帮助数据整理方面的工作，但我们并没有构建用于微调的基础设施。像Fireworks和 其他类似的公司正在做这些事。我认为这些对于人们当下遇到的问题而言，可能属于最迫切的基础设施层。

不过，我还想补充一个问题或思考过程，

Sonya Huang：Harrison，你提到了微调，并且你们不打算涉足这个领域。 看起来提示工程和认知架构几乎是彼此的替代品。你如何看待当前人们应该如何使用提示工程与微调？未来会如何发展？

Harrison Chase：我不认为微调和认知架构是替代品，实际上我认为它们在很多 方面是互补的。因为当你有一个更定制化的认知架构时，你要求每个智能体或每个节点执行的任务范围变得更有限，而这对微调非常有趣。

Sonya Huang：也许在这个点上，你能谈谈LangSmith和LangGrap h吗？Pat刚才问了你们没有解决哪些问题、你们正在解决哪些问题以及这与我们之前讨论的有关智能体的所有问题相关，例如你们正在做的事情以改善状态管理，让智能体更可控 等。您的产品如何帮助人们做到这一点？

Harrison Chase：也许先从LangChain刚推出时说起。LangChain开源项目解决并处理了几个问题。其中一个是标准化这些不同 组件的接口。我们有大量不同模型、不同矢量存储、不同工具、不同数据库的集成。这一直是LangChain的重要价值所在，也是人们使用LangChain的原因之一。< /span>

Lang Chain还提供了很多更高层次的接口 ，便于现成使用，例如用于问答的RAG或SQL之类的东西。它还具有用于动态构建链的更低级别运行时环境。链可以称为DAG（有向无环图）。因为当我们谈论LangGra ph以及LangGraph为什么存在时，它要解决一个稍微不同的编排问题，即你想要具有循环的可定制和可控的元素。两者都在编排空间，但我会区分链和这些循环。

我认为使用LangGraph并开始使用循环时，会出现 许多其他问题。其中一个主要问题是持久层。持久层使您可以恢复，可以使其在后台以异步方式运行。因此，我们正越来越多地考虑部署这些长期运行、循环往复、让人参与循环的人 工智能应用程序。因此，我们将越来越多地解决这个问题。

LangSmith贯穿于所有这些工作，它从公司成立之初就一直在开发。它有点像大型语言模型应用程序的可观测性和测试工具。从一开始，我们就注意到你们将 大型语言模型置于系统的核心位置。大型语言模型不是确定性的。为了让它们投入生产并充满信心，您必须具备良好的可观测性和测试能力。因此，我们开始构建 LangSmit h，它可以与LangChain配合使用，也可以独立使用。还有一些其他功能，比如提示管理、人类注释队列，以允许人工审核。我认为这非常关键。重要的是要问，什么是这里 真正的新东西？LLMs是不确定性的，因此可观察性变得更重要，测试也更难，需要人类更多地进行审核。LangSmith在这方面提供了很多帮助。

Pat Grady：Harrison，你能谈谈现有的可观测性、现有 的测试等在哪里适用于LLMs，哪些地方LLMs有显著差异需要新的产品、新的架构或新的方法吗？

Harrison Chase：是的，我从测试和可观测性两个方面思考过这个问题。可观测 性方面，我感觉更明显的是，我们需要一些新的东西。对于这些多步骤的应用程序来说，我认为不应该仅仅依靠现有级别的可观测性来获取洞见。现有的许多数据监控工具都很棒，但 它们适用于特定的跟踪，却无法像LangSmith那样轻松地获得同等水平的洞见。许多人花时间查看特定跟踪是因为他们想要调试特定跟踪出现的问题。在使用大型语言模型时 ，所有这些非确定性因素都会发生。因此，可观测性方面总让我觉得需要有一些新的东西来构建。

测试则非常有趣，我也思考了很多。关于测试，可能有两个新颖的独特之处。一个是成对比较的 概念。当我运行软件测试时，我通常不会比较结果，大多数情况下是通过或失败。即使进行比较，也可能是比较延迟峰值之类的东西，而不一定是两个单元测试的成对比较。但是，如 果我们看一下大型语言模型的一些评估方法，人们最信任的主要评估方法是大语言模型竞技场，有点像聊天机器人竞技场风格，让你可以并排判断两个东西。因此，我认为这种成对比 较的方式非常重要，与传统软件测试有相当大的区别。

我想，另一个因素取决于你如何设置评估方法，你可能在任何给定时间都没有 100% 的通过率。因此，跟踪一段时间并查看是否有改进或至少没有退步就变得很重要。这不同于软件测试，因为软件测试通常要求一切都通过。

第三个方面是人力介入。我认为你仍然希望人类查看测试结果。也许这不是最恰当的措辞，因为 查看这些内容需要大量的人力，但总的来说，这比拥有某种自动化系统更加可靠。如果你将它与软件测试进行比较，软件可以像我一样通过查看来判断 2=2 成立。因此，弄清楚如何将人类纳入这个测试过程也确实是一件有趣、独特和新颖的事情。

Pat Grady：在AI领域中，你最崇拜谁？

Harrison Chase：这是个好问题。我认为OpenAI过去一年半的成就非常令 人印象深刻。所以我对Sam和他们团队中的每一个人都非常钦佩。Logan在那里的时候做得非常出色，向大家传递了很多概念。Sam显然在很多事情上功不可没。

还有一位鲜为人知的研究员David Dohan，我认为 他绝对令人难以置信。他早期写了一些关于模型级联的论文，在我创办LangChain的时候就和他聊过，他对我思考问题的方式产生了深远的影响。因此，我非常钦佩他的做事 方式。

此外，就像扎克伯格和Facebook，我认为他们在 Llama 和许多开源项目上做得非常出色。作为CEO和领导者，他们公司所展现出的那种拥抱方式令人印象深刻，因此我也非常钦佩这一点。

Pat Grady：说到这一点，有没有哪位CEO或领导者是你尝试效仿的，或者是你从他们的身上学到了很多关于你自己的领导风格的东西？

Harrison Chase：这是个好问题。我认为我更像是一位以产品为中心的CEO。因此，观察扎克伯格很有趣。Brian Chesky也很有趣，他去年在红杉资本的活动上谈论产品和 公司建设，我非常欣赏他的思考方式。所以Brian可能是我会想到的答案，但老实说，我还没有深入研究过他所做的一切。

Pat Grady：如果你能给目前或有志成为AI创始人的人一个建议，你会说什么？

Harrison Chase：那就是去构建，去尝试构建东西。现在还处于非常早期。有很多东西可以去构建。我知道，GPT-5 可能即将发布，它可能会让你们做的一些事情变得无关紧要，但 是在这个过程中你会学到很多东西。我坚信这是一项变革性的技术。因此，你学到的越多，你就越会从中受益。

Pat Grady：关于你的回答，我有一个小小的轶事想分享一下，因为这让我觉得很有趣 。还记得在2023年初的首次人工智能峰会上，当时我们刚刚开始更多地了解你。我记得你那天一整天都在埋头写代码，尽管台上有人演讲。所以你的建议是“just build”，而你显然是践行自己建议的人。