AI 智能体：企业自动化的新架构 - Menlo Ventures

AI 智能体：企业自动化的新架构 Menlo Ventures AI 智能体：企业自动化的新架构 Menlo Ventures Modified September 28, 2024 Eve 法律研究的共同驾驭员,例如,可能会将针对《第七篇》的研究查询分解为专注于预定子主题的独立提示链,如雇主背景、就业历史、《第七篇》、相关案例法和原告案件支持证据。LLMs然后运行每个提示链,为每个生成中间输出,并综合各输出编写最终备忘录。 工具使用 工具使用或函数调用通常被视为从 RAG 到主动行为的第一个半步,为现代人工智能栈增加了一个新的层。 这些工具，本质上是预先编写的代码组件，执行特定的操作。流行的原语如网页浏览( Browserbase 、 Tiny Fish )、代码解释( E2B )和授权+认证( Anon )已经出现。它们使LLMs能够导航网络、与外部软件(如 CRM、ERP)交互并运行自定义代码。该系统向LLM呈现可用的工具,后者然后选择一个工具,构建必要的结构化 JSON 输入,并触发 API 执行以产生最终操作。 Omni 的 计算 AI 功能体现了这种方法。它利用LLM直接输出适当的 Excel 函数到电子表格中,然后执行计算并自动生成复杂查询供用户使用。 就此而言,工具的使用是强大的,但仅凭自身并不能被视为"主动性"。逻辑控制流程仍然由应用程序预先定义。我们将在即将到来的设计中探索的真正智能体人,使LLMs能够动态地编写全部或部分自己的逻辑。 决策智能体人 我们将探讨的第一类智能体是决策智能体，它们使用智能体决策制定在复杂、多步骤的推理流程中导航并做出业务决策。与 RAG 或工具使用方法不同，这种架构首次将一定的控制逻辑交给LLMs，而不是预先设定所有步骤 但仍位于智能体自由度范围的较低端，因为智能体主要作为路由器导航一组预先确定的决策树。 让我们以 Anterior (前称 Co:Helm)为例。该健康计划自动化公司开发了一个临床决策引擎,用于自动化理赔提交审核。护士们如今凭借装满条件知识(就像世界上最无聊的"自选冒险")的付款人规则手册,人工完成这些审核。 Anterior 简化了这个过程。该公司首先将付款方规则转换为有向无环图(DAG),使用基于规则的脚本和语言模型。然后,他们的智能体遍历这个决策树,在每个节点利用LLMs来评估相关的临床文件是否符合特定的规则。对于较简单的节点,这可能涉及基本的检索增强型生成(RAG)步骤。但是,Anterior 经常遇到需要子链的更复杂的任务,在这种情况下,智能体必须选择最佳方法,然后才能进入下一个节点。它会在每次决策时更新自己的状态(在内存中管理这些中间输出),并一直进行到最终确定。 前者并非独一无二的采取这种方法。 其他领域也在利用决策智能体,包括 Norm AI 正在为监管合规打造 AI 智能体,以及 Parcha 正在为 KYC 建立智能体。 轨道上的智能体人 我们下一类要研究的智能体是轨道智能体。与决策智能体相比,轨道智能体被赋予了更高级的目标(例如,"将此发票与总账调节"、"帮助客户解决登录问题"、"重构此代码") ,并赋予了更多自由度来选择实现这些目标的方法和工具。 与此同时,这些智能体仍受程序性知识的指导,了解组织期望智能体如何执行(以自然语言编写的规则手册或说明手册表示的"轨道")；拥有预定义的工具,可在外部软件系统中执行一组操作；并受到防止幻觉的保护栏和其他审查措施的约束。 在运行时，这种设计可能会产生以下模式: • 规划智能体评估应用程序相对于手册（即当前位于 DAG 中的哪个节点）的当前状态,并检查从该节点开始的所有动作链。 • 智能体人选择并执行最佳链条。每个链条可能包括预定义为代码的预写操作,或者甚至包括可执行特定任务的额外智能体人,包括传统的 RAG。 • 在采取任何行动之前,该系统都会进行审查和确保一致性和一致性的护栏 • 规划智能体根据规则手册评估新状态,并重复该过程——从有向无环图中的新节点中选择最佳链来再次执行。 请注意,这种架构为之前的设计增加了另一层复杂性,这可能需要额外的数据基础设施支持,包括持久化执行、状态和内存管理(包括情节性、工作和长期记忆)、多智能体协调以及防护机制。 领先的智能体公司似乎正在收敛于这种架构,这是在自主性和控制之间寻找的一种折衷方案。新兴的 AI 智能体示例包括 Sierra 、 Decagon 、 Maven AGI 、 DevRev 和 Gradient Labs (用于客户服务和支持); Factory AI 和 All Hands AI (用于软件开发); Sema4 (用于财务后勤);以及横跨销售、安全运营和供应链等领域的许多其他智能体。 通用人工智能体 最终,仍无法实现的智能体设计的神圣圣杯是通用人工智能体——一个循环架构,其中LLM的先进功能包含了先前设计中结构化的"轨道"。这种假设的智能体将拥有动态推理、规划和自定义代码生成能力,使其能够执行任何外部系统中的操作,而不仅仅是预定义的操作。 自 2023 年春天 BabyAGI 和 AutoGPT 出现以来,向这一理想目标的研究进展激增。目前,最复杂的设计是 语言智能体树搜索 (LATS),它将蒙特卡洛树搜索 即 AlphaGo 背后的基于模型的强化学习技术 应用于语言智能体。LATS 允许智能体探索实现目标函数的多种轨迹,优先选择高回报路径,融入反馈,并在必要时回溯。 这些前沿架构的开创性商业应用包括新的基础模型,如 Reflection AI ,以及编码智能体,如 Cognition 、 Nustom 和 OpenDevin/All Hands AI 。 下一步是什么 生成式人工智能正在进入智能体时代。我们今天看到的智能体架构和早期案例仅仅是一个更广泛变革的开端,这将重塑人机关系,并对企业应用和基础设施产生影响。我们将在未来的文章中进一步探讨这些话题。 与此同时,如果您正在智能体人领域建设,我们很乐意与您联系。 提姆·塔利 ( tim@menlovc.com ) 杰夫·雷德芬( joff@menlovc.com ) 迪迪·达斯( deedy@menlovc.com ) 德里克·肖（ derek@menlovc.com ） 受到门洛风险投资公司的支持 Eve Browserbase Tiny Fish E2B Anon 计算 AI Anterior Norm AI Parcha Sierra Decagon Maven AGI DevRev Gradient Labs Factory AI All Hands AI Sema4 BabyAGI AutoGPT 语言智能体树搜索 AlphaGo Reflection AI Cognition Nustom OpenDevin/All Hands AI tim@menlovc.com joff@menlovc.com deedy@menlovc.com derek@menlovc.com Eve 法律研究的共同驾驭员,例如,可能会将针对《第七篇》的研究查询分解为专注于预定子主题的独立提示链,如雇主背景、就业历史、《第七篇》、相关案例法和原告案件支持证据。LLMs然后运行每个提示链,为每个生成中间输出,并综合各输出编写最终备忘录。 Eve 工具使用 工具使用或函数调用通常被视为从 RAG 到主动行为的第一个半步,为现代人工智能栈增加了一个新的层。 这些工具，本质上是预先编写的代码组件，执行特定的操作。流行的原语如网页浏览( Browserbase 、 Tiny Fish )、代码解释( E2B )和授权+认证( Anon )已经出现。它们使LLMs能够导航网络、与外部软件(如 CRM、ERP)交互并运行自定义代码。该系统向LLM呈现可用的工具,后者然后选择一个工具,构建必要的结构化 JSON 输入,并触发 API 执行以产生最终操作。 Browserbase Tiny Fish E2B Anon Omni 的 计算 AI 功能体现了这种方法。它利用LLM直接输出适当的 Excel 函数到电子表格中,然后执行计算并自动生成复杂查询供用户使用。 计算 AI 就此而言,工具的使用是强大的,但仅凭自身并不能被视为"主动性"。逻辑控制流程仍然由应用程序预先定义。我们将在即将到来的设计中探索的真正智能体人,使LLMs能够动态地编写全部或部分自己的逻辑。 决策智能体人 我们将探讨的第一类智能体是决策智能体，它们使用智能体决策制定在复杂、多步骤的推理流程中导航并做出业务决策。与 RAG 或工具使用方法不同，这种架构首次将一定的控制逻辑交给LLMs，而不是预先设定所有步骤 但仍位于智能体自由度范围的较低端，因为智能体主要作为路由器导航一组预先确定的决策树。 让我们以 Anterior (前称 Co:Helm)为例。该健康计划自动化公司开发了一个临床决策引擎,用于自动化理赔提交审核。护士们如今凭借装满条件知识(就像世界上最无聊的"自选冒险")的付款人规则手册,人工完成这些审核。 Anterior Anterior 简化了这个过程。该公司首先将付款方规则转换为有向无环图(DAG),使用基于规则的脚本和语言模型。然后,他们的智能体遍历这个决策树,在每个节点利用LLMs来评估相关的临床文件是否符合特定的规则。对于较简单的节点,这可能涉及基本的检索增强型生成(RAG)步骤。但是,Anterior 经常遇到需要子链的更复杂的任务,在这种情况下,智能体必须选择最佳方法,然后才能进入下一个节点。它会在每次决策时更新自己的状态(在内存中管理这些中间输出),并一直进行到最终确定。 前者并非独一无二的采取这种方法。 其他领域也在利用决策智能体,包括 Norm AI 正在为监管合规打造 AI 智能体,以及 Parcha 正在为 KYC 建立智能体。 Norm AI Parcha 轨道上的智能体人 我们下一类要研究的智能体是轨道智能体。与决策智能体相比,轨道智能体被赋予了更高级的目标(例如,"将此发票与总账调节"、"帮助客户解决登录问题"、"重构此代码") ,并赋予了更多自由度来选择实现这些目标的方法和工具。 与此同时,这些智能体仍受程序性知识的指导,了解组织期望智能体如何执行(以自然语言编写的规则手册或说明手册表示的"轨道")；拥有预定义的工具,可在外部软件系统中执行一组操作；并受到防止幻觉的保护栏和其他审查措施的约束。 在运行时，这种设计可能会产生以下模式: • 规划智能体评估应用程序相对于手册（即当前位于 DAG 中的哪个节点）的当前状态,并检查从该节点开始的所有动作链。 • 智能体人选择并执行最佳链条。每个链条可能包括预定义为代码的预写操作,或者甚至包括可执行特定任务的额外智能体人,包括传统的 RAG。 • 在采取任何行动之前,该系统都会进行审查和确保一致性和一致性的护栏 • 规划智能体根据规则手册评估新状态,并重复该过程——从有向无环图中的新节点中选择最佳链来再次执行。 请注意,这种架构为之前的设计增加了另一层复杂性,这可能需要额外的数据基础设施支持,包括持久化执行、状态和内存管理(包括情节性、工作和长期记忆)、多智能体协调以及防护机制。 领先的智能体公司似乎正在收敛于这种架构,这是在自主性和控制之间寻找的一种折衷方案。新兴的 AI 智能体示例包括 Sierra 、 Decagon 、 Maven AGI 、 DevRev 和 Gradient Labs (用于客户服务和支持); Factory AI 和 All Hands AI (用于软件开发); Sema4 (用于财务后勤);以及横跨销售、安全运营和供应链等领域的许多其他智能体。 Sierra Decagon Maven AGI DevRev Gradient Labs Factory AI All Hands AI Sema4 通用人工智能体 最终,仍无法实现的智能体设计的神圣圣杯是通用人工智能体——一个循环架构,其中LLM的先进功能包含了先前设计中结构化的"轨道"。这种假设的智能体将拥有动态推理、规划和自定义代码生成能力,使其能够执行任何外部系统中的操作,而不仅仅是预定义的操作。 自 2023 年春天 BabyAGI 和 AutoGPT 出现以来,向这一理想目标的研究进展激增。目前,最复杂的设计是 语言智能体树搜索 (LATS),它将蒙特卡洛树搜索 即 AlphaGo 背后的基于模型的强化学习技术 应用于语言智能体。LATS 允许智能体探索实现目标函数的多种轨迹,优先选择高回报路径,融入反馈,并在必要时回溯。 BabyAGI AutoGPT 语言智能体树搜索 AlphaGo 这些前沿架构的开创性商业应用包括新的基础模型,如 Reflection AI ,以及编码智能体,如 Cognition 、 Nustom 和 OpenDevin/All Hands AI 。 Reflection AI Cognition Nustom OpenDevin/All Hands AI 下一步是什么 生成式人工智能正在进入智能体时代。我们今天看到的智能体架构和早期案例仅仅是一个更广泛变革的开端,这将重塑人机关系,并对企业应用和基础设施产生影响。我们将在未来的文章中进一步探讨这些话题。 与此同时,如果您正在智能体人领域建设,我们很乐意与您联系。 提姆·塔利 ( tim@menlovc.com ) 杰夫·雷德芬( joff@menlovc.com ) 迪迪·达斯( deedy@menlovc.com ) 德里克·肖（ derek@menlovc.com ） tim@menlovc.com joff@menlovc.com deedy@menlovc.com derek@menlovc.com 受到门洛风险投资公司的支持 🔗 原文链接： https://menlovc.com/perspective/ai ... https://menlovc.com/perspective/ai ... ⏰ 剪存时间：2024 09 28 生成式 AI 应用当前有三个核心用例与强大的产品市场契合度:搜索、合成和生成。Menlo Ventures 投资组合公司如 Sana （企业搜索）、 Eve （法律研究副驾驶）和 Typeface （内容生成 AI）在这些类别中都是早期突破性的代表,其中心是LLMs的少样本推理能力。 Sana Eve Typeface 但是生成式人工智能的承诺远远超越了这第一波核心使用案例。能为您阅读和写作的人工智能很棒,但更令人兴奋的是能够代表您思考和行动的人工智能。为此,我们已经看到领先的应用程序构建商如 Anterior 、 Sema4 和 Cognition 正在建立解决方案,来处理之前只能由大量人力来解决的工作流程。 Anterior Sema4 Cognition 借助多步逻辑、外部内存以及访问第三方工具和 API 等新型构建块,下一波智能体正在拓展 AI 能力的边界,实现端到端流程自动化。 在我们深入探讨人工智能体领域的过程中，我们将概述 Menlo 对新兴市场的论点——首先定义什么是智能体以及什么使它们成为可能。我们将追溯 现代人工智能技术栈 从少量样本指令到检索增强型生成(RAG)再到完备的智能体系统的架构演化过程，然后探讨这一范式转变对应用和基础设施层面的影响。 现代人工智能技术栈 什么是 AI 智能体人?认知架构的四大构建块 完全自主智能体由四个元素组成,它们组合起来达到了完全主体能力:推理、外部记忆、执行和规划。 • 推理。 在最基本的层面上,智能体人必须能够对非结构化数据进行推理。基础模型如 Anthropic 和 OpenAI 已经非常有效地实现了这一点,其中包括一个部分的世界模型编码到LLMs的预训练权重中,用于一般知识和基本逻辑。 Anthropic • 外部内存。 除了一般知识,智能体还需要外部内存来存储和调用特定于域的知识以及他们被要求解决的问题的有限上下文,通常通过像 Pinecone 这样的向量数据库。 Pinecone • 执行。 智能体人使用工具来执行增强其解决问题能力的任务。许多早期的智能体人平台提供了预定义在代码中的自定义操作工具箱,供他们的智能体人选择。但也开始出现一些通用的智能体人工具,包括网络浏览、代码解释、身份验证和授权,以及与客户关系管理和企业资源计划等企业系统的连接,以在这些系统内执行用户界面操作。 • 规划。 不是试图通过单一顺序的下一个词预测（就像一次性写完一篇整篇文章，从第一个词开始不停下来直到最后一个词）来解决复杂的问题,智能体商遵循更人性化的思维过程,将工作分解成更小的子任务和计划,反思进度并根据需要进行调整。 参考架构：从 RAG 到自主智能体的 AI 示例 很明确,未来的完全自主智能体可能会拥有所有四个构建块,但今天的LLM应用程序和智能体还没有达到这个水平。 例如,流行的 RAG 架构不是智能体式的,而是以推理和外部记忆作为其基础。一些设计,如 OpenAI 的结构化输出 甚至支持工具使用。但重要的区别在于,这些应用程序将LLM作为语义搜索、综合或生成的"工具",但它们采取的步骤(即逻辑流)仍由代码预先确定。 OpenAI 的结构化输出 对比来说,当您将 LLM 置于应用程序的控制流中并让它动态决定要采取的行动、要使用的工具以及如何解释和响应输入时,智能体就会出现。只要这是真的,有些智能体甚至不需要与外部工具交互或采取行动。 在 Menlo,我们确定了三种不同主要用例和应用程序进程控制自由度的智能体类型。 受到最严格限制的是"决策智能体"设计,它们使用语言模型来遍历预定义的决策树。"轨道智能体"则提供了更大的自由度,为智能体配备了更高层次的目标,但同时限制了解决空间,要求遵循标准作业程序并使用预先设定的"工具"库。最后,在光谱的另一端是"通用人工智能体"——本质上是没有任何数据支架的 for 循环,完全依赖于语言模型的推理能力来进行所有的计划、反思和纠正。 以下,我们将探讨五种参考架构和每种智能体类型的人工智能体示例。 检索增强生成(RAG) 设置基线:RAG 是当今大多数现代人工智能应用程序的标准架构。让我们以 Sana 的企业搜索用例为例,了解它在幕后的工作原理。 该过程始于应用程序加载和转换无结构文件(如 PDF、幻灯片、文本文件)跨越企业数据孤岛,如 Google Drive 和 Notion,转换为LLM可查询格式,通常通过像 Unstructured 这样的数据预处理引擎进行。这些文件现在被"分块"成更小的文本块,以实现更精确的检索,并作为向量嵌入和存储在像 Pinecone 这样的数据库中。 Unstructured Pinecone 当用户向 AI 应用程序提出问题时(例如,"总结我与公司 X 会议的所有笔记")，系统会检索语义上最相关的上下文块，并将其折叠到"元提示"中,与检索到的信息一起馈送给 LLM。然后,LLM 会从检索到的上下文中合成一个整洁的带有项目符号的答复返回给用户。 当然,该图仅说明了一个带有一个LLM调用的单一检索步骤。在生产中,AI 应用程序具有更复杂的应用程序流程,包含数十甚至数百个检索步骤。这些应用程序通常具有"提示链",其中一个检索步骤的输入馈送到下一步,并且不同类型的任务并行执行多个"提示链"。然后将结果综合在一起,以生成最终输出。