深度｜OpenAI API华人工程负责人：模型会把你的脚手架当早餐吃掉，为模型的未来而构建，而非为模型的当下而构建

深度｜OpenAI API华人工程负责人：模型会把你的脚手架当早餐吃掉，为模型的未来而构建，而非为模型的当下而构建 深度｜OpenAI API华人工程负责人：模型会把你的脚手架当早餐吃掉，为模型的未来而构建，而非为模型的当下而构建 Modified February 24 OpenAI 的 AI 落地就是最好的例子：我们一直秉持 AI 驱动的理念，但真正让 AI 在公司内部普及的，是 Codex 这类工具的推出 —— 它让每位员工都能将 AI 直接应用到日常工作中。这一点至关重要，因为归根结底，不同岗位的工作内容千差万别，软件工程、财务、运营、市场销售的工作逻辑完全不同， AI 落地的 “ 最后一公里 ” ，必须由一线员工结合实际工作完成，这是自上而下的指令无法替代的。 而很多企业的 AI 部署之所以失败，就是因为只有自上而下的强制推动，没有自下而上的主动接纳。管理层一纸命令要求全员做 AI ，却与员工的实际工作完全脱节，最终导致员工对 AI 技术一知半解，只知道 “ 必须用 ” ，甚至将 AI 应用纳入绩效考核，却根本不知道该怎么用。环顾四周，没人能给出示范，也没有学习交流的氛围，这样的 AI 部署注定失败。 所以我给这类企业的建议是：在内部组建一支全职的 AI“ 虎队 ” 。这支团队的核心职责，是深度探索 AI 技术的全部能力，将其落地到具体的业务流程中，开展内部知识分享，在组织内点燃员工对 AI 的使用热情。如果没有这样的团队，企业的 AI 落地之路只会步履维艰。 Lenny ： 那这支 “ 虎队 ” 应该由哪些人组成？是由工程师主导吗？还是说，你的经验里，这是一支跨职能团队？ Sherwin Wu ： 这个问题很有意思。要知道，很多企业根本没有软件工程师岗位，而我观察到的规律是，最适合组建 “ 虎队 ” 的，是那些与软件工程相关、具备技术思维但并非专业软件工程师的人。 比如，客服团队的运营主管，他们不会写代码，但擅长使用各类工具，甚至是 Excel 高手，这类人往往对 AI 技术充满好奇和热情。他们是技术相关领域的从业者，具备一定的技术素养，是企业内部最容易被 AI 点燃的群体，围绕他们组建 “ 虎队 ” ，往往能事半功倍。 当然，软件工程师肯定能理解 AI 技术，但并非所有企业都有软件工程师，这类人才不仅稀缺，成本也很高。所以，上述这类 “ 技术相邻型 ” 人才，才是企业 AI 落地的核心力量。 Lenny ： 也就是说，企业 AI 部署的最大反模式，就是单纯的自上而下推动 ——CEO 和管理层一拍脑袋，喊出 “AI 优先 ” 的口号，要求全员使用 AI ，甚至将 AI 使用情况与绩效挂钩，却不组建自下而上的 AI 布道团队，这样的做法注定行不通。而正确的做法，是找到企业内部对 AI 最热情的人，将他们集中起来组建 AI 布道团队，探索 AI 的实际应用场景，再将经验推广到整个组织。 Sherwin Wu ： 没错，你总结得很到位。这一点也和我的管理理念相通 —— 找到 AI 落地中的高绩效者，全力为他们赋能。让他们牵头举办黑客马拉松、开展技术研讨会、做内部知识分享，在组织内播撒 AI 应用的火种，这才是最有效的方式。 开发者的核心启示：模型演进下的 “ 脚手架消亡 ” 与前瞻构建 Lenny ： 接下来想听听你的几个独到观点，我之前看到你分享过，在 AI 领域，倾听客户需求并非总是正确的策略，甚至可能会让企业走入误区，为什么这么说？ Sherwin Wu ： 其实这算不上什么激进的观点。首先必须明确：倾听客户需求是有价值的，企业当然要和客户沟通。但问题在于， AI 领域的发展速度实在太快了，尤其是过去三年，我深耕 API 业务，亲眼见证了整个行业的演变 ——AI 技术本身，包括模型在内，都在以极快的速度自我迭代、自我颠覆，尤其是在工具和底层架构领域。 这周我在 X 上看到 FinTool 初创公司创始人 Nicholas 的一篇文章，他分享了为金融服务领域构建 AI 智能体的最佳实践，其中有一句话我特别认同： 模型会把你的脚手架当早餐吃掉。 回到 2022 年 ChatGPT 刚发布时，当时的模型还很粗糙，为了让模型实现预期功能，开发者们在开发者领域搭建了大量的底层架构和产品框架，比如各类智能体框架、红极一时的向量存储，还有一大堆配套工具，这些都是为了引导模型、弥补模型能力的不足。 但随着 AI 技术的发展，模型能力突飞猛进，那些曾经不可或缺的架构，很多都被模型本身的能力所替代 —— 这就是 “ 模型吃掉脚手架 ” 。即便到了今天，这个趋势依然在延续。 Nicholas 在文章中提到，现在主流的架构是技能框架、基于文件的上下文管理，但我敢断言，未来这些架构也可能失去价值：模型或许能自主完成上下文管理，甚至会出现全新的技术范式，让这些现有架构变得可有可无。 这样的例子比比皆是：曾经的智能体框架，如今实用性已大不如前； 2023 年，我们都以为向量存储是将企业内部信息融入 AI 模型的唯一方式，为此投入大量精力做向量化、嵌入、优化向量搜索，可这些工作本质上都是 “ 脚手架 ” ，只因当时的模型能力不足。而随着模型的进步，我们发现更好的方式是简化这些逻辑，相信模型本身的能力，只需为其配备通用的搜索工具即可 —— 不一定是向量存储，甚至可以是文件系统中的普通文件，比如 skills 和 Agents MD ，就能实现对模型的引导。当然，向量存储如今仍有其应用场景，很多企业还在使用，但围绕它搭建的整套生态和架构，早已不是唯一选择，这就是最直观的变化。 回到 “ 是否要倾听客户需求 ” 的问题： 正因为 AI 行业发展太快，任何一个时间点，客户的认知都处于 “ 局部最优解 ” 阶段。如果企业盲目听从客户，客户说想要更好的向量存储、更完善的智能体框架，企业就一味在这条路上深耕，最终只会困在局部最优解中，被技术迭代淘汰。 随着模型能力的提升，我们必须不断重新思考：该为模型搭建怎样的抽象层、工具和框架？这个过程充满未知，是一个不断移动的目标，这也是 AI 领域的魅力所在，但同时也要求企业： 与客户沟通时，要平衡客户的即时需求和对模型未来发展的判断，着眼于未来 1 2 年的技术趋势。 Lenny ： 这让我想到了 AI 和机器学习领域的 “ 苦涩教训 ”—— 越不要过度复杂化，越少给模型添加人为逻辑，模型的扩展性和成长性就越好。最好的方式，就是剥离多余的设计，让模型依靠自身的算力自主进化。 Sherwin Wu ： 没错， AI 落地领域也存在这样的 “ 苦涩教训 ” ：我们费尽心思为模型搭建各类架构，最终却发现，这些架构都会被不断进化的模型所替代。说实话， OpenAI 的 API 团队也犯过这样的错，在技术探索中走了不少弯路，但好在模型一直在进步，我们也在日复一日的实践中，不断领悟这个 “ 苦涩教训 ” 。 Lenny ： 那对于那些正在基于 OpenAI API 构建产品、开发智能体，现阶段不得不搭建一些底层架构的开发者，你有什么核心建议？ Sherwin Wu ： 我的建议其实很简单，而且我已经和很多人说过，如今依然适用： 为模型的未来而构建，而非为模型的当下而构建。 AI 模型的能力一直在变，这是一个移动的目标。我见过很多做得非常成功的初创企业，他们的策略是：瞄准模型未来的理想能力 —— 哪怕当下这个能力只实现了 80% ，基于这个目标打造产品。这样的产品，当下可能勉强能用，看似 “ 差一点意思 ” ，但随着模型能力的提升，产品会突然迎来爆发 —— 比如模型从 5.1 升级到 5.2 ，就能彻底解锁产品的全部功能。 因为他们在产品设计之初，就把模型的未来进化考虑在内，这样打造的产品体验，远胜于假设模型能力一成不变的产品。当然，瞄准未来可能需要一点耐心，但 AI 模型的进化速度超乎想象，这份等待往往不会太久。 Lenny ： 那顺着这个思路，未来 6 12 个月， OpenAI 的 API 、平台以及模型，会向哪个方向发展？你可以分享一些你最期待的方向，或是认为开发者应该提前准备的领域。 Sherwin Wu ： 最明确的一个方向，是模型的长任务处理能力。 目前有个 Meter 基准测试，专门追踪软件工程领域中，模型能连贯完成多长时间的任务 —— 比如 50% 的成功率下，模型能完成数小时的软件工程任务； 80% 的成功率下，能完成不到一小时的任务。而这份测试图表最令人震撼的是，它纳入了历代模型的测试数据，能清晰看到模型长任务处理能力的飞速提升。 现在的产品，大多只针对模型的 “ 短任务处理能力 ” 做了优化，比如 Codex 这类编码工具，最多能高效处理 10 分钟左右的任务，虽然有人能将其推到数小时的极限，但这只是特例。而按照当前的发展趋势，未来 12 18 个月，模型将能非常连贯地处理数小时的长任务，甚至可能实现 6 小时、一整天的自主任务处理。 围绕这样的模型能力，产品形态也会发生巨大变化：开发者需要为模型设计反馈机制，不能让模型完全 “ 放任自流 ” ，但模型能完成的任务范围，会得到极大拓展，这是我最期待的方向。 第二个方向，是多模态模型的升级，尤其是音频领域。 目前模型的音频处理能力已经不错，未来 6 12 个月还会有质的提升，尤其是原生多模态模型、语音到语音模型。同时，音频领域的新模型、新架构也在不断探索，潜力巨大。 而音频领域，尤其是企业和商业场景的音频应用，目前被严重低估了。大家总在谈论编码、文本，却忽略了我们日常的沟通大多是通过音频完成的，商业世界的很多业务、服务和运营，也都依赖音频交流。未来 12 18 个月，音频领域的 AI 应用会迎来爆发，这会是又一个重要的技术解锁点。 Lenny ： 总结一下，就是未来智能体和 AI 工具的任务处理时长会持续提升，而音频和语音会成为 AI 应用的核心领域，迎来原生、深度的升级，对吗？我还看到你分享过另一个观点：你非常看好商业流程自动化在 AI 时代的机会，想听听你的看法。 Sherwin Wu ： 这还是回到我之前说的 —— 硅谷的从业者活在泡沫里。我们熟悉的软件工程、产品管理、产品打造，这些工作模式，和支撑整个经济运行的传统行业工作模式，有着天壤之别。我和传统企业客户交流时，最深的感受就是：非科技企业中，存在大量的标准化商业流程，这正是 AI 的巨大机会所在。 我可以做一个清晰的划分：软件工程属于开放式知识工作，没有固定的流程，充满探索性，这也是 Codex 这类工具能发挥巨大作用的原因 —— 它能应对开放式的需求。但软件工程的核心特点是 “ 不可重复 ” ，比如开发一个功能，不会一遍又一遍地做完全相同的事，科技领域的很多工作，比如数据科学、战略财务，都属于这类。 而远离核心科技领域的传统行业，大多数工作都是标准化的商业流程 —— 是可重复的操作，企业管理者会不断优化这些流程，形成标准作业程序（ SOP ），员工只需严格遵循，无需过多创新。比如拨打客服热线，客服人员会按照固定流程解答问题；联系公用事业公司，对方的服务也有明确的流程和边界。 这类工作正是我极度看好的 AI 应用领域，却因为和硅谷的工作模式差异太大，一直被低估。我一直在思考：如何将 AI 技术和现有工具框架，应用到商业流程自动化中 —— 让 AI 实现高确定性的重复流程自动化，并且与企业的业务数据、决策体系、内部系统深度融合，优化整个商业流程。 这个领域有巨大的潜力和工作要做，只是因为不在硅谷的 “ 舒适区 ” ，才被大家忽视了。 Lenny ： 也就是说，你认为 AI 对企业生产力的提升，以及对从业者工作模式的改变，更大的机会不在工程领域，而在那些以重复性、可自动化任务为主的传统领域，对吗？ Sherwin Wu ： 是的， AI 不仅会改变这些领域的工作模式，更会重构整个工作流程。我和很多大型企业客户交流时，他们都会问： AI 将如何改变我的公司？ 20 年后的企业，会如何在 AI 时代运作？ 软件工程当然是其中的一部分，但商业流程层面的变化会更加巨大，甚至超出想象。这个领域的市场规模非常可观，虽然我无法用具体的百分比来衡量它和软件工程的大小，但可以肯定的是，它的规模远比人们在 X 平台上讨论的要大得多 —— 毕竟软件行业本身已经非常庞大，而商业流程自动化覆盖的行业，比软件行业还要广泛。 OpenAI 平台战略：生态开放与创业者的共赢机遇 Lenny ： 聊一个创业者最关心的问题：如今大家都在基于 OpenAI 的 API 构建产品，最担心的就是自己的创意被 OpenAI 看中，进而被 OpenAI 亲自打造的产品挤压，最终摧毁自己的市场。 OpenAI 在这方面的政策是什么？初创企业该如何判断，哪些领域是 OpenAI 大概率不会涉足的？ Sherwin Wu ： 我的答案很简单： 市场足够大，初创企业不必过度纠结 OpenAI 或其他大厂的布局。 我接触过很多初创企业，有失败的，也有极其成功的。我发现，所有失败的初创企业，都不是因为被 OpenAI 、谷歌这类大厂挤压，而是因为他们打造的产品，根本无法打动客户，无法与市场产生共鸣。而那些成功的企业，即便在编码这样的红海领域，也能脱颖而出 —— 比如 Cursor ，如今已经成为行业巨头，核心原因就是它打造了用户真正喜爱的产品。所以我的建议是： 不要过度焦虑大厂的竞争，专注打造用户真正需要、真正喜爱的产品，自然能在市场中占据一席之地。 我无法夸大当前 AI 领域的机会 —— 用 AI 打造产品的赛道无比广阔，甚至改变了风险投资的 “ 奥伯顿之窗 ” （可接受的投资范围）， VC 们甚至会同时投资同赛道的多家竞争企业，这在以前是不可想象的。究其原因，就是 AI 领域的机会前所未有，市场空间足够容纳众多玩家。对初创企业来说，这是最具赋能性的时代：哪怕你的产品只打动了一小部分核心用户，也能打造出极具价值的企业，这就是我让大家不要过度思考大厂竞争的原因。 另外，从 OpenAI 的角度来说，有一点需要大家明确：我们从根本上把自己定位为生态系统平台公司，这是 Sam 和 Greg 从高层就一直强调的核心理念，我们无比珍视这一定位。 API 是 OpenAI 的第一款产品，我们始终认为，培育健康的 AI 生态、支持初创企业发展，而非挤压他们，才是核心目标。这一点，体现在我们的每一个决策中：我们在自有产品中发布的每一个模型，都会同步上线到 API 中；即便是针对 Codex 场景优化的专属模型，最终也会开放给所有 API 用户；我们不会保留任何核心能力，始终坚持平台中立，不屏蔽任何竞争对手，让所有开发者都能平等访问我们的模型。 我们最近还在测试 “ 用 ChatGPT 登录 ” 这类产品，核心目的也是为了完善生态。我们坚信 “ 水涨船高 ”——OpenAI 或许是 AI 生态中的 “ 航空母舰 ” ，但只有整个生态繁荣发展，所有玩家都能受益， OpenAI 也会随之成长。事实上，正是因为我们坚持开放平台的理念， OpenAI API 才实现了爆发式的增长。 所以我想鼓励所有开发者： 不要把 OpenAI 视为竞争对手，不必担心被我们 “ 推开 ” ，专注打造有价值的产品就好。 OpenAI 会始终坚守初心，为大家提供开放的生态系统。 Lenny ： 为什么打造开放平台、支持创业者，对 OpenAI 如此重要？这是从创立之初就定下的愿景吗？ Sherwin Wu ： 这一切都源于 OpenAI 的核心使命和宪章：我们的使命有两个，一是构建 AGI ，二是让 AGI 的福祉惠及全人类。而 “ 惠及全人类 ” ，是其中的核心。 ChatGPT 的推出，正是为了让更多人接触到 AI ，但我们深知，仅凭 OpenAI 一家公司，无法触达世界的每一个角落，无法覆盖所有的应用场景。这也是我们早在 2020 年就推出 API 的原因 —— 我们需要打造一个平台，赋能全球的开发者和企业，让他们去打造更细分、更垂直的产品，比如为播客主打造的客服机器人、为时事通讯作者打造的辅助工具，这些都是 OpenAI 无法亲自完成的。 而 API 的发展，也印证了这一愿景的正确性：我们通过和无数客户交流，看到了基于 OpenAI API 打造的千奇百怪的产品，覆盖了各个领域，这正是 “ 惠及全人类 ” 的最佳方式。所以，打造开放平台，从第一天起就是 OpenAI 的核心战略，是我们使命的具体体现。 Lenny ： 你还没提到 OpenAI 即将推出的 ChatGPT 应用商店，这个项目是归你团队负责，还是由其他团队运营？ Sherwin Wu ： 这是由 ChatGPT 团队负责的，不过我们两个团队的合作非常紧密。比如 ChatGPT 应用商店的 Apps SDK ，就是我们团队深度参与联合打造的。 但这一项目，本质上还是 OpenAI 开放生态理念的延续： ChatGPT 目前拥有 8 亿周活跃用户，这是一笔巨大的资产，但如果能让更多企业和开发者参与进来，为这 8 亿用户打造专属产品，不仅能让用户获得更好的体验，还能进一步扩大 ChatGPT 的用户群体，最终实现生态的共赢。这一切，都回归到 OpenAI 的核心使命，而开放平台的理念，始终是我们的核心抓手。 Lenny ： 我原本以为 8 亿是月活用户，没想到是周活，这个数字太惊人了，堪称前所未闻。 Sherwin Wu ： 是的，从规模来看，这意味着全球约 10% 的人口，每周都会使用 ChatGPT ，而且这个数字还在快速增长，这一点真的让人难以置信。 Lenny ： 我想再强调一下你刚才的观点： OpenAI 的使命是让 AI 惠及全人类，有些人对此不以为然，觉得 “AI 都是要花钱的 ” ，但他们忽略了， ChatGPT 有免费版本，任何人都可以使用，而免费版的能力，和付费的顶级 AI 模型相差无几，完全没有使用门槛。哪怕是亿万富翁，能从 AI 中获得的价值，和非洲村庄里的普通人相比，也并没有太大差距。这一点， OpenAI 一直做得非常好。 Sherwin Wu ： 没错，这也是我们深耕医疗、教育等公益领域的原因 —— 这些领域是 AI 惠及全人类的重要载体。 还有一个令人振奋的趋势： ChatGPT 免费版的能力，一直在飞速提升。 2022 年的免费版，在当时已经很不错，但和如今的 GPT 5 免费版相比，能力早已不可同日而语。我们一直在做的，就是不断提高 AI 技术的 “ 底线 ” ，让全世界的人都能享受到 AI 发展的红利，这是我们使命的核心。 另一方面， AI 也实现了 “ 消费平等 ” ：就像普通人用的 iPhone ，和扎克伯格这样的亿万富翁用的没有区别； AI 也是如此 —— 每月 20 美元，就能使用和亿万富翁同款的 AI 模型；每月 200 美元的 Pro 版，更是能解锁顶级能力，而事实上，亿万富翁日常使用的，也只是普通的 Plus 版。 这种技术的民主化，让 AI 的福祉跨越阶层、跨越地域，惠及全世界，这对我们来说意义重大，也是驱动我们所有工作的核心动力。 Lenny ： 最后一个问题，对于那些想基于 OpenAI API 打造产品，或是想尝试用 OpenAI 模型和 API 做创新的开发者，你能介绍一下， OpenAI 的 API 和平台，具体能为他们提供哪些能力吗？我知道可以构建智能体，还有其他的核心能力吗？ Sherwin Wu ： 从本质上来说， OpenAI API 的核心是提供一系列开发者端点，让开发者能调用我们的模型能力， 其中目前最受欢迎的，是 Responses API 。这个端点是专为长时间运行的智能体打造的，开发者只需向模型输入文本指令，模型会持续处理任务，开发者可以实时获取模型的处理进度，最终得到完整的响应结果。 这是我们为开发者提供的最底层的核心原语，也是目前最主流的开发方式 —— 它足够灵活，不设任何使用限制，开发者可以基于它实现任何创意。 在这个底层原语之上，我们还搭建了多层抽象架构，为开发者提供更便捷的工具，降低开发门槛：第一层是 Agents SDK ，现在已经非常受欢迎。它基于 Responses API 等核心端点构建，能让开发者更轻松地打造传统意义上的 AI 智能体 —— 比如能无限循环工作的智能体、能将子任务委托给子智能体的智能体，还能为智能体设置护栏、实现多智能体的协同编排，相当于为开发者搭建了智能体开发的基础框架。 第二层是 Agent Kit ，聚焦于智能体的部署环节。它提供了一系列现成的 UI 组件，开发者可以用这些组件，快速为基于 OpenAI API 或 Agents SDK 打造的智能体，搭建美观、易用的用户界面 —— 毕竟很多智能体的 UI 需求都是相似的， Agent Kit 能大幅节省开发时间。 除此之外，我们还提供了 Evals API 等测评工具：开发者可以通过这些工具，对智能体或业务流程进行量化测试，验证其有效性，确保产品的稳定性。 总的来说， OpenAI 的平台是多层级、可灵活选择的 ：开发者可以使用整套工具栈，快速搭建一个智能体；也可以深入底层，直接调用核心 API ，打造完全定制化的产品 —— 底层的开放性，让开发者拥有无限的创新空间。 Lenny ： Sherwin ，还有什么想和听众分享的吗？在进入快问快答环节前，还有哪些我们没聊到，但你认为对开发者和创业者有价值的内容？ Sherwin Wu ： 我只想说一点：未来 2 3 年，将是科技界和初创领域有史以来最具机遇的黄金时期，希望大家不要辜负这个时代。 我 2014 年进入职场，前几年行业确实充满活力，但之后有 5 6 年，科技界的发展陷入平缓，缺乏令人兴奋的创新。而过去三年，是我职业生涯中最疯狂、最令人振奋、最充满活力的三年， AI 技术的发展，让整个行业重新焕发生机。 而未来 2 3 年，这种趋势还会持续，甚至会更猛烈。我们将有机会探索更多酷炫的技术，发明更多创新的产品，重构世界的运行方式，改变人类的工作模式。这样的机会，千载难逢，我一直在提醒自己，不要把这一切视为理所当然，也希望所有人都能珍惜。 终有一天， AI 的发展会进入平稳期，技术进步会变得循序渐进，但现在，我们正处于技术爆发的核心阶段，尽情探索就好。 Lenny ： 这个观点太有力量了。你说不要辜负这个时代，那对于不想错过这波 AI 浪潮的人，你有什么具体的建议？比如是亲自打造产品、深入学习 AI 技术，还是加入一家专注 AI 的企业？ Sherwin Wu ： 核心就两个字 —— 参与。就像你说的，深入学习 AI 技术、基于 API 打造工具，这都是参与的方式；但更重要的是，哪怕不是软件工程师，也能参与其中。 AI 会改变几乎所有行业的工作模式，普通人只需做两件事：一是主动使用 AI 工具，二是深入理解 AI 的能力边界 —— 知道它能做什么、不能做什么，然后观察模型能力的进化趋势，找到 AI 与自身工作的结合点。说白了，就是主动去熟悉 AI 技术，适应 AI 工具，而不是被动观望，让这波浪潮从身边溜走。 Lenny ： 但另一方面，很多人也会感到焦虑： AI 行业的发展太快了，每天都有新的技术、新的产品出现，比如这周 Claude 推出了新的 Bot 功能，大家会担心自己跟不上节奏，被行业淘汰。你身处 AI 行业的核心，是如何应对这种焦虑，避免被海量的信息淹没的？ OpenAI 的 AI 落地就是最好的例子：我们一直秉持 AI 驱动的理念，但真正让 AI 在公司内部普及的，是 Codex 这类工具的推出 —— 它让每位员工都能将 AI 直接应用到日常工作中。这一点至关重要，因为归根结底，不同岗位的工作内容千差万别，软件工程、财务、运营、市场销售的工作逻辑完全不同， AI 落地的 “ 最后一公里 ” ，必须由一线员工结合实际工作完成，这是自上而下的指令无法替代的。 而很多企业的 AI 部署之所以失败，就是因为只有自上而下的强制推动，没有自下而上的主动接纳。管理层一纸命令要求全员做 AI ，却与员工的实际工作完全脱节，最终导致员工对 AI 技术一知半解，只知道 “ 必须用 ” ，甚至将 AI 应用纳入绩效考核，却根本不知道该怎么用。环顾四周，没人能给出示范，也没有学习交流的氛围，这样的 AI 部署注定失败。 所以我给这类企业的建议是：在内部组建一支全职的 AI“ 虎队 ” 。这支团队的核心职责，是深度探索 AI 技术的全部能力，将其落地到具体的业务流程中，开展内部知识分享，在组织内点燃员工对 AI 的使用热情。如果没有这样的团队，企业的 AI 落地之路只会步履维艰。 Lenny ： 那这支 “ 虎队 ” 应该由哪些人组成？是由工程师主导吗？还是说，你的经验里，这是一支跨职能团队？ Sherwin Wu ： 这个问题很有意思。要知道，很多企业根本没有软件工程师岗位，而我观察到的规律是，最适合组建 “ 虎队 ” 的，是那些与软件工程相关、具备技术思维但并非专业软件工程师的人。 比如，客服团队的运营主管，他们不会写代码，但擅长使用各类工具，甚至是 Excel 高手，这类人往往对 AI 技术充满好奇和热情。他们是技术相关领域的从业者，具备一定的技术素养，是企业内部最容易被 AI 点燃的群体，围绕他们组建 “ 虎队 ” ，往往能事半功倍。 当然，软件工程师肯定能理解 AI 技术，但并非所有企业都有软件工程师，这类人才不仅稀缺，成本也很高。所以，上述这类 “ 技术相邻型 ” 人才，才是企业 AI 落地的核心力量。 Lenny ： 也就是说，企业 AI 部署的最大反模式，就是单纯的自上而下推动 ——CEO 和管理层一拍脑袋，喊出 “AI 优先 ” 的口号，要求全员使用 AI ，甚至将 AI 使用情况与绩效挂钩，却不组建自下而上的 AI 布道团队，这样的做法注定行不通。而正确的做法，是找到企业内部对 AI 最热情的人，将他们集中起来组建 AI 布道团队，探索 AI 的实际应用场景，再将经验推广到整个组织。 Sherwin Wu ： 没错，你总结得很到位。这一点也和我的管理理念相通 —— 找到 AI 落地中的高绩效者，全力为他们赋能。让他们牵头举办黑客马拉松、开展技术研讨会、做内部知识分享，在组织内播撒 AI 应用的火种，这才是最有效的方式。 开发者的核心启示：模型演进下的 “ 脚手架消亡 ” 与前瞻构建 Lenny ： 接下来想听听你的几个独到观点，我之前看到你分享过，在 AI 领域，倾听客户需求并非总是正确的策略，甚至可能会让企业走入误区，为什么这么说？ Sherwin Wu ： 其实这算不上什么激进的观点。首先必须明确：倾听客户需求是有价值的，企业当然要和客户沟通。但问题在于， AI 领域的发展速度实在太快了，尤其是过去三年，我深耕 API 业务，亲眼见证了整个行业的演变 ——AI 技术本身，包括模型在内，都在以极快的速度自我迭代、自我颠覆，尤其是在工具和底层架构领域。 这周我在 X 上看到 FinTool 初创公司创始人 Nicholas 的一篇文章，他分享了为金融服务领域构建 AI 智能体的最佳实践，其中有一句话我特别认同： 模型会把你的脚手架当早餐吃掉。 回到 2022 年 ChatGPT 刚发布时，当时的模型还很粗糙，为了让模型实现预期功能，开发者们在开发者领域搭建了大量的底层架构和产品框架，比如各类智能体框架、红极一时的向量存储，还有一大堆配套工具，这些都是为了引导模型、弥补模型能力的不足。 但随着 AI 技术的发展，模型能力突飞猛进，那些曾经不可或缺的架构，很多都被模型本身的能力所替代 —— 这就是 “ 模型吃掉脚手架 ” 。即便到了今天，这个趋势依然在延续。 Nicholas 在文章中提到，现在主流的架构是技能框架、基于文件的上下文管理，但我敢断言，未来这些架构也可能失去价值：模型或许能自主完成上下文管理，甚至会出现全新的技术范式，让这些现有架构变得可有可无。 这样的例子比比皆是：曾经的智能体框架，如今实用性已大不如前； 2023 年，我们都以为向量存储是将企业内部信息融入 AI 模型的唯一方式，为此投入大量精力做向量化、嵌入、优化向量搜索，可这些工作本质上都是 “ 脚手架 ” ，只因当时的模型能力不足。而随着模型的进步，我们发现更好的方式是简化这些逻辑，相信模型本身的能力，只需为其配备通用的搜索工具即可 —— 不一定是向量存储，甚至可以是文件系统中的普通文件，比如 skills 和 Agents MD ，就能实现对模型的引导。当然，向量存储如今仍有其应用场景，很多企业还在使用，但围绕它搭建的整套生态和架构，早已不是唯一选择，这就是最直观的变化。 回到 “ 是否要倾听客户需求 ” 的问题： 正因为 AI 行业发展太快，任何一个时间点，客户的认知都处于 “ 局部最优解 ” 阶段。如果企业盲目听从客户，客户说想要更好的向量存储、更完善的智能体框架，企业就一味在这条路上深耕，最终只会困在局部最优解中，被技术迭代淘汰。 随着模型能力的提升，我们必须不断重新思考：该为模型搭建怎样的抽象层、工具和框架？这个过程充满未知，是一个不断移动的目标，这也是 AI 领域的魅力所在，但同时也要求企业： 与客户沟通时，要平衡客户的即时需求和对模型未来发展的判断，着眼于未来 1 2 年的技术趋势。 Lenny ： 这让我想到了 AI 和机器学习领域的 “ 苦涩教训 ”—— 越不要过度复杂化，越少给模型添加人为逻辑，模型的扩展性和成长性就越好。最好的方式，就是剥离多余的设计，让模型依靠自身的算力自主进化。 Sherwin Wu ： 没错， AI 落地领域也存在这样的 “ 苦涩教训 ” ：我们费尽心思为模型搭建各类架构，最终却发现，这些架构都会被不断进化的模型所替代。说实话， OpenAI 的 API 团队也犯过这样的错，在技术探索中走了不少弯路，但好在模型一直在进步，我们也在日复一日的实践中，不断领悟这个 “ 苦涩教训 ” 。 Lenny ： 那对于那些正在基于 OpenAI API 构建产品、开发智能体，现阶段不得不搭建一些底层架构的开发者，你有什么核心建议？ Sherwin Wu ： 我的建议其实很简单，而且我已经和很多人说过，如今依然适用： 为模型的未来而构建，而非为模型的当下而构建。 AI 模型的能力一直在变，这是一个移动的目标。我见过很多做得非常成功的初创企业，他们的策略是：瞄准模型未来的理想能力 —— 哪怕当下这个能力只实现了 80% ，基于这个目标打造产品。这样的产品，当下可能勉强能用，看似 “ 差一点意思 ” ，但随着模型能力的提升，产品会突然迎来爆发 —— 比如模型从 5.1 升级到 5.2 ，就能彻底解锁产品的全部功能。 因为他们在产品设计之初，就把模型的未来进化考虑在内，这样打造的产品体验，远胜于假设模型能力一成不变的产品。当然，瞄准未来可能需要一点耐心，但 AI 模型的进化速度超乎想象，这份等待往往不会太久。 Lenny ： 那顺着这个思路，未来 6 12 个月， OpenAI 的 API 、平台以及模型，会向哪个方向发展？你可以分享一些你最期待的方向，或是认为开发者应该提前准备的领域。 Sherwin Wu ： 最明确的一个方向，是模型的长任务处理能力。 目前有个 Meter 基准测试，专门追踪软件工程领域中，模型能连贯完成多长时间的任务 —— 比如 50% 的成功率下，模型能完成数小时的软件工程任务； 80% 的成功率下，能完成不到一小时的任务。而这份测试图表最令人震撼的是，它纳入了历代模型的测试数据，能清晰看到模型长任务处理能力的飞速提升。 现在的产品，大多只针对模型的 “ 短任务处理能力 ” 做了优化，比如 Codex 这类编码工具，最多能高效处理 10 分钟左右的任务，虽然有人能将其推到数小时的极限，但这只是特例。而按照当前的发展趋势，未来 12 18 个月，模型将能非常连贯地处理数小时的长任务，甚至可能实现 6 小时、一整天的自主任务处理。 围绕这样的模型能力，产品形态也会发生巨大变化：开发者需要为模型设计反馈机制，不能让模型完全 “ 放任自流 ” ，但模型能完成的任务范围，会得到极大拓展，这是我最期待的方向。 第二个方向，是多模态模型的升级，尤其是音频领域。 目前模型的音频处理能力已经不错，未来 6 12 个月还会有质的提升，尤其是原生多模态模型、语音到语音模型。同时，音频领域的新模型、新架构也在不断探索，潜力巨大。 而音频领域，尤其是企业和商业场景的音频应用，目前被严重低估了。大家总在谈论编码、文本，却忽略了我们日常的沟通大多是通过音频完成的，商业世界的很多业务、服务和运营，也都依赖音频交流。未来 12 18 个月，音频领域的 AI 应用会迎来爆发，这会是又一个重要的技术解锁点。 Lenny ： 总结一下，就是未来智能体和 AI 工具的任务处理时长会持续提升，而音频和语音会成为 AI 应用的核心领域，迎来原生、深度的升级，对吗？我还看到你分享过另一个观点：你非常看好商业流程自动化在 AI 时代的机会，想听听你的看法。 Sherwin Wu ： 这还是回到我之前说的 —— 硅谷的从业者活在泡沫里。我们熟悉的软件工程、产品管理、产品打造，这些工作模式，和支撑整个经济运行的传统行业工作模式，有着天壤之别。我和传统企业客户交流时，最深的感受就是：非科技企业中，存在大量的标准化商业流程，这正是 AI 的巨大机会所在。 我可以做一个清晰的划分：软件工程属于开放式知识工作，没有固定的流程，充满探索性，这也是 Codex 这类工具能发挥巨大作用的原因 —— 它能应对开放式的需求。但软件工程的核心特点是 “ 不可重复 ” ，比如开发一个功能，不会一遍又一遍地做完全相同的事，科技领域的很多工作，比如数据科学、战略财务，都属于这类。 而远离核心科技领域的传统行业，大多数工作都是标准化的商业流程 —— 是可重复的操作，企业管理者会不断优化这些流程，形成标准作业程序（ SOP ），员工只需严格遵循，无需过多创新。比如拨打客服热线，客服人员会按照固定流程解答问题；联系公用事业公司，对方的服务也有明确的流程和边界。 这类工作正是我极度看好的 AI 应用领域，却因为和硅谷的工作模式差异太大，一直被低估。我一直在思考：如何将 AI 技术和现有工具框架，应用到商业流程自动化中 —— 让 AI 实现高确定性的重复流程自动化，并且与企业的业务数据、决策体系、内部系统深度融合，优化整个商业流程。 这个领域有巨大的潜力和工作要做，只是因为不在硅谷的 “ 舒适区 ” ，才被大家忽视了。 Lenny ： 也就是说，你认为 AI 对企业生产力的提升，以及对从业者工作模式的改变，更大的机会不在工程领域，而在那些以重复性、可自动化任务为主的传统领域，对吗？ Sherwin Wu ： 是的， AI 不仅会改变这些领域的工作模式，更会重构整个工作流程。我和很多大型企业客户交流时，他们都会问： AI 将如何改变我的公司？ 20 年后的企业，会如何在 AI 时代运作？ 软件工程当然是其中的一部分，但商业流程层面的变化会更加巨大，甚至超出想象。这个领域的市场规模非常可观，虽然我无法用具体的百分比来衡量它和软件工程的大小，但可以肯定的是，它的规模远比人们在 X 平台上讨论的要大得多 —— 毕竟软件行业本身已经非常庞大，而商业流程自动化覆盖的行业，比软件行业还要广泛。 OpenAI 平台战略：生态开放与创业者的共赢机遇 Lenny ： 聊一个创业者最关心的问题：如今大家都在基于 OpenAI 的 API 构建产品，最担心的就是自己的创意被 OpenAI 看中，进而被 OpenAI 亲自打造的产品挤压，最终摧毁自己的市场。 OpenAI 在这方面的政策是什么？初创企业该如何判断，哪些领域是 OpenAI 大概率不会涉足的？ Sherwin Wu ： 我的答案很简单： 市场足够大，初创企业不必过度纠结 OpenAI 或其他大厂的布局。 我接触过很多初创企业，有失败的，也有极其成功的。我发现，所有失败的初创企业，都不是因为被 OpenAI 、谷歌这类大厂挤压，而是因为他们打造的产品，根本无法打动客户，无法与市场产生共鸣。而那些成功的企业，即便在编码这样的红海领域，也能