你不知道的具身智能:从小机器狗到 Optimus
你不知道的具身智能:从小机器狗到 Optimus
你不知道的具身智能:从小机器狗到 Optimus 你不知道的具身智能:从小机器狗到 Optimus Modified June 8 No access 3LWzhG4KlJAikw6Q 00:00 拆解材料里的思路是绕开传统销钉铰链,用一块扁平复合件夹在两节指节之间,上下两层弹性体,中间夹一片很薄的增强片,材料候选里出现了 Vectran 和 Nitinol,前者是液晶聚合物纤维,后者是镍钛超弹性合金,用来做方向性刚度。 这个设计要控制的是弯曲方向,手指弯曲方向要软,拉伸、压缩、剪切、扭转、侧摆这些方向要硬,传统销钉靠几何结构限制多余自由度,这个方案靠各向异性刚度来限制。工程上它有三个潜在收益,指节之间能形成接近滚动接触、转动轴随角度移动,更像真实手指;弹性体自带回弹,不一定要额外回位弹簧;腱绳还能穿过中性面,减小反复弯曲带来的疲劳。 这个案例看着像结构设计,背后其实牵连了灵巧手里一连串问题,一个关节结构会影响手指回弹、腱绳走线、腕部布局、前臂空间、装配公差和维修方式,它能不能在一天几千次抓取后还保持一致,演示里看不出来,需要实际到真实工作场景长期使用才知道有没有问题。 Optimus 的 AI 是怎么做的 Optimus 和 FSD 同源是 Tesla 反复强调的技术点,AI Day 2022 提到,机器人躯干里的计算机来自车端 FSD 计算机,软件栈也复用了车辆里的目标识别、occupancy network、室内导航和运动规划,也有第三方把 Optimus 描述成 8 个摄像头输入,输出到 78 个执行器的端到端系统。 Tesla 其实不是「单一端到端神经网络」,FSD 完整构建涉及 48 个网络,更准确的说法是,Tesla 是追求端到端可学习的统一系统,工程实现更可能是共享表示的多任务 multi head 架构。 自动驾驶的动作空间其实不大,方向盘、油门、刹车这几样基本就说完了,但人形机器人是另一回事,Optimus 按 78 个执行器算,每一个时间步都得把身体、手臂、手指、平衡、接触一起兼顾到,杯子稍微滑一下,手指力、手腕、手臂轨迹、重心也需要同时跟着调整。 端到端路线能省掉模块之间一堆手写接口,让视觉、语言、空间和动作通过统一训练互相影响,但出了错很难定位,抓错零件时,是深度估计错了,物体语义错了,动作头错了,还是执行器跟踪失败?工程系统仍然需要日志、状态回放、安全控制器和可解释的中间信号。 把 Optimus 放到工程系统里,我会先拆成四个接口,这样更容易看清楚它难在哪。 接口 输入 输出 怎么验收 视觉到 3D 多摄像头图像、本体姿态 occupancy、物体位置、可达空间 遮挡、反光、窄通道、低纹理物体下是否稳定 语言到任务 人类指令、工厂 SOP、当前场景 子任务序列和失败恢复策略 指令变化后是否仍然走合理流程,失败能否重新规划 任务到动作 子任务、末端目标、接触状态 身体、手臂、手指动作轨迹 频率、延迟、抖动、接触力是否在安全范围 动作到执行 关节目标、电流限制、传感器反馈 执行结果、故障码、急停状态 长时间重复操作后是否漂移,故障是否可定位 这四个接口放到小机器狗上也能对上,只是尺度差很多。我的狗只有「语言到固定动作」和「动作到 PWM」,少了视觉到 3D 和接触状态。Optimus 的难点是四个接口都要同时成立,而且任何一层出错都可能被统一模型吞进黑盒里。 数据从哪来,量产难在哪 Tesla 的优势常被概括成车队数据,这里只说对一部分,车队数据能给 Optimus 带来视觉常识、空间理解、光照适应、动态物体预测和 occupancy 表示,但汽车并不处理杯子摩擦系数,也不用手指判断纸箱是否瘪了,其实现在机器人最缺的是真实物理世界的接触数据。按目前公开资料,Tesla 的 Optimus 数据主要来自这四类: 数据源 它补什么 还缺什么 车辆 fleet 视觉常识、空间理解、occupancy 表示 抓取、力控、触觉、接触失败 人类第一视角演示 任务语义、手部细节、工具使用 机器人本体状态和真实执行误差 Digital Dreams / 神经网络世界模拟器 长尾场景、光照、物体位置、初始状态变体 生成数据的物理一致性仍要真机验证 工厂 Optimus 在线反馈 最接近部署分布的成功和失败样本 受机器人数量、任务边界和安全限制影响 所以才有了人类操作员带着头盔和背包相机去现场采集这种做法。前段时间我还看到国内的具身智能公司和家政公司合作,让阿姨带着传感器和摄像头去打扫卫生,这类合作也是在补物理世界接触数据。 机器人数据比自动驾驶慢得多,车队能靠满街的车每天一起采,遥操作通常一人一次只教一台,真机自主采更慢,失败还会磨损硬件、打断产线、带来安全风险,所以这事才这么难,但我还是挺看好这个方向。 机器人公司之间的差距,会慢慢体现在样本、训练和硬件改动的速度上,谁能更便宜、更稳定地采到失败样本,再把它们带进下一轮训练和硬件改动,谁的能力迭代就拉得更开。 数据是一道坎,量产是另一道。 Tesla 每次财报电话会都会聊不少 Optimus,作为投资人,我一般会把他们讲的和当前真做到的分开辩证看,把 2024 到 2026 年的连续口径连起来,能看出一些持续的变化,也能看出每次难点在哪里。 公开口径 卡在哪里 先在 Tesla 工厂内部使用 工厂是任务场,也是数据场和安全边界 机器人尚未 design locked 硬件定型还在推进,模型迭代速度代表不了整机迭代速度 目标产线从 1,000 台/月到更高规模 难点在执行器、电池、线束、装配和质检良率 目标在规模化后把成本压到 2 万美元以下 这依赖全新供应链,软件降本只占一部分 稀土永磁体供应被点名影响 Optimus 执行器会被材料和供应链约束 比交付年份更难绕开的,是上面这些约束。人形机器人很难等模型训好再开产线,硬件、数据、制造通常一起推进。手部一改设计,前臂结构、线束、触觉传感器、控制器和供应链都要跟着动,执行器良率不稳,产能目标就会被最慢的零件给拖住。 比交付年份更难绕开的,是上面这些约束,人形机器人很难等模型训好再开产线,硬件、数据、制造通常一起推进,手部一改设计,前臂结构、线束、触觉传感器、控制器和供应链都要跟着动,执行器良率不稳,产能目标就会被最慢的零件给拖住。 从公开资料看,Tesla 赌的是三件事的组合,真实场景数据、制造规模和垂直整合。FSD 给它视觉和训练基础设施,工厂给它受控任务和反馈,制造体系给它降本路径,但手部可靠性、执行器成本、安全保护和真实工位 ROI 只要有一项卡住,这些优势也很难落到产品上。 后续 Optimus 的验证点会集中在几样东西上,手部结构的长期可靠性,失败样本回到训练和真机验证的速度,模型的可排错接口,产线目标背后的执行器和供应链支撑,公开资料里的 Tesla 路线如果成立,靠的是车队视觉经验、工厂任务、世界模拟器、训练集群和制造体系一起跑通。 几家公司的不同路线 现在做人形机器人的公司不少,路线和押的方向差别其实挺大。 玩家 路线 押的方向 观察点 Tesla Optimus 纯视觉、FSD 迁移、工厂试跑、自研执行器 失败样本和制造规模 手部、执行器成本、真实工位 ROI Figure Helix / Helix 02,全身 VLA 和工厂任务 on device VLA 和长程 loco manipulation(边走边操作) 演示外的稳定性、维护成本 Google DeepMind Gemini Robotics,高层 ER + 低层 VLA 通用多步推理接机器人动作 伙伴硬件上的泛化和安全边界 NVIDIA Jetson Thor、Cosmos、Isaac、GR00T 卖芯片、仿真、世界模型和基础模型工具链 生态是否能跨机器人稳定复用 Boston Dynamics 传统控制积累 + AI 增强 可靠运动控制和工业部署 成本、通用操作能力 Unitree 宇树 高性价比硬件、运动能力、开发者市场 用低价格扩大硬件基数 软件生态和安全任务能力 AGIBOT 智元 多形态产品、数据集、全栈平台 国内供应链和真实任务数据 公开可验证的任务覆盖和持续运行 这七家其实分两拨。一拨自己造整机,Tesla、Figure、宇树、智元都是从硬件到模型自己全包。另一拨不绑某一台机器人,Google DeepMind 做的是能接到不同本体上的智能层,NVIDIA 干脆把算力、仿真、世界模型和基础模型做成工具链卖给所有人。前一拨赌的是数据和制造能不能咬合,后一拨赌的是自己那层能不能跨机器人复用。 No access 3LWzhG4KlJAikw6Q 00:00 No access 3LWzhG4KlJAikw6Q 00:00 拆解材料里的思路是绕开传统销钉铰链,用一块扁平复合件夹在两节指节之间,上下两层弹性体,中间夹一片很薄的增强片,材料候选里出现了 Vectran 和 Nitinol,前者是液晶聚合物纤维,后者是镍钛超弹性合金,用来做方向性刚度。 这个设计要控制的是弯曲方向,手指弯曲方向要软,拉伸、压缩、剪切、扭转、侧摆这些方向要硬,传统销钉靠几何结构限制多余自由度,这个方案靠各向异性刚度来限制。工程上它有三个潜在收益,指节之间能形成接近滚动接触、转动轴随角度移动,更像真实手指;弹性体自带回弹,不一定要额外回位弹簧;腱绳还能穿过中性面,减小反复弯曲带来的疲劳。 这个案例看着像结构设计,背后其实牵连了灵巧手里一连串问题,一个关节结构会影响手指回弹、腱绳走线、腕部布局、前臂空间、装配公差和维修方式,它能不能在一天几千次抓取后还保持一致,演示里看不出来,需要实际到真实工作场景长期使用才知道有没有问题。 Optimus 的 AI 是怎么做的 Optimus 和 FSD 同源是 Tesla 反复强调的技术点,AI Day 2022 提到,机器人躯干里的计算机来自车端 FSD 计算机,软件栈也复用了车辆里的目标识别、occupancy network、室内导航和运动规划,也有第三方把 Optimus 描述成 8 个摄像头输入,输出到 78 个执行器的端到端系统。 Tesla 其实不是「单一端到端神经网络」,FSD 完整构建涉及 48 个网络,更准确的说法是,Tesla 是追求端到端可学习的统一系统,工程实现更可能是共享表示的多任务 multi head 架构。 自动驾驶的动作空间其实不大,方向盘、油门、刹车这几样基本就说完了,但人形机器人是另一回事,Optimus 按 78 个执行器算,每一个时间步都得把身体、手臂、手指、平衡、接触一起兼顾到,杯子稍微滑一下,手指力、手腕、手臂轨迹、重心也需要同时跟着调整。 端到端路线能省掉模块之间一堆手写接口,让视觉、语言、空间和动作通过统一训练互相影响,但出了错很难定位,抓错零件时,是深度估计错了,物体语义错了,动作头错了,还是执行器跟踪失败?工程系统仍然需要日志、状态回放、安全控制器和可解释的中间信号。 把 Optimus 放到工程系统里,我会先拆成四个接口,这样更容易看清楚它难在哪。 接口 输入 输出 怎么验收 视觉到 3D 多摄像头图像、本体姿态 occupancy、物体位置、可达空间 遮挡、反光、窄通道、低纹理物体下是否稳定 语言到任务 人类指令、工厂 SOP、当前场景 子任务序列和失败恢复策略 指令变化后是否仍然走合理流程,失败能否重新规划 任务到动作 子任务、末端目标、接触状态 身体、手臂、手指动作轨迹 频率、延迟、抖动、接触力是否在安全范围 动作到执行 关节目标、电流限制、传感器反馈 执行结果、故障码、急停状态 长时间重复操作后是否漂移,故障是否可定位 接口 接口 输入 输入 输出 输出 怎么验收 怎么验收 视觉到 3D 视觉到 3D 多摄像头图像、本体姿态 多摄像头图像、本体姿态 occupancy、物体位置、可达空间 occupancy、物体位置、可达空间 遮挡、反光、窄通道、低纹理物体下是否稳定 遮挡、反光、窄通道、低纹理物体下是否稳定 语言到任务 语言到任务 人类指令、工厂 SOP、当前场景 人类指令、工厂 SOP、当前场景 子任务序列和失败恢复策略 子任务序列和失败恢复策略 指令变化后是否仍然走合理流程,失败能否重新规划 指令变化后是否仍然走合理流程,失败能否重新规划 任务到动作 任务到动作 子任务、末端目标、接触状态 子任务、末端目标、接触状态 身体、手臂、手指动作轨迹 身体、手臂、手指动作轨迹 频率、延迟、抖动、接触力是否在安全范围 频率、延迟、抖动、接触力是否在安全范围 动作到执行 动作到执行 关节目标、电流限制、传感器反馈 关节目标、电流限制、传感器反馈 执行结果、故障码、急停状态 执行结果、故障码、急停状态 长时间重复操作后是否漂移,故障是否可定位 长时间重复操作后是否漂移,故障是否可定位 这四个接口放到小机器狗上也能对上,只是尺度差很多。我的狗只有「语言到固定动作」和「动作到 PWM」,少了视觉到 3D 和接触状态。Optimus 的难点是四个接口都要同时成立,而且任何一层出错都可能被统一模型吞进黑盒里。 数据从哪来,量产难在哪 Tesla 的优势常被概括成车队数据,这里只说对一部分,车队数据能给 Optimus 带来视觉常识、空间理解、光照适应、动态物体预测和 occupancy 表示,但汽车并不处理杯子摩擦系数,也不用手指判断纸箱是否瘪了,其实现在机器人最缺的是真实物理世界的接触数据。按目前公开资料,Tesla 的 Optimus 数据主要来自这四类: 数据源 它补什么 还缺什么 车辆 fleet 视觉常识、空间理解、occupancy 表示 抓取、力控、触觉、接触失败 人类第一视角演示 任务语义、手部细节、工具使用 机器人本体状态和真实执行误差 Digital Dreams / 神经网络世界模拟器 长尾场景、光照、物体位置、初始状态变体 生成数据的物理一致性仍要真机验证 工厂 Optimus 在线反馈 最接近部署分布的成功和失败样本 受机器人数量、任务边界和安全限制影响 数据源 数据源 它补什么 它补什么 还缺什么 还缺什么 车辆 fleet 车辆 fleet 视觉常识、空间理解、occupancy 表示 视觉常识、空间理解、occupancy 表示 抓取、力控、触觉、接触失败 抓取、力控、触觉、接触失败 人类第一视角演示 人类第一视角演示 任务语义、手部细节、工具使用 任务语义、手部细节、工具使用 机器人本体状态和真实执行误差 机器人本体状态和真实执行误差 Digital Dreams / 神经网络世界模拟器 Digital Dreams / 神经网络世界模拟器 长尾场景、光照、物体位置、初始状态变体 长尾场景、光照、物体位置、初始状态变体 生成数据的物理一致性仍要真机验证 生成数据的物理一致性仍要真机验证 工厂 Optimus 在线反馈 工厂 Optimus 在线反馈 最接近部署分布的成功和失败样本 最接近部署分布的成功和失败样本 受机器人数量、任务边界和安全限制影响 受机器人数量、任务边界和安全限制影响 所以才有了人类操作员带着头盔和背包相机去现场采集这种做法。前段时间我还看到国内的具身智能公司和家政公司合作,让阿姨带着传感器和摄像头去打扫卫生,这类合作也是在补物理世界接触数据。 机器人数据比自动驾驶慢得多,车队能靠满街的车每天一起采,遥操作通常一人一次只教一台,真机自主采更慢,失败还会磨损硬件、打断产线、带来安全风险,所以这事才这么难,但我还是挺看好这个方向。 机器人公司之间的差距,会慢慢体现在样本、训练和硬件改动的速度上,谁能更便宜、更稳定地采到失败样本,再把它们带进下一轮训练和硬件改动,谁的能力迭代就拉得更开。 数据是一道坎,量产是另一道。 Tesla 每次财报电话会都会聊不少 Optimus,作为投资人,我一般会把他们讲的和当前真做到的分开辩证看,把 2024 到 2026 年的连续口径连起来,能看出一些持续的变化,也能看出每次难点在哪里。 公开口径 卡在哪里 先在 Tesla 工厂内部使用 工厂是任务场,也是数据场和安全边界 机器人尚未 design locked 硬件定型还在推进,模型迭代速度代表不了整机迭代速度 目标产线从 1,000 台/月到更高规模 难点在执行器、电池、线束、装配和质检良率 目标在规模化后把成本压到 2 万美元以下 这依赖全新供应链,软件降本只占一部分 稀土永磁体供应被点名影响 Optimus 执行器会被材料和供应链约束 公开口径 公开口径 卡在哪里 卡在哪里 先在 Tesla 工厂内部使用 先在 Tesla 工厂内部使用 工厂是任务场,也是数据场和安全边界 工厂是任务场,也是数据场和安全边界 机器人尚未 design locked 机器人尚未 design locked 硬件定型还在推进,模型迭代速度代表不了整机迭代速度 硬件定型还在推进,模型迭代速度代表不了整机迭代速度 目标产线从 1,000 台/月到更高规模 目标产线从 1,000 台/月到更高规模 难点在执行器、电池、线束、装配和质检良率 难点在执行器、电池、线束、装配和质检良率 目标在规模化后把成本压到 2 万美元以下 目标在规模化后把成本压到 2 万美元以下 这依赖全新供应链,软件降本只占一部分 这依赖全新供应链,软件降本只占一部分 稀土永磁体供应被点名影响 Optimus 稀土永磁体供应被点名影响 Optimus 执行器会被材料和供应链约束 执行器会被材料和供应链约束 比交付年份更难绕开的,是上面这些约束。人形机器人很难等模型训好再开产线,硬件、数据、制造通常一起推进。手部一改设计,前臂结构、线束、触觉传感器、控制器和供应链都要跟着动,执行器良率不稳,产能目标就会被最慢的零件给拖住。 比交付年份更难绕开的,是上面这些约束,人形机器人很难等模型训好再开产线,硬件、数据、制造通常一起推进,手部一改设计,前臂结构、线束、触觉传感器、控制器和供应链都要跟着动,执行器良率不稳,产能目标就会被最慢的零件给拖住。 从公开资料看,Tesla 赌的是三件事的组合,真实场景数据、制造规模和垂直整合。FSD 给它视觉和训练基础设施,工厂给它受控任务和反馈,制造体系给它降本路径,但手部可靠性、执行器成本、安全保护和真实工位 ROI 只要有一项卡住,这些优势也很难落到产品上。 后续 Optimus 的验证点会集中在几样东西上,手部结构的长期可靠性,失败样本回到训练和真机验证的速度,模型的可排错接口,产线目标背后的执行器和供应链支撑,公开资料里的 Tesla 路线如果成立,靠的是车队视觉经验、工厂任务、世界模拟器、训练集群和制造体系一起跑通。 几家公司的不同路线 现在做人形机器人的公司不少,路线和押的方向差别其实挺大。 玩家 路线 押的方向 观察点 Tesla Optimus 纯视觉、FSD 迁移、工厂试跑、自研执行器 失败样本和制造规模 手部、执行器成本、真实工位 ROI Figure Helix / Helix 02,全身 VLA 和工厂任务 on device VLA 和长程 loco manipulation(边走边操作) 演示外的稳定性、维护成本 Google DeepMind Gemini Robotics,高层 ER + 低层 VLA 通用多步推理接机器人动作 伙伴硬件上的泛化和安全边界 NVIDIA Jetson Thor、Cosmos、Isaac、GR00T 卖芯片、仿真、世界模型和基础模型工具链 生态是否能跨机器人稳定复用 Boston Dynamics 传统控制积累 + AI 增强 可靠运动控制和工业部署 成本、通用操作能力 Unitree 宇树 高性价比硬件、运动能力、开发者市场 用低价格扩大硬件基数 软件生态和安全任务能力 AGIBOT 智元 多形态产品、数据集、全栈平台 国内供应链和真实任务数据 公开可验证的任务覆盖和持续运行 玩家 玩家 路线 路线 押的方向 押的方向 观察点 观察点 Tesla Optimus Tesla Optimus 纯视觉、FSD 迁移、工厂试跑、自研执行器 纯视觉、FSD 迁移、工厂试跑、自研执行器 失败样本和制造规模 失败样本和制造规模 手部、执行器成本、真实工位 ROI 手部、执行器成本、真实工位 ROI Figure Figure Helix / Helix 02,全身 VLA 和工厂任务 Helix / Helix 02,全身 VLA 和工厂任务 on device VLA 和长程 loco manipulation(边走边操作) on device VLA 和长程 loco manipulation(边走边操作) 演示外的稳定性、维护成本 演示外的稳定性、维护成本 Google DeepMind Google DeepMind Gemini Robotics,高层 ER + 低层 VLA Gemini Robotics,高层 ER + 低层 VLA 通用多步推理接机器人动作 通用多步推理接机器人动作 伙伴硬件上的泛化和安全边界 伙伴硬件上的泛化和安全边界 NVIDIA NVIDIA Jetson Thor、Cosmos、Isaac、GR00T Jetson Thor、Cosmos、Isaac、GR00T 卖芯片、仿真、世界模型和基础模型工具链 卖芯片、仿真、世界模型和基础模型工具链 生态是否能跨机器人稳定复用 生态是否能跨机器人稳定复用 Boston Dynamics Boston Dynamics 传统控制积累 + AI 增强 传统控制积累 + AI 增强 可靠运动控制和工业部署 可靠运动控制和工业部署 成本、通用操作能力 成本、通用操作能力 Unitree 宇树 Unitree 宇树 高性价比硬件、运动能力、开发者市场 高性价比硬件、运动能力、开发者市场 用低价格扩大硬件基数 用低价格扩大硬件基数 软件生态和安全任务能力 软件生态和安全任务能力 AGIBOT 智元 AGIBOT 智元 多形态产品、数据集、全栈平台 多形态产品、数据集、全栈平台 国内供应链和真实任务数据 国内供应链和真实任务数据 公开可验证的任务覆盖和持续运行 公开可验证的任务覆盖和持续运行 这七家其实分两拨。一拨自己造整机,Tesla、Figure、宇树、智元都是从硬件到模型自己全包。另一拨不绑某一台机器人,Google DeepMind 做的是能接到不同本体上的智能层,NVIDIA 干脆把算力、仿真、世界模型和基础模型做成工具链卖给所有人。前一拨赌的是数据和制造能不能咬合,后一拨赌的是自己那层能不能跨机器人复用。 平台这条路听着省事,风险还是接口边界。上层指令太抽象下层接不住,下层失败说不清上层也没法重规划,跟前面 VLA 那章讲的问题很像。 其实也不是只有 VLA 一条路。Boston Dynamics 没有去蹭大模型叙事,靠电动 Atlas 和扎实的运动控制照样进工厂物流。工业现场看的是节拍、故障率和安全认证,而非演示效果好不好看。国内这边信号最实在的是价格和供应链速度,宇树 G1 官方起价 1.35 万美元,硬件基数能很快铺开,能不能做通用任务、能不能长期稳定还得持续来看。我那台小机器狗就停在最基础的固定动作层,这些路线对它来说都还太远。 这些路线背后是三种取舍。工厂场景普遍被当成第一站,因为环境可控、ROI 算得清、任务边界能限定。家庭场景最难,环境乱、用户容错低,还得做到安静、安全、隐私可控。平台公司则选择先卖工具链,因为大多数机器人公司本身就缺数据、仿真、边缘算力和训练框架。 从软件往具身智能走 如果你也是偏软件的工程师,想继续往下看具身智能,下面这些系统层知识绕不开。 • 嵌入式和实时系统:GPIO、PWM、I2C、UART、SPI、定时器、中断、RTOS • 机器人运动学:坐标系、正逆运动学、Jacobian、末端位姿 • 控制基础:PID、MPC、状态估计、采样频率、延迟和稳定性 • 感知和 SLAM:相机模型、深度、IMU、LiDAR、外参、时间同步 • 模仿学习和强化学习:行为克隆、ACT、Diffusion Policy、reward、Sim2Real • 数据工程:遥操作、episode 格式、视频和状态同步、标注、评估 放到一张图里,它是从芯片、执行器、传感器一路往上到算法和系统的一整个栈。单独看模型,很多问题根本看不出来;对着完整技术栈图看,每一块大概在哪一层会清楚很多。 资料串起来大概是这个顺序。先从小机器狗这类硬件项目入手,因为它们刚好能把「端云协同 + 本地动作」连起来。唤醒、联网、模型调用、能力描述、串口协议、动作执行、状态回传都能在一个小系统里遇到。项目不大,但每个环节都可能真实失败,一个个解决的过程,反而最有探索感。 端云协同和 MCP 跑过一遍后,再看 ACT / ALOHA,会更容易理解低成本遥操作和 action chunking;接着看 Diffusion Policy,动作为什么要建模成分布会更清楚;再到 RT 1、RT 2、Open X Embodiment、OpenVLA 这条线,VLA 和跨具身数据就能接上;最后看 π0、π0.5、SmolVLA、Gemini Robotics、Helix、GR00T N1.5,产业界怎么把高层推理、低层动作和边缘部署拼到一起,也会落到更具体的问题上。 要我说具身智能的重点,就「感知、空间、动作、力矩」这四个词,大致也是难度从轻到重。感知 AI 已经够强,空间还在补课,动作刚学会一点,到力矩这一层,就要面对电机、结构、接触和供电这些实打实难做的东西。AI 越靠近物理世界,能靠模型解决的部分越少,剩下的更多是硬件的事。 参考文献 模型与算法 1. RT 1: Robotics Transformer for Real World Control at Scale,Google Robotics, 2022。 RT 1: Robotics Transformer for Real World Control at Scale 2. RT 2: New model translates vision and language into action,Google DeepMind, 2023。 RT 2: New model translates vision and language into action 3. Diffusion Policy: Visuomotor Policy Learning via Action Diffusion,Columbia + MIT CSAIL, 2023。 Diffusion Policy: Visuomotor Policy Learning via Action Diffusion 4. Learning Fine Grained Bimanual Manipulation with Low Cost Hardware,ACT / ALOHA, 2023。 Learning Fine Grained Bimanual Manipulation with Low Cost Hardware 5. Open X Embodiment,Google DeepMind + 33 institutions, 2023。 Open X Embodiment 6. OpenVLA: An Open Source Vision Language Action Model,Stanford + Physical Intelligence + Google DeepMind, 2024。 OpenVLA: An Open Source Vision Language Action Model 7. π0: A Vision Language Action Flow Model for General Robot Control,Physical Intelligence, 2024。 π0: A Vision Language Action Flow Model for General Robot Control 8. π0.5: a VLA with Open World Generalization,Physical Intelligence, 2025。 π0.5: a VLA with Open World Generalization 9. SmolVLA: Efficient Vision Language Action Model trained on LeRobot Community Data,Hugging Face, 2025。 SmolVLA: Efficient Vision Language Action Model trained on LeRobot Community Data 10. Gemini Roboti