Robotics

19 篇内容

工程实践NVIDIA Technical Blog

Running AV Reasoning Models Within Onboard Compute and Latency Limits

文章介绍 NVIDIA Alpamayo 2 Edge 这一面向车载实时推理的 2B 参数自适应推理 VLA 模型,并说明其在 DRIVE AGX Thor 上满足算力与时延约束的部署方法。模型只在需要时生成 Chain-of-Causation 推理,结合扩散动作专家输出轨迹,并通过离线蒸馏、闭环强化学习、多分辨率输入、DFlash2 推测解码及 TensorRT/FP8 量化优化。文中给出 160–190 ms 的像素到轨迹延迟、与 Qwen-Drive-1.0 的基准对比,以及 AlpaJudge 用于推理质量评估、数据筛选和 RL 奖励的三类工作流。其价值在于把边缘部署、推理评测和训练改进串成可复现流程,但结论高度依赖 NVIDIA 硬件与软件栈,第三方复现和跨平台适用性仍需验证。

推荐收录:文章不仅介绍模型,还给出自适应推理、DFlash2 推测解码、TensorRT 量化部署和 160–190 ms 实测延迟,并展示 AlpaJudge 在数据筛选与 RL 奖励中的闭环用法。对做边缘 AI、自动驾驶推理优化或 LLM 评测的读者有可迁移的工程参考;主要风险是强绑定 NVIDIA DRIVE/TensorRT 生态,基准与第三方结论需自行复核。

技术文章NVIDIA Technical Blog

Make a Robot Arm Feel Weightless with NVIDIA Holoscan 5

文章是 NVIDIA Holoscan 5 的机器人重力补偿实战教程:在 Seeed Studio reBot Arm 上,用三个自定义算子分别以 400 Hz 读取关节状态、调用 Pinocchio 的 RNEA 计算逆动力学重力力矩,并向电机发送指令。作者将三个算子放入同一 partition 以避免线程切换,使用深度为 1 的 drop-oldest 队列防止旧样本堆积,并在启用电机前编译、检查执行计划。通过 Nsight Systems 的 NVTX 时间线对比绑定 CPU 核与未绑定配置,绑定后 C++ 的 p99.99 延迟约 17.2 µs、Python 约 142.6 µs,分别改善约 5 倍和 9.6 倍。文章也指出 Python 的解释器、内存分配和 GIL 开销会影响微秒级控制回路,而毫秒级 GPU 感知负载对此不敏感;示例是重力补偿基础,不是完整控制器,且依赖 Holoscan、特定机械臂和调参。

推荐收录:文章给出了可复现的三算子 Holoscan 图、400 Hz 控制回路以及 C++/Python 在绑定与未绑定 CPU 核下的延迟分位数,并用 Nsight Systems 展示了测量方法,证据具体。它适合机器人、边缘 AI 和实时控制工程师参考,partition 隔离、drop-oldest 队列、CPU 绑核与延迟分解等做法可迁移到其他低延迟系统。需注意其依赖 NVIDIA Holoscan 与特定 reBot 机械臂,且只覆盖重力补偿基础,不是完整控制栈或通用性能结论。

工程实践NVIDIA Technical Blog

How NVIDIA Factory Operations Blueprint Coordinates AI Agents to Investigate Production Issues

文章介绍 NVIDIA Factory Operations Blueprint(FOX)如何以工厂经理 Agent 为核心,连接 MES、ERP、设备数据库和操作手册,并通过 MCP/API 编排视觉巡检、根因分析、车队管理等专用 Agent 处理生产异常。作者以 SMT 产线的 AOI 报警为例,展示二次视觉复核、机器人送修、时序异常检测和证据化 PDF 报告的完整流程。文中还列出管理器、工厂知识、专用 Agent、设备集成与部署各层的开发者职责,强调 OpenShell 策略隔离、人工审批和本地 DGX Station 部署对数据边界的重要性。该文给出了可迁移的多 Agent 协作参考架构,但主要停留在蓝图和仿真示例,缺少 FOX 在真实产线的量化验证,并带有 NVIDIA 产品与早期访问导向。

推荐收录:文章给出了工厂经理 Agent 与视觉巡检、根因分析、车队管理 Agent 的具体协作流程,以及 MCP/API、策略隔离、人工复核和本地部署等可复用设计约束。适合设计多 Agent 系统、工业 AI 或边缘部署方案的工程团队参考;但需注意其示例以仿真和参考架构为主,量化收益多来自 Siemens 案例,FOX 本身缺少独立评测,应区分蓝图能力与已验证生产效果。

技术文章NVIDIA Technical Blog

Using AI Agents to Teach Robots Like Microduck to Walk in Simulation

文章以 Microduck 为例,展示从 AI Agent 规划、资产生成、Isaac Sim 场景搭建到 Isaac Lab 强化学习训练的仿真工作流。Hermes/Nemotron 把提示词拆成计划,Astra 调用 FreeCAD/Blender 生成 USD 资产,Isaac Sim 用 Omniverse 渲染和 Newton 物理构建障碍赛道。训练在 4096 个并行环境中,以头部深度和机器人状态为观测,对预训练运动策略做坡道与障碍适应,并在 RTX Spark 上评估完成率、跌倒和碰撞。文章侧重工具串联,未给出奖励函数、超参数和量化结果,物理部署细节也不在范围内。

推荐收录:文章把 Agent 规划、3D 资产生成、物理仿真和并行强化学习串成可复用流程,并给出 Isaac Sim/Isaac Lab、Microduck 示例及 sim-to-real 配置的具体入口。适合机器人学习、仿真平台和 Agentic AI 工程读者参考。主要风险是 NVIDIA 产品导向明显且缺少量化实验,读者需结合官方文档与代码验证细节。

科研议题知乎 - 微软亚洲研究院

UniSteer用机械臂拼豆:让人类指导进入VLA噪声空间强化学习

文章介绍微软亚洲研究院等提出的 UniSteer,针对 VLA 真机后训练中人类纠正处于动作空间、而轻量强化学习优化噪声空间的表示错位。方法冻结预训练 VLA 解码器,只训练 noise actor,并用固定点反演将人类动作近似反推为初始噪声,使监督学习与强化学习共同更新同一 actor。四项 AgileX Piper 真机任务经平均 66 分钟微调,成功率从 20% 升至 90%,高于 DSRL 的 55% 和 DAgger 的 60%;三项 OOD 位置成功率从 0% 升至 100%。拼豆任务仅用 2 条人工演示即逐颗放置 16 颗豆完成 Logo。实验显示固定点反演在速度、精度和成功率上优于优化反演与直接动作监督,但方法依赖流匹配 VLA 的可逆噪声空间假设。

推荐收录:文章围绕 VLA 真机后训练的核心矛盾,给出了从人类动作反演到噪声监督的统一接口,并用四项真机任务、OOD 测试和反演方案对比提供量化证据。适合研究具身智能、机器人强化学习和 VLA 后训练的读者,其冻结解码器、轻量 actor 与固定点反演思路可迁移到低真机交互成本的对齐和微调场景;风险在于结论目前依赖特定流匹配 VLA 与实验平台。

技术文章NVIDIA Technical Blog

5 Steps to Create SimReady Assets for Robotics with Frontier AI Models

本文介绍将 CAD 资产转换为机器人仿真用 SimReady OpenUSD 资产的五步工作流,以 ABB YuMi 双机械臂为例。流程涵盖 STEP 文件导入、基于参考图像与视频的外观材质匹配、关节与碰撞体等物理属性配置、SimReady 规范验证,以及在 Isaac Sim 中执行颜色方块和马克笔的拾放任务。关键工具包括 NVIDIA Omniverse 库、SimReady Foundation 检查和智能体技能,并借助 GPT-6 Astra 等前沿模型生成调用代码。验证结果显示 21 个刚体质量与惯性张量合法,双机械臂完成四轮拾放周期。边界在于摩擦系数、质量属性等均为未校准的估计值,未验证真实世界动力学,结果可能随模型、提示和工具版本变化。

推荐收录,因为它提供了可操作的五步工作流,包含具体提示词、SimReady 验证项和明确的仿真假设,展示了用 AI 智能体辅助机器人仿真资产准备的实际过程。适合从事机器人仿真、数字孪生或 Isaac Sim/Omniverse 开发的工程师参考,其结构化验证流程和资产准备方法可迁移到其他机器人模型。主要风险是流程深度绑定 NVIDIA 工具链且物理参数未经真实校准,读者需注意工具版本与结果边界。

工程实践NVIDIA Technical Blog

The Machines that Make the Machines

文章介绍 NVIDIA 团队为 GB300 测试托盘实现机器人装配,聚焦 busbar 装配与多连接器插入。busbar 采用经典模块化管线:FoundationPose 多视角位姿估计、Lissajous 操作原语与高性能阻抗控制,成功率达 95% 以上,但螺刀串行使周期 160 秒、未达 124 秒目标。多连接器任务先用 SAM3 分割并抓取电缆,再以 DOPER 位姿估计和 3D 打印夹爪降低不确定性;插入用 Isaac Lab 仿真 RL 与 SPARR 真实残差策略,成功率 90%-95%,尚未满足 99.5% 工业要求。文章还总结机器人服务、TALOS 等基础设施及逆苦涩教训、周期时间与合成/真实数据结合等经验。

推荐收录:文章以真实工业约束为背景,给出 busbar 与多连接器插入的完整方法链、量化成功率和周期时间,并坦诚说明 160 秒/124 秒、90%-95%/99.5% 等未达标差距,证据密度高。对机器人、具身智能和制造自动化工程师而言,其经典管线与学习方法的取舍、DOPER、TALOS、机械设计降不确定性及 sim-to-real 经验均可迁移;需注意其 NVIDIA 生态与实验室条件,部署统计验证仍待补足。

科研议题Microsoft Research Blog

Offloaded inference for real-world physical AI robotics

微软研究博客挑战物理AI推理必须全部运行在机器人板载GPU上的假设,围绕移动操作任务中的语义建图与规划、导航和操作,系统比较板载、边缘与云端GPU的推理表现。评测显示,将推理卸载到边缘/云GPU可提升任务成功率、响应速度与准确率,并支持更大的VLA等模型;较弱板载GPU会使建图与规划最多变慢383%,导航障碍及时检测下降30%,VLA准确率下降50%,Jetson Thor等还会使续航缩短最多160%。作者发布基于Kubernetes的Physical AI Toolchain,可用声明式方式自动容器化、部署和编排机器人AI工作负载,并集成ROS2、LeRobot与仿真器。结论主要适用于移动操作类物理AI工作负载,卸载仍面临性能、网络延迟/带宽与GPU资源间的复杂权衡,且结果依赖具体硬件配置,完整证据需参考其技术报告。

推荐收录。文章基于微软研究院对移动操作工作负载的系统测量,给出板载与边缘/云GPU在任务成功率、时延、VLA准确率和续航上的具体数据,并开源基于Kubernetes的Physical AI Toolchain,可直接指导物理AI推理架构和卸载策略设计。适合机器人、边缘/云推理基础设施与MLOps工程师阅读;需注意其结论依赖特定硬件与网络条件,且本质是厂商研究博客,完整实验细节应以技术报告为准。

科研议题知乎 - Naiyan Wang

In-context feedback learning is all you need

文章以 GPT-6 Astra 控制机械臂的实验为引,提出具身智能中与 feed-forward 先验同等重要的 Feedback Learning,即模型在同一次任务中利用失败反馈调整后续行为。作者从系统辨识、误差修正和 Few-shot 示教三类用法展开:通过试探运动估计工具或本体参数,在插装等任务中根据失败观测修正偏移,并把示范作为起点结合在线交互继续适应。文中引用笔尖标定、Agent as Policy 约 9 mm 偏移、RoboDojo 约 129 mm 扰动、RoboICL 叠塔分数从 0.04 到 0.82 等证据,说明失败反馈可转化为纠正依据;但重试后能否反超专用模型仍需同任务、同交互预算的成功率曲线验证。结论强调应研究数据、表示和训练目标如何让模型利用自身反馈持续适应,而非只保留成功轨迹或仅归因于更强 3D 理解。当前局限是证据多来自案例观察和项目视频,系统性对照评测不足。

推荐收录。文章不是罗列机器人实验,而是把系统辨识、失败修正和示范学习串成“上下文反馈学习”的研究议程,并给出论文出处与量化证据。适合做 VLA/机器人学习、Agent 研究或评测设计的读者,可迁移到数据构造、训练目标和交互预算评测;主要风险是结论仍偏案例观察,尚缺统一对照实验支撑。

工程实践NVIDIA Technical Blog

Accelerating a ROS 2 Node with an AI Agent and NVIDIA Isaac ROS

NVIDIA 技术博客讲解如何借助 AI 编码代理,把已有的 CUDA 加速 ROS 2 节点迁移到 rosidl::Buffer 抽象与 CUDA buffer backend。该后端基于 CUDA 虚拟内存管理实现零拷贝:当发布者与订阅者同主机、同 CUDA 设备、同 Linux 用户且使用受支持 RMW 实现时,可直接交换 GPU 常驻数据,否则回退 CPU 路径,并保持标准 ROS 2 消息接口不变。文章以 Depth Anything 3 TensorRT 节点为例,展示 migrate-node-to-rosidl-buffer 技能如何审计数据流、规划最小改动:订阅声明接受 cuda、输出消息分配 CUDA 缓冲、TensorRT 推理直接写入,点云与调试等可选 CPU 路径保持独立。验证用 Nsight Systems 确认 ROS 边界不再有载荷级主机-设备拷贝,并以 get_backend_type() 是否为 cuda 判断协商结果。内容依赖 ROS 2 Lyrical、Isaac ROS 5.0 与 NVIDIA 生态,未给出量化性能收益。

推荐收录:文章给出从依赖添加、订阅选项、CUDA 缓冲分配到推理直写与验证的完整迁移路径,并明确零拷贝生效前提(同主机、同 CUDA 设备、同用户、受支持 RMW)和 CPU 回退机制,可直接借鉴到 GPU 加速 ROS 2 节点与机器人数据通路优化。适合机器人中间件、边缘推理和 CUDA 数据流方向的工程师,其“审计—最小改动—验证”方法可迁移到其他节点。风险是依赖 NVIDIA 生态、缺少量化性能数据。

工程实践NVIDIA Technical Blog

How to Use AI Agents to Prepare 3D Scenes for Simulation

文章讲解如何用多智能体工作流把 Blender 场景准备成可供机器人仿真的 SimReady OpenUSD 世界:Codex/Claude 作编排主智能体,NVIDIA NemoClaw 部署 Hermes 子智能体,Omniverse Libraries(OpenUSD、ovphysx、ovrtx)作为可调用工具层。流程依次为通过 Blender MCP 盘点场景、以 USD 作为共享契约层、添加语义标签与仿真感知材质、提前配置相机和激光雷达、用 ovphysx 补碰撞体与刚体属性、用 ovrtx 做视觉预检,最后以 SimReady 校验作为验收门,并把依赖开发者意图的歧义决策升级给人工。作者强调 USD 的非破坏性分层可保留层级与元数据,安全机械问题自动修复,同时给出结构化产物与常见失败清单。但全文强绑定 NVIDIA 自有产品栈,缺少与其他方案的对比及量化效果验证。

推荐收录:文章给出可迁移的多智能体编排范式——编排层、专用子智能体、真实工具调用、验证门与人工升级,并用 8 步流程及场景清单、材质元数据、物理就绪报告、视觉 QA、SimReady 报告等结构化产物说明仿真场景准备的工程细节。适合做 agentic AI、机器人仿真与 3D 数据流水线的工程师参考;需注意其强绑定 NVIDIA 工具链,缺少方案对比与量化结果,迁移时需自行验证。

科研议题知乎 - Naiyan Wang

ICL,具身智能的GPT3时刻已经到来了吗?

作者对近期具身智能 In-Context Learning 工作(GEN-1.5、Skild S1、HOST、Zero-WAM)作出判断:除 GEN-1.5 按公开描述最接近 GPT-3 式涌现外,其余三者都显式把 ICL 行为写进数据、目标函数和模型结构,属于伪 ICL,工程上有效但不能证明机制层面涌现了通用学习算法。文章区分 ICL 的外观与机制,认为真正的 ICL 应是通用序列建模持续 scaling 的副产品,而非把 episodic training 当作优化目标;并逐一分析 S1 的 amortized meta-learning、HOST 的 progress alignment 与预测级联,以及 Zero-WAM 中消融恰好证明行为由专门 loss 塑造。作者进一步指出扩大 paired data 只扩大 coverage,不改变泛化类型,并建议从改变 episode 构造规则、任务格式和输入输出因果等角度检验 task-agnostic 学习。结论是 ICL 应作为 scaling 的诊断信号,而不应成为直接优化目标。

本文提供了区分“设计出来的 ICL 行为”与“从 scaling 中涌现的 ICL 机制”的可操作判据,并逐一落在具体工作上,论证严谨、边界明确。适合机器人学习、基础模型评估与 AI scaling 研究方向的读者,能帮助他们准确解读公司技术博客中的实证数据并建立批判性实验思维。该判断框架也可迁移到其他宣称涌现能力的模型分析中。

科研议题Microsoft Research Blog

MindTopo reveals VLMs’ spatial reasoning abilities

文章介绍MindTopo基准,用于评估多模态大模型的拓扑推理能力,将任务分为连续性、分离、顺序、封闭性和绳结五类,并区分静态推理与交互规划两个认知层次。所有场景由可控模拟器生成,提供精确真值和难度调节,以分离视觉复杂度与结构维持能力两类失败。研究发现当前模型在静态识别上明显强于交互规划,且均低于人类;规划错误多发生在理解之后,表现为多步丢失结构或违反物理约束。图像或视频生成辅助并不可靠,无法在动作序列中保持拓扑关系。作者认为机器人等交互系统需要显式拓扑状态或拓扑保持的世界模型,该基准定位为受控诊断工具。

推荐收录,因为文章提出了一个清晰定义的拓扑推理基准,并用控制仿真区分感知失败与规划失败,对评估多模态模型的深层空间能力有直接价值。适合关注视觉语言模型、机器人规划与AI评测的研究者,其五类任务划分和失败模式分析可迁移到交互式智能体的诊断与改进。

技术文章知乎 - Naiyan Wang

World Model 的 四个象限

本文提出一个2×2分析框架,从“离线/在线”和“开环/闭环”两个正交维度出发,将物理AI中的世界模型(World Model)划分为四个应用象限(L1-L4)。作者以POMDP循环为底座,强调真正的世界模型必须建模State×Action→NextState的映射关系,并逐象限剖析了其在感知数据增广、闭环仿真、在线条件辅助、以及在线闭环推理中的角色与工程约束。文章指出,L4在线闭环是激活“系统2”深度思考的终极形态,但面临高精度价值函数和4D时空表征的双重壁垒。最后将本框架与李飞飞的三分类框架(Renderer/Simulator/Planner)进行映射,明确各象限的对应关系。本文为梳理世界模型的概念混乱提供了清晰的认知地图,但讨论聚焦于概念框架与工程定位,未涉及具体算法实现细节。

推荐收录,因为文章从第一性原理出发,提出了一个清晰且可迁移的分析框架,有效澄清了World Model领域的概念混乱。适合从事物理AI、机器人决策与仿真、以及强化学习的研究者和工程实践者阅读,能帮助他们对齐不同技术路线的定位,并思考L4在线闭环的落地挑战。

科研议题Google DeepMind Blog

Gemini Robotics 2 brings whole body intelligence to robots

文章介绍了Gemini Robotics 2系列模型,包括用于全身控制的视觉-语言-动作模型(VLA)、用于具身推理的视觉-语言模型(ER)以及可在设备端高效运行并快速适应新机器人形态的轻量VLA。核心进展在于实现了人形机器人的全身协调控制、多指与夹爪的灵巧操作、多机器人协作以及数百步长时任务规划。文中给出了在多种机器人平台上的基准测试结果,展示了不同技能类别的成功率,同时也指出多指灵巧操纵仍具挑战。此外,文章强调了安全框架,引入了ASIMOV-Agentic基准来衡量推理模型的安全编排和不确定性处理能力。该工作面向通用物理智能,但当前成果仍处于研究阶段,运动速度和复杂任务的成功率有待进一步提升。

本文系统地介绍了Gemini Robotics 2的技术架构、关键能力、实验评估与安全设计,具备研究发布所要求的明确问题定义、方法依据和局限分析。对机器人学、具身AI、多模态模型及安全领域的研究者和工程师有直接参考价值,其多模型协作和快速适应新形态的技术思路可迁移到相关工程实践。

技术文章NVIDIA Technical Blog

Integrate NVIDIA Omniverse RTX Sensor Simulation Into Existing Apps

文章介绍NVIDIA CTK Sensor RTX Python API,该独立安装包允许开发者在现有应用中集成基于物理的RTX传感器模拟功能,生成带标签的合成数据,如摄像头图像、激光雷达点云和雷达数据,用于感知AI训练与测试。文中通过代码示例展示配置传感器与环境、渲染数据、应用颜色映射、生成实例分割掩码和深度图等关键步骤。方案无需完整Omniverse套件,支持自定义OpenUSD场景、SimReady资产或导入自有数据,但要求系统配备NVIDIA RTX GPU并限定于物理精确渲染任务。适用于希望在现有工具链中嵌入传感器模拟的机器人、数字孪生和自动驾驶工程师。

该文提供了将RTX传感器模拟集成到非Omniverse应用的实用API和完整示例,技术细节清晰,直接支撑合成数据生成工作流。对计算机视觉、机器人及自动驾驶领域的开发者,能显著降低独立环境搭建的成本,迁移价值高。

科研议题NVIDIA Technical Blog

How to Evaluate General-Purpose Robot Policies for Real-World Deployment

文章聚焦机器人基础模型在真实世界部署中的评估难题,指出当前评估基准往往脱离实际环境,无法可靠衡量通用策略的性能。作者系统梳理了评估面临的挑战,包括任务多样性、环境动态性、安全约束和策略鲁棒性等维度,并提出一种结合仿真与真实测试的评估框架。该框架强调基准设计需贴近真实部署场景,并融入可重复性和可迁移性考量。文章还讨论了评估指标的选择和不同评估方法的适用边界,为机器人策略从实验室走向实用化提供了方法论参考。

推荐收录,因为它直面机器人策略评估这一核心瓶颈,不是简单罗列基准,而是从真实部署需求出发,剖析现有方法的局限并提炼系统性评估思路。对从事机器人学习、AI系统评估和自动驾驶等领域的工程与研究读者,文中的挑战分解与框架设计可直接启发实验设计,并能迁移到其他具身智能系统的可靠性验证中。

科研议题Amazon Science

Amazon and University of Michigan give robots a sense of touch

文章提出一种名为 HydroShear 的触觉仿真方法,在现有水弹性接触模型中增加路径依赖的力追踪机制,从而准确模拟剪切力,用于训练机器人灵巧操作策略。该方法通过采集真实传感器数据校准关键参数,并支持 GPU 并行,能以低成本在仿真中大规模训练强化学习策略。在四个接触密集型任务上,仿真训练的策略直接部署到真实机器人,平均成功率达 93%,远超简化力近似和基于学习的基线方法。实验表明,精确模拟触觉剪切对于需要感知滑动、对准和接触力的任务至关重要。当前方法基于 GelSight 视觉触觉传感器,未来可扩展到更高分辨率或其他触觉模态。

本文详细阐述了一种新颖的触觉仿真方案,提供从问题建模、参数校准到真机验证的完整技术链路,实证结果扎实。适合从事机器人灵巧操作、仿真到真实迁移或强化学习应用的研究者和工程师阅读。其路径依赖力追踪的设计思想和低成本训练范式,对开发类似触觉感知系统具有明确的借鉴价值。

科研议题美团技术团队

LARYBench 发布:定义具身动作表征 ImageNet,首次度量从人类视频学习的泛化表征

这篇文章介绍了 LARYBench,一个面向具身智能隐式动作表征的系统化评测基准,试图解决“人类视频如何转化为机器人可用动作表征”这一长期存在的评测空白。文章详细定义了本体动作、原子语义动作和复合语义动作三层任务,构建了覆盖多视角、多本体、多场景的大规模数据集,并通过浅层探测头分别评估表征的回归和分类能力。实验结果显示,通用视觉基础模型在动作泛化和控制精度上整体优于专门的具身动作模型,说明从大规模人类视频中学习通用动作表征是可行的,但也揭示了当前隐式动作模型在表征质量和跨本体泛化上的边界。

推荐收录,因为它不是简单的模型宣传,而是提出了一个可复用的研究基准、明确的评测协议和有辨识度的实验结论,能够长期服务于具身智能与视觉表征研究。对关注机器人学习、视频表征和基准设计的读者来说,这篇内容具有很强的参考价值和方法迁移价值。