12 // CHAPTER ROUTE

跨过最后一道 现实鸿沟

具身智能 · 第十二章

仿真中的高分模型只有经过域随机化、边缘部署与安全验证,才能成为现实中的可用系统。

SECTION 01 / 阅读地图

小节一 · 仿真冠军,到了现实 可能撞墙

本节要回答

小节一 · 仿真冠军,到了现实 可能撞墙

从“仿真冠军,到了现实 可能撞墙”出发,逐页推进到“不要只做得像,要做得 足够多样”;每张卡都写明本页应抓住的机制或边界。

01

仿真冠军,到了现实 可能撞墙

Sim-to-Real Gap 是仿真训练模型进入真实环境后出现的性能下降。

机制线索SIMULATION85%GAPREAL WORLD
02

差距来自视觉、物理和 传感器

真实环境会同时改变外观、运动规律和观测质量,三类差异共同拉低性能。

机制线索视觉差异光照 · 阴影纹理 · 白平衡物理差异
03

不要只做得像,要做得 足够多样

域随机化扩大仿真覆盖面,让真实环境落入模型已经见过的变化范围。

机制线索光照纹理位置噪声

阅读顺序:仿真冠军 → 差距来自视觉、物理… → 不要只做得像

本节按“仿真冠军 → 差距来自视觉、物理… → 不要只做得像”推进:先定位问题,再读机制,最后用页面结论校验理解。

VISUAL RECAP

本节场景补充

READ THE SCENE

仿真冠军,到了现实 可能撞墙

仿真与现实的视觉、物理和传感器差距会改变策略表现。

读图顺序:先看对象和环境,再看它们之间的关系,最后回到本节结论。

支持“小节一 · 仿真冠军,到了现实 可能撞墙”讲解的 ChatGPT 生成教学场景图
教学场景补充 · 小节一 · 仿真冠军,到了现实 可能撞墙

图片只用于帮助观察本页关系;课程结论仍以正文和逐字稿为准。

01 // THE GAP

仿真冠军,到了现实可能撞墙

SIMULATION85%GAPREAL WORLDPERF ↓Gap = Sim 成功率 − Real 成功率

Sim-to-Real Gap 是仿真训练模型进入真实环境后出现的性能下降。

02 // GAP SOURCES

差距来自视觉、物理和传感器

视觉差异光照 · 阴影纹理 · 白平衡物理差异摩擦 · 质量打滑 · 阻尼传感器差异噪点 · 延迟测量误差

真实环境会同时改变外观、运动规律和观测质量,三类差异共同拉低性能。

03 // DOMAIN RANDOMIZATION

不要只做得像,要做得足够多样

光照纹理位置噪声物理REAL WORLD多样性中的一种

域随机化扩大仿真覆盖面,让真实环境落入模型已经见过的变化范围。

SECTION 02 / 阅读地图

小节二 · 每轮在线增广,都看见 新变化

本节要回答

小节二 · 每轮在线增广,都看见 新变化

从“每轮在线增广,都看见 新变化”出发,逐页推进到“模型留在机器人,延迟 更低”;每张卡都写明本页应抓住的机制或边界。

01

每轮在线增广,都看见 新变化

训练时在线增广让每轮图像略有不同,比离线复制更省空间也更防过拟合。

机制线索SAME SAMPLE每个 EPOCH 在线生成亮度 / 对比度高斯噪声
02

大量仿真预训练,少量真实 微调

域适配保留仿真学到的通用能力,再用少量真实数据调整环境特征。

机制线索SIM DATA × MANY多样仿真场景预训练GENERAL FEATURESREAL DATA × FEW
03

模型留在机器人,延迟 更低

边缘端把推理留在机器人本体,获得低延迟、离线可用与本地隐私。

机制线索EDGE / JETSONAIMODEL LOCAL< 10 ms

阅读顺序:每轮在线增广 → 大量仿真预训练 → 模型留在机器人

本节按“每轮在线增广 → 大量仿真预训练 → 模型留在机器人”推进:先定位问题,再读机制,最后用页面结论校验理解。

VISUAL RECAP

本节场景补充

READ THE SCENE

每轮在线增广,都看见 新变化

持续增广让系统在新变化出现后仍能补足训练分布。

读图顺序:先看对象和环境,再看它们之间的关系,最后回到本节结论。

支持“小节二 · 每轮在线增广,都看见 新变化”讲解的 ChatGPT 生成教学场景图
教学场景补充 · 小节二 · 每轮在线增广,都看见 新变化

图片只用于帮助观察本页关系;课程结论仍以正文和逐字稿为准。

04 // ONLINE AUGMENTATION

每轮在线增广,都看见新变化

SAME SAMPLE 每个 EPOCH 在线生成 亮度 / 对比度高斯噪声随机裁剪 + 缩放颜色抖动不删除训练数据

训练时在线增广让每轮图像略有不同,比离线复制更省空间也更防过拟合。

05 // DOMAIN ADAPTATION

大量仿真预训练,少量真实微调

SIM DATA × MANY多样仿真场景预训练GENERAL FEATURESREAL DATA × FEW少量真实样本微调保留通用能力 · 适配现实外观

域适配保留仿真学到的通用能力,再用少量真实数据调整环境特征。

06 // EDGE DEPLOYMENT

模型留在机器人,延迟更低

EDGE / JETSONAIMODEL LOCAL< 10 ms不经网络,本地返回动作低延迟 · 隐私 · 离线可用CLOUD网络延迟 · 断连风险

边缘端把推理留在机器人本体,获得低延迟、离线可用与本地隐私。

SECTION 03 / 阅读地图

小节三 · .pth 经过 ONNX,最终变成 TensorRT

本节要回答

小节三 · .pth 经过 ONNX,最终变成 TensorRT

从“.pth 经过 ONNX,最终变成 Tenso…”出发,逐页推进到“低速起步,把异常送回 训练环”;每张卡都写明本页应抓住的机制或边界。

01

.pth 经过 ONNX,最终变成 TensorRT

PyTorch 用于训练,ONNX 负责交换,TensorRT 针对 NVIDIA 边缘 GPU 优化推理。

机制线索PYTORCH.pthTRAINONNX
02

三层安全,硬件急停 最高优先

安全优先级是物理急停、力矩限制、碰撞预测、AI 输出,故障时默认停止。

机制线索L3 硬件|物理急停L2 固件|力矩限制L1 软件|碰撞预测AI ACTION · 最低优先
03

安全层还要 独立、故障安全、可追溯

优先级规定谁能覆写谁,三条设计原则规定保护如何可靠运行。

机制线索架构优先级回答:谁能覆写谁物理急停
04

低速起步,把异常送回 训练环

部署从离线验证和 30% 低速开始,真实异常必须回流为新数据与新参数。

机制线索仿真训练随机化 + 增广模型导出边缘环境

阅读顺序:.pth 经过 O… → 三层安全 → 安全层还要 独立、… → … → 低速起步

本节按“.pth 经过 O… → 三层安全 → 安全层还要 独立、… → … → 低速起步”推进:先定位问题,再读机制,最后用页面结论校验理解。

VISUAL RECAP

本节场景补充

READ THE SCENE

.pth 经过 ONNX,最终变成 TensorRT

模型导出后仍需保留独立、可追溯的安全响应链。

读图顺序:先看对象和环境,再看它们之间的关系,最后回到本节结论。

支持“小节三 · .pth 经过 ONNX,最终变成 TensorRT”讲解的 ChatGPT 生成教学场景图
教学场景补充 · 小节三 · .pth 经过 ONNX,最终变成 TensorRT

图片只用于帮助观察本页关系;课程结论仍以正文和逐字稿为准。

07 // MODEL FORMAT

.pth 经过 ONNX,最终变成TensorRT

PYTORCH.pthTRAINONNX中间交换格式torch.onnx.exportTensorRT.engineJetson 优化推理DEPLOY

PyTorch 用于训练,ONNX 负责交换,TensorRT 针对 NVIDIA 边缘 GPU 优化推理。

08 // SAFETY STACK

三层安全,硬件急停最高优先

L3 硬件|物理急停L2 固件|力矩限制L1 软件|碰撞预测AI ACTION · 最低优先优先级 ↑故障安全 FAIL-SAFE深度图读取失败默认:立即停止

安全优先级是物理急停、力矩限制、碰撞预测、AI 输出,故障时默认停止。

09 // SAFETY PRINCIPLES

安全层还要独立、故障安全、可追溯

架构优先级回答:谁能覆写谁物理急停力矩限制碰撞预测 > AI 输出 三条设计原则回答:保护怎样可靠运行 01独立安全代码独立于 AI即使模型崩溃,保护仍能工作 02故障安全深度图读取失败默认立即停止,而不是继续放行 03可追溯记录时间、原因、AI 输出同时记录安全层覆写后的动作

优先级规定谁能覆写谁,三条设计原则规定保护如何可靠运行。

10 // DEPLOYMENT LOOP

低速起步,把异常送回训练环

01仿真训练随机化 + 增广02模型导出03边缘环境04离线测试05真实测试先 30% 速度06迭代优化异常 → 数据

部署从离线验证和 30% 低速开始,真实异常必须回流为新数据与新参数。

RECAP // CHAPTER 12

真实考验,才算 真正能用

01

仿真冠军,到了现实 可能撞墙

Sim-to-Real Gap 是仿真训练模型进入真实环境后性能下降

02

不要只做得像,要做得 足够多样

域随机化扩大仿真覆盖面

03

大量仿真预训练,少量真实 微调

域适配保留仿真学到的通用能力

04

.pth 经过 ONNX,最终变成 TensorRT

PyTorch 用于训练

05

低速起步,把异常送回 训练环

部署从离线验证和 30% 低速开始

源讲义学习建议:第10章导航模型转 TensorRT,Jetson 接 USB 摄像头做离线推理。

SOURCE QUIZ // 8 MCQ

单选题 · 8题

第 1 / 8 题原讲义题库
得分 0 / 8
SOURCE QUIZ // 5 TRUE-FALSE

判断题 · 5题

第 1 / 5 题原讲义题库
得分 0 / 5