具身智能领域的 VLA 模型部署，因存在巨大算力缺口，长期被 “机器人外挂桌面端显卡” 的方案束缚。该方案不仅拉高了部署成本、降低了使用灵活性，更会引发端侧推理迟滞问题，最终严重拖累作业流畅性。

智元研发团队直击行业痛点，打造算法与工程协同优化的一站式解决方案：成功将π0.5 VLA模型在Jetson Thor平台的推理帧率从1.4Hz飙升至22.1Hz，性能跃升超15倍！实测性能超越业界开源方案，成为全新的业界标杆。

01/

行业对标：

用数据定义端侧推理新高度

我们将智元优化方案与业内主流π0.5端侧性能优化方案开展全面对标，结果显示，智元成果显著领先行业水平。值得注意的是，这一突破并非依赖单一的模型剪裁与量化技术，而是融合工程优化与编译技术的系统性胜利。

02/

性能飞跃背后：

三大核心技术突破

构建可复制的优化体系

15倍性能跃升的背后，是智元一套可复制、系统化的端侧优化技术体系，打通了从模型到真机的全链路关键路径：

1. 首次成功实现了 π0.5 在Jetson Thor芯片上的完整推理，并在精灵G2机器人上完成真机验证，打通了从模型到真机的关键路径。

2. 深度适配 Jetson Thor 芯片硬件特性，依托NVIDIA TensorRT与Model Optimizer工具链构建全流程优化方案，在编译调优、FP8/nvFP4低精度量化、高性能算子开发等核心环节持续攻坚，实现技术突破与创新。

3. 基于智元自研的一站式算法发布平台，构建“模型优化-量化编译-集成发布-端侧部署”全流程标准化体系，让高性能端侧部署成为标准化、可复制的服务。

03/

五大层面协同优化

实现性能代际飞跃

当行业仍依赖单一技术提升性能时，智元凭借五大优化策略的系统性协同，实现了真正的代际飞跃：

1. 全栈搭建 Jetson Thor 推理系统，优化底层基建，实现JAX/PyTorch推理及转换，确保π0.5模型在Jetson Thor侧稳定运行；

2. 重构算法逻辑：通过批量处理提升特征提取效率，重构AE（Action Expert）计算逻辑依赖以促进计算融合，优化图计算性能；

3. 编译优化双路线探索：

1. PyTorch 编译，借编译模块与 Triton 加速，适配前期快速验证；

2. 自研编译器路线，拓展NVIDIA生态，整合TVM与TensorRT，挖掘 Jetson Thor 硬件潜力实现最优性能。

4. FP8/nvFP4低精度量化：针对π0.5模型中占计算耗时超85%的线性层与MHA层，开展低精度量化优化，依托Jetson Thor低精度硬件加速实现性能跃迁，且MSE仅微增0.53%，完美平衡性能与精度；

1. 实际业务场景下的裁剪优化：结合业务场景优化 π0.5 的 AE 模块，适度减少迭代次数，通过局部微调保障推理精度，兼顾效率与应用效果。

04/

技术突破的核心价值：

解锁具身智能规模化落地

这一性能突破不仅是数字的跃升，更从根本上解决了VLA模型端侧部署的核心痛点，为具身智能规模化落地扫清障碍：

1. 摆脱外挂依赖：机器人本体即可承载先进VLA模型，无需外挂桌面端显卡，同时摆脱网络通信约束，大幅降低部署成本、提升场景适配灵活性；

2. 提升作业流畅度：22.1Hz的端侧推理帧率，让机器人决策响应更敏捷，决策与动作衔接更紧密，任务执行行云流水；

3. 树立行业新标杆：性能不仅远超此前业内最佳的11.7Hz，更验证了Jetson Thor平台承载前沿大模型的巨大潜力，为行业端侧智能发展指明方向。

05/

优化效果

真机效果演示：动作敏捷丝滑，响应速度显著提升

LIBERO评测基准：模型精度近零损失

05/

未来展望：

深耕端到端优化，引领端侧智能进化

从1.4Hz到22.1Hz的性能跃升，不仅标志着推理性能不再是端侧算法部署的瓶颈，更彰显了智元以持续科研输出驱动技术迭代的核心坚守。未来将继续以全链路端到端优化体系为依托，在低比特压缩、编译优化、算子引擎等关键技术领域持续攻坚，不断突破复杂模型端侧部署的性能边界与场景限制。

更深远的价值在于，这套可复用、可扩展的技术体系，不仅将赋能更多VLA架构模型的端侧落地，更将为行业构建起“科研突破-技术转化-生态赋能”的良性循环，引领端侧智能从“单点优化”迈向“体系化进化”。

作为具身智能领域的科研深耕者，智元始终将核心技术自研与持续创新作为发展根基，本次实践沉淀的系统优化方法论，正是智元持续科研输出的重要成果之一。智元将持续科研深耕，推动具身智能技术普惠，让每台机器人都拥有高效、智能的本地“大脑”，助力部署态在各行业落地，为人机协作的未来场景开辟更广阔的想象空间。

AgiBot通过开创性地融合AI与机器人技术并进行创新，打造世界领先的通用实体机器人及其应用生态系统。AgiBot成立于2023年2月，创始团队由经验丰富的行业专家组成，包括来自全球科技巨头的核心高管和顶尖AI科学家，汇聚了深厚的技术专长、全面的管理经验以及广泛的产业资源。

AgiBot打造了业界领先的"具身智能+AI"全栈机器人平台，拥有元征、灵犀、Genie三大机器人系列，覆盖广泛商业场景。作为全球首批实现具身机器人规模化量产与商业落地的企业之一，AgiBot产品现已登陆多个国家和地区市场。