# 用 Jetson Orin NX SUPER 16GB 做了个完全离线的行李箱机器人，跑 Gemma 4 E4B，没联网也能聊

> 原标题：Built a fully offline suitcase robot around a Jetson Orin NX SUPER 16GB. Gemma 4 E4B, ~200ms cached TTFT, 30+ sensors, no WiFi/BT/cellular. He has opinions.

- 来源：r/LocalLLaMA
- 发布时间：2026-05-15T15:09:18.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/21437
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1tdz5gr/built_a_fully_offline_suitcase_robot_around_a/

## 摘要

一个叫 Sparky 的行李箱机器人，核心是一块 Jetson Orin NX SUPER 16GB 的板子，跑的是 Gemma 4 E4B 模型（Q4_K_M 量化版，用 q8_0 做 KV 缓存）。首次响应延迟大概 200 毫秒，生成速度每秒 14 到 15 个 token，上下文窗口 12K。

## 推荐理由

个人开发者用 Jetson Orin NX SUPER 16GB 在行李箱上离线跑 Gemma 4 E4B，缓存首字延迟约 200 毫秒、生成每秒 14 到 15 个 token，是单板本地推理的一份实测记录。

## 锐评

14 到 15 tok/s 跑 4B 模型，这个速度在本地离线场景里算能用了，200ms 首响也够看。16GB 的 Orin NX 塞下 12K context 还能留出余量，Q4_K_M 加 q8_0 KV 缓存这套组合在边缘设备上跑得动。30+ 传感器怎么融合的没讲，先不管。全离线跑 Gemma 4 E4B 做人格化交互，比单纯报参数有意思，但这类项目最大的坑是散热和功耗，行李箱里塞 Jetson 跑推理，电池能撑多久才决定它能不能真用起来。
