返回指南列表
基础知识硬件JetsonSOM选型
硬件选型指南
对比 Jetson SOM 型号，选择适合你的 AI 推理设备
硬件选型指南
选择适合你的 Jetson 系统级模块（SOM），满足不同的 AI 推理需求。
Jetson SOM 全系列对比
| 型号 | GPU | 内存 | 算力 (INT8 TOPS) | 内存带宽 |
|---|---|---|---|---|
| Thor T5000 | Blackwell | 128 GB | ~2000 | ~600 GB/s |
| Thor T4000 | Blackwell | 64 GB | ~1500 | ~500 GB/s |
| AGX Orin 64GB | Ampere | 64 GB | 275 | 204 GB/s |
| Orin NX 16GB | Ampere | 16 GB | 100 | 102 GB/s |
| Orin Nano 8GB | Ampere | 8 GB | 40 | 68 GB/s |
按模型规模推荐
超大规模模型（100B+ / 64GB+）
- 推荐硬件： Thor 128GB / Thor 64GB
- 支持模型： GPT OSS 120B、MiniMax M2.7
- 场景： 旗舰级推理质量，复杂代理任务
大模型（20B - 70B）
- 推荐硬件： Thor 128GB / Thor 64GB / AGX Orin 64GB
- 支持模型： Qwen3 32B、Gemma 4 31B、Llama 3.1 70B
- 场景： 高质量推理、编程、多模态分析
中型模型（5B - 20B）
- 推荐硬件： AGX Orin 64GB / Orin NX 16GB
- 支持模型： Qwen3 8B、Gemma 4 E4B、Nemotron Nano 9B、Llama 3.1 8B
- 场景： 平衡性能与成本，适合大多数生产任务
小型模型（<5B）
- 推荐硬件： Orin Nano 8GB / Orin NX 16GB
- 支持模型： Qwen3 4B、Qwen3.5 4B、Gemma 4 E2B、Llama 3.2 3B
- 场景： 边缘推理、低功耗、低成本部署
按场景推荐
本地编码助手
- 推荐： Thor 64GB 或 AGX Orin 64GB
- 模型： Qwen3.6 27B、Gemma 4 26B-A4B
多模态 Agent（视觉+语言）
- 推荐： AGX Orin 64GB 或 Thor 64GB
- 模型： Nemotron 3 Nano Omni、Qwen3 VL 8B
边缘语音助手
- 推荐： Orin Nano 8GB 或 Orin NX 16GB
- 模型： Gemma 4 E2B / E4B
工业机器人
- 推荐： Orin NX 16GB 或 AGX Orin 64GB
- 模型： Cosmos Reason 系列
功耗与散热
| 型号 | 典型功耗 | 散热方案 |
|---|---|---|
| Thor T5000 | 75-200W | 主动风扇 / 液冷 |
| Thor T4000 | 50-150W | 主动风扇 |
| AGX Orin 64GB | 15-60W | 主动风扇 |
| Orin NX 16GB | 10-25W | 被动散热可 |
| Orin Nano 8GB | 7-15W | 被动散热 |