aoniAI Hub

Jetson AI 模型、Agent、Skill 中心

为 NVIDIA Jetson 设备提供一键部署命令。选择硬件、切换推理引擎、复制命令即可运行， 无需手动配置环境。

AI Agent Hub Banner

快速入口

选择你需要的资源，快速开始

快速开始

从零配置 Jetson 设备，安装 Docker，运行你的第一个 AI 模型

硬件选型

对比 Jetson SOM 型号 — Thor 128GB、Orin 64GB、Orin Nano — 选择适合你的设备

AI 应用

探索各类 AI 应用，部署到 Jetson 设备

技能插件

浏览 Hermes / OpenClaw 应用框架的技能与插件

镜像指南

Docker 镜像 OSS 下载导入 / 国内仓库加速，告别拉取慢与超时

性能优化

模型量化、MTP 推测解码、显存调优等加速技巧

精选模型

最新模型，上线即支持 Jetson 部署

NEW27BFP16INT4

Qwen3.8-27B

Unsloth 团队发布的 Qwen3.8-27B 量化版（GGUF 格式）模型卡，Apache-2.0 许可，约 1.7k 点赞。模型基于 Qwen3.5 架构演进，是开源 Qwen 家族目前最强一代：27B 参数的稠密因果语言模型，配备视觉编码器，原生支持图文与视频理解。亮点包括：灵活思维控制（思考模式默认开启、可按请求关闭，支持 reasoning_effort 调节推理深度）；更强的智能体规划与环境反馈处理能力；改进的工具调用解析；兼容 Codex 等智能体工具。存储约 16.3GB，提供多种量化档位（Q3_K、Q4_K_M、Q5_K_M、IQ4_NL、UD-Q4_K_XL 等）及 mmproj 视觉投影。

部署模型

模型详情
命令根据你的配置自动生成
mkdir -p ~/engines/Qwen3.8-27B-256k-mtp-il32768-bs2
docker run -d --runtime=nvidia --gpus all --shm-size=2g --network host \
  --name qwen38-mtp-256k-bs2 \
  -v ~/engines/Qwen3.8-27B-256k-mtp-il32768-bs2:/models/engine \
  -e DEPLOY_ENGINE_URI=tos://ai-hub/engine_models/Qwen3.8-27B-256k-mtp-il32768-bs2/ \
  -e TRT_INFERENCE_API_PORT=8001 \
  -e TRT_INFERENCE_SPEC=1 \
  -e TRT_INFERENCE_DRAFT_TOP_K=1 \
  -e TRT_INFERENCE_DRAFT_STEP=3 \
  -e TRT_INFERENCE_VERIFY_TREE_SIZE=4 \
  -e TRT_INFERENCE_MAX_INPUT_LEN=32768 \
  -e TRT_INFERENCE_MAX_BATCH_SIZE=2 \
  aoni-docker-cn-guangzhou.cr.volces.com/public/llm/trt-inference:0.10.0-jp7.2-tos-tc
NEW35B-A3BNVFP4INT4

Qwen3.6 35B-A3B(MoE)

阿里 Qwen3.6 系列 MoE 模型，总参数 35B 仅激活 3B，支持 MTP 推测解码，原生支持推理和函数调用

部署模型

模型详情
命令根据你的配置自动生成
sudo docker run -it --rm --runtime=nvidia --network host \
  -e MODEL_OSS=True \
  -e MODEL_ROOT=/models \
  -e ENGINE_URI=tos://ai-hub/models/qwen/Qwen3.6-35B-A3B-NVFP4.tar.gz \
  -e MODEL_NAME=qwen/Qwen3.6-35B-A3B-NVFP4 \
  -v ~/models:/models \
  aoni-docker-cn-guangzhou.cr.volces.com/public/llm/main/aoni/vllm/vllm-openai:nightly-aarch64 \
  --port 8300 \
  --max-model-len 8192 \
  --gpu-memory-utilization 0.4 \
  --reasoning-parser qwen3 \
  --enable-auto-tool-choice \
  --tool-call-parser qwen3_xml \
  --speculative-config '{"method":"mtp","num_speculative_tokens":3,"moe_backend":"triton"}'
查看全部模型

最新动态

最近更新的模型与资源

模型更新

Qwen3-ASR-0.6B

ASR/TTS模型

Qwen3-ASR-0.6B 是阿里千问团队开源的一款轻量级语音识别模型，主打在性能与效率之间取得最佳平衡，非常适合在AI智能硬件等端侧设备上部署

Qwen3-ASR-1.7B

ASR/TTS模型

Qwen3-ASR 系列中的高精度版本，与轻量级的 0.6B 模型同属一个系列，但在识别准确率和性能表现上更为突出，尤其适合对识别精度要求极高的复杂场景。

Qwen3-TTS-12Hz-1.7B-CustomVoice

ASR/TTS模型

阿里千问团队开源的一款高质量语音合成（TTS）模型。它属于 Qwen3-TTS 系列中的 CustomVoice 分支，核心特点是使用预设音色来合成语音，并支持通过自然语言指令控制情感和风格。可用音色：aiden, dylan, eric, ono_anna, ryan, serena, sohee, uncle_fu, vivian

Hy-MT2

Translation模型

Hy-MT2 是腾讯混元于2026年5月开源的多语言翻译模型家族，主打多语言互译和端侧部署能力，在开源模型中性能表现突出

Qwen3.5 35B-A3B

VLM模型

阿里 Qwen3.5 系列 MoE 视觉语言模型，总参数 35B 仅激活 3B，262K 上下文，支持图文理解、函数调用和多语言

Qwen3.8-27B

LLM模型

Unsloth 团队发布的 Qwen3.8-27B 量化版（GGUF 格式）模型卡，Apache-2.0 许可，约 1.7k 点赞。模型基于 Qwen3.5 架构演进，是开源 Qwen 家族目前最强一代：27B 参数的稠密因果语言模型，配备视觉编码器，原生支持图文与视频理解。亮点包括：灵活思维控制（思考模式默认开启、可按请求关闭，支持 reasoning_effort 调节推理深度）；更强的智能体规划与环境反馈处理能力；改进的工具调用解析；兼容 Codex 等智能体工具。存储约 16.3GB，提供多种量化档位（Q3_K、Q4_K_M、Q5_K_M、IQ4_NL、UD-Q4_K_XL 等）及 mmproj 视觉投影。

查看全部模型

应用更新

奥尼 PPT 智能体

officeAgent

奥尼 PPT 智能体是一支「AI 团队」，把材料/简报做成可编辑 PowerPoint：总导演梳理材料 → 研究员/设计师/写手协作 → 渲染评审循环 → 一键导出可编辑 PPTX。奥尼 VI 自动套版、大纲确认后出片、随指令增量重渲染；图表原生可编辑；逐 Agent token 记账；人工改稿重导出。本地/内网 Docker 部署（aarch64）。

会议纪要

officeAgent

一款部署在你本地服务器上的 AI 会议记录员。 它是做什么的？ 想象一下：开会的时候，不用手动记笔记、不用录音后找人整理。ASR-Meeting 会在会议进行中，实时把每个人的说话内容转成文字，会议结束自动生成一份带时间戳的完整文稿和会议纪要，方便你随时回看、搜索、总结。 - 开会即转写：一边说话，一边出字幕，几乎实时 - 全程录音存档：每次会议自动保存音频 + 文字记录 - 自动生成纪要：会后自动总结出重点结论和待办事项 - 多语言支持：中英文、各地方言都能识别（基于 Qwen3-ASR 大模型） 它跑在哪里？ 不是在云上，而是完全运行在你自己的设备上 —— 一台 NVIDIA Thor 开发板（一台比一般电脑更强的本地 AI 算力设备）。 - 需要连接一个 USB 麦克风（比如 Jabra 耳机）就能开会 - 所有语音识别都在这台设备上完成，音频数据不出本地，隐私安全 - 模型文件提前下载好，断网也能用 它怎么工作的？ 你的声音 → 麦克风 → 本地系统捕捉音频 → AI 模型转成文字 → 存成会议记录 → 生成纪要 整个过程都在本地这台设备上自动完成，你在网页浏览器里就能看到实时转写结果。 技术上说，它由三部分组成： 1. 前端：一个简单的网页界面，你打开浏览器就能用 2. 后端：负责接收声音、调用 AI 模型转写、保存会议记录 3. AI 引擎：Qwen3-ASR 语音识别模型 + 会议纪要模型 适用场景 - 公司内部会议记录 - 线上会议（腾讯会议 / Zoom）的语音转写 - 需要隐私保密的本地语音处理需求

奥尼译桥

chatAgent

奥尼译桥（Interpreter Console）是一款基于本地模型的实时语音翻译 Web 应用：服务器麦克风采集 → Qwen3-ASR-1.7B 整句识别 → Hy-MT2-7B（腾讯混元）流式翻译，全本地推理、数据不出内网。支持双人语音口译、文字翻译（一句原文同时译成多国语言，支持术语/知识库注入）、业务场景（外贸物流：岗位/场景/三档语气回信/实体规则复检）与历史对话。本地化部署于奥尼 Jetson/Thor（aarch64）设备，适合会议口译、跨语言协作与企业私有化翻译场景。

技能更新

飞书 LARK

officeSkill

**官方来源**: Lark (MIT) Lark 官方 CLI 与 AI Agent Skills，覆盖文档、消息、日历、表格等 **支持能力**： 1. Lark 官方 CLI 与 AI Agent Skills，覆盖文档、消息、日历、表格等 2. 按官方 `SKILL.md` 工作流提供任务级指导。 3. 通过 references / scripts / assets 等资源实现渐进式披露。 4. 在任务匹配时触发，减少无关上下文占用。

前端设计

designSkill

**官方来源**: Anthropic (Apache-2.0) 创建具有差异化审美和生产质量的前端界面 **支持能力**： 1. 创建具有差异化审美和生产质量的前端界面 2. 按官方 `SKILL.md` 工作流提供任务级指导。 3. 通过 references / scripts / assets 等资源实现渐进式披露。 4. 在任务匹配时触发，减少无关上下文占用。

前端设计

designSkill

Anthropic 官方开源前端设计技能