下载中心
推理镜像与模型权重下载
| 模型名称 | 描述 | OSS 地址 | 操作 |
|---|---|---|---|
| aoni-trt-inference_0.7.1 | TensorRT Edge-LLM推理引擎 | https://ai-hub.tos-cn-guangzhou.volces.com/dockerimages/aoni-trt-inference_0.7.1.tar.gz | 下载 |
| aoni-vllm-latest-jetson-thor | vLLM 推理引擎 | https://ai-hub.tos-cn-guangzhou.volces.com/dockerimages/aoni-vllm-latest-jetson-thor.tar.gz | 下载 |
| aoni-vllm-openai-nightly-aarch64 | vLLM openai 推理引擎 | https://ai-hub.tos-cn-guangzhou.volces.com/dockerimages/aoni-vllm-openai-nightly-aarch64.tar.gz | 下载 |
| aoni-vllm-openai_v0.20.0-ubuntu2404 | aoni-vllm-openai_v0.20.0-ubuntu2404推理引擎 | https://ai-hub.tos-cn-guangzhou.volces.com/dockerimages/aoni-vllm-openai_v0.20.0-ubuntu2404.tar.gz | 下载 |