Qwen3-ASR-0.6B

Qwen3-ASR-0.6B 是阿里千问团队开源的一款轻量级语音识别模型，主打在性能与效率之间取得最佳平衡，非常适合在AI智能硬件等端侧设备上部署

参数量

模态Audio

类型ASR/TTS

推理引擎TensorRT Edge-LLM

Jetson 部署命令模型详情

快速部署

部署模型

Jetson 设备

推理引擎

运行命令

命令根据你的配置自动生成

docker run -d --runtime=nvidia --gpus all --shm-size=2g --network host \
  --name asr-06b \
  -v ~/model/Qwen3-ASR-0.6B:/models/engine \
  -e TRT_INFERENCE_API_PORT=9001 \
  -e DEPLOY_ENGINE_URI=tos://ai-hub/engine_models/Qwen3-ASR-0.6B-0.10.0-jp7.2/ \
  aoni-docker-cn-guangzhou.cr.volces.com/public/llm/trt-inference:0.10.0-jp7.2-tos-tc

Web API 调用示例

Shell (curl)

1.音频文件转写（标准端点）
curl -X POST http://<IP>:<PORT>/v1/audio/transcriptions
-F "file=@test.wav"
-F "model=asr"
指定语言/纯文本格式：
curl -X POST http://<IP>:<PORT>/v1/audio/transcriptions
-F "file=@test.wav"
-F "language=Chinese"
-F "response_format=text"

Python (OpenAI SDK)

import base64, requests
audio_b64 = base64. b64encode(open( "test.wav", "rb"). read()) • decode ()
resp = requests.post("http://<IP>:<PORT>/v1/chat/completions", json={
"messages": [
"role": "user",
"content": [
{"type": "audio", "audio": f"data: audio/wav;base64, {audio_b64}"}, {"type": "text", "text": "Transcribe this audio."},
｝）
｝，
"max_tokens": 512,
print(resp.json()["choices"][0]["message"]["content"])

模型详情

模型输入和输出

输入: Audio / 输出: Audio

参数量

推理引擎

TensorRT Edge-LLM

Jetson 兼容性

Thor 128GB