返回模型列表
发布者 Mistral AI 系列 Ministral 3 参数量 14B 上下文长度 262,144 tokens 许可证 Apache 2.0 推理引擎 vllm
Ministral 3 14B Instruct
Mistral AI 推出的 14B 指令型视觉语言模型，262K 上下文，FP8 精度
参数量14B
模态Text, Image
精度FP8
类型VLM
推理引擎vllm
快速部署
部署模型
命令根据你的配置自动生成
sudo docker run -it --rm \
--runtime=nvidia --network host \
-e MODEL_OSS=True \
-e MODEL_ROOT=/models \
-e ENGINE_URI=tos://ai-hub/models/mistral/Ministral-3-14B-Instruct-2512.tar.gz \
-e MODEL_NAME=mistral/Ministral-3-14B-Instruct-2512 \
-v ~/models:/models \
aoni/nvidia-ai-iot/vllm:latest-jetson-thor vllm serve mistral/Ministral-3-14B-Instruct-2512 \
--port 8300 \
--max-model-len 8192 \
--gpu-memory-utilization 0.8模型详情
输入和输出
输入: Text, Image / 输出: Text, Image
用途
- 多语言
- 代理
- 视觉
- 大上下文
Jetson 兼容性
Thor 128GBThor 64GBOrin 64GB
标签
vlmmistralinstructmultilingualagenticlong-context
Ministral 3 系列
| 模型 | 参数量 | 硬件 | 精度 |
|---|---|---|---|
| Ministral 3 14B Instruct | 14B | Thor 128GB, Thor 64GB, Orin 64GB | FP8 |
| Ministral 3 14B Reasoning | 14B | Thor 128GB, Thor 64GB, Orin 64GB | FP16 |
| Ministral 3 8B Reasoning | 8B | Thor 128GB, Thor 64GB, Orin 64GB, Orin 16GB | FP16 |
| Ministral 3 3B Reasoning | 3B | Thor 128GB, Thor 64GB, Orin 64GB, Orin 16GB, Orin 8GB | FP16 |
| Ministral 3 8B Instruct | 8B | Thor 128GB, Thor 64GB, Orin 64GB, Orin 16GB | FP8 |
| Ministral 3 3B Instruct | 3B | Thor 128GB, Thor 64GB, Orin 64GB, Orin 16GB, Orin 8GB | FP8 |