阿里云PAI為您提供了基于不同框架、不同CUDA版本的官方鏡像,您可以在使用DLC、EAS、DSW時直接選擇適用的鏡像,即可快速基于官方鏡像構建AI開發環境。本文為您介紹PAI預置的官方鏡像能力和核心鏡像列表。
認識官方鏡像
阿里云PAI為您提供的官方鏡像遵循一定的命名規則,您可以通過鏡像名稱了解到此鏡像的基本信息。通常鏡像命名會包含以下幾個固定字段,建議您添加自定義鏡像時使用統一的命名規則。
官方鏡像名稱示例 | 鏡像名稱解讀 | 各個產品支持使用的鏡像類型 |
|
| 官方鏡像適用的子產品不同:
|
|
|
官方鏡像能力
阿里云PAI為您提供了基于不同機器學習框架的官方鏡像,您可以在PAI控制臺的鏡像AI資產頁面中查看所有官方鏡像列表,以下為您介紹基于TensorFlow、PyTorch等主流框架的官方鏡像信息。
TensorFlow
框架版本 | CUDA版本(僅GPU機型) | 操作系統 |
|
|
|
TensorFlowServing
框架版本 | CUDA版本(僅GPU機型) | 操作系統 |
|
|
|
Pytorch
框架版本 | CUDA版本(僅GPU機型) | 操作系統 |
|
|
|
DeepRec
框架版本 | CUDA版本(僅GPU機型) | 操作系統 |
| CUDA 114 | Ubuntu 18.04 |
XGBoost
框架版本 | CUDA版本(僅GPU機型) | 操作系統 |
XGBoost1.6.0 | 不涉及,僅支持CPU機型 | Ubuntu 18.04 |
TritonServer
框架版本 | CUDA版本(僅GPU機型) | 操作系統 |
|
| Ubuntu 20.04 |
核心鏡像列表
靈駿智算資源(Serverless版)適用的鏡像
鏡像名稱 | 框架 | 機型 | CUDA | 操作系統 | 地區 | 開發語言&版本 |
deepspeed-training:23.06-gpu-py310-cu121-ubuntu22.04 |
| GPU | 121 | ubuntu22.04 | 華北6(烏蘭察布) | Python3.10 |
megatron-training:23.06-gpu-py310-cu121-ubuntu22.04 |
| GPU | 121 | ubuntu22.04 | 華北6(烏蘭察布) | Python3.10 |
nemo-training:23.06-gpu-py310-cu121-ubuntu22.04 |
| GPU | 121 | ubuntu22.04 | 華北6(烏蘭察布) | Python3.10 |
AIGC相關鏡像
鏡像名稱 | 框架 | 機型 | CUDA | 操作系統 | 支持地區 | 開發語言&版本 |
stable-diffusion-webui:3.0 | StableDiffusionWebUI3.0 | GPU | 117 | ubuntu22.04 |
| Python3.10 |
stable-diffusion-webui:2.2 | StableDiffusionWebUI2.2 | GPU | 117 | ubuntu22.04 | Python3.10 | |
stable-diffusion-webui:1.1 | StableDiffusionWebUI1.1 | GPU | 117 | ubuntu22.04 | Python3.10 | |
stable-diffusion-webui-env:pytorch1.13-gpu-py310-cu117-ubuntu22.04 | SD-WebUI-ENV | GPU | 117 | ubuntu22.04 | Python3.10 |
EAS主推的鏡像
阿里云PAI提供的EAS產品部分官方鏡像列表如下所示。您可以前往PAI控制臺的鏡像AI資產頁面查看更完整的鏡像列表信息。以下列出的鏡像地址以華東1(杭州)區域為例。
鏡像名稱 | 框架 | 鏡像描述 | 鏡像地址 |
chat-llm-webui:3.0-blade |
| 用于EAS推理鏡像,使用Blade后端為大型語言模型(LLM)提供推理服務,該推理服務同時支持WebUI與API訪問。 |
|
chatbot-langchain:1.0 | ChatbotLangChain 1.0 | 基于LangChain搭建的知識庫問答,用于EAS推理鏡像。 |
|
comfyui:0.2-api | ComfyUI 0.2 | 基于ComfyUI的EAS鏡像,用于文生圖、圖生圖等異步API調用。 |
|
comfyui:0.2 | ComfyUI 0.2 | 基于ComfyUI的EAS鏡像,用于文生圖、圖生圖等場景。 |
|
comfyui:0.2-cluster | ComfyUI 0.2 | 基于ComfyUI的EAS鏡像,用于文生圖、圖生圖等場景。 |
|
kohya_ss:2.2 | Kohya 2.2 | 基于Kohya的EAS鏡像,用于部署Stable Diffusion模型微調應用。 |
|
modelscope-inference:1.9.1 | ModelScope 1.9.1 | 用于部署Modelscope模型。 |
|
stable-diffusion-webui:4.2-cluster-webui | StableDiffusionWebUI 4.2 | 基于Stable Diffusion WebUI的EAS鏡像,用于文生圖、圖生圖等場景,并且支持多用戶同時訪問和用戶間資源隔離。 |
|
stable-diffusion-webui:4.2-api | StableDiffusionWebUI 4.2 | 基于Stable Diffusion WebUI的EAS鏡像,用于文生圖、圖生圖等異步API調用。 |
|
stable-diffusion-webui:4.2-standard | StableDiffusionWebUI 4.2 | 基于Stable Diffusion WebUI的EAS鏡像,用于文生圖、圖生圖等場景。 |
|
tensorflow-serving:2.14.1 | TensorflowServing 2.14.1 | 基于開源TensorFlow Serving鏡像的EAS鏡像,用于將TensorFlow模型部署為推理服務,僅適用于CPU環境。 |
|
tensorflow-serving:2.14.1-gpu | TensorflowServing 2.14.1 | 基于開源TensorFlow Serving鏡像的EAS鏡像,用于將TensorFlow模型部署為推理服務,適用于GPU環境。 |
|
chat-llm-webui:3.0 |
| 用于EAS推理鏡像,使用HuggingFace后端為大型語言模型(LLM)提供推理服務,該推理服務同時支持WebUI與API訪問。 |
|
chat-llm-webui:3.0-vllm |
| 用于EAS推理鏡像,使用VLLM后端為大型語言模型(LLM)提供推理服務,該推理服務同時支持WebUI與API訪問。 |
|
huggingface-inference:1.0-transformers4.33 | Transformers 4.33 | 用于部署HuggingFace模型。 |
|
tritonserver:23.11-py3 | TritonServer 23.11 | 基于開源TritonServer鏡像的EAS鏡像,用于將模型部署為推理服務。 |
|