Designer和EAS在使用鏈路上進行了無縫對接,您可以在離線訓練、預測和評估流程完成后,將單個模型部署至EAS,以創建一個在線模型服務。本文為您介紹如何將在Designer平臺訓練獲得的模型部署為EAS在線服務。
前提條件
已完成模型訓練,并驗證了模型的準確性,詳情請參見模型訓練。
單模型一鍵部署
支持一鍵部署的算法
組件名稱 | 產出可部署模型格式 | 匹配的EAS Processor | 備注 |
邏輯回歸二分類 | PMML | PMML | 訓練前需要在組件的字段設置頁簽中,選中是否生成PMML。 |
GBDT二分類 | PMML | PMML | |
線性支持向量機 | PMML | PMML | |
邏輯回歸多分類 | PMML | PMML | |
隨機森林 | PMML | PMML | |
樸素貝葉斯 | PMML | PMML | |
K均值聚類 | PMML | PMML | |
GBDT回歸 | PMML | PMML | |
線性回歸 | PMML | PMML | |
評分卡訓練 | PMML | PMML | |
文本摘要訓練 | tgz包 | EasyNLP | 會自動配置好PAI提供在公開OSS中的EasyNLP,無需自定義配置。 |
圖像分類訓練(torch) | tgz包 | EasyCV | 會自動配置好PAI提供在公開OSS中的EasyCV,無需自定義配置。 |
PyAlink腳本 | AlinkModel | Alink | 詳情請參見PyAlink腳本。 |
XGBoost訓練 | XGBoost | XGBoost | 詳情請參見XGBoost訓練。 |
對于需要部署PMML模型的算法組件,您需要參照下圖的操作指引,在字段設置頁簽中,選中是否生成PMML,并重新執行該節點。
操作步驟
進入Designer頁面。
登錄PAI控制臺。
在左側導航欄單擊工作空間列表,在工作空間列表頁面中單擊待操作的工作空間名稱,進入對應工作空間內。
在工作空間頁面的左側導航欄選擇 ,進入Designer頁面。
在工作流列表頁面,雙擊目標工作流,進入工作流頁面。
在Designer畫布上方,單擊模型列表。
系統會自動檢測當前畫布中訓練得到的可部署模型,并自動匹配對應的部署Processor,引導您跳轉到EAS完成模型服務的部署。詳情請參見服務部署:Designer。
單模型手動部署
下表中的算法組件在模型訓練完成后,需要使用通用模型導出組件將模型拼裝并導出至OSS目錄后,再手動部署。不支持前述章節所述的一鍵部署。
組件名稱 | 產出可部署模型格式 | 匹配的EAS Processor | 手動部署流程 |
PS-SMART二分類 | PS格式 | PS算法 | 需要在組件下游連接通用模型導出組件。 |
PS-SMART多分類 | |||
PS-SMART回歸 |
導出模型到OSS Bucket后,關于如何手動部署模型,詳情請參見服務部署:控制臺。
常見問題
執行一鍵部署時,如果有節點支持部署,但是置灰的不支持選擇,如何解決?
您需要在指定的組件右側字段設置頁簽中,選中是否生成PMML,并重新執行對應節點即可。詳情請參見支持一鍵部署的算法。
相關文檔
您可以前往PAI-EAS模型在線服務頁面,查看已部署服務的狀態,或對服務進行管理操作。詳情請參見管理EAS模型在線服務。
部署模型服務后,支持通過Designer的更新EAS服務(beta)組件,來定時更新已部署的服務,詳情請參見在線模型服務定時自動更新。
Designer支持將離線數據處理pipeline,打包成一個Pipeline模型,并一鍵部署為EAS在線服務。詳情請參見Pipeline部署在線服務。
您可以使用Designer提供的預測組件,對模型進行離線批量預測,詳情請參見離線批量預測。