服務部署完成后,您可以使用在線調試功能來測試服務是否運行正常。本文為您介紹如何進行服務在線調試。
前提條件
已完成服務部署,詳情請參見服務部署:控制臺。
操作步驟
進入模型在線服務(EAS)頁面。
登錄PAI控制臺。
在左側導航欄單擊工作空間列表,在工作空間列表頁面中單擊待操作的工作空間名稱,進入對應的工作空間。
在工作空間頁面的左側導航欄選擇 ,進入模型在線服務(EAS)頁面。
在推理服務頁簽,單擊目標服務操作列下的在線調試。
在調試頁面的在線調試請求參數區域的Body處,配置服務請求數據。
如果您使用通用Processor(包括TensorFlow、Caffe、PMML等)部署服務,服務請求數據構造,可以參考通用Processor服務請求構造。
其他種類模型的服務請求數據,需要根據您自定義模型或鏡像的數據輸入格式來確定。
以心臟病預測案例的邏輯回歸二分類模型為例,說明如何構造請求數據。
邏輯回歸二分類模型為PMML模型,生成的模型文件中特征數據包括sex、cp、fbs、restecg、exang、slop、thal、age、trestbps、chol、thalach、oldpeak和ca。則請求數據配置為
[{"sex":0,"cp":0,"fbs":0,"restecg":0,"exang":0,"slop":0,"thal":0,"age":0,"trestbps":0,"chol":0,"thalach":0,"oldpeak":0,"ca":0}]
單擊發送請求,即可在調試信息區域查看預測結果。
相關文檔
您可以到模型在線服務(EAS)頁面查看模型部署情況,并管理模型服務,詳情請參見管理EAS模型在線服務。
您可以通過自動壓測工具,對部署的服務進行壓測,從而了解EAS服務的使用性能,詳情請參見服務自動壓測。
服務性能滿足要求后,您可使用該服務進行模型推理,具體操作請參見調用方式概覽。
EAS更多使用案例,詳情請參見EAS使用案例匯總。