本文為您介紹在線預測的相關問題。
服務長時間處于Waiting（等待中）狀態，如何解決？
服務在部署階段后會進入到Waiting（等待中）狀態，等待資源調度和服務實例啟動。當所有服務實例均啟動成功后，服務會進入到Running（運行中）狀態。如果服務狀態長時間處于等待中時，通常可以通過服務詳情頁面的服務實例列表，查看服務實例的狀態來定位具體原因。原因一般分為如下兩類：
資源不足：服務實例列表中所有實例或部分實例狀態為Pending。
大部分原因在于專屬資源組中空閑資源不足，導致實例無法調度。如下圖所示：
此時，您可以檢查專屬資源組中的機器節點是否有足夠多的空閑資源（包括CPU、Memory和GPU）。如果一個實例需要3核4 GB的資源，那么在專屬資源組中需要至少一個機器節點有3核4 GB的空閑資源。
重要為避免在高負載時出現系統故障，機器節點需要預留1個核給系統組件，能調度的資源需要在總資源中減少一個核。
專屬資源組節點列表如下圖所示。如何查看資源組詳情，請參見管理專屬資源組。
實例健康檢查未完成：服務實例狀態為Running，但容器狀態一般為[0/1]或[1/2]。
正斜線（/）前面的數字表示啟動成功的容器數量，正斜線（/）后面的數字表示總的容器數量。當您使用自定義鏡像來部署服務時，實例中會自動注入一個Sidecar容器用于服務的流量控制與監控采集等工作，您無需關心該容器。在控制臺您會看到總容器數量為2，即包含了您的自定義容器和引擎的Sidecar容器。此時，需要2個容器狀態都為Ready時，服務實例才被視為啟動完成，并開始接收流量。
服務處于Failed（失敗）狀態，如何解決？
服務會在以下兩種情況處于Failed狀態：
服務部署階段：如果部署時指定的資源（如模型地址等）不存在，服務的當前狀態信息中將顯示報錯原因，通常您可以根據報錯信息判斷出部署失敗的原因。
服務啟動階段：在服務完成部署并調度到資源開始啟動時失敗，此時會出現狀態信息
Instance <network-test-5ff76448fd-h9dsn> not healthy: Instance crashed, please inspect instance log.。該狀態信息表示服務中某個實例啟動失敗，此時您需要在服務詳情頁面的服務實例列表中查看失敗狀態，來判斷具體的失敗原因。實例失敗有如下幾種情況：
服務實例在啟動階段因內存用超發生OOM被系統殺掉，這種情況需要調大服務內存來重新部署。實例狀態如下圖所示：
服務在啟動階段代碼錯誤發生Crash，該情況下上次狀態為Error(error code)，您需要單擊實例操作列下的日志按鈕進一步排查服務日志，來定位服務啟動失敗的原因。實例狀態如下圖所示：
服務鏡像拉取失敗，這種情況在實例列表中您可以看到實例狀態為Pending，上次退出原因為ImagePullBackOff。實例狀態如下圖所示：
當您使用自定義鏡像部署服務時，如果自定義鏡像地址拉取失敗，通常會出現ImagePullBackOff的情況。您可做如下幾個方面的檢查：
鏡像地址是否正確。EAS在線服務內部默認與公網不通，默認無法拉取公網鏡像地址。如果使用個人版ACR鏡像，請使用同地域的內網VPC地址來部署。如需使用公網地址來拉取鏡像，請參考下一常見問題：EAS服務內部如何訪問公網？
當您選擇ACR企業版實例中的鏡像時，ACR企業版實例的專有網絡配置需要和EAS的網絡直連配置一致，配置方法如下：
ACR企業版實例專有網絡配置：配置專有網絡的訪問控制。
EAS專屬資源組直連配置：配置資源組網絡連通。
EAS公共資源組直連配置：配置資源組網絡連通。
請判斷鑒權信息是否正確。您在控制臺上對EAS做過一鍵授權之后，即可對ACR鏡像倉庫中的鏡像進行免密拉取。個人版鏡像倉庫直接填鏡像地址即可，企業版鏡像倉庫需要在服務配置中通過
"cloud.docker_registry.instance_id": "cr_xxx"字段來指定企業版鏡像倉庫的實例ID。在使用第三方鏡像倉庫的情況下，您可以使用dockerAuth字段來指定鏡像倉庫下載的用戶名和密碼。
EAS服務內部如何訪問公網？
EAS服務內部默認不通公網，如果您有訪問公網的需求，則需要通過開通到您的VPC的網絡直連來實現公網訪問，同時需要確保在開通直連時選擇的VPC自身具有公網訪問的能力。若您的VPC不具備公網訪問能力，則需要為該VPC通過創建NAT網關來開通公網訪問能力。EAS開通直連的方法可參考文檔：
服務VPC地址調用和VPC高速直連調用有什么區別？
VPC地址調用：VPC地址調用是內網SLB+網關的模式（公網地址是公網SLB+網關），這是比較經典的請求模式。在這種模式下，請求需要通過SLB的4層轉發和網關的7層轉發之后到達服務實例。在大流量高并發的場景中，通過轉發會帶來一定的性能開銷，同時網關也會有帶寬的限制（默認1 Gbps）。
VPC高速直連：EAS提供了高速直連的訪問模式，既解決了性能和擴展性的問題，也無須增加額外的成本。開通VPC高速直連后，相當于打通了您的VPC和EAS服務VPC之間的網絡通路。您的請求通過EAS提供的服務發現功能對服務進行尋址，并在客戶端代碼中通過軟負載的方式發起負載均衡的服務請求。這個過程需要使用EAS提供的SDK來進行訪問，并將endpoint_type設置為DIRECT即可。
例如在Python SDK使用說明的場景中，您可通過在代碼中增加如下一行代碼，來將調用由網關改為直連：
client = PredictClient('http://pai-eas-vpc.cn-hangzhou.aliyuncs.com', 'mnist_saved_model_example') client.set_token('M2FhNjJlZDBmMzBmMzE4NjFiNzZhMmUxY2IxZjkyMDczNzAzYjFi****') client.set_endpoint_type(ENDPOINT_TYPE_DIRECT) # Direct link client.init()
服務日志中出現[WARN] connection is closed: End of file或Write a Invalid stream: End of file，如何解決？
客戶端與服務端之間的連接斷開，服務端在向該連接中回寫請求結果時，發現連接已斷開后所打的warning日志，連接斷開一般分兩種情況：
服務端超時斷開連接：在Processor模式下，服務端默認超時時間為5秒，您可以通過服務的
metadata.rpc.keepalive參數來修改。在超時時間到達后，服務端將關閉該連接，并在服務端的監控中記錄一個408狀態碼。客戶端超時斷開連接：客戶端的超時時間由您的調用端代碼中設置的超時時間決定。因超時未返回HTTP響應，客戶端會主動斷開連接，此時服務端的監控記錄中會記錄一個499狀態碼。
關于服務請求狀態碼的詳細說明，請參見：附錄：服務狀態碼說明。
Tensorflow/Pytorch processor部署的服務請求在線調試失敗，如何解決?
出于性能考慮，TensorFlow/PyTorch Processor的Request Body采用非明文的protobuf格式。目前在線調試僅支持明文的文本格式輸入，因此該服務暫時無法在控制臺上直接進行在線調試。您可以使用EAS配套提供的SDK來進行請求訪問，各語言版本SDK可參考：服務調用SDK。
為什么RAM用戶無法自動創建或刪除EAS服務關聯角色？
只有擁有指定權限的用戶才能自動創建或刪除AliyunServiceRoleForPaiEas。因此，當RAM用戶無法自動創建或刪除AliyunServiceRoleForPaiEas時，您需要為其添加相應的權限策略，具體操作方法如下：
通過腳本配置的方式將如下權限策略創建為自定義策略。具體操作，請參見創建自定義權限策略。
{ "Statement": [ { "Action": "ram:CreateServiceLinkedRole", "Resource": "*", "Effect": "Allow", "Condition": { "StringEquals": { "ram:ServiceName": "eas.pai.aliyuncs.com" } } } ], "Version": "1" }將上一步創建的自定義策略授權給目標RAM用戶。具體操作，請參見方式一：在RAM用戶頁面為RAM用戶授權。
如何刪除預付費專屬資源組的機器實例？
預付費機器未到期前無法直接刪除退訂，如有特殊原因需刪除，請聯系您的商務經理來處理。
如何使用curl命令調用EAS在線服務?
EAS在線服務部署成功后，使用curl命令通過公網地址或VPC地址調用服務。具體操作步驟如下：
獲取服務訪問地址和Token。
在模型在線服務（EAS）頁面，單擊目標服務進入服務詳情頁面。
在基本信息區域中，單擊查看調用信息。
在調用信息對話框的公網地址調用或VPC地址調用頁簽，分別獲取服務的訪問地址和Token。
使用curl命令調用服務。
示例如下：
$ curl <service_url> -H 'Authorization: <service_token>' -d '[{"sex":0,"cp":0,"fbs":0,"restecg":0,"exang":0,"slop":0,"thal":0,"age":0,"trestbps":0,"chol":0,"thalach":0,"oldpeak":0,"ca":0}]'其中：
<service_url>：替換為已獲取的服務訪問地址。
<service_token>：替換為已獲取的Token。
-d：配置為服務請求數據。