日本熟妇hd丰满老熟妇,中文字幕一区二区三区在线不卡 ,亚洲成片在线观看,免费女同在线一区二区

AI 助理
備案控制臺(tái)
文檔
有獎(jiǎng)?wù){(diào)研
輸入文檔關(guān)鍵字查找
首頁(yè) 人工智能平臺(tái) PAI 操作指南 AI開(kāi)發(fā) 模型在線服務(wù)（EAS） 服務(wù)調(diào)用 附錄：服務(wù)狀態(tài)碼說(shuō)明

附錄：服務(wù)狀態(tài)碼說(shuō)明

更新時(shí)間：
產(chǎn)品詳情
相關(guān)技術(shù)圈
我的收藏

本文為您介紹訪問(wèn)服務(wù)返回的狀態(tài)碼的說(shuō)明信息。

狀態(tài)碼

說(shuō)明

200

服務(wù)正常返回。

400

Processor返回異常。

原因：

  • 對(duì)于平臺(tái)提供的通用Processor（例如Tensorflow或Pytorch），如果請(qǐng)求輸入格式有問(wèn)題，導(dǎo)致服務(wù)端無(wú)法識(shí)別，則返回狀態(tài)碼400。

  • 對(duì)于自定義Processor，如果代碼拋出異常，會(huì)在服務(wù)端返回狀態(tài)碼400。

    說(shuō)明

    您也可以在自定義Processor中返回任意自定義的狀態(tài)碼。

404

找不到服務(wù)。

原因：服務(wù)名稱(chēng)或服務(wù)請(qǐng)求的Endpoint使用不正確。

401

服務(wù)鑒權(quán)失敗。

原因：訪問(wèn)服務(wù)時(shí)未指定Token或指定的Token信息不正確。

處理方法：

  1. 服務(wù)Token在服務(wù)部署時(shí)會(huì)自動(dòng)生成。您也可以在服務(wù)初次部署時(shí)，通過(guò)在配置文件中增加Token字段來(lái)指定固定Token值，在服務(wù)更新時(shí)Token值保持不變。

  2. 您可以在控制臺(tái)的PAI EAS模型在線服務(wù)頁(yè)面，單擊目標(biāo)服務(wù)操作列下的在線調(diào)試，查詢到服務(wù)訪問(wèn)的Token；也可以通過(guò)eascmd desc service_name命令來(lái)獲取服務(wù)的Token信息。

  3. 訪問(wèn)服務(wù)。

    • 在使用curl命令進(jìn)行服務(wù)測(cè)試時(shí)，您可以直接將Token值以HTTP Header的方式添加到請(qǐng)求中，例如：curl -H 'Authorization: NWMyN2UzNjBiZmI2YT***' http:// xxx.cn-shanghai.aliyuncs.com/api/predict/echo。

    • 在使用SDK訪問(wèn)服務(wù)時(shí)，調(diào)用對(duì)應(yīng)的SetToken()函數(shù)即可，詳情請(qǐng)參見(jiàn)Java SDK使用說(shuō)明。

450

超出隊(duì)列長(zhǎng)度丟棄請(qǐng)求。

原因：服務(wù)端的計(jì)算實(shí)例在接收到請(qǐng)求后，會(huì)先將請(qǐng)求放入隊(duì)列中進(jìn)行排隊(duì)。當(dāng)實(shí)例中的worker（worker數(shù)量默認(rèn)為5，您可以在創(chuàng)建服務(wù)的JSON文件中配置metadata.rpc.worker_threads字段來(lái)調(diào)整worker數(shù)量）空閑時(shí)，會(huì)從隊(duì)列中獲取數(shù)據(jù)進(jìn)行計(jì)算。當(dāng)worker計(jì)算時(shí)間過(guò)長(zhǎng)，導(dǎo)致隊(duì)列中請(qǐng)求堆積。當(dāng)隊(duì)列打滿時(shí)（隊(duì)列長(zhǎng)度默認(rèn)為64，您可以在創(chuàng)建服務(wù)的JSON文件中配置metadata.rpc.max_queue_size字段來(lái)調(diào)整隊(duì)列長(zhǎng)度），新來(lái)的請(qǐng)求會(huì)直接被拒絕，并返回狀態(tài)碼450，來(lái)避免隊(duì)列過(guò)度堆積導(dǎo)致所有請(qǐng)求RT越來(lái)越高最終服務(wù)不可用。

說(shuō)明

隊(duì)列限長(zhǎng)在一定程度上也是一種限流保護(hù)，避免大流量導(dǎo)致服務(wù)雪崩。

處理方法：

  • 當(dāng)返回的狀態(tài)碼有少量450時(shí)，因?yàn)榉?wù)端的實(shí)例是相互獨(dú)立的，您可以通過(guò)重試調(diào)度到其他相對(duì)空閑的實(shí)例上，避免客戶端感知，但不能無(wú)限重試，否則限流的保護(hù)作用會(huì)失效。

  • 當(dāng)Processor內(nèi)部代碼卡住時(shí)，所有請(qǐng)求均返回狀態(tài)碼450。當(dāng)所有worker在處理請(qǐng)求時(shí)出現(xiàn)死鎖等場(chǎng)景，導(dǎo)致沒(méi)有worker從隊(duì)列中獲取數(shù)據(jù)進(jìn)行處理，這種場(chǎng)景需要排查Processor代碼的Bug。

408

請(qǐng)求計(jì)算超時(shí)。

原因：服務(wù)端為每個(gè)請(qǐng)求配置了默認(rèn)的超時(shí)時(shí)間（默認(rèn)為5秒，您可以在創(chuàng)建服務(wù)的JSON文件中配置metadata.rpc.keepalive字段來(lái)調(diào)整超時(shí)時(shí)間），當(dāng)單個(gè)請(qǐng)求的處理時(shí)長(zhǎng)超過(guò)metadata.rpc.keepalive字段配置的值后，服務(wù)端會(huì)返回狀態(tài)碼408，來(lái)中斷該請(qǐng)求的處理，并斷開(kāi)該請(qǐng)求所在的TCP連接。

說(shuō)明

單個(gè)請(qǐng)求的處理時(shí)長(zhǎng)包含Processor的計(jì)算時(shí)間、請(qǐng)求接收網(wǎng)絡(luò)數(shù)據(jù)包時(shí)間以及單個(gè)請(qǐng)求在隊(duì)列中排隊(duì)的時(shí)間。

499

客戶端主動(dòng)斷開(kāi)連接。

原因：當(dāng)客戶端主動(dòng)斷開(kāi)連接時(shí)，客戶端不會(huì)接收到狀態(tài)碼499，該連接上未處理完成的請(qǐng)求會(huì)在服務(wù)端記錄一個(gè)狀態(tài)碼499。例如：在客戶端配置了HTTP超時(shí)時(shí)間為30毫秒，服務(wù)端的處理延時(shí)為50毫秒，客戶端等待30毫秒后未獲取到返回結(jié)果時(shí)，會(huì)放棄該請(qǐng)求，并主動(dòng)斷開(kāi)連接，此時(shí)在服務(wù)端監(jiān)控中，會(huì)出現(xiàn)狀態(tài)碼499。

429

請(qǐng)求觸發(fā)限流。

原因：EAS提供了基于QPS的限流功能，您可以在創(chuàng)建服務(wù)的JSON文件中配置metadata.rpc.rate_limit字段開(kāi)啟該功能。開(kāi)啟限流功能后，如果請(qǐng)求并發(fā)數(shù)超出了指定限制后，超出的部分請(qǐng)求會(huì)被丟棄并返回狀態(tài)碼429。

503

服務(wù)不可用。

原因：通過(guò)網(wǎng)關(guān)訪問(wèn)服務(wù)時(shí)，如果后端服務(wù)實(shí)例狀態(tài)全部為非Ready，則網(wǎng)關(guān)會(huì)返回狀態(tài)碼503。

比較常見(jiàn)的一種場(chǎng)景是，服務(wù)部署完成后狀態(tài)為Running，且服務(wù)各實(shí)例狀態(tài)均為Ready，但發(fā)起請(qǐng)求后，服務(wù)端返回狀態(tài)碼503。通常是因?yàn)楫惓Ｕ?qǐng)求觸發(fā)了代碼中的Bug，導(dǎo)致后端服務(wù)實(shí)例Crash，從而無(wú)法正常響應(yīng)請(qǐng)求，此時(shí)網(wǎng)關(guān)會(huì)向客戶端返回狀態(tài)碼503。