久久国产精品亚洲色,国产精品一区二区久久,亚洲中文字幕乱码

EAS服務部署成功后，您可以在服務監控頁面查看該服務的相關指標，來了解服務的調用和運行情況。本文為您介紹如何查看服務監控信息及監控指標說明。

前提條件

已部署模型服務，詳情請參見服務部署：控制臺。

查看服務監控信息

進入模型在線服務（EAS）頁面。
1. 登錄PAI控制臺。
2. 在左側導航欄單擊工作空間列表，在工作空間列表頁面中單擊待操作的工作空間名稱，進入對應的工作空間。
3. 在工作空間頁面的左側導航欄選擇模型部署 > 模型在線服務（EAS），進入模型在線服務（EAS）頁面。
單擊目標服務服務監控列下的，進入服務監控頁簽。
查看服務監控信息。
切換儀表盤
切換時間范圍
單擊監控信息區域右側的，來切換儀表盤展示的時間范圍。
重要
目前分鐘級監控指標最多保留1個月，秒級監控指標最多保留1個小時。

監控指標說明

分鐘級監控儀表盤

您可以在該儀表盤監控以下指標信息：

QPS（query per second）表示服務每秒的請求數。如果服務包含多個實例，則此處的指標為所有實例之和。不同返回碼的請求數會分開計算。	Response 表示服務在選定時間范圍內接收的響應總數。不同返回碼的響應數會分開計算。如果服務包含多個實例，則此處的指標為所有實例之和。
CPU 表示服務在該時間點的CPU平均使用量。單位為核數。如果服務包含多個實例，則此處的指標為所有實例的平均值。	CPU Utilization 表示服務在該時間點CPU平均使用率。計算方法為：CPU平均使用量 ÷ 最大可用核數。如果服務包含多個實例，則此處的指標為所有實例的平均值。
Memory Utilization 表示服務在該時間點的內存平均使用率。計算方法為：內存rss ÷ 內存total。如果服務包含多個實例，則此處的指標為所有實例的平均值。	GPU 如果您部署的服務使用了GPU，該面板指標表示服務在該時間點的GPU平均使用率。如果服務包含多個實例，則此處的指標為所有實例的平均值。
GPU Memory 如果您部署的服務使用了GPU，該面板指標表示服務在該時間點的GPU顯存的使用量。如果服務包含多個實例，則此處的指標為所有實例的平均值。	Replicas 表示服務在該時間點的實例數。
CPU Total 表示服務在該時間點可用的CPU總核數。計算方法為：單實例可用CPU核數 × 服務實例數。	Daily Invoke 表示服務每天的調用量，不同返回碼的調用量會分開計算。
RT 表示請求的響應時間。其中： avg：表示該時間點所有請求的平均響應時間。 tpXX：表示將該時間點所有請求時間從低到高排序后，前百分之XX請求的最大響應時間。例如：tp5表示前百分之五請求的最大響應時間；tp100表示所有請求的最大響應時間。如果服務包含多個實例，tp100表示所有實例的請求最大響應時間；tp5表示所有實例前百分之五請求的最大響應時間的平均值。	Memory 表示服務在該時間點的內存平均使用量。如果服務包含多個實例，則此處的指標為所有實例的平均值。其中： rss：表示常駐物理內存大小。 cache：表示緩存大小。 total：表示單個實例最大可用的物理內存大小。
Traffic 表示服務接收和發出的流量大小，單位為比特每秒。如果服務包含多個實例，則此處的指標為所有實例的平均值。其中： in：表示服務接收的流量。 out：表示服務發出的流量。	TCP Connections 表示TCP連接數。

秒級監控儀表盤

您可以在該儀表盤監控以下指標：

Instance QPS Fine

統計服務中每個實例每秒接收的請求數。不同返回碼的請求數會分開計算。

重要

數據精度精確到5秒級別，只保留最近1個小時的數據。

Instance QPS Fine 其中：實例使用ip:port來標識。

Instance RT Fine

統計服務中每個實例接收到請求的平均響應時間。

重要

數據精度精確到5秒級別，只保留最近1個小時的數據。

Instance RT Fine 其中：實例使用ip:port來標識。

單實例分鐘級監控儀表盤

您可以在該儀表盤監控以下指標：

Instance QPS 統計服務中每個實例每秒接收的請求數。不同返回碼的請求數會分開計算。其中：實例使用ip:port來標識。	Instance RT 統計服務中每個實例的平均響應時間。其中：實例使用ip:port來標識。
Instance CPU 統計服務中每個實例的CPU使用量，單位為核數。其中：實例使用ip:port來標識。	Instance Memory 統計服務中每個實例的內存使用量。其中：實例使用ip:port來標識。
Instance GPU 統計服務中每個實例的GPU使用率。	Instance GPU Memory 統計服務中每個實例的GPU顯存使用量。
Instance TCP Connections 表示單實例TCP連接數。