使用限制

• 僅QPS和CPU Utilization指標(biāo)支持自動彈性擴(kuò)縮容。

• 僅使用自定義鏡像或自定義Processor部署服務(wù)時，支持通過metrics字段聲明該服務(wù)需要上報的指標(biāo)名稱和類型等信息。

步驟一：配置定期上報指標(biāo)的接口

部署服務(wù)前，您需要準(zhǔn)備自定義鏡像或自定義Processor，并在代碼中配置需要上報的自定義指標(biāo)以及定期上報自定義指標(biāo)的接口。具體操作，請參考服務(wù)部署：自定義鏡像或服務(wù)部署：自定義Processor。

例如，在您的代碼中實現(xiàn)的POST請求方法為http://localhost:8080/api/builtin/realtime_metrics，Request Body如下：

[
    {
        "name": "qps",
        "tags": {
            "status": "200"
        },
        "value": 20
    },
    {
        "name": "qps",
        "tags": {
            "status": "400"
        },
        "value": 13
    }
]

上述示例表示上傳了一個名為qps的指標(biāo)。其中，狀態(tài)碼為200的平均qps為20，狀態(tài)碼為400的平均qps為13。在簡單場景中，如果您不需要使用標(biāo)簽（tags）對指標(biāo)進(jìn)行進(jìn)一步分類或細(xì)分，可以直接忽略tags字段，如下所示：

[
    {
        "name": "qps",
        "value": 20
    }
]

您需要自己編寫代碼，實現(xiàn)定期調(diào)用上述接口上報自定義指標(biāo)的功能。

步驟二：部署服務(wù)

定義好自定義指標(biāo)后，如果希望服務(wù)上傳這些自定義指標(biāo)，您在部署服務(wù)時，需要事先在服務(wù)配置的JSON文件中，通過metrics字段聲明需要上報的指標(biāo)名稱和類型等信息。EAS框架會根據(jù)您聲明的指標(biāo)信息，在服務(wù)部署時進(jìn)行相關(guān)初始化，并完成構(gòu)建監(jiān)控頁面的dashboard等操作。具體操作步驟如下：

1. 準(zhǔn)備服務(wù)配置的JSON文件。

   您需要在文件中增加metrics字段，用來聲明指標(biāo)名稱和類型等信息。以使用自定義鏡像部署服務(wù)為例，JSON文件示例如下：

   {
     "name": "metrics_test",
     "containers": [
       {
         "image": "registry-vpc.cn-chengdu.aliyuncs.com/eas/eas-image-****:metrics",
         "command": "python3 -u /image.py",
         "port": 5000
       }
     ],
     "metrics": [
       {
         "name": "qps",
         "tags": "status"
       }
     ],
     "metadata": {
       "instance": 1,
       "cpu": 2,
       "memory":1000
     }
   }

   其中image配置為前期已準(zhǔn)備好的自定義鏡像；metrics各字段的詳細(xì)含義說明如下，其他參數(shù)說明，請參見服務(wù)模型所有相關(guān)參數(shù)說明。

   參數(shù)	是否必選	參數(shù)說明
   name	是	服務(wù)中要上報的自定義指標(biāo)的名稱。 服務(wù)監(jiān)控頁面會根據(jù)該名稱創(chuàng)建監(jiān)控圖表dashboard。 在彈性伸縮時，根據(jù)該名稱來配置彈性伸縮的參考指標(biāo)。
   tags	否	指標(biāo)的tags名稱。當(dāng)同一個指標(biāo)需要進(jìn)行細(xì)分時，可以使用不同的子指標(biāo)。例如，在qps中，可以按照狀態(tài)碼對指標(biāo)進(jìn)行細(xì)分。

   上述配置表示基于Docker鏡像來部署服務(wù)，您可以通過自定義鏡像來構(gòu)建自己的業(yè)務(wù)邏輯。metrics字段配置表示聲明了一個名為qps的指標(biāo)，監(jiān)控數(shù)據(jù)的過期時間為一個星期，超過一個星期的數(shù)據(jù)會自動清理。同時還定義了一個名為status的tag，可以用于對同一個監(jiān)控指標(biāo)上報不同的tag信息。例如，在qps指標(biāo)中，用戶通常希望記錄不同狀態(tài)碼所對應(yīng)的請求數(shù)量，比如status=200，status=400等。

2. 使用配置文件部署模型服務(wù)。

   1. 進(jìn)入部署服務(wù)頁面。具體操作，請參見控制臺上傳部署。

   2. 在對應(yīng)配置編輯區(qū)域，單擊JSON獨立部署，并將上述準(zhǔn)備好的JSON文件內(nèi)容粘貼到編輯框中。

   3. 單擊部署。

步驟三：展示指標(biāo)

服務(wù)部署完成后，根據(jù)您的代碼邏輯定期上報自定義指標(biāo)數(shù)據(jù)。EAS框架提供了本地的API用于接收上報的自定義指標(biāo)數(shù)據(jù)。

• 在對接彈性伸縮時，將使用實時上報的數(shù)據(jù)。

• 在數(shù)據(jù)采集和展示的鏈路中，由于數(shù)據(jù)量較大，不會按上報的頻率展示，數(shù)據(jù)加工鏈路會在一分鐘之內(nèi)進(jìn)行采集展示，監(jiān)控頁面展示的是分鐘級別的數(shù)據(jù)。

以自定義指標(biāo)qps為例，查詢方法如下：

1. 在服務(wù)列表中，單擊服務(wù)名稱，進(jìn)入服務(wù)詳情頁面。

2. 切換到服務(wù)監(jiān)控頁簽，在該頁面的左上方選擇custom面板。

   在該面板中，您可以查看自定義指標(biāo)的監(jiān)控數(shù)據(jù)，包括以下兩部分內(nèi)容：

   • 展示服務(wù)中所有實例的平均指標(biāo)數(shù)據(jù)。

   • 分別展示服務(wù)中每個實例的指標(biāo)數(shù)據(jù)。

   

步驟四：配置彈性伸縮

服務(wù)可以開啟基于自定義指標(biāo)的彈性伸縮，與常規(guī)指標(biāo)的操作方法一致。操作詳情，請參見水平自動擴(kuò)縮容功能。

以自定義指標(biāo)qps為例，配置方法如下：

• 通過本地客戶端開啟彈性伸縮，示例如下。具體操作方法及參數(shù)說明，請參見方式二：通過本地客戶端管理水平自動擴(kuò)縮容功能。

  • 當(dāng)配置的自定義指標(biāo)不需要上報tag時

    eascmd autoscale service_name -Dmin=1 -Dmax=10 -Dstrategies.custom[qps]=3

    該配置表示當(dāng)qps指標(biāo)的平均值超過3時開始擴(kuò)容，小于3時開始縮容。

  • 當(dāng)配置的自定義指標(biāo)需要精確到tag維度時

    eascmd autoscale service_name -Dmin=1 -Dmax=10 -Dstrategies.custom[qps]@status[200]=3

    該配置表示當(dāng)qps指標(biāo)的狀態(tài)碼為200的曲線平均指標(biāo)超過3時開始擴(kuò)容，小于3時開始縮容。

• 通過控制臺開啟彈性伸縮，示例如下。具體操作方法及參數(shù)說明，請參見方式一：通過控制臺管理水平自動擴(kuò)縮容功能。

  • 當(dāng)配置的自定義指標(biāo)不需要上報tag時，您需要在自動彈性擴(kuò)縮容設(shè)置對話框的自定義擴(kuò)縮容指標(biāo)處，配置變量名為custom[qps]、變量值為3。

  • 當(dāng)配置的自定義指標(biāo)需要精確到tag維度時，您需要在自動彈性擴(kuò)縮容設(shè)置對話框的自定義擴(kuò)縮容指標(biāo)處，配置變量名為custom[qps]@status[200]、變量值為3。