資源伸縮和系統(tǒng)擴展
在云上架構(gòu)設(shè)計過程中，需要考慮架構(gòu)的可伸縮性和可擴展性，以實現(xiàn)高性能的云上架構(gòu)。不同的應(yīng)用部署方式需要使用不同的伸縮方案，常見的伸縮方案主要有以下幾種：
云服務(wù)自動擴縮
在阿里云上進行自動伸縮依賴的云服務(wù)是彈性伸縮 ESS（Auto Scaling），是指根據(jù)業(yè)務(wù)需求和策略自動調(diào)整計算能力（即實例數(shù)量）的服務(wù)。目前支持ECS實例和ECI實例的彈性伸縮。彈性伸縮具有廣泛的應(yīng)用場景，不僅適合業(yè)務(wù)量不斷波動的應(yīng)用程序，同時也適合業(yè)務(wù)量穩(wěn)定的應(yīng)用程序。
適用場景
無規(guī)律的業(yè)務(wù)量波動
某新聞網(wǎng)站播出了熱點新聞，訪問量突增，新聞的時效性降低后，訪問量回落。由于該新聞網(wǎng)站的業(yè)務(wù)量波動無規(guī)律，訪問量突增和回落的具體時間難以預測，所以手動調(diào)整實例很難做到及時性，而且調(diào)整數(shù)量也不確定。
此時可以利用彈性伸縮的報警任務(wù)，由阿里云自動根據(jù)CPU使用率等衡量指標進行彈性伸縮。
示例一：可以設(shè)置兩個報警任務(wù)，報警任務(wù)執(zhí)行的伸縮規(guī)則配置為簡單規(guī)則類型。一個報警任務(wù)用于在實例的CPU使用率超過70%時，自動增加3臺實例；另一個報警任務(wù)用于在實例的CPU使用率低于30%時，自動減少3臺實例。
示例二：可以設(shè)置一個報警任務(wù)，報警任務(wù)執(zhí)行的伸縮規(guī)則配置為目標追蹤規(guī)則類型，使實例的CPU使用率一直維持在50%左右。
有規(guī)律的業(yè)務(wù)量波動
某游戲公司每天18:00業(yè)務(wù)需求急速增長進入高峰期，到22:00業(yè)務(wù)需求降低，高峰期結(jié)束。該游戲公司的業(yè)務(wù)量波動有規(guī)律，但是每天手動調(diào)整計算能力浪費人力和時間成本。
此時可以利用彈性伸縮的定時任務(wù)，由阿里云定時自動進行彈性伸縮。可以設(shè)置兩個定時任務(wù)，報警任務(wù)執(zhí)行的伸縮規(guī)則是簡單規(guī)則類型。一個定時任務(wù)用于在每天17:55自動為用戶增加3臺實例，另一個定時任務(wù)用于在每天22:05自動為用戶減少3臺實例。該方式可以很好地應(yīng)對每天18:00~22:00高峰期的業(yè)務(wù)量，且在高峰期結(jié)束后及時釋放實例，不浪費多余的實例資源和成本。
無明顯的業(yè)務(wù)量波動
某通信公司的業(yè)務(wù)支撐系統(tǒng)需要全天運作，業(yè)務(wù)量一段時間內(nèi)無明顯波動。如果現(xiàn)有計算資源突然出現(xiàn)故障，會導致業(yè)務(wù)受到影響，很難及時進行故障修復或者替換。
此時可以利用彈性伸縮的高可用優(yōu)勢，開啟健康檢查模式。阿里云會自動檢查實例的健康狀態(tài)，當發(fā)現(xiàn)存在實例不健康時，自動增加實例替換不健康的實例，確保故障的計算資源及時得到修復。而且伸縮組必須設(shè)置最小實例數(shù)，確保無論在哪種情況下，伸縮組內(nèi)的實例數(shù)量都至少等于下限，確保業(yè)務(wù)可以運作。
混合型的業(yè)務(wù)場景
如果某公司的業(yè)務(wù)場景比較復雜，日常業(yè)務(wù)量波動不明顯，且在某個時間段內(nèi)，業(yè)務(wù)量是在一定基礎(chǔ)上波動的，用戶已經(jīng)訂購了一部分包年包月的實例，只是想針對波動的業(yè)務(wù)量合理調(diào)整實例數(shù)量。
此時可以手動將已訂購的包年包月實例加入伸縮組，再結(jié)合彈性伸縮的報警任務(wù)，由阿里云自動根據(jù)CPU使用率等衡量指標進行彈性伸縮，更經(jīng)濟、穩(wěn)定地管理業(yè)務(wù)的計算能力。
除手動調(diào)整實例數(shù)量和報警任務(wù)，彈性伸縮還支持定時任務(wù)、健康檢查等。此時可以根據(jù)業(yè)務(wù)場景靈活組合以上功能，從而在使用彈性伸縮的時候獲得更豐富靈活的使用體驗。
容器自動擴縮
容器越來越成為云計算的核心計算技術(shù)，越來越多的應(yīng)用系統(tǒng)已經(jīng)完成或正在進行容器化改造，運行在各種容器環(huán)境中。阿里云上對應(yīng)的容器服務(wù)為容器服務(wù) Kubernetes 版 ACK（Container Service for Kubernetes）。對應(yīng)的彈性伸縮典型場景包含在線業(yè)務(wù)彈性、大規(guī)模計算訓練、深度學習GPU或共享GPU的訓練與推理、定時周期性負載變化等。彈性伸縮分為兩個維度：
調(diào)度層彈性，主要是負責修改負載的調(diào)度容量變化。例如，HPA是典型的調(diào)度層彈性組件，通過HPA可以調(diào)整應(yīng)用的副本數(shù)，調(diào)整的副本數(shù)會改變當前負載占用的調(diào)度容量，從而實現(xiàn)調(diào)度層的伸縮。
資源層彈性，主要是集群的容量規(guī)劃不能滿足集群調(diào)度容量時，會通過彈出ECS或ECI等資源的方式進行調(diào)度容量的補充。
兩層的彈性組件與能力可以分開使用，也可以結(jié)合在一起使用，并且兩者之間是通過調(diào)度層面的容量狀態(tài)進行解耦。
適用場景
在選擇具體的彈性方案時，需要考慮相應(yīng)彈性維度下不同組件和方案的適用場景、資源交付速度和使用限制等。
調(diào)度層彈性
組件名稱 | 組件介紹 | 適用場景 | 使用限制 | 參考文檔 |
HPA | Kubernetes內(nèi)置組件，主要面向在線業(yè)務(wù)。 | 在線業(yè)務(wù) | 適用于Deployment、StatefulSet等實現(xiàn)scale接口的對象。 | |
VPA（alpha） | 開源社區(qū)組件，主要面向大型單體應(yīng)用。 | 大型單體應(yīng)用 | 適用于無法水平擴展的應(yīng)用，通常是在Pod出現(xiàn)異?；謴蜁r生效。 | |
CronHPA | ACK開源的組件，主要面向應(yīng)用資源使用率存在周期性變化的場景。 | 周期性負載業(yè)務(wù) | 適用于Deployment、StatefulSet等，實現(xiàn)了scale接口的對象。此外CronHPA提供了HPA對象的兼容能力，您可以同時使用CronHPA與HPA。 | |
Elastic-Workload | ACK組件，主要面向精細化角度場景，例如希望在不同的可用區(qū)進行負載分布。 | 精細調(diào)度場景 | 適用于在線業(yè)務(wù)精細化控制的場景。例如，一個Deployment部分的應(yīng)用運行在ECS上，而超出的部分運行在ECI上。 |
資源層彈性
組件名稱 | 組件介紹 | 適用場景 | 資源交付速度 | 參考文檔 |
cluster-autoscaler | Kubernetes社區(qū)開源組件，節(jié)點水平伸縮組件，阿里云提供了調(diào)度、彈性優(yōu)化、成本優(yōu)化的功能。 | 全場景支持，適合在線業(yè)務(wù)、深度學習、大規(guī)模成本算力交付等。 | 以100節(jié)點為一個交付批次為例：
| |
virtual-node | ACK開源組件，提供無服務(wù)器運行時環(huán)境。開發(fā)者無需關(guān)心節(jié)點資源，只需針對Pod按量付費即可。 | 部分場景支持，主要包括在線突增流量、CI/CD、大數(shù)據(jù)作業(yè)。 | 以1000個Pod為一個交付批次為例：
| |
virtual-kubelet-autoscaler | ACK服務(wù)組件，提供無服務(wù)彈性伸縮能力。 | 部分場景支持，主要包括在線突增流量、CI/CD、大數(shù)據(jù)作業(yè)。 | 以1000個Pod為一個交付批次為例：
|
Serverless
對于用戶來說，云服務(wù)和容器的伸縮都需要用戶一定程度上參與基礎(chǔ)設(shè)施層面的資源管理和維護。而Serverless技術(shù)則無需用戶關(guān)心基礎(chǔ)設(shè)施層面的伸縮擴容。Serverless相關(guān)的云產(chǎn)品有彈性快（毫秒級擴容），成本優(yōu)（按實際使用量付費），開發(fā)效率高（不用關(guān)心底層云資源）三大特性。截止目前阿里云Serverless架構(gòu)的核心云產(chǎn)品已經(jīng)達到20余款，具備完整的從Serverless計算，到Serverless應(yīng)用開發(fā)的服務(wù)能力。
函數(shù)計算
函數(shù)計算 FC（Function Compute）是事件驅(qū)動的全托管計算服務(wù)，用戶無需采購與管理服務(wù)器等基礎(chǔ)設(shè)施，只需編寫并上傳代碼或鏡像。函數(shù)計算準備好計算資源，彈性地、可靠地運行任務(wù)，并提供日志查詢、性能監(jiān)控和報警等功能。
Serverless應(yīng)用引擎SAE
Serverless 應(yīng)用引擎 SAE（Serverless App Engine）是一個全托管、免運維、高彈性的通用 PaaS 平臺。SAE 支持 Spring Boot、Spring Cloud、Dubbo、HSF、Web 應(yīng)用和 XXL-JOB、ElasticJob 任務(wù)的全托管、零改造遷移、無門檻容器化、并提供了開源側(cè)諸多增強能力和企業(yè)級高級特性。