基于云基礎設施的操作系統優化

阿里云提供了Alibaba Cloud Linux操作系統鏡像，是阿里云基于龍蜥社區（OpenAnolis）的龍蜥操作系統（Anolis OS）打造的操作系統發行版，在兼容RHEL/CentOS生態的同時，為云上應用程序提供安全、穩定、高性能的定制化運行環境，并針對云基礎設施進行了深度優化，打造更好的云上操作系統體驗。與阿里云基礎設施深度結合優化，持續提升系統的啟動速度、運行時的性能。同時經過海量阿里巴巴和阿里云的產品打磨，提供優良的穩定性體驗。在如下方面提供了特性優化：

• 內核方面：Alibaba Cloud Linux2基于Linux kernel 4.19 LTS定制而成；Alibaba Cloud Linux 3基于Linux kernel 5.10 LTS定制而成。系統在持續增加適用于云場景的新特性的同時，持續改進內核性能并修復重大缺陷，并且提供針對ECS實例環境定制優化的內核啟動參數和系統配置參數

• 開機啟動速度：針對ECS實例環境大幅優化啟動速度，在實際測試中，相比其他操作系統約減少60%的啟動時間。

• 運行時的系統性能：優化調度、內存以及IO等子系統，在部分的開源基準測試中，相比其他操作系統約提升10%~30%性能。

針對特定業務場景性能優化的 ECS 實例規格族選項

基于不同場景的需求，云服務器 ECS（Elastic Compute Service）為用戶提供了多種選擇。產品序列包含通用計算、異構計算、高性能計算三大類，支持包括各類垂直場景增強型實例，比如網絡增強型、存儲增強型、內存增強型、安全增強型、大數據型、高主頻型、異構計算實例等，提供高性價比產品。對于特定的高性能場景，用戶可以根據業務場景來選擇，典型的如下幾類：

• 彈性裸金屬服務器 EBM（ECS Bare Metal Instance）：基于阿里云完全自主研發的下一代虛擬化技術而打造的新型計算類服務器產品，兼具虛擬機的彈性和物理機的性能及功能特性。與上一代虛擬化技術相比，下一代虛擬化技術不僅保留了普通云服務器的彈性體驗，而且保留了物理機的性能與特性，全面支持嵌套虛擬化技術。彈性裸金屬服務器融合了物理機與云服務器的優勢，實現超強超穩的計算能力。通過阿里云自主研發的虛擬化2.0技術，業務應用可以直接訪問彈性裸金屬服務器的處理器和內存，無任何虛擬化開銷。彈性裸金屬服務器具備物理機級別的完整處理器特性（例如Intel VT-x），以及物理機級別的資源隔離優勢，特別適合上云部署傳統非虛擬化場景的應用。

• GPU 云服務器 EGS（Elastic GPU Service）：GPU云服務器是基于GPU與CPU應用的計算服務器。GPU在執行復雜的數學和幾何計算方面有著獨特的優勢，特別是在浮點運算、并行運算等方面，GPU可以提供上百倍于CPU的計算能力。GPU的功能特性如下：擁有大量擅長處理大規模并發計算的算術邏輯單元（Arithmetic and Logic Unit，即ALU） 、能夠支持多線程并行的高吞吐量運算、邏輯控制單元相對簡單。適用于視頻轉碼、圖片渲染、AI訓練、AI推理、云端圖形工作站等場景。

• 超級計算集群 SCC（Super Computing Cluster）：在彈性裸金屬服務器基礎上，加入高速RDMA（Remote Direct Memory Access）互聯支持，大幅提升網絡性能，提高大規模集群加速比。因此SCC在提供高帶寬、低延遲優質網絡的同時，還具備彈性裸金屬服務器的所有優點。SCC主要用于高性能計算和人工智能、機器學習、科學計算、工程計算、數據分析、音視頻處理等場景。在集群內，各節點間通過RDMA網絡互聯，提供高帶寬低延遲網絡，保證了高性能計算和人工智能、機器學習等應用的高度并行需求。同時，RoCE（RDMA over Convergent Ethernet）網絡速度達到InfiniBand網絡級的性能，且能支持更廣泛的基于Ethernet的應用。

合理利用彈性資源

云上計算類產品提供靈活的彈性功能和策略，對無規律的業務量波動和有規律的業務量波動性能要求都能完成較好的適配。彈性資源的類型主要包括如下幾類：

彈性伸縮

彈性伸縮 ESS（Auto Scaling）是指根據業務需求和策略自動調整計算能力（即實例數量）的服務?？梢灾付▽嵗念愋蜑镋CS實例或ECI實例。彈性伸縮作為云上廣泛應用的功能提供多種伸縮模式，包括固定數量模式、健康模式、定時模式、自定義模式和動態模式等，同時通過生命周期掛鉤和冷卻時間等特性給用戶提供充分的靈活性。

容器彈性伸縮

彈性是容器服務 Kubernetes 版 ACK（Container Service for Kubernetes）被廣泛采用的功能，典型的場景包含在線業務彈性、大規模計算訓練、深度學習GPU或共享GPU的訓練與推理、定時周期性負載變化等。彈性伸縮分為兩個維度：

• 調度層彈性，主要是負責修改負載的調度容量變化。包括HPA、VPA、CronHPA和Elastic-Workload等類型，例如HPA是典型的調度層彈性組件，通過HPA可以調整應用的副本數，調整的副本數會改變當前負載占用的調度容量，從而實現調度層的伸縮。

• 資源層彈性，主要是集群的容量規劃不能滿足集群調度容量時，會通過彈出ECS或ECI等資源的方式進行調度容量的補充。包括cluster-autoscaler、virtual-node和virtual-kubelet-autoscaler等類型。

在實際應用當中，建議兩者有機結合，同時，在高性能場景下，對容器的彈出速度提出了更高的要求。針對調度層彈性，可以通過ack-autoscaling-placeholder組件為集群的自動擴展提供緩沖區。針對資源層彈性，可以適用Alicloud Image Builder自動化構建鏡像，再結合ACK集群節點池的自定義鏡像功能，快速地擴容節點。

函數計算

函數計算 FC（Function Compute）默認集成了彈性的屬性，按量模式根據函數的調用量自動進行實例擴縮容，在調用增加時創建實例，在請求減少后銷毀實例。整個過程中，通過請求自動觸發實例創建。如果實例在一段時間內不處理請求，會自動銷毀。按量模式降低了管理應用資源的難度，但也造成了冷啟動，延時等性能問題。

冷啟動是指在函數調用鏈路中的代碼下載、啟動函數實例容器、運行時初始化、代碼初始化等環節。當冷啟動完成后，函數實例就緒，后續請求就能直接被執行。在追求高性能的場景下，往往需要相應的解決方案消除冷啟動延時的影響。

冷啟動的優化用戶和平臺配合完成。函數計算已經對系統側的冷啟動做了大量優化。對于用戶側的冷啟動，建議您從以下幾方面優化：

• 精簡代碼包：開發者要盡量縮小代碼包。去掉不必要的依賴。例如，在Node.js中執行npm prune命令，在Python中執行autoflake 。另外，某些第三方庫中可能會包含測試用例源代碼，無用的二進制文件和數據文件等，刪除無用文件可以降低函數代碼下載和解壓時間。

• 選擇合適的函數語言：由于語言理念的差異，Java運行時冷啟動時間通常要高于其他語言。對于冷啟動延遲敏感的應用，在熱啟動延遲差別不大的情況下，使用Python輕量語言可以大幅降低長尾延遲。

• 選擇合適的內存：在并發量一定的情況下，函數內存越大，分配的CPU資源相應越多，因此冷啟動表現越優。

• 降低冷啟動概率

  • 使用定時觸發器預熱函數。

  • 使用Initializer回調，函數計算會異步調用初始化接口，消除掉代碼初始化的時間，在函數計算系統升級或者函數更新過程中，您對冷啟動無感知。

在實際應用過程中，用戶側的冷啟動一般難以消除。例如，在深度學習推理中，要加載大量的模型文件時；函數要和遺留系統交互，必須使用初始化耗時很長的客戶端時。在這些場景下，如果函數對延時非常敏感，您可以為函數設置預留模式實例，或者在同一個函數里同時使用預留模式實例和按量模式實例。

預留模式實例的分配和釋放由您管理，根據實例的運行時長計費。當負載對資源的需求超過預留模式實例的能力后，系統自動使用按量模式實例，從而在性能和資源利用率上獲得平衡。通過預留模式實例，您能夠根據函數的負載變化提前分配好計算資源，系統能夠在擴容按量模式實例時仍然使用預留模式實例處理請求，從而徹底消除冷啟動帶來的延時。