ACK集群實(shí)現(xiàn)GPU成本優(yōu)化
更新時(shí)間：
通過使用阿里云cGPU技術(shù)，您可以將GPU利用率不高的應(yīng)用容器化部署在一塊GPU卡上，實(shí)現(xiàn)資源利用率提升并且降低成本，且保持對(duì)高負(fù)載應(yīng)用的資源保障。
背景信息
阿里云GPU團(tuán)隊(duì)推出了昊天cGPU方案：通過一個(gè)內(nèi)核驅(qū)動(dòng)，為容器提供了虛擬的GPU設(shè)備節(jié)點(diǎn)，從而實(shí)現(xiàn)了顯存和算力的隔離；通過用戶態(tài)輕量的運(yùn)行庫來配置容器內(nèi)的虛擬GPU設(shè)備節(jié)點(diǎn)。昊天cGPU在做到算力調(diào)度與顯存隔離的同時(shí)，也做到了無需替換CUDA靜態(tài)庫或動(dòng)態(tài)庫；無需重新編譯CUDA應(yīng)用；CUDA，cuDNN等版本隨時(shí)升級(jí)無需適配等特性。
解決方案
在ACK服務(wù)中實(shí)現(xiàn)共享GPU，靈活拆分。
提高GPU利用率，降低TCO。
應(yīng)用無需修改，保障多個(gè)容器共享同一個(gè)GPU時(shí)，彼此互相隔離。
架構(gòu)圖
參考鏈接
有關(guān)ACK實(shí)現(xiàn)GPU成本優(yōu)化的詳情，請(qǐng)參見ACK實(shí)現(xiàn)GPU成本優(yōu)化。
文檔內(nèi)容是否對(duì)您有幫助？