依賴高版本CUDA的應(yīng)用程序在低版本CUDA環(huán)境中運(yùn)行時(shí)報(bào)錯(cuò)
對(duì)于Linux操作系統(tǒng)虛擬化型GPU實(shí)例，安裝了GRID驅(qū)動(dòng)和低版本的CUDA后，可能會(huì)因?yàn)镃UDA版本受限于GPU的驅(qū)動(dòng)版本，導(dǎo)致依賴高版本CUDA的應(yīng)用程序在該低版本CUDA環(huán)境中運(yùn)行時(shí)報(bào)錯(cuò)，本文介紹這種情況的解決方案。
問(wèn)題現(xiàn)象
對(duì)于Linux操作系統(tǒng)虛擬化型GPU實(shí)例，安裝了GRID驅(qū)動(dòng)和低版本的CUDA（例如版本為11.4）后，運(yùn)行依賴高版本CUDA的應(yīng)用程序（本文以依賴CUDA 12.2版本的matrixMul應(yīng)用程序?yàn)槔r(shí)報(bào)錯(cuò)，提示信息如下：
問(wèn)題原因
由于CUDA版本受限于GPU的驅(qū)動(dòng)版本，對(duì)應(yīng)關(guān)系請(qǐng)參見(jiàn)驅(qū)動(dòng)版本與CUDA版本的對(duì)應(yīng)表，從而導(dǎo)致依賴高版本CUDA（例如CUDA 12.2）的應(yīng)用程序無(wú)法在低版本CUDA（例如CUDA 11.4）環(huán)境中運(yùn)行。本文采用升級(jí)CUDA兼容工具包的方法來(lái)解決低版本CUDA環(huán)境能正常運(yùn)行依賴高版本CUDA的應(yīng)用程序。
解決方案
本方案以Ubuntu 20.04操作系統(tǒng)GPU實(shí)例為例。
遠(yuǎn)程連接Linux操作系統(tǒng)GPU實(shí)例。
具體操作，請(qǐng)參見(jiàn)通過(guò)密碼或密鑰認(rèn)證登錄Linux實(shí)例。
執(zhí)行以下命令，下載CUDA 12.2兼容工具包。
本示例以下載Ubuntu 20.04系統(tǒng)X86_64架構(gòu)的兼容工具包為例，您可以根據(jù)GPU實(shí)例的操作系統(tǒng)版本和架構(gòu)從CUDA兼容包下載地址中選擇匹配的兼容工具包下載即可。
sudo wget https://developer.download.nvidia.cn/compute/cuda/repos/ubuntu2004/x86_64/cuda-compat-12-2_535.104.05-1_amd64.deb執(zhí)行以下命令，從指定
.deb文件提取文件并解壓縮到指定目錄。重要本示例以解壓到
/home目錄為例，請(qǐng)?zhí)鎿Q為您的實(shí)際目錄路徑。sudo dpkg -x cuda-compat-12-2_535.104.05-1_amd64.deb /home依次執(zhí)行以下命令，配置高版本CUDA的環(huán)境變量。
sudo echo "export LD_LIBRARY_PATH=/home/usr/local/cuda-12.2/compat:$LD_LIBRARY_PATH" >> ~/.bashrc source ~/.bashrc執(zhí)行應(yīng)用程序驗(yàn)證運(yùn)行是否正常。
本示例以執(zhí)行
matrixMul應(yīng)用程序?yàn)槔@示如下圖所示，表示應(yīng)用程序運(yùn)行成功。