當您需要在云原生多模數據庫 Lindorm中高效管理計算引擎的資源時,本文檔將指導您如何創建計算資源組,并對每個資源組進行配置,以實現資源隔離,優化資源分配,并確保作業按照預期性能運行。
前提條件
已開通計算引擎。如何開通,請參見開通與變配。
創建和管理資源組
登錄Lindorm管理控制臺。在左上角選擇實例所屬的地域。在實例列表頁,單擊目標實例ID或者目標實例所在行操作列的管理。
在實例詳情頁的配置信息區域,單擊計算引擎操作列的資源組管理。
在資源組詳情頁中單擊創建資源組,配置以下內容:
資源組名稱:資源組的名字,僅支持小寫字母和數字,且長度不超過63個字符。例如
cg0
。資源組類型:支持ETL資源組和OLAP資源組。
其他配置項:
ETL資源組
ETL資源組面向數據湖或數據倉庫生產場景,提供大規模數據集高吞吐計算能力,彈性計算資源池按需伸縮。
參數
說明
使用示例
單日資源消耗限額(DAILY_QUOTA)
資源組每日消耗的能力單元CU(Capacity Unit)資源上限,單位為
CU*Hour
。默認值為0
,表示無限制。重要超出上限,作業會被強制立即刪除(穩定性要求高的資源組不建議配置 DAILY_QUOTA)。
{ "MAX_CPU": "2000", "MAX_MEM": "16000G" }
CPU上限(核)(MAX_CPU)
資源組CPU上限。取值范圍:[100,100000]。
內存上限(GB)(MAX_MEM)
資源組內存上限,單位為GB。取值范圍:[400G,1000000G],無默認值。
說明配置屬性
MAX_MEM
輸入單位時縮寫為G
,例如16000G
。OLAP資源組
OLAP資源組面向查詢分析場景,適用于100 GB以下低時延查詢場景,具備高并發查詢響應能力。
參數
說明
節點規格
選擇節點規格。
作業工作節點數(WORKERS)
作業工作節點數,每個節點規格為8核64 GB。取值范圍:[4,1024],默認值為
4
。使用示例如下:
{ "WORKERS": "4" }
說明計算引擎開通后會自動創建一個名稱為
default
的資源組,類型為ETL。default
資源組僅支持修改屬性配置不支持刪除和重啟。
在資源組詳情頁中,您可以編輯、刪除或重啟已創建的資源組。
使用資源組
以下介紹如何使用ETL資源組和OLAP資源組。
使用ETL資源組
ETL資源組可以根據不同訪問方式配置參數compute-group指定資源組名稱的方式使用。以下分別介紹幾個主要應用場景中,通過參數配置ETL資源組。
訪問方式 | 配置資源組 |
在配置管理作業時,在作業配置區域內Spark系統參數配置(configs)中添加參數,語法: | |
在發布周期性作業時,在Spark系統參數配置(conf)中添加參數,語法: | |
在Lindorm計算引擎的JDBC連接地址(endpoint)中添加參數指定計算資源組,語法: |
使用OLAP資源組
OLAP資源組可以通過Lindorm-cli或JDBC方式連接使用。以下介紹如何通過參數配置OLAP資源組。
Lindorm-cli
通過Lindorm-cli使用計算引擎前,請確保已安裝Java環境,要求安裝JDK 1.8及以上版本。
步驟一:安裝Lindorm-cli
根據您的操作系統,下載對應的Lindorm-cli安裝包。下載鏈接如下表所示。
操作系統
下載鏈接
Linux
Mac
Windows
Linux-arm64
解壓Lindorm-cli壓縮包。
以Linux操作系統為例,執行以下命令解壓。
tar zxvf lindorm-cli-linux-latest.tar.gz
解壓后
lindorm-cli-linux-latest
文件夾中為lindorm-cli.exe
文件。
步驟二:連接寬表引擎
跳轉至
Lindorm-cli.exe
所在目錄。cd <Lindorm-cli.exe所在目錄>
執行以下語句連接寬表引擎。
./lindorm-cli -url <jdbc url> -username <用戶名> -password <密碼>
參數說明
參數
示例值
獲取方法
jdbc url
jdbc:lindorm:table:url=http://ld-bp17j28j2y7pm****-proxy-lindorm-pub.lindorm.rds.aliyuncs.com:30060
Lindorm寬表SQL的連接地址,獲取方法請參見訪問實例。
用戶名
user
如果您忘記用戶名密碼,可以通過Lindorm寬表引擎的集群管理系統修改密碼,具體操作請參見修改用戶密碼。
重要修改密碼后,請通過控制臺重啟引擎。
密碼
test
您也可以在連接寬表引擎時,通過在jdbc url后添加
?_use_ldps_=true&compute-group=<OLAP資源組名稱>
,并在jdbc url參數前后添加半角雙引號(""),來指定使用OLAP資源組。具體示例如下:./lindorm-cli -url "jdbc:lindorm:table:url=http://ld-bp12pt80qr38p****-proxy-lindorm-pub.lindorm.rds.aliyuncs.com:30060?_use_ldps_=true&compute-group=test" -username r*** -password t***
連接成功將返回如下結果:
Connected to jdbc:lindorm:table:url=http://ld-bp17j28j2y7pm****-proxy-lindorm-pub.lindorm.rds.aliyuncs.com:30060 lindorm-cli version: 1.0.xx
其中,
1.0.xx
為Lindorm-cli的版本號。
打開命令提示符(CMD),跳轉至
lindorm-cli.exe
的所在目錄下。cd <lindorm-cli.exe所在目錄>
在CMD上執行以下語句連接寬表引擎。
lindorm-cli -url <jdbc url> -username <用戶名> -password <密碼>
參數說明
參數
示例值
獲取方法
jdbc url
jdbc:lindorm:table:url=http://ld-bp17j28j2y7pm****-proxy-lindorm-pub.lindorm.rds.aliyuncs.com:30060
Lindorm寬表SQL的連接地址,獲取方法請參見訪問實例。
用戶名
user
如果您忘記用戶名密碼,可以通過Lindorm寬表引擎的集群管理系統修改密碼,具體操作請參見修改用戶密碼。
重要修改密碼后,請通過控制臺重啟引擎。
密碼
test
您也可以在連接寬表引擎時,通過在jdbc url后添加
?_use_ldps_=true&compute-group=<OLAP資源組名稱>
,并在jdbc url參數前后添加半角雙引號(""),來指定使用OLAP資源組。具體示例如下:./lindorm-cli -url "jdbc:lindorm:table:url=http://ld-bp12pt80qr38p****-proxy-lindorm-pub.lindorm.rds.aliyuncs.com:30060?_use_ldps_=true&compute-group=test" -username r*** -password t***
連接成功將返回如下結果:
Connected to jdbc:lindorm:table:url=http://ld-bp17j28j2y7pm****-proxy-lindorm-pub.lindorm.rds.aliyuncs.com:30060 lindorm-cli version: 1.0.xx
其中,
1.0.xx
為Lindorm-cli的版本號。
步驟三:使用OLAP資源組
請根據您連接寬表引擎的方式,選擇對應的使用方式。如果連接地址中添加了?_use_ldps_=true&compute-group=<OLAP資源組名稱>
參數,則已指定了OLAP資源組,反之則未指定。
已指定OLAP資源組
SELECT * FROM <Catalog名稱>.<目標數據庫名>.<目標表名>;
說明支持的Catalog及其說明,請參見使用須知。
如果您使用默認數據庫
default
,通過Lindorm-cli查詢數據時需要為其添加反引號`
。例如:SELECT * FROM lindorm_columnar.`default`.test_table;
未指定OLAP資源組
您可以通過在查詢語句中添加相關HINT參數,來指定需要使用的OLAP資源組。示例如下:
SELECT /*+ _use_ldps_(<OLAP資源組名稱>), _columnar_index_ */ * FROM <目標數據庫名>.<目標表名> LIMIT 50;
參數說明
HINT名稱
HINT選項
描述
_use_ldps_
資源組名稱
使用計算引擎查詢,以及查詢要使用的資源組名稱。
_columnar_index_
無
是否使用列存索引。
說明不填寫
_columnar_index_
時默認讀寫寬表引擎。示例
使用計算引擎的
test
資源組,查詢寬表引擎數據庫searchindex_db
中名為search_table
的表。SELECT /*+ _use_ldps_(test) */ * FROM searchindex_db.search_table LIMIT 50;
JDBC
通過JDBC連接計算引擎時,只需在連接寬表引擎的URL中指定參數_use_ldps_=true&compute-group=<OLAP資源組名稱>
即可。通過JDBC連接寬表引擎,請參見基于SQL的應用開發。