JAR作業(yè)開發(fā)實踐
更新時間:
本文介紹Lindorm計算引擎JAR作業(yè)開發(fā)的詳細步驟。
前提條件
已創(chuàng)建并開通Lindorm實例的寬表引擎,具體操作請參見創(chuàng)建實例。
已開通Lindorm實例的計算引擎服務(wù),具體操作請參見開通與變配。
已安裝Java環(huán)境,要求使用JDK 1.8及以上版本。
步驟一:依賴配置
Lindorm計算引擎JAR作業(yè)依賴社區(qū)版Spark 3.2.1版本,并且需要將scope
字段配置為provided
。示例如下:
<!-- Example -->
<dependency>
<groupId>org.apache.spark</groupId>
<artifactId>spark-core_2.12</artifactId>
<version>3.2.1</version>
<scope>provided</scope>
</dependency>
步驟二:權(quán)限配置
如果您需要通過Spark SQL的方式訪問Lindorm寬表引擎數(shù)據(jù),訪問方法請參見訪問寬表數(shù)據(jù),并且需要配置用戶名密碼,代碼示例如下:
SparkConf conf = new SparkConf();
conf.set("spark.sql.catalog.lindorm_table.username", "root");
conf.set("spark.sql.catalog.lindorm_table.password", "root");
參數(shù) | 參數(shù)值 | 說明 |
spark.sql.catalog.lindorm_table.username | 默認用戶名root。 | 訪問Lindorm寬表引擎的用戶名。 |
spark.sql.catalog.lindorm_table.password | 默認密碼root。 | 訪問Lindorm寬表引擎的密碼。 |
步驟三:參數(shù)配置
Lindorm計算引擎提供的配置項和配置方法請參見作業(yè)配置說明。
步驟四:代碼示例
JAR作業(yè)代碼開發(fā)方式完全兼容社區(qū)版Spark 3.2.1版本,代碼示例請參見Spark作業(yè)示例。
步驟五:作業(yè)提交
Lindorm計算引擎支持以下兩種方式提交并管理作業(yè)。
通過Lindorm控制臺提交作業(yè),操作方法請參見通過控制臺管理作業(yè)。
通過DMS提交作業(yè),操作方法請參見通過DMS管理作業(yè)。
文檔內(nèi)容是否對您有幫助?