日本熟妇hd丰满老熟妇,中文字幕一区二区三区在线不卡 ,亚洲成片在线观看,免费女同在线一区二区

文檔

Redshift節點

更新時間:

DataWorks的Redshift節點可進行Redshift任務的開發和周期性調度,以及與其他作業的集成操作。本文為您介紹使用Redshift節點進行任務開發的主要流程。

背景信息

Amazon Redshift是云平臺的一種完全托管的PB級數據倉庫服務。您無需對預置數據倉庫執行任何配置操作,便可通過Amazon Redshift Serverless訪問及分析數據。更多介紹請參見Amazon Redshift

前提條件

  • 已創建業務流程。

    數據開發(DataStudio)基于業務流程執行不同引擎的具體開發操作,因此,創建節點前需先創建業務流程,操作詳情請參見創建業務流程

  • 已創建Redshift數據源。

    您需先將您的Redshift數據庫創建為DataWorks的Redshift數據源,才可通過該數據源訪問相應數據庫的數據。創建數據源,請參見創建并管理數據源;關于Redshift數據源在DataWorks的使用介紹,請參見Amazon Redshift數據源

    說明

    Redshift節點僅支持使用JDBC連接串方式創建的Redshift數據源。

  • 已連通數據源與資源組的網絡。

    您需確保該數據源與所使用的資源組網絡連通。網絡連通配置,請參見配置資源組與網絡連通

  • (可選,RAM賬號需要)進行任務開發的RAM賬號已被添加至對應工作空間中,并具有開發空間管理員(權限較大,謹慎添加)角色權限。添加成員并授權,詳情請參見為工作空間添加空間成員

步驟一:創建Redshift節點

  1. 進入數據開發頁面。

    登錄DataWorks控制臺,切換至目標地域后,單擊左側導航欄的數據建模與開發 > 數據開發,在下拉框中選擇對應工作空間后單擊進入數據開發

  2. 右鍵單擊目標業務流程,選擇新建節點 > 數據庫 > Redshift

  3. 新建節點對話框輸入節點名稱,單擊確認。節點創建完成,您可在節點中進行對應任務的開發與配置。

步驟二:開發Redshift任務

(可選)選擇Redshift數據源

如果您的工作空間創建了多個Redshift數據源,需先在Redshift節點編輯頁面選擇合適的數據源。如果僅創建了一個Redshift數據源,默認使用該數據源進行開發操作。

說明

Redshift節點僅支持使用JDBC連接串方式創建的Redshift數據源。

開發SQL代碼:簡單示例

在Redshift節點的代碼編輯區域編寫要執行的任務,示例代碼如下。

SELECT * FROM usertablename;

開發SQL代碼:使用調度參數

DataWorks提供的調度參數可實現周期調度場景下代碼動態入參,您可在節點任務中通過${變量名}的方式定義代碼中的變量,并在節點編輯頁面右側導航欄的調度配置>調度參數,為該變量賦值。調度參數支持的格式及配置詳情,請參見調度參數支持的格式配置并使用調度參數

示例代碼如下。

SELECT '${var}'; --可結合調度參數使用。

步驟三:配置任務調度

如您需要周期性執行創建的節點任務,可單擊節點編輯頁面右側的調度配置,根據業務需求配置該節點任務的調度信息。配置詳情請參見任務調度屬性配置概述

說明

您需要設置節點的重跑屬性依賴的上游節點,才可以提交節點。

步驟四:調試任務代碼

您可根據需要執行如下調試操作,查看任務是否符合預期。

  1. (可選)選擇運行資源組、賦值自定義參數取值。

    • 單擊工具欄的高級運行圖標,在參數對話框選擇調試運行需使用的調度資源組。

    • 如您的任務代碼中有使用調度參數變量,可在此處為變量賦值,用于調試。參數賦值邏輯,詳情請參見任務調試流程

  2. 保存并運行SQL語句。

    單擊工具欄的保存圖標,保存編寫的SQL語句,單擊運行圖標,運行創建的SQL任務。

  3. (可選)冒煙測試。

    如您希望在開發環境進行冒煙測試,查看調度節點任務的執行是否符合預期,則可在節點提交時,或節點提交后執行冒煙測試,操作詳情請參見執行冒煙測試

步驟五:提交發布任務

節點任務配置完成后,需執行提交發布操作,提交發布后節點即會根據調度配置內容進行周期性運行。

  1. 單擊工具欄中的保存圖標,保存節點。

  2. 單擊工具欄中的提交圖標,提交節點任務。

    提交時需在提交對話框中輸入變更描述,并根據需要選擇是否在節點提交后執行代碼評審。

    說明
    • 您需設置節點的重跑屬性依賴的上游節點,才可提交節點。

    • 代碼評審可對任務的代碼質量進行把控,防止由于任務代碼有誤,未經審核直接發布上線后出現任務報錯。如進行代碼評審,則提交的節點代碼必須通過評審人員的審核才可發布,詳情請參見代碼評審

如您使用的是標準模式的工作空間,任務提交成功后,需單擊節點編輯頁面右上方的發布,將該任務發布至生產環境執行,操作請參見發布任務

后續步驟

任務運維:任務提交發布后,會基于節點的配置周期性運行,您可單擊節點編輯界面右上角的運維,進入運維中心查看周期任務的調度運行情況。詳情請參見查看并管理周期任務