創(chuàng)建Catalog

1. 創(chuàng)建Hologres Catalog。

   在實(shí)時(shí)計(jì)算控制臺(tái)SQL開(kāi)發(fā)頁(yè)面的查詢腳本頁(yè)簽，將如下代碼拷貝到查詢腳本，并修改目標(biāo)參數(shù)取值，選中目標(biāo)片段后單擊左側(cè)代碼行上的運(yùn)行。

   CREATE CATALOG dw WITH (
     'type' = 'hologres',
     'endpoint' = '<ENDPOINT>', 
     'username' = '<USERNAME>',
     'password' = '${secret_values.ak_holo}',
     'dbname' = 'order_dw',
     'binlog' = 'true', -- 創(chuàng)建catalog時(shí)可以設(shè)置源表、維表和結(jié)果表支持的with參數(shù)，之后在使用此catalog下的表時(shí)會(huì)默認(rèn)添加這些默認(rèn)參數(shù)。
     'sdkMode' = 'jdbc', -- 推薦使用jdbc模式。
     'cdcmode' = 'true',
     'connectionpoolname' = 'the_conn_pool',
     'ignoredelete' = 'true',  -- 寬表merge需要開(kāi)啟，防止回撤。
     'partial-insert.enabled' = 'true', -- 寬表merge需要開(kāi)啟此參數(shù)，實(shí)現(xiàn)部分列更新。
     'mutateType' = 'insertOrUpdate', -- 寬表merge需要開(kāi)啟此參數(shù)，實(shí)現(xiàn)部分列更新。
     'table_property.binlog.level' = 'replica', --也可以在創(chuàng)建catalog時(shí)傳入持久化的hologres表屬性，之后創(chuàng)建表時(shí)，默認(rèn)都開(kāi)啟binlog。
     'table_property.binlog.ttl' = '259200'
   );
   

   您需要修改以下參數(shù)取值為您實(shí)際Hologres服務(wù)信息。

   參數(shù)	說(shuō)明	備注
   endpoint	Hologres的Endpoint地址。	詳情請(qǐng)參見(jiàn)實(shí)例配置。
   username	阿里云賬號(hào)的AccessKey ID。	當(dāng)前配置的AccessKey對(duì)應(yīng)的用戶需要能夠訪問(wèn)所有的Hologres數(shù)據(jù)庫(kù)，Hologres數(shù)據(jù)庫(kù)權(quán)限請(qǐng)參見(jiàn)Hologres權(quán)限模型概述。 為了避免您的AK信息泄露，本示例通過(guò)使用名為ak_holo密鑰的方式填寫(xiě)AccessKey Secret取值，詳情請(qǐng)參見(jiàn)變量和密鑰管理。
   password	阿里云賬號(hào)的AccessKey Secret。

   說(shuō)明

   創(chuàng)建Catalog時(shí)可以設(shè)置默認(rèn)的源表、維表和結(jié)果表的WITH參數(shù)，也可以設(shè)置創(chuàng)建Hologres物理表的默認(rèn)屬性，例如上方table_property開(kāi)頭的參數(shù)。詳情請(qǐng)參見(jiàn)管理Hologres Catalog和實(shí)時(shí)數(shù)倉(cāng)Hologres WITH參數(shù)。

2. 創(chuàng)建MySQL Catalog。

   將如下代碼拷貝到查詢腳本，并修改目標(biāo)參數(shù)取值，選中目標(biāo)片段后單擊左側(cè)代碼行上的運(yùn)行。

   CREATE CATALOG mysqlcatalog WITH(
     'type' = 'mysql',
     'hostname' = '<hostname>',
     'port' = '<port>',
     'username' = '<username>',
     'password' = '${secret_values.mysql_pw}',
     'default-database' = 'order_dw'
   );

   您需要修改以下參數(shù)取值為您實(shí)際的MySQL服務(wù)信息。

   參數(shù)	說(shuō)明
   hostname	MySQL數(shù)據(jù)庫(kù)的IP地址或者Hostname。
   port	MySQL數(shù)據(jù)庫(kù)服務(wù)的端口號(hào)，默認(rèn)值為3306。
   username	MySQL數(shù)據(jù)庫(kù)服務(wù)的用戶名。
   password	MySQL數(shù)據(jù)庫(kù)服務(wù)的密碼。 本示例通過(guò)使用名為mysql_pw密鑰的方式填寫(xiě)密碼取值，避免信息泄露，詳情請(qǐng)參見(jiàn)變量和密鑰管理。

構(gòu)建ODS層：業(yè)務(wù)數(shù)據(jù)庫(kù)實(shí)時(shí)入倉(cāng)

基于Catalog的CREATE DATABASE AS（CDAS）語(yǔ)句功能，可以一次性把ODS層建出來(lái)。ODS層一般不直接做OLAP或SERVING（KV點(diǎn)查），主要作為流式作業(yè)的事件驅(qū)動(dòng)，開(kāi)啟binlog即可滿足需求。Binlog是Hologres的核心能力之一，Hologres連接器也支持先全量讀取再增量消費(fèi)Binlog的全增量模式。

1. 創(chuàng)建CDAS同步作業(yè)ODS。

   1. 在實(shí)時(shí)計(jì)算控制臺(tái)上，新建名為ODS的SQL流作業(yè)，并將如下代碼拷貝到SQL編輯器。

      CREATE DATABASE IF NOT EXISTS dw.order_dw   -- 創(chuàng)建catalog時(shí)設(shè)置了table_property.binlog.level參數(shù)，因此通過(guò)CDAS創(chuàng)建的所有表都開(kāi)啟了binlog。
      AS DATABASE mysqlcatalog.order_dw INCLUDING all tables -- 可以根據(jù)需要選擇上游數(shù)據(jù)庫(kù)需要入倉(cāng)的表。
      /*+ OPTIONS('server-id'='8001-8004') */ ;   -- 指定mysql-cdc源表。

      說(shuō)明

      本示例默認(rèn)將數(shù)據(jù)同步到數(shù)據(jù)庫(kù)order_dw的Public Schema下。您也可以將數(shù)據(jù)同步到Hologres目標(biāo)庫(kù)的指定Schema中，詳情請(qǐng)參見(jiàn)作為CDAS的目標(biāo)端Catalog，指定后使用Catalog時(shí)的表名格式也會(huì)發(fā)生變化，詳情請(qǐng)參見(jiàn)使用Hologres Catalog。

   2. 單擊右上方的部署，進(jìn)行作業(yè)部署。

   3. 單擊左側(cè)導(dǎo)航欄的作業(yè)運(yùn)維，單擊剛剛部署的ODS作業(yè)操作列的啟動(dòng)，選擇無(wú)狀態(tài)啟動(dòng)啟動(dòng)作業(yè)。

2. 查看MySQL同步到Hologres的3張表數(shù)據(jù)。

   在HoloWeb開(kāi)發(fā)頁(yè)面連接Hologres實(shí)例并登錄目標(biāo)數(shù)據(jù)庫(kù)后，在SQL編輯器上執(zhí)行如下命令。

   ---查orders中的數(shù)據(jù)。
   SELECT * FROM orders;
   
   ---查orders_pay中的數(shù)據(jù)。
   SELECT * FROM orders_pay;
   
   ---查product_catalog中的數(shù)據(jù)。
   SELECT * FROM product_catalog;

   

構(gòu)建DWD層：實(shí)時(shí)主題寬表

構(gòu)建DWD層用到了Hologres連接器特有的部分列更新能力，可以使用INSERT DML方便地表達(dá)部分列更新的語(yǔ)義。作業(yè)中需要對(duì)不同的維表進(jìn)行查詢，是基于Hologres行存以及行列共存表提供的高性能的點(diǎn)查能力。同時(shí)，Hologres資源強(qiáng)隔離的架構(gòu)，可以保證寫(xiě)入、讀取、分析等作業(yè)之間互不干擾。

1. 通過(guò)Flink Catalog功能在Hologres中建DWD層的寬表dwd_orders。

   在實(shí)時(shí)計(jì)算控制臺(tái)SQL開(kāi)發(fā)頁(yè)面的查詢腳本頁(yè)簽，將如下代碼拷貝到查詢腳本后，選中目標(biāo)片段后單擊左側(cè)代碼行上的運(yùn)行。

   -- 寬表字段要nullable，因?yàn)椴煌牧鲗?xiě)入到同一張結(jié)果表，每一列都可能出現(xiàn)null的情況。
   CREATE TABLE dw.order_dw.dwd_orders (
     order_id bigint not null,
     order_user_id string,
     order_shop_id bigint,
     order_product_id bigint,
     order_product_catalog_name string,
     order_fee numeric(20,2),
     order_create_time timestamp,
     order_update_time timestamp,
     order_state int,
     pay_id bigint,
     pay_platform int comment 'platform 0: phone, 1: pc', 
     pay_create_time timestamp,
     PRIMARY KEY(order_id) NOT ENFORCED
   );
   
   -- 支持通過(guò)catalog修改Hologres物理表屬性。
   ALTER TABLE dw.order_dw.dwd_orders SET (
     'table_property.binlog.ttl' = '604800' --修改binlog的超時(shí)時(shí)間為一周。
   );

2. 實(shí)現(xiàn)實(shí)時(shí)消費(fèi)ODS層orders、orders_pay表的binlog。

   在實(shí)時(shí)計(jì)算控制臺(tái)上，新建名為DWD的SQL作業(yè)，并將如下代碼拷貝到SQL編輯器后，部署并啟動(dòng)作業(yè)。通過(guò)如下SQL作業(yè)，orders表會(huì)與product_catalog表進(jìn)行維表關(guān)聯(lián)，將最終結(jié)果寫(xiě)入dwd_orders表中，實(shí)現(xiàn)數(shù)據(jù)的實(shí)時(shí)打?qū)挕?/p>

   BEGIN STATEMENT SET;
   
   INSERT INTO dw.order_dw.dwd_orders 
    (
      order_id,
      order_user_id,
      order_shop_id,
      order_product_id,
      order_fee,
      order_create_time,
      order_update_time,
      order_state,
      order_product_catalog_name
    ) SELECT o.*, dim.catalog_name 
      FROM dw.order_dw.orders as o
      LEFT JOIN dw.order_dw.product_catalog FOR SYSTEM_TIME AS OF proctime() AS dim
      ON o.product_id = dim.product_id;
   
   INSERT INTO dw.order_dw.dwd_orders 
     (pay_id, order_id, pay_platform, pay_create_time)
      SELECT * FROM dw.order_dw.orders_pay;
   
   END;

3. 查看寬表dwd_orders數(shù)據(jù)。

   在HoloWeb開(kāi)發(fā)頁(yè)面連接Hologres實(shí)例并登錄目標(biāo)數(shù)據(jù)庫(kù)后，在SQL編輯器上執(zhí)行如下命令。

   SELECT * FROM dwd_orders;

   

構(gòu)建DWS層：實(shí)時(shí)指標(biāo)計(jì)算

1. 通過(guò)Flink Catalog功能，在Hologres中創(chuàng)建dws層的聚合dws_users以及dws_shops。

   在實(shí)時(shí)計(jì)算控制臺(tái)SQL開(kāi)發(fā)頁(yè)面的查詢腳本頁(yè)簽，將如下代碼拷貝到查詢腳本后，選中目標(biāo)片段后單擊左側(cè)代碼行上的運(yùn)行。

   -- 用戶維度聚合指標(biāo)表。
   CREATE TABLE dw.order_dw.dws_users (
     user_id string not null,
     ds string not null,
     paied_buy_fee_sum numeric(20,2) not null comment '當(dāng)日完成支付的總金額',
     primary key(user_id,ds) NOT ENFORCED
   );
   
   -- 商戶維度聚合指標(biāo)表。
   CREATE TABLE dw.order_dw.dws_shops (
     shop_id bigint not null,
     ds string not null,
     paied_buy_fee_sum numeric(20,2) not null comment '當(dāng)日完成支付總金額',
     primary key(shop_id,ds) NOT ENFORCED
   );

2. 實(shí)時(shí)消費(fèi)DWD層的寬表dw.order_dw.dwd_orders，在Flink中做聚合計(jì)算，最終寫(xiě)入Hologres中的DWS表。

   在實(shí)時(shí)計(jì)算控制臺(tái)上，新建名為DWS的SQL流作業(yè)，并將如下代碼拷貝到SQL編輯器后，部署并啟動(dòng)作業(yè)。

   BEGIN STATEMENT SET;
   
   INSERT INTO dw.order_dw.dws_users
     SELECT 
       order_user_id,
       DATE_FORMAT (pay_create_time, 'yyyyMMdd') as ds,
       SUM (order_fee)
       FROM dw.order_dw.dwd_orders c
       WHERE pay_id IS NOT NULL AND order_fee IS NOT NULL -- 訂單流和支付流數(shù)據(jù)都已寫(xiě)入寬表。
       GROUP BY order_user_id, DATE_FORMAT (pay_create_time, 'yyyyMMdd');
   
   INSERT INTO dw.order_dw.dws_shops
     SELECT 
       order_shop_id,
       DATE_FORMAT (pay_create_time, 'yyyyMMdd') as ds,
       SUM (order_fee)
      FROM dw.order_dw.dwd_orders c
      WHERE pay_id IS NOT NULL AND order_fee IS NOT NULL -- 訂單流和支付流數(shù)據(jù)都已寫(xiě)入寬表。
      GROUP BY order_shop_id, DATE_FORMAT (pay_create_time, 'yyyyMMdd');
   END;

3. 查看DWS層的聚合結(jié)果，其結(jié)果會(huì)根據(jù)上游數(shù)據(jù)的變更實(shí)時(shí)更新。

   在HoloWeb開(kāi)發(fā)頁(yè)面連接Hologres實(shí)例并登錄目標(biāo)數(shù)據(jù)庫(kù)后，在SQL編輯器上執(zhí)行如下命令。

   • 查詢dws_users表結(jié)果。

     SELECT * FROM dws_users;

     

   • 查詢dws_shops表結(jié)果。

     SELECT * FROM dws_shops;

     

數(shù)據(jù)探查

因?yàn)殚_(kāi)啟了Binlog，所以可直接探查到數(shù)據(jù)的變化情況。如果對(duì)中間結(jié)果需要即席（Ad-hoc）性質(zhì)的業(yè)務(wù)數(shù)據(jù)探查，或者對(duì)最終計(jì)算結(jié)果進(jìn)行數(shù)據(jù)正確性排查，此方案的每一層數(shù)據(jù)都實(shí)現(xiàn)了持久化，可以便捷地探查中間過(guò)程。

• 流模式探查

  1. 新建并啟動(dòng)數(shù)據(jù)探查流作業(yè)。

     在實(shí)時(shí)計(jì)算控制臺(tái)上，新建名為Data-exploration的SQL流作業(yè)，并將如下代碼拷貝到SQL編輯器后，部署并啟動(dòng)作業(yè)。

     -- 流模式探查，打印到print可以看到數(shù)據(jù)的變化情況。
     CREATE TEMPORARY TABLE print_sink(
       order_id bigint not null,
       order_user_id string,
       order_shop_id bigint,
       order_product_id bigint,
       order_product_catalog_name string,
       order_fee numeric(20,2),
       order_create_time timestamp,
       order_update_time timestamp,
       order_state int,
       pay_id bigint,
       pay_platform int,
       pay_create_time timestamp,
       PRIMARY KEY(order_id) NOT ENFORCED
     ) WITH (
       'connector' = 'print'
     );
     
     INSERT INTO print_sink SELECT *
     FROM dw.order_dw.dwd_orders /*+ OPTIONS('startTime'='2023-02-15 12:00:00') */ --這里的startTime是binlog生成的時(shí)間
     WHERE order_user_id = 'user_001';

  2. 查看數(shù)據(jù)探查結(jié)果。

     在作業(yè)運(yùn)維詳情頁(yè)面，單擊目標(biāo)作業(yè)名稱(chēng)，在作業(yè)探查頁(yè)簽下左側(cè)運(yùn)行日志頁(yè)簽，單擊運(yùn)行Task Managers頁(yè)簽下的Path, ID。在Stdout頁(yè)面搜索user_001相關(guān)的日志信息。

     

• 批模式探查

  在實(shí)時(shí)計(jì)算控制臺(tái)上，創(chuàng)建SQL流作業(yè)，并將如下代碼拷貝到SQL編輯器后，單擊調(diào)試。詳情請(qǐng)參見(jiàn)作業(yè)調(diào)試。

  批模式探查是獲取當(dāng)前時(shí)刻的終態(tài)數(shù)據(jù)，在Flink作業(yè)開(kāi)發(fā)界面調(diào)試結(jié)果如下圖所示。

  SELECT *
  FROM dw.order_dw.dwd_orders /*+ OPTIONS('binlog'='false') */ 
  WHERE order_user_id = 'user_001' and order_create_time > '2023-02-15 12:00:00'; --批量模式支持filter下推，提升批作業(yè)執(zhí)行效率。