創建RDS MySQL實例并準備數據源

1. 創建RDS MySQL實例，詳情請參見創建RDS MySQL實例。

2. 創建數據庫和賬號。

   為目標實例創建名稱為order_dw的數據庫和具有對應數據庫讀寫權限的普通賬號。具體操作請參見創建數據庫和賬號和管理數據庫。

3. 準備MySQL CDC數據源。

   1. 在目標實例詳情頁面，單擊上方的登錄數據庫。

   2. 在彈出的DMS頁面中，填寫創建的數據庫賬號名和密碼，然后單擊登錄。

   3. 登錄成功后，在左側雙擊order_dw數據庫，切換數據庫。

   4. 在SQL Console區域編寫三張業務表的建表DDL以及插入的數據語句。

      CREATE TABLE `orders` (
        order_id bigint not null primary key,
        user_id varchar(50) not null,
        shop_id bigint not null,
        product_id bigint not null,
        buy_fee numeric(20,2) not null,   
        create_time timestamp not null,
        update_time timestamp not null default now(),
        state int not null 
      );
      
      
      CREATE TABLE `orders_pay` (
        pay_id bigint not null primary key,
        order_id bigint not null,
        pay_platform int not null,
        create_time timestamp not null
      );
      
      
      CREATE TABLE `product_catalog` (
        product_id bigint not null primary key,
        catalog_name varchar(50) not null
      );
      
      -- 準備數據
      INSERT INTO product_catalog VALUES(1, 'phone_aaa'),(2, 'phone_bbb'),(3, 'phone_ccc'),(4, 'phone_ddd'),(5, 'phone_eee');
      
      INSERT INTO orders VALUES
      (100001, 'user_001', 12345, 1, 5000.05, '2023-02-15 16:40:56', '2023-02-15 18:42:56', 1),
      (100002, 'user_002', 12346, 2, 4000.04, '2023-02-15 15:40:56', '2023-02-15 18:42:56', 1),
      (100003, 'user_003', 12347, 3, 3000.03, '2023-02-15 14:40:56', '2023-02-15 18:42:56', 1),
      (100004, 'user_001', 12347, 4, 2000.02, '2023-02-15 13:40:56', '2023-02-15 18:42:56', 1),
      (100005, 'user_002', 12348, 5, 1000.01, '2023-02-15 12:40:56', '2023-02-15 18:42:56', 1),
      (100006, 'user_001', 12348, 1, 1000.01, '2023-02-15 11:40:56', '2023-02-15 18:42:56', 1),
      (100007, 'user_003', 12347, 4, 2000.02, '2023-02-15 10:40:56', '2023-02-15 18:42:56', 1);
      
      INSERT INTO orders_pay VALUES
      (2001, 100001, 1, '2023-02-15 17:40:56'),
      (2002, 100002, 1, '2023-02-15 17:40:56'),
      (2003, 100003, 0, '2023-02-15 17:40:56'),
      (2004, 100004, 0, '2023-02-15 17:40:56'),
      (2005, 100005, 0, '2023-02-15 18:40:56'),
      (2006, 100006, 0, '2023-02-15 18:40:56'),
      (2007, 100007, 0, '2023-02-15 18:40:56');

4. 單擊執行，單擊直接執行。

創建Hologres實例和計算組

1. 創建獨享Hologres實例，詳情請參見購買Hologres。

   為了體驗Hologres通過讀寫分離實現資源強隔離的核心能力，本文以計算組型實例為例為您進行介紹。

2. 在HoloWeb頁面連接目標實例后，創建數據庫并授權。

   創建名為order_dw的數據庫（需要開啟簡單權限模型），并授予用戶admin權限。數據庫創建和授權操作，請參見DB管理。

   說明

   • 如果在被授權賬號的下拉列表找不到對應的賬號，則說明該賬號并未添加至當前實例，您需要前往用戶管理頁面添加用戶為SuperUser。

   • Hologres2.0之后版本默認開啟binlog擴展，無需手動執行。Hologres1.3版本在創建完數據庫后，需要執行create extension hg_binlog命令才能開啟binlog擴展。

3. 新增計算組。

   您可以通過不同的計算組實現資源隔離，使用初始計算組init_warehouse用于寫入數據，使用read_warehouse_1計算組用于服務查詢。

   預留計算資源會全部分配給初始計算組init_warehouse，需先減少計算組資源，再新增計算組。詳情請參見場景1：創建全新的計算組實例。

   1. 單擊安全中心 > 計算組管理，確認實例名為目標實例名稱。

   2. 單擊已有資源組init_warehouse操作列下的調整配置，調小資源后單擊確認。

   3. 單擊新增計算組，新增名稱為read_warehouse_1的計算組，單擊確認。

創建Flink工作空間和Catalog

1. 創建Flink工作空間，詳情請參見開通實時計算Flink版。

2. 登錄實時計算控制臺，單擊目標工作空間操作列下的控制臺。

3. 創建Session集群，為后續創建Catalog和查詢腳本提供執行環境，詳情請參見步驟一：創建Session集群。

4. 創建Hologres Catalog。

   在數據開發 > 數據查詢頁面的查詢腳本頁簽，將如下代碼拷貝到查詢腳本，并修改目標參數取值，選中目標片段后單擊左側代碼行上的運行。

   CREATE CATALOG dw WITH (
     'type' = 'hologres',
     'endpoint' = '<ENDPOINT>', 
     'username' = '<USERNAME>',
     'password' = '<PASSWORD>',
     'dbname' = 'order_dw@init_warehouse', --數據庫名稱，并指定連接init_warehouse計算組。
     'binlog' = 'true', -- 創建catalog時可以設置源表、維表和結果表支持的with參數，之后在使用此catalog下的表時會默認添加這些默認參數。
     'sdkMode' = 'jdbc', -- 推薦使用jdbc模式。
     'cdcmode' = 'true',
     'connectionpoolname' = 'the_conn_pool',
     'ignoredelete' = 'true',  -- 寬表merge需要開啟，防止回撤。
     'partial-insert.enabled' = 'true', -- 寬表merge需要開啟此參數，實現部分列更新。
     'mutateType' = 'insertOrUpdate', -- 寬表merge需要開啟此參數，實現部分列更新。
     'table_property.binlog.level' = 'replica', --也可以在創建catalog時傳入持久化的hologres表屬性，之后創建表時，默認都開啟binlog。
     'table_property.binlog.ttl' = '259200'
   );

   您需要修改以下參數取值為您實際Hologres服務信息。

   參數	說明	備注
   endpoint	Hologres的Endpoint地址。	詳情請參見實例配置。
   username	阿里云賬號的AccessKey ID。	當前配置的AccessKey對應的用戶需要能夠訪問所有的Hologres數據庫，Hologres數據庫權限請參見Hologres權限模型概述。
   password	阿里云賬號的AccessKey Secret。

   說明

   創建Catalog時可以設置默認的源表、維表和結果表的WITH參數，也可以設置創建Hologres物理表的默認屬性，例如上方table_property開頭的參數。詳情請參見管理Hologres Catalog和實時數倉Hologres WITH參數。

5. 創建MySQL Catalog。

   將如下代碼拷貝到查詢腳本，并修改目標參數取值，選中目標片段后單擊左側代碼行上的運行。

   CREATE CATALOG mysqlcatalog WITH(
     'type' = 'mysql',
     'hostname' = '<hostname>',
     'port' = '<port>',
     'username' = '<username>',
     'password' = '<password>',
     'default-database' = 'order_dw'
   );

   您需要修改以下參數取值為您實際的MySQL服務信息。

   參數	說明
   hostname	MySQL數據庫的IP地址或者Hostname。
   port	MySQL數據庫服務的端口號，默認值為3306。
   username	MySQL數據庫服務的用戶名。
   password	MySQL數據庫服務的密碼。

構建ODS層：業務數據庫實時入倉

基于Catalog的CREATE DATABASE AS（CDAS）語句功能，可以一次性把ODS層建出來。ODS層一般不直接做OLAP或SERVING（KV點查），主要作為流式作業的事件驅動，開啟binlog即可滿足需求。Binlog是Hologres的核心能力之一，Hologres連接器也支持先全量讀取再增量消費Binlog的全增量模式。

1. 創建CDAS同步作業ODS。

   1. 在數據開發 > ETL頁面，新建名為ODS的SQL流作業，并將如下代碼拷貝到SQL編輯器。

      CREATE DATABASE IF NOT EXISTS dw.order_dw   -- 創建catalog時設置了table_property.binlog.level參數，因此通過CDAS創建的所有表都開啟了binlog。
      AS DATABASE mysqlcatalog.order_dw INCLUDING all tables -- 可以根據需要選擇上游數據庫需要入倉的表。
      /*+ OPTIONS('server-id'='8001-8004') */ ;   -- 指定mysql-cdc實例server-id范圍。

      說明

      • 本示例默認將數據同步到數據庫order_dw的Public Schema下。您也可以將數據同步到Hologres目標庫的指定Schema中，詳情請參見作為CDAS的目標端Catalog，指定后使用Catalog時的表名格式也會發生變化，詳情請參見使用Hologres Catalog。

      • 如果源表的數據結構發生變化，則需要等待源表的數據出現變更（刪除、插入、更新），結果表的數據結構才會看到變化。

   2. 單擊右上方的部署，進行作業部署。

   3. 單擊左側導航欄的運維中心 > 作業運維，單擊剛剛部署的ODS作業操作列的啟動，選擇無狀態啟動后單擊啟動。

2. 向計算組加載數據。

   Table Group是Hologres中數據的載體。使用read_warehouse_1查詢order_dw數據庫中Table Group（本示例為order_dw_tg_default）的數據時，為計算組read_warehouse_1加載order_dw_tg_default，以實現使用init_warehouse計算組寫入數據，使用read_warehouse_1計算組進行服務查詢。

   在HoloWeb開發頁單擊SQL編輯器，確認實例名和數據庫名稱后，執行如下命令。更多詳情請參見場景1：創建全新的計算組實例。加載后，可以查看到read_warehouse_1已經加載了order_dw_tg_default Table Group的數據。

   --查看當前數據庫有哪些Table Group
   SELECT tablegroup_name FROM hologres.hg_table_group_properties GROUP BY tablegroup_name;
   
   --為計算組加載Table Group
   CALL hg_table_group_load_to_warehouse ('order_dw.order_dw_tg_default', 'read_warehouse_1', 1);
   
   --查看計算組加載Table Group的情況
   select * from hologres.hg_warehouse_table_groups;

3. 在右上角切換計算組為read_warehouse_1，后續使用read_warehouse_1進行查詢分析。

   

4. 在HoloWeb中執行如下命令，查看MySQL同步到Hologres的3張表數據。

   ---查orders中的數據。
   SELECT * FROM orders;
   
   ---查orders_pay中的數據。
   SELECT * FROM orders_pay;
   
   ---查product_catalog中的數據。
   SELECT * FROM product_catalog;

   

構建DWD層：實時主題寬表

構建DWD層用到了Hologres連接器特有的部分列更新能力，可以使用INSERT DML方便地表達部分列更新的語義。作業中需要對不同的維表進行查詢，是基于Hologres行存以及行列共存表提供的高性能的點查能力。同時，Hologres資源強隔離的架構，可以保證寫入、讀取、分析等作業之間互不干擾。

1. 通過Flink Catalog功能在Hologres中建DWD層的寬表dwd_orders。

   在數據開發 > 數據查詢頁面的查詢腳本頁簽，將如下代碼拷貝到查詢腳本后，選中目標片段后單擊左側代碼行上的運行。

   -- 寬表字段要nullable，因為不同的流寫入到同一張結果表，每一列都可能出現null的情況。
   CREATE TABLE dw.order_dw.dwd_orders (
     order_id bigint not null,
     order_user_id string,
     order_shop_id bigint,
     order_product_id bigint,
     order_product_catalog_name string,
     order_fee numeric(20,2),
     order_create_time timestamp,
     order_update_time timestamp,
     order_state int,
     pay_id bigint,
     pay_platform int comment 'platform 0: phone, 1: pc', 
     pay_create_time timestamp,
     PRIMARY KEY(order_id) NOT ENFORCED
   );
   
   -- 支持通過catalog修改Hologres物理表屬性。
   ALTER TABLE dw.order_dw.dwd_orders SET (
     'table_property.binlog.ttl' = '604800' --修改binlog的超時時間為一周。
   );

2. 實現實時消費ODS層orders、orders_pay表的binlog。

   在數據開發 > ETL頁面，新建名為DWD的SQL流作業，并將如下代碼拷貝到SQL編輯器后，部署并啟動作業。通過如下SQL作業，orders表會與product_catalog表進行維表關聯，將最終結果寫入dwd_orders表中，實現數據的實時打寬。

   BEGIN STATEMENT SET;
   
   INSERT INTO dw.order_dw.dwd_orders 
    (
      order_id,
      order_user_id,
      order_shop_id,
      order_product_id,
      order_fee,
      order_create_time,
      order_update_time,
      order_state,
      order_product_catalog_name
    ) SELECT o.*, dim.catalog_name 
      FROM dw.order_dw.orders as o
      LEFT JOIN dw.order_dw.product_catalog FOR SYSTEM_TIME AS OF proctime() AS dim
      ON o.product_id = dim.product_id;
   
   INSERT INTO dw.order_dw.dwd_orders 
     (pay_id, order_id, pay_platform, pay_create_time)
      SELECT * FROM dw.order_dw.orders_pay;
   
   END;

3. 查看寬表dwd_orders數據。

   在HoloWeb開發頁面連接Hologres實例并登錄目標數據庫后，在SQL編輯器上執行如下命令。

   SELECT * FROM dwd_orders;

   

構建DWS層：實時指標計算

1. 通過Flink Catalog功能，在Hologres中創建dws層的聚合dws_users以及dws_shops。

   在數據開發 > 數據查詢頁面的查詢腳本頁簽，將如下代碼拷貝到查詢腳本后，選中目標片段后單擊左側代碼行上的運行。

   -- 用戶維度聚合指標表。
   CREATE TABLE dw.order_dw.dws_users (
     user_id string not null,
     ds string not null,
     paied_buy_fee_sum numeric(20,2) not null comment '當日完成支付的總金額',
     primary key(user_id,ds) NOT ENFORCED
   );
   
   -- 商戶維度聚合指標表。
   CREATE TABLE dw.order_dw.dws_shops (
     shop_id bigint not null,
     ds string not null,
     paied_buy_fee_sum numeric(20,2) not null comment '當日完成支付總金額',
     primary key(shop_id,ds) NOT ENFORCED
   );

2. 實時消費DWD層的寬表dw.order_dw.dwd_orders，在Flink中做聚合計算，最終寫入Hologres中的DWS表。

   在數據開發 > ETL頁面，新建名為DWS的SQL流作業，并將如下代碼拷貝到SQL編輯器后，部署并啟動作業。

   BEGIN STATEMENT SET;
   
   INSERT INTO dw.order_dw.dws_users
     SELECT 
       order_user_id,
       DATE_FORMAT (pay_create_time, 'yyyyMMdd') as ds,
       SUM (order_fee)
       FROM dw.order_dw.dwd_orders c
       WHERE pay_id IS NOT NULL AND order_fee IS NOT NULL -- 訂單流和支付流數據都已寫入寬表。
       GROUP BY order_user_id, DATE_FORMAT (pay_create_time, 'yyyyMMdd');
   
   INSERT INTO dw.order_dw.dws_shops
     SELECT 
       order_shop_id,
       DATE_FORMAT (pay_create_time, 'yyyyMMdd') as ds,
       SUM (order_fee)
      FROM dw.order_dw.dwd_orders c
      WHERE pay_id IS NOT NULL AND order_fee IS NOT NULL -- 訂單流和支付流數據都已寫入寬表。
      GROUP BY order_shop_id, DATE_FORMAT (pay_create_time, 'yyyyMMdd');
   END;

3. 查看DWS層的聚合結果，其結果會根據上游數據的變更實時更新。

   1. 在Hologres控制臺查看變更前數據

      • 查詢dws_users表結果。

        SELECT * FROM dws_users;

        

      • 查詢dws_shops表結果。

        SELECT * FROM dws_shops;

        

   2. 在RDS控制臺向order_dw數據庫orders和orders_pay表中分別插入1條新數據。

      INSERT INTO orders VALUES
      (100008, 'user_003', 12345, 5, 6000.02, '2023-02-15 09:40:56', '2023-02-15 18:42:56', 1);
      
      INSERT INTO orders_pay VALUES
      (2008, 100008, 1, '2023-02-15 19:40:56');

   3. 在Hologres控制臺查看變更后的數據。

      • dwd_orders表

        

      • dws_users表

        

      • dws_shops表

        

數據探查

因為開啟了Binlog，所以可直接探查到數據的變化情況。如果對中間結果需要即席（Ad-hoc）性質的業務數據探查，或者對最終計算結果進行數據正確性排查，此方案的每一層數據都實現了持久化，可以便捷地探查中間過程。

• 流模式探查

  1. 新建并啟動數據探查流作業。

     在數據開發 > ETL頁面，新建名為Data-exploration的SQL流作業，并將如下代碼拷貝到SQL編輯器后，部署并啟動作業。

     -- 流模式探查，打印到print可以看到數據的變化情況。
     CREATE TEMPORARY TABLE print_sink(
       order_id bigint not null,
       order_user_id string,
       order_shop_id bigint,
       order_product_id bigint,
       order_product_catalog_name string,
       order_fee numeric(20,2),
       order_create_time timestamp,
       order_update_time timestamp,
       order_state int,
       pay_id bigint,
       pay_platform int,
       pay_create_time timestamp,
       PRIMARY KEY(order_id) NOT ENFORCED
     ) WITH (
       'connector' = 'print'
     );
     
     INSERT INTO print_sink SELECT *
     FROM dw.order_dw.dwd_orders /*+ OPTIONS('startTime'='2023-02-15 12:00:00') */ --這里的startTime是binlog生成的時間
     WHERE order_user_id = 'user_001';

  2. 查看數據探查結果。

     在運維中心 > 作業運維詳情頁面，單擊目標作業名稱，在作業日志頁簽下左側運行日志頁簽，單擊運行Task Managers頁簽下的Path, ID。在Stdout頁面搜索user_001相關的日志信息。

     

• 批模式探查

  在數據開發 > ETL頁面，創建SQL流作業，并將如下代碼拷貝到SQL編輯器后，單擊調試。詳情請參見作業調試。

  批模式探查是獲取當前時刻的終態數據，在Flink作業開發界面調試結果如下圖所示。

  SELECT *
  FROM dw.order_dw.dwd_orders /*+ OPTIONS('binlog'='false') */ 
  WHERE order_user_id = 'user_001' and order_create_time > '2023-02-15 12:00:00'; --批量模式支持filter下推，提升批作業執行效率。

  

Key-Value服務

根據主鍵查詢DWS層的聚合指標表，支持百萬級RPS。

在HoloWeb開發頁面查詢指定用戶指定日期的消費額的代碼示例如下。

-- holo sql
SELECT * FROM dws_users WHERE user_id ='user_001' AND ds = '20230215';

明細查詢

對DWD層寬表進行OLAP分析。

在HoloWeb開發頁面查詢某個客戶23年2月特定支付平臺支付的訂單明細的代碼示例如下。

-- holo sql
SELECT * FROM dwd_orders
WHERE order_create_time >= '2023-02-01 00:00:00'  and order_create_time < '2023-03-01 00:00:00'
AND order_user_id = 'user_001'
AND pay_platform = 0
ORDER BY order_create_time LIMIT 100;

實時報表

基于DWD層寬表數據展示實時報表，Hologres的行列共存以及列存表有非常優秀的OLAP分析能力，支持秒級響應。

在HoloWeb開發頁面查詢23年2月內每個品類的訂單總量和訂單總金額的代碼示例如下。

-- holo sql
SELECT
  TO_CHAR(order_create_time, 'YYYYMMDD') AS order_create_date,
  order_product_catalog_name,
  COUNT(*),
  SUM(order_fee)
FROM
  dwd_orders
WHERE
  order_create_time >= '2023-02-01 00:00:00'  and order_create_time < '2023-03-01 00:00:00'
GROUP BY
  order_create_date, order_product_catalog_name
ORDER BY
  order_create_date, order_product_catalog_name;