日本熟妇hd丰满老熟妇,中文字幕一区二区三区在线不卡 ,亚洲成片在线观看,免费女同在线一区二区

使用數據傳輸遷移數據

您可以通過數據遷移功能實時遷移其他數據源的數據至 OceanBase 數據庫,以及遷移 OceanBase 數據庫的數據至其他數據源。本文以遷移 MySQL 數據庫的數據至 OceanBase 數據庫為例,介紹如何使用數據傳輸遷移數據。

前提條件

在遷移數據之前,您需要確認以下信息:

  • 數據傳輸已具備云資源訪問權限。詳情請參見 數據傳輸遷移角色授權

  • 您已創建源端和目標端的數據源。詳情請參見 新建數據源 模塊的內容。

  • 源數據庫和目標數據庫均可以連通網絡。

  • 您已為源端 MySQL 數據庫和目標端 OceanBase 數據庫的 MySQL 租戶創建專用于數據遷移的數據庫用戶,并賦予其相關權限。詳情請參見 創建數據庫用戶

  • 已開啟 Binlog,詳情請參見 管理本地日志(Binlog)

操作步驟

說明

本文以遷移 MySQL 數據庫的數據至 OceanBase 數據庫為例,更多詳情請參見 數據遷移 模塊的內容。

  1. 登錄 OceanBase 管理控制臺,購買數據遷移任務。

    詳情請參見 購買數據遷移任務

  2. 數據傳輸 > 數據遷移 頁面,單擊新購買的數據遷移任務后的 配置

    image.png

    如果您需要引用已有的任務配置信息,可以單擊 引用配置。詳情請參見 引用數據遷移任務配置

  3. 選擇源和目標 頁面,配置各項參數。

    參數

    描述

    遷移任務名稱

    建議使用中文、數字和字母的組合。名稱中不能包含空格,長度不能超過 64 個字符。

    標簽(可選)

    單擊文本框,在下拉列表中選擇目標標簽。您也可以單擊 管理標簽 進行新建、修改和刪除。詳情請參見 通過標簽管理數據遷移任務

    源端

    源端數據庫的名稱,本文中為 MySQL 數據庫。如果您已新建 MySQL 數據源,則從下拉列表中進行選擇。如果您未新建,則單擊下拉列表中的 新建數據源,在右側對話框進行新建。參數詳情請參見 新建 MySQL 數據源

    目標端

    目標端數據庫的名稱,本文中為 OceanBase 數據庫。如果您已新建 OceanBase 數據庫的 MySQL 租戶數據源,則從下拉列表中進行選擇。如果未新建,則單擊下拉列表中的 新建數據源,在右側對話框進行新建。參數詳情請參見 新建 OceanBase 數據源

    重要

    目標端不支持 OceanBase 數據庫的 實例類型VPC 內自建數據庫

    場景類型

    包括 僅支持唯一鍵表遷移支持全部表遷移

    • 唯一鍵表:指具有主鍵或者非空唯一鍵的表。勾選該項后,數據傳輸會自動過濾無唯一鍵表的遷移。

    • 全部表:指具備主鍵的表、唯一鍵表和無唯一鍵表,但不包含臨時表。數據傳輸僅支持對具備有主鍵的表或具備非空唯一鍵的表進行全量數據校驗。

  4. 單擊 下一步

    如果您選擇場景類型為 僅支持唯一鍵表遷移,還需要單擊彈出提示框中的 我知道了

    image.png

  5. 選擇遷移類型 頁面,選擇當前數據遷移任務的 遷移類型

    image

    遷移類型

    描述

    結構遷移

    結構遷移任務開始后,數據傳輸會將源庫中的數據對象定義(表、索引、約束、注釋和視圖等)遷移至目標端數據庫中,并自動過濾臨時表。

    MySQL 數據庫至 OceanBase 數據庫 MySQL 租戶的結構遷移支持自動創建目標端不存在的庫。

    全量遷移

    全量遷移任務開始后,數據傳輸會遷移源端庫表的存量數據至目標端數據庫對應的表中。如果選擇 全量遷移,建議您在遷移數據前,使用 ANALYZE 語句收集 MySQL 數據庫的統計信息。

    增量同步

    增量同步任務開始后,數據傳輸會同步源庫發生變化的數據(新增、修改或刪除)至目標端數據庫對應的表中。

    增量同步 包括 DML 同步DDL 同步,您可以根據需求進行自定義配置。詳情請參見 自定義配置 DDL/DML

    全量校驗

    在全量遷移完成、增量數據同步至目標端并與源端基本追平后,數據傳輸會自動發起一輪針對源庫配置的數據表和目標表的全量數據校驗任務。

    • 如果您選擇了 增量同步,且 同步 DML 選項中未選擇所有的 DML,則數據傳輸不支持本場景下的全量數據校驗。

    • 數據傳輸僅支持對唯一鍵表(指具有主鍵或非空唯一鍵的表)進行全量數據校驗。

    反向增量

    反向增量任務開始后,可以實時將業務切換后在目標端數據庫產生的變更數據回流至源端數據庫。

    通常反向增量會復用增量同步的配置,您也可以根據實際需求進行自定義配置。

  6. 選擇遷移對象 頁面,選擇當前數據遷移任務的遷移對象。

    您可以通過 指定對象匹配規則 選擇遷移對象。

    • 選擇 指定對象,在左側選中需要遷移的對象,單擊 >,將其添加至右側列表中。您可以選擇一個或多個庫的表、視圖作為遷移對象。數據傳輸支持通過文本導入對象,并支持對目標端對象進行重命名、設置行過濾、查看列信息,以及移除單個或全部遷移對象等操作。導入對象的操作如下:

      1. 在選擇區域的右側列表中,單擊右上角的 導入對象

      2. 在對話框中,單擊 確定

        重要

        導入會覆蓋之前的操作選擇,請謹慎操作。

      3. 導入遷移對象 對話框中,導入需要遷移的對象。

        您可以通過導入 CSV 文件的方式進行庫表重命名、設置行過濾條件等操作。詳情請參見 下載和導入遷移對象配置

      4. 單擊 檢驗合法性

        完成遷移對象導入后,請先檢驗合法性。目前暫不支持列字段映射。

      5. 通過驗證后,單擊 確定

    • 選擇 匹配規則,詳情請參見 配置匹配規則

  7. 單擊 下一步

    如果您選擇場景類型為 支持全部表遷移,還需要單擊彈出提示框中的 下一步

  8. 遷移選項 頁面,配置各項參數。

    • 全量遷移

      選擇遷移類型 頁面,選中 全量遷移,才會顯示下述參數。

      image

      參數

      描述

      讀取并發配置

      該參數用于配置全量遷移階段從源端讀取數據的并發數,最大限制為 512.并發數過高可能會造成源端壓力過大,影響業務。

      寫入并發配置

      該參數用于配置全量遷移階段往目標端寫入數據的并發數,最大限制為 512。并發數過高可能會造成目標端壓力過大,影響業務。

      全量遷移速率限制

      您可以根據實際需求決定是否開啟全量遷移速率限制。如果開啟,請設置 RPS(全量遷移階段每秒最多可以遷移至目標端的數據行數的最大值限制)和 BPS(全量遷移階段每秒最多可以遷移至目標端的數據量的最大值限制)。

      說明

      此處設置的 RPS 和 BPS 僅作為限速限流能力,全量遷移實際可以達到的性能受限于源端、目標端、實例規格配置等因素的影響。

      目標端表對象存在記錄時處理策略

      處理策略包括 忽略停止遷移

      • 選擇 忽略:當目標端表對象存在數據時,如果原數據與寫入數據沖突,數據傳輸采用將沖突數據記錄日志,保留原數據不變的策略進行數據寫入。

        重要

        選擇 忽略,全量校驗將使用 IN 模式拉取數據,無法校驗目標端存在源端沒有的數據的場景,并且校驗性能會有一定程度降級。

      • 選擇默認值 停止遷移:當目標端表對象存在數據時,全量遷移會報錯不允許遷移,請處理好目標端數據后再繼續遷移。

        重要

        如果出錯后單擊恢復,數據傳輸將忽略該配置選項,繼續遷移表數據,請謹慎操作。

      是否允許索引后置

      您可以設置是否允許全量數據遷移完成后再創建索引,索引后置功能能夠縮短全量遷移耗時。選擇索引后置的注意事項,請參見表格下方的說明。

      重要
      • 選擇遷移類型 頁面同時選中 結構遷移 全量遷移,才會顯示該參數。

      • 僅非唯一鍵索引支持后置創建。

      • 執行索引時,如果目標端 OceanBase 數據庫 MySQL 租戶遇到 Duplicate key name 報錯,數據傳輸會忽略,默認為索引創建成功,不會再重復創建。

      當您選擇 允許 后,請進行下述配置:

      • 單條索引 DDL 并發配置:并行度越高,資源消耗越大,遷移速度越快。

      • 最大并發索引 DDL 數量配置:同一時刻,系統調用的后置索引 DDL 數量的最大值限制。

      允許索引后置的情況下,建議您根據 OceanBase 數據庫的硬件條件和當前業務流量情況,自行調節參數。

      • 如果您使用的是 OceanBase 數據庫 V4.x,請通過黑屏客戶端工具調整以下 sys 租戶參數和業務租戶參數。

        • 調整 sys 租戶參數

          // parallel_servers_target 用于設置每個 Server 上的并行查詢排隊條件。
          // 如果完全為了性能,建議您將該參數調整為大于物理 CPU 的值,例如 1.5 倍。同時設置的值不超過 64,避免產生 OceanBase 數據庫內核搶鎖問題。
          set global parallel_servers_target = 64; 
        • 調整業務租戶參數

          // 文件內存緩沖區限制
          alter system set _temporary_file_io_area_size = '10' tenant = 'xxx'; 
          // V4.x 關閉限流
          alter system set sys_bkgd_net_percentage = 100;  
      • 如果您使用的是 OceanBase 數據庫 V3.x ,請通過黑屏客戶端工具調整以下 sys 租戶參數。

        // parallel_servers_target 用于設置每個 Server 上的并行查詢排隊條件。
        // 如果完全為了性能,建議您將該參數調整為大于物理 CPU 的值,例如 1.5 倍。同時設置的值不超過 64,避免產生 OceanBase 數據庫內核搶鎖問題。
        set global parallel_servers_target = 64; 
        // data_copy_concurrency 用于設置系統中并發執行的數據遷移復制任務的最大并發數。
        alter system set data_copy_concurrency = 200; 
    • 增量同步

      選擇遷移類型 頁面,選中 增量同步,才會顯示下述參數。

      image

      參數

      描述

      寫入并發配置

      該參數用于配置增量同步階段往目標端寫入數據的并發數,最大限制為 512。并發數過高可能會造成目標端壓力過大,影響業務。

      增量同步速率限制

      您可以根據實際需求決定是否開啟增量同步速率限制。如果開啟,請設置 RPS(增量同步階段每秒最多可以同步至目標端的數據行數的最大值限制)和 BPS(增量同步階段每秒最多可以同步至目標端的數據量的最大值限制)。

      說明

      此處設置的 RPS 和 BPS 僅作為限速限流能力,增量同步實際可以達到的性能受限于源端、目標端、實例規格配置等因素的影響。

      增量同步起始位點

      • 如果選擇遷移類型時已選擇 全量遷移,該參數不顯示。

      • 如果選擇遷移類型時未選擇 全量遷移,但選擇了 增量同步,請在此處指定遷移某個時間節點之后的數據,默認為當前系統時間。詳情請參見 設置增量同步位點

    • 反向增量

      選擇遷移類型 頁面,選中 增量同步,才會顯示該區域的參數。反向增量的配置參數默認 復用增量同步配置

      image

      您也可以取消復用增量同步配置,根據實際需求進行配置。

      參數

      描述

      寫入并發配置

      該參數用于配置反向增量階段往源端寫入數據的并發數,最大限制為 512。并發數過高可能會造成源端壓力過大,影響業務。

      增量同步速率限制

      您可以根據實際需求決定是否開啟增量同步速率限制。如果開啟,請設置 RPS(反向增量同步階段每秒最多可以同步至源端的數據行數的最大值限制)和 BPS(反向增量同步階段每秒最多可以同步至源端的數據量的最大值限制)。

      說明

      此處設置的 RPS 和 BPS 僅作為限速限流能力,反向增量同步實際可以達到的性能受限于源端、目標端、實例規格配置等因素的影響。

      增量同步起始位點

      默認以正向切換(如有)為準,不支持修改。

    • 遷移高級配置

      當目標端 OceanBase 數據庫 MySQL 租戶為 V4.3.0 及之后版本,并且在 選擇遷移類型 頁面,選中 結構遷移增量同步 > DDL 同步,才會顯示該區域的參數。

      image

      目標端表對象存儲類型包括 默認行存列存行列混存,該配置用于確定結構遷移或增量同步時目標端表對象的存儲類型,詳情請參見 default_table_store_format

      說明

      默認 選項是根據目標端參數配置自適應其他選項,是結構遷移的表對象或增量 DDL 的新增表對象根據設置的存儲類型寫對應的結構。

  9. 單擊 預檢查,系統對數據遷移任務進行預檢查。

    預檢查 環節,數據傳輸會檢查數據庫用戶的讀寫權限、數據庫的網絡連接等是否符合要求。全部檢查任務均通過后才能啟動數據遷移任務。如果預檢查報錯:

    • 您可以在排查并處理問題后,重新執行預檢查,直至預檢查成功。

    • 您也可以單擊錯誤預檢查項操作列中的 跳過,會彈出對話框提示您跳過本操作的具體影響,確認可以跳過后,請單擊對話框中的 確定

  10. 預檢查成功后,單擊 啟動任務

    如果您暫時無需啟動任務,請單擊 保存。后續您只能在 遷移任務列表 頁面手動啟動任務或通過批量操作啟動任務。批量操作的詳情請參見 批量操作數據遷移任務

    數據傳輸支持在數據遷移任務運行過程中修改遷移對象,詳情請參見 查看和修改遷移對象及其過濾條件。數據遷移任務啟動后,會根據所選擇的遷移類型依次執行,詳情請參見 查看遷移詳情