前提條件

• 數(shù)據(jù)傳輸已具備云資源訪問權限。詳情請參見 數(shù)據(jù)傳輸遷移角色授權。

• 已為源端 MySQL 數(shù)據(jù)庫和目標端 OceanBase 數(shù)據(jù)庫 MySQL 租戶創(chuàng)建專用于數(shù)據(jù)遷移的數(shù)據(jù)庫用戶，并賦予其相關權限。詳情請參見 配置數(shù)據(jù)源用戶權限 模塊的文檔。

• 已開啟 Binlog。RDS MySQL 數(shù)據(jù)庫的詳情請參見 管理本地日志（Binlog），PolarDB MySQL 數(shù)據(jù)庫的詳情請參見 開啟 Binlog。

使用限制

• 源端數(shù)據(jù)庫的操作限制

  請勿在結構遷移和全量遷移階段執(zhí)行庫或表結構變更的 DDL 操作，否則可能造成數(shù)據(jù)遷移任務中斷。

• 目前數(shù)據(jù)傳輸支持 MySQL 數(shù)據(jù)庫 V5.5、V5.6、V5.7 和 V8.0。

• 數(shù)據(jù)傳輸僅支持 MySQL InnoDB 存儲引擎，其他類型的引擎無法使用數(shù)據(jù)遷移功能。

  說明

  對于 RDS MySQL 實例類型，數(shù)據(jù)傳輸支持 InnoDB 和 X-Engine 存儲引擎。

• 數(shù)據(jù)傳輸不支持 MySQL 數(shù)據(jù)庫的索引字段大于 767 個字節(jié)（191 個字符）。

• 數(shù)據(jù)傳輸不支持遷移源端 MySQL 數(shù)據(jù)庫的 Cascade 外鍵。

• 數(shù)據(jù)傳輸僅支持遷移庫名、表名和列名為 ASCII 碼且不包含特殊字符（包括換行、空格，以及 .|"'`()=;/&\）的對象。

• 如果主鍵是 FLOAT 或 DOUBLE 類型，預檢查會失敗。強烈建議您請勿使用該類型作為主鍵。

• 目標端是數(shù)據(jù)庫的情況下，數(shù)據(jù)傳輸不支持目標端存在觸發(fā)器（Trigger）。如果存在觸發(fā)器，可能導致數(shù)據(jù)遷移失敗。

• 請確保源端和目標端數(shù)據(jù)庫的時鐘同步。

• RDS MySQL 數(shù)據(jù)庫實例、自建數(shù)據(jù)庫所在的 VPC 必須和 OceanBase 數(shù)據(jù)庫實例位于同一個地域。

注意事項

• MySQL 數(shù)據(jù)庫宿主機需要具備足夠的出口帶寬。如果未具備足夠的出口帶寬，會影響日志解析和數(shù)據(jù)遷移速度，可能導致同步延遲增大。

• 如果源端和目標端數(shù)據(jù)庫的 Collation 不同：

  • 可能導致數(shù)據(jù)同步不一致。例如，源端 utf8mb4_0900_ai_ci Collation 下兩條數(shù)據(jù) A 和 A 將無法全部寫入目標端為 utf8mb4_general_ci Collation 的數(shù)據(jù)庫，從而導致數(shù)據(jù)丟失。

  • 以 VARCHAR 作為主鍵的表數(shù)據(jù)校驗會不一致。

• 節(jié)點之間的時鐘不同步，或者電腦終端和服務器之間的時鐘不同步，均可能導致延遲時間（增量同步/反向增量）不準確。

  例如，如果時鐘早于標準時間，可能導致延遲時間為負數(shù)。如果時鐘晚于標準時間，可能導致延遲。

• 如果 MySQL 數(shù)據(jù)庫需要進行增量解析，則源端 MySQL Server 必須設置 server_id。

• 在未開啟同步 DDL 的情況下，如果您變更目標端的唯一索引，需要重啟數(shù)據(jù)遷移任務，否則可能存在數(shù)據(jù)不一致的問題。

• 請確認數(shù)據(jù)傳輸對 DECIMAL、FLOAT 或 DOUBLE 等列類型的遷移精度是否符合預期。如果目標端字段類型的精度小于源端字段類型的精度，則可能發(fā)生截斷現(xiàn)象，導致源端和目標端的數(shù)據(jù)不一致。

• 源端為 RDS MySQL 數(shù)據(jù)庫只讀實例時，預檢查會進行增量日志消費風險提示。

• 庫表匯聚場景下：

  • 建議您使用匹配規(guī)則的方式映射源端和目標端的關系。

  • 建議您自行在目標端創(chuàng)建表結構。如果使用數(shù)據(jù)傳輸創(chuàng)建，請在結構遷移步驟跳過部分失敗對象。

• 如果源端和目標端的表結構不完全一致，可能會出現(xiàn)數(shù)據(jù)不一致的情況。目前已知場景如下：

  • 用戶手動創(chuàng)建表結構時，因超出數(shù)據(jù)傳輸?shù)闹С址秶赡軙a(chǎn)生隱式的轉換問題，導致源端和目標端列的類型不一致。

  • 目標端的數(shù)據(jù)長度小于源端的數(shù)據(jù)長度時，可能出現(xiàn)數(shù)據(jù)截斷的情況，導致源端和目標端的數(shù)據(jù)不一致。

• 如果在創(chuàng)建數(shù)據(jù)遷移任務時，您僅配置了 增量同步，數(shù)據(jù)傳輸要求源端數(shù)據(jù)庫的本地增量日志保存 48 小時以上。

  如果在創(chuàng)建數(shù)據(jù)遷移任務時，您配置了 全量遷移+增量同步，數(shù)據(jù)傳輸要求源端數(shù)據(jù)庫的本地增量日志至少保留 7 天以上。否則數(shù)據(jù)傳輸可能因無法獲取增量日志而導致數(shù)據(jù)遷移任務失敗，甚至導致源端和目標端數(shù)據(jù)不一致。

• 當 MySQL 數(shù)據(jù)庫為雙主或多主架構時，請開啟 log_slave_updates 參數(shù)，否則可能因數(shù)據(jù)源未接收所有的 Binlog 導致存在數(shù)據(jù)丟失的風險。

• 如果源端或目標端存在僅大小寫不同的表對象，可能會因為源端或目標端大小寫不敏感導致數(shù)據(jù)遷移的結果不符合預期。

支持的源端和目標端實例類型

下表中，OceanBase 數(shù)據(jù)庫 MySQL 租戶簡稱為 OB_MySQL，支持的實例類型包括 OceanBase 集群實例、OceanBase 租戶實例和 Serverless 實例。

數(shù)據(jù)類型映射

操作步驟

1. 登錄 OceanBase 管理控制臺，購買數(shù)據(jù)遷移任務。

   詳情請參見 購買數(shù)據(jù)遷移任務。

2. 在 數(shù)據(jù)傳輸 > 數(shù)據(jù)遷移 頁面，單擊新購買的數(shù)據(jù)遷移任務后的 配置。

   

   如果您需要引用已有的任務配置信息，可以單擊 引用配置。詳情請參見 引用數(shù)據(jù)遷移任務配置。

3. 在 選擇源和目標 頁面，配置各項參數(shù)。

   參數(shù)	描述
   遷移任務名稱	建議使用中文、數(shù)字和字母的組合。名稱中不能包含空格，長度不能超過 64 個字符。
   標簽（可選）	單擊文本框，在下拉列表中選擇目標標簽。您也可以單擊 管理標簽，進行新建、修改和刪除。詳情請參見 通過標簽管理數(shù)據(jù)遷移任務。
   源端	如果您已新建 MySQL 數(shù)據(jù)源，請從下拉列表中進行選擇。如果未新建，請單擊下拉列表中的 新建數(shù)據(jù)源，在右側對話框進行新建。參數(shù)詳情請參見 新建 MySQL 數(shù)據(jù)源。
   目標端	如果您已新建 OceanBase 數(shù)據(jù)庫 MySQL 租戶數(shù)據(jù)源，請從下拉列表中進行選擇。如果未新建，請單擊下拉列表中的 新建數(shù)據(jù)源，在右側對話框進行新建。參數(shù)詳情請參見 新建 OceanBase 數(shù)據(jù)源。 重要 目標端不支持 OceanBase 數(shù)據(jù)庫 MySQL 租戶的 實例類型 為 VPC 內自建數(shù)據(jù)庫。
   場景類型	包括 僅支持唯一鍵表遷移 和 支持全部表遷移： 唯一鍵表：指具有主鍵或者非空唯一鍵的表。勾選該項后，數(shù)據(jù)傳輸會自動過濾無唯一鍵表的遷移。 全部表：指具備主鍵的表、唯一鍵表和無唯一鍵表，但不包含臨時表。數(shù)據(jù)傳輸僅支持對具備主鍵的表或具備非空唯一鍵的表進行全量數(shù)據(jù)校驗。

4. 單擊 下一步。

   如果您選擇場景類型為 僅支持唯一鍵表遷移，還需要單擊彈出提示框中的 我知道了。

   

5. 在 選擇遷移類型 頁面，選擇當前數(shù)據(jù)遷移任務的遷移類型。

   遷移類型 包括 結構遷移、全量遷移、增量同步、全量校驗 和 反向增量。

   

   遷移類型	描述
   結構遷移	結構遷移任務開始后，數(shù)據(jù)傳輸會源庫中的數(shù)據(jù)對象定義（表、索引、約束、注釋和視圖等）遷移到目標端數(shù)據(jù)庫中，并自動過濾臨時表。 MySQL 數(shù)據(jù)庫至 OceanBase 數(shù)據(jù)庫 MySQL 租戶的結構遷移支持自動創(chuàng)建目標端不存在的庫。
   全量遷移	全量遷移任務開始后，數(shù)據(jù)傳輸會將源端庫表的存量數(shù)據(jù)遷移至目標端數(shù)據(jù)庫對應的表中。如果選擇 全量遷移，建議您在遷移數(shù)據(jù)前，使用 ANALYZE 語句收集 MySQL 數(shù)據(jù)庫的統(tǒng)計信息。
   增量同步	增量同步任務開始后，數(shù)據(jù)傳輸會將源端數(shù)據(jù)庫發(fā)生變化的數(shù)據(jù)（新增、修改或刪除）同步至目標端數(shù)據(jù)庫對應的表中。 增量同步 包括 DML 同步 和 DDL 同步，您可以根據(jù)需求進行自定義配置。詳情請參見 自定義配置 DDL/DML。增量同步 的使用限制如下： 如果您選擇了 DDL 同步，當源端數(shù)據(jù)庫發(fā)生數(shù)據(jù)傳輸不支持的增量 DDL 操作時，會存在數(shù)據(jù)遷移中斷的風險。 如果 DDL 操作為新增列，建議您將該列的屬性設置為 NULL，否則會存在數(shù)據(jù)遷移中斷的風險。
   全量校驗	在全量遷移完成、增量數(shù)據(jù)同步至目標端并與源端基本追平后，數(shù)據(jù)傳輸會自動發(fā)起一輪針對源端數(shù)據(jù)庫配置的數(shù)據(jù)表和目標表的全量數(shù)據(jù)校驗任務。 如果選擇 全量校驗，建議您在全量校驗開始前，分別收集 MySQL 數(shù)據(jù)庫和 OceanBase 數(shù)據(jù)庫 MySQL 租戶的統(tǒng)計信息。 如果您選擇了 增量同步，且 DML 同步 選項中未選擇所有的 DML，則數(shù)據(jù)傳輸不支持本場景下的全量數(shù)據(jù)校驗。 數(shù)據(jù)傳輸僅支持對唯一鍵表（指具有主鍵或非空唯一鍵的表）進行全量數(shù)據(jù)校驗。
   反向增量	反向增量任務開始后，可以實時將業(yè)務切換后在目標端數(shù)據(jù)庫產(chǎn)生的變更數(shù)據(jù)回流至源端數(shù)據(jù)庫。 通常反向增量會復用增量同步的配置，您也可以根據(jù)實際需求進行自定義配置。

6. 單擊 下一步。在 選擇遷移對象 頁面，選擇當前數(shù)據(jù)遷移任務的遷移對象。

   您可以通過 指定對象 和 匹配規(guī)則 兩個入口選擇遷移對象。

   重要

   • 待遷移的表名和其中的列名不能包含中文字符。

   • 當數(shù)據(jù)庫的庫名或表名存在“$$”字符時，會影響數(shù)據(jù)遷移任務的創(chuàng)建。

   • 如果您在 選擇遷移類型 步驟已勾選 DDL 同步，建議通過匹配規(guī)則方式選擇遷移對象，以確保所有符合遷移對象規(guī)則的新增對象都將被同步。如果您通過指定對象方式選擇遷移對象，則新增對象或重命名后的對象將不會被同步。

   • 選擇 指定對象，在左側選中需要遷移的對象，單擊 >，將其添加至右側列表中。您可以選擇一個或多個庫的表、視圖作為遷移對象。

     數(shù)據(jù)傳輸支持通過文本導入對象，并支持對目標端對象進行重命名、設置行過濾、查看列信息，以及移除單個或全部遷移對象等操作。

     說明

     通過 匹配規(guī)則 方式選擇遷移對象時，重命名能力由匹配規(guī)則語法覆蓋，操作處僅支持設置過濾條件。詳情請參見 配置匹配規(guī)則。

     

     操作	步驟
     導入對象	在選擇區(qū)域的右側列表中，單擊右上角的 導入對象。 在對話框中，單擊 確定。 重要 導入會覆蓋之前的操作選擇，請謹慎操作。 在 導入遷移對象 對話框中，導入需要遷移的對象。 您可以通過導入 CSV 文件的方式進行庫表重命名、設置行過濾條件等操作。詳情請參見 下載和導入遷移對象配置。 單擊 檢驗合法性。 完成遷移對象導入后，請先檢驗合法性。目前暫不支持列字段映射。 通過檢驗后，單擊 確定。
     重命名	數(shù)據(jù)傳輸支持重命名遷移對象的名稱，詳情請參見 數(shù)據(jù)庫庫表重命名。
     設置	數(shù)據(jù)傳輸支持 WHERE 條件實現(xiàn)行過濾，詳情請參見 SQL 條件過濾數(shù)據(jù)。 您還可以在 查看列 區(qū)域，查看遷移對象的列信息。
     移除/全部移除	數(shù)據(jù)傳輸支持在數(shù)據(jù)映射時，對暫時選中到目標端的單個或多個對象進行移除操作。 移除單個遷移對象 在選擇區(qū)域的右側列表中，鼠標懸停至目標對象，單擊顯示的 移除，即可移除該遷移對象。 移除全部遷移對象 在選擇區(qū)域的右側列表中，單擊右上角的 全部移除。在對話框中，單擊 確定，即可移除全部遷移對象。

   • 選擇 匹配規(guī)則，詳情請參見 配置匹配規(guī)則。

7. 單擊 下一步。

   如果您選擇場景類型為 支持全部表遷移，還需要單擊彈出提示框中的 下一步。

8. 在 遷移選項 頁面，配置各項參數(shù)。

   • 全量遷移

     在 選擇遷移類型 頁面，選中 全量遷移，才會顯示下述參數(shù)。

     

     參數(shù)	描述
     讀取并發(fā)配置	該參數(shù)用于配置全量遷移階段從源端讀取數(shù)據(jù)的并發(fā)數(shù)，最大限制為 512.并發(fā)數(shù)過高可能會造成源端壓力過大，影響業(yè)務。
     寫入并發(fā)配置	該參數(shù)用于配置全量遷移階段往目標端寫入數(shù)據(jù)的并發(fā)數(shù)，最大限制為 512。并發(fā)數(shù)過高可能會造成目標端壓力過大，影響業(yè)務。
     全量遷移速率限制	您可以根據(jù)實際需求決定是否開啟全量遷移速率限制。如果開啟，請設置 RPS（全量遷移階段每秒最多可以遷移至目標端的數(shù)據(jù)行數(shù)的最大值限制）和 BPS（全量遷移階段每秒最多可以遷移至目標端的數(shù)據(jù)量的最大值限制）。 說明 此處設置的 RPS 和 BPS 僅作為限速限流能力，全量遷移實際可以達到的性能受限于源端、目標端、實例規(guī)格配置等因素的影響。
     目標端表對象存在記錄時處理策略	處理策略包括 忽略 和 停止遷移： 選擇 忽略：當目標端表對象存在數(shù)據(jù)時，如果原數(shù)據(jù)與寫入數(shù)據(jù)沖突，數(shù)據(jù)傳輸采用將沖突數(shù)據(jù)記錄日志，保留原數(shù)據(jù)不變的策略進行數(shù)據(jù)寫入。 重要 選擇 忽略，全量校驗將使用 IN 模式拉取數(shù)據(jù)，無法校驗目標端存在源端沒有的數(shù)據(jù)的場景，并且校驗性能會有一定程度降級。 選擇默認值 停止遷移：當目標端表對象存在數(shù)據(jù)時，全量遷移會報錯不允許遷移，請?zhí)幚砗媚繕硕藬?shù)據(jù)后再繼續(xù)遷移。 重要 如果出錯后單擊恢復，數(shù)據(jù)傳輸將忽略該配置選項，繼續(xù)遷移表數(shù)據(jù)，請謹慎操作。
     是否允許索引后置	您可以設置是否允許全量數(shù)據(jù)遷移完成后再創(chuàng)建索引，索引后置功能能夠縮短全量遷移耗時。選擇索引后置的注意事項，請參見表格下方的說明。 重要 在 選擇遷移類型 頁面同時選中 結構遷移 和 全量遷移，才會顯示該參數(shù)。 僅非唯一鍵索引支持后置創(chuàng)建。 執(zhí)行索引時，如果目標端 OceanBase 數(shù)據(jù)庫 MySQL 租戶遇到 Duplicate key name 報錯，數(shù)據(jù)傳輸會忽略，默認為索引創(chuàng)建成功，不會再重復創(chuàng)建。 當您選擇 允許 后，請進行下述配置： 單條索引 DDL 并發(fā)配置：并行度越高，資源消耗越大，遷移速度越快。 最大并發(fā)索引 DDL 數(shù)量配置：同一時刻，系統(tǒng)調用的后置索引 DDL 數(shù)量的最大值限制。

     允許索引后置的情況下，建議您根據(jù) OceanBase 數(shù)據(jù)庫的硬件條件和當前業(yè)務流量情況，自行調節(jié)參數(shù)。

     • 如果您使用的是 OceanBase 數(shù)據(jù)庫 V4.x，請通過黑屏客戶端工具調整以下 sys 租戶參數(shù)和業(yè)務租戶參數(shù)。

       • 調整 sys 租戶參數(shù)

         // parallel_servers_target 用于設置每個 Server 上的并行查詢排隊條件。
         // 如果完全為了性能，建議您將該參數(shù)調整為大于物理 CPU 的值，例如 1.5 倍。同時設置的值不超過 64，避免產(chǎn)生 OceanBase 數(shù)據(jù)庫內核搶鎖問題。
         set global parallel_servers_target = 64; 

       • 調整業(yè)務租戶參數(shù)

         // 文件內存緩沖區(qū)限制
         alter system set _temporary_file_io_area_size = '10' tenant = 'xxx'; 
         // V4.x 關閉限流
         alter system set sys_bkgd_net_percentage = 100;  

     • 如果您使用的是 OceanBase 數(shù)據(jù)庫 V3.x ，請通過黑屏客戶端工具調整以下 sys 租戶參數(shù)。

       // parallel_servers_target 用于設置每個 Server 上的并行查詢排隊條件。
       // 如果完全為了性能，建議您將該參數(shù)調整為大于物理 CPU 的值，例如 1.5 倍。同時設置的值不超過 64，避免產(chǎn)生 OceanBase 數(shù)據(jù)庫內核搶鎖問題。
       set global parallel_servers_target = 64; 
       // data_copy_concurrency 用于設置系統(tǒng)中并發(fā)執(zhí)行的數(shù)據(jù)遷移復制任務的最大并發(fā)數(shù)。
       alter system set data_copy_concurrency = 200; 

   • 增量同步

     在 選擇遷移類型 頁面，選中 增量同步，才會顯示下述參數(shù)。

     

     參數(shù)	描述
     寫入并發(fā)配置	該參數(shù)用于配置增量同步階段往目標端寫入數(shù)據(jù)的并發(fā)數(shù)，最大限制為 512。并發(fā)數(shù)過高可能會造成目標端壓力過大，影響業(yè)務。
     增量同步速率限制	您可以根據(jù)實際需求決定是否開啟增量同步速率限制。如果開啟，請設置 RPS（增量同步階段每秒最多可以同步至目標端的數(shù)據(jù)行數(shù)的最大值限制）和 BPS（增量同步階段每秒最多可以同步至目標端的數(shù)據(jù)量的最大值限制）。 說明 此處設置的 RPS 和 BPS 僅作為限速限流能力，增量同步實際可以達到的性能受限于源端、目標端、實例規(guī)格配置等因素的影響。
     增量同步起始位點	如果選擇遷移類型時已選擇 全量遷移，該參數(shù)不顯示。 如果選擇遷移類型時未選擇 全量遷移，但選擇了 增量同步，請在此處指定遷移某個時間節(jié)點之后的數(shù)據(jù)，默認為當前系統(tǒng)時間。詳情請參見 設置增量同步位點。

   • 反向增量

     在 選擇遷移類型 頁面，選中 增量同步，才會顯示該區(qū)域的參數(shù)。反向增量的配置參數(shù)默認 復用增量同步配置。

     

     您也可以取消復用增量同步配置，根據(jù)實際需求進行配置。

     參數(shù)	描述
     寫入并發(fā)配置	該參數(shù)用于配置反向增量階段往源端寫入數(shù)據(jù)的并發(fā)數(shù)，最大限制為 512。并發(fā)數(shù)過高可能會造成源端壓力過大，影響業(yè)務。
     增量同步速率限制	您可以根據(jù)實際需求決定是否開啟增量同步速率限制。如果開啟，請設置 RPS（反向增量同步階段每秒最多可以同步至源端的數(shù)據(jù)行數(shù)的最大值限制）和 BPS（反向增量同步階段每秒最多可以同步至源端的數(shù)據(jù)量的最大值限制）。 說明 此處設置的 RPS 和 BPS 僅作為限速限流能力，反向增量同步實際可以達到的性能受限于源端、目標端、實例規(guī)格配置等因素的影響。
     增量同步起始位點	默認以正向切換（如有）為準，不支持修改。

   • 遷移高級配置

     當目標端 OceanBase 數(shù)據(jù)庫 MySQL 租戶為 V4.3.0 及之后版本，并且在 選擇遷移類型 頁面，選中 結構遷移 或 增量同步 > DDL 同步，才會顯示該區(qū)域的參數(shù)。

     

     目標端表對象存儲類型包括 默認、行存、列存 和 行列混存，該配置用于確定結構遷移或增量同步時目標端表對象的存儲類型，詳情請參見 default_table_store_format。

     說明

     默認 選項是根據(jù)目標端參數(shù)配置自適應其他選項，是結構遷移的表對象或增量 DDL 的新增表對象根據(jù)設置的存儲類型寫對應的結構。

9. 單擊 預檢查，系統(tǒng)對數(shù)據(jù)遷移任務進行預檢查。

   在 預檢查 環(huán)節(jié)，數(shù)據(jù)傳輸會檢查數(shù)據(jù)庫用戶的讀寫權限、數(shù)據(jù)庫的網(wǎng)絡連接等是否符合要求。全部檢查任務均通過后才能啟動數(shù)據(jù)遷移任務。如果預檢查報錯：

   • 您可以在排查并處理問題后，重新執(zhí)行預檢查，直至預檢查成功。

   • 您也可以單擊錯誤預檢查項操作列中的 跳過，會彈出對話框提示您跳過本操作的具體影響，確認可以跳過后，請單擊對話框中的 確定。

10. 預檢查成功后，單擊 啟動任務。

    如果您暫時無需啟動任務，請單擊 保存。后續(xù)您只能在 遷移任務列表 頁面手動啟動任務或通過批量操作啟動任務。批量操作的詳情請參見 批量操作數(shù)據(jù)遷移任務。

    數(shù)據(jù)傳輸支持在數(shù)據(jù)遷移任務運行過程中修改遷移對象，詳情請參見 查看和修改遷移對象及其過濾條件。數(shù)據(jù)遷移任務啟動后，會根據(jù)所選擇的遷移類型依次執(zhí)行，詳情請參見 查看遷移詳情。

相關文檔

• 新建 MySQL 數(shù)據(jù)源

• 新建 OceanBase 數(shù)據(jù)源

• 配置匹配規(guī)則

• 查看數(shù)據(jù)遷移任務的詳情