將Oracle數(shù)據(jù)同步到表格存儲(chǔ)
通過Tapdata Cloud的可視化界面,您可以將Oracle數(shù)據(jù)實(shí)時(shí)同步到表格存儲(chǔ)(Tablestore)中。
前提條件
使用Tapdata Cloud同步Oracle數(shù)據(jù)到表格存儲(chǔ)前,需要完成如下準(zhǔn)備工作。
已創(chuàng)建表格存儲(chǔ)實(shí)例和表。具體操作,請參見通過控制臺(tái)使用。
創(chuàng)建RAM用戶并完成授權(quán)。
已創(chuàng)建RAM用戶,并授予RAM用戶管理表格存儲(chǔ)服務(wù)的權(quán)限(AliyunOTSFullAccess)。具體操作,請參見配置RAM用戶權(quán)限。
重要創(chuàng)建RAM用戶時(shí),請選中OpenAPI調(diào)用訪問。
已為RAM用戶創(chuàng)建AccessKey。具體操作,請參見創(chuàng)建AccessKey。
背景信息
Tapdata Cloud是由Tapdata提供的集數(shù)據(jù)復(fù)制、數(shù)據(jù)開發(fā)為一體的實(shí)時(shí)數(shù)據(jù)服務(wù),能夠在跨云、跨地域、多類型數(shù)據(jù)源的場景下,提供毫秒級(jí)的實(shí)時(shí)數(shù)據(jù)同步服務(wù)和數(shù)據(jù)融合服務(wù)。更多信息,請參見什么是Tapdata。
注意事項(xiàng)
當(dāng)前只支持Oracle 9i、10g、11g、12c、19c版本的數(shù)據(jù)同步。
如果設(shè)置了Oracle數(shù)據(jù)庫的connect_time參數(shù),則可能導(dǎo)致實(shí)時(shí)同步異常。
您可以通過執(zhí)行如下命令查看connect_time參數(shù)的設(shè)置。其中username請?jiān)O(shè)置為數(shù)據(jù)庫賬號(hào)。
、
select resource_name, limit from dba_profiles where profile=( select profile from dba_users where username = 'username');
請為歸檔日志預(yù)留足夠的存儲(chǔ)空間,避免由于存儲(chǔ)占滿影響Oracle數(shù)據(jù)庫的運(yùn)行。
使用流程
使用Tapdata Cloud將Oracle數(shù)據(jù)同步到表格存儲(chǔ)的使用流程如下:
配置Oracle數(shù)據(jù)庫和授權(quán)賬號(hào)。具體操作,請參見步驟一:配置Oracle數(shù)據(jù)庫和授權(quán)賬號(hào)。
在Oracle數(shù)據(jù)庫所屬機(jī)器或相同網(wǎng)絡(luò)的機(jī)器上部署Tapdata Agent。具體操作,請參見步驟二:部署Tapdata Agent。
Tapdata Agent(簡稱Agent)是數(shù)據(jù)同步、數(shù)據(jù)異構(gòu)、數(shù)據(jù)開發(fā)場景中的關(guān)鍵程序,通過流式技術(shù)從源端獲取數(shù)據(jù)、處理轉(zhuǎn)換數(shù)據(jù)并發(fā)送到目標(biāo)端。
重要Agent通過流式技術(shù)從源端獲取數(shù)據(jù)、處理轉(zhuǎn)換數(shù)據(jù)并發(fā)送到目標(biāo)端,數(shù)據(jù)不會(huì)流經(jīng) Tapdata Cloud,也不會(huì)上傳和留存您的數(shù)據(jù)。
使用Tapdata Cloud連接源數(shù)據(jù)庫和目標(biāo)數(shù)據(jù)庫。具體操作,請參見步驟三:連接源數(shù)據(jù)庫和目標(biāo)數(shù)據(jù)庫。
創(chuàng)建數(shù)據(jù)復(fù)制任務(wù)用于進(jìn)行源數(shù)據(jù)庫到目標(biāo)數(shù)據(jù)庫的數(shù)據(jù)復(fù)制。具體操作,請參見步驟四:配置數(shù)據(jù)復(fù)制任務(wù)。
步驟一:配置Oracle數(shù)據(jù)庫和授權(quán)賬號(hào)
數(shù)據(jù)同步前,為Oracle數(shù)據(jù)庫開啟數(shù)據(jù)庫歸檔模式、開啟補(bǔ)充日志、開啟標(biāo)識(shí)鍵日志、開啟全補(bǔ)充日志以及創(chuàng)建用于數(shù)據(jù)同步任務(wù)的賬號(hào)。
以具有DBA權(quán)限的用戶身份登錄Oracle數(shù)據(jù)庫。
開啟數(shù)據(jù)庫歸檔模式(ARCHIVELOG)。
您可以執(zhí)行如下命令檢查是否已開啟數(shù)據(jù)庫歸檔模式。
select log_mode from v$database;
當(dāng)返回結(jié)果為ARCHIVELOG時(shí),表示已經(jīng)開啟,請?zhí)^此步驟。否則請執(zhí)行如下步驟開啟。
執(zhí)行如下命令關(guān)閉數(shù)據(jù)庫。
重要請務(wù)必在業(yè)務(wù)低峰期再進(jìn)行此操作,避免影響業(yè)務(wù)正常運(yùn)行。
shutdown immediate;
執(zhí)行如下命令啟動(dòng)并掛載數(shù)據(jù)庫。
startup mount;
執(zhí)行如下命令開啟歸檔并打開數(shù)據(jù)。
alter database archivelog; alter database open;
開啟補(bǔ)充日志(Supplemental Logging),請根據(jù)數(shù)據(jù)庫版本執(zhí)行相應(yīng)命令。
數(shù)據(jù)庫版本
命令
Oracle 9i
ALTER DATABASE ADD SUPPLEMENTAL LOG DATA (PRIMARY KEY) COLUMNS;
Oracle 10g
ALTER DATABASE ADD SUPPLEMENTAL LOG DATA; ALTER system switch logfile; ALTER DATABASE ADD SUPPLEMENTAL LOG DATA (ALL) COLUMNS;
Oracle 11g
Oracle 12c
執(zhí)行如下命令,確認(rèn)是否開啟了補(bǔ)充日志。
SELECT supplemental_log_data_min, supplemental_log_data_pk, supplemental_log_data_all FROM v$database;
當(dāng)返回結(jié)果的前兩列為Yes或Implicit時(shí),表示只開啟了標(biāo)識(shí)鍵日志(Identification Key Logging),您還需要開啟全補(bǔ)充日志(Full Supplemental Logging)。
開啟標(biāo)識(shí)鍵日志。
請根據(jù)實(shí)際選擇為單個(gè)表開啟或者為所有表開啟
為單個(gè)表開啟標(biāo)識(shí)鍵日志。
ALTER DATABASE ADD SUPPLEMENTAL LOG DATA; ALTER TABLE schema name.table name ADD SUPPLEMENTAL LOG DATA (PRIMARY KEY) COLUMNS;
為所有表開啟標(biāo)識(shí)鍵日志。
ALTER DATABASE ADD SUPPLEMENTAL LOG DATA (PRIMARY KEY) COLUMNS;
開啟全補(bǔ)充日志。
請根據(jù)實(shí)際選擇為單個(gè)表開啟或者為所有表開啟。
為單個(gè)表開啟全補(bǔ)充日志
ALTER DATABASE ADD SUPPLEMENTAL LOG DATA; ALTER TABLE <schema name>.<table name> ADD SUPPLEMENTAL LOG DATA (ALL) COLUMNS;
為所有表開啟全補(bǔ)充日志
ALTER DATABASE ADD SUPPLEMENTAL LOG DATA (ALL) COLUMNS;
執(zhí)行如下命令提交變更。
ALTER SYSTEM SWITCH LOGFILE;
創(chuàng)建用于數(shù)據(jù)同步任務(wù)的賬號(hào)并授權(quán),請根據(jù)數(shù)據(jù)庫版本執(zhí)行相應(yīng)命令。
數(shù)據(jù)庫版本
命令
Oracle 10g
CREATE USER username IDENTIFIED BY password; GRANT create session, alter session, execute_catalog_role, select any dictionary, select any transaction, select any table, create any table, create any index, unlimited tablespace to user name;
Oracle 11g
Oracle 12c(標(biāo)準(zhǔn)模式)
CREATE USER username IDENTIFIED BY password; GRANT create session, alter session, select any dictionary, select any transaction, logmining, execute_catalog_role, create any table, create any index, unlimited tablespace TO username;
請根據(jù)您對表的權(quán)限需求,重復(fù)執(zhí)行GRANT命令來賦予SELECT權(quán)限。
Oracle 12c(多租戶模式)
重要在Oracle 12c的多租戶模式下創(chuàng)建用戶時(shí),必須在cdb中創(chuàng)建并且命名格式約定為
c##name
。ALTER SESSION SET CONTAINER=cdb$root; CREATE USER username IDENTIFIED BY password CONTAINER=all; GRANT create session, alter session, set container, select any dictionary, select any transaction, logmining, execute_catalog_role, create any table, create any index, unlimited tablespace TO username CONTAINER=all; ALTER SESSION SET CONTAINER=pdb;
請根據(jù)您對表的權(quán)限需求,重復(fù)執(zhí)行GRANT命令來賦予SELECT權(quán)限。
當(dāng)Oracle數(shù)據(jù)庫作為源庫時(shí),請使用該用戶來進(jìn)行JDBC身份驗(yàn)證。
重要使用該用戶進(jìn)行JDBC的身份驗(yàn)證時(shí),必須使用整個(gè)用戶名(包含
c##
)作為JDBC連接的用戶名。
步驟二:部署Tapdata Agent
待部署Agent的機(jī)器必須能夠訪問互聯(lián)網(wǎng)。
由于數(shù)據(jù)流轉(zhuǎn)通常對時(shí)效性有較高的要求,因此,推薦將Tapdata Agent部署在Oracle數(shù)據(jù)庫所屬機(jī)器或相同網(wǎng)絡(luò)的機(jī)器中,可極大降低網(wǎng)絡(luò)延遲帶來的影響。
此處以Linux操作系統(tǒng)(64位)為例介紹Agent部署流程,如果需要部署到其他平臺(tái)(例如Windows、阿里云計(jì)算巢),請參見安裝Agent文檔。
在左側(cè)導(dǎo)航欄,單擊Agent管理。
在Agent管理頁面,單擊創(chuàng)建Agent。
在Agent下載與安裝對話框,選擇Linux(64 bit),然后根據(jù)界面提示進(jìn)行Agent安裝。
重要安裝前請確認(rèn)您的部署環(huán)境中已安裝JAVA 1.8版本并正確配置環(huán)境變量。
登錄到待部署Agent的機(jī)器。
執(zhí)行如下命令創(chuàng)建tapdata目錄用于安裝和部署Tapdata Agent。
mkdir tapdata
單擊界面中的復(fù)制,復(fù)制步驟3的命令,并在tapdata目錄下執(zhí)行命令。
說明執(zhí)行該命令后,Tapdata Agent會(huì)自動(dòng)下載、自動(dòng)部署以及啟動(dòng)。
等待命令執(zhí)行完成,即可完成Tapdata Agent的安裝和啟動(dòng)。
Tapdata Agent啟動(dòng)成功的示例如下圖所示。
步驟三:連接源數(shù)據(jù)庫和目標(biāo)數(shù)據(jù)庫
通過Tapdata Cloud連接源數(shù)據(jù)庫和目標(biāo)數(shù)據(jù)庫。
在左側(cè)導(dǎo)航欄,單擊連接管理。
連接作為源庫的Oracle數(shù)據(jù)庫。
在連接管理頁面,單擊創(chuàng)建連接。
在創(chuàng)建連接對話框的認(rèn)證數(shù)據(jù)源頁簽,單擊Oracle。
在創(chuàng)建連接頁面,根據(jù)下表說明配置數(shù)據(jù)源參數(shù)。
參數(shù)
描述
連接名稱
數(shù)據(jù)連接名稱,請根據(jù)實(shí)際設(shè)置。多個(gè)連接的名稱不能相同。
連接類型
支持將Oracle作為源頭或者目標(biāo)。此處取值為源頭和目標(biāo)或者源頭。
連接方式
連接Oracle數(shù)據(jù)庫的方式。取值范圍如下:
SID:數(shù)據(jù)庫實(shí)例名,是數(shù)據(jù)庫和操作系統(tǒng)交互時(shí)用到的名稱。
Service Name:服務(wù)名。當(dāng)數(shù)據(jù)庫有域名時(shí),Service Name與Global DB Name相同;當(dāng)數(shù)據(jù)庫無域名時(shí),Service Name與數(shù)據(jù)庫名稱相同。
數(shù)據(jù)庫地址
數(shù)據(jù)庫連接地址。
端口
數(shù)據(jù)庫的服務(wù)端口。
SID
數(shù)據(jù)庫實(shí)例名。當(dāng)連接方式選擇為SID時(shí)需要配置此參數(shù)。
Service Name
服務(wù)名。當(dāng)連接方式選擇為Service Name時(shí)需要配置此參數(shù)。
Schema
Schema名稱,即一個(gè)連接對應(yīng)一個(gè) Schema。
說明如果需要連接多個(gè)Schema,請創(chuàng)建多個(gè)數(shù)據(jù)連接。
其他連接串參數(shù)
額外的連接參數(shù),默認(rèn)為空。
賬號(hào)
數(shù)據(jù)庫的賬號(hào)。
密碼
數(shù)據(jù)庫的密碼。
多租戶模式
如果Oracle為多租戶模式,則打開多租戶模式開關(guān)并填寫PDB信息。
日志插件
保持默認(rèn)值logMiner即可。
時(shí)間類型的時(shí)區(qū)
默認(rèn)為數(shù)據(jù)庫所用的時(shí)區(qū),您也可以根據(jù)業(yè)務(wù)需求指定。
包含表
要包含的表。取值范圍如下:
全部(默認(rèn)):包含數(shù)據(jù)庫中的所有表。
自定義:自定義要包含的表。多個(gè)表或表達(dá)式之間用半角逗號(hào)(,)分隔。表達(dá)式支持使用星號(hào)(*)表示任意長度的字符。
排除表
從包含表規(guī)則匹配到的表中將指定的表排除。
打開排除表開關(guān)并設(shè)置要排除的表。多個(gè)表或者表達(dá)式之間用半角逗號(hào)(,)分隔。表達(dá)式支持使用星號(hào)(*)表示任意長度的字符。
agent設(shè)置
使用的Agent信息。取值范圍如下:
平臺(tái)自動(dòng)分配(默認(rèn)):由平臺(tái)分配節(jié)點(diǎn)進(jìn)行連接訪問。
用戶手動(dòng)指定:設(shè)置此參數(shù)為用戶手動(dòng)指定后,選擇要使用的Agent。
模型加載頻率
數(shù)據(jù)源中模型數(shù)量大于1萬時(shí),Tapdata Cloud會(huì)按此參數(shù)設(shè)置定期進(jìn)行模型刷新。
單擊連接測試,測試通過后單擊保存。
說明如果提示連接測試失敗,請根據(jù)頁面提示進(jìn)行修復(fù)。
連接作為目標(biāo)庫的表格存儲(chǔ)。
在連接管理頁面,單擊創(chuàng)建連接。
在創(chuàng)建連接對話框的Beta數(shù)據(jù)源頁簽,單擊Tablestore。
在創(chuàng)建連接頁面,根據(jù)下表說明配置數(shù)據(jù)源參數(shù)。
參數(shù)
描述
連接名稱
數(shù)據(jù)連接名稱,請根據(jù)實(shí)際設(shè)置。
連接類型
固定取值為目標(biāo)。此數(shù)據(jù)連接在Tapdata Cloud中只能作為目標(biāo)使用,不能作為源頭。
服務(wù)地址
表格存儲(chǔ)實(shí)例的服務(wù)地址。更多信息,請參見服務(wù)地址。
實(shí)例名稱
表格存儲(chǔ)實(shí)例的名稱。更多信息,請參見實(shí)例。
AccessKey ID
RAM用戶的AccessKey ID和AccessKey Secret。
說明當(dāng)使用從STS獲取的臨時(shí)訪問憑證訪問表格存儲(chǔ)時(shí),請?jiān)O(shè)置為臨時(shí)訪問憑證的AccessKey ID和AccessKey Secret。
AccessKey Secret
AccessKey Token
臨時(shí)訪問令牌。當(dāng)使用從STS獲取的臨時(shí)訪問憑證訪問表格存儲(chǔ)時(shí),需要設(shè)置此參數(shù)。
agent設(shè)置
使用的Agent信息。取值范圍如下:
平臺(tái)自動(dòng)分配(默認(rèn)):由平臺(tái)分配節(jié)點(diǎn)進(jìn)行連接訪問。
用戶手動(dòng)指定:設(shè)置此參數(shù)為用戶手動(dòng)指定后,選擇要使用的Agent。
模型加載頻率
數(shù)據(jù)源中模型數(shù)量大于1萬時(shí),Tapdata Cloud會(huì)按此參數(shù)設(shè)置定期進(jìn)行模型刷新。
單擊連接測試,測試通過后單擊保存。
說明如果提示連接測試失敗,請根據(jù)頁面提示進(jìn)行修復(fù)。
步驟四:配置數(shù)據(jù)復(fù)制任務(wù)
通過配置數(shù)據(jù)復(fù)制任務(wù),可以現(xiàn)同構(gòu)或者異構(gòu)數(shù)據(jù)源間的實(shí)時(shí)同步,適用于數(shù)據(jù)遷移、數(shù)據(jù)同步、數(shù)據(jù)災(zāi)備、讀性能擴(kuò)展等多種業(yè)務(wù)場景。
在左側(cè)導(dǎo)航欄,單擊數(shù)據(jù)復(fù)制。
在數(shù)據(jù)復(fù)制頁面,單擊創(chuàng)建。
在頁面左側(cè),將Oracle和表格存儲(chǔ)數(shù)據(jù)庫拖拽到右側(cè)畫布中,然后將其連接起來。
單擊Oracle數(shù)據(jù)庫,根據(jù)下表說明在右側(cè)面板配置參數(shù)。
參數(shù)
描述
節(jié)點(diǎn)名稱
默認(rèn)為連接名稱,請根據(jù)實(shí)際設(shè)置。
DDL事件采集
暫不支持對表格存儲(chǔ)執(zhí)行DDL語句同步,無需配置此參數(shù)。
選擇表
選擇要復(fù)制的表。取值范圍如下:
按表名選擇:按照表名選擇待復(fù)制的表。
在待復(fù)制表區(qū)域選中表,然后單擊圖標(biāo)完成設(shè)置。
您也可以單擊批量選表,輸入多個(gè)表名來批量選擇要復(fù)制的表。多個(gè)表名之間用半角逗號(hào)(,)分隔。
按正則表達(dá)式進(jìn)行匹配:使用正則表達(dá)式匹配滿足表達(dá)式的表作為要復(fù)制的表。
使用此方式時(shí),當(dāng)源庫中新增的表滿足表達(dá)式時(shí),該表也會(huì)被自動(dòng)同步到目標(biāo)庫。
批量讀取條數(shù)
全量同步時(shí),每批次讀取的記錄條數(shù),默認(rèn)值為100。 一般保持默認(rèn)值即可。
日志連續(xù)挖掘
是否開啟日志連續(xù)挖掘。默認(rèn)已開啟。請根據(jù)使用的Oracle版本設(shè)置。
當(dāng)Oracle版本低于19c時(shí),建議開啟此開關(guān),延遲更低。
當(dāng)Oracle版本高于等于19c時(shí),必須關(guān)閉此開關(guān)。
重要當(dāng)Oracle版本高于等于19c時(shí),請務(wù)必關(guān)閉此開關(guān)。
日志積壓數(shù)量
日志連續(xù)挖掘時(shí)的最大日志積壓數(shù)量。只有當(dāng)開啟日志連續(xù)挖掘開關(guān)時(shí)才能設(shè)置此參數(shù)。請根據(jù)源端更新頻率設(shè)置。
當(dāng)源端更新頻率較低時(shí),請?jiān)O(shè)置較低的值,延遲更低。
當(dāng)源端更新頻率較高時(shí),請?jiān)O(shè)置較高的值,吞吐更高。
一般可以按照
源端數(shù)據(jù)變化QPS/10
計(jì)算,建議值為1~1000。挖掘線程數(shù)
日志挖掘時(shí),以占用數(shù)據(jù)庫CPU資源為代價(jià)來提高日志挖掘速度。只有當(dāng)關(guān)閉日志連續(xù)挖掘開關(guān)時(shí)才能設(shè)置此參數(shù)。
建議當(dāng)源端更新頻率超過1萬時(shí)設(shè)置,最大不建議超過8。
大事務(wù)事件界限
將事務(wù)事件定義為大事務(wù)的臨界值,默認(rèn)值為10000。當(dāng)事務(wù)事件超過該數(shù)值時(shí)會(huì)進(jìn)入大事務(wù)邏輯。
重要該值設(shè)置過大可能會(huì)影響內(nèi)存。
按照大事務(wù)處理后會(huì)存在本地磁盤緩存。當(dāng)復(fù)制任務(wù)出現(xiàn)異常時(shí),請注意磁盤清理。
關(guān)聯(lián)鍵更新
是否進(jìn)行關(guān)聯(lián)鍵更新。默認(rèn)已開啟,表示會(huì)進(jìn)行關(guān)聯(lián)鍵更新。
關(guān)閉關(guān)聯(lián)鍵更新開關(guān)可以提升性能,但是關(guān)聯(lián)鍵的更新會(huì)被忽略。
開啟同步LOB類型(BLOB,CLOB,NCLOB)
是否開啟同步LOB類型。默認(rèn)已開啟,表示會(huì)同步LOB類型。
關(guān)閉開啟同步LOB類型(BLOB,CLOB,NCLOB)開關(guān)可以提升性能,但是LOB類型解析會(huì)不可靠。
未提交事務(wù)生命時(shí)長(分鐘)
未提交事務(wù)的最長保留時(shí)間,默認(rèn)值為60。單位為分鐘。
長時(shí)間未提交的事務(wù)會(huì)導(dǎo)致每次啟停任務(wù)將從該事務(wù)開始挖掘,會(huì)影響性能,因此超過該時(shí)長未提交的事務(wù)將被清理。
單擊Tablestore數(shù)據(jù)庫,預(yù)覽數(shù)據(jù)結(jié)構(gòu)并設(shè)置高級(jí)選項(xiàng)。
參數(shù)
描述
節(jié)點(diǎn)名稱
默認(rèn)為連接名稱,請根據(jù)實(shí)際設(shè)置。
推演結(jié)果
查看表的數(shù)據(jù)結(jié)構(gòu)(例如字段名稱、字段類型)以及根據(jù)需要設(shè)置字段類型。
說明如需調(diào)整字段類型,單擊目標(biāo)字段類型中的圖標(biāo),然后在彈出的對話框中完成設(shè)置。
由于Tablestore單個(gè)表的列數(shù)量不可超過32個(gè),如果Oracle中待同步表的列數(shù)量超過32,您可以在頁面左側(cè)拖拽一個(gè)字段編輯節(jié)點(diǎn)進(jìn)來,將其作為Oracle和Tablestore的中間節(jié)點(diǎn)連接起來,然后在字段編輯節(jié)點(diǎn)中屏蔽與業(yè)務(wù)無關(guān)的列以滿足需求。
高級(jí)設(shè)置
重復(fù)處理策略
當(dāng)目標(biāo)表已存在時(shí)的處理策略,默認(rèn)為保持目標(biāo)端原有結(jié)構(gòu)及數(shù)據(jù)。如果目標(biāo)表沒有數(shù)據(jù)且結(jié)構(gòu)和源表不一致,可選擇為清除目標(biāo)表原有表結(jié)構(gòu)及數(shù)據(jù)。
數(shù)據(jù)寫入模式
數(shù)據(jù)寫入表格存儲(chǔ)的處理方式。取值范圍如下:
按事件類型處理:根據(jù)插入事件、更新事件和刪除事件分別設(shè)置數(shù)據(jù)寫入策略。
追加寫入:只處理插入事件,丟棄更新事件和刪除事件。
數(shù)據(jù)寫入策略
按照事件類型處理數(shù)據(jù)寫入時(shí)的策略。當(dāng)數(shù)據(jù)寫入模式選擇為按事件類型處理時(shí)才能設(shè)置此參數(shù)。
處理插入事件的策略為目標(biāo)存在時(shí)更新,處理更新事件和刪除事件的策略為不存在時(shí)丟棄。
全量多線程寫入
全量數(shù)據(jù)寫入的并發(fā)線程數(shù),默認(rèn)值為8,可基于目標(biāo)端寫性能適當(dāng)調(diào)整。
增量寫入線程數(shù)
增量數(shù)據(jù)寫入的并發(fā)線程數(shù),默認(rèn)未啟用。打開增量寫入線程數(shù)開關(guān)后可基于目標(biāo)端寫性能適當(dāng)調(diào)整。
可選:單擊上方的圖標(biāo),請根據(jù)下表說明配置任務(wù)屬性。
參數(shù)
描述
任務(wù)名稱
同步任務(wù)的名稱,請根據(jù)實(shí)際設(shè)置。
同步類型
數(shù)據(jù)同步的類型。取值范圍如下:
全量+增量:全量數(shù)據(jù)同步完成后,再同步增量數(shù)據(jù)。
全量:將源端的存量數(shù)據(jù)復(fù)制到目標(biāo)端。
增量:將源端實(shí)時(shí)產(chǎn)生的新數(shù)據(jù)或數(shù)據(jù)變更復(fù)制到目標(biāo)端。
任務(wù)描述
任務(wù)的描述信息。
高級(jí)設(shè)置
計(jì)劃開始時(shí)間
任務(wù)的計(jì)劃開始時(shí)間。
如果需要指定任務(wù)開始時(shí)間,打開計(jì)劃開始時(shí)間開關(guān)后,選擇開始的日期和時(shí)間。
數(shù)據(jù)校驗(yàn)
打開數(shù)據(jù)校驗(yàn)開關(guān)后,任務(wù)會(huì)自動(dòng)對同步結(jié)果的一致性進(jìn)行全量校驗(yàn)和增量校驗(yàn),并會(huì)在運(yùn)行監(jiān)控頁面展示校驗(yàn)不一致的數(shù)據(jù)行數(shù)。
重要當(dāng)任務(wù)符合以下任意一種情況時(shí),即使打開數(shù)據(jù)校驗(yàn)開關(guān),任務(wù)也不會(huì)進(jìn)行校驗(yàn)。
添加了中間處理節(jié)點(diǎn)。
源連接不支持校驗(yàn)。
目標(biāo)連接不支持校驗(yàn)。
增量同步并發(fā)寫入
打開增量同步并發(fā)寫入開關(guān)后,增量同步時(shí),源端數(shù)據(jù)會(huì)并發(fā)寫入目標(biāo)端。
增量滯后判斷時(shí)間設(shè)置
用于快速判斷復(fù)制任務(wù)是否存在滯后。
打開增量滯后判斷時(shí)間設(shè)置開關(guān)并設(shè)置判斷時(shí)間。增量同步時(shí),如果增量同步的滯后時(shí)間大于設(shè)置的判斷時(shí)間,則復(fù)制任務(wù)存在滯后。
默認(rèn)值為1,單位為秒。
處理器線程數(shù)
處理器的線程數(shù)。
增量數(shù)據(jù)處理模式
增量同步時(shí),增量數(shù)據(jù)的處理模式。取值范圍為批量、逐條。
agent設(shè)置
使用的Agent信息。取值范圍如下:
平臺(tái)自動(dòng)分配(默認(rèn)):由平臺(tái)分配節(jié)點(diǎn)進(jìn)行連接訪問。
用戶手動(dòng)指定:設(shè)置此參數(shù)為用戶手動(dòng)指定后,選擇要使用的Agent。
確認(rèn)無誤后,單擊啟動(dòng)。
操作完成后,您可以查看任務(wù)的執(zhí)行情況,例如QPS、延遲、任務(wù)時(shí)間統(tǒng)計(jì)等信息。