PolarDB PostgreSQL版遷移至云原生數(shù)據(jù)倉庫AnalyticDB PostgreSQL版
本文中含有需要您注意的重要提示信息,忽略該信息可能對(duì)您的業(yè)務(wù)造成影響,請(qǐng)務(wù)必仔細(xì)閱讀。
本文介紹如何使用數(shù)據(jù)傳輸服務(wù)DTS(Data Transmission Service),將PolarDB PostgreSQL版的數(shù)據(jù)遷移至云原生數(shù)據(jù)倉庫AnalyticDB PostgreSQL版。
前提條件
已創(chuàng)建存儲(chǔ)空間大于源PolarDB PostgreSQL版已占用存儲(chǔ)空間的目標(biāo)AnalyticDB PostgreSQL版實(shí)例。創(chuàng)建方法,請(qǐng)參見創(chuàng)建實(shí)例。
已將源PolarDB PostgreSQL版集群的wal_level參數(shù)值設(shè)置為logical。設(shè)置方式,請(qǐng)參見設(shè)置集群參數(shù)。
已在目標(biāo)AnalyticDB PostgreSQL版實(shí)例中創(chuàng)建用于接收數(shù)據(jù)的數(shù)據(jù)庫。創(chuàng)建方法,請(qǐng)參見CREATE DATABASE。
注意事項(xiàng)
在庫表結(jié)構(gòu)遷移過程中,DTS會(huì)將源數(shù)據(jù)庫中的外鍵遷移到目標(biāo)數(shù)據(jù)庫。
在全量遷移和增量遷移過程中,DTS會(huì)以Session級(jí)別暫時(shí)禁用約束檢查以及外鍵級(jí)聯(lián)操作。若任務(wù)運(yùn)行時(shí)源庫存在級(jí)聯(lián)更新、刪除操作,可能會(huì)導(dǎo)致數(shù)據(jù)不一致。
類型 | 說明 |
源庫限制 |
|
其他限制 |
|
費(fèi)用說明
遷移類型 | 鏈路配置費(fèi)用 | 公網(wǎng)流量費(fèi)用 |
結(jié)構(gòu)遷移和全量數(shù)據(jù)遷移 | 不收費(fèi)。 | 本示例不收費(fèi)。 |
增量數(shù)據(jù)遷移 | 收費(fèi),詳情請(qǐng)參見計(jì)費(fèi)概述。 |
支持增量遷移的SQL操作
操作類型 | SQL操作語句 |
DML | INSERT、UPDATE、DELETE 說明 在數(shù)據(jù)寫入到目標(biāo)AnalyticDB PostgreSQL版實(shí)例時(shí),UPDATE語句會(huì)自動(dòng)轉(zhuǎn)化為REPLACE INTO語句(若更新的是主鍵,則會(huì)轉(zhuǎn)化為DELETE+INSERT語句)。 |
DDL |
|
數(shù)據(jù)庫賬號(hào)的權(quán)限要求
數(shù)據(jù)庫 | 所需權(quán)限 | 創(chuàng)建及授權(quán)方式 |
源PolarDB PostgreSQL版集群 | 高權(quán)限賬號(hào)。 | |
目標(biāo)AnalyticDB PostgreSQL版實(shí)例 | 目標(biāo)庫的讀寫權(quán)限。 | 創(chuàng)建數(shù)據(jù)庫賬號(hào)和用戶權(quán)限管理。 說明 您也可以填入具備RDS_SUPERUSER權(quán)限的賬號(hào),創(chuàng)建方法請(qǐng)參見用戶權(quán)限管理。 |
操作步驟
進(jìn)入遷移任務(wù)的列表頁面。
在頂部菜單欄中,單擊集成與開發(fā)。
在左側(cè)導(dǎo)航欄,選擇 。
說明實(shí)際操作可能會(huì)因DMS的模式和布局不同,而有所差異。更多信息。請(qǐng)參見極簡(jiǎn)模式控制臺(tái)和自定義DMS界面布局與樣式。
您也可以登錄新版DTS遷移任務(wù)的列表頁面。
在遷移任務(wù)右側(cè),選擇遷移實(shí)例所屬地域。
說明新版DTS遷移任務(wù)列表頁面,需要在頁面左上角選擇遷移實(shí)例所屬地域。
單擊創(chuàng)建任務(wù),配置源庫及目標(biāo)庫信息。
類別
配置
說明
無
任務(wù)名稱
DTS會(huì)自動(dòng)生成一個(gè)任務(wù)名稱,建議配置具有業(yè)務(wù)意義的名稱(無唯一性要求),便于后續(xù)識(shí)別。
源庫信息
選擇已有的DMS數(shù)據(jù)庫實(shí)例(可選,如未創(chuàng)建可忽略此處選擇,直接在下方配置數(shù)據(jù)庫信息即可)
您可以按實(shí)際需求,選擇是否使用已有實(shí)例。
如使用已有實(shí)例,下方數(shù)據(jù)庫信息將自動(dòng)填入,您無需重復(fù)輸入。
如不使用已有實(shí)例,您需要輸入下方的數(shù)據(jù)庫信息。
數(shù)據(jù)庫類型
選擇PolarDB for PostgreSQL。
接入方式
選擇云實(shí)例。
實(shí)例地區(qū)
選擇源PolarDB PostgreSQL版集群所屬的地域。
是否跨阿里云賬號(hào)
本示例為同一阿里云賬號(hào)間的遷移,選擇不跨賬號(hào)。
實(shí)例ID
選擇源PolarDB PostgreSQL版集群的ID。
數(shù)據(jù)庫名稱
填入源PolarDB PostgreSQL版集群中待遷移對(duì)象所屬數(shù)據(jù)庫的名稱。
數(shù)據(jù)庫賬號(hào)
填入源PolarDB PostgreSQL版集群的數(shù)據(jù)庫賬號(hào),權(quán)限要求請(qǐng)參見數(shù)據(jù)庫賬號(hào)的權(quán)限要求。
數(shù)據(jù)庫密碼
填入該數(shù)據(jù)庫賬號(hào)對(duì)應(yīng)的密碼。
目標(biāo)庫信息
選擇已有的DMS數(shù)據(jù)庫實(shí)例(可選,如未創(chuàng)建可忽略此處選擇,直接在下方配置數(shù)據(jù)庫信息即可)
您可以按實(shí)際需求,選擇是否使用已有實(shí)例。
如使用已有實(shí)例,下方數(shù)據(jù)庫信息將自動(dòng)填入,您無需重復(fù)輸入。
如不使用已有實(shí)例,您需要輸入下方的數(shù)據(jù)庫信息。
數(shù)據(jù)庫類型
選擇AnalyticDB PostgreSQL。
接入方式
選擇云實(shí)例。
實(shí)例地區(qū)
選擇目標(biāo)AnalyticDB PostgreSQL版實(shí)例所屬的地域。
實(shí)例ID
選擇目標(biāo)AnalyticDB PostgreSQL版實(shí)例的ID。
數(shù)據(jù)庫名稱
填入目標(biāo)AnalyticDB PostgreSQL版實(shí)例中用于接收數(shù)據(jù)的數(shù)據(jù)庫名稱。
數(shù)據(jù)庫賬號(hào)
填入目標(biāo)AnalyticDB PostgreSQL版實(shí)例的數(shù)據(jù)庫賬號(hào)。權(quán)限要求,請(qǐng)參見數(shù)據(jù)庫賬號(hào)的權(quán)限要求。
數(shù)據(jù)庫密碼
填入該數(shù)據(jù)庫賬號(hào)對(duì)應(yīng)的密碼。
配置完成后,單擊頁面下方的測(cè)試連接以進(jìn)行下一步。
如果源或目標(biāo)數(shù)據(jù)庫是阿里云數(shù)據(jù)庫實(shí)例(例如RDS MySQL、云數(shù)據(jù)庫MongoDB版等),DTS會(huì)自動(dòng)將對(duì)應(yīng)地區(qū)DTS服務(wù)的IP地址添加到阿里云數(shù)據(jù)庫實(shí)例的白名單;如果源或目標(biāo)數(shù)據(jù)庫是ECS上的自建數(shù)據(jù)庫,DTS會(huì)自動(dòng)將對(duì)應(yīng)地區(qū)DTS服務(wù)的IP地址添到ECS的安全規(guī)則中,您還需確保自建數(shù)據(jù)庫沒有限制ECS的訪問(若數(shù)據(jù)庫是集群部署在多個(gè)ECS實(shí)例,您需要手動(dòng)將DTS服務(wù)對(duì)應(yīng)地區(qū)的IP地址添到其余每個(gè)ECS的安全規(guī)則中);如果源或目標(biāo)數(shù)據(jù)庫是IDC自建數(shù)據(jù)庫或其他云數(shù)據(jù)庫,則需要您手動(dòng)添加對(duì)應(yīng)地區(qū)DTS服務(wù)的IP地址,以允許來自DTS服務(wù)器的訪問。DTS服務(wù)的IP地址,請(qǐng)參見DTS服務(wù)器的IP地址段。
警告DTS自動(dòng)添加或您手動(dòng)添加DTS服務(wù)的公網(wǎng)IP地址段可能會(huì)存在安全風(fēng)險(xiǎn),一旦使用本產(chǎn)品代表您已理解和確認(rèn)其中可能存在的安全風(fēng)險(xiǎn),并且需要您做好基本的安全防護(hù),包括但不限于加強(qiáng)賬號(hào)密碼強(qiáng)度防范、限制各網(wǎng)段開放的端口號(hào)、內(nèi)部各API使用鑒權(quán)方式通信、定期檢查并限制不需要的網(wǎng)段,或者使用通過內(nèi)網(wǎng)(專線/VPN網(wǎng)關(guān)/智能網(wǎng)關(guān))的方式接入。
配置任務(wù)對(duì)象及高級(jí)配置。
配置
說明
遷移類型
如果只需要進(jìn)行全量遷移,請(qǐng)同時(shí)選中庫表結(jié)構(gòu)遷移和全量遷移。
如果需要進(jìn)行不停機(jī)遷移,請(qǐng)同時(shí)選中庫表結(jié)構(gòu)遷移、全量遷移和增量遷移。
說明如果未選擇增量遷移,為保障數(shù)據(jù)一致性,數(shù)據(jù)遷移期間請(qǐng)勿在源實(shí)例中寫入新的數(shù)據(jù)。
實(shí)例級(jí)別選擇所需同步的DDL和DML
按實(shí)例級(jí)別選擇增量遷移的SQL操作,支持的操作,請(qǐng)參見支持增量遷移的SQL操作。
說明如需按表級(jí)別選擇增量遷移的SQL操作,請(qǐng)?jiān)?b id="ce739a703ae3h" data-tag="uicontrol" data-isbold="true" class="uicontrol">已選擇對(duì)象中右擊遷移對(duì)象,在彈跳框中勾選所需增量遷移的SQL操作。
目標(biāo)已存在表的處理模式
預(yù)檢查并報(bào)錯(cuò)攔截:檢查目標(biāo)數(shù)據(jù)庫中是否有同名的表。如果目標(biāo)數(shù)據(jù)庫中沒有同名的表,則通過該檢查項(xiàng)目;如果目標(biāo)數(shù)據(jù)庫中有同名的表,則在預(yù)檢查階段提示錯(cuò)誤,數(shù)據(jù)遷移任務(wù)不會(huì)被啟動(dòng)。
說明如果目標(biāo)庫中同名的表不方便刪除或重命名,您可以更改該表在目標(biāo)庫中的名稱,請(qǐng)參見庫表列名映射。
忽略報(bào)錯(cuò)并繼續(xù)執(zhí)行:跳過目標(biāo)數(shù)據(jù)庫中是否有同名表的檢查項(xiàng)。
警告選擇為忽略報(bào)錯(cuò)并繼續(xù)執(zhí)行,可能導(dǎo)致數(shù)據(jù)不一致,給業(yè)務(wù)帶來風(fēng)險(xiǎn),例如:
表結(jié)構(gòu)一致的情況下,在目標(biāo)庫遇到與源庫主鍵的值相同的記錄:
全量期間,DTS會(huì)保留目標(biāo)集群中的該條記錄,即源庫中的該條記錄不會(huì)遷移至目標(biāo)數(shù)據(jù)庫中。
增量期間,DTS不會(huì)保留目標(biāo)集群中的該條記錄,即源庫中的該條記錄會(huì)覆蓋至目標(biāo)數(shù)據(jù)庫中。
表結(jié)構(gòu)不一致的情況下,可能導(dǎo)致只能遷移部分列的數(shù)據(jù)或遷移失敗,請(qǐng)謹(jǐn)慎操作。
存儲(chǔ)引擎類型
請(qǐng)根據(jù)實(shí)際情況選擇目標(biāo)表的存儲(chǔ)引擎類型,默認(rèn)為Beam。
說明僅當(dāng)目標(biāo)AnalyticDB PostgreSQL版實(shí)例的內(nèi)核版本為v7.0.6.6及以上,且遷移類型選擇了庫表結(jié)構(gòu)遷移時(shí)才會(huì)有此配置項(xiàng)。
目標(biāo)庫對(duì)象名稱大小寫策略
您可以配置目標(biāo)實(shí)例中遷移對(duì)象的庫名、表名和列名的英文大小寫策略。默認(rèn)情況下選擇DTS默認(rèn)策略,您也可以選擇與源庫、目標(biāo)庫默認(rèn)策略保持一致。更多信息,請(qǐng)參見目標(biāo)庫對(duì)象名稱大小寫策略。
源庫對(duì)象
在源庫對(duì)象框中單擊待遷移的對(duì)象,然后單擊將其移動(dòng)到已選擇對(duì)象框。
說明遷移對(duì)象選擇的粒度為表。
已選擇對(duì)象
如需更改單個(gè)遷移對(duì)象在目標(biāo)實(shí)例中的名稱,請(qǐng)右擊已選擇對(duì)象中的遷移對(duì)象,設(shè)置方式,請(qǐng)參見庫表列名單個(gè)映射。
如需批量更改遷移對(duì)象在目標(biāo)實(shí)例中的名稱,請(qǐng)單擊已選擇對(duì)象方框右上方的批量編輯,設(shè)置方式,請(qǐng)參見庫表列名批量映射。
說明如果使用了對(duì)象名映射功能,可能會(huì)導(dǎo)致依賴這個(gè)對(duì)象的其他對(duì)象遷移失敗。
如需選擇增量遷移的SQL操作,請(qǐng)?jiān)?b id="fd60ae9381z3u" data-tag="uicontrol" data-isbold="true" class="uicontrol">已選擇對(duì)象中右擊待遷移對(duì)象,并在彈出的對(duì)話框中選擇所需遷移的SQL操作。支持的操作,請(qǐng)參見支持增量遷移的SQL操作。
如需設(shè)置WHERE條件過濾數(shù)據(jù),請(qǐng)?jiān)?b id="947a9e803be3h" data-tag="uicontrol" data-isbold="true" class="uicontrol">已選擇對(duì)象中右擊待遷移的表,在彈出的對(duì)話框中設(shè)置過濾條件。設(shè)置方法請(qǐng)參見設(shè)置過濾條件。
單擊下一步高級(jí)配置,進(jìn)行高級(jí)配置。
配置
說明
選擇調(diào)度該任務(wù)的專屬集群
DTS默認(rèn)將任務(wù)調(diào)度到共享集群上,您無需選擇。若您希望任務(wù)更加穩(wěn)定,可以購買專屬集群來運(yùn)行DTS遷移任務(wù)。更多信息,請(qǐng)參見什么是DTS專屬集群。
源庫、目標(biāo)庫無法連接后的重試時(shí)間
在遷移任務(wù)啟動(dòng)后,若源庫或目標(biāo)庫連接失敗則DTS會(huì)報(bào)錯(cuò),并會(huì)立即進(jìn)行持續(xù)的重試連接,默認(rèn)重試720分鐘,您也可以在取值范圍(10~1440分鐘)內(nèi)自定義重試時(shí)間,建議設(shè)置30分鐘以上。如果DTS在設(shè)置的時(shí)間內(nèi)重新連接上源、目標(biāo)庫,遷移任務(wù)將自動(dòng)恢復(fù)。否則,遷移任務(wù)將失敗。
說明針對(duì)同源或者同目標(biāo)的多個(gè)DTS實(shí)例,網(wǎng)絡(luò)重試時(shí)間以后創(chuàng)建任務(wù)的設(shè)置為準(zhǔn)。
由于連接重試期間,DTS將收取任務(wù)運(yùn)行費(fèi)用,建議您根據(jù)業(yè)務(wù)需要自定義重試時(shí)間,或者在源和目標(biāo)庫實(shí)例釋放后盡快釋放DTS實(shí)例。
源庫、目標(biāo)庫出現(xiàn)其他問題后的重試時(shí)間
在遷移任務(wù)啟動(dòng)后,若源庫或目標(biāo)庫出現(xiàn)非連接性的其他問題(如DDL或DML執(zhí)行異常),則DTS會(huì)報(bào)錯(cuò)并會(huì)立即進(jìn)行持續(xù)的重試操作,默認(rèn)持續(xù)重試時(shí)間為10分鐘,您也可以在取值范圍(1~1440分鐘)內(nèi)自定義重試時(shí)間,建議設(shè)置10分鐘以上。如果DTS在設(shè)置的重試時(shí)間內(nèi)相關(guān)操作執(zhí)行成功,遷移任務(wù)將自動(dòng)恢復(fù)。否則,遷移任務(wù)將會(huì)失敗。
重要源庫、目標(biāo)庫出現(xiàn)其他問題后的重試時(shí)間的值需要小于源庫、目標(biāo)庫無法連接后的重試時(shí)間的值。
是否限制全量遷移速率
在全量遷移階段,DTS將占用源庫和目標(biāo)庫一定的讀寫資源,可能會(huì)導(dǎo)致數(shù)據(jù)庫的負(fù)載上升。您可以根據(jù)實(shí)際情況,選擇是否對(duì)全量遷移任務(wù)進(jìn)行限速設(shè)置(設(shè)置每秒查詢?cè)磶斓乃俾蔘PS、每秒全量遷移的行數(shù)RPS和每秒全量遷移的數(shù)據(jù)量(MB)BPS),以緩解目標(biāo)庫的壓力。
說明僅當(dāng)遷移類型選擇了全量遷移時(shí)才可以配置。
是否限制增量遷移速率
您也可以根據(jù)實(shí)際情況,選擇是否對(duì)增量遷移任務(wù)進(jìn)行限速設(shè)置(設(shè)置每秒增量遷移的行數(shù)RPS和每秒增量遷移的數(shù)據(jù)量(MB)BPS),以緩解目標(biāo)庫的壓力。
說明僅當(dāng)遷移類型選擇了增量遷移時(shí)才可以配置。
環(huán)境標(biāo)簽
您可以根據(jù)實(shí)際情況,選擇用于標(biāo)識(shí)實(shí)例的環(huán)境標(biāo)簽。本示例無需選擇。
配置ETL功能
選擇是否配置ETL功能。關(guān)于ETL的更多信息,請(qǐng)參見什么是ETL。
是:配置ETL功能,并在文本框中填寫數(shù)據(jù)處理語句,詳情請(qǐng)參見在DTS遷移或同步任務(wù)中配置ETL。
否:不配置ETL功能。
監(jiān)控告警
是否設(shè)置告警,當(dāng)遷移失敗或延遲超過閾值后,將通知告警聯(lián)系人。
不設(shè)置:不設(shè)置告警。
設(shè)置:設(shè)置告警,您還需要設(shè)置告警閾值和告警聯(lián)系人。更多信息,請(qǐng)參見在配置任務(wù)過程中配置監(jiān)控告警。
可選:上述配置完成后,單擊下一步配置庫表字段,設(shè)置待遷移的表在目標(biāo)AnalyticDB PostgreSQL版中的類型、主鍵列和分布鍵信息。
說明配置任務(wù)對(duì)象時(shí)遷移類型勾選了庫表結(jié)構(gòu)遷移時(shí)才會(huì)有本步驟,您可以將定義狀態(tài)選擇為全部后進(jìn)行修改。
主鍵列可以是選擇多個(gè)列組成聯(lián)合主鍵,且需要從主鍵列中選擇1個(gè)或者多個(gè)列作為分布鍵。更多信息,請(qǐng)參見數(shù)據(jù)表管理和表分布定義。
保存任務(wù)并進(jìn)行預(yù)檢查。
若您需要查看調(diào)用API接口配置該實(shí)例時(shí)的參數(shù)信息,請(qǐng)將鼠標(biāo)光標(biāo)移動(dòng)至下一步保存任務(wù)并預(yù)檢查按鈕上,然后單擊氣泡中的預(yù)覽OpenAPI參數(shù)。
若您無需查看或已完成查看API參數(shù),請(qǐng)單擊頁面下方的下一步保存任務(wù)并預(yù)檢查。
說明在遷移任務(wù)正式啟動(dòng)之前,會(huì)先進(jìn)行預(yù)檢查。只有預(yù)檢查通過后,才能成功啟動(dòng)遷移任務(wù)。
如果預(yù)檢查失敗,請(qǐng)單擊失敗檢查項(xiàng)后的查看詳情,并根據(jù)提示修復(fù)后重新進(jìn)行預(yù)檢查。
如果預(yù)檢查產(chǎn)生警告:
對(duì)于不可以忽略的檢查項(xiàng),請(qǐng)單擊失敗檢查項(xiàng)后的查看詳情,并根據(jù)提示修復(fù)后重新進(jìn)行預(yù)檢查。
對(duì)于可以忽略無需修復(fù)的檢查項(xiàng),您可以依次單擊點(diǎn)擊確認(rèn)告警詳情、確認(rèn)屏蔽、確定、重新進(jìn)行預(yù)檢查,跳過告警檢查項(xiàng)重新進(jìn)行預(yù)檢查。如果選擇屏蔽告警檢查項(xiàng),可能會(huì)導(dǎo)致數(shù)據(jù)不一致等問題,給業(yè)務(wù)帶來風(fēng)險(xiǎn)。
預(yù)檢查通過率顯示為100%時(shí),單擊下一步購買。
在購買頁面,選擇數(shù)據(jù)遷移實(shí)例的鏈路規(guī)格,詳細(xì)說明請(qǐng)參見下表。
類別
參數(shù)
說明
信息配置
資源組配置
選擇實(shí)例所屬的資源組,默認(rèn)為default resource group。更多信息,請(qǐng)參見什么是資源管理。
鏈路規(guī)格
DTS為您提供了不同性能的遷移規(guī)格,遷移鏈路規(guī)格的不同會(huì)影響遷移速率,您可以根據(jù)業(yè)務(wù)場(chǎng)景進(jìn)行選擇。更多信息,請(qǐng)參見數(shù)據(jù)遷移鏈路規(guī)格說明。
配置完成后,閱讀并選中《數(shù)據(jù)傳輸(按量付費(fèi))服務(wù)條款》。
單擊購買并啟動(dòng),并在彈出的確認(rèn)對(duì)話框,單擊確定。
您可在數(shù)據(jù)遷移界面查看具體進(jìn)度。