rds_dbsync為開源的數據同步遷移工具 ,支持多線程導入(每個工作線程負責導入一部分數據庫表),可同時連接源端和目的端數據庫,從源端MySQL庫中查詢要導出的數據,然后通過COPY命令導入目的端,其mysql2pgsql功能支持不落地的把MySQL中的表遷移到AnalyticDB PostgreSQL版。
參數配置
修改配置文件my.cfg、配置源和目的庫連接信息。
源庫MySQL的連接信息如下:
重要源庫MySQL的連接信息中,用戶需要有對所有用戶表的讀權限。
[src.mysql] host = "192.168.1.1" port = "3306" user = "test" password = "test" db = "test" encodingdir = "share" encoding = "utf8"
目的庫pgsql(包括Postgresql、PPAS和AnalyticDB PostgreSQL版)的連接信息如下:
重要目的庫pgsql的連接信息,用戶需要對目標表有寫的權限。
[desc.pgsql] connect_string = "host=192.168.1.2 dbname=test port=3432 user=test password=pgsql"
mysql2pgsql用法
mysql2pgsql的用法如下所示:
./mysql2pgsql -l <tables_list_file> -d -n -j <number of threads> -s <schema of target table>
參數說明:
-l:可選參數,指定一個文本文件,文件中含有需要同步的表;如果不指定此參數,則同步配置文件中指定數據庫下的所有表。
<tables_list_file>
為一個文件名,里面含有需要同步的表集合以及表上查詢的條件,其內容格式示例如下:table1 : select * from table_big where column1 < '2016-08-05' table2 : table3 table4: select column1, column2 from tableX where column1 != 10 table5: select * from table_big where column1 >= '2016-08-05'
-d:可選參數,表示只生成目的表的建表DDL語句,不實際進行數據同步。
-n:可選參數,需要與-d一起使用,指定在DDL語句中不包含表分區定義。
-j:可選參數,指定使用多少線程進行數據同步;如果不指定此參數,會使用5個線程并發。
-s:可選參數,指定目標表的schema,目前僅支持設定為public。
典型用法
全庫遷移
全庫遷移的操作步驟如下所示:
通過如下命令,獲取目的端對應表的DDL。
./mysql2pgsql -d
根據這些DDL,再加入Distribution Key等信息,在目的端創建表。
執行如下命令,同步所有表:
./mysql2pgsql
此命令會把配置文件中所指定數據庫中的所有MySQL 表數據遷移到目的端。過程中使用5個線程(即缺省線程數為5),讀取和導入所有涉及的表數據。
部分表遷移
編輯一個新文件tab_list.txt,放入如下內容:
t1 t2 : select * from t2 where c1 > 138888
執行如下命令,同步指定的t1和t2表(注意t2表只遷移符合c1 > 138888條件的數據):
./mysql2pgsql -l tab_list.txt
下載與說明
下載mysql2pgsql二進制安裝包。
查看mysql2pgsql源碼編譯說明。