JindoFS塊存儲(chǔ)模式對(duì)文件數(shù)據(jù)管理提供了高級(jí)策略,以滿足不同情形下的存儲(chǔ)需求,主要包括存儲(chǔ)策略(Storage Policy)和壓縮策略(Compression Policy)。本文詳細(xì)介紹相關(guān)策略及其使用方式。

使用限制

存儲(chǔ)策略和壓縮策略都是針對(duì)目錄設(shè)置的,僅對(duì)目錄下新寫入的文件有效。如果是設(shè)置策略之前已存在的文件或者使用rename和mv命令移動(dòng)來的文件,更新壓縮策略時(shí)需要重新寫入,更新存儲(chǔ)策略需要執(zhí)行分層存儲(chǔ)命令進(jìn)行歸檔,詳情請(qǐng)參見分層存儲(chǔ)命令使用說明

存儲(chǔ)策略

JindoFS提供了Storage Policy功能,提供更加靈活的存儲(chǔ)策略以適應(yīng)不同的存儲(chǔ)需求。支持設(shè)置以下五種存儲(chǔ)策略。
策略名稱 策略說明
AR 數(shù)據(jù)僅在OSS上有一個(gè)備份,并且使用OSS歸檔存儲(chǔ)(Archive)類型存儲(chǔ)。
IA 數(shù)據(jù)僅在OSS上有一個(gè)備份,并且使用OSS低頻訪問(Infrequent Access)類型存儲(chǔ)。
COLD 數(shù)據(jù)僅在OSS上有一個(gè)備份,并且使用OSS標(biāo)準(zhǔn)存儲(chǔ)(Standard)類型存儲(chǔ)。
WARM 數(shù)據(jù)在OSS和本地分別有一個(gè)備份, 本地備份能夠有效的提供后續(xù)的讀取加速。

默認(rèn)策略。

HOT 數(shù)據(jù)在OSS和本地分別有一個(gè)備份,并且本地備份強(qiáng)制鎖定,不受自動(dòng)緩存清理影響,針對(duì)一些最熱的數(shù)據(jù)提供更加高優(yōu)先級(jí)的加速效果。

OSS存儲(chǔ)類型的詳細(xì)介紹,請(qǐng)參見存儲(chǔ)類型介紹

示例,新增的文件將會(huì)以父目錄所指定的Storage Policy進(jìn)行存儲(chǔ)。
  • 您可以通過以下命令,設(shè)置存儲(chǔ)類型。
    jindo jfs -setStoragePolicy [-R] <StoragePolicy>(AR/IA/COLD/WARM/HOT) <path> ...
    其中,涉及參數(shù)如下:
    • [-R]:遞歸設(shè)置該路徑下的所有路徑。
    • <path>:設(shè)置Storage Policy的路徑名稱。
  • 您通過以下命令,獲取某個(gè)目錄的存儲(chǔ)策略。
    jindo jfs -getStoragePolicy <path>

壓縮策略

JindoFS提供了Compression Policy功能,可以針對(duì)數(shù)據(jù)塊進(jìn)行壓縮后存儲(chǔ),能夠有效地減少存儲(chǔ)空間和提高數(shù)據(jù)讀寫效率,適用于一些高壓縮比的文件。支持以下兩種壓縮策略。
策略名稱 策略說明
NONE 不對(duì)數(shù)據(jù)塊進(jìn)行壓縮。

默認(rèn)策略。

ZSTD 對(duì)數(shù)據(jù)塊使用ZSTD(Zstandard)壓縮算法。
示例,新增的文件將會(huì)以父目錄所指定的Compression Policy進(jìn)行壓縮后存儲(chǔ)。
  • 您可以通過以下命令,設(shè)置壓縮類型。
    jindo jfs -setCompressionPolicy [-R] <CompressionPolicy>(NONE/ZSTD) <path> ...
    其中,涉及參數(shù)如下:
    • [-R]:遞歸設(shè)置該路徑下的所有路徑。
    • <path>:設(shè)置Compression Policy的路徑名稱。
  • 您通過以下命令,獲取某個(gè)目錄的壓縮策略。
    jindo jfs -getCompressionPolicy <path> ...