LLM-N-Gram重復比率過濾（DLC）組件主要用于保留字符級或詞語級N-Gram重復比率在指定范圍內的樣本。輸入的OSS數據文件（JSONL格式，示例）需符合：每一行是一個合法的JSON對象，文件由多行JSON對象組成，整個文件本身不是合法的JSON對象。
支持的計算資源
算法說明
將文本中的內容按照字符或詞語進行大小為N的滑動窗口操作，形成了長度為N的片段序列。每一個片段稱為Gram，對所有Gram的出現次數進行統計。最后統計頻次大于1的Gram的頻次總和 / 所有Gram的頻次總和兩者比率作為重復比率進行樣本過濾。
如果是詞語級統計，會先將所有單詞轉成小寫格式再計算重復度。
配置組件
在Designer工作流頁面添加LLM-N-Gram重復比率過濾（DLC）組件，并在界面右側配置相關參數：
參數類型 | 參數 | 是否必選 | 描述 | 默認值 | |
字段設置 | 目標處理字段 | 是 | 要處理的字段名稱。 | 無 | |
是否根據字符級N-Gram重復比率過濾 | 否 | 如果選中，需配置以下參數：
| 未選中 | ||
是否根據詞語級N-Gram重復比率過濾 | 否 | 如果選中，需配置以下參數：
| 未選中 | ||
數據輸出OSS目錄 | 否 | 處理后數據的OSS存儲目錄。如果為空，使用工作空間默認路徑。 | 無 | ||
執行調優 | 多進程個數 | 否 | 設置進程數。 | 8 | |
選擇資源組 | 公共資源組 | 否 | 選擇節點規格（CPU或GPU實例規格）、節點數量、專有網絡。 | 無 | |
專有資源組 | 否 | 選擇CPU核數、內存、共享內存、GPU卡數、節點數量。 | 無 | ||
最大運行時長 | 否 | 組件最大運行時長，超過這個時間，作業會被kill。 | 無 | ||