LLM-N-Gram重復比率過濾組件主要用于大語言模型(LLM)的文本數據預處理工作,保留字符級或者詞語級N-Gram重復比率在指定范圍內的樣本。
使用限制
僅支持MaxCompute計算引擎。
算法簡介
將文本中的內容按照字符或詞語進行大小為N的滑動窗口操作,形成了長度為N的片段序列。每一個片段稱為Gram,對所有Gram的出現次數進行統計。最后統計頻次大于1的Gram的頻次總和 / 所有Gram的頻次總和
兩者比率作為重復比率進行樣本過濾。
如果是詞語級統計,會先將所有單詞轉成小寫格式再計算重復度。
可視化配置參數
您可以在Designer中,通過可視化的方式配置組件參數。
頁簽 | 參數 | 是否必選 | 描述 | 默認值 |
字段設置 | 選擇目標處理列 | 是 | 選擇要處理的列,支持選擇多個列。 | 無 |
是否根據字符級N-Gram重復比率過濾 | 否 |
| 無 | |
是否根據詞語級N-Gram重復比率過濾 | 否 |
| 無 | |
設置輸出表生命周期 | 否 | 正整數,單位為天。默認28天,28天后該組件產生的臨時表被回收。 | 28 | |
執行調優 | 每個實例的cpu數目 | 否 | 設定map task每個instance的CPU數目,取值范圍為[50,800]。 | 100 |
每個實例的memory大小,單位M | 否 | 設定map task每個instance的memory大小,單位為MB,取值范圍為[256,12288]。 | 1024 | |
每個實例處理的數據大小,單位M | 否 | 設定map task每個instance的最大處理數據量,用戶可以通過控制該變量,實現對map端輸入的控制。單位為MB,取值范圍為[1,Integer.MAX_VALUE]。 | 256 |
相關文檔
關于Designer組件更詳細的內容介紹,請參見Designer概述。