LLM-敏感詞過濾組件主要用于大語言模型（LLM）的文本數據預處理工作，可以過濾掉帶有敏感詞的樣本。
使用限制
僅支持MaxCompute計算引擎。
算法簡介
識別文本中是否包含敏感詞，過濾掉包含敏感詞的樣本。支持返回文本中包含的敏感詞。默認提供的敏感詞數量共12000+。
可視化配置參數
您可以在Designer中，通過可視化的方式配置組件參數。
頁簽 | 參數 | 是否必選 | 描述 | 默認值 |
字段設置 | 選擇目標處理列 | 是 | 選擇要處理的列。 | 無 |
是否保存敏感詞結果 | 否 | 是否將敏感詞識別結果保存到輸出表中。如果勾選，則在輸出表中新增兩列用來存儲結果，否則不做存儲。
| 無 | |
SQL腳本 | 否 | where語句填寫，是否敏感詞默認保存到 | 無 | |
敏感詞文件 | 否 | 敏感詞文件路徑。置空時，使用默認的敏感詞列表。文件格式為："敏感詞1\n敏感詞2\n..."，敏感詞之間用換行符分隔。 | 預置敏感詞文件 | |
設置輸出表生命周期 | 否 | 正整數，單位為天。默認28天，28天后該組件產生的臨時表被回收。 | 28 | |
執行調優 | 每個實例的cpu數目 | 否 | 設定map task每個instance的CPU數目，取值范圍為[50,800]。 | 100 |
每個實例的memory大小，單位M | 否 | 設定map task每個instance的memory大小，單位為MB，取值范圍為[256,12288]。 | 1024 | |
每個實例處理的數據大小，單位M | 否 | 設定map task每個instance的最大處理數據量，用戶可以通過控制該變量，實現對map端輸入的控制。單位為MB，取值范圍為[1,Integer.MAX_VALUE]。 | 256 |
相關文檔
關于Designer組件更詳細的內容介紹，請參見Designer概述。