LLM-文件后綴過濾（MaxCompute）
LLM-文件后綴過濾組件主要用于大語言模型（LLM）的文本數(shù)據(jù)預(yù)處理工作，根據(jù)文件名后綴對文本進行過濾，過濾掉指定后綴名的樣本。
使用限制
僅支持MaxCompute計算引擎。
可視化配置參數(shù)
您可以在Designer中，通過可視化的方式配置組件參數(shù)。
頁簽 | 參數(shù) | 是否必選 | 描述 | 默認(rèn)值 |
字段設(shè)置 | 選擇目標(biāo)處理列 | 是 | 選擇要處理的列，支持選擇多個列。 | 無 |
過濾的后綴名 | 是 | 要過濾掉的文件后綴名，多個后綴名用半角逗號（,）分隔，例如：.asm,.bat,.cmd | .asm,.bat,.cmd,.c,.h,.cs,.cpp,.hpp,.c++,.h++,.cc,.hh,.C,.H,.cmake,.css,.dockerfile,.f90,.f,.f03,.f08,.f77,.f95,.for,.fpp,.go,.hs,.html,.java,.js,.jl,.lua,.md,.markdown,.php,.php3,.php4,.php5,.phps,.phpt,.pl,.pm,.pod,.perl,.ps1,.psd1,.psm1,.py,.rb,.rs,.sql,.scala,.sh,.bash,.command,.zsh,.ts,.tsx,.tex,.vb,Dockerfile,Makefile,.xml,.rst,.m,.smali | |
設(shè)置輸出表生命周期 | 否 | 正整數(shù)，單位為天。默認(rèn)28天，28天后該組件產(chǎn)生的臨時表被回收。 | 28 | |
執(zhí)行調(diào)優(yōu) | 每個實例的cpu數(shù)目 | 否 | 設(shè)定map task每個instance的CPU數(shù)目，取值范圍為[50,800]。 | 100 |
每個實例的memory大小，單位M | 否 | 設(shè)定map task每個instance的memory大小，單位為MB，取值范圍為[256,12288]。 | 1024 | |
每個實例處理的數(shù)據(jù)大小，單位M | 否 | 設(shè)定map task每個instance的最大處理數(shù)據(jù)量，用戶可以通過控制該變量，實現(xiàn)對map端輸入的控制。單位為MB，取值范圍為[1,Integer.MAX_VALUE]。 | 256 |
相關(guān)文檔
關(guān)于Designer組件更詳細(xì)的內(nèi)容介紹，請參見Designer概述。