LLM-刪除LaTeX文檔頭組件主要用于大語言模型（LLM）的文本數據預處理工作，適用于TEX文檔格式數據。主要功能是找到第一個匹配<section-type>[optional-args]{name}章節格式的字符串，并將其之前的所有內容刪除，保留第一個匹配到章節后的所有內容，包括該章節標題。
支持的計算資源
算法說明
定義LaTeX格式文本章節的正則表達式為：r'^(.*?)(\\\bchapter\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bpart\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bsection\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bsubsection\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bsubsubsection\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bparagraph\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bsubparagraph\b\*?(?:\[(.*?)\])?\{(.*?)\})'（多個匹配字段用“|”分隔）。
定位到滿足上述正則表達式的第一個字符串，將其之前的所有內容刪除，保留第一個匹配到章節后的所有內容，包括該章節標題。示例如下：
處理前
| 處理后
|
配置組件
在Designer工作流頁面添加LLM-刪除LaTeX文檔頭組件，并在界面右側配置相關參數：
參數類型 | 參數 | 描述 |
字段設置 | 選擇目標處理列 | 選擇要處理的列，支持多選。 |
是否刪除沒有匹配到章節格式的樣本 | 如果勾選此選項，如果樣本沒有匹配到任何章節格式，則刪除該樣本。 | |
設置輸出表生命周期 | 正整數，單位為天。默認28天，28天后該組件產生的臨時表被回收。 | |
執行調優 | 每個實例的cpu數目 | 設定map task每個instance的CPU數目，取值范圍：50~800，默認值：100。 |
每個實例的memory大小，單位M | 設定map task每個instance的memory大小，取值范圍：256~12288，默認值：1024，單位：MB。 | |
每個實例處理的數據大小，單位M | 設定map task每個instance的最大處理數據量，取值范圍：1~Integer.MAX_VALUE，默認值：256，單位：MB。 您可以通過控制這個變量，從而達到對map端輸入的控制。 |