LLM-Copyright信息移除(DLC)組件主要用于刪除文本中的Copyright信息,多用于去除代碼文本中的頭部Copyright注釋。輸入的OSS數據文件(JSONL格式,示例)需符合:每一行是一個合法的JSON對象,文件由多行JSON對象組成,整個文件本身不是合法的JSON對象。
支持的計算資源
算法說明
去除文本中的Copyright信息或者注釋信息,分為以下兩個步驟:
首先檢測文本中是否有符合正則表達式
'/\\*[^*]*\\*+(?:[^/*][^*]*\\*+)*/'
(注釋字符)的字符串。如果匹配到對應字符串,則檢測字符串中是否包含
copyright
字段,如果包含,則刪除整段字符串并返回;否則不做刪除,直接返回。如果匹配不到該正則表達式,則進入步驟2繼續處理。
將文本用換行符分隔,按行遍歷文本是否以
//
、#
、--
注釋符號開頭,一旦匹配到符合條件的某行,繼續統計連續的注釋行,直到注釋符號終止,則遍歷終止。最后刪除文本中的連續注釋片段并返回。
以上步驟均檢測第一次匹配到的注釋片段,即默認檢測文本的頭部,剩余部分不做處理。例如:
處理前 | 處理后 |
配置組件
在Designer工作流頁面添加LLM-Copyright信息移除(DLC)組件,并在界面右側配置相關參數:
參數類型 | 參數 | 是否必選 | 描述 | 默認值 | |
字段設置 | 目標處理字段 | 是 | 要處理的字段名稱。 | 無 | |
數據輸出OSS目錄 | 否 | 處理后數據的OSS存儲目錄。如果為空,使用工作空間默認路徑。 | 無 | ||
執行調優 | 多進程個數 | 否 | 設置進程數。 | 8 | |
選擇資源組 | 公共資源組 | 否 | 選擇節點規格(CPU或GPU實例規格)、節點數量、專有網絡。 | 無 | |
專有資源組 | 否 | 選擇CPU核數、內存、共享內存、GPU卡數、節點數量。 | 無 | ||
最大運行時長 | 否 | 組件最大運行時長,超過這個時間,作業會被kill。 | 無 |
文檔內容是否對您有幫助?