LLM-敏感信息打碼(DLC)
LLM-敏感信息打碼(DLC)組件主要用于將敏感信息打碼,例如將郵箱地址字符替換成[EMAIL],手機(jī)/電話號(hào)碼替換成[TELEPHONE]或[MOBILEPHONE],身份證號(hào)碼替換成[IDNUM]。輸入的OSS數(shù)據(jù)文件(JSONL格式,示例)需符合:每一行是一個(gè)合法的JSON對(duì)象,文件由多行JSON對(duì)象組成,整個(gè)文件本身不是合法的JSON對(duì)象。
支持的計(jì)算資源
算法說(shuō)明
敏感信息包括以下匹配項(xiàng):
手機(jī)號(hào)碼:匹配以下正則表達(dá)式的字符串將被替換成
[MOBILEPHONE]
。r'(?<!\d)(1(3[0-9]|4[579]|5[0-3,5-9]|6[6]|7[0135678]|8[0-9]|9[89])\d{8})(?!\d)'
r'(?<!\d)(1[\d]{2}-\d{4}-\d{4}\D|\D1\d{10}\D|\D1[\d]{2} \d{4} \d{4})(?!\d)'
r'(?<!\d)(1[3-9]\d{9})(?!\d)'
座機(jī)號(hào)碼:匹配以下正則表達(dá)式的字符串將被替換成
[TELEPHONE]
。r'(?<!\d)(\(?0\d{2,3}[-\s)]?\d{7,8})(?!\d)'
郵箱:匹配以下正則表達(dá)式的字符串將被替換成
[EMAIL]
。r'[a-zA-Z0-9_.+-]+@[a-zA-Z0-9-]+.[a-zA-Z0-9-.]+'
身份證:匹配以下正則表達(dá)式的字符串將被替換為
[IDNUM]
。r'(?<!\d)([1-6]\d{5}[12]\d{3}(0[1-9]|1[12])(0[1-9]|1[0-9]|2[0-9]|3[01])\d{3}(\d|X|x))(?!\d)'
r'(?<!\d)([1-9]\d{5}[12]\d{3}(0[1-9]|1[012])(0[1-9]|[12][0-9]|3[01])\d{3}[0-9xX])(?!\d)'
例如郵箱打碼:
處理前 | 處理后 |
配置組件
在Designer工作流頁(yè)面添加LLM-敏感信息打碼(DLC)組件,并在界面右側(cè)配置相關(guān)參數(shù):
參數(shù)類(lèi)型 | 參數(shù) | 是否必選 | 描述 | 默認(rèn)值 | |
字段設(shè)置 | 目標(biāo)處理字段 | 是 | 要處理的字段名稱(chēng)。 | 無(wú) | |
數(shù)據(jù)輸出OSS目錄 | 否 | 處理后數(shù)據(jù)的OSS存儲(chǔ)目錄。如果為空,使用工作空間默認(rèn)路徑。 | 無(wú) | ||
執(zhí)行調(diào)優(yōu) | 多進(jìn)程個(gè)數(shù) | 否 | 設(shè)置進(jìn)程數(shù)。 | 8 | |
選擇資源組 | 公共資源組 | 否 | 選擇節(jié)點(diǎn)規(guī)格(CPU或GPU實(shí)例規(guī)格)、節(jié)點(diǎn)數(shù)量、專(zhuān)有網(wǎng)絡(luò)。 | 無(wú) | |
專(zhuān)有資源組 | 否 | 選擇CPU核數(shù)、內(nèi)存、共享內(nèi)存、GPU卡數(shù)、節(jié)點(diǎn)數(shù)量。 | 無(wú) | ||
最大運(yùn)行時(shí)長(zhǎng) | 否 | 組件最大運(yùn)行時(shí)長(zhǎng),超過(guò)這個(gè)時(shí)間,作業(yè)會(huì)被kill。 | 無(wú) |