智能審核
智能審核基于海量標(biāo)注數(shù)據(jù)和深度學(xué)習(xí)算法實(shí)現(xiàn)，從語(yǔ)音、文字、視覺等多維度精準(zhǔn)識(shí)別視頻、封面、標(biāo)題等違禁內(nèi)容，包括色情、暴恐、政治敏感等多個(gè)審核類型，廣泛應(yīng)用于短視頻平臺(tái)、傳媒審核等場(chǎng)景，可有效提高視頻的審核效率。本文為您介紹如何自定義智能審核模板并進(jìn)行智能審核。
應(yīng)用場(chǎng)景
UGC內(nèi)容審核
海量UGC（用戶生成內(nèi)容）上傳的視頻，通過視頻智能審核技術(shù)，快速檢測(cè)違規(guī)內(nèi)容，識(shí)別媒體質(zhì)量問題，有效減少人工審核的工作量。
點(diǎn)播內(nèi)容審核
高效識(shí)別點(diǎn)播視頻中的涉暴、涉政類鏡頭，緊跟時(shí)政動(dòng)態(tài)，嚴(yán)控違規(guī)內(nèi)容。
審核類型
審核類型 | 類型描述 | 審核結(jié)果分類 |
涉黃 | 檢測(cè)媒體文件中是否包含色情、性感內(nèi)容。 | 正常、色情、性感 |
暴恐涉政 | 檢測(cè)媒體文件中是否包含暴恐或涉政類內(nèi)容。 | 正常、血腥、爆炸煙光、特殊裝束、特殊標(biāo)識(shí)、武器、涉政、打斗、聚眾、游行、車禍現(xiàn)場(chǎng)、旗幟、地標(biāo) |
廣告識(shí)別 | 檢測(cè)視頻、圖片中是否包含廣告和文字違規(guī)信息。 | 正常、文字含涉政內(nèi)容、文字含涉黃內(nèi)容、文字含辱罵內(nèi)容、文字含暴恐內(nèi)容、文字含違禁內(nèi)容、文字含其他垃圾內(nèi)容、牛皮癬廣告、含二維碼、含小程序碼、其他廣告 |
不良畫面檢測(cè) | 檢測(cè)視頻、圖片中是否包含黑屏、黑邊、昏暗畫面、畫中畫、吸煙、車內(nèi)直播等不良場(chǎng)景。 | 正常、圖片中無(wú)內(nèi)容（例如黑屏、白屏）、畫中畫、吸煙、車內(nèi)直播 |
logo識(shí)別 | 檢測(cè)視頻、圖片中是否包含logo信息，例如臺(tái)標(biāo)，商標(biāo)等。 | 正常、含受管控的logo、含商標(biāo) |
語(yǔ)音反垃圾 | 檢測(cè)視頻、音頻中是否包含語(yǔ)音垃圾信息，如廣告、涉政、暴恐等。 | 正常、含垃圾信息、廣告、涉政、暴恐、辱罵、色情、灌水、違禁、無(wú)意義、自定義（例如命中自定義關(guān)鍵詞） |
費(fèi)用說(shuō)明
視頻點(diǎn)播的智能審核為收費(fèi)服務(wù)，按審核視頻總時(shí)長(zhǎng)計(jì)費(fèi)，計(jì)費(fèi)詳情請(qǐng)參見智能審核計(jì)費(fèi)。
注意事項(xiàng)
目前僅華東2（上海）、華北2（北京）和新加坡地域支持使用智能審核服務(wù)。
新加坡地域目前僅支持對(duì)涉黃、暴恐涉政和不良畫面檢測(cè)這三個(gè)類型的審核。
音視頻的最終審核結(jié)果由人工審核和智能審核結(jié)果共同決定，但人工審核的結(jié)果始終高于智能審核結(jié)果，即當(dāng)人工審核和智能審核結(jié)果不一致時(shí)，按人工審核結(jié)果生效。
經(jīng)過媒體審核的音視頻，僅狀態(tài)為正常（Normal）時(shí)才能正常播放，狀態(tài)為屏蔽（Blocked）或審核中（Checking）的音視頻只能在視頻點(diǎn)播控制臺(tái)播放或通過審核安全I(xiàn)P進(jìn)行播放，您將無(wú)法通過API/SDK獲取到音視頻的播放地址用于播放，但對(duì)于已經(jīng)外泄的有效播放地址仍可以正常播放。
前提條件
已經(jīng)開通了視頻點(diǎn)播服務(wù)。開通步驟請(qǐng)參見開通視頻點(diǎn)播。
審核的音視頻需要上傳到點(diǎn)播媒資庫(kù)，具體操作，請(qǐng)參見媒體上傳。
如何使用
步驟一：（可選）配置智能審核模板
視頻點(diǎn)播提供了系統(tǒng)預(yù)制的智能審核模板，并作為智能審核的默認(rèn)審核模板。如果系統(tǒng)預(yù)制的模板不能滿足您的需求，您可以按需自行創(chuàng)建智能審核模板。
預(yù)制模板無(wú)法更改配置和刪除，其配置如下：
審核類型：暴恐涉政、鑒黃
審核范圍：視頻、封面、名稱
審核內(nèi)容：畫面
最多支持添加20個(gè)自定義的智能審核模板。
控制臺(tái)方式
在左側(cè)導(dǎo)航欄選擇審核管理 > 審核設(shè)置，進(jìn)入到審核設(shè)置頁(yè)面。
新建智能審核模板。
在審核設(shè)置頁(yè)面，單擊審核模板頁(yè)簽，進(jìn)入到審核模板頁(yè)面。
單擊添加，進(jìn)入到添加智能審核模板頁(yè)面。
參數(shù)名稱
參數(shù)說(shuō)明
模板名稱
設(shè)置模板名稱，方便模板之間的區(qū)分。
審核類型
設(shè)置審核類型，可多選。取值：
鑒黃
暴恐涉政
廣告識(shí)別
logo識(shí)別
不良畫面檢測(cè)
語(yǔ)音反垃圾
說(shuō)明如需對(duì)音頻進(jìn)行審核，則審核類型需要勾選語(yǔ)音反垃圾。
新加坡地域的智能審核服務(wù)僅支持鑒黃、暴恐涉政和不良畫面檢測(cè)。
審核范圍
設(shè)置視頻的審核范圍，可多選。取值：
封面：對(duì)視頻的封面進(jìn)行審核。
名稱：對(duì)視頻的名稱進(jìn)行審核。
視頻：對(duì)視頻內(nèi)容進(jìn)行審核。
說(shuō)明審核的封面不可超過5張。
審核的名稱及彈幕不可超過128個(gè)字節(jié)。
審核的視頻時(shí)長(zhǎng)不可超過6小時(shí)。
審核內(nèi)容
當(dāng)前僅支持視頻畫面。
違規(guī)時(shí)自動(dòng)屏蔽
該功能開啟后，將對(duì)機(jī)審結(jié)果為確認(rèn)違規(guī)（由智能審核模板配置決定）的視頻進(jìn)行自動(dòng)屏蔽播放。
重要該功能為高危功能，請(qǐng)您慎重開啟。
單擊保存。
設(shè)置智能審核的默認(rèn)審核模板。
方式一：在審核模板頁(yè)簽，單擊需要作為默認(rèn)審核模板所在行的設(shè)為默認(rèn)。
方式二：在審核配置頁(yè)簽，單擊智能審核區(qū)域下的修改配置，在機(jī)審模板的下拉選項(xiàng)中選擇作為默認(rèn)的智能審核模板后，單擊確定。
OpenAPI方式
調(diào)用AddAITemplate - 添加AI模板接口，新建智能審核模板。
調(diào)用SetDefaultAITemplate - 設(shè)置默認(rèn)AI模板接口，設(shè)置智能審核的默認(rèn)審核模板。
關(guān)于智能審核模板的修改、查詢、刪除等接口，請(qǐng)參見AI模板相關(guān)接口。
步驟二：（可選）配置事件通知
建議您發(fā)起智能審核任務(wù)之前，配置視頻點(diǎn)播的事件通知，以便在智能審核任務(wù)完成后，能從接收到的回調(diào)消息中獲取到智能審核任務(wù)的狀態(tài)及審核結(jié)果等信息。事件通知的配置方法，請(qǐng)參見回調(diào)設(shè)置。
智能審核需要開啟的事件通知類型如下：
需要開啟音視頻分析完成，接收音視頻分析完成事件通知回調(diào)后，才能調(diào)用SubmitAIMediaAuditJob - 提交音視頻智能審核作業(yè)接口發(fā)起審核任務(wù)。
需要開啟視頻AI處理完成，所有AI處理都共用此開關(guān)，接收智能審核完成事件通知回調(diào)。
步驟三：發(fā)起智能審核作業(yè)
配合視頻點(diǎn)播工作流能力的應(yīng)用，可以實(shí)現(xiàn)在視頻點(diǎn)播中上傳音視頻時(shí)自動(dòng)觸發(fā)智能審核，或在上傳音視頻后手動(dòng)觸發(fā)智能審核。
控制臺(tái)方式
場(chǎng)景一：上傳音視頻時(shí)自動(dòng)觸發(fā)智能審核
創(chuàng)建包含智能媒資審核節(jié)點(diǎn)的工作流。
在工作流中添加智能媒資審核節(jié)點(diǎn)，并設(shè)置審核模板為系統(tǒng)預(yù)制審核模板或步驟一：（可選）配置智能審核模板中自行創(chuàng)建的智能審核模板。工作流的創(chuàng)建方法，請(qǐng)參見工作流管理。
上傳音視頻并選擇用工作流進(jìn)行處理。
在視頻點(diǎn)播控制臺(tái)，從左側(cè)導(dǎo)航欄選擇。
單擊上傳音/視頻，單擊添加音/視頻。
按需設(shè)置上傳方式、存儲(chǔ)地址并添加上傳的視頻后，選擇用工作流處理，并選擇上一步創(chuàng)建的包含智能媒資審核節(jié)點(diǎn)的工作流。
單擊開始上傳。
場(chǎng)景二：上傳音視頻后手動(dòng)觸發(fā)智能審核
方式一：在點(diǎn)播控制臺(tái)的媒資庫(kù)發(fā)起智能審核
創(chuàng)建包含智能媒資審核節(jié)點(diǎn)的工作流。
在工作流中添加智能媒資審核節(jié)點(diǎn)，并設(shè)置審核模板為系統(tǒng)預(yù)制審核模板或步驟一：（可選）配置智能審核模板中自行創(chuàng)建的智能審核模板。工作流的創(chuàng)建方法，請(qǐng)參見工作流管理。
在媒資庫(kù)選擇用工作流發(fā)起媒體處理。
在視頻點(diǎn)播控制臺(tái)，從左側(cè)導(dǎo)航欄選擇。
在音/視頻列表頁(yè)面，單擊目標(biāo)音視頻所在行的媒體處理。
處理類型選擇用工作流處理，工作流選擇上一步創(chuàng)建的包含智能媒資審核節(jié)點(diǎn)的工作流。
單擊確定。
方式二：在點(diǎn)播控制臺(tái)的視頻審核頁(yè)面發(fā)起智能審核
在左側(cè)導(dǎo)航欄選擇審核管理 > 視頻審核，進(jìn)入到視頻審核頁(yè)面。
選擇您需要審核的音/視頻。
支持按上傳時(shí)間（全部時(shí)間或自定義時(shí)間）、媒體名稱、媒體ID對(duì)音/視頻進(jìn)行篩選和檢索。
開始智能審核。
初次智能審核的音/視頻（機(jī)審狀態(tài)為未開啟）：?jiǎn)螕舨僮髁械?b data-tag="uicontrol" class="uicontrol ph" id="uicontrol-qu0-d8d-xes">智能審核，系統(tǒng)將按照步驟一中設(shè)置的默認(rèn)審核模板進(jìn)行審核。
重新智能審核的音/視頻（機(jī)審狀態(tài)為審核失敗或審核成功）：?jiǎn)螕舨僮髁械?b data-tag="uicontrol" class="uicontrol ph" id="uicontrol-19l-sle-wj0">重新審核，系統(tǒng)將按照步驟一中設(shè)置的默認(rèn)審核模板進(jìn)行審核。
OpenAPI方式
場(chǎng)景一：上傳音視頻時(shí)自動(dòng)觸發(fā)智能審核
創(chuàng)建包含智能媒資審核節(jié)點(diǎn)的工作流。
在工作流中添加智能媒資審核節(jié)點(diǎn)，并設(shè)置審核模板為系統(tǒng)預(yù)制審核模板或步驟一：（可選）配置智能審核模板中自行創(chuàng)建的智能審核模板。工作流的創(chuàng)建方法，請(qǐng)參見工作流管理。
調(diào)用下述媒資上傳相關(guān)接口時(shí)，將
WorkflowId參數(shù)設(shè)置為上一步創(chuàng)建的包含智能審核節(jié)點(diǎn)的工作流ID，并按需自定義其他參數(shù)，完成媒資上傳。
場(chǎng)景二：上傳音視頻后手動(dòng)觸發(fā)智能審核
通過接口發(fā)起智能審核作業(yè)時(shí)，傳入TemplateId參數(shù)，則可以指定智能審核模板進(jìn)行審核，若不傳，則將按照步驟一中設(shè)置的默認(rèn)審核模板進(jìn)行審核。
音視頻：調(diào)用SubmitAIMediaAuditJob - 提交音視頻智能審核作業(yè)接口，對(duì)上傳到視頻點(diǎn)播中的音視頻資源發(fā)起智能審核作業(yè)。
圖片：調(diào)用SubmitAIImageAuditJob - 提交圖片智能審核作業(yè)接口，對(duì)上傳到視頻點(diǎn)播中的圖片資源發(fā)起智能審核作業(yè)。
說(shuō)明調(diào)用接口進(jìn)行圖片審核時(shí)，使用限制如下：
單個(gè)圖片大小不超過20 MB，高度或?qū)挾炔怀^30000px，且圖片總像素不超過2.5億px。
（建議）圖片像素不低于256×256px，像素過低可能會(huì)影響審核效果。
步驟四：查看審核結(jié)果
智能審核結(jié)果中的圖片資源僅在點(diǎn)播提供的免費(fèi)存儲(chǔ)上保留2周時(shí)間，超過2周將自動(dòng)刪除。
如果您已配置事件通知，可以通過接收智能審核完成回調(diào)消息獲取審核結(jié)果詳情。
控制臺(tái)方式
在左側(cè)導(dǎo)航欄選擇審核管理 > 視頻審核，進(jìn)入到視頻審核頁(yè)面。
在視頻審核列表頁(yè)查看視頻的審核信息。
其中，機(jī)審狀態(tài)、審核模板、機(jī)審結(jié)果、違規(guī)項(xiàng)為智能審核相關(guān)信息，各參數(shù)說(shuō)明如下：
參數(shù)名稱
參數(shù)說(shuō)明
視頻
展示音視頻的名稱、音視頻ID及存儲(chǔ)地址。
機(jī)審狀態(tài)
機(jī)器審核的狀態(tài)，取值如下：
未開啟：表示該音視頻還未進(jìn)行過機(jī)審。
審核成功：表示該音視頻機(jī)審?fù)瓿刹C(jī)審成功，其審核模板列將展示所使用的機(jī)審模板，機(jī)審結(jié)果列會(huì)顯示違規(guī)、疑似或正常的結(jié)果。
審核失敗：表示該音視頻機(jī)審?fù)瓿傻珯C(jī)審失敗，其審核模板列將展示所使用的機(jī)審模板，機(jī)審結(jié)果列會(huì)顯示為--。
審核中：表示該音視頻正處于首次機(jī)審中。
重新審核中：表示該音視頻正處于重新機(jī)審中。
審核模板
智能審核所使用的模板，可在步驟一：（可選）配置智能審核模板中設(shè)置。
機(jī)審結(jié)果
智能審核的結(jié)果。取值如下：
違規(guī)：表示該音視頻存在機(jī)審模板中配置的違規(guī)內(nèi)容，其違規(guī)項(xiàng)列將顯示具體的違規(guī)項(xiàng)。
疑似：表示該音視頻可能存在機(jī)審模板中配置的違規(guī)內(nèi)容，其違規(guī)項(xiàng)列將顯示可能存在的違規(guī)項(xiàng)，建議對(duì)該資源進(jìn)行人工審核再次確認(rèn)。
正常：表示該音視頻不存在機(jī)審模板中配置的違規(guī)內(nèi)容，其違規(guī)項(xiàng)列將顯示為normal。
--：表示該音視頻未進(jìn)行過機(jī)審或機(jī)審失敗。
違規(guī)項(xiàng)
智能審核所檢測(cè)出的違規(guī)項(xiàng)。取值包括：鑒黃、暴恐涉政、廣告、logo、不良畫面、語(yǔ)音、normal、--。其中，--表示該音視頻還未進(jìn)行過機(jī)審。
人審狀態(tài)
人工審核的狀態(tài)。取值如下：
未審核：表示該音視頻還未進(jìn)行過人工審核，其終審結(jié)果列會(huì)顯示為--。
審核完成：表示該音視頻已完成人工審核，其終審結(jié)果列會(huì)顯示為通過或屏蔽。
終審結(jié)果
視頻審核的最終結(jié)果。取值如下：
通過：通過狀態(tài)的音視頻可以正常播放。
屏蔽：屏蔽狀態(tài)的音視頻只能在視頻點(diǎn)播控制臺(tái)播放或通過審核安全I(xiàn)P進(jìn)行播放，您將無(wú)法通過API/SDK獲取到音視頻的播放地址用于播放，但對(duì)于已經(jīng)外泄的有效播放地址仍可以正常播放。
--：表示該音視頻還未進(jìn)行機(jī)器審核和人工審核，其是否能正常播放，取決于在頁(yè)面所展示的狀態(tài)是否為正常。
操作
對(duì)音視頻可執(zhí)行的操作，包括查看審核詳情、發(fā)起智能審核或人工審核。
看單個(gè)音視頻的審核詳情信息。
單擊操作列的詳情進(jìn)入視頻審核詳情頁(yè)面，頁(yè)面將展示音視頻的播放預(yù)覽畫面、音視頻的名稱、ID、人審結(jié)果和機(jī)審結(jié)果等信息，并可在本頁(yè)面對(duì)音視頻進(jìn)行播放查看及人工審核結(jié)果判定。
OpenAPI方式
調(diào)用GetAIMediaAuditJob - 查詢智能審核作業(yè)接口，可查詢指定智能審核任務(wù)的詳細(xì)信息。
調(diào)用GetMediaAuditResultDetail - 獲取智能審核結(jié)果詳情接口，可查詢指定音視頻或圖片的智能審核結(jié)果。
更多有關(guān)智能審核任務(wù)和結(jié)果的接口，請(qǐng)參見智能審核相關(guān)接口。