日本熟妇hd丰满老熟妇,中文字幕一区二区三区在线不卡 ,亚洲成片在线观看,免费女同在线一区二区

文檔

運維中心概述

更新時間:

運維中心包括運維大屏、實時任務運維、周期任務運維、手動任務運維、智能監控、智能診斷、資源運維和引擎運維功能模塊,為您提供任務操作與狀態、引擎、資源等多方位的運維能力。

運維中心功能模塊

當您在DataStudio中完成節點開發,并提交和發布至生產環境后,即可在運維中心對任務進行運維操作,包括周期調度任務的自動調度與手動運行、任務運行詳情查看、任務運行狀態監控、任務運行使用的資源監控與自動運維;實時任務的執行管控、運行詳情查看與監控報警配置;調度任務運維大屏以及數據集成離線同步與實時同步任務運維專頁,針對任務運維關鍵指標的查看。運維中心邏輯圖

下表為運維中心各模塊功能使用的簡單說明:

模塊

描述

環境支持情況

查看運維大屏

運維大屏以報表的形式為您展示任務的運行的重要指標。包括調度任務的關鍵運維指標統計與數據集成離線同步與實時同步任務運維專頁。

開發環境運維中心無此模塊

實時同步任務運行與管理

在實時任務運維界面,您可以針對實時任務進行啟動、停止、下線與監控報警相關操作。

-

查看并管理周期任務

周期任務運維為您展示任務提交到調度系統后的調度任務列表與調度環境產生的周期實例。周期任務面板展示當前所有的調度節點,您可以在周期任務面板修改周期調度任務使用的資源組、責任人等信息。

DataWorks每晚會根據周期任務自動生成第二天待運行的周期實例,同時支持您手動觸發周期任務,分別生成補數據實例測試實例,您可以通過生成的實例查看任務的運行詳情。

開發環境運維中心無法自動調度生成周期實例。

手動任務運維

手動任務運維為您展示任務提交到調度系統后的手動任務列表與經過手動觸發運行后生成的手動實例手動任務面板展示當前所有的手動觸發式任務,您可以在手動任務面板修改任務執行時使用的調度資源組、責任人等信息。

在手動任務面板中,選擇類型為手動業務流程,支持您手動觸發任務運行并且生成手動實例,您可以查看生成的手動實例的運行詳情。

-

智能監控

  • 監控對象:周期任務、實時計算任務、資源水位。

    監控支持為自動調度的周期任務設置監控報警,監控在自動調度場景下的周期實例運行情況,支持獨享資源組水位監控及實時計算任務運行狀態監控。

  • 監控方式:自定義規則、智能基線

    支持針對指定對象(節點、業務流程、工作空間、基線、實時計算任務、獨享調度資源組、獨享數據集成資源組)的監控報警,同時也支持針對整個“業務線”的基線預警,并通過您配置的報警方式來發送相應的報警信息。

  • 報警方式:支持短信、郵件、電話、釘釘群和webhook,已支持設置值班表,將對應時間的報警消息報警給對應的值班人員。

開發環境運維中心無此模塊

資源運維

資源運維主要對獨享調度資源組獨享數據集成資源組的使用情況(使用率、運行中任務列表、排隊任務列表)進行監控和自動運維,支持查看資源組使用趨勢。

-

引擎運維

目前支持對EMR引擎的運維。在DataWorks實例任務中,E-MapReduce計算引擎任務會被分為若干作業有序執行,您可以使用DataWorks的引擎運維功能,查看各個E-MapReduce作業的詳細信息,及時查找并清理運行有誤的作業,避免該類作業阻塞下游任務,影響實例任務的正常運行。

開發環境運維中心無此模塊

智能診斷

DataWorks運維中心為您提供運行診斷功能,幫助您掌握任務運行的全鏈路信息,以便迅速定位問題。

開發環境運維中心無此模塊

同時,需關注以下注意事項:

  • 在標準模式工作空間下,您可以通過界面左上角切換進入到開發運維中心和生產運維中心。

  • 僅生產環境運維中心支持自動調度。即只有在生產環境運維中心,您才能在周期實例面板中看到自動調度執行的周期實例。

生產任務運行邏輯

生產任務包括周期任務、手動任務和實時任務。運維邏輯

  • 周期任務運維

    當節點被提交發布至運維中心后,您可以在運維中心的周期任務中看到該節點(周期任務列表中的任務為所有周期性調度的任務),DataWorks每晚會生成第二天待運行的周期實例,同時支持您手動觸發周期任務,分別生成補數據實例測試實例

    實例類型

    應用場景

    與周期任務的關系

    (對應實例如何生成)

    實例觸發方式

    (對應實例如何觸發執行)

    任務運行條件

    周期實例

    周期性自動化進行ETL操作。

    平臺每晚根據某一時間點周期任務快照信息自動生成第二天待運行的周期實例。

    說明

    開發環境運維中心不會自動調度生成周期實例。

    平臺自動觸發周期實例執行。

    以周期實例上的任務為例,任務開始運行前需滿足以下條件:

    • 依賴的所有父節點實例狀態都為成功狀態。

    • 已到達任務節點設置的任務定時運行時間。

    • 調度資源充足。

    • 本任務不是凍結狀態。

    運行流程圖

    說明

    運維中心中,不同的實例顏色代表實例處于不同的狀態中,實例運行狀態示意詳情可參考:附錄:實例狀態

    補數據實例

    需要對當前節點及下游節點執行補過去某一時間段或未來某段時間的數據的操作,即需要對歷史或未來時間段的數據進行ETL操作。

    人為針對當前周期任務手動觸發補數據操作,并生成補數據實例。

    人為針對周期任務進行補數據操作后,會生成補數據實例,并同時觸發補數據實例執行。

    執行測試并查看測試實例

    需要對當前周期任務進行測試,觀察執行結果是否符合預期。

    說明

    測試實例的運行其實際上也在真實執行代碼邏輯的。

    人為針對當前周期任務手動觸發測試操作,并生成測試實例。

    人為針對周期任務的進行測試操作后,會生成測試實例,并且同時觸發測試實例執行。

    您可以在周期任務運維下的周期實例面板、補數據實例面板、測試實例面板中查看各類實例的運行情況,根據實例的狀態了解數據產出是否異常,不同實例狀態的詳情請參見附錄:實例狀態

    說明
    • 周期實例根據周期任務每晚(23:30~24:00)定時自動生成,測試實例、補數據實例根據補數據和測試操作時間點的周期任務手動觸發,因此補數據和測試會以最新的任務配置情況生成對應的實例。

    • 新建節點發布生產環境后,當晚會全量生成第二天待運行的周期實例,但新建節點發布時,您可以通過節點調度配置,選擇實例生成方式來控制是否立即生成當天的周期實例,詳情請參考時間屬性配置說明

  • 手動任務運維

    當手動業務流程被提交發布至運維中心后,您可以在運維中心 > 手動任務運維 > 手動任務頁面中看到該節點,當您需要運行該手動業務流程時,可以在手動任務面板對該任務執行運行操作,手動觸發任務運行后,會產生手動實例,您可以在手動實例頁面查看該實例執行詳情。

  • 實時任務運維

    當實時任務被提交發布至運維中心后,您可以在運維中心 > 實時任務運維頁面對實時任務進行啟動、下線及報警配置等相關操作,實時任務運維分為實時計算任務和實時同步任務,您可以分別在實時任務運維下的實時計算任務、實時同步任務頁面對其進行管理。詳情請參見:實時計算任務運行與管理實時同步任務運行與管理

任務運行狀態監控:智能監控

您可以使用智能監控功能監控周期調度任務狀態、周期任務自動調度產生的周期實例運行狀態、實時計算任務運行狀態,配置相應監控規則(自定義規則、智能基線)后,平臺一旦檢測到規則被觸發,將會根據您設置的自定義規則及智能基線的報警方式,通過郵件、短信、電話或釘釘群消息等形式通知您,方便您及時發現并處理異常問題。

  • 周期任務狀態監控

    DataWorks每晚根據周期任務生成第二天待自動調度運行的周期實例,所以為保障周期任務可以正常產生周期實例并且自動調度運行,DataWorks內置了報警規則來對周期任務進行定期監控掃描,如有異常便會自動報警。

    系統內置全局報警規則(非空間級別報警規則)對周期任務的狀態進行監控。報警包括孤立節點節點成環

    說明
    • DataWorks每天定時9點、12點、16點對周期任務狀態進行掃描,如有異常將會自動發送報警。但掃描時間點前10分鐘內產生異常不會納入本次掃描,該異常將會被納入下一個周期的任務狀態掃描中進行掃描。

    • 全局規則為系統內置規則,您無須手動新建,默認以短信、郵件的方式報警給節點責任人。但您可以在規則管理頁面中針對全局規則修改報警接收人。

    • 節點孤立報警

      孤立節點指節點在周期任務或周期實例中展開父節點時,沒有依賴任何父節點,這類型節點在自動調度時不會被調度調起,所以孤立節點不會自動調度運行,如果該孤立節點下游依賴較多,則會造成嚴重的后果。孤立節點產生后會自動報警,如果收到孤立節點報警請及時處理。

      說明

      在DataWorks上,除了工作空間根節點外,自定義的每個周期調度的節點都需要有父節點依賴才可以被正常調度運行。

    • 節點成環報警

      節點成環指的是某節點為上游節點但又同時依賴了自己的下游節點。導致依賴關系成環,這類型節點在自動調度時不會被調度調起,節點成環后會自動報警,如果收到節點成環報警請及時處理。

  • 周期實例運行狀態監控

    在DataWorks上,周期任務周期性調度時將產生周期實例,DataWorks支持通過周期任務自定義規則監控配置,實現對周期實例運行狀態的監控,包括指定對象的自定義規則監控報警和重要任務提前預警的基線預警功能。

    • 自定義規則報警

      通過新建自定義規則實現對指定對象的報警。

      您可以對指定對象(任務節點、基線、工作空間、業務流程)上節點的狀態(完成、未完成、出錯、周期未完成、超時、自動重跑后仍出錯等及實時計算任務的出錯)設置監控報警。支持短信、郵件、電話、釘釘機器人和webhook的方式發送報警給責任人(節點責任人、指定責任人或值班表中的排班等),詳情請參考規則管理

    • 基線預警

      通過設置基線優先級來保障基線上的任務按時執行,數據順利產出。

      當有任務需要重保并且上游任務依賴較為復雜時,可以使用基線功能將重要任務移到該基線上。當影響基線在預期時間內數據產出的情況發生時,基線將為您快速定位影響當前節點數據產出的關鍵路徑,找到阻塞任務(即影響保障數據產出的關鍵實例)并第一時間發出報警,保障重要數據在預期時間內順利完成。當影響基線的任務(基線上的任務及其上游任務)出錯或者變慢,您將會收到相應的報警。其報警分為基線預警與事件報警。支持短信、郵件、電話、釘釘機器人和webhook的方式發送報警給責任人(節點責任人、指定責任人或值班表中的排班等),關于基線使用詳情請參見:基線管理

      • 基線預警

        當基線根據基線的承諾時間、預警余量等預測無法保障基線上的任務在預警時間內完成時,便會觸發基線提前預警功能。

      • 事件報警

        當影響基線上數據產出的任務(基線上的任務及其上游任務)出錯或者變慢時,將會收到相應的事件報警。

    • 實時計算任務運行狀態監控

      您可以通過自定義規則,對實時計算任務的運行狀態進行監控,當任務節點出錯時通過配置的短信、郵件、電話、釘釘機器人和webhook等方式發送報警給責任人(節點責任人、指定責任人和值班表中的排班等)。詳情請參考規則管理

任務運行資源監控與運維:自動運維

您可以使用智能監控 > 規則管理中的自定義規則,來對獨享資源組使用率及獨享資源組上等待的實例數設置監控報警,并且支持結合自動運維功能通過短信、郵件、電話、釘釘機器人等方式發送報警給責任人(節點責任人、指定責任人)。關于自定義規則使用詳情請參考規則管理

自動運維功能支持通過自定義規則中的獨享資源組監控規則,并在限定條件下對獨享資源組進行運維操作來保障重要任務的順利運行,比如終止運行中的實例。詳情請參考自動運維

任務運行問題定位:運行診斷

  • 調度任務運行的必要條件

    節點發布至運維中心后,任務開始運行前需滿足以下條件。

    說明

    當任務未運行時您可以使用智能診斷功能快速進行對問題進行定位與排查,詳情可參考文檔:智能診斷

    1. 依賴的所有父節點實例狀態都為成功狀態

      配置節點依賴關系可以保障節點在運行時能取到正確的數據(讀取上游表數據時,上游表的最新數據已產生),避免當前節點讀取數據時,上游表數據還未產出,導致當前節點讀取數據出現問題,所以,當節點存在上游節點依賴時,當前節點的執行,需要等待所依賴的父節點都執行成功。詳情請參見:調度依賴配置指引

      說明
      • 父節點非成功狀態包括父節點未運行、父節點狀態失敗、父節點被凍結(暫停)、父節點處于運行中。

      • 凍結狀態的節點將阻塞下游節點執行。

    2. 已到達任務節點設置的定時運行時間

      數據開發中定義節點的調度屬性時,需要為節點設置調度環境下節點運行的“理想時間”。

      • 當當前節點依賴的所有父節點都在當前節點設置的定時運行時間點前執行成功,那么當父節點全都執行成功后,當前節點將進入等待狀態,待到達任務節點的定時時間后啟動運行。

      • 當當前節點依賴的所有父節點在當前節點設置的定時運行時間點后執行成功,那么當父節點全都執行成功且有充足的調度資源時,當前節點將立即運行起來。

    3. 調度資源充足

      數據開發中定義節點的調度屬性時,您可以設置調度環境下節點運行所使用的獨享調度資源組。同時,您也可以在運維中心的周期任務頁面進行修改。

      當當前節點所有的父節點運行成功,并且已經到達節點設置的定時運行時間時,如果節點指定的調度資源組無可用資源時,節點進入等待資源的狀態,直到占用該調度資源的任務執行成功,將資源釋放后啟動運行。

    4. 本任務不是凍結狀態

      如果當前節點處于凍結狀態,那么節點滿足上述三個條件后仍不會運行,并導致依賴該周期實例的下游實例無法運行。如果您需要解凍該節點,詳情請參見:任務凍結與解凍

  • 任務運行失敗原因診斷

    您可以使用智能診斷功能和DAG的上游分析功能對未運行任務進行快速診斷。

    其中,智能診斷功能支持對未開始運行的任務進行任務運行的必要條件檢查,支持對運行失敗的任務進行原因分析并給出診斷建議等。

    智能診斷能力概覽:

    • 任務運行的全鏈路診斷。包括父節點運行情況檢查、當前節點設置的定時時間檢查、調度資源詳情(任務使用的調度資源組使用趨勢與任務排隊數,當前任務等待資源時哪些任務占用資源)、任務執行詳情(任務出錯時提供原因分析與診斷建議)。

    • 當前實例的基本信息與實例運行的關鍵時間點(上游節點運行完成時間、當前節點設置的定時時間、開始等待調度資源時間、開始運行時間、運行成功時間)。

    • 當前節點影響的基線及其當天基線實例運行情況。

    • 當前節點平均運行時間、開始執行時間、等待資源消耗時間趨勢圖及當前節點運行歷史的實例列表。

    關于智能診斷功能使用詳情請參見:智能診斷

任務產出的表數據監控:數據質量

您可以使用數據質量功能對周期實例、補數據實例、測試實例產出的表數據進行監控。

周期任務在生產環境通過自動調度或手動觸發來運行,分別產生周期實例、補數據實例和測試實例,您可以對周期任務設置數據質量規則來監控周期任務生成的實例(周期實例補數據實例測試實例)運行后所產出的表數據是否符合預期。

數據質量通過表配置的分區表達式來匹配節點產出的表分區,數據質量規則關聯產出該表數據的調度節點,當節點運行后(運維中心中通過測試實例,補數據實例,周期實例的運行及重跑操作產出表數據),會觸發該數據質量規則校驗,您可以設置規則的強弱來控制節點是否失敗退出,從而避免臟數據影響擴大,同時,您也可以通過訂閱規則來第一時間接收節點產出表數據異常的報警。詳情請參考文檔數據質量

附錄:實例狀態

運維中心按照不同的顏色與標識來辨識任務正處于運行流程中的哪個階段,不同的實例顏色與標識代表實例處于不同的狀態下。不同的實例顏色與標識所對應的任務狀態如下所示。關于任務運行必要條件詳情請參見:任務運行問題定位:運行診斷

序號

狀態類型

狀態標識

運行流程圖

1

運行成功狀態

運行成功

運行流程圖

2

未運行狀態

未運行

3

運行失敗狀態

運行失敗

4

正在運行狀態

正在運行

5

等待狀態

等待狀態

6

暫停/凍結狀態

暫停凍結狀態