日本熟妇hd丰满老熟妇,中文字幕一区二区三区在线不卡 ,亚洲成片在线观看,免费女同在线一区二区

AutoML使用限制及規(guī)格

AutoML的使用限制以及規(guī)格,包括當(dāng)前支持的地域,支持的搜索算法TPE、GridSearch(網(wǎng)絡(luò)搜索)、Random(隨機(jī)搜索)、Evolution(演化算法)、GP(貝葉斯優(yōu)化)、PBT(異步優(yōu)化算法),以及對(duì)應(yīng)的應(yīng)用場(chǎng)景。

支持地域(region)

當(dāng)前AutoML支持在下列地域使用,如果您需要使用AutoML,需要在控制臺(tái)切換地域至下面中的一個(gè):

華東1(杭州)、華東2(上海)、華北2(北京)、華南1(深圳)、中國(guó)(香港)。

說明

您可以在PAI控制臺(tái)頁面上方的下拉列表中快速切換相近或者需要的地域。

image.png

支持的搜索算法

當(dāng)前AutoML產(chǎn)品在超參搜索中,支持搜索算法有以下幾種,下面向您介紹各個(gè)搜索算法,以及典型適用場(chǎng)景。

  • TPE:Tree-structured Parzen Estimator,是一個(gè)無需附加依賴的輕量級(jí)算法,可以支持所有的搜索空間類型,為HPO中使用的默認(rèn)算法。 它可以處理復(fù)雜、非線性、高緯度且計(jì)算代價(jià)較大的問題。TPE的缺點(diǎn)是無法發(fā)現(xiàn)不同參數(shù)之間的聯(lián)系。參考文獻(xiàn):Algorithms for Hyper-Parameter Optimization

  • GridSearch:網(wǎng)格搜索算法,將所搜空間均勻分成網(wǎng)格,然后遍歷所有可能的組合來確定最佳組合。當(dāng)搜索空間較小時(shí),可以使用該方法,找到絕對(duì)最優(yōu)組合。

  • Random:純隨機(jī)生成超參組合的方法,與網(wǎng)絡(luò)搜索原理相似,將超參數(shù)搜索空間分成網(wǎng)格,但隨機(jī)搜索為每個(gè)trial會(huì)隨機(jī)選擇一組超參數(shù)。對(duì)于非線性、高維且計(jì)算代價(jià)較大的問題,它作為一個(gè)高效的初篩方法,縮小網(wǎng)格搜索的范圍。

  • Evolution:演化算法的思想來源于 Large-Scale Evolution of Image Classifiers。算法基于所搜空間初始化,對(duì)于每一代迭代,選擇較優(yōu)的多個(gè)參數(shù),并對(duì)其進(jìn)行個(gè)別參數(shù)的突變(如,修改某個(gè)超參,增加或減少網(wǎng)絡(luò)層數(shù)等)來獲取下一組備選超參。演化算法需要進(jìn)行多次trial,但是算法邏輯簡(jiǎn)單且容易擴(kuò)展到更多的新特征之上。

  • GP:是一個(gè)使用高斯過程(Gaussian Process)計(jì)算loss的貝葉斯優(yōu)化方法。貝葉斯優(yōu)化使用trial所得指標(biāo)的后驗(yàn)分布,利用高斯過程優(yōu)化目標(biāo)。隨著觀察數(shù)據(jù)量的增加,后驗(yàn)分布也將越來越準(zhǔn)確,算法將更確定特定搜索空間是否有效。

  • PBT:Population Based Training,算法來自于文獻(xiàn) Population Based Training of Neural Networks。這是一個(gè)固定計(jì)算資源的異步優(yōu)化算法,通過優(yōu)化固定數(shù)量模型及超參來提高性能。PBT算法通過對(duì)單組超參不停迭代修改發(fā)現(xiàn)獲得最優(yōu),而非通過全局結(jié)果來尋找單個(gè)最優(yōu)解。

相關(guān)文檔