規(guī)劃網(wǎng)絡(luò)

規(guī)劃云資源

創(chuàng)建專有網(wǎng)絡(luò)VPC和交換機(jī)

在本方案中，您需要?jiǎng)?chuàng)建1個(gè)專有網(wǎng)絡(luò)和1臺(tái)交換機(jī)。

1. 登錄專有網(wǎng)絡(luò)控制臺(tái)。

2. 在頂部菜單欄，選擇新加坡地域。

3. 在左側(cè)導(dǎo)航欄，單擊專有網(wǎng)絡(luò)。

4. 在專有網(wǎng)絡(luò)頁面，單擊創(chuàng)建專有網(wǎng)絡(luò)，創(chuàng)建1個(gè)專有網(wǎng)絡(luò)和1臺(tái)交換機(jī)。關(guān)鍵參數(shù)配置如下，其余參數(shù)取默認(rèn)：

   參數(shù)	示例值	說明
   專有網(wǎng)絡(luò)
   名稱	vpc_SDWebUI	VPC名稱，建議您在部署過程中新建一個(gè)VPC作為本方案的專有網(wǎng)絡(luò)。
   IPv4網(wǎng)段	192.168.0.0/16	在創(chuàng)建VPC時(shí)，您必須按照無類域間路由塊（CIDR block）的格式為您的專有網(wǎng)絡(luò)劃分私網(wǎng)網(wǎng)段。阿里云VPC支持的網(wǎng)段信息請(qǐng)參見專有網(wǎng)絡(luò)組成部分。 在網(wǎng)絡(luò)規(guī)劃時(shí)可以按照“管理網(wǎng)段-開發(fā)網(wǎng)段-測(cè)試網(wǎng)段-生產(chǎn)網(wǎng)段”等規(guī)則做好規(guī)劃。網(wǎng)段一旦投入使用，調(diào)整過程復(fù)雜，因此規(guī)劃十分重要。
   交換機(jī)
   名稱	vswitch_SDWebUI	虛擬交換機(jī)名稱。
   可用區(qū)	新加坡 可用區(qū)A	在規(guī)劃的地域內(nèi)選擇1個(gè)可用區(qū)，虛擬交換機(jī)部署在這個(gè)可用區(qū)上。 建議選擇排序靠后的，一般此類可用區(qū)較新。新可用區(qū)資源更充沛，新規(guī)格也會(huì)在新的可用區(qū)優(yōu)先上線。
   IPv4網(wǎng)段	192.168.0.0/24	配置虛擬交換機(jī)的IPv4網(wǎng)段，為VPC網(wǎng)段的真子集。

5. 單擊確定，完成專有網(wǎng)絡(luò)和交換機(jī)的創(chuàng)建。

創(chuàng)建公網(wǎng)NAT網(wǎng)關(guān)和彈性公網(wǎng)IP

您已經(jīng)在專有網(wǎng)絡(luò)VPC下的1個(gè)可用區(qū)創(chuàng)建了1臺(tái)交換機(jī)。接下來您需要?jiǎng)?chuàng)建公網(wǎng)NAT網(wǎng)關(guān)和彈性公網(wǎng)IP。

1. 登錄專有網(wǎng)絡(luò)控制臺(tái)。

2. 在頂部菜單欄，選擇新加坡地域。

3. 在左側(cè)導(dǎo)航欄，選擇NAT網(wǎng)關(guān) > 公網(wǎng)NAT網(wǎng)關(guān)。

4. 在公網(wǎng)NAT網(wǎng)關(guān)頁面，單擊創(chuàng)建NAT網(wǎng)關(guān)，創(chuàng)建1個(gè)公網(wǎng)NAT網(wǎng)關(guān)和1個(gè)彈性公網(wǎng)IP。關(guān)鍵參數(shù)配置如下，其余參數(shù)取默認(rèn)：

   參數(shù)	示例值	說明
   標(biāo)簽鍵	WebUI	資源的標(biāo)識(shí)符，分類的名稱。
   標(biāo)簽值	SD_WebUI	與標(biāo)簽鍵相關(guān)聯(lián)的具體值。
   所屬專有網(wǎng)絡(luò)	vpc_SDWebUI/****	NAT網(wǎng)關(guān)所屬的專有網(wǎng)絡(luò)。 本方案選擇上述步驟已創(chuàng)建的專有網(wǎng)絡(luò)VPC。
   關(guān)聯(lián)交換機(jī)	vswitch_SDWebUI/****	NAT網(wǎng)關(guān)關(guān)聯(lián)的交換機(jī)。 本方案選擇上述步驟已創(chuàng)建的交換機(jī)。
   實(shí)例名稱	nat_SDWebUI	NAT網(wǎng)關(guān)的實(shí)例名稱。
   訪問模式	VPC全通模式（SNAT）	NAT網(wǎng)關(guān)的訪問模式。 本方案選擇VPC全通模式，VPC中的所有機(jī)器即可通過NAT網(wǎng)關(guān)訪問公網(wǎng)。
   彈性公網(wǎng)IP	新購彈性公網(wǎng)IP	可以選擇已有彈性公網(wǎng)IP，也可以新購。
   帶寬峰值	200 Mbps	設(shè)置帶寬峰值，支持隨時(shí)調(diào)整帶寬峰值。
   計(jì)費(fèi)類型	按使用流量計(jì)費(fèi)	設(shè)置計(jì)費(fèi)類型。

5. 單擊立即購買，完成公網(wǎng)NAT網(wǎng)關(guān)和彈性公網(wǎng)IP的創(chuàng)建。

創(chuàng)建安全組

您已經(jīng)在專有網(wǎng)絡(luò)VPC下的1個(gè)可用區(qū)創(chuàng)建了1臺(tái)交換機(jī)。接下來您需要?jiǎng)?chuàng)建1個(gè)安全組，用于限制該專有網(wǎng)絡(luò)VPC下交換機(jī)的網(wǎng)絡(luò)流入和流出。

1. 登錄ECS控制臺(tái)。

2. 在左側(cè)導(dǎo)航欄，選擇網(wǎng)絡(luò)與安全 > 安全組。

3. 在頂部菜單欄，選擇新加坡地域。

4. 在安全組頁面，單擊創(chuàng)建安全組，創(chuàng)建1個(gè)安全組，關(guān)鍵參數(shù)配置如下，其余參數(shù)取默認(rèn)：

   參數(shù)	示例值	說明
   安全組名稱	sg_SDWebUI	設(shè)置安全組的名稱。
   網(wǎng)絡(luò)	****/vpc_SDWebUI	選擇上述步驟已創(chuàng)建的專有網(wǎng)絡(luò)VPC。
   安全組類型	普通安全組	本方案選擇普通安全組，以實(shí)現(xiàn)公網(wǎng)出方向所有地址可訪問。實(shí)際部署時(shí)，建議選擇安全性更高的企業(yè)級(jí)安全組。
   入方向	80和443	本方案使用默認(rèn)開通的80和443端口號(hào)，刪除其他端口號(hào)。

5. 單擊創(chuàng)建安全組，完成安全組的創(chuàng)建。

創(chuàng)建文件存儲(chǔ)NAS

在進(jìn)行模型服務(wù)部署時(shí)，推薦選擇存儲(chǔ)規(guī)格為性能型的NAS進(jìn)行掛載，以提高模型切換和圖像生成的速度。因此，您需要?jiǎng)?chuàng)建1個(gè)通用型NAS。

1. 登錄文件存儲(chǔ)控制臺(tái)。

2. 在左側(cè)導(dǎo)航欄，選擇文件系統(tǒng) > 文件系統(tǒng)列表。

3. 在頂部菜單欄，選擇亞太東南1（新加坡）地域。

4. 在文件系統(tǒng)列表頁面，單擊創(chuàng)建文件系統(tǒng)，選擇創(chuàng)建通用型NAS。關(guān)鍵參數(shù)配置如下，其余參數(shù)取默認(rèn)：

   參數(shù)	示例值	說明
   存儲(chǔ)規(guī)格	性能型	選擇通用型NAS的規(guī)格。推薦選擇性能型，切換模型和出圖速度更快。
   專有網(wǎng)絡(luò)VPC	vpc_SDWebUI	選擇上述步驟中已創(chuàng)建的專有網(wǎng)絡(luò)VPC。
   虛擬交換機(jī)	vswitch_SDWebUI	選擇上述步驟中已創(chuàng)建的虛擬交換機(jī)。

5. 選中服務(wù)協(xié)議，單擊立即購買，完成文件存儲(chǔ)NAS的創(chuàng)建。

   創(chuàng)建完成后，您可以在文件系統(tǒng)列表頁面對(duì)應(yīng)的文件系統(tǒng) ID/名稱處單擊，修改文件系統(tǒng)的名稱。在本方案中，將其修改為nas_SDWebUI。

部署和使用tips

• 部署地域：建議服務(wù)部署在新加坡

  • 新加坡地域開通彈性公網(wǎng)IP服務(wù)后，訪問Civitai和Github的網(wǎng)速高效穩(wěn)定，您可以直接通過WebUI下載插件、Civitai模型，且WebUI網(wǎng)頁操作體驗(yàn)與國(guó)內(nèi)region部署一致。

  • 國(guó)內(nèi)地域因網(wǎng)絡(luò)問題，無法直接在WebUI下載Civitai模型、插件，需要手動(dòng)下載到本地后，再上傳至云端服務(wù)。

• 共享存儲(chǔ)：建議使用共享存儲(chǔ)NAS，且部署時(shí)使用--data-dir參數(shù)

  • 該操作會(huì)將模型、圖片等核心內(nèi)容均放置于共享存儲(chǔ)，服務(wù)重啟、刪除重建等操作不會(huì)受到影響。

  • 共享存儲(chǔ)可選OSS或NAS，建議優(yōu)先選擇NAS（通用型NAS，性能型規(guī)格），在模型切換、圖庫瀏覽器等場(chǎng)景使用NAS存儲(chǔ)的速度比OSS快4倍以上。

  • 如果需要使用對(duì)象存儲(chǔ)OSS Bucket，在切換模型場(chǎng)景時(shí)性能低，影響體驗(yàn)。如果需要將圖片統(tǒng)一存儲(chǔ)到OSS中，可以通過配置，將模型存儲(chǔ)于NAS，生成的圖片存儲(chǔ)于OSS。

• 版本和部署方式選擇：建議選擇最新版本

  • x.x-standard：推薦單用戶測(cè)試驗(yàn)證時(shí)使用。標(biāo)準(zhǔn)單機(jī)部署，UI模式，僅能部署單個(gè)實(shí)例，不具備分布式能力，基本和社區(qū)WebUI保持一致。

  • x.x-cluster-webui：推薦在公司內(nèi)部有美術(shù)、設(shè)計(jì)等多人團(tuán)隊(duì)，并且盡可能節(jié)約成本的場(chǎng)景中使用。多租戶集群版模式，UI模式，支持多用戶同時(shí)使用前端界面，但資源相互隔離，包括使用的模型、Lora、插件、輸出圖片等。并且每個(gè)用戶前端均支持個(gè)性化設(shè)置，也可支持共享模型等設(shè)置。另外，后端實(shí)際推理服務(wù)也可以和普通EAS服務(wù)一樣，支持定時(shí)伸縮、彈性伸縮，并且支持根據(jù)實(shí)際上線的用戶數(shù)和請(qǐng)求數(shù)來擴(kuò)縮容，最大程度上節(jié)約服務(wù)運(yùn)行成本。

  • x.x-api：建議在WebUI上搭建業(yè)務(wù)系統(tǒng)，并在二次開發(fā)時(shí)使用。使用異步API模式進(jìn)行部署，并通過API訪問來實(shí)現(xiàn)多實(shí)例的水平伸縮。結(jié)合EAS異步推理，您可以獲得請(qǐng)求排隊(duì)、異步推理、負(fù)載均衡和自動(dòng)彈性伸縮等能力。社區(qū)WebUI提供了標(biāo)準(zhǔn)的文生圖、圖生圖等接口，而PAI在這些接口的基礎(chǔ)上進(jìn)行了定制優(yōu)化，以適應(yīng)云上分布式場(chǎng)景。

  如果有場(chǎng)景上選擇問題，請(qǐng)聯(lián)系您的商務(wù)經(jīng)理進(jìn)行處理。

• 模型上傳

  • 通過FileBrowser插件上傳。適合Lora等體積較小的文件上傳，批量上傳多個(gè)4 GB以上的基礎(chǔ)大模型失敗概率較高。適合美術(shù)團(tuán)隊(duì)日常使用。

  • 通過ossutil或ECS掛載NAS上傳。適合批量上傳基礎(chǔ)大模型，需要有一定IT基礎(chǔ)。適合運(yùn)維或技術(shù)團(tuán)隊(duì)協(xié)助美術(shù)團(tuán)隊(duì)進(jìn)行一次性上傳。

• 模型下載

  • 安裝Civitai助手插件后，可以直接下載Civitai模型。適合美術(shù)團(tuán)隊(duì)使用。

  • 通過EAS提供的SSH功能，登錄到容器內(nèi)部通過命令進(jìn)行下載。適合運(yùn)維或技術(shù)團(tuán)隊(duì)協(xié)助美術(shù)團(tuán)隊(duì)使用。

服務(wù)啟動(dòng)時(shí)可配置的參數(shù)說明

• 公共參數(shù)

  公共參數(shù)	功能說明	使用建議
  --blade	啟用PAI-blade加速，提升出圖速度。	建議開啟。
  --filebrowser	支持您自主上傳、下載模型或圖片的插件。	默認(rèn)啟用。
  --data-dir /code/stable-diffusion-webui/data-oss	持久化存儲(chǔ)掛載使用的路徑。	掛載持久化存儲(chǔ)時(shí)使用，默認(rèn)起始路徑為/code/stable-diffusion-webui/，也可以使用相對(duì)路徑。
  --api	WebUI的API調(diào)用模式。	默認(rèn)啟用。
  --enable-nsfw-censor	默認(rèn)關(guān)閉。如果您有安全合規(guī)需求，則可以選擇開啟鑒黃過濾功能。	根據(jù)業(yè)務(wù)需要進(jìn)行調(diào)整。
  --always-hide-tabs	指定部分Tab頁處于隱藏狀態(tài)。	根據(jù)業(yè)務(wù)需要進(jìn)行調(diào)整。
  --min-ram-reserved 40 --sd-dynamic-cache	緩存Stable Diffusion大模型到內(nèi)存中。	無。

• 集群版參數(shù)

  說明

  ckpt的大模型和ControlNet的大模型會(huì)自動(dòng)加載公共目錄下的文件和您自定義的文件。

  集群版參數(shù)	功能說明	使用建議
  --lora-dir	指定公共Lora模型目錄，例如：--lora-dir /code/stable-diffusion-webui/data-oss/models/Lora。	默認(rèn)不配置，用戶的所有Lora目錄將被隔離，并且只加載用戶文件夾中的Lora模型。當(dāng)指定特定目錄后，所有的用戶將同時(shí)加載該公共目錄中的Lora模型和用戶文件夾中的Lora模型。
  --vae-dir	指定公共VAE模型目錄，例如：--vae-dir /code/stable-diffusion-webui/data-oss/models/VAE。	默認(rèn)不配置，用戶的所有VAE目錄將被隔離，并且只加載用戶文件夾中的VAE模型。當(dāng)指定特定目錄后，所有的用戶只加載該公共目錄下的VAE模型。
  --gfpgan-dir	指定公共GFPGAN模型目錄，例如：--gfpgan-dir /code/stable-diffusion-webui/data-oss/models/GFPGAN。	默認(rèn)不配置，用戶的所有GFPGAN目錄將被隔離，并且只加載用戶文件夾中的GFPGAN模型。當(dāng)指定特定目錄后，所有的用戶只加載該公共目錄下的GFPGAN模型。
  --embeddings-dir	指定公共embeddings模型目錄，例如：--embeddings-dir /code/stable-diffusion-webui/data-oss/embeddings。	默認(rèn)不配置，用戶的所有embeddings目錄將被隔離，并且只加載用戶文件夾中的embeddings模型。當(dāng)指定特定目錄后，所有的用戶只加載該公共目錄下的embeddings模型。
  --hypernetwork-dir	指定公共hypernetwork模型目錄，例如：--hypernetwork-dir /code/stable-diffusion-webui/data-oss/models/hypernetworks。	默認(rèn)不配置，用戶的所有hypernetwork目錄將被隔離，并且只加載用戶文件夾中的hypernetwork模型。當(dāng)指定特定目錄后，所有的用戶只加載該公共目錄下的hypernetwork模型。
  --root-extensions	插件目錄使用共享目錄。使用該參數(shù)后，所有用戶看到的插件完全相同。	需要集中安裝插件或集中管理插件時(shí)使用該參數(shù)。