背景信息

• Hologres是阿里巴巴自研一站式實時數(shù)倉產(chǎn)品，不僅支持海量數(shù)據(jù)多維分析（OLAP）、高并發(fā)低延遲的在線數(shù)據(jù)服務(wù)（Serving），還與達(dá)摩院自研高性能向量計算軟件庫Proxima深度整合，支持高性能、低延時、簡單易用的向量計算能力。關(guān)于Proxima在Hologres中的應(yīng)用，請參見Proxima向量計算。

• PAI-EAS是阿里云的模型在線服務(wù)平臺，支持用戶將模型一鍵部署為在線推理服務(wù)或AI-Web應(yīng)用，可以一鍵部署LLM推理、AIGC等熱門服務(wù)應(yīng)用。PAI-EAS適用于實時推理、近實時異步推理等多種AI推理場景，具備Serverless自動擴(kuò)縮容和完整運(yùn)維監(jiān)控體系能力。詳情請參見EAS產(chǎn)品架構(gòu)。

• LangChain是一個開源框架，可以將大模型、向量數(shù)據(jù)庫、定制語料結(jié)合，高效完成專屬問答知識庫的搭建。Hologres現(xiàn)已被LangChain作為向量數(shù)據(jù)庫集成，詳情請參見LangChain-Hologres。

• 計算巢服務(wù)是一個開放給服務(wù)商和用戶的服務(wù)管理PaaS平臺，為服務(wù)商和用戶提供了高效、便捷、安全的服務(wù)使用體驗，服務(wù)商能更好地在阿里云上部署、交付和管理服務(wù)，用戶能集中管理在阿里云上訂閱的各類服務(wù)商提供的服務(wù)。通過計算巢，可以一鍵完成問答知識庫所需的硬件資源拉起與軟件資源部署。計算巢服務(wù)詳情介紹，請參見產(chǎn)品模式。

前提條件

若您使用RAM用戶進(jìn)行知識庫搭建，請確認(rèn)RAM用戶已具備相應(yīng)的權(quán)限。需要的權(quán)限和授權(quán)方式，請參見為用戶側(cè)RAM用戶（子賬號）授權(quán)。

創(chuàng)建計算巢服務(wù)實例

1. 訪問計算巢服務(wù)市場頁面，選擇Hologres+PAI 5分鐘一鍵部署企業(yè)級問答知識庫，并單擊正式創(chuàng)建。

2. 在創(chuàng)建服務(wù)實例頁面，配置以下參數(shù)。

   參數(shù)名稱		說明
   服務(wù)實例名稱		計算巢服務(wù)實例的名稱。
   地域		選擇Hologres、PAI-EAS、ECS實例所在的地域。
   付費(fèi)類型配置	付費(fèi)類型	支持按量付費(fèi)與包年包月，您可以按照需求選擇。 說明 ECS和Hologres實例支持按量付費(fèi)和包年包月，PAI-EAS實例只支持按量付費(fèi)。
   Hologres實例配置	Hologres計算資源核數(shù)	選擇Hologres計算資源規(guī)格。 Hologres存儲資源默認(rèn)為按量付費(fèi)，推薦您根據(jù)業(yè)務(wù)數(shù)據(jù)量，購買合適的存儲抵扣包。
   PAI-EAS模型配置	選擇大模型	您希望部署的LLM大模型。
   	PAI實例規(guī)格	PAI-EAS部署大模型的實例規(guī)格。
   PAI-EAS WebUI配置	PAI實例規(guī)格	PAI-EAS部署WebUI的實例規(guī)格。
   VPC配置	交換機(jī)可用區(qū)	選擇交換機(jī)所在的可用區(qū)。
   	是否新建VPC	是否開啟新建VPC，取值說明： 開啟：會自動生成對應(yīng)的專有網(wǎng)絡(luò)VPC實例ID和交換機(jī)實例ID，在創(chuàng)建計算巢服務(wù)實例時，創(chuàng)建對應(yīng)的VPC信息。 不開啟：需手動選擇專有網(wǎng)絡(luò)VPC實例ID和交換機(jī)實例ID信息。
   	專有網(wǎng)絡(luò)VPC實例ID	根據(jù)實際情況，選擇合適的現(xiàn)有虛擬專有網(wǎng)絡(luò)的實例ID。
   	交換機(jī)實例ID	根據(jù)實際情況，選擇合適的現(xiàn)有業(yè)務(wù)網(wǎng)絡(luò)交換機(jī)的實例ID。
   標(biāo)簽和資源組	標(biāo)簽	選擇或填寫完整的標(biāo)簽鍵和標(biāo)簽值，為服務(wù)資源綁定標(biāo)簽。每個資源最多可綁定20條標(biāo)簽。 若無可選的標(biāo)簽鍵和標(biāo)簽值，可創(chuàng)建自定義標(biāo)簽。創(chuàng)建自定義標(biāo)簽的詳細(xì)操作，請參見創(chuàng)建并綁定自定義標(biāo)簽。
   	資源組	選擇您的資源要加入的資源組。 資源組對您擁有的云資源從用途、權(quán)限、歸屬等維度上進(jìn)行分組，實現(xiàn)企業(yè)內(nèi)部多用戶、多項目的資源分級管理。更多信息，請參見資源組。

3. 單擊下一步：確認(rèn)訂單，在訂單確認(rèn)頁面，確認(rèn)依賴檢查信息和授權(quán)信息，然后單擊立即創(chuàng)建。

   服務(wù)實例創(chuàng)建成功之后，在服務(wù)實例管理列表查看已創(chuàng)建的服務(wù)實例狀態(tài)。

使用知識庫

1. 配置并連接知識庫。

   1. 訪問服務(wù)實例管理頁面，單擊已部署的實例ID，進(jìn)入服務(wù)實例詳情頁面。

   2. 在實例信息區(qū)域，單擊endpoint，進(jìn)入Hologres+大模型WebUI。

      

   3. 在Hologres+大模型WebUI的設(shè)置頁簽，配置以下參數(shù)。

      

      • User：阿里云賬號或RAM用戶的AccessKey ID。您可以進(jìn)入AccessKey管理頁面獲取AccessKey ID。

      • Password：AccessKey ID對應(yīng)的AccessKey Secret。您可以進(jìn)入AccessKey管理頁面獲取AccessKey Secret。

      說明

      Embedding模型、模型在線服務(wù)PAI-EAS連接信息與計算巢部署的Hologres實例的VPC Host、Port、Database（默認(rèn)為：chatbot）信息已配置，無需修改。

   4. 單擊連接Hologres。

      在連接信息中返回連接Hologres成功內(nèi)容，即說明連接成功。

2. 在上傳頁簽，選擇您的專屬語料數(shù)據(jù)文件，然后單擊上傳。本文以語料示例文件為例。

   上傳完成后在狀態(tài)區(qū)域，返回成功上傳 1 個文件 [ example_data.txt, ] ! 內(nèi)容，即說明上傳成功。

   

3. 在聊天頁簽，配置問題反饋相關(guān)參數(shù)。

   參數(shù)	說明
   選擇聊天模式	向量數(shù)據(jù)庫：使用您在Hologres中上傳的語料數(shù)據(jù)進(jìn)行向量近似查詢問答。 大語言模型：使用原始的預(yù)訓(xùn)練大語言模型進(jìn)行問答。 向量數(shù)據(jù)庫+大語言模型：使用您在Hologres中上傳的語料數(shù)據(jù)進(jìn)行向量近似查詢，然后通過大模型對查詢結(jié)果進(jìn)行進(jìn)一步完善和調(diào)整，最終反饋優(yōu)化后的結(jié)果。
   查詢最相關(guān)的k條語料	返回查詢結(jié)果的數(shù)量，默認(rèn)為3條。
   選擇prompt模板	返回結(jié)果的樣式，支持通用、URL提取和自定義。 建議使用通用模板。

4. 在提問框中輸入您的問題，并單擊提交。