內(nèi)容生成服務(wù)
AI搜索開放平臺(tái)支持通過(guò)API的方式調(diào)用大模型服務(wù),包含基于阿里巴巴自研模型底座微調(diào)的RAG專屬大模型,可結(jié)合文檔處理、檢索服務(wù)等,在RAG場(chǎng)景中廣泛應(yīng)用,提升答案的準(zhǔn)確率,降低幻覺(jué)率。
服務(wù)名稱 | 服務(wù)ID(service_id) | 服務(wù)描述 |
OpenSearch-通義千問(wèn)-Turbo | ops-qwen-turbo | 以qwen-turbo大規(guī)模語(yǔ)言模型為模型底座,進(jìn)行有監(jiān)督的模型微調(diào)強(qiáng)化檢索增強(qiáng)的能力,減少有害性 |
通義千問(wèn)-Turbo | qwen-turbo | 通義千問(wèn)超大規(guī)模語(yǔ)言模型,支持中文英文等不同語(yǔ)言輸入 |
通義千問(wèn)-Plus | qwen-plus | 通義千問(wèn)超大規(guī)模語(yǔ)言模型的增強(qiáng)版,支持中文英文等不同語(yǔ)言輸入 |
通義千問(wèn)-Max | qwen-max | 即通義千問(wèn)2.0,通義千問(wèn)千億級(jí)別超大規(guī)模語(yǔ)言模型,支持中文英文等不同語(yǔ)言輸入 |
前提條件
獲取身份鑒權(quán)信息
通過(guò)API調(diào)用AI搜索開放平臺(tái)服務(wù)時(shí),需要對(duì)調(diào)用者身份進(jìn)行鑒權(quán),如何獲取鑒權(quán)信息請(qǐng)參見(jiàn)獲取API-KEY。
獲取服務(wù)調(diào)用地址
支持通過(guò)公網(wǎng)和VPC兩種方式調(diào)用服務(wù),詳情請(qǐng)參見(jiàn)獲取服務(wù)接入地址。
請(qǐng)求說(shuō)明
公共說(shuō)明
請(qǐng)求body最大不能超過(guò)8MB。
HTTP請(qǐng)求方式
POST
URL
{host}/v3/openapi/workspaces/{workspace_name}/text-generation/{service_id}
參數(shù)說(shuō)明:
host:調(diào)用服務(wù)的地址,支持通過(guò)公網(wǎng)和VPC兩種環(huán)境調(diào)用API服務(wù),可參見(jiàn)獲取服務(wù)接入地址。
workspace_name:工作空間名稱,例如default。
service_id: 系統(tǒng)內(nèi)置服務(wù)id,例如ops-qwen-turbo。
請(qǐng)求參數(shù)
Header參數(shù)
API-KEY認(rèn)證
參數(shù) | 類型 | 必填 | 描述 | 示例值 |
Content-Type | String | 是 | 請(qǐng)求類型:application/json | application/json |
Authorization | String | 是 | API-Key | Bearer OS-d1**2a |
Body參數(shù)
參數(shù) | 類型 | 必填 | 描述 | 示例值 |
messages | List | 是 | 用戶與模型的對(duì)話歷史。list中的每個(gè)元素形式為{"role":角色, "content": 內(nèi)容},角色當(dāng)前可選值:system、user、assistant。
| |
stream | Boolean | 否 | 是否流式返回,默認(rèn)為false。 當(dāng)為true時(shí),每次輸出為當(dāng)前生成的整個(gè)序列,最后一次輸出為最終全部生成結(jié)果 | false |
parameters | Map | 否 | 請(qǐng)求大模型可調(diào)整參數(shù)。 |
說(shuō)明:ops-qwen-turbo的最大tokens限制為4000
返回參數(shù)
參數(shù) | 類型 | 描述 | 示例值 |
result.text | String | 本次模型生成的文本。 | 鄭州是一個(gè)... |
usage.output_tokens | Integer | 模型生成內(nèi)容的Token長(zhǎng)度。 | 100 |
usage.input_tokens | Integer | 用戶輸入內(nèi)容的Token長(zhǎng)度。 | 100 |
usage.total_tokens | Integer | 用戶輸入和模型生成內(nèi)容的總Token數(shù)。 | 200 |
Curl請(qǐng)求示例
curl -XPOST -H"Content-Type: application/json"
"http://****-hangzhou.opensearch.aliyuncs.com/v3/openapi/workspaces/default/text-generation/ops-qwen-turbo"
-H "Authorization: Bearer 您的API-KEY"
-d "{
\"messages\":[
{
\"role\":\"system\",
\"content\":\"你是一個(gè)機(jī)器人助手\"
},
{
\"role\":\"user\",
\"content\":\"河南的省會(huì)是哪里\"
},
{
\"role\":\"assistant\",
\"content\":\"鄭州\"
},
{
\"role\":\"user\",
\"content\":\"那里有什么好玩的\"
}
],
\"stream\":false
}"
響應(yīng)示例
正常響應(yīng)示例
{
"request_id": "450fcb80-f796-****-8d69-e1e86d29aa9f",
"latency": 564.903929,
"result": {
"text":"鄭州是一個(gè)歷史文化悠久且現(xiàn)代化的城市,有很多好玩的地方。以下是一些推薦的旅游景點(diǎn):
嵩山少林寺:作為少林武術(shù)的發(fā)源地,嵩山少林寺一直以來(lái)都是游客向往的地方。在這里,你可以欣賞到精彩的武術(shù)表演,領(lǐng)略少林功夫的魅力。
黃河游覽區(qū):黃河是中華民族的母親河,而在鄭州,你可以乘坐游船觀賞黃河的多種風(fēng)情,感受大河之美。
鄭州動(dòng)物園:這是一個(gè)適合全家游玩的景點(diǎn),擁有各種珍稀動(dòng)物,如大熊貓、金絲猴等,讓孩子們近距離接觸動(dòng)物,增長(zhǎng)見(jiàn)識(shí)。
鄭州博物館:如果你對(duì)歷史文化感興趣,那么鄭州博物館是一個(gè)不錯(cuò)的選擇。這里收藏了大量珍貴的文物,展示了鄭州地區(qū)的歷史變遷和文化傳承。
鄭州世紀(jì)公園:這是一個(gè)大型的城市公園,擁有美麗的湖泊、花園和休閑設(shè)施。在這里,你可以進(jìn)行散步、慢跑等戶外活動(dòng),享受大自然的寧?kù)o與和諧。
以上只是鄭州眾多好玩地方的一部分,實(shí)際上鄭州還有很多其他值得一游的景點(diǎn)。希望你在鄭州的旅行能夠愉快!"
}
"usage": {
"output_tokens": 6320,
"input_tokens": 35,
"total_tokens": 6355,
}
}
異常響應(yīng)示例
在訪問(wèn)請(qǐng)求出錯(cuò)的情況下,輸出的結(jié)果中會(huì)通過(guò)code和message指明出錯(cuò)原因。
{
"request_id": "45C8C9E5-6BCB-****-80D3-E298F788512B",
"latency": 0,
"code": "InvalidParameter",
"message": "JSON parse error: Unexpected character ..."
}
狀態(tài)碼說(shuō)明
請(qǐng)參見(jiàn)AI搜索開放平臺(tái)狀態(tài)碼說(shuō)明。