英智Mistral Large 2407 123B服務(wù)
目錄
目錄
免費(fèi)API_KEY獲取方式
快速使用
在編程語(yǔ)言里使用
Shell
Python
Node.js
在第三方應(yīng)用里使用
在 NextChat 里使用
Q&A
404 Not Found
參考
免費(fèi)API_KEY獲取方式
將您的“API_KEY”（申請(qǐng)服務(wù)的免費(fèi)套餐后可獲取）添加到請(qǐng)求頭“Authorization”中，即可接入本服務(wù)來(lái)使用API。
快速使用
打開(kāi)您的命令行，粘貼如下的內(nèi)容，然后回車即可：
export API_BASE_URL="{SERVICE_API_BASE_URL}"
export API_KEY="{YOUR_API_KEY}"
curl -X POST $API_BASE_URL/v1/chat/completions -H "Content-Type: application/json" -H "Authorization: Bearer $API_KEY" -d '{
? ? "model": "mistral-large",
? ? "stream": true,
? ? "messages": [
? ? ? ? {"role": "system", "content": "You are a helpful assistant."},
? ? ? ? {"role": "user", "content": "英智人工智能智匯API是什么？"}
? ? ]
}'
在編程語(yǔ)言里使用
Shell
export API_BASE_URL="{SERVICE_API_BASE_URL}"
export API_KEY="{YOUR_API_KEY}"
curl -X POST $API_BASE_URL/v1/chat/completions -H "Content-Type: application/json" -H "Authorization: Bearer $API_KEY" -d '{
? ? "model": "mistral-large",
? ? "stream": true,
? ? "messages": [
? ? ? ? {"role": "system", "content": "You are a helpful assistant."},
? ? ? ? {"role": "user", "content": "英智人工智能智匯API是什么？"}
? ? ]
}'
Python
from openai import OpenAI
API_BASE_URL = "{SERVICE_API_BASE_URL}"
API_KEY = "{YOUR_API_KEY}"
client = OpenAI(base_url=f"{API_BASE_URL}/v1", api_key=API_KEY)
response = client.chat.completions.create(
? ? model="mistral-large",
? ? messages=[
? ? ? ? {"role": "system", "content": "You are a helpful assistant."},
? ? ? ? {"role": "user", "content": "英智人工智能智匯API是什么？"}
? ? ],
)
print(response.choices[0].message.content)
Node.js
import { OpenAI } from "openai";
const API_BASE_URL = "{SERVICE_API_BASE_URL}";
const API_KEY = "{YOUR_API_KEY}";
const client = new OpenAI({ baseURL: `${API_BASE_URL}/v1`, apiKey: API_KEY });
const response = await client.chat.completions.create({
? model: "mistral-large",
? messages: [
? ? { role: "system", content: "You are a helpful assistant." },
? ? { role: "user", content: "英智人工智能智匯API是什么？" },
? ],
});
console.log(response.choices[0].message.content);
在第三方應(yīng)用里使用
在 NextChat 里使用
NextChat 在線版 https://app.nextchat.dev
1. 設(shè)置
2. 自定義接口
3. 模型服務(wù)商：OpenAI
4. 接口地址：{SERVICE_API_BASE_URL}
5. API Key：{YOUR_API_KEY}
6. 自定義模型名：mistral-large
7. 模型：選擇自定義的模型
8. Enjoy
Q&A
404 Not Found
請(qǐng)檢查 API_BASE_URL 是否正確，如果使用 OpenAI 方式接入，請(qǐng)帶上 API 的版本“v1”，即：
{SERVICE_API_BASE_URL}/v1
參考
OpenAI API compatible:
https://ollama.com/blog/openai-compatibility
Ollama API 文檔:
https://github.com/ollama/ollama
