Mistral: Mixtral 8x22B Instruct

mistralai/mixtral-8x22b-instruct

Mistral's official instruct fine-tuned version of [Mixtral 8x22B](/models/mistralai/mixtral-8x22b). It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include: - strong math, coding,...

Modalities
TextFile
輸入 / 輸出價格
₩3,510 / ₩10,530
1M
Context
6.55萬
發佈日期
2024年4月17日

FAQ

常見問題

如何呼叫此模型?

向 `/api/v1/chat/completions` 發送請求,並將 `model` 設定為此模型 ID。只需更改 OpenAI SDK 的 base_url 即可。

價格如何計算?

將 USD 的上游成本乘以匯率與利潤,得出 KRW 價格。每次請求的成本會記錄在回應標頭 (response headers) 與您的活動日誌中。

這會在本地 GPU 上執行嗎?

如果本地 GPU 提供此模型,會優先使用。當沒有本地插槽或執行失敗時,請求會轉向外部供應商。

我的對話會被儲存嗎?

API 請求主體絕不會被儲存。只有來自 Chat 畫面的對話會被儲存,您可以在設定中關閉此功能。

了解更多