Mistral: Mixtral 8x22B Instruct

mistralai/mixtral-8x22b-instruct

Mistral's official instruct fine-tuned version of [Mixtral 8x22B](/models/mistralai/mixtral-8x22b). It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include: - strong math, coding,...

Modalities
TextFile
In / out price
₩3,510 / ₩10,530
1M
Context
6.55万
リリース日
2024/04/17

FAQ

よくある質問

このモデルを呼び出すにはどうすればよいですか?

`model` にこのモデルIDを設定して `/api/v1/chat/completions` にリクエストを送信してください。OpenAI SDKのbase_urlを変更するだけで十分です。

価格はどのように計算されますか?

USDでのアップストリームコストに、為替レートとマージンを乗じてKRW価格を算出します。各リクエストのコストは、レスポンスヘッダーとアクティビティログに記録されます。

これはローカルのGPUで動作しますか?

ローカルのGPUがこのモデルを提供している場合は、まずそちらが優先されます。ローカルのスロットがない場合や失敗した場合は、リクエストは外部プロバイダーに転送されます。

会話は保存されますか?

APIのリクエストボディが保存されることはありません。Chat画面からの会話のみが保存されますが、これは設定でオフにできます。

詳細を見る