A 12B parameter model with a 128k token context length built by Mistral in collaboration with NVIDIA. The model is multilingual, supporting English, French, German, Spanish, Italian, Portuguese, Chinese, Japanese,...
Modalities
Text
In / out price
₩33 / ₩53
1M
Context
13.11万
リリース日
2024/07/19
FAQ
よくある質問
このモデルを呼び出すにはどうすればよいですか？
`model` にこのモデルIDを設定して `/api/v1/chat/completions` にリクエストを送信してください。OpenAI SDKのbase_urlを変更するだけで十分です。
価格はどのように計算されますか？
USDでのアップストリームコストに、為替レートとマージンを乗じてKRW価格を算出します。各リクエストのコストは、レスポンスヘッダーとアクティビティログに記録されます。
これはローカルのGPUで動作しますか？
ローカルのGPUがこのモデルを提供している場合は、まずそちらが優先されます。ローカルのスロットがない場合や失敗した場合は、リクエストは外部プロバイダーに転送されます。
会話は保存されますか？
APIのリクエストボディが保存されることはありません。Chat画面からの会話のみが保存されますが、これは設定でオフにできます。