Mistral: Mixtral 8x22B Instruct
mistralai/mixtral-8x22b-instruct
Mistral's official instruct fine-tuned version of [Mixtral 8x22B](/models/mistralai/mixtral-8x22b). It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include: - strong math, coding,...
Modalités
TexteFichier
Prix entrée / sortie
3 510 ₩ / 10 530 ₩
1M
Contexte
65,54 k
Publié
17 avr. 2024
FAQ
Foire aux questions
Comment appeler ce modèle ?
Envoyez une requête à `/api/v1/chat/completions` avec `model` défini sur cet ID de modèle. Modifier la base_url du SDK OpenAI est suffisant.
Comment le prix est-il calculé ?
Le coût amont en USD est multiplié par le taux de change et la marge pour obtenir un prix en KRW. Le coût de chaque requête est enregistré dans les en-têtes de réponse et dans votre journal d'activité.
Cela s'exécute-t-il sur un GPU local ?
Si un GPU local dessert ce modèle, il est prioritaire. En l'absence de slot local ou en cas d'échec, la requête est redirigée vers un fournisseur externe.
Mes conversations sont-elles stockées ?
Les corps de requête API ne sont jamais stockés. Seules les conversations de l'écran Chat sont sauvegardées, et vous pouvez désactiver cette option dans les paramètres.