Mistral: Mixtral 8x22B Instruct
mistralai/mixtral-8x22b-instruct
Mistral's official instruct fine-tuned version of [Mixtral 8x22B](/models/mistralai/mixtral-8x22b). It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include: - strong math, coding,...
Modalitäten
TextDatei
In / out Preis
3.510 ₩ / 10.530 ₩
1M
Kontext
65.536
Veröffentlicht
17.04.2024
FAQ
Häufig gestellte Fragen
Wie rufe ich dieses Modell auf?
Sende eine Anfrage an `/api/v1/chat/completions`, wobei `model` auf diese Modell-ID gesetzt ist. Das Ändern der base_url des OpenAI SDKs ist ausreichend.
Wie wird der Preis berechnet?
Die Upstream-Kosten in USD werden mit dem Wechselkurs und der Marge multipliziert, um einen Preis in KRW zu ermitteln. Die Kosten jeder Anfrage werden in den Response-Headern und in Ihrem Aktivitätsprotokoll aufgezeichnet.
Läuft dies auf einer lokalen GPU?
Wenn eine lokale GPU dieses Modell bereitstellt, wird diese zuerst verwendet. Wenn kein lokaler Slot verfügbar ist oder ein Fehler auftritt, wird die Anfrage an einen externen Anbieter weitergeleitet.
Werden meine Konversationen gespeichert?
API-Request-Bodies werden niemals gespeichert. Nur Konversationen aus dem Chat-Bildschirm werden gespeichert, und dies kann in den Einstellungen deaktiviert werden.