Mistral: Mistral Nemo
mistralai/mistral-nemo
A 12B parameter model with a 128k token context length built by Mistral in collaboration with NVIDIA. The model is multilingual, supporting English, French, German, Spanish, Italian, Portuguese, Chinese, Japanese,...
Modalitäten
Text
In / out Preis
33 ₩ / 53 ₩
1M
Kontext
131.072
Veröffentlicht
19.07.2024
FAQ
Häufig gestellte Fragen
Wie rufe ich dieses Modell auf?
Sende eine Anfrage an `/api/v1/chat/completions`, wobei `model` auf diese Modell-ID gesetzt ist. Das Ändern der base_url des OpenAI SDKs ist ausreichend.
Wie wird der Preis berechnet?
Die Upstream-Kosten in USD werden mit dem Wechselkurs und der Marge multipliziert, um einen Preis in KRW zu ermitteln. Die Kosten jeder Anfrage werden in den Response-Headern und in Ihrem Aktivitätsprotokoll aufgezeichnet.
Läuft dies auf einer lokalen GPU?
Wenn eine lokale GPU dieses Modell bereitstellt, wird diese zuerst verwendet. Wenn kein lokaler Slot verfügbar ist oder ein Fehler auftritt, wird die Anfrage an einen externen Anbieter weitergeleitet.
Werden meine Konversationen gespeichert?
API-Request-Bodies werden niemals gespeichert. Nur Konversationen aus dem Chat-Bildschirm werden gespeichert, und dies kann in den Einstellungen deaktiviert werden.