Nous: Hermes 3 405B Instruct

nousresearch/hermes-3-llama-3.1-405b

Hermes 3 is a generalist language model with many improvements over Hermes 2, including advanced agentic capabilities, much better roleplaying, reasoning, multi-turn conversation, long context coherence, and improvements across the...

Modalitäten
Text
In / out Preis
1.755 ₩ / 1.755 ₩
1M
Kontext
131.072
Veröffentlicht
16.08.2024

FAQ

Häufig gestellte Fragen

Wie rufe ich dieses Modell auf?

Sende eine Anfrage an `/api/v1/chat/completions`, wobei `model` auf diese Modell-ID gesetzt ist. Das Ändern der base_url des OpenAI SDKs ist ausreichend.

Wie wird der Preis berechnet?

Die Upstream-Kosten in USD werden mit dem Wechselkurs und der Marge multipliziert, um einen Preis in KRW zu ermitteln. Die Kosten jeder Anfrage werden in den Response-Headern und in Ihrem Aktivitätsprotokoll aufgezeichnet.

Läuft dies auf einer lokalen GPU?

Wenn eine lokale GPU dieses Modell bereitstellt, wird diese zuerst verwendet. Wenn kein lokaler Slot verfügbar ist oder ein Fehler auftritt, wird die Anfrage an einen externen Anbieter weitergeleitet.

Werden meine Konversationen gespeichert?

API-Request-Bodies werden niemals gespeichert. Nur Konversationen aus dem Chat-Bildschirm werden gespeichert, und dies kann in den Einstellungen deaktiviert werden.

Mehr erfahren