Cohere: Command R+ (08-2024)
cohere/command-r-plus-08-2024
command-r-plus-08-2024 is an update of the [Command R+](/models/cohere/command-r-plus) with roughly 50% higher throughput and 25% lower latencies as compared to the previous Command R+ version, while keeping the hardware footprint...
Modalités
Texte
Prix entrée / sortie
4 388 ₩ / 17 550 ₩
1M
Contexte
128 k
Publié
30 août 2024
FAQ
Foire aux questions
Comment appeler ce modèle ?
Envoyez une requête à `/api/v1/chat/completions` avec `model` défini sur cet ID de modèle. Modifier la base_url du SDK OpenAI est suffisant.
Comment le prix est-il calculé ?
Le coût amont en USD est multiplié par le taux de change et la marge pour obtenir un prix en KRW. Le coût de chaque requête est enregistré dans les en-têtes de réponse et dans votre journal d'activité.
Cela s'exécute-t-il sur un GPU local ?
Si un GPU local dessert ce modèle, il est prioritaire. En l'absence de slot local ou en cas d'échec, la requête est redirigée vers un fournisseur externe.
Mes conversations sont-elles stockées ?
Les corps de requête API ne sont jamais stockés. Seules les conversations de l'écran Chat sont sauvegardées, et vous pouvez désactiver cette option dans les paramètres.