Cohere: Command R7B (12-2024)

cohere/command-r7b-12-2024

Command R7B (12-2024) is a small, fast update of the Command R+ model, delivered in December 2024. It excels at RAG, tool use, agents, and similar tasks requiring complex reasoning...

Modalités
Texte
Prix entrée / sortie
66 ₩ / 263 ₩
1M
Contexte
128 k
Publié
14 déc. 2024

FAQ

Foire aux questions

Comment appeler ce modèle ?

Envoyez une requête à `/api/v1/chat/completions` avec `model` défini sur cet ID de modèle. Modifier la base_url du SDK OpenAI est suffisant.

Comment le prix est-il calculé ?

Le coût amont en USD est multiplié par le taux de change et la marge pour obtenir un prix en KRW. Le coût de chaque requête est enregistré dans les en-têtes de réponse et dans votre journal d'activité.

Cela s'exécute-t-il sur un GPU local ?

Si un GPU local dessert ce modèle, il est prioritaire. En l'absence de slot local ou en cas d'échec, la requête est redirigée vers un fournisseur externe.

Mes conversations sont-elles stockées ?

Les corps de requête API ne sont jamais stockés. Seules les conversations de l'écran Chat sont sauvegardées, et vous pouvez désactiver cette option dans les paramètres.

En savoir plus