Mistral: Mistral Nemo

mistralai/mistral-nemo

A 12B parameter model with a 128k token context length built by Mistral in collaboration with NVIDIA. The model is multilingual, supporting English, French, German, Spanish, Italian, Portuguese, Chinese, Japanese,...

Modalidades
Texto
Precio entrada / salida
33 KRW / 53 KRW
1M
Contexto
131,07 mil
Lanzado
19 jul 2024

FAQ

Preguntas frecuentes

¿Cómo llamo a este modelo?

Envía una solicitud a `/api/v1/chat/completions` con `model` configurado con este ID de modelo. Cambiar el base_url del SDK de OpenAI es suficiente.

¿Cómo se calcula el precio?

El coste upstream en USD se multiplica por el tipo de cambio y el margen para producir un precio en KRW. El coste de cada solicitud se registra en los headers de la respuesta y en tu registro de actividad.

¿Se ejecuta en una GPU local?

Si una GPU local sirve este modelo, se utiliza primero. Cuando no hay un slot local o este falla, la solicitud pasa a un proveedor externo.

¿Se guardan mis conversaciones?

Los cuerpos de las solicitudes de la API nunca se guardan. Solo se guardan las conversaciones de la pantalla de Chat, y puedes desactivar eso en la configuración.

Más información