Meta: Llama 3.3 70B Instruct
meta-llama/llama-3.3-70b-instruct
The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model...
Modalidades
Texto
Precio entrada / salida
176 KRW / 562 KRW
1M
Contexto
131,07 mil
Lanzado
7 dic 2024
FAQ
Preguntas frecuentes
¿Cómo llamo a este modelo?
Envía una solicitud a `/api/v1/chat/completions` con `model` configurado con este ID de modelo. Cambiar el base_url del SDK de OpenAI es suficiente.
¿Cómo se calcula el precio?
El coste upstream en USD se multiplica por el tipo de cambio y el margen para producir un precio en KRW. El coste de cada solicitud se registra en los headers de la respuesta y en tu registro de actividad.
¿Se ejecuta en una GPU local?
Si una GPU local sirve este modelo, se utiliza primero. Cuando no hay un slot local o este falla, la solicitud pasa a un proveedor externo.
¿Se guardan mis conversaciones?
Los cuerpos de las solicitudes de la API nunca se guardan. Solo se guardan las conversaciones de la pantalla de Chat, y puedes desactivar eso en la configuración.