Meta: Llama 3.2 3B Instruct
meta-llama/llama-3.2-3b-instruct
Llama 3.2 3B is a 3-billion-parameter multilingual large language model, optimized for advanced natural language processing tasks like dialogue generation, reasoning, and summarization. Designed with the latest transformer architecture, it...
Modalités
Texte
Prix entrée / sortie
88 ₩ / 579 ₩
1M
Contexte
131,07 k
Publié
25 sept. 2024
FAQ
Foire aux questions
Comment appeler ce modèle ?
Envoyez une requête à `/api/v1/chat/completions` avec `model` défini sur cet ID de modèle. Modifier la base_url du SDK OpenAI est suffisant.
Comment le prix est-il calculé ?
Le coût amont en USD est multiplié par le taux de change et la marge pour obtenir un prix en KRW. Le coût de chaque requête est enregistré dans les en-têtes de réponse et dans votre journal d'activité.
Cela s'exécute-t-il sur un GPU local ?
Si un GPU local dessert ce modèle, il est prioritaire. En l'absence de slot local ou en cas d'échec, la requête est redirigée vers un fournisseur externe.
Mes conversations sont-elles stockées ?
Les corps de requête API ne sont jamais stockés. Seules les conversations de l'écran Chat sont sauvegardées, et vous pouvez désactiver cette option dans les paramètres.