Meta: Llama 3.1 8B Instruct
meta-llama/llama-3.1-8b-instruct
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to...
Modaliteler
Metin
Giriş / çıkış fiyatı
₩88 / ₩140
1M
Context
131,07 B
Yayınlanma
23 Tem 2024
SSS
Sıkça sorulan sorular
Bu model nasıl çağrılır?
`model` parametresi bu model ID'sine ayarlanmış şekilde `/api/v1/chat/completions` adresine bir istek gönderin. OpenAI SDK'nın base_url değerini değiştirmek yeterlidir.
Fiyat nasıl hesaplanır?
USD cinsinden upstream maliyeti, döviz kuru ve marj ile çarpılarak KRW fiyatı oluşturulur. Her isteğin maliyeti yanıt başlıklarında ve aktivite günlüğünüzde kaydedilir.
Yerel bir GPU üzerinde mi çalışır?
Eğer bu modeli yerel bir GPU sağlıyorsa, önce o kullanılır. Yerel slot kalmadığında veya hata oluştuğunda istek harici bir sağlayıcıya yönlendirilir.
Konuşmalarım saklanıyor mu?
API istek gövdeleri asla saklanmaz. Sadece Chat ekranındaki konuşmalar kaydedilir ve bunu ayarlardan kapatabilirsiniz.