Meta: Llama 3.1 8B Instruct
meta-llama/llama-3.1-8b-instruct
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to...
Модальности
Текст
Цена за вход / выход
88 ₩ / 140 ₩
1M
Контекст
131,07 тыс.
Дата выпуска
23 июл. 2024 г.
FAQ
Часто задаваемые вопросы
Как вызвать эту модель?
Отправьте запрос на `/api/v1/chat/completions`, установив `model` на ID этой модели. Достаточно изменить base_url в OpenAI SDK.
Как рассчитывается цена?
Себестоимость в USD умножается на обменный курс и маржу для получения цены в KRW. Стоимость каждого запроса фиксируется в заголовках ответа и в журнале активности.
Работает ли это на локальной GPU?
Если модель обслуживается на локальной GPU, запрос идет сначала на неё. Если локального слота нет или произошла ошибка, запрос передается внешнему провайдеру.
Сохраняются ли мои диалоги?
Тела API-запросов никогда не сохраняются. Сохраняются только диалоги из экрана Chat, и это можно отключить в настройках.