Meta: Llama 3.2 3B Instruct

meta-llama/llama-3.2-3b-instruct

Llama 3.2 3B is a 3-billion-parameter multilingual large language model, optimized for advanced natural language processing tasks like dialogue generation, reasoning, and summarization. Designed with the latest transformer architecture, it...

Модальности
Текст
Цена за вход / выход
88 ₩ / 579 ₩
1M
Контекст
131,07 тыс.
Дата выпуска
25 сент. 2024 г.

FAQ

Часто задаваемые вопросы

Как вызвать эту модель?

Отправьте запрос на `/api/v1/chat/completions`, установив `model` на ID этой модели. Достаточно изменить base_url в OpenAI SDK.

Как рассчитывается цена?

Себестоимость в USD умножается на обменный курс и маржу для получения цены в KRW. Стоимость каждого запроса фиксируется в заголовках ответа и в журнале активности.

Работает ли это на локальной GPU?

Если модель обслуживается на локальной GPU, запрос идет сначала на неё. Если локального слота нет или произошла ошибка, запрос передается внешнему провайдеру.

Сохраняются ли мои диалоги?

Тела API-запросов никогда не сохраняются. Сохраняются только диалоги из экрана Chat, и это можно отключить в настройках.

Подробнее