Cohere: Command R+ (08-2024)
cohere/command-r-plus-08-2024
command-r-plus-08-2024 is an update of the [Command R+](/models/cohere/command-r-plus) with roughly 50% higher throughput and 25% lower latencies as compared to the previous Command R+ version, while keeping the hardware footprint...
Модальности
Текст
Цена за вход / выход
4 388 ₩ / 17 550 ₩
1M
Контекст
128 тыс.
Дата выпуска
30 авг. 2024 г.
FAQ
Часто задаваемые вопросы
Как вызвать эту модель?
Отправьте запрос на `/api/v1/chat/completions`, установив `model` на ID этой модели. Достаточно изменить base_url в OpenAI SDK.
Как рассчитывается цена?
Себестоимость в USD умножается на обменный курс и маржу для получения цены в KRW. Стоимость каждого запроса фиксируется в заголовках ответа и в журнале активности.
Работает ли это на локальной GPU?
Если модель обслуживается на локальной GPU, запрос идет сначала на неё. Если локального слота нет или произошла ошибка, запрос передается внешнему провайдеру.
Сохраняются ли мои диалоги?
Тела API-запросов никогда не сохраняются. Сохраняются только диалоги из экрана Chat, и это можно отключить в настройках.