One of the highest performing and most popular fine-tunes of Llama 2 13B, with rich descriptions and roleplay. #merge

Модальности
Текст
Цена за вход / выход
105 ₩ / 105 ₩
1M
Контекст
8 тыс.
Дата выпуска
2 июл. 2023 г.

FAQ

Часто задаваемые вопросы

Как вызвать эту модель?

Отправьте запрос на `/api/v1/chat/completions`, установив `model` на ID этой модели. Достаточно изменить base_url в OpenAI SDK.

Как рассчитывается цена?

Себестоимость в USD умножается на обменный курс и маржу для получения цены в KRW. Стоимость каждого запроса фиксируется в заголовках ответа и в журнале активности.

Работает ли это на локальной GPU?

Если модель обслуживается на локальной GPU, запрос идет сначала на неё. Если локального слота нет или произошла ошибка, запрос передается внешнему провайдеру.

Сохраняются ли мои диалоги?

Тела API-запросов никогда не сохраняются. Сохраняются только диалоги из экрана Chat, и это можно отключить в настройках.

Подробнее