WizardLM-2 8x22B
microsoft/wizardlm-2-8x22b
WizardLM-2 8x22B is Microsoft AI's most advanced Wizard model. It demonstrates highly competitive performance compared to leading proprietary models, and it consistently outperforms all existing state-of-the-art opensource models. It is...
Модальности
Текст
Цена за вход / выход
1 088 ₩ / 1 088 ₩
1M
Контекст
65,54 тыс.
Дата выпуска
16 апр. 2024 г.
FAQ
Часто задаваемые вопросы
Как вызвать эту модель?
Отправьте запрос на `/api/v1/chat/completions`, установив `model` на ID этой модели. Достаточно изменить base_url в OpenAI SDK.
Как рассчитывается цена?
Себестоимость в USD умножается на обменный курс и маржу для получения цены в KRW. Стоимость каждого запроса фиксируется в заголовках ответа и в журнале активности.
Работает ли это на локальной GPU?
Если модель обслуживается на локальной GPU, запрос идет сначала на неё. Если локального слота нет или произошла ошибка, запрос передается внешнему провайдеру.
Сохраняются ли мои диалоги?
Тела API-запросов никогда не сохраняются. Сохраняются только диалоги из экрана Chat, и это можно отключить в настройках.