WizardLM-2 8x22B
microsoft/wizardlm-2-8x22b
WizardLM-2 8x22B is Microsoft AI's most advanced Wizard model. It demonstrates highly competitive performance compared to leading proprietary models, and it consistently outperforms all existing state-of-the-art opensource models. It is...
Modalidades
Texto
Preço in / out
₩ 1.088 / ₩ 1.088
1M
Contexto
65,54 mil
Lançado
16 de abr. de 2024
FAQ
Perguntas frequentes
Como eu chamo este modelo?
Envie uma requisição para `/api/v1/chat/completions` com o `model` definido para este ID de modelo. Alterar a base_url do SDK da OpenAI é o suficiente.
Como o preço é calculado?
O custo upstream em USD é multiplicado pela taxa de câmbio e pela margem para gerar o preço em KRW. O custo de cada requisição é registrado nos headers da resposta e no seu log de atividade.
Isso roda em uma GPU local?
Se uma GPU local atender este modelo, ela tem prioridade. Quando não há slot local ou ele falha, a requisição é direcionada para um provedor externo.
Minhas conversas são armazenadas?
Corpos de requisições de API nunca são armazenados. Apenas conversas da tela de Chat são salvas, e você pode desativar isso nas configurações.