Mistral: Mixtral 8x22B Instruct
mistralai/mixtral-8x22b-instruct
Mistral's official instruct fine-tuned version of [Mixtral 8x22B](/models/mistralai/mixtral-8x22b). It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include: - strong math, coding,...
Modalidades
TextoArquivo
Preço in / out
₩ 3.510 / ₩ 10.530
1M
Contexto
65,54 mil
Lançado
17 de abr. de 2024
FAQ
Perguntas frequentes
Como eu chamo este modelo?
Envie uma requisição para `/api/v1/chat/completions` com o `model` definido para este ID de modelo. Alterar a base_url do SDK da OpenAI é o suficiente.
Como o preço é calculado?
O custo upstream em USD é multiplicado pela taxa de câmbio e pela margem para gerar o preço em KRW. O custo de cada requisição é registrado nos headers da resposta e no seu log de atividade.
Isso roda em uma GPU local?
Se uma GPU local atender este modelo, ela tem prioridade. Quando não há slot local ou ele falha, a requisição é direcionada para um provedor externo.
Minhas conversas são armazenadas?
Corpos de requisições de API nunca são armazenados. Apenas conversas da tela de Chat são salvas, e você pode desativar isso nas configurações.