OpenAI: GPT-3.5 Turbo 16k

openai/gpt-3.5-turbo-16k

This model offers four times the context length of gpt-3.5-turbo, allowing it to support approximately 20 pages of text in a single request at a higher cost. Training data: up...

Modalidades
Texto
Preço in / out
₩ 5.265 / ₩ 7.020
1M
Contexto
16,39 mil
Lançado
28 de ago. de 2023

FAQ

Perguntas frequentes

Como eu chamo este modelo?

Envie uma requisição para `/api/v1/chat/completions` com o `model` definido para este ID de modelo. Alterar a base_url do SDK da OpenAI é o suficiente.

Como o preço é calculado?

O custo upstream em USD é multiplicado pela taxa de câmbio e pela margem para gerar o preço em KRW. O custo de cada requisição é registrado nos headers da resposta e no seu log de atividade.

Isso roda em uma GPU local?

Se uma GPU local atender este modelo, ela tem prioridade. Quando não há slot local ou ele falha, a requisição é direcionada para um provedor externo.

Minhas conversas são armazenadas?

Corpos de requisições de API nunca são armazenados. Apenas conversas da tela de Chat são salvas, e você pode desativar isso nas configurações.

Saiba mais