Qwen2.5 72B Instruct

qwen/qwen-2.5-72b-instruct

Qwen2.5 72B is the latest series of Qwen large language models. Qwen2.5 brings the following improvements upon Qwen2: - Significantly more knowledge and has greatly improved capabilities in coding and...

Modalities
Text
Giá In / out
632 ₩ / 702 ₩
1M
Context
32,77 N
Ngày phát hành
19 thg 9, 2024

FAQ

Câu hỏi thường gặp

Làm thế nào để gọi model này?

Gửi một request đến `/api/v1/chat/completions` với `model` được thiết lập là ID model này. Chỉ cần thay đổi base_url của OpenAI SDK là đủ.

Giá được tính như thế nào?

Chi phí upstream bằng USD được nhân với tỷ giá hối đoái và biên lợi nhuận để tạo ra giá KRW. Chi phí của mỗi request được ghi lại trong response headers và trong nhật ký hoạt động của bạn.

Model này có chạy trên GPU cục bộ không?

Nếu một GPU cục bộ phục vụ model này, nó sẽ được ưu tiên trước. Khi không có slot cục bộ hoặc bị lỗi, request sẽ được chuyển đến nhà cung cấp bên ngoài.

Các cuộc hội thoại của tôi có được lưu trữ không?

Body của API request không bao giờ được lưu trữ. Chỉ các cuộc hội thoại từ màn hình Chat mới được lưu, và bạn có thể tắt tính năng đó trong phần cài đặt.

Tìm hiểu thêm