Sao10K: Llama 3 8B Lunaris

sao10k/l3-lunaris-8b

Lunaris 8B is a versatile generalist and roleplaying model based on Llama 3. It's a strategic merge of multiple models, designed to balance creativity with improved logic and general knowledge....

Modalities
Text
In / out price
₩70 / ₩88
1M
Context
8192
リリース日
2024/08/13

FAQ

よくある質問

このモデルを呼び出すにはどうすればよいですか?

`model` にこのモデルIDを設定して `/api/v1/chat/completions` にリクエストを送信してください。OpenAI SDKのbase_urlを変更するだけで十分です。

価格はどのように計算されますか?

USDでのアップストリームコストに、為替レートとマージンを乗じてKRW価格を算出します。各リクエストのコストは、レスポンスヘッダーとアクティビティログに記録されます。

これはローカルのGPUで動作しますか?

ローカルのGPUがこのモデルを提供している場合は、まずそちらが優先されます。ローカルのスロットがない場合や失敗した場合は、リクエストは外部プロバイダーに転送されます。

会話は保存されますか?

APIのリクエストボディが保存されることはありません。Chat画面からの会話のみが保存されますが、これは設定でオフにできます。

詳細を見る