LLaVA v1.5

Haotian et al

llava

画像入力とテキストによる指示追従をサポートする、オリジナルのLLaVAビジョン対応モデル。

モデル情報

モデル

LLaVA v1.5

作者

Haotian et al

アーキテクチャ

llava

パラメータ数

7B

フォーマット

gguf

ディスク上のサイズ

概算 4.45 GB

ダウンロードと実行LLaVA v1.5

LM Studioで開いてダウンロードオプションを表示

ターミナルからllava-v1.5をダウンロード

LM Studioの開発者CLIであるlmsを使用してモデルをダウンロードします。

lms get llava-v1.5
まだお持ちでない場合は、npx lmstudio install-cliを実行して取得してください

コードからllava-v1.5を呼び出す

curl http://localhost:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llava-v1.5",
    "messages": [
      { "role": "system", "content": "Always answer in rhymes." },
      { "role": "user", "content": "Introduce yourself." }
    ],
    "temperature": 0.7,
    "max_tokens": -1,
    "stream": true
  }'

次のステップ:構築!🔨

  • サーバーを構成し、受信リクエストを確認するには、開発者タブを使用します。
  • lms log streamを実行して、LLMに送信されたプロンプトを確認します。
  • 🐛 バグの報告はlmstudio-ai/lmstudio-bug-trackerまでお願いします。

詳細はこちら