← 全モデル

Command-R

•

CohereForAI

Cohere

10以上の言語でチャット可能なCohere AIのCommand-Rは、RAG用に最適化されていますが、あらゆるタスクで良好な性能を発揮します。

モデル情報

モデル

Command-R

作成者

CohereForAI

リポジトリ

🤗 lmstudio-community/c4ai-command-r-v01-GGUF↗

アーキテクチャ

Cohere

パラメータ数

35B

フォーマット

gguf

ディスク上のサイズ

約 13.82 GB

ダウンロードと実行Command-R

ダウンロードオプションを表示するには、LM Studioで開いてください。

ターミナルからc4ai-command-rをダウンロード

LM Studioの開発者向けCLIであるlmsを使用してモデルをダウンロードします。

lms get c4ai-command-r
まだインストールされていない場合は、npx lmstudio install-cliを実行してインストールしてください。

コードからc4ai-command-rを呼び出す

curl http://localhost:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "c4ai-command-r",
    "messages": [
      { "role": "system", "content": "Always answer in rhymes." },
      { "role": "user", "content": "Introduce yourself." }
    ],
    "temperature": 0.7,
    "max_tokens": -1,
    "stream": true
  }'

次のステップ：作成！ 🔨

  • サーバーの構成と受信リクエストの確認には、開発者タブ を使用してください。
  • lms log streamを実行して、LLMに送信されたプロンプトを確認します。
  • 🐛 バグ報告はlmstudio-ai/lmstudio-bug-trackerで行ってください。

詳細情報