GGUF
•
qwen
DeepSeek R1をQwen 7Bに蒸留:小型パッケージで強力な推論モデル
モデル情報
モデル
DeepSeek R1 Distill (Qwen 7B)
作者
deepseek
アーキテクチャ
qwen
パラメータ数
7B
形式
gguf
ディスクサイズ
約 4.68 GB
LM Studioの開発者向けCLIであるlms
を使用してモデルをダウンロードします。
lms get deepseek-r1-qwen-7b
curl http://localhost:1234/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek-r1-qwen-7b",
"messages": [
{ "role": "system", "content": "Always answer in rhymes." },
{ "role": "user", "content": "Introduce yourself." }
],
"temperature": 0.7,
"max_tokens": -1,
"stream": true
}'
lms log stream
を実行して、LLMに送信されるプロンプトを確認します。lmstudio.js
- LM Studio SDK ドキュメント (TypeScript)lms log stream
- サーバーログのストリームlms
- LM StudioのCLIドキュメント