ドキュメント

モデルの管理

ロード済みモデルの一覧

現在ロードされているモデルをクエリする

LMStudioClient オブジェクトの llm および embedding 名前空間にある listLoaded メソッドを使用して、メモリにロードされているモデルを反復処理できます。

現在メモリにロードされているモデルを一覧表示

これは、CLI で lms ps を使用した場合と同等の結果を返します。

import { LMStudioClient } from "@lmstudio/sdk";

const client = new LMStudioClient();

const llmOnly = await client.llm.listLoaded();
const embeddingOnly = await client.embedding.listLoaded();

このページのソースは GitHub で利用可能です。