ドキュメント

LLMでの予測

エージェントフロー

テキスト埋め込み

トークン化

モデルの管理

モデル情報

APIリファレンス

読み込み済みモデルを一覧表示

メモリに読み込まれたモデルは、listLoaded メソッドを使用して反復処理できます。このメソッドは、LMStudioClient オブジェクトの llm および embedding 名前空間の下にあります。

現在メモリに読み込まれているモデルを一覧表示

これは、CLI で lms ps を使用した場合と同じ結果を返します。

import { LMStudioClient } from "@lmstudio/sdk";

const client = new LMStudioClient();

const llmOnly = await client.llm.listLoaded();
const embeddingOnly = await client.embedding.listLoaded();