インテグレーション

はじめに

ジェネレーターはローカルLLMの代替となります。トークンソースのように機能します。ジェネレーターを持つプラグインが使用されると、LM Studio はテキスト生成にローカルモデルを使用しなくなります。代わりにジェネレーターが使用されます。

ジェネレーターは、リモート LM Studio インスタンスやその他のオンラインモデルを使用するなど、外部モデルのアダプターを実装するのに役立ちます。

プラグインにジェネレーターが含まれている場合、プラグインリストには表示されなくなります。代わりに、モデルドロップダウンに表示され、モデルとして機能します。プラグインに ツールプロバイダー または プロンプトプリプロセッサ が含まれている場合、ジェネレーターが選択される際にそれらが使用されます。

例

以下は、ジェネレーターを使用するプラグインの例です。

• lmstudio/remote-lmstudio

  リモート LM Studio インスタンスを使用してテキストを生成するための基本的なサポート。

• lmstudio/openai-compat-endpoint

  LM Studio で OpenAI 互換 API を使用する。