ドキュメント
エージェントフロー
インテグレーション
テキスト埋め込み
トークン化
モデル情報
エージェントフロー
インテグレーション
テキスト埋め込み
トークン化
モデル情報
インテグレーション
はじめに
TypeScript を使用した LM Studio プラグインのプロンプトプリプロセッサの作成
プラグインサポートは現在プライベートベータ版です。こちらからベータ版に参加してください。
プロンプトプリプロセッサは、ユーザーが「送信」ボタンを押したときに呼び出される関数です。ユーザーの入力を受け取り、モデルに到達する前にそれを変更できます。複数のプロンプトプリプロセッサが登録されている場合、それらはチェーンされ、各プリプロセッサは前のプリプロセッサの出力を受け取ります。
変更された結果はチャット履歴に保存されます。つまり、後でプラグインが無効になっても、変更された入力は引き続き使用されます。
プロンプトプリプロセッサは、現在のユーザー入力に対してのみトリガーされます。以前のチャット履歴のメッセージ(プリプロセスされていない場合でも)に対してはトリガーされません。
プロンプトプリプロセッサは、プリプロセスを制御するための ctl オブジェクトと、プリプロセスする必要がある userMessage を受け取ります。文字列またはメッセージオブジェクトを返しますが、これはユーザーメッセージを置き換えるものになります。
以下は、プロンプトプリプロセッサを使用するプラグインの例です。
LM Studio 用の Retrieval Augmented Generation (RAG)。これは LM Studio にドキュメント処理機能を提供するプラグインです。
このページのソースは GitHub で利用可能です。