ドキュメント
ローカルでのLLMの実行
プリセット
API
ユーザーインターフェース
高度な設定
ローカルでのLLMの実行
プリセット
API
ユーザーインターフェース
高度な設定
ドキュメントとチャット
LM Studioのチャットセッションに、ドキュメントファイル(.docx
、.pdf
、.txt
)を添付できます。
これにより、アプリを介してチャットするLLMに追加のコンテキストが提供されます。
ドキュメントが十分に短い場合(つまり、モデルのコンテキストに収まる場合)、LM Studioはそのファイルの内容を会話にすべて追加します。これは、MetaのLlama 3.1やMistral Nemoなど、より長いコンテキストサイズをサポートするモデルにとって特に有用です。
ドキュメントが非常に長い場合、LM Studioは「Retrieval Augmented Generation」(しばしば「RAG」と略される)の使用を選択します。RAGとは、非常に長いドキュメント(または複数のドキュメント)から関連する部分を抽出し、参照としてモデルに提供することを意味します。この技術は非常にうまく機能することもありますが、時には調整や実験が必要です。
クエリにできるだけ多くのコンテキストを提供してください。関連するソース資料に含まれていると思われる用語、アイデア、単語を言及してください。これにより、システムがLLMに有用なコンテキストを提供する可能性が高まります。常にそうであるように、何が最適かを見つける最善の方法は実験です。
このページについて
用語集
RAGと完全なドキュメントの「インコンテキスト」処理の比較
RAGを成功させるためのヒント