ブログ 👾

LM Studioのmlx-engineにおいて、統一されたマルチモーダルLLM推論を実現するためにmlx-lmとmlx-vlmを活用。

LM Studioで、Mac、Windows、またはLinux上にて、わずか4GBのRAMでDeepSeek R1 0528モデル（8B）の蒸留版をローカルで実行できます。ツール使用と推論をサポートしています。

コミュニティプリセットの公開プレビュー、使用頻度の低いランタイム拡張パックの自動削除、およびLLMをテキスト埋め込みモデルとして使用する方法。

CUDA 12のサポート、新しいシステムプロンプトエディタUI、改善されたツール使用APIサポート、およびコミュニティプリセットのプレビュー。

マルチGPUセットアップのための高度なコントロール：特定のGPUの有効化/無効化、割り当て戦略の選択、モデルウェイトの専用GPUメモリへの制限など。

LM Studio 0.3.13は、Googleの最新のマルチモーダルモデルであるGemma 3をサポートしています。Mac、Windows、またはLinuxマシンでローカルに実行できます。

RAGのためのバグ修正とドキュメントチャンキング速度の改善

LM Studio SDK（Python, TS/JS）のサポート、高度な投機的デコーディング設定、およびバグ修正

PythonおよびTypeScript向けの開発者SDKがバージョン1.0.0で利用可能になりました。ローカルAIソフトウェアのためのプログラマブルなツールキットです。

llama.cppおよびMLXにおける投機的デコーディングによる推論速度の向上

アイドル状態のTTL、ランタイムの自動更新、HFリポジトリ内のネストされたフォルダーのサポート、およびチャット完了応答におけるreasoning_contentの分離

DeepSeek R1モデルをコンピューターでローカルかつオフラインで実行

DeepSeek R1用思考UI、LaTeXレンダリングの改善、およびバグ修正

DeepSeek R1のサポートとllama.cppモデルのKVキャッシュ量子化

ベータ版のツール呼び出しAPI、新しいインストーラー/アップデーターシステム、およびQwen2VLとQVQ（GGUFおよびMLXの両方）のサポート

Pythonのsitecustomize.pyに基づき、Pythonアプリケーションとそのすべての依存関係をポータブルで決定的な形式にパッケージ化するためのオープンソースユーティリティ。

ヘッドレスモード、オンデマンドモデルロード、サーバー自動起動、ターミナルからモデルをダウンロードするCLIコマンド、およびApple MLXによるPixtralのサポート。

Apple Silicon Mac向けのMLXを使用し、超高速で効率的なオンデバイスLLM推論。

設定プリセットが復活しました！ユーザー入力とシステムプロンプトのライブトークンカウントも。多くのバグ修正。また、コミュニティ貢献者のおかげで新しいアプリ言語もいくつか追加されました。

LM Studio 0.3.2 リリースノート

LM Studio 0.3.1 リリースノート

LM Studio 0.3.0が登場！組み込み（素朴な）RAG、ライトテーマ、国際化、構造化出力API、ネットワーク上での提供など。

LM Studioを使ってLlama 3.1をコンピューターでローカルに実行。

ローカルLLMワークフローのスクリプト化と自動化のためのコマンドラインツール。