25.9K ダウンロード

mistralai/
magistral-small
23.6B
mistral

MistralAI初の推論モデル、Mistral Small 3.1をベースにしています。

推論

最終更新日6月10日
README

Magistral Small

Magistral Smallは、Mistral Small 3.1をベースに、Magistral MediumのトレースからのSFTおよびRLトレーニングを通じて推論能力を追加したものです。24Bパラメータを持つ小型で効率的な推論モデルであり、量子化後は単一のRTX 4090または32GB RAMのMacBookにローカルデプロイ可能です。

このモデルは、回答を提供する前に長い推論トレースを実行でき、英語、フランス語、ドイツ語、日本語、中国語など、数十の言語をサポートしています。128kのコンテキストウィンドウを備え、商用および非商用利用が可能なApache 2.0ライセンスが付与されています。

カスタムフィールド

モデル作成者によって定義された特別な機能

思考を有効にする

: boolean

(デフォルト=true)

モデルが返信する前に思考するかどうかを制御します。

ソース

このモデルが使用する基盤となるモデルファイル

このモデルをダウンロードすると、LM Studioはお使いのマシンに最適なソースを選択します(これは上書きできます)。

設定

このモデルに含まれるカスタム設定オプション

温度
0.7
トップPサンプリング
0.95