6.4千 ダウンロード数

mistralai/
magistral-smal...
23.6B
mistral

MistralAI初の推論モデル、Mistral Small 3.1をベースに開発

推論

最終更新   3日前

最低19GB
README

Magistral Small

Magistral Smallは、Mistral Small 3.1をベースに、Magistral MediumのトレースからのSFTとRLトレーニングを通じて推論能力を追加しています。これは24Bパラメータを持つ小型で効率的な推論モデルで、量子化後には単一のRTX 4090または32GB RAMのMacBookにローカルでデプロイ可能です。

このモデルは、回答を提供する前に長い推論トレースの連鎖を行うことができ、英語、フランス語、ドイツ語、日本語、中国語など多数の言語をサポートしています。商用および非商用利用の両方でApache 2.0ライセンスが適用され、128kのコンテキストウィンドウを備えています。

カスタムフィールド

モデル作成者によって定義された特殊機能

思考を有効にする

: ブール値

(デフォルト=true)

モデルが応答する前に思考するかどうかを制御します

ソース

このモデルが使用する基盤となるモデルファイル

このモデルをダウンロードすると、LM Studioがあなたのマシンに最適なソースを選択します(これは上書き可能です)

設定

このモデルに含まれるカスタム設定オプション

温度
0.7
Top Pサンプリング
0.95