32.6K ダウンロード
OpenAIのオープンソースモデルの120Bバリアント。Apache 2.0ライセンス。
TTool useool use
推論
単一のH100 GPU(117Bパラメータ、5.1Bアクティブパラメータ)に収まる、本番環境、汎用、高推論ユースケース向けに設計されています。
このモデルは、許容度の高いApache 2.0ライセンスの下でリリースされており、低、中、高の推論設定が可能です。これにより、ユーザーはニーズに応じて出力品質とレイテンシをバランスさせることができます。モデルは完全な連鎖思考(chain-of-thought)の可視性を提供し、デバッグの容易さと信頼性の向上をサポートしますが、この出力はエンドユーザー向けではありません。特定のタスクやドメインへの適応を可能にする完全なファインチューニングが可能であり、関数呼び出し、Webブラウジング、Python実行、構造化出力などのネイティブなエージェント機能が含まれています。
このモデルは、131kのコンテキスト長をサポートします。
モデル作成者によって定義された特別な機能
推論の努力
: 選択
(デフォルト=低)
モデルが実行すべき推論の量を制御します。
このモデルが使用する基盤となるモデルファイル
このモデルをダウンロードすると、LM Studioはお使いのマシンに最適なソースを選択します(これは上書きできます)。
このモデルに含まれるカスタム設定オプション