5.5K ダウンロード

nousresearch/
hermes-4-70b
70B
llama

Nous ResearchによるLlama-3.1-70Bをベースとしたハイブリッドモード推論モデル

T ool use

推論

最終更新日13日前
README

Hermes 4

Hermes 4 70Bは、Nous ResearchによるLlama-3.1-70Bをベースとしたハイブリッドモード推論モデルです。Hermes 3と比較して、このモデルは数学および科学的推論の強化、指示追従能力の向上、そしてニュアンスのあるロールプレイングやクリエイティブライティング能力を備えた、正確なスキーマ準拠の出力を提供します。

このモデルは、131kトークンのコンテキスト長をサポートします。

Hermes 3 vs 新機能

  • ファインチューニングコーパス:データセットサイズを100万サンプル、12億トークンから、推論データと非推論データをブレンドした約500万サンプル/約600億トークンに大幅に増加。
  • ハイブリッド推論モード:モデルが熟考を決定した際の明示的な<think>…</think>セグメントと、応答を高速化したい場合のオプション。
  • トップクオリティの推論:表現豊かで、数学、コード、STEM、論理、さらにはクリエイティブライティングや主観的な応答も向上。
  • スキーマ準拠と構造化された出力:指定されたスキーマに対する有効なJSONの生成、および不正なオブジェクトの修復のためにトレーニング済み。
  • 操作とアライメントがはるかに容易:操作性、特に拒否率の低下において劇的な改善。
カスタムフィールド

モデル作成者によって定義された特別な機能

思考を有効にする

: boolean

(デフォルト=false)

モデルが返信する前に思考するかどうかを制御します。

CoTを保持

: boolean

(デフォルト=false)

後続のリクエストにChain of Thoughtを含める

ソース

このモデルが使用する基盤となるモデルファイル

このモデルをダウンロードすると、LM Studioはお使いのマシンに最適なソースを選択します(これは上書きできます)。

設定

このモデルに含まれるカスタム設定オプション

温度
0.6
トップKサンプリング
20
トップPサンプリング
0.95