Hy4 preview

Hy4 previewは、Tencentの最新Mixture-of-Expertsフラッグシップです。総パラメータ数770B、トークンあたり49Bを活性化、78層、256のルーティングされたエキスパートと1つの共有エキスパート、そして1Mトークンのコンテキストウィンドウを備えています。コーディングエージェント、複雑なツール使用ワークフロー、生産性作業向けに構築されたテキスト専用モデルで、投機的デコーディング用のネイティブMTP層を備えています。 推論は3つのレベル（high、low、none）で設定可能で、デフォルトはhighです。そのため、数学、コーディング、分析向けの深い思考連鎖モデルとして実行することも、レイテンシが重要な場合は直接回答することもできます。ネイティブのツール呼び出し、構造化出力、および完全なサンプリングパラメータセットをサポートしています。Tencentはtemperature 0.9とtop_p 1.0を推奨しています。 Tencentは、ソフトウェアエンジニアリング、オフィスおよびデータ分析、ゲームプロトタイピング、科学研究向けに位置付けており、内部ブラインド評価（163名の専門家、203件のエンジニアリングタスク）では、Hy4 previewが平均2.99、GLM 5.3が2.92、Kimi K3が2.94だったと報告しています。プレビューリリースとして、Tencentは既知の荒削りな点を指摘しており、推論に必要以上に時間を費やすことや、自身の作業を過度に検証することなどが含まれます。