1. 198B巨体モデルを400トークン/秒で駆動するスパースMoE
中国のAIユニコーンスタートアップ「階躍星辰(StepFun)」は、総パラメータ数198B(アクティブ約11B)の超巨大スパースMoEビジョンランゲージモデル「Step-3.7-Flash」を公開しました。本モデルは大規模ビジネス環境向けに開発され、最大256kトークンの文脈窓をサポート。毎秒最大400トークンという高速なテキスト出力と、ユーザーが「推論深度」を3段階に切り替えられる柔軟性を兼ね備えています。
大規模な検索、財務データ分析、コード設計などを自律AIに一任する「AIエージェント」が実用化される中、最も重要なのは「速度・信頼性・コスト」のトレードオフです。StepFunが開発したStep-3.7-Flashは、198Bパラメータという巨大スケールでありながら、高度なMoE最適化によって「Flash」の名に相応しい超高スループットを実現しました。
2. Step-3.7-Flashの基本アーキテクチャ
Step-3.7-Flashは、196Bパラメータの大規模言語モデルのバックボーンと、1.8Bパラメータの視覚認識のためのビジョンエンコーダーをネイティブに統合しています。コンテキスト長は最大256,000トークンに達し、数千ページの財務報告書や、何十個ものソースファイルを含む巨大リポジトリをワンパスで読み込むことができます。
この巨体でありながら、トークンあたりに起動されるのは11Bパラメータに抑えられるスパースMoE設計になっており、本番の処理パイプラインにおいては毎秒最大400トークンという高スループットを維持します。
画一的な推論実行
- 速度と精度のトレードオフ: 高精度なフロンティアモデルは応答が遅く高コスト、軽量モデルは論理エラーが多発。
- 固定化された計算リソース: 単純な定型要約でも難解なコードデバッグでも同一の計算ステップが消費され、非効率。
- 長文エージェントの失速: コンテキストが肥大化するとレイテンシが跳ね上がり、並列ループ処理が破綻。
推論深度可変 × 400t/s MoE
- 3段階の推論深度スイッチ: Low(低遅延即答)・Medium(バランス)・High(深層CoT内省)をタスク難度に応じて動的制御。
- 198B MoE(11Bアクティブ): 巨大な知識容量を維持しつつ、アクティブ計算量を抑え毎秒400トークンの爆速推論を達成。
- 耐トラップ評価 ClawEval-1.1 首位: 自律エージェントの異常終了や指示違反リスクを極限まで低減(スコア67.1)。
「すべてのプロンプトに同じ深さの思考は必要ない。定型処理は超低遅延で流し、論理パズルには深い内省を充てる——推論深度の動的制御こそが、エージェント本番運用の経済性を完成させる」
StepFun AI Foundation Model Group3. 特徴機能:3段階の推論レベルの選択
Step-3.7-Flashのユニークな設計は、開発者がAPI経由で推論の「深度」をコントロールできる点にあります。
- Low(低深度): 単純なテキスト抽出や定型要約など、思考ステップが不要な単純作業に向き、極めて低い遅延とコストで動作する。
- Medium(中深度): 通常の分析、標準的な検索拡張生成(RAG)、一般的なコーディング支援などに最適化されたバランスの取れたモード。
- High(高深度): 複雑な論理設計、デバッグ、複数ソースの整合性比較検証など、<think>に近い自律的な内省プロセスを深く回してから最終回答を出力するモード。
4. 主要ベンチマークでの性能
Step-3.7-Flashは、エージェント運用の実用性能を示す各種ベンチマークでトップスコアをマークしました。
検索を統合した難関ビジュアルVQAである「SimpleVQA」では79.2%を記録して第1位を獲得。また、視覚情報が不足している場合にWeb検索をかけて事実関係を自己補完する「V*」ベンチマークでも95.3%に達し、フロンティアモデルと同等の水準を示しました。
さらに重要なのが、AIエージェントの堅牢性(罠にかからずに指示に従えるか)を評価する「ClawEval-1.1」でのスコアです。Step-3.7-Flashは67.1%を獲得し、次点モデル(59.8%)に大きな差をつけました。これは、エージェントの並列ループ実行時の異常終了リスクが極めて低いことを裏付けています。
5. 日本企業への影響と日本から見た意味
日本の大手金融機関やコンサルティングファーム、ソフトウェアベンダーが直面する課題は、数万ページのドキュメント群に対するセキュアなRAG運用や、AIを用いたワークフローの自律化です。しかし、「性能が良いモデルは遅くて使い物にならない」「速いモデルは論理エラーが多い」というジレンマがありました。
Step-3.7-Flashの「速度を保ちつつ、タスクに応じて推論レベルを動的に変えられる」設計は、API利用料を劇的に抑えつつ、システムの信頼性を最適化する新たな手段を提供します。自律検索とコーディングの統合に強いため、日本のDXにおける自動化エージェント構築の核心的なエンジンになり得ます。
6. 次に見る指標
- 推論レベル切り替え時のAPIコスト対効果比: 業務全体の処理速度とコストがどれほど削減されるか
- 日本語のコンテキスト抽出信頼性: 256kという長文コンテキストの中で、日本語の情報が埋もれる「Needle In A Haystack」現象の耐性
- ClawEval-1.1に基づく本番エージェントの運用安全性と他オープンMoEとの比較
よくある質問 (FAQ)
- Q: パラメータ数が198Bと非常に大きいですが、個人PCや一般サーバーで動かせますか?
- A: いいえ。198Bモデルのローカル推論には高スペックのマルチGPUサーバー(H100/A100複数枚など)が必要となります。ただし、クラウドAPIや企業向けプライベートクラウドデプロイを通じて「Flash」モデルとしての超高速・低単価な利点を享受するのが一般的な運用です。
- Q: 視覚的な入力(画像)の処理能力はどれくらいですか?
- A: 1.8Bの強力なビジョンエンコーダーをネイティブ統合しているため、Webのスクリーンショット、グラフや図表、UI設計図などを正確に解釈し、欠損情報を見つけて自分でWeb検索をかける自律能力を持っています。
- Q: ライセンスはどうなっていますか?
- A: Apache 2.0 ライセンスで公開されており、利用規約を遵守した商用利用やオープンソースとしてのカスタマイズが可能です。
なお、同領域における最新の産業構造と競争力学については、本誌が検証した元MS副社長の技術信仰:階躍星辰、1兆MoEモデルの生存戦および「1兆未満は捨てる」元MS姜大昕、巨額マルチモーダルの現実の分析もあわせて参照されたい。
コメント
...