DeepAge SensorのMuonオプティマイザを刷新、収束速度2.6倍・難データの学習精度を大幅向上。最新GPU(Blackwell)にも対応
株式会社Spotは、AI学習プラットフォーム「DeepAge Sensor」に搭載しているMuonオプティマイザを刷新し、本日より提供を開始しました。新しいMuon(Frobenius正規化 + BF16数値契約)は、20データセットの比較検証において、従来のSGDオプティマイザと比較して目標精度への到達時間を約2.6倍高速化し、最高精度の中央値100%を達成。SGDが学習できなかった難易度の高いデータセットでも97〜100%の精度で学習できることを確認しました。また、NVIDIA最新世代GPU(Blackwell世代)での動作検証も完了しています。
刷新のポイント
- Frobenius正規化の採用: 勾配行列全体を正規化する方式に刷新し、従来の行単位(per-row)正規化が抱えていた「速いが最終精度が頭打ち」という課題を解消。速度と最終精度を両立しました
- BF16数値契約(FP32蓄積): BF16オペランド・FP32蓄積の行列演算により、最新GPUの演算性能を活かしながら数値安定性を確保。全更新ステップを監視する安全機構を内蔵しています
- 最新GPU(Blackwell / sm_120)対応: NVIDIA RTX 50シリーズを含む、A10・Ampere・Blackwell世代のGPUでの動作を検証済みです
検証結果(73xx 実データ、20データセット)
画像重複を厳密に排除して選定した20の実データセット(2クラス分類)で、新しいMuon・従来のMuon(per-row)・SGDの3方式を同一条件(5,000バッチ)で比較しました。
精度比較

- 最高精度の中央値は100%。19データセットのうち14データセットで単独トップ(5件は同率)、敗北は1件もありませんでした
- SGDが学習できなかった難易度の高いデータセットでも高精度を達成:
- ds7326: SGD 56.4%(ランダム相当)→ 新Muon 100%(+43.6ポイント)
- ds7350: SGD 88.4% → 新Muon 100%
- ds7365: SGD 57.5% → 新Muon 100%
収束速度

- 90%精度到達(t90)のバッチ数中央値は 600バッチ(SGDの1,700バッチに対し約1/3)
- 実時間では 2.4分 vs 6.3分(約2.6倍高速)
- t90到達率は 19/19データセット(100%)(SGDは17/19、従来Muonは18/19)
精度到達バッチ数の推移

90%・95%・99%のすべての精度水準で、新Muonが最少のバッチ数で到達しています。特に95%精度到達では中央値600バッチと、90%到達と変わらない速さで一気に高精度へ到達する傾向が確認できました。
総合集計(中央値、19データセット)
| 指標 | SGD | 従来 Muon(per-row) | 新 Muon(Frobenius+BF16) |
|---|---|---|---|
| 最終精度 | 99.34% | 98.24% | 99.72% |
| 最高精度 | 99.50% | 98.79% | 100% |
| 90%到達バッチ数 | 1,700 | 700 | 600 |
| 90%到達率 | 17/19 | 18/19 | 19/19 |
| 勝敗(最高精度基準) | 1勝 | 0勝 | 14勝0敗5分 |
最新GPU(Blackwell世代)での動作検証
NVIDIA RTX 50シリーズ(sm_120、Blackwell世代)でも検証を実施しました。新MuonはNaN等の数値異常なく安定して動作し、SGDと同等の精度(100%)に2.25倍速く到達しました。なお、従来のMuon(per-row)は同環境で3バッチ目からNaNが発生し学習が破綻することも確認されており、今回の刷新は最新GPU世代への対応という面でも重要な改善となっています。
今後の展望
今後は新しいMuonオプティマイザをDeepAge Sensorの標準学習エンジンへ順次展開してまいります。収束の高速化によりハイパーパラメータ探索の効率が大幅に向上し、ユーザーの皆様には、より高精度なモデルをより短い時間でご提供できるようになります。
DeepAge Sensorについて
DeepAge Sensorは、Spotが提供するAI学習プラットフォームです。画像認識などのディープラーニングモデルの学習・評価・ファインチューニングをブラウザから簡単に実行できます。
問い合わせ先
株式会社Spot
- 電話:050-3196-8077(受付時間:10:00~19:00 土日祝日を除く)
- メール:info@spot-corp.com

