< プレスリリース一覧に戻る

DeepAge SensorのMuonオプティマイザを刷新、収束速度2.6倍・難データの学習精度を大幅向上。最新GPU(Blackwell)にも対応

2026.07.22

株式会社Spotは、AI学習プラットフォーム「DeepAge Sensor」に搭載しているMuonオプティマイザを刷新し、本日より提供を開始しました。新しいMuon(Frobenius正規化 + BF16数値契約)は、20データセットの比較検証において、従来のSGDオプティマイザと比較して目標精度への到達時間を約2.6倍高速化し、最高精度の中央値100%を達成。SGDが学習できなかった難易度の高いデータセットでも97〜100%の精度で学習できることを確認しました。また、NVIDIA最新世代GPU(Blackwell世代)での動作検証も完了しています。

刷新のポイント

  • Frobenius正規化の採用: 勾配行列全体を正規化する方式に刷新し、従来の行単位(per-row)正規化が抱えていた「速いが最終精度が頭打ち」という課題を解消。速度と最終精度を両立しました
  • BF16数値契約(FP32蓄積): BF16オペランド・FP32蓄積の行列演算により、最新GPUの演算性能を活かしながら数値安定性を確保。全更新ステップを監視する安全機構を内蔵しています
  • 最新GPU(Blackwell / sm_120)対応: NVIDIA RTX 50シリーズを含む、A10・Ampere・Blackwell世代のGPUでの動作を検証済みです

検証結果(73xx 実データ、20データセット)

画像重複を厳密に排除して選定した20の実データセット(2クラス分類)で、新しいMuon・従来のMuon(per-row)・SGDの3方式を同一条件(5,000バッチ)で比較しました。

精度比較

精度比較グラフ。左: 3方式の最終精度・最高精度の中央値。新Muonは最高精度100%。右: SGDが学習困難な3データセットで新Muonのみ100%を達成
  • 最高精度の中央値は100%。19データセットのうち14データセットで単独トップ(5件は同率)、敗北は1件もありませんでした
  • SGDが学習できなかった難易度の高いデータセットでも高精度を達成:
    • ds7326: SGD 56.4%(ランダム相当)→ 新Muon 100%(+43.6ポイント)
    • ds7350: SGD 88.4% → 新Muon 100%
    • ds7365: SGD 57.5% → 新Muon 100%

収束速度

収束速度比較グラフ。90%精度到達までのバッチ数は新Muon 600 vs SGD 1700。到達までの実時間は2.4分 vs 6.3分で約2.6倍高速
  • 90%精度到達(t90)のバッチ数中央値は 600バッチ(SGDの1,700バッチに対し約1/3)
  • 実時間では 2.4分 vs 6.3分(約2.6倍高速)
  • t90到達率は 19/19データセット(100%)(SGDは17/19、従来Muonは18/19)

精度到達バッチ数の推移

精度到達バッチ数の折れ線グラフ。90%/95%/99%精度到達までのバッチ数中央値を3方式で比較。新Muonが全水準で最少

90%・95%・99%のすべての精度水準で、新Muonが最少のバッチ数で到達しています。特に95%精度到達では中央値600バッチと、90%到達と変わらない速さで一気に高精度へ到達する傾向が確認できました。

総合集計(中央値、19データセット)

指標SGD従来 Muon(per-row)新 Muon(Frobenius+BF16)
最終精度99.34%98.24%99.72%
最高精度99.50%98.79%100%
90%到達バッチ数1,700700600
90%到達率17/1918/1919/19
勝敗(最高精度基準)1勝0勝14勝0敗5分

最新GPU(Blackwell世代)での動作検証

NVIDIA RTX 50シリーズ(sm_120、Blackwell世代)でも検証を実施しました。新MuonはNaN等の数値異常なく安定して動作し、SGDと同等の精度(100%)に2.25倍速く到達しました。なお、従来のMuon(per-row)は同環境で3バッチ目からNaNが発生し学習が破綻することも確認されており、今回の刷新は最新GPU世代への対応という面でも重要な改善となっています。

今後の展望

今後は新しいMuonオプティマイザをDeepAge Sensorの標準学習エンジンへ順次展開してまいります。収束の高速化によりハイパーパラメータ探索の効率が大幅に向上し、ユーザーの皆様には、より高精度なモデルをより短い時間でご提供できるようになります。

DeepAge Sensorについて

DeepAge Sensorは、Spotが提供するAI学習プラットフォームです。画像認識などのディープラーニングモデルの学習・評価・ファインチューニングをブラウザから簡単に実行できます。

問い合わせ先

株式会社Spot

  • 電話:050-3196-8077(受付時間:10:00~19:00 土日祝日を除く)
  • メール:info@spot-corp.com

Company

会社概要

会社名 株式会社Spot(英文表記 : Spot Inc.)
代表 吉田 拓真
本社 東京都千代田区二番町9-3 THE BASE 麹町1F
事業内容 AI技術を利用したサービスの企画・開発・運用
ソフトウェアサービスの企画・開発・運用
連絡先 電話 : 050-3196-8077(受付時間 : 10:00~19:00 土日祝日を除く)
e-mail : info@spot-corp.com

Contact

お問合わせ

Spotではデータの活用に関するご相談を随時受け付けております。
下のフォームよりお気軽にご相談ください。