AIのスケーリングはどれほど速いか??

AIの進歩を最も大きく駆動してきたのは、生の規模、すなわち各新モデルを訓練するのに使われる計算量だ。対数スケールでプロットすると、その成長は驚異的で容赦ない。この曲線を刻むモデルを探り、フロンティアがどれほど急速に動いているかを見てほしい。.

~6ヶ月
フロンティアモデルのトレーニング計算量がどれくらいの頻度で倍増したか
~5倍
最先端トレーニング計算量の年間平均成長
108×
AlexNet (2012) よりリーディングモデルに多い計算量
モデル (名前と研究室にホバー) 中国開発のモデル トレンド(≈6ヶ月倍増)
チャートの任意の点をタップ
各点は、公開日と推定訓練計算量でプロットされた、ランドマークとなるAIモデルである。.
なぜこれが重要なのか

計算量がすべてではない(アルゴリズムやデータも重要だ)が、これまで最も信頼できる能力予測指標だった。システムへの入力が十数年で一億倍に増え、次の百倍で何が解禁されるか誰も完全に理解していない状況で、「安全は後から考える」というのは、大きな賭けになる。.

, 中国のDeepSeek-V3のような効率的なモデルが、報告された計算量のごく一部でフロンティアに近い性能に到達したことは、能力が急速に向上していることを改めて示している。 安価な, 、ただ大きいだけでなく。.

データについて

訓練コンピュート量の数値は、主に からの推定値である Epoch AIのデータベースに登録された著名モデルの性能を浮動小数点演算(FLOP)で表したもの。研究室が正確な数値を公表することは稀なので、最近のフロンティアモデルの値は概算であり、参考として示している。確かなのはトレンドであって、個々の数値ではない。.

表示されている倍増時間は、プロットされたモデルから算出されたものであり、分野全体ではなくこの選定サンプルを反映している。.

すべてのツール →