Nvidia Vera Rubinチップの1ドルあたりの知能指標とは

この指標はモデルの性能と処理されたトークン数を学習および推論の総コストで割ったもので、すでにPrime IntellectやTogether AIがテストしている。

Nvidiaによれば、Vera RubinはBlackwell世代の4分の1のGPUで最大規模のモデルを学習できるという。
Prime Intellect Labは、RLワークロードにおいて、Nvidiaの新しいVera CPUのCPUあたりスループットが30%向上したと測定した。
5500億パラメータを持つNvidiaのモデルNemotron 3 Ultraは、SWE-bench Verifiedベンチマークで71.7%のスコアを記録した。

なぜ重要か: チップを売る企業自身が、その製品を買う価値があると証明するための指標を発明した。これは単なるマーケティングであり、客観的な測定ではない。

Atom Brief