マイクロソフトのAzure責任者、AIチップ増産だけでは不十分と指摘
マイクロソフトのAzureハードウェア・インフラ部門を率いるラニ・ボルカーは、AIの成功方程式として性能、展開スピード、稼働率の3つを掛け合わせる重要性を説いた。
- ボルカーのブログ投稿によると、世界の労働力でAIを採用しているのはわずか18%にすぎない。
- 1つの自律型AIタスクは、チャット応答の3,400倍ものトークンを消費することがある。
- サーバーラックは1台あたり数百キロワットを消費し、データセンター全体ではギガワット規模の電力を必要としている。
なぜ重要か: これほどの膨大な電力インフラが構築された一方で、実際にそのテクノロジーを使っている労働者は全体の18%にとどまる。