마이크로소프트 애저 책임자, AI 칩 제조만으로는 부족
마이크로소프트 애저의 하드웨어·인프라 부문을 이끄는 라니 보르카르는 성능, 배포 속도, 가동률의 곱셈 공식으로 해결책을 제시했습니다.
- 보르카르는 블로그 글에서 전 세계 노동 인구 중 단 18%만 인공지능을 채택했다고 밝혔습니다.
- 에이전틱 AI 작업 한 건은 일반 채팅 답변의 3,400배에 달하는 토큰을 소모할 수 있습니다.
- 현재 데이터센터 랙은 하나당 수백 킬로와트를 소모하고 캠퍼스는 기가와트 규모로 운영됩니다.
왜 중요한가: 이 엄청난 전력으로 가동되도록 지어진 기술을 실제로 사용하는 근로자는 18%에 불과합니다.