Sếp Azure nói việc chế tạo chip AI không còn đủ
Rani Borkar, người đứng đầu bộ phận phần cứng và hạ tầng của Azure, đúc kết công thức gồm năng lực, tốc độ triển khai và hiệu suất sử dụng nhân lên với nhau.
- Chỉ 18% lực lượng lao động toàn cầu ứng dụng AI, Borkar viết trong bài đăng.
- Một tác vụ AI tự trị duy nhất có thể tiêu tốn lượng token gấp 3.400 lần một phản hồi chat.
- Các tủ máy hiện tiêu thụ hàng trăm kilowatt mỗi tủ và các khu trung tâm dữ liệu vận hành ở quy mô gigawatt.
Vì sao quan trọng: Chỉ có mười tám phần trăm người lao động sử dụng công nghệ mà nguồn điện khổng lồ này được xây để vận hành.