Глава Azure в Microsoft заявила, что создания чипов ИИ уже мало
Рани Боркар, руководящая подразделением аппаратного обеспечения и инфраструктуры Azure, вывела формулу: возможности, скорость развертывания и коэффициент использования, помноженные друг на друга.
- Лишь 18 процентов мировой рабочей силы внедрили искусственный интеллект, пишет Боркар в своем блоге.
- Одна задача для автономного агента ИИ может сжигать в 3400 раз больше токенов, чем один ответ в чате.
- Стойки теперь потребляют сотни киловатт каждая, а кампусы дата-центров работают в гигаваттном масштабе.
Почему это важно: Только восемьдесят процентов работников используют технологию, ради обслуживания которой была создана эта гигантская мощность.