Многие поставщики облачных услуг (CSP – Cloud Service Provider) начали вкладывать средства в оборудование, на котором тренируют и запускают системы ИИ. В 2022 г. ИИ-серверы на базе графических процессоров общего назначения (GPGPU) занимали только 1% мирового рынка серверов. Прогнозируется, что в 2023 г. поставки серверов ИИ вырастут на 8% в годовом исчислении. Кроме того, поставки серверов ИИ будут увеличиваться в среднем на 10,8% в год в 2022-2026 гг.
Основные североамериканские CSP (Google, AWS, Meta и Microsoft) в совокупности занимали наибольшую долю годового общего спроса на ИИ-серверы в 2022 г., составляя 66,2% годового глобального объема закупок. Что касается Китая, то там в последние годы набирают обороты локализация производства и самодостаточность критически важных технологий, поэтому в стране ускорилось создание ИИ-инфраструктуры. Среди китайских CSP лидером по закупкам ИИ-серверов в 2022 г. стала ByteDance с долей 6,2% в общем объеме закупок. Далее следуют Tencent, Alibaba и Baidu, на долю которых приходится 2,3%, 1,5% и 1,5% соответственно.
Для вычислений, связанных с ИИ, используются ускорители вычислений на графических процессорах H100, A100 и A800 от NVIDIA, а также MI250 и MI250X от AMD. Следует отметить, что A800 разработан специально для китайского рынка в условиях последних экспортных ограничений. Что касается доли рынка серверных графических процессоров, NVIDIA сейчас контролирует около 80%, тогда как AMD принадлежат остальные 20%.
Чат-бот ChatGPT от OpenAI, спонсируемой Microsoft, в основном использует графические процессоры NVIDIA A100 и облачные ресурсы Microsoft Azure. Если объединить потребности ChatGPT и других приложений Microsoft, то в 2023 г. потребность Microsoft в ИИ-серверах составит около 25000 единиц.
Erenie от Baidu изначально также использовал NVIDIA A100. Однако из-за ограничений, введенных Министерством торговли США, теперь систему перевели на NVIDIA A800. Прогнозируемый спрос Baidu на ИИ-серверы в 2023 г. составит около 2000 единиц.
Серверные графические процессоры требуют памяти с высокой пропускной способностью (HBM – High Bandwidth Memory), которая на данный момент занимает 1,5% от всего рынка DRAM. Основными поставщиками решений HBM являются Samsung, SK hynix и Micron. Ожидается, что SK hynix станет доминирующим поставщиком решений HBM3 для NVIDIA. По прогнозам, рынок решений HBM будет расти со среднегодовым темпом выше 40-45% в 2023-2025 гг.
Облачные компании по всему миру будут вкладывать все больше средств в серверы ИИ в последующие годы. Несмотря на то, что расходы на ИТ сокращаются из-за стагнации мировой экономики и высокой инфляции, сектор технологий ИИ показывает бурный рост и именно в этом направлении будут производиться основные инвестиции в сфере информационных технологий. (3dnews/Машиностроение Украины и мира)