Совсем недавно мир, кроме пандемии COVID-19, переживал еще и дефицит электроники. Это был практически идеальный шторм в электронной отрасли. Сейчас, наоборот, в большинстве случаев речь идет о превышении предложения над спросом, в результате чего цены на электронные системы и компоненты пошли вниз (в долларовом эквиваленте).
Но на днях стало известно о новой волне дефицита, правда, уже не потребительской электроники, а в корпоративном секторе. Это касается, в основном, передовых ИИ-ускорителей. Например, Nvidia A100 и H100. Под катом выясняем причину сложившейся проблемы.
Что за дефицит, откуда?
Здесь весьма интересная ситуация. Дело в том, что самих чипов хватает, производственные линии TSMC, а это один из главных контрактных производителей современных чипов, работают без проблем. «Бутылочным горлышком» оказалась технология упаковки микросхем — но не картонной, конечно, а CoWoS-технология. Расшифровывается аббревиатура, как Chip-on-Wafer-on-Substrate. Это современная «2,5-мерная» технология упаковки микросхем, которая позволяет разместить в одном корпусе большое количество кристаллов с высокой плотностью.
Заявил о проблеме Марк Лю, председатель совета директоров TSMC, в интервью для Nikkei. Он сообщил, что главная причина текущего дефицита — ажиотажный спрос на новейшие ИИ-ускорители, и отставание процесса упаковки чипов по технологии CoWoS от спроса.
Сами чипы нужны очень многим операторам дата-центров, гиперскейлерам и другим представителям IT-сектора. Повышенный спрос объясняется, в частности, активным развитием ИИ-технологий, включая такие проекты, как ChatGPT и другие, базирующиеся на нем или сторонние.
В результате всего этого спрос на услугу спрос на услугу по CoWoS-упаковке неожиданно вырос в 2023 г, утроившись к прошлому году.
Один из драйверов роста спроса — Китай
Китайские компании выделают миллиарды долларов США на закупки разного оборудования в США и других странах, которые зависят от технологий Штатов. Делается это для того, чтобы накопить солидные запасы электронных систем и компонентов, которые нужны китайским компаниям. По данным Financial Times, они уже потратили свыше $5 млрд на закупки, в том числе, ИИ-ускорителей.
Сейчас Китай не может покупать (во всяком случае, официально) ускорители А100 и Н100. Но Nvidia ранее выпустила искусственно урезанные версии этих систем, А800 и Н800. Сделано это для обхода экспортных ограничений. Урезанные то они урезанные, но упаковка выполняется все по той же технологии, так что производственные линии производителей чипов перегружены.
Среди тех компаний, которые закупают ускорители — AliExpress, ByteDance (компания, создавшая TikTok) и Baidu вместе с Tencent. По данным аналитиков, указанные компании оформили предзаказ примерно на 100 тыс. ускорителей. И это лишь 20% от планируемого объема закупок.
Зачем все это? Дело в том, что такого рода ускорители используются в системах для высокопроизводительных вычислений. В том числе, суперкомпьютеров, отрасли, в которой Китай традиционно силен, а также ИИ-отрасли.
Nvidia обязалась предоставить ИИ-ускорители до конца 2023 года — во всяком случае, большей части заказчиков из Китая. Поднебесная надеется приобрести до 1 млн ускорителей к началу 2024 года — именно тогда США могут ввести новые санкции.
Аналогичным образом, поставляет свои ускорители и Intel, причем эта компания тоже массово отгружает их в Китай. Для того, чтобы обойти ограничения и получить прибыль, Intel изготовит экспортный вариант Gaudi. Если раньше прилагательное «экспортный» подразумевало улучшенную версию экспортируемого товара, будь это автомобиль, пиво или что-то еще. То в случае Intel все наоборот — Gaudi несколько урежут в функциональности. В таком виде GPU и будут продавать в КНР, не опасаясь проблем с регуляторными органами США.
К сожалению, что именно будет урезано/сокращено, компания не раскрывает. Вероятно, это станет известно уже после старта продаж GPU в Китай. Что касается самой системы, то это конкурент Nvidia A100 — это тоже ускоритель, который используется во многих отраслях, связанных с ИИ, включая обучение больших языковых моделей и GPT. Производительность GPU от Intel примерно равна производительности системы конкурента, во всяком случае, при использовании бенчмарков ResNet-50 и BERT.
Ситуация понемногу налаживается
Такого дефицита, как в случае с потребительской электроникой, не будет. Сейчас проблема лишь в упаковке чипов, и ее быстро решают. На текущий момент TSMC уже в состоянии обеспечить спрос на 80%, и постепенно улучшает ситуацию. Так, на производствах компании активно вводится в эксплуатацию дополнительное оборудование. По словам представителя TSMC, принимаемые меры позволят удвоить объем упаковки чипов.
Кроме того, тот же производитель выделит около $2,9 млрд на постройку нового завода, который будет заниматься лишь упаковкой микросхем. Располагаться этот завод будет на Тайване.
Не спят и конкуренты TSMC. Так, Samsung и уже названная компания Intel будут постепенно увеличивать собственные мощности по упаковке чипов. Так что проблему должны решить достаточно оперативно, если, конечно, не возникнут какие-то непредвиденные сложности.
Полезные материалы по теме
