Huawei loopt op het gebied van chips een generatie achter, maar zijn schaalbare oplossing is aantoonbaar een generatie voor op de huidige producten van Nvidia en AMD op de markt, zo blijkt uit een rapport van SemiAnalysis gemaakt met medewerking van Huawei-vorsers.
Na de publicatie van een technisch document dat gezamenlijk is geschreven door onderzoekers van de Chinese AI-infrastructuurstarter SiliconFlow en Huawei stonden de prestaties van de Huawei Ascend-chips in de kijker, vooral tegenover deze van de veelgevraagde Nvidia-GPUs. Volgens het document presteert Huawei’s geavanceerde datacenterarchitectuur op basis van Ascend – CloudMatrix 384 en de serveroplossing CloudMatrix-Infer – beter bij het uitvoeren van DeepSeek ’s R1 redeneringsmodel dan het op Nvidia GPU’s gebaseerde SGLang fast-serving framework voor grote taalmodellen (LLM’s) en dit zowel in de inferentie- als in de decoderingsfase.. Het CloudMatrix-systeem dat volgens het artikel de basis van AI-infrastructuur zal hervormen, bestaat uit 384 Ascend 910C neurale verwerkingseenheden (NPU’s) en 192 Kunpeng-servercentrales, die onderling zijn verbonden via een uniforme bus met ultrahoge bandbreedte en lage latentie. Volgens een eerdere beoordeling door SemiAnalysis concurreert Huawei’s CloudMatrix rechtstreeks met Nvidia’s GB200 NVL72 rack-scale systeem in het verlichten van knelpunten voor datacenters. De resultaten bevestigen dat CloudMatrix38 in combinatie met de peer-to-peer-servingoplossing CloudMatrix-Infer een schaalbaar, high-throughput en productieklaar platform is voor grootschalige LLM-implementatie”, aldus nog het artikel dat daarover de gedetailleerde resultaten details verstrek’.
Achter én ook voor
Ook werden voor het eerst details bekendgemaakt over de 910C AI-processor van Huawei. De chip heeft een dual-die-architectuur waarbij twee identieke computing-dies in één pakket zijn geïntegreerd. Deze dies delen acht stacks on-package geheugen en communiceren via een verbinding met hoge bandbreedte wat een snelle gegevensoverdracht mogelijk maakt die cruciaal is voor intensieve AI-workloads. ‘Huawei loopt een generatie achter op het gebied van chips, maar zijn schaalbare oplossing is aantoonbaar een generatie voor op de huidige producten van Nvidia en AMD [Advanced Micro Devices] op de markt’, aldus het rapport van SemiAnalysis.
Deze bevinding sluit aan bij opmerkingen van Huawei-oprichter en CEO Ren Zhengfei in een recent interview op de voorpagina van de People’s Daily. Ren erkende dat de Ascend-chips nog steeds een generatie achterliepen op die van Amerikaanse concurrenten. Hij voegde er echter aan toe dat het gebruik van methoden zoals ‘stapelen en clusteren’ resulteerde in rekenprestaties die vergelijkbaar zijn met de meest geavanceerde systemen ter wereld. ‘De prestaties van een enkele chip zijn niet zo belangrijk als de gecombineerde kracht van een groep chips die parallel samenwerken, bevestigt tech-investeerder Kevin Xu, oprichter en chief information officer van Interconnected Capital.
Topverantwoordelijke voor cryptogeld en AI van de Trump regering David Sachs waarschuwde vrijdag in Bloomberg dat China bedreven is geworden in het omzeilen van Amerikaanse exportcontroles en hooguit twee jaar achterloopt op de Amerikaanse halfgeleiderontwerpcapaciteiten. Hij wees erop dat de baanbrekende AI-modellen van DeepSeek eerder dit jaar aantoonden dat China zelfs met exportcontroles nog steeds vooruitgang kan boeken. Sacks zei dat strenge Amerikaanse beperkingen op de verkoop van AI-chips aan Amerikaanse bondgenoten onbedoeld een opening hebben gecreëerd voor Huawei en andere Chinese bedrijven.
Aantallen
VS-onderminister van Handel en Industrie Jeffrey Kessler zei vorige week tijdens een hoorzitting in het Congres te verwachten dat Huawei dit jaar niet meer dan 200.000 van zijn geavanceerde AI-processors zou leveren. Dat valt wat licht uit tegenover de meer dan 1 miljoen China-specifieke H20 GPU’s die Nvidia in de laatste 9 maanden van 2024 heeft geproduceerd, volgens een rapport van SemiAnalysis van januari Analisten van Mizuho Securities schatten echter dat Huawei ongeveer 700.000 eenheden van Huawei’s Ascend 910-serie – waaronder de 910A, 910B en 910C – in 2025 zou leveren . Dat leidde tot speculaties over de mogelijke bijdrage van SiCarrier aan de lokale ontwikkeling van Huawei’s 7-nm-chip.
AI-bedrijven
Een stabiele productie van Ascend-chips zou een goed voorteken zijn voor Chinese AI-bedrijven, zoals iFlytek en SenseTime, die al zijn overgestapt op lokaal geproduceerde chips. Oprichter en voorzitter van spraakherkenningsspecialist iFlytek voorzitter Liu Qingfeng zei eerder deze maand dat zijn bedrijf gebruikmaakt van binnenlandse chips, zoals Huawei ’s Ascend 910B, vermits het op de VS zwarte lijst werd geplaatst. Het in Hongkong opgerichte SenseTime heeft ondertussen fors geïnvesteerd in de uitbouw van zijn AI-infrastructuur met in China geproduceerde chips – onder meer van Huawei, Cambricon Technologies en Hygon Information Technology – om de risico’s van de technologieoorlog tussen de VS en China te beperken. Medeoprichter van SenseTime en voorzitter van de AI-infrastructuurafdeling SenseCore Yang Fan zei in april dat het aantal binnenlandse chips in de datacenters van het bedrijf zeer snel groeit en elk jaar blijft stijgen. Grote technologiebedrijven als Alibaba en Tencent hebben de afgelopen kwartalen hun voorraden opgevoerd aldus directeur Alex Yao van het China-aandelenonderzoek bij JPMorgan. Dat betekent waarschijnlijk dat ze zich de komende zes tot twaalf maanden geen zorgen hoeven te maken over rekenkracht.
EDA-software
In een ander segment van de Chinese chiptoeleveringsketen krijgen Empyrean Technology, Primarius Technologies en Semitronix steeds meer aandacht als alternatieve leveranciers van elektronische ontwerpautomatiseringssoftware (EDA) nadat Washington ’s werelds toonaangevende leveranciers heeft opgedragen de verkoop op het vasteland stop te zetten. Empyrean ziet zowel uitdagingen als kansen in deze situatie. Het bedrijf kan momenteel ongeveer 80 % van de in totaal 58 EDA-tools leveren die in het hele chipfabricageproces worden gebruikt, aldus senior marketingdirecteur Yu Han bij Empyrean. Yu zei dat Empyrean ernaar streeft om uiteindelijk al deze tools te leveren en zo uit te groeien tot een van ’s werelds meest vooraanstaande EDA-leveranciers. Hij wees erop dat het moeilijkste deel het opzetten van een solide ecosysteem is wat ‘samenwerking met de Chinese halfgeleiderindustrie’ vereist’.
Bron: SCMP
