Wat u moet weten over de Thunderx2, de nieuwe ARM-processor van Cavium

Noot van de redactie: Marvell kondigde de volgende generatie Thunderx aan3 en Thunder x4. Hopelijk maken ze meer indruk dan de x2 deed.

Iedereen houdt van een underdogverhaal.

Met de langdurige dominantie van Intels Xeon-chips in de server markt, zal elke potentiële mededinger zeker de interesse van de markt wekken.

De nieuwe ARM-processor van Cavium, de Thunderx2, heeft zeker de aandacht getrokken.

Net als bij 3D Xpoint-geheugenHet wordt in verschillende PR-stukken, technische tijdschriften en blogs aangeprezen als het volgende grote ding.

Zoals met veel dingen is de hype op sommige plaatsen terecht en op andere minder.

De prijs van de Cavium ThunderX2 is zeer concurrerend.

Het heeft genoeg SKU's om een flexibele line-up te bieden en de platforms lijken zeker te wedijveren met de standaarden.

Zelfs leveranciers zoals HPE en Cray stappen op de plaat.

Zoals bij elk underdogverhaal zijn er echter nog veel obstakels die Cavium ThunderX2 moet overwinnen.

Na de officiële release kan het nog wel even duren voordat hij echt op de markt komt.

In dit artikel gaan we in op wat er tot nu toe bekend is en op welke belangrijke punten we moeten letten bij het evalueren van de ThunderX2.

Cavium ThunderX2 Prijs

Cavium is zeker indrukwekkend vanuit een prijsstandpunt, met chips variërend van $800 tot $1795.

Cavium's kern De 9980 is vergelijkbaar met de Intel Xeon Gold 6148, maar is 70% goedkoper.

Wat prestaties per dollar betreft, doet Cavium het even goed in alle SKU's.

Dat gezegd hebbende, Intel prijst zijn product als de onbetwiste marktleider.

Ze zouden heel gemakkelijk de prijs kunnen verlagen om qua prestaties per dollar te kunnen wedijveren met de Thunder X2 line-up als het marktaandeel ooit zou slinken.

Energieverbruik Cavium Thunderx2

Hoewel officiële benchmarks voor stroomverbruik zoals TDP nog niet beschikbaar zijn, hebben de eerste tests van de Cavium ThunderX2-community aangetoond dat zowel het stroomverbruik in ruststand als de TDP hoger zijn dan dat van Intel-processors.

In sommige gevallen is deze overschrijding aanzienlijk.

Eén tester noteerde een stroomverbruik van 300W in rust en een andere tester claimde meer dan 800W bij piekbelasting.

Hoewel dit tot kritiek heeft geleid, is het heel gebruikelijk in pre-release stadia voor hardware efficiëntie of functiekronkels uit te werken.

Het valt nog te bezien hoe de officiële benchmarks eruit zullen zien zodra de chips mainstream zijn gegaan.

Dat gezegd hebbende, is het onwaarschijnlijk dat firmwarewijzigingen meer dan marginale verbeteringen in energie-efficiëntie zullen opleveren.

ThunderX2 Compute prestaties

Algemeen computergebruik

Voor algemeen gebruik computer De ThunderX2 heeft zijn beperkingen.

Het presteert goed op multi-threaded tests, maar blijft zelfs achter bij de E5-2699 V3 op de meer single threaded benchmarks, zoals de UnixBench Whetstone.

Net als de originele Thunder is de ThunderX2 meer geschikt voor webservers, databases of andere doeleinden met een laag instructieniveau voor parallellisme (ILP).

In tegenstelling tot het 8 node AMD EPYC platform gebruikt de ThunderX2 twee NUMA nodes zoals Intel, wat waarschijnlijk aantrekkelijker is als je hoopt fabric hops te vermijden met NUMA-onbewuste apps.

Afgezien van de prijs is er hier echter niets voor standaard werklasten die ontmanteling datacenters elke server om op de ARM-trein te springen.

Rekenen met hoge prestaties

Op het gebied van High Performance Computing (HPC) is ThunderX2 indrukwekkend.

Cavium's ThunderX2 presteert erg goed in benchmarks die correleren met geheugen-gebonden bandbreedte-apps voor prestaties, zoals OpenFOAM, Stream, CloverLeaf en TeaLeaf.

Het schiet echter tekort bij computergebonden codetests, zoals GROMACS en VASP.

In wezen blijken alle tests die afhankelijk zijn van de cache minder veelbelovend.

De ThunderX2 laat een lagere L1 & L2 cache bandbreedte zien, evenals een lagere Floating point doorvoer (FLOPS).

Deze beperkingen kunnen in de toekomst worden opgelost met ARM's met Scalable Vector Extension (SVE) die bredere vectorunits bevatten.

Een vaak verondersteld obstakel is dat HPC-codes al erg geoptimaliseerd zijn voor x86, zodat de nieuwere ARM-implementaties in vergelijking niet erg efficiënt zijn.

Verrassend weinig codes zijn echter hypergeoptimaliseerd voor HPC.

Er is een voordeel in sommige gevallen, zoals GROMACS, maar niet in de mate die sommigen misschien aannemen.

Veel apps lenen zich niet voor topprestaties met efficiënt gebruik van de bredere vectoren.

Over het geheel genomen is de ThunderX2 veelbelovend voor HPC en meer specifiek voor de zeer parallelle ontwerpen van bedrijven als Cray.

Compatibiliteit van ThunderX2 met bestaande apps

De meeste softwareleveranciers ondersteunen geen niet-x86-architecturen.

Een aanzienlijk aantal cloud-platforms zijn Linux-gebaseerd en kunnen dus gemakkelijk worden gehercompileerd voor ARM.

Veel toepassingen zijn echter geoptimaliseerd voor specifieke processorlijnen.

Het is mogelijk dat Thunderx2 marktaandeel kan veroveren dankzij de aantrekkelijke prijs.

In dat geval kunnen we meer steun zien van de gebruikelijke verdachten om de adoptie te bevorderen.

Een gebied dat zeker een obstakel zal vormen, is de implementatie in gevirtualiseerde omgevingen.

Je kunt een VM op basis van Xeon niet afsluiten en opnieuw opstarten op een ARM-systeem zoals je dat kunt op een ander Xeon-systeem.

Dit is geen kleinigheid, aangezien virtualisatie nu de norm is: meer dan 75% van de organisaties gebruikt gevirtualiseerd servers.

Heeft de ThunderX2 effectieve serverplatformopties?

Verschillende OEM en white box ODM leveranciers zijn aan boord gesprongen, met HPECray, Inventec en vele anderen leveren nu X2-platforms.

De hardware is vergelijkbaar en vormt geen obstakel voor hardware compatibiliteit met opslagsystemen of netwerkapparatuur.

Standaardfuncties zoals een vergelijkbare web-GUI en out-of-band-IPMI-beheer maken de ThunderX2 meer levensvatbaar met betere voorraadbeheer opties dan eerdere aanbiedingen.

Is de ThunderX2 kwetsbaar voor Spectre?

Spectre is een probleem dat inherent is aan out-of-order uitvoering, dus ja, thunderx2 zou net zo kwetsbaar moeten zijn voor spectre als andere chips.

Je zult dezelfde beschermende maatregelen willen nemen, maar gelukkig hebben de nieuwste Linux patches geen significante invloed op de prestaties.

Afsluitende gedachten

Cavium's Thunderx2 en ARM in het algemeen zullen x86 niet snel vervangen.

Theoretisch is er geen reden waarom je met ARM niet hetzelfde zou kunnen doen als met x86. Er is geen reden waarom je niet gewoon geld zou kunnen gooien in het maken van grotere ARM-kernen met gelijkwaardige preteching en SIMD.

Maar Intel heeft miljarden dollars in dat concept gestoken en de geschiedenis leert dat het verslaan van een bedrijfsreus met zijn eigen spel over het algemeen geen winnend voorstel is.

ThunderX2 blijft achter met meer algemene werkbelastingen.

Daarvan zijn er zeker genoeg in de moderne server omgeving om te voorkomen dat het de facto wordt aangenomen.

Vroege TDP & stroomverbruiksratings helpen ook niet.

Deze architectuur is echter zeer effectief in het afhandelen van specifieke soorten werklasten.

Met zijn geheugenbandbreedte kan het een unieke oplossing bieden voor app-omgevingen met veel geheugen.

In het verleden zagen we GPU's schieten omhoog in gebruik naarmate ze beter in hun niche passen met iteratieve algoritmen.

Misschien kan ARM op vergelijkbare wijze zijn eigen rol spelen in HPC en andere nichegebruiksgevallen.

De wet van Moore is allang dood, CPU Grote en kleine fabrikanten zullen zich meer richten op parallelle verwerking dan op het versnellen van afzonderlijke cores. Het nieuwe paradigma is ingesteld. De vooruitgang zal interessant zijn om te zien.

Heb je iets toe te voegen? Laat ons weten wat je ervan vindt in de reacties hieronder!