Wij kopen gebruikte IT-apparatuur!

AI-servers vs. General Compute: Hoe de markten verschillen 

AI-servers vs. General Compute Hoe de markten verschillen
Leestijd: 5 minuten

Je bekijkt de hardware-inventaris van je datacenter, bekijkt wat aan vervanging toe is en vraagt het team wat je kunt verkopen. 

“Gewoon wat servers. We kunnen ze lozen wanneer we maar willen.”

Die logica werkt prima als je het hebt over gewone general-compute apparatuur. Een Dell PowerEdge R660 past in die beschrijving. Het is een 1U, two-socket rack server gebouwd om dichte database analytics, high-density virtualisatie en mainstream enterprise workloads aan te kunnen. Deze luchtgekoelde server is breed inzetbaar en eenvoudig in te passen in een bestaande x86-omgeving.

Een op HGX of DGX gebaseerd AI-systeem is een heel ander beestje. De huidige AI-platforms van NVIDIA zijn gebouwd rond dichte GPU-configuraties, snelle NVLink-weefsels, gespecialiseerde netwerken en, in toenemende mate, vloeistofgekoelde rack-ontwerpen. Dell's eigen Blackwell AI-fabrieksaankondigingen gaan nog een stap verder, met acht Blackwell-GPU-servers en vloeistofgekoelde 72-GPU rack-opties.

Daarom gedraagt de secundaire markt voor AI-servers zich niet als de secundaire markt voor algemene computers. De waarde zit niet alleen in het chassis. Het heeft te maken met de generatie van versnellers, interconnectietopologie, vermogensdichtheid, koeling, software-uitlijning en of de volgende koper het systeem dat je probeert te verkopen ook echt kan gebruiken.

Als je de prijs van AI-hardware vaststelt als die van gewone servers, maak je meestal een van de volgende twee fouten. Of je laat geld liggen omdat je schaarse hardware behandelt als een gewone doos, of je blijft te lang met je voorraad zitten omdat je aanneemt dat de koperspool breder is dan in werkelijkheid het geval is.

AI-servers handelen als systemen, niet als dozen

Het onderscheid is essentieel om de wederverkoopmarkt voor serverhardware te begrijpen. 

Algemeen rekenen

Algemene compute servers behouden meestal hun waarde als flexibele infrastructuur. Ze kunnen worden gebruikt in labomgevingen, filiaalimplementaties, virtualisatieclusters, ontwikkel-/teststacks, back-uprollen of productiewerklasten met een lagere prioriteit. Dell beschrijft de PowerEdge R660 aan de algemene computerkant als een luchtgekoelde enterprise server met twee sockets voor dichte analyse en virtualisatie, met ondersteuning voor maximaal twee single-wide GPU's waar versnelling nodig is. Je kunt de doos scheiden van de oorspronkelijke workload en nog steeds een koper vinden.
AI-servers

AI-servers zijn anders omdat de server slechts een deel van de economische eenheid is. Aan de AI-kant is NVIDIA's HGX-platform opgebouwd rond acht GPU-basiskaarten, NVLink, snelle netwerken en een strak geïntegreerde softwarestack. NVIDIA's GB200 NVL72 systeem gaat zelfs nog verder: een vloeistofgekoeld rack-scale ontwerp met 36 Grace CPU's en 72 Blackwell GPU's die zijn verbonden in één groot NVLink domein.

De technologische specificaties bestaan niet in een vacuüm. De volgende koper zal vragen of ze de thermiek, het opgenomen vermogen, de netwerken, de softwarestack en het implementatiemodel dat het systeem verwacht, kunnen ondersteunen. Als het antwoord nee is, zal de theoretische waarde van je activa snel dalen.

De routekaart gaat sneller dan gewone servermarkten

Algemene computergebruikers zijn gewend aan langzamere, meer vergevingsgezinde cycli.

Een gewone dual-socket server kan jarenlang commercieel bruikbaar blijven omdat de workload pool breed is en het upgradepad minder binair. Je zou verouderde x86-systemen kunnen verkopen aan omgevingen die meer geven om de prijs per kern, geheugenvoetafdruk of operationele vertrouwdheid dan om wat dan ook. Dit soort klanten zijn niet op zoek naar de laatste nieuwtjes, ze willen bewezen functionaliteit. 

AI-infrastructuur heeft die luxe niet.

NVIDIA's eigen productgeschiedenis van de afgelopen twee jaar illustreert dit punt. De lancering van de H200 betekende een sterke upgrade ten opzichte van de H100, met 141 GB HBM3e-geheugen en 4,8 TB/s geheugenbandbreedte. Vervolgens werd de DGX B200 gelanceerd. NVIDIA beweert dat het grote prestatieverbeteringen heeft: 3x voor training en 15x voor inferentie vergeleken met DGX H100. 

Dat is een veel strakkere prestatie- en positioneringsladder dan veel kopers van bedrijfsservers gewend zijn.

Als de roadmap zo snel gaat, gedraagt de wederverkoopmarkt zich niet meer als een langzame afschrijvingscurve, maar als een timingmarkt. De leeftijd van de hardware is belangrijk, maar de belangrijkste factor is hoe de hardware presteert in vergelijking met de toonaangevende modellen. 

Beschikbaarheid is ook cruciaal. Bij elke meting en elke specsfactor is NVIDIA's Blackwell-platform marktleider op het gebied van AI GPU's. Er is gewoon niet genoeg voor iedereen. Er is gewoon niet genoeg voor iedereen. Als gevolg daarvan zijn oudere en minder krachtige Hopper-modellen nog steeds waardevol en behoorlijk populair omdat ze alles zijn wat sommige mensen te pakken kunnen krijgen.   

De juiste aanwinst kan nog steeds veel waarde opleveren. De verkeerde timing kan een zogenaamd eersteklas configuratie onhandig, overbouwd of een generatie te laat doen aanvoelen.

De koperspool is kleiner en voorwaardelijker voor AI-hardware

Zie algemene rekenkracht als fiatvaluta en AI-hardware als goud. Beide hebben veel waarde, maar de ene is makkelijker uit te geven dan de andere. 

Algemene koperspool voor computersDe groep kopers voor mainstream compute is enorm. Managed service providers, regionale integrators, laboratoria, secundaire hostingomgevingen en kostengevoelige bedrijfsteams kunnen allemaal gewone rekservers gebruiken als de prijs goed is.AI Systems koperspoolDe koperspool voor AI-systemen is kleiner omdat de eisen strenger zijn.Dell's Blackwell-era AI-fabriekstaal benadrukt directe vloeistofkoeling, acht Blackwell-GPU serverconfiguraties, hogere rackdensiteit en vloeistofgekoelde 72-GPU rackformaten.NVIDIA's GB200 NVL72-materialen maken hetzelfde punt: rack-scale architectuur, vloeistofkoeling, vijfde generatie NVLink en strak gekoppelde netwerken.

Dat betekent dat uw volgende koper meer koopt dan computing. Ze kopen een boost voor hun infrastructuur. 

Fysieke omgeving

Hebben ze het juiste rekvermogen en de juiste thermische omgeving?
Ontwerpvoorkeur

Willen ze een AI-fabriek op rackschaal of alleen stand-alone versnellers?
Netwerken Fit

Kunnen ze de netwerk- en topologie-aannames absorberen?
Type werkbelasting

Kopen ze voor training, inferentie of een beperkte gespecialiseerde werkbelasting?
Ondersteuningspad

Hebben ze continuïteit van OEM-ondersteuning nodig, of vinden ze het prettig om verder van het voorkeurspad van de leverancier te opereren?

Deze vragen bepalen wie het bedrijfsmiddel kan kopen op basis van meer dan alleen de specificaties.

Deze complexe operaties zijn ook de reden waarom sommige AI-apparatuur beter werkt als componenten of kleinere logische eenheden dan als een volledig geïntegreerde implementatie. De markt voor GPU's, De markt voor het exacte rekontwerp waar ze uit voortkomen, is soms groter dan de markt voor trays of gevalideerde subconfiguraties.

De AI-hardware is meer dan alleen hardware

Veel doorverkoopgesprekken klinken nog steeds als een ouderwetse hardwareschikking.

Modelnummer. Aantal kernen. Geheugen. Conditie. Gedaan.

Dat is niet genoeg voor moderne AI-systemen.

NVIDIA verkoopt DGX- en HGX-platforms als hardware-plus-software-plus-operaties stacks. De positionering van de DGX B200 omvat expliciet NVIDIA AI Enterprise, Mission Control en toegang tot services en ondersteuning van het ecosysteem. Dell framet zijn AI-fabrieksaanbod op dezelfde manier: niet als geïsoleerde servers, maar als geïntegreerde compute-, netwerk-, software- en implementatie-infrastructuur.

Op de secundaire markt geldt: hoe dichter een product bij een standalone platform staat, hoe meer de koper geeft om de omgeving. Kopers van AI-hardware zullen goed opletten:

  • Firmwarestatus 
  • GPU-koppeling en aannames voor interconnectie
  • Topologiedocumentatie
  • Koelontwerp
  • Netwerkstructuur aannames

Al deze factoren bepalen de aankoop van tweedehands IT-apparatuur, of de beslissing om deze niet aan te schaffen. 

De doorverkoop van algemene computers is vergevingsgezinder omdat de computer in veel verschillende rollen kan worden gebruikt. AI doorverkoop is minder vergevingsgezind omdat het systeem in eerste instantie is gebouwd voor een beperktere set hoogwaardige rollen.

De verkopers die winnen behandelen AI-verkoop als een marktevenement

Als je AI-servers met pensioen stuurt, is de grootste fout wachten tot het project operationeel voorbij is voordat je gaat nadenken over doorverkoop.

Tegen die tijd loop je al achter.

Je moet vroeg beslissen of je gaat verkopen:

1Volledig geïntegreerde systemen2Systemen op knooppuntniveau
3GPU-zware configuratiesGestript uit grotere omgevingen4Gemengde kavelsWaar de versnellers waarde hebben en de omringende hardware anders geprijsd moet worden

Je moet ook meer documenteren dan bij een gewone computerverkoop.

Een serieuze koper zal geïnteresseerd zijn in de GPU-generatie, systeemconfiguratie, netwerkaannames, geheugenprofiel, koelprofiel, gebruiksgeschiedenis en of het apparaat deel uitmaakte van een ondersteunde productieomgeving. Als je dat verhaal niet duidelijk kunt vertellen, dan wordt de kopersgroep nog kleiner.

Vier regels als u niet wilt dat AI-hardware wordt geprijsd zoals algemene computers

Deze regels zijn een handig uitgangspunt voor elk verkoopscenario. 

1Scheid de versnellers van de generieke serverlogica in je waarderingsmodel.Laat de kopers begrijpen wat in elke categorie past2Documenteer de omgeving rond de hardware, niet alleen de serienummers.Topologie, koeling, netwerken en configuratiegeschiedenis spelen hier allemaal een grotere rol dan bij gewone doorverkoop van servers.
3Behandel de timing van de roadmap als onderdeel van de exitstrategie.Bij AI verandert de productcadans sneller van koperspsychologie dan de meeste infrastructuurteams verwachten.4Beslis of het pad met de hoogste waarde een verkoop van een geïntegreerd systeem, een verkoop op knooppuntniveau of een afstoting op onderdeelniveau is.Het antwoord is niet altijd hetzelfde. Een verkeerde veronderstelling kan je echt geld kosten.
nl_NLDutch