Vi köper begagnad IT-utrustning!

Vad din H100-, HGX- och DGX-flotta är värd efter lanseringen av B100

Vad din H100-, HGX- och DGX-flotta är värd efter lanseringen av B100
Lästid: 5 Protokoll

Ditt kalkylblad har en rad med 64 H100 och en 4 månader gammal prisuppgift.

Hur mycket är de värda nu?

De flesta finansteam prissätter AI-hårdvara på enklast möjliga sätt: anskaffningskostnad minus avskrivning över tid. GPU-värdet följs inte upp på det sättet. I stället för en långsam nedåtgående lutning är det ett prisdiagram med plötsliga fall mellan perioder av stabilitet.

NVIDIA: s tillkännagivande av Blackwell orsakade en av dessa plötsliga droppar. Du måste veta vad det här tillkännagivandet ändrar och vad det inte gör innan du låser in en affär för dina begagnade GPU: er.  

Marknaden omprissätter inte en GPU

Det är lätt att hamna i fällan att prata om en flotta av H100 som om de vore samma tillgång. 

En DGX H100 med åtta GPU:er är inte samma sak som en lös hög med PCIe-kort. Marknaden rabatterar hårdvara baserat på köparens implementeringshastighet, validerade topologi och användbara minnesavtryck.

År 2024 tillkännagav NVIDIA Blackwell-arkitekturen som efterträdare till Hopper (modellerna H100 och H200), ett stort steg framåt i effektivitet. Enligt företagets dokumentation minskar Blackwell kostnaden för inferens av stora språkmodeller med upp till 25 gånger jämfört med Hopper. 

Mindre än 12 månader senare förhandsvisade Google Cloud redan A4-instanser baserade på NVIDIA HGX B200. Googles egna Blogginlägg säger att varje B200 GPU levererade 2,25 gånger så hög beräkningskapacitet och 2,25 gånger så hög HBM-kapacitet som den tidigare generationen av A3 High H100-plattformen.

UtrullningshastighetValiderad topologiAnvändbart minnesavtryck
Köpare betalar för hårdvara som är redo att köras. De bryr sig inte om kisel som kräver integrationsarbete innan det förtjänar sitt första inferenssamtal. En känd och dokumenterad BOM för nätverksstruktur och värd är en värdefull tillgång.Minneskapacitet och bandbredd avgör vilka arbetsbelastningar ett system faktiskt kan köra och hur det står sig i konkurrensen med Blackwell-klassade alternativ.

Data visar varför H100-värdet komprimeras

Denna tabell visar den verkliga orsaken till att H100-värdet sjönk så snabbt.

PlattformAktuell officiell signalVad det innebär för återförsäljningen
H100NVIDIA positionerar fortfarande H100 som en GPU för datacenter för utbildning, inferens och utskalade arbetsbelastningarKisel är inte föråldrat bara för att det inte längre är den nyaste märkningen
H200NVIDIA säger att H200 erbjuder 141 GB HBM3e vid 4,8 TB/s, nästan dubbelt så mycket kapacitet som H100 med 1,4 gånger mer minnesbandbreddH100 pressas först av minnestunga inferens- och större kontext-arbetsbelastningar
Google A3 H100Google dokumenterar fortfarande A3 Mega, A3 High och A3 Edge H100-instanser för förträning, finjustering och inferensH100 förblir kommersiellt användbar i nuvarande molnkataloger
Google A4 B200Google säger att A4 B200 levererar 2,25 gånger högre beräkningskapacitet och 2,25 gånger högre HBM-kapacitet per GPU än A3 High H100Köparna har nu ett mycket starkare alternativ för nästa generation när de jämför köp av hela system
DGX H100NVIDIA DGX H100 levereras med 8x H100 GPU:er, 640 GB totalt GPU-minne och 7,2 TB/s aggregerad GPU-interconnectbandbreddEn komplett DGX H100 är fortfarande ett riktigt system, inte bara ett komponentparti
DGX B200NVIDIA säger att DGX B200 levererar 3x DGX H100-utbildningsprestanda och 15x DGX H100-inferensprestanda, med 1 440 GB totalt GPU-minne och 14,4 TB/s aggregerad NVLink-bandbreddPremien för en äldre nyckelfärdig AI-box komprimeras snabbt när den nya nyckelfärdiga boxen finns

Din H100 är inte standard-GPU längre, men den har fortfarande en definierad marknad med användningsfall för företag. Ju mer din värdering beror på “top of stack”-brist, desto snabbare blir den omprissatt. Det är värt jämför hur A100 och H100 står sig mot varandra innan du fattar några beslut. 

Vilken hårdvara skrivs av först?

Det första som tappar i värde är inte nödvändigtvis den intakta H100-enheten. Ofullständiga system straffas före allt annat först.

01
Ofullständiga system
02
Nyckelfärdiga premiumsystem för äldre integrerade system
03
Inventarier som är svåra att stödja
Om du bryter upp en HGX H100-nod i delar, tappar bort nätverksstrukturen, separerar brickorna från värden eller tvingar nästa köpare att göra en omvänd ingenjörskonst för att se exakt vad de får, har du redan bytt ut en distributionstillgång mot ett delproblem. När Blackwell-klassade alternativ finns på marknaden blir köparna mindre tålmodiga med reservdelsproblem.NVIDIA:s egna DGX-siffror gör det oundvikligt. DGX B200 går inte bara förbi DGX H100. NVIDIA marknadsför den som en väsentligen annorlunda prestandaklass med mycket mer minne och sammankopplingsbandbredd. Det innebär att en köpare som överväger ett fullboxförvärv inte längre bestämmer sig för att “köpa H100 eller vänta”. De bestämmer sig för hur mycket rabatt de behöver innan de tar den äldre lådan istället för den nyare standarden.En ren DGX H100 med en dokumenterad konfiguration, fullständig inventering, känd hälsa och servicevänligt skick är en marknad. Ett blandat parti av acceleratorer från H100-eran med svag proveniens, saknade nätverk eller osäker körtidshistorik är en annan. När marknaden får fler alternativ blir osäkerheten prissatt snabbare än prestandan.

Vad håller värdet längre än du kanske tror

H100-ägare behöver inte få panik. Marknaden har inte slutat använda den.

Googles nuvarande acceleratoroptimerade maskin dokumentation listar fortfarande H100-baserade A3 Mega, A3 High och A3 Edge-system tillsammans med H200-baserade A3 Ultra och B200-baserade A4-erbjudanden. De är fortfarande i produktion, så de kommer att vara attraktiva för kunder som vill ha stark prestanda utan att betala den senaste generationens premium.

Kompletta, utplaceringsbara H100-system är fortfarande viktiga. Du kan sälja Nvidia DGX-servrar och AI GPU:er som kompletta system och återhämta meningsfullt mer än vad du skulle göra genom att bryta isär dem.

Vad har bäst värde

1. Kompletta DGX H100-system med intakt konfiguration och ren proveniens

2. Kompletta HGX H100-noder med det nätverk och den värdkontext som köparna faktiskt behöver

3. H100-lagret är redan kvalificerat för verkliga arbetsbelastningar för inferens eller utbildning

4. Partier som är tillräckligt stora för att lösa en köpares kapacitetsproblem i en transaktion
Vad håller värdet sämst

Det som håller värdet sämst är allt som får nästa ägare att gå under huven.

Om din hårdvara tvingar köparen att räkna ut saknade BOM-detaljer, osäkert firmware-status, oklar topologi eller om partiet verkligen är komplett, säljer du inte längre AI-infrastruktur. Du säljer ett projekt som kanske inte är värt deras tid.

Att nå dina finansiella mål är en fråga om tajming

Företagsledare vill vanligtvis ha en enda siffra för alla sina tillgångar. Ett bättre sätt att se på det är en priskurva som baseras på tidpunkten för lanseringen.

När en nyare generation som Blackwell blir synlig i molnförhandsgranskningar, aktuella plattformsdokument och integrerade systemkataloger, är rabatten för att vänta föreningar mot dig.

Det gäller särskilt om din nuvarande flotta befinner sig i mitten.

Den övre änden

Detta gäller fortfarande eftersom köparna vill ha kapacitet som kan tas i drift snabbt. Kompletta, väldokumenterade system med ren proveniens fortsätter att locka till sig bud från köpare som behöver kapacitet nu och inte kan vänta på Blackwell-tillgänglighet.
Mitten

Blir pressad först. Det är här köparen börjar fråga sig om de bara ska sträcka sig till H200 eller B200 istället. Mitten är den farligaste platsen att sitta på när en ny generation blir referenspunkten. 
Den nedre änden

Detta är fortfarande möjligt eftersom kunderna vill ha delar och det finns användningsområden på lägre nivåer. Men golvet är lägre än tidigare och osäkerhetsrabatten ökar snabbare i takt med att utbudet av Blackwell-produkter växer.

Om du har H100-, HGX H100- eller DGX H100-lager kan en försenad försäljning minska din avkastning.  

Hur du justerar din uppdateringsplan i enlighet med detta

Om ditt team räknar med att pensionera utrustning från H100-eran är målet inte att förutsäga ett magiskt återförsäljningsnummer från ett kalkylblad. 

Målet är att bevara den del av tillgången som köparen fortfarande kommer att betala för.

1. Dokument som system2. Separat premieinventering3. Spela in fullständig konfiguration4. Paket för marknaden

Du måste dokumentera hårdvaran som ett system innan den bryts isär. Separera premiuminventarier från svansinventarier innan de-rack gör allt till ett blandat parti. Registrera exakt vad du har: Antal GPU:er, formfaktor, värdplattform, nätverk, lagring, kylningskontext och eventuella distributionsdetaljer. Dessa detaljer kommer att göra dig till en bättre partner med din köpare, som vill veta om varan är omedelbart användbar.

Det innebär också att vara ärlig med vad man säljer.

Om flottan verkligen består av en uppsättning kompletta DGX H100-system, sälj den som en komplett DGX H100-flotta.

Om det handlar om lösa skivor och överblivna noder, se till att alla förstår det. Både köpare och säljare måste veta exakt vad som byter ägare. 

De företag som återvinner mest värde från AI-hårdvara behöver mer än en detaljerad kalkylbladsmodell. Företag som sluter avtal innan projektet blir rörigt och paketerar tillgången i den form som marknaden fortfarande vill ha kommer konsekvent att lyckas.

sv_SESwedish