Begagnad vs. ny GPU för dina servrar: Hur man väljer

Efterfrågan på GPU:er ökar kraftigt, vilket gör att nya GPU:er blir mindre tillgängliga över hela linjen. 

Vissa kunder kommer att behöva betala en premie för GPU:er, medan andra kommer att stängas ute helt från marknaden. Fler och fler kunder tvingas förlita sig på återförsäljningsmarknaden för GPU:er för att få hjälp. 

Återförsäljningsmarknaden kan leverera kostnadseffektiva hårdvaruerbjudanden till alla typer av kunder. Vissa kunder kommer att vända sig till marknaden för nya GPU:er först, men det är alltid en bra idé att se om en återförsäljare av hårdvara kan tillgodose företagets behov till ett rabatterat pris. 

Känn dina behov inifrån och ut

Innan du hoppar rakt in i ett köp bör du inventera vad du faktiskt behöver och hur valet mellan en begagnad och en ny GPU kan förbättra din lönsamhet. 

Om du planerar att bygga ett nytt datacenter har du valt en svår tid att göra det. Överväg att titta på molntjänster som kan avlasta dina datacenterbehov. 

Som Apples strategi med AI, kan organisationer lägga ut arbetsbelastningar på molnleverantörer från tredje part som körs på GPU-servrar från tredje part. Detta förvandlar ditt dyra datacenterprojekt till en projicerbar prenumerationskostnad.

Om du redan har investerat i lokala datacenter bör du utvärdera dina datacenterbehov för att avgöra om ny eller begagnad hårdvara passar bäst för din verksamhet.  

AI-datacenter och begagnade GPU:er

Om du kör AI-arbetsbelastningar som LLM:er eller modeller för djupinlärning, de senaste GPU:erna är ett startkrav. Den senaste hårdvaran är utformad med AI-arbetsbelastningar i åtanke, och företag kommer att ha en enorm nackdel om de försöker skala AI-kapacitet samtidigt som de använder gammal hårdvara.

Även begagnade GPU:er som bara är ett eller två år gamla är utklassade av de senaste modellerna. Den högre prislappen är värd det för alla som försöker konkurrera med AI-marknadens hyperscalers. Tillverkare säljer ut IT-hårdvarulager månader och år i förväg, så du måste låsa in avtal med tillverkare om du vill se hårdvaran före slutet av 2027.   

När begagnat är bättre än nytt

Den främsta fördelen med begagnade GPU-servrar är det lägre inköpspriset. Detta sker ibland på bekostnad av effektiviteten. 

Om ett begagnat GPU-köp sparar dig några tusenlappar men dina driftskostnader för datacenter ökar 15%, är de kortsiktiga besparingarna inte värda det. Se till att begagnad hårdvara inte belastar din infrastruktur innan du gör ett begagnat GPU-köp.  

Utöver de ekonomiska aspekterna finns det andra skäl som gör begagnad GPU-hårdvara mer tilltalande. 

Du behöver omedelbar utplacering

Det är mycket svårt att få tag på ny GPU-hårdvara - tillverkare som NVIDIA och Dell har sålt ut det mesta av sina lager. De har till och med ingått avtal om att sälja enheter som fortfarande tillverkas och som inte kommer att vara klara på flera månader.    

Begagnade listor är vanligtvis knutna till testad hårdvara som sitter i säljarens lager. De kan skicka det så snart pengarna kommer dock. Begagnade GPU-köp kan hjälpa kunder att undvika problem med leveranskedjan. 

Du har expertis inom optimering och underhåll

Att känna till sin utrustning är avgörande för hanteringen av datacentret, så det finns vissa fördelar med att använda bekant utrustning. Administratörerna vet hur de ska hantera hårdvaran, vilka begränsningar den har och när de ska utföra underhåll på utrustningen. Om du inte behöver skala så snabbt som möjligt kan du fokusera på stabilitet med känd utrustning - även om den ligger en eller två generationer efter. 

Ditt kraft- och kylsystem klarar inte av ny utrustning

AI-träning och AI-drift medför påfrestningar och toppar i datacenter, så äldre kraftsystem är förberedda för fel. Nyare GPU:er använder mycket mer ström än äldre. 

Beroende på när du byggde ditt datacenter kan du behöva mer än nya GPU:er. Utan tillräcklig strömförsörjning eller kylning kommer GPU:erna inte att köras med full kapacitet eller så kommer du att utsätta de andra komponenterna i ditt datacenter för överbelastning.  

För att undvika avbrott kan företag matcha datacentrets kapacitet och arkitektur med den hårdvara de kör. 

Tillförlitligheten hos begagnade och renoverade GPU:er

Om du ska köpa begagnat över renoverat, se till att du har den interna expertisen för att hantera eventuella problem som kan uppstå med utrustningen. Renoverade GPU: er är det bästa alternativet för mindre organisationer utan specialiserad personal för att bedöma hårdvarans kvalitet. 

När behövs nya GPU:er? 

Operatörer av storskaliga datacenter kommer alltid att föredra de senaste GPU-modellerna, men det är en hårfin gräns mellan vad som är önskvärt och vad som krävs. 

Nya datacenter med fokus på AI

Om du använder föråldrade GPU:er för att utbilda LLM:er kommer ditt datacenter tekniskt sett att fungera alldeles utmärkt. Men det gör inte ditt företag.

AI-marknaden definieras av kapacitet, komplexitet och skalbarhet i framkant. Om du inte har den senaste utrustningen i dina datacenter kommer dina konkurrenter att skala ut dig och erbjuda bättre tjänster. Utmaningen är att hitta dessa GPU:er i lager.

Precis som för DRAM är GPU-marknaden översvämmad av efterfrågan och tillverkarna är nöjda med att hålla produktionen relativt stabil. Teknikåterförsäljare har ofta den senaste generationens GPU:er i lager, men du kan bara köpa det som finns på deras hyllor. Du måste vara kreativ för att slå dig in på den här marknaden om du inte har långsiktiga avtal (LTA) på plats.   

Hårdvarukapacitet hämmar tillväxten

Om du stöter på hårdvarubegränsningar i ett äldre datacenter är det dags för en större uppgradering. Om du köper begagnade GPU:er och annan serverhårdvara kan du befinna dig i samma situation om några år. Med ny hårdvara kan du hantera din uppdateringscykel för hårdvara utan att behöva oroa dig för att hamna på efterkälken.

När ditt datacenter kan använda den senaste hårdvaran kommer du att förbättra effektiviteten i din energianvändning, vilket innebär mer av din ström går till databehandlingsprocesserna istället för byggnadsverksamheten.

Du behöver OEM-garantier

Den mest tillförlitliga strategin för IT-hårdvara är att planera framåt med uppdateringscykler och skydda din hårdvaruinvestering med garantier. 

Om dina datacentertillgångar, som GPU:er eller DRAM, har en livscykel på 5 år, garanterar en tillverkare som erbjuder en 5-årsgaranti att du har funktionell utrustning under hela perioden. Om vissa tillgångar går sönder i förtid kommer tillverkaren att fylla på lagret åt dig. 

Hårdvara för datacenter är svårt att få tag på idag. Genom att köpa hårdvara med en tillverkargaranti säkerställer du att du inte fastnar med skadade GPU: er och inga alternativ för att ersätta dem. 

Slutsats

Mellan utbudsbrist, skyhög efterfrågan från AI-arbetsbelastningar och tillverkare som säljer hårdvara som inte ens är byggd ännu, är upphandling av IT-hårdvara extremt svårt att navigera.

AI- och molnfokuserade företag bör lägga ut pengar för att gå in i LTA för nya GPU: er, medan företag som behöver stabilitet mer än skala kan förlita sig på den begagnade GPU-marknaden. I slutändan kommer experter på datacenterdrift och upphandling att ge dig den bästa idén om vad ditt företag ska köpa för sina datacenter. Oavsett om du köper nytt eller begagnat måste du ha en sak i åtanke: datacentrets arkitektur måste matcha hårdvaran. Om dina rack är för täta eller ditt kylcenter inte kan hantera en användningsökning kommer du att drabbas av avbrott, förstörelse av tillgångar och värre saker.

Se till att inköps- och arkitekturteamen är på samma sida för att hålla verksamheten säker och effektiv.