Gebrauchte vs. neue GPUs für Ihre Server: Wie Sie wählen

Die Nachfrage nach GPUs steigt sprunghaft an, so dass neue GPUs immer weniger erhältlich sind. 

Einige Kunden werden einen Aufpreis für GPUs zahlen müssen, andere werden ganz vom Markt verdrängt werden. Immer mehr Kunden sind gezwungen, sich auf den GPU-Wiederverkaufsmarkt zu verlassen, um Abhilfe zu schaffen. 

Der Wiederverkaufsmarkt kann für alle Arten von Kunden kostengünstige Hardwareangebote bereithalten. Einige Kunden werden sich zuerst auf dem Markt für neue GPUs umsehen, aber es ist immer eine gute Idee, zu prüfen, ob ein Hardware-Wiederverkäufer die geschäftlichen Anforderungen zu einem ermäßigten Preis erfüllen kann. 

Know Your IT Hardware Needs Inside and Out

Bevor Sie sich in einen Kauf stürzen, sollten Sie eine Bestandsaufnahme machen, was Sie tatsächlich benötigen und ob die Wahl zwischen einem gebrauchten und einem neuen GPU Ihre Rentabilität verbessern könnte. 

Wenn Sie den Bau eines neuen Rechenzentrums planen, haben Sie sich einen heiklen Zeitpunkt dafür ausgesucht. Ziehen Sie Cloud-Dienste in Betracht, die Ihren Rechenzentrumsbedarf auslagern könnten. 

Wie der Ansatz von Apple bei der KI, können Unternehmen Arbeitslasten an Cloud-Anbieter auslagern, die auf GPU-Servern von Drittanbietern laufen. Dadurch wird Ihr teures Rechenzentrumsprojekt zu einem projektierbaren Abonnementpreis.

Wenn Sie bereits in Rechenzentren vor Ort investiert haben, sollten Sie Ihre Anforderungen an das Rechenzentrum bewerten, um festzustellen, ob neue oder gebrauchte Hardware die beste Lösung für Ihren Betrieb ist.  

KI-Rechenzentren und gebrauchte GPUs

Wenn Sie KI-Workloads wie LLMs oder Deep-Learning-Modelle ausführen, die neuesten GPUs sind eine Grundvoraussetzung. Die neueste Hardware ist für KI-Workloads ausgelegt. Unternehmen, die versuchen, ihre KI-Kapazitäten zu skalieren, während sie alte Hardware verwenden, haben einen massiven Nachteil.

Even used GPUs that are only a year or two old are outclassed by the latest models. The higher price tag is worth it for anyone trying to compete with the AI market hyperscalers. Manufacturers are selling out IT hardware stock months and year in advance, so you need to lock in agreements with manufacturers if you want to see the hardware anytime soon.   

3 Instances Wenn Gebrauchtes besser ist als Neues

Der Hauptvorteil von gebrauchten GPU-Servern ist der niedrigere Anschaffungspreis. Dies geht manchmal auf Kosten der Effizienz. 

Wenn Sie durch den Kauf eines gebrauchten Grafikprozessors ein paar Tausend Dollar sparen, die Betriebskosten Ihres Rechenzentrums aber um 15% steigen, sind die kurzfristigen Einsparungen nicht wert. Vergewissern Sie sich vor dem Kauf eines gebrauchten Grafikprozessors, dass die gebrauchte Hardware keine Belastung für Ihre Infrastruktur darstellt.  

Neben den finanziellen Aspekten gibt es noch weitere Gründe, die gebrauchte GPU-Hardware attraktiver machen. 

Sie brauchen einen sofortigen Einsatz

Neue GPU-Hardware ist sehr schwer zu bekommen - Hersteller wie NVIDIA und Dell haben die meisten ihrer Bestände ausverkauft. Sie haben sogar Deals abgeschlossen, um Geräte zu verkaufen, die noch in der Produktion sind und erst in einigen Monaten verfügbar sein werden.    

Gebrauchte Angebote sind in der Regel an getestete Hardware gebunden, die sich im Lager des Verkäufers befindet. Sie können sie versenden, sobald das Geld da ist. Mit dem Kauf gebrauchter GPUs können Kunden Probleme in der Lieferkette vermeiden. 

Sie verfügen über Fachwissen in den Bereichen Optimierung und Wartung

Die Vertrautheit mit Ihrer Ausrüstung ist für die Verwaltung des Rechenzentrums von entscheidender Bedeutung, daher hat die Verwendung vertrauter Geräte einige Vorteile. Die Administratoren wissen, wie diese Hardware zu verwalten ist, wo ihre Grenzen liegen und wann sie gewartet werden müssen. Wenn Sie nicht so schnell wie möglich skalieren müssen, können Sie sich auf die Stabilität bekannter Geräte konzentrieren - selbst wenn diese eine oder zwei Generationen zurückliegen. 

Ihr Strom- und Kühlsystem kann neue Geräte nicht bewältigen

KI-Training und -Betrieb bringen Belastungen und Spitzen in Rechenzentren mit sich, so dass ältere Stromversorgungssysteme für Ausfälle anfällig sind. Neuere GPUs verbrauchen viel mehr Strom als ältere. 

Je nachdem, wann Sie Ihr Rechenzentrum gebaut haben, benötigen Sie möglicherweise mehr als nur neue GPUs. Ohne ausreichende Stromversorgung oder Kühlung können die Grafikprozessoren nicht mit voller Leistung arbeiten oder Sie belasten die anderen Komponenten Ihres Rechenzentrums übermäßig.  

Um Ausfälle zu vermeiden, können Unternehmen die Kapazität und Architektur ihres Rechenzentrums an die verwendete Hardware anpassen. 

Zuverlässigkeit von gebrauchten vs. überholten GPUs

Wenn Sie sich für den Kauf von gebrauchten und nicht für generalüberholte Geräte entscheiden, sollten Sie sicherstellen, dass Sie über das nötige Fachwissen verfügen, um alle Probleme zu lösen, die mit den Geräten auftreten könnten. Refurbished-GPUs sind die beste Wahl für kleinere Unternehmen, die nicht über Fachpersonal verfügen, das die Qualität der Hardware beurteilen kann. 

Wann sind neue GPUs notwendig? 

Betreiber großer Rechenzentren werden immer die neuesten GPU-Modelle bevorzugen, aber es gibt einen schmalen Grat zwischen bevorzugt und erforderlich. 

Neue Rechenzentren mit Fokus auf KI

Wenn Sie veraltete Grafikprozessoren für die Ausbildung von LLMs verwenden, wird Ihr Rechenzentrum technisch einwandfrei funktionieren. Ihr Unternehmen aber nicht.

Der Markt für künstliche Intelligenz (KI) wird durch die Spitzenposition bei Kapazität, Komplexität und Umfang bestimmt. Wenn Sie in Ihren Rechenzentren nicht über die neuesten Geräte verfügen, wird Ihre Konkurrenz Sie ausstechen und bessere Dienste anbieten. Die Herausforderung besteht darin, diese GPUs auf Lager zu finden.

Wie DRAM wird auch der GPU-Markt von der Nachfrage überschwemmt und die die Hersteller begnügen sich damit, die Produktion relativ konstant zu halten. Technologiewiederverkäufer haben oft GPUs der aktuellen Generation auf Lager, aber Sie können nur kaufen, was in ihren Regalen steht. Um auf diesem Markt Fuß zu fassen, müssen Sie kreativ werden, wenn Sie keine langfristigen Verträge abgeschlossen haben.   

Hardware-Kapazität hemmt Wachstum

Wenn Sie mit der Hardware eines älteren Rechenzentrums an seine Grenzen stoßen, ist es Zeit für ein größeres Upgrade. Wenn Sie gebrauchte Grafikprozessoren und andere Serverhardware kaufen, sind Sie in ein paar Jahren möglicherweise in der gleichen Situation. Mit neuer Hardware können Sie Ihren Hardware-Aktualisierungszyklus steuern, ohne sich Sorgen machen zu müssen, dass Sie ins Hintertreffen geraten.

Sobald Ihr Rechenzentrum die neueste Hardware nutzen kann, verbessern Sie die Effektivität Ihres Stromverbrauchs, d. h. ein größerer Teil Ihrer Energie geht in die Rechenprozesse anstelle des Gebäudebetriebs.

Sie brauchen OEM-Garantien

Die zuverlässigste IT-Hardware-Strategie besteht darin, Aktualisierungszyklen im Voraus zu planen und Ihre Hardware-Investitionen durch Garantien zu schützen. 

Wenn Ihre Rechenzentrumsressourcen wie GPUs oder DRAMs einen Lebenszyklus von 5 Jahren haben, dann stellt ein Hersteller, der eine 5-Jahres-Garantie anbietet, sicher, dass Sie während des gesamten Zeitraums funktionsfähige Geräte haben. Wenn bestimmte Anlagen vorzeitig ausfallen, wird der Hersteller die Anlage für Sie neu beschaffen. 

Hardware für Rechenzentren ist heutzutage nur noch schwer zu bekommen. Durch den Kauf von Hardware mit Herstellergarantie wird sichergestellt, dass Sie nicht mit beschädigten GPUs und ohne Ersatzmöglichkeiten dastehen. 

Schlussfolgerung

Die Beschaffung von IT-Hardware ist aufgrund von Lieferengpässen, der rasant steigenden Nachfrage durch KI-Workloads und dem Verkauf von Hardware, die noch nicht einmal gebaut wurde, äußerst schwierig.

AI and cloud-focused businesses should shell out money to enter LTAs for new GPUs, while companies that need stability more than scale can rely on the used GPU market. Ultimately, data center operations and procurement experts will give you the best idea on what your company should purchase for its data centers. 

Whether you purchase new or used, you need to keep one thing in mind: the data center architecture needs to match the hardware. If your racks are too dense or your cooling center can’t handle a usage spike, you’ll face outages, asset destruction, and worse.

When the time comes to retire old gear and make space for new GPUs, we can help you get a fast and fair return on your IT gear.