Gebrauchte vs. neue GPUs für Ihre Server: Wie Sie wählen

Die Nachfrage nach GPUs steigt sprunghaft an, so dass neue GPUs immer weniger erhältlich sind. 

Einige Kunden werden einen Aufpreis für GPUs zahlen müssen, andere werden ganz vom Markt verdrängt werden. Immer mehr Kunden sind gezwungen, sich auf den GPU-Wiederverkaufsmarkt zu verlassen, um Abhilfe zu schaffen. 

Der Wiederverkaufsmarkt kann für alle Arten von Kunden kostengünstige Hardwareangebote bereithalten. Einige Kunden werden sich zuerst auf dem Markt für neue GPUs umsehen, aber es ist immer eine gute Idee, zu prüfen, ob ein Hardware-Wiederverkäufer die geschäftlichen Anforderungen zu einem ermäßigten Preis erfüllen kann. 

Kennen Sie Ihre Bedürfnisse in- und auswendig

Bevor Sie sich in einen Kauf stürzen, sollten Sie eine Bestandsaufnahme machen, was Sie tatsächlich benötigen und ob die Wahl zwischen einem gebrauchten und einem neuen GPU Ihre Rentabilität verbessern könnte. 

Wenn Sie den Bau eines neuen Rechenzentrums planen, haben Sie sich einen heiklen Zeitpunkt dafür ausgesucht. Ziehen Sie Cloud-Dienste in Betracht, die Ihren Rechenzentrumsbedarf auslagern könnten. 

Wie der Ansatz von Apple bei der KI, können Unternehmen Arbeitslasten an Cloud-Anbieter auslagern, die auf GPU-Servern von Drittanbietern laufen. Dadurch wird Ihr teures Rechenzentrumsprojekt zu einem projektierbaren Abonnementpreis.

Wenn Sie bereits in Rechenzentren vor Ort investiert haben, sollten Sie Ihre Anforderungen an das Rechenzentrum bewerten, um festzustellen, ob neue oder gebrauchte Hardware die beste Lösung für Ihren Betrieb ist.  

KI-Rechenzentren und gebrauchte GPUs

Wenn Sie KI-Workloads wie LLMs oder Deep-Learning-Modelle ausführen, die neuesten GPUs sind eine Grundvoraussetzung. Die neueste Hardware ist für KI-Workloads ausgelegt. Unternehmen, die versuchen, ihre KI-Kapazitäten zu skalieren, während sie alte Hardware verwenden, haben einen massiven Nachteil.

Selbst gebrauchte Grafikprozessoren, die nur ein oder zwei Jahre alt sind, werden von den neuesten Modellen übertroffen. Der höhere Preis lohnt sich für jeden, der mit den KI-Hyperscalern auf dem Markt konkurrieren will. Die Hersteller verkaufen ihre Lagerbestände an IT-Hardware bereits Monate und Jahre im Voraus, sodass Sie Verträge mit den Herstellern abschließen müssen, wenn Sie die Hardware vor Ende 2027 sehen wollen.   

Wenn Gebrauchtes besser ist als Neues

Der Hauptvorteil von gebrauchten GPU-Servern ist der niedrigere Anschaffungspreis. Dies geht manchmal auf Kosten der Effizienz. 

Wenn Sie durch den Kauf eines gebrauchten Grafikprozessors ein paar Tausend Dollar sparen, die Betriebskosten Ihres Rechenzentrums aber um 15% steigen, sind die kurzfristigen Einsparungen nicht wert. Vergewissern Sie sich vor dem Kauf eines gebrauchten Grafikprozessors, dass die gebrauchte Hardware keine Belastung für Ihre Infrastruktur darstellt.  

Neben den finanziellen Aspekten gibt es noch weitere Gründe, die gebrauchte GPU-Hardware attraktiver machen. 

Sie brauchen einen sofortigen Einsatz

Neue GPU-Hardware ist sehr schwer zu bekommen - Hersteller wie NVIDIA und Dell haben die meisten ihrer Bestände ausverkauft. Sie haben sogar Deals abgeschlossen, um Geräte zu verkaufen, die noch in der Produktion sind und erst in einigen Monaten verfügbar sein werden.    

Gebrauchte Angebote sind in der Regel an getestete Hardware gebunden, die sich im Lager des Verkäufers befindet. Sie können sie versenden, sobald das Geld da ist. Mit dem Kauf gebrauchter GPUs können Kunden Probleme in der Lieferkette vermeiden. 

Sie verfügen über Fachwissen in den Bereichen Optimierung und Wartung

Die Vertrautheit mit Ihrer Ausrüstung ist für die Verwaltung des Rechenzentrums von entscheidender Bedeutung, daher hat die Verwendung vertrauter Geräte einige Vorteile. Die Administratoren wissen, wie diese Hardware zu verwalten ist, wo ihre Grenzen liegen und wann sie gewartet werden müssen. Wenn Sie nicht so schnell wie möglich skalieren müssen, können Sie sich auf die Stabilität bekannter Geräte konzentrieren - selbst wenn diese eine oder zwei Generationen zurückliegen. 

Ihr Strom- und Kühlsystem kann neue Geräte nicht bewältigen

KI-Training und -Betrieb bringen Belastungen und Spitzen in Rechenzentren mit sich, so dass ältere Stromversorgungssysteme für Ausfälle anfällig sind. Neuere GPUs verbrauchen viel mehr Strom als ältere. 

Je nachdem, wann Sie Ihr Rechenzentrum gebaut haben, benötigen Sie möglicherweise mehr als nur neue GPUs. Ohne ausreichende Stromversorgung oder Kühlung können die Grafikprozessoren nicht mit voller Leistung arbeiten oder Sie belasten die anderen Komponenten Ihres Rechenzentrums übermäßig.  

Um Ausfälle zu vermeiden, können Unternehmen die Kapazität und Architektur ihres Rechenzentrums an die verwendete Hardware anpassen. 

Zuverlässigkeit von gebrauchten vs. überholten GPUs

Wenn Sie sich für den Kauf von gebrauchten und nicht für generalüberholte Geräte entscheiden, sollten Sie sicherstellen, dass Sie über das nötige Fachwissen verfügen, um alle Probleme zu lösen, die mit den Geräten auftreten könnten. Refurbished-GPUs sind die beste Wahl für kleinere Unternehmen, die nicht über Fachpersonal verfügen, das die Qualität der Hardware beurteilen kann. 

Wann sind neue GPUs notwendig? 

Betreiber großer Rechenzentren werden immer die neuesten GPU-Modelle bevorzugen, aber es gibt einen schmalen Grat zwischen bevorzugt und erforderlich. 

Neue Rechenzentren mit Fokus auf KI

Wenn Sie veraltete Grafikprozessoren für die Ausbildung von LLMs verwenden, wird Ihr Rechenzentrum technisch einwandfrei funktionieren. Ihr Unternehmen aber nicht.

Der Markt für künstliche Intelligenz (KI) wird durch die Spitzenposition bei Kapazität, Komplexität und Umfang bestimmt. Wenn Sie in Ihren Rechenzentren nicht über die neuesten Geräte verfügen, wird Ihre Konkurrenz Sie ausstechen und bessere Dienste anbieten. Die Herausforderung besteht darin, diese GPUs auf Lager zu finden.

Wie DRAM wird auch der GPU-Markt von der Nachfrage überschwemmt und die die Hersteller begnügen sich damit, die Produktion relativ konstant zu halten. Technologiewiederverkäufer haben oft GPUs der aktuellen Generation auf Lager, aber Sie können nur kaufen, was in ihren Regalen steht. Um auf diesem Markt Fuß zu fassen, müssen Sie kreativ werden, wenn Sie keine langfristigen Verträge abgeschlossen haben.   

Hardware-Kapazität hemmt Wachstum

Wenn Sie mit der Hardware eines älteren Rechenzentrums an seine Grenzen stoßen, ist es Zeit für ein größeres Upgrade. Wenn Sie gebrauchte Grafikprozessoren und andere Serverhardware kaufen, sind Sie in ein paar Jahren möglicherweise in der gleichen Situation. Mit neuer Hardware können Sie Ihren Hardware-Aktualisierungszyklus steuern, ohne sich Sorgen machen zu müssen, dass Sie ins Hintertreffen geraten.

Sobald Ihr Rechenzentrum die neueste Hardware nutzen kann, verbessern Sie die Effektivität Ihres Stromverbrauchs, d. h. ein größerer Teil Ihrer Energie geht in die Rechenprozesse anstelle des Gebäudebetriebs.

Sie brauchen OEM-Garantien

Die zuverlässigste IT-Hardware-Strategie besteht darin, Aktualisierungszyklen im Voraus zu planen und Ihre Hardware-Investitionen durch Garantien zu schützen. 

Wenn Ihre Rechenzentrumsressourcen wie GPUs oder DRAMs einen Lebenszyklus von 5 Jahren haben, dann stellt ein Hersteller, der eine 5-Jahres-Garantie anbietet, sicher, dass Sie während des gesamten Zeitraums funktionsfähige Geräte haben. Wenn bestimmte Anlagen vorzeitig ausfallen, wird der Hersteller die Anlage für Sie neu beschaffen. 

Hardware für Rechenzentren ist heutzutage nur noch schwer zu bekommen. Durch den Kauf von Hardware mit Herstellergarantie wird sichergestellt, dass Sie nicht mit beschädigten GPUs und ohne Ersatzmöglichkeiten dastehen. 

Schlussfolgerung

Die Beschaffung von IT-Hardware ist aufgrund von Lieferengpässen, der rasant steigenden Nachfrage durch KI-Workloads und dem Verkauf von Hardware, die noch nicht einmal gebaut wurde, äußerst schwierig.

KI- und Cloud-fokussierte Unternehmen sollten Geld in die Hand nehmen, um an LTAs für neue GPUs teilzunehmen, während Unternehmen, die mehr Wert auf Stabilität als auf Skalierbarkeit legen, sich auf den Markt für gebrauchte GPUs verlassen können. Letztendlich werden Ihnen die Experten für den Betrieb von Rechenzentren und die Beschaffung die beste Idee geben, was Ihr Unternehmen für seine Rechenzentren kaufen sollte. Unabhängig davon, ob Sie neu oder gebraucht kaufen, müssen Sie eines bedenken: Die Architektur des Rechenzentrums muss zur Hardware passen. Wenn Ihre Racks zu dicht sind oder Ihr Kühlzentrum eine Nutzungsspitze nicht bewältigen kann, drohen Ausfälle, die Zerstörung von Anlagen und Schlimmeres.

Stellen Sie sicher, dass die Beschaffungs- und Architekturteams auf derselben Seite stehen, damit der Betrieb sicher und effizient bleibt.