Nous achetons du matériel informatique d'occasion !

Serveurs d'IA vs. calcul général : Les différences entre les marchés 

Serveurs d'intelligence artificielle ou informatique générale : les différences entre les marchés
Temps de lecture : 5 minutes

Vous passez en revue l'inventaire du matériel de votre centre de données, vous évaluez ce qui doit être remplacé, et vous demandez à l'équipe ce que vous pouvez vendre. 

“ Ce ne sont que quelques serveurs. On peut les décharger quand on veut. ”

Ce raisonnement s'applique parfaitement lorsqu'il s'agit de matériel de calcul généraliste classique. Le Dell PowerEdge R660 correspond parfaitement à cette description. Il s'agit d'un serveur rack 1U à deux sockets, conçu pour gérer l'analyse de bases de données denses, la virtualisation à haute densité et les charges de travail courantes des entreprises. Ce serveur refroidi par air est largement déployable et s'intègre facilement dans un parc x86 existant.

Un système d’IA basé sur HGX ou DGX est d’un tout autre ordre. Les plateformes d’IA actuelles de NVIDIA s’articulent autour de configurations denses de GPU, de structures NVLink à haut débit, de réseaux spécialisés et, de plus en plus, de conceptions à l’échelle de rack dotées d’un refroidissement par liquide. Les annonces de Dell concernant ses propres « usines d’IA » de l’ère Blackwell vont encore plus loin, avec des serveurs équipés de huit GPU Blackwell et des options de racks à 72 GPU à refroidissement liquide.

C'est pourquoi le marché secondaire des serveurs d'IA ne se comporte pas comme le marché secondaire des ressources informatiques générales. La valeur ne réside pas uniquement dans le châssis. Elle dépend de la génération d'accélérateurs, de la topologie des interconnexions, de la densité de puissance, des hypothèses de refroidissement, de l'adéquation logicielle, ainsi que de la capacité du prochain acheteur à intégrer effectivement le système que vous essayez de vendre.

Si vous fixez le prix du matériel d'IA comme celui des serveurs classiques, vous commettez généralement l'une des deux erreurs suivantes : soit vous passez à côté d'une opportunité de gain en traitant du matériel rare comme un produit de grande consommation, soit vous restez trop longtemps avec des stocks sur les bras parce que vous estimez que le bassin d'acheteurs est plus large qu'il ne l'est en réalité.

Les serveurs d'IA se commercialisent en tant que systèmes, et non comme de simples boîtiers

Cette distinction est essentielle pour comprendre le marché de la revente de matériel serveur. 

Ressources informatiques générales

Les serveurs de calcul général conservent généralement leur valeur en tant qu’infrastructure flexible. Ils peuvent être réaffectés à des environnements de laboratoire, à des déploiements en succursale, à des clusters de virtualisation, à des environnements de développement/test, à des rôles de sauvegarde ou à des charges de travail de production de moindre priorité. L’acheteur n’a pas besoin d’une adéquation architecturale parfaite pour que l’actif soit utile.En matière de calcul général, Dell décrit le PowerEdge R660 comme un serveur d'entreprise à deux sockets et refroidi par air, destiné à l'analyse de données en densité et à la virtualisation, prenant en charge jusqu'à deux GPU à largeur simple lorsque l'accélération est nécessaire. Vous pouvez dissocier le serveur de sa charge de travail d'origine et trouver tout de même un acheteur.
Serveurs d'IA

Les serveurs d’IA se distinguent par le fait que le serveur ne constitue qu’une partie de l’unité économique. Du côté de l’IA, la plateforme HGX de NVIDIA s’articule autour de cartes mères à huit GPU, de la technologie NVLink, d’un réseau haut débit et d’une pile logicielle étroitement intégrée. Le système GB200 NVL72 de NVIDIA va encore plus loin : il s’agit d’une architecture à l’échelle d’un rack, refroidie par liquide, comprenant 36 processeurs Grace et 72 GPU Blackwell connectés au sein d’un seul et même grand domaine NVLink.

Les spécifications techniques ne sont pas isolées de leur contexte. Le prochain acheteur se demandera s’il est en mesure de prendre en charge les exigences du système en matière de dissipation thermique, de consommation électrique, de connectivité réseau, de pile logicielle et de modèle de déploiement. Si la réponse est négative, la valeur théorique de votre actif s’effondre rapidement.

La feuille de route évolue plus rapidement que les marchés des serveurs classiques

Les acheteurs de matériel informatique généraliste sont habitués à des cycles plus lents et plus souples.

Un serveur à deux sockets classique peut rester commercialement utile pendant de nombreuses années, car l'éventail des charges de travail est large et la voie de mise à niveau est moins binaire. Vous pourriez vendre des systèmes x86 vieillissants à des environnements qui accordent davantage d’importance au rapport prix/cœur, à l’empreinte mémoire ou à la familiarité opérationnelle qu’à toute autre considération. Ce type de clients ne court pas après les dernières nouveautés ; ils recherchent des fonctionnalités éprouvées. 

L'infrastructure d'IA ne bénéficie pas de ce luxe.

L'évolution des produits de NVIDIA au cours des deux dernières années illustre bien ce point. Le lancement du H200 a marqué une avancée significative par rapport au H100, avec 141 Go de mémoire HBM3e et une bande passante mémoire de 4,8 To/s. Puis est arrivé le DGX B200. NVIDIA affirme avoir apporté des améliorations significatives en termes de performances: 3 fois plus pour l'entraînement et 15 fois plus pour l'inférence par rapport au DGX H100. 

Il s'agit là d'une échelle de performances et de positionnement bien plus serrée que celle à laquelle sont habitués de nombreux acheteurs de serveurs d'entreprise.

Lorsque la feuille de route évolue à un rythme aussi rapide, le marché de l'occasion cesse de suivre une courbe de dépréciation progressive pour se comporter davantage comme un marché où le timing est déterminant. L'âge du matériel a certes son importance, mais le facteur déterminant reste ses performances par rapport aux modèles de pointe. 

La disponibilité est également un facteur crucial. Quels que soient les critères ou les caractéristiques techniques pris en compte, la plateforme Blackwell de NVIDIA est le leader du marché des GPU dédiés à l’IA. Mais l’offre est tout simplement insuffisante pour répondre à la demande. Par conséquent, les modèles Hopper, plus anciens et moins puissants, restent très prisés et ont encore de la valeur, car ils constituent pour certains la seule option accessible.   

Un équipement bien choisi peut encore avoir une grande valeur. Un mauvais choix de moment peut donner l'impression qu'une configuration censée être haut de gamme est maladroite, surdimensionnée ou en retard d'une génération.

Le marché des acheteurs de matériel d'IA est plus restreint et soumis à davantage de conditions

Considérez la puissance de calcul générale comme votre monnaie fiduciaire, et le matériel dédié à l'IA comme de l'or. Les deux ont une grande valeur, mais l'un est plus facile à dépenser que l'autre. 

Parc d'acheteurs de ressources informatiques généralesLe marché des serveurs de calcul grand public est immense. Les fournisseurs de services gérés, les intégrateurs régionaux, les laboratoires, les environnements d'hébergement secondaires et les équipes d'entreprise soucieuses des coûts peuvent tous utiliser des serveurs en rack classiques si le prix est attractif.Banque de données des acheteurs de systèmes d'IALe marché des systèmes d’IA est plus restreint, car les exigences sont plus strictes. Le langage utilisé par Dell pour décrire son « usine d’IA » de l’ère Blackwell met en avant le refroidissement liquide direct, les configurations de serveurs à huit GPU Blackwell, une densité de rack plus élevée et des formats de rack à 72 GPU refroidis par liquide.Les spécifications du GB200 NVL72 de NVIDIA vont dans le même sens : architecture à l'échelle du rack, refroidissement par liquide, NVLink de cinquième génération et mise en réseau étroitement couplée.

Cela signifie que votre prochain client n'achète pas seulement de la puissance de calcul. Il achète un coup de pouce pour son infrastructure. 

Environnement physique

Disposent-ils d'une alimentation électrique et d'un environnement thermique adaptés au rack ?
Préférences en matière de design

Souhaitent-ils une architecture d'usine IA à l'échelle du rack ou uniquement des accélérateurs autonomes ?
Réseautage et forme physique

Sont-ils capables de prendre en compte les hypothèses relatives au réseau et à la topologie ?
Type de charge de travail

Acheètent-ils ces solutions pour l'entraînement, l'inférence ou une charge de travail spécialisée et restreinte ?
Parcours d'accompagnement

Ont-ils besoin d'une continuité du support OEM, ou sont-ils à l'aise à l'idée de s'écarter davantage de la voie préconisée par le fournisseur ?

Ces questions permettent de déterminer qui peut acheter ce bien en se basant sur d'autres critères que ses seules caractéristiques techniques.

C'est également en raison de ces complexités opérationnelles que certains équipements d'IA conservent mieux leur valeur lorsqu'ils sont utilisés comme composants ou comme unités logiques plus petites plutôt que dans le cadre d'un déploiement entièrement intégré. Le marché des processeurs graphiques, les plateaux ou les sous-configurations validées est parfois plus vaste que le marché correspondant à la conception exacte du rack dont ils sont issus.

Le matériel dédié à l'IA est bien plus qu'un simple matériel

De nombreuses discussions sur la revente ressemblent encore à des pratiques traditionnelles de cession de matériel.

Référence. Nombre de cœurs. Mémoire. État. C'est bon.

Cela ne suffit pas pour les systèmes d'IA modernes.

NVIDIA commercialise les plateformes DGX et HGX sous forme de piles « matériel + logiciels + opérations ». Le positionnement du DGX B200 inclut explicitement NVIDIA AI Enterprise, Mission Control, ainsi que l'accès à des services et au soutien de l'écosystème. Dell présente son offre « AI Factory » de la même manière : non pas comme des serveurs isolés, mais comme une infrastructure intégrée alliant puissance de calcul, réseau, logiciels et déploiement.

Sur le marché secondaire, plus un actif est proche d'une plateforme autonome, plus l'acheteur accorde de l'importance à l'environnement qui l'entoure. Les acheteurs de matériel d'IA porteront une attention particulière aux éléments suivants :

  • État du micrologiciel 
  • Hypothèses relatives à l'appariement et à l'interconnexion des GPU
  • Documentation sur la topologie
  • Conception du système de refroidissement
  • Hypothèses relatives à la structure du réseau

Tous ces facteurs influencent les achats de matériel informatique d'occasion, ou la décision de ne pas en acheter. 

La revente de matériel informatique généraliste est plus souple, car le matériel peut être réutilisé pour de nombreuses fonctions. La revente de matériel dédié à l'IA est moins souple, car le système a été conçu dès le départ pour un ensemble plus restreint de fonctions à forte valeur ajoutée.

Les vendeurs qui réussissent considèrent la cession assistée par l'IA comme un événement de marché

Si vous mettez hors service des serveurs d'IA, la plus grande erreur serait d'attendre que le projet soit définitivement terminé sur le plan opérationnel avant de commencer à envisager leur revente.

À ce moment-là, vous êtes déjà en retard.

Vous devez décider dès le début si vous vendez :

1Systèmes entièrement intégrés2Systèmes au niveau des nœuds
3Configurations à forte utilisation du GPUExtraits d'environnements plus vastes4Lots mixtesLorsque les accélérateurs ont une valeur et que le matériel associé doit être tarifé différemment

Vous devrez également fournir davantage de documents que pour une vente de matériel informatique classique.

Un acheteur sérieux s'intéressera à la génération de la carte graphique, à la configuration du système, aux hypothèses relatives au réseau, aux caractéristiques de la mémoire et du système de refroidissement, à l'historique d'utilisation, ainsi qu'au fait que le matériel ait ou non fait partie d'un environnement de production pris en charge. Si vous ne parvenez pas à présenter clairement ces informations, vous réduisez encore davantage le nombre d'acheteurs potentiels.

Quatre règles à respecter si vous ne voulez pas que le matériel dédié à l'IA soit facturé au même prix que le matériel informatique généraliste

Ces règles constituent un bon point de départ pour tout scénario de vente. 

1Dans votre modèle d'évaluation, séparez les accélérateurs de la logique serveur générique.Permettez aux acheteurs de comprendre ce qui relève de chaque catégorie2Répertoriez l'environnement dans lequel se trouve le matériel, et pas seulement les numéros de série.La topologie, le refroidissement, la mise en réseau et l'historique des configurations revêtent ici une importance bien plus grande que dans le cadre de la revente classique de serveurs.
3Considérez le calendrier de la feuille de route comme faisant partie intégrante de la stratégie de sortie.Dans le domaine de l'IA, le rythme de lancement des produits modifie la psychologie des acheteurs plus rapidement que ne le prévoient la plupart des équipes chargées de l'infrastructure.4Déterminez si la solution la plus avantageuse consiste en une vente de système intégré, une vente au niveau des nœuds ou une cession axée sur les composants.La réponse n'est pas toujours la même. Partir d'une hypothèse erronée peut vous coûter cher.
fr_FRFrench