GPU usadas o nuevas para sus servidores: Cómo elegir

La demanda de GPU se dispara, lo que hace que las nuevas GPU sean menos accesibles en general. 

Algunos clientes tendrán que pagar un sobreprecio por las GPU y otros se verán totalmente excluidos del mercado. Cada vez son más los clientes que se ven obligados a recurrir al mercado de reventa de GPU. 

El mercado de reventa puede ofrecer a todo tipo de clientes ofertas de hardware rentables. Algunos clientes buscarán primero en el mercado de GPU nuevas, pero siempre es una buena idea comprobar si un revendedor de hardware puede satisfacer las necesidades de la empresa a un precio rebajado. 

Conozca sus necesidades por dentro y por fuera

Antes de lanzarse a la compra, haga inventario de lo que realmente necesita y de si elegir entre una GPU usada o nueva podría mejorar su rentabilidad. 

Si está planificando la construcción de un nuevo centro de datos, ha elegido un momento complicado para hacerlo. Considere la posibilidad de buscar servicios en la nube que puedan descargar las necesidades de su centro de datos. 

Al igual que Apple con la IA, Las organizaciones pueden subcontratar cargas de trabajo a proveedores de nube externos que se ejecutarían en servidores GPU de terceros. Esto convierte su costoso proyecto de centro de datos en un coste de suscripción proyectable.

Si ya ha invertido en centros de datos locales, debe evaluar sus necesidades de centros de datos para determinar si el hardware nuevo o usado es el más adecuado para sus operaciones.  

Centros de datos de IA y GPU usadas

Si ejecutas cargas de trabajo de IA como LLM o modelos de aprendizaje profundo, las últimas GPU son un requisito inicial. El hardware más reciente se ha diseñado teniendo en cuenta las cargas de trabajo de IA, y las empresas estarán en gran desventaja si intentan ampliar la capacidad de IA utilizando hardware antiguo.

Incluso las GPU usadas que sólo tienen uno o dos años de antigüedad se ven superadas por los modelos más recientes. El precio más elevado merece la pena para cualquiera que intente competir con los hiperescaladores del mercado de IA. Los fabricantes están agotando las existencias de hardware informático con meses y años de antelación, por lo que es necesario cerrar acuerdos con los fabricantes si se quiere ver el hardware antes de finales de 2027.   

Cuando lo usado supera a lo nuevo

La principal ventaja de los servidores GPU usados es su menor precio de compra. Esto a veces se produce a costa de la eficiencia. 

Si la compra de una GPU de segunda mano te ahorra unos miles de dólares pero los costes operativos de tu centro de datos aumentan 15%, el ahorro a corto plazo no merece la pena. Asegúrate de que el hardware usado no supondrá una carga para tu infraestructura antes de comprar una GPU de segunda mano.  

Más allá del aspecto económico, hay otras razones que hacen más atractivo el hardware de GPU de segunda mano. 

Necesita un despliegue inmediato

Es muy difícil conseguir nuevo hardware de GPU: fabricantes como NVIDIA y Dell han agotado casi todas sus existencias. Incluso han llegado a acuerdos para vender unidades que aún se están fabricando y no estarán listas hasta dentro de meses.    

Los anuncios de segunda mano suelen estar vinculados a hardware probado que se encuentra en el almacén del vendedor. Sin embargo, pueden enviarlo tan pronto como reciban el dinero. Las compras de GPU usadas pueden ayudar a los clientes a evitar problemas en la cadena de suministro. 

Tiene experiencia en optimización y mantenimiento

La familiaridad con el equipo es fundamental para la gestión del centro de datos, por lo que utilizar equipos conocidos tiene algunas ventajas. Los administradores saben cómo gestionar este hardware, cuáles son sus límites y cuándo realizar el mantenimiento de los equipos. Si no necesita escalar lo más rápido posible, puede centrarse en la estabilidad con equipos conocidos, aunque estén una o dos generaciones por detrás. 

Su sistema de alimentación y refrigeración no puede con los nuevos equipos

El entrenamiento y las operaciones de IA provocan tensiones y picos en los centros de datos, por lo que los sistemas de alimentación más antiguos están abocados al fracaso. Las nuevas GPU consumen mucha más energía que las antiguas. 

Dependiendo de cuándo hayas construido tu centro de datos, es posible que necesites algo más que nuevas GPU. Sin potencia o refrigeración suficientes, las GPU no funcionarán a pleno rendimiento o someterás a una tensión excesiva a los demás componentes de tu centro de datos.  

Para evitar interrupciones, las empresas pueden adaptar la capacidad y la arquitectura del centro de datos al hardware que utilizan. 

Fiabilidad de las GPU usadas frente a las restauradas

Si vas a comprar GPU usadas en lugar de reacondicionadas, asegúrate de que cuentas con la experiencia necesaria para resolver cualquier problema que pueda surgir con el equipo. Las GPU reacondicionadas son la mejor opción para las pequeñas empresas que carecen de personal especializado para evaluar la calidad del hardware. 

¿Cuándo son necesarias nuevas GPU? 

Los operadores de centros de datos a gran escala siempre preferirán los últimos modelos de GPU, pero hay una delgada línea entre lo preferido y lo necesario. 

Nuevos centros de datos centrados en la IA

Si utilizas GPU obsoletas para entrenar a los LLM, tu centro de datos funcionará técnicamente bien. Tu negocio no.

El mercado de la IA se define por la vanguardia de la capacidad, la complejidad y la escala. Si no dispone de los últimos avances en sus centros de datos, la competencia le superará y le ofrecerá mejores servicios. El reto es encontrar estas GPU en stock.

Al igual que la DRAM, el mercado de GPU está inundado de demanda y la los fabricantes se contentan con mantener una producción relativamente estable. Los distribuidores de tecnología suelen tener GPU de última generación en stock, pero sólo se puede comprar lo que hay en sus estanterías. Tendrás que ser creativo para abrirte paso en este mercado si no cuentas con acuerdos a largo plazo (LTA).   

La capacidad de hardware frena el crecimiento

Si te enfrentas a las limitaciones de hardware de un centro de datos antiguo, es hora de una actualización importante. Si compra GPU y otro hardware de servidor de segunda mano, es posible que se encuentre en la misma situación dentro de unos años. Con hardware nuevo, puede gestionar su ciclo de actualización de hardware sin preocuparse por quedarse atrás.

Una vez que su centro de datos pueda hacer uso del hardware más reciente, mejorará la eficacia del uso de la energía, lo que significa que más energía se destina a los procesos informáticos en lugar de las operaciones del edificio.

Necesita garantías OEM

La estrategia de hardware informático más fiable consiste en planificar con antelación los ciclos de actualización y proteger la inversión en hardware con garantías. 

Si los activos de su centro de datos, como las GPU o la DRAM, tienen un ciclo de vida de 5 años, un fabricante que ofrezca una garantía de 5 años le asegura que dispondrá de equipos funcionales durante todo ese periodo. Si algunos activos fallan antes de tiempo, el fabricante se encargará de reponerlos. 

Hoy en día es difícil conseguir hardware para centros de datos. Adquirir hardware con garantía del fabricante te asegura que no te quedarás con GPU dañadas y sin opciones de sustituirlas. 

Conclusión

Entre la escasez de suministros, el aumento vertiginoso de la demanda de cargas de trabajo de IA y los fabricantes que venden hardware que ni siquiera se ha fabricado todavía, la adquisición de hardware informático es extremadamente difícil.

Las empresas centradas en la IA y la nube deben desembolsar dinero para entrar en los LTA y adquirir GPU nuevas, mientras que las empresas que necesitan estabilidad más que escala pueden confiar en el mercado de GPU usadas. En última instancia, los expertos en operaciones y adquisiciones de centros de datos le darán la mejor idea sobre lo que su empresa debe comprar para sus centros de datos. Independientemente de que la compra sea nueva o usada, hay que tener en cuenta una cosa: la arquitectura del centro de datos debe coincidir con el hardware. Si sus bastidores son demasiado densos o su centro de refrigeración no puede soportar un pico de uso, se enfrentará a interrupciones, destrucción de activos y cosas peores.

Asegúrese de que los equipos de compras y arquitectura están en sintonía para que las operaciones sean seguras y eficientes.