Un servidor GPU de IA empresarial se dimensiona en función del modelo que se va a ejecutar, su precisión, los usuarios simultáneos, la longitud de las solicitudes y el nivel de disponibilidad previsto. En 2026, cargar un modelo no es suficiente: hay que anticipar su memoria de trabajo, mantener un tiempo de respuesta aceptable y prever las averías. Por tanto, la elección adecuada se basa en una prueba de carga representativa, no en una simple ficha técnica.
¿Cómo dimensionar un servidor GPU de IA empresarial?
El dimensionamiento de un servidor GPU de IA empresarial comienza con seis datos: la aplicación, el modelo, la precisión numérica, la longitud de las entradas y salidas, el pico de usuarios simultáneos y el tiempo de respuesta objetivo. En 2026, NVIDIA recomienda este enfoque empresarial en lugar de elegir basándose únicamente en la potencia anunciada de las GPU.
Una GPU, o unidad de procesamiento gráfico, es un chip capaz de realizar en paralelo los numerosos cálculos necesarios para la inteligencia artificial. Para la inferencia, es decir, el uso de un modelo ya entrenado, su memoria de vídeo o VRAM almacena los pesos del modelo, la caché de las conversaciones y los espacios de cálculo temporales.
Antes de solicitar presupuestos, formalice las hipótesis que determinan realmente la capacidad necesaria:
- el modelo concreto y el nivel mínimo de calidad aceptado;
- el número de usuarios diarios y el pico de solicitudes simultáneas;
- la longitud habitual y máxima de los documentos enviados;
- la longitud prevista de las respuestas y la velocidad de visualización deseada;
- el tiempo hasta la primera palabra, denominado TTFT por «time to first token»;
- los horarios de carga, la tasa de disponibilidad y la duración del compromiso.
Este método evita sobredimensionar una infraestructura para un pico poco frecuente o, por el contrario, descubrir que un asistente fluido en una demostración se ralentiza en cuanto se pone a disposición de los empleados. La elección entre IA local e infraestructura en la nube debe plantearse después de este análisis, ya que la ubicación no corrige una estimación de carga errónea.
¿Cuánta memoria GPU necesita un modelo de IA?
La memoria mínima de un modelo corresponde aproximadamente al número de parámetros multiplicado por el número de bytes utilizados para cada parámetro. En 2026, un modelo de 70.000 millones de parámetros requiere alrededor de 140 GB en FP16 o BF16, 70 GB en INT8 o FP8 y 35 GB con cuantización de 4 bits, antes de añadir cualquier margen.
La cuantización reduce la precisión con la que se almacenan los números del modelo. Disminuye la memoria ocupada y puede aumentar el número de solicitudes procesadas en paralelo. Sin embargo, según las recomendaciones de NVIDIA publicadas en 2026, su efecto sobre la calidad y la latencia debe probarse con tareas reales, en lugar de deducirse únicamente del formato numérico.
El aspecto menos visible es la caché KV, una memoria temporal que conserva el contexto ya procesado. Cuanto más largos son los documentos y más numerosas las conversaciones, más crece esta caché. Por tanto, dos aplicaciones que utilicen el mismo modelo pueden requerir configuraciones muy diferentes.
Cada NVIDIA RTX PRO 6000 Blackwell Server Edition dispone en 2026 de 96 GB de memoria GDDR7 y de un ancho de banda de hasta 1,6 TB/s, según NVIDIA. Una máquina equipada con dos tarjetas ofrece 192 GB brutos; ocho tarjetas suman 768 GB brutos. Una parte sigue siendo necesaria para el motor de inferencia, los búferes de cálculo y el margen de seguridad.
En los proyectos que llevamos a cabo, a menudo vemos que el tamaño del modelo se convierte en un objetivo en sí mismo. Rara vez es una buena brújula. Para una tarea específica y sensible al tiempo de respuesta, un modelo más pequeño y de baja latencia puede costar menos y, al mismo tiempo, ofrecer una mejor experiencia.
¿Cuántas GPU se necesitan para los usuarios simultáneos?
El número de GPU no puede calcularse únicamente a partir de los pesos del modelo. En 2026, la simultaneidad, la longitud del contexto, el rendimiento por usuario y el tiempo hasta el primer token determinan la capacidad útil. El rendimiento total suele acabar estancándose, mientras la latencia sigue aumentando bajo carga.
El batching agrupa varias solicitudes para que la GPU las calcule conjuntamente. Esta técnica suele mejorar el rendimiento global, pero puede empeorar el tiempo de espera inicial y la velocidad percibida por cada usuario. Por tanto, una cifra elevada de tokens por segundo no indica necesariamente que la aplicación resulte agradable de usar.
Como referencia, una arquitectura de referencia de NVIDIA publicada en 2026 señala que una NVIDIA H100 NVL admitió 137 usuarios simultáneos de Llama 3.1 8B en FP8, con 2.977 tokens de salida por segundo y un TTFT de aproximadamente 987 ms. La prueba utilizó exactamente 2.000 tokens de entrada y 200 de salida: este resultado no puede extrapolarse sin reproducir esas condiciones.
Una prueba de carga seria modifica progresivamente la concurrencia con solicitudes representativas. Registra los tokens de salida por segundo, los tokens por segundo y por usuario, las solicitudes por segundo, el TTFT y el intervalo entre dos tokens. Dicho claramente, comprar antes de realizar esta prueba equivale a presupuestar una sala de reuniones sin conocer el número de participantes.
¿Qué valor tienen las configuraciones Lenovo AI Express Small, Medium y Large?
Lenovo AI Express ofrece desde septiembre de 2026 tres niveles prevalidados para la inferencia empresarial: Small, Medium y Large. Lenovo los asocia respectivamente con modelos de entre 7.000 y 70.000 millones, entre 70.000 y 400.000 millones y de hasta un billón de parámetros. Estos intervalos siguen siendo puntos de partida, no garantías de capacidad.
| Nivel | Servidor y GPU | Modelos objetivo | Carga indicativa de Lenovo | Envío anunciado |
|---|---|---|---|---|
| Small | ThinkSystem SR650a V4, 2 × NVIDIA RTX PRO 6000 | 7B a 70B | Decenas de usuarios, 30 tokens de salida/s o más | A partir de 15 días laborables |
| Medium | ThinkSystem SR675 V3, 8 × NVIDIA RTX PRO 6000 | 70B a 400B | Cientos de usuarios, 30 tokens de salida/s o más | A partir de 20 días laborables |
| Grande | ThinkSystem SR680a V4 con NVIDIA HGX B300 | Hasta 1 billón de parámetros | Miles de usuarios | A partir de 25 días laborables |
Lenovo precisa en 2026 que la capacidad real varía según el modelo, la carga, el software y el SLA, es decir, el compromiso contractual de nivel de servicio. Las cifras proceden de su herramienta interna de dimensionamiento. En la fecha del anuncio, el 30 de septiembre de 2026, no había disponible ningún precio de compra público fiable ni ninguna medición independiente comparable de las tres configuraciones.
Los plazos de Lenovo de 15, 20 y 25 días laborables anunciados en 2026 se refieren al envío de configuraciones que cumplen los requisitos. No garantizan que la plataforma esté operativa en esa fecha. La instalación eléctrica, la red, la seguridad, el motor de inferencia, la supervisión y las pruebas de recuperación prolongan el calendario real.
La alimentación se convierte rápidamente en un proyecto por derecho propio. Según la guía de NVIDIA de 2026, un sistema de referencia DGX B300 de ocho GPU contiene 2,3 TB de memoria GPU y consume hasta aproximadamente entre 14,5 y 15 kW. Es necesario comprobar la potencia disponible, la refrigeración y el alojamiento; los criterios para elegir un centro de datos van mucho más allá de la mera superficie ocupada.
¿Conviene comprar, alquilar GPU o utilizar una API de IA?
La compra resulta especialmente adecuada para una carga estable, sensible o duradera; el alquiler de GPU responde a necesidades variables y a la experimentación; una API factura principalmente los tokens procesados y reduce la explotación técnica. En 2026, la comparación pertinente se basa en el coste por token útil al nivel de servicio solicitado, no únicamente en la tarifa horaria.
Un servidor comprado suma el hardware, la financiación, la electricidad, la refrigeración, la red, las licencias, el soporte y el tiempo de explotación. También hay que tener en cuenta la capacidad no utilizada. Un servidor cuyos GPU son necesarios para cargar el modelo no puede absorber la pérdida de esa máquina sin interrupciones; una producción resiliente exige réplicas o capacidad de respaldo.
El alquiler transforma la inversión inicial en un gasto variable, pero las horas no utilizadas siguen facturándose morentras la instancia permanezca reservada. En 2026, AWS Capacity Blocks mostraba, por ejemplo, 41,528 dólares estadounidenses por hora horas impuestos y posibles tasas para una instancia p5.48xlarge con ocho NVIDIA H100 en la zona local US East Atlanta, frente a 98,84 dólares estadounidenses por hora horas impuestos y posibles tasas para una p6-b200.48xlarge con ocho NVIDIA B200 en varias regiones. La disponibilidad, las regiones y las condiciones comerciales varían.
Una API suele ser la opción racional para validar un uso, sobre todo corando la demanda es baja o imprevisible. Sin embargo, crea una dependencia del proveedor y obliga a examinar la ubicación de los datos, los plazos de conservación y los compromisos contractuales. Para una pyme francesa, estos aspectos se suman a las decisiones sobre soberanía y RGPD presentadas en la guía dedicada a Mistral y a los datos empresariales.
El compromiso recomendado por NVIDIA en 2026 consiste en reservar una capacidad base para la demanda previsible y utilizar después la nube para los picos. Desde el punto de vista de una agencia, lo lógico es calcular varios escenarios de carga en lugar de basarse en una media mensual engañosa. Con un presupuesto limitado, a veces es preferible una base modesta con doresbordamiento a la nube que un servidor sobredimensionado y poco utilizado.
¿Qué riesgos hay que prever antes de ponerlo en producción?
Un servidor GPU de IA empresarial debe diseñarse en torno a la continuidad del servicio, la seguridad de los datos, la explotación y la evolución de los modelos. En 2026, cargar correctamente un modelo no demuestra ni la resistencia a los picos ni la recuperación tras un fallo. Las pruebas deben incluir la saturación, la pérdida de un nodo y las actualizaciones.
Prevea un margen de memoria y de capacidad de cálculo, y documente el comportamiento cuando ese margen desaparezca. El mantenimiento es tan importante como el hardware: los controladores de NVIDIA, el motor de inferencia, los contenedores y el sistema operativo evolucionan a ritmos diferentes. Una política de actualización sin interrupciones de la producción reduce el riesgo de que una correctiva provoque una indisponibilidad inesperada.
La seguridad también abarca las consultas, los documentos inyectados en el modelo, los registros y las respuestas generadas. El cifrado, los permisos de acceso, el plazo de conservación y la trazabilidad deben definirse antes de abrir el sistema a los usuarios. En el caso de los datos personales, el RGPD sigue siendo aplicable, incluso corando el tratamiento se realiza en un servidor interno.
Definir este tipo de proyecto de antemano evita la mayoría de las sorpresas desagradables. Una perspectiva externa ayuda sobre todo a relacionar las hipótesis de negocio, las mediciones de rendormiento, la arquitectura de alojamiento y el presupuesto antes de asumir cualquier compromiso de hardware.
Preguntas frecuentes sobre los servidores GPU para la inteligencia artificial
¿Cabe un modelo de 70.000 millones de parámetros en dos GPU de 96 GB?
Un modelo de 70.000 millones de parámetros ocupa alrededor de 140 GB en FP16 o BF16 en 2026, antes de incluir la caché KV y los búferes. Dos GPU de 96 GB ofrecen 192 GB brutos, pero solo una prueba con el contexto y la concurrencia previstos confirma una capacidad utilizable.
¿La cuantificación de 4 bits siempre degrada la calidad?
La cuantización de 4 bits reduce notablemente la memoria de los pesos, pero su efecto depende del modelo y de la tarea. En 2026, la calidad de las respuestas y la latencia deben evaluarse con un conjunto representativo de casos de uso empresariales.
¿Cuánto tiempo se necesita para poner un servidor de IA en producción?
El plazo no se limita al envío del equipo. Lenovo anunciaba en septiembre de 2026 un inicio a partir de 15 días laborables para determinadas configuraciones Small, pero después vienen la instalación, la seguridad, el software y las pruebas de carga.
¿Qué métrica se debe seguir para comparar dos servidores GPU?
El coste por token útil al nivel de servicio esperado es la métrica económica más representativa en 2026. La comparación también debe mantener el TTFT, los tokens por segundo y por usuario, el rendimiento total y la tasa de errores bajo carga.