¿Necesitas 128 GB de RAM para Inteligencia Artificial local?

Los mini PC con 128 GB de memoria unificada se han puesto de moda como la solución definitiva para tener Inteligencia Artificial local en casa sin pagar suscripción a nadie. El titular vende: “corre modelos de 70.000 millones de parámetros en tu escritorio”. La realidad, cuando miras las pruebas independientes, tiene bastantes más matices que un titular.

Voy a repasar qué modelos caben de verdad en 128 GB, a qué velocidad responden según benchmarks reales (no cifras de marketing) y qué problemas prácticos suelen quedarse fuera del vídeo promocional.

Por qué 128 GB se ha convertido en la cifra de moda

El salto viene del hardware con memoria unificada: en vez de separar RAM del sistema y VRAM de la GPU como en un PC de toda la vida, la CPU y la GPU integrada comparten el mismo banco de memoria. Eso permite asignar cantidades enormes de “VRAM” sin comprar una tarjeta gráfica dedicada.

La plataforma que ha disparado esta tendencia es el AMD Ryzen AI Max+ 395, con CPU Zen 5 y gráfica integrada Radeon 8060S. Fabricantes como GMKtec, Beelink, Corsair, NIMO, Bosgame o FAVM ya venden mini PCs con esta plataforma y 128 GB de LPDDR5X por menos de 2.000 €, frente a los varios miles de euros que cuesta una GPU profesional con esa cantidad de VRAM. Apple lleva el mismo camino por su lado con la memoria unificada de sus chips M.

Qué modelos caben de verdad en 128 GB

Aquí es donde conviene hacer cuentas antes de comprar nada. La regla que usa la comunidad para calcular el tamaño de un modelo cuantizado es aproximada pero útil: en cuantización Q4 (4 bits por parámetro), cada mil millones de parámetros ocupa unos 0,6 GB; en Q5, sube a unos 0,7 GB.

Con eso, en un sistema de 128 GB (dejando margen para el sistema operativo y el contexto de la conversación):

• Llama 3.3 70B (denso): unos 40-48 GB en Q4. Cabe con margen de sobra.
• Qwen 3.5 122B-A10B: entre 70 y 81 GB en Q4. Cabe, pero ya se come la mayor parte de la memoria disponible.
• En Q5, el límite teórico ronda modelos de hasta 130-135B parámetros, aunque en la práctica casi nadie deja tan poco margen libre para el contexto.

El número de parámetros no es lo único que importa. Un modelo denso de 70B activa los 70.000 millones de parámetros en cada token que genera. Un modelo tipo mixture-of-experts (MoE) como GPT-OSS-120B, de OpenAI, tiene 117.000 millones de parámetros en total pero solo activa 5.100 millones por token. Ese detalle es la diferencia entre una respuesta que tarda segundos y una que tarda minutos, como se ve en el siguiente apartado.

Cuánto tarda en responder: los números que importan

ServeTheHome publicó pruebas reales sobre el Beelink GTR9 Pro (Ryzen AI Max+ 395, 128 GB) que conviene mirar antes de sacar la tarjeta:

• Meta Llama 3.3 70B (modelo denso): unos 5 tokens por segundo. Para uso interactivo, eso es lento: notas la espera en cada respuesta.
• GPT-OSS 120B (MoE, solo 5.100 millones de parámetros activos): 31,41 tokens por segundo. Una diferencia de más de 6 veces con un modelo de tamaño total parecido.

Aquí está el motivo técnico: la memoria unificada tiene menos ancho de banda que la VRAM de una GPU dedicada, y un modelo denso necesita leer TODOS sus parámetros de memoria en cada token que genera. Un modelo MoE solo necesita leer la fracción de parámetros que se activa, así que el cuello de botella de ancho de banda pesa mucho menos.

La conclusión práctica: para tener una experiencia fluida en 128 GB, conviene priorizar modelos MoE sobre modelos densos grandes, aunque el número total de parámetros parezca más pequeño en el titular.

Otro detalle que suele pasar desapercibido: cómo repartes la memoria entre CPU y GPU integrada afecta al rendimiento. En las pruebas de ServeTheHome, el reparto de fábrica (96 GB para la GPU integrada, 32 GB para la CPU) no es necesariamente el óptimo. Otros repartos, como dejar solo 2 GB a la GPU y 126 GB a la CPU, mejoran el rendimiento en tareas donde pesa más la CPU que la inferencia gráfica.

Cuánto cuesta montar esto

El Beelink GTR9 Pro con 128 GB de RAM y 2 TB de SSD sale por unos 1.985 dólares en su configuración estándar, con el Ryzen AI Max+ 395, doble puerto 10GbE y hasta cuatro pantallas 8K. Es un precio muy por debajo de lo que costaría montar un equipo con GPU dedicada y 128 GB de VRAM real, que en el mundo profesional (NVIDIA H100, por ejemplo) se mueve en decenas de miles de euros.

Apple ofrece memoria unificada equivalente en sus equipos Mac con chips M de gama alta, aunque a un coste distinto y con un ecosistema de software diferente (MLX en vez de CUDA o ROCm).

Lo que nadie cuenta en el vídeo promocional

Aquí está la parte que separa “esto es una pasada” de “esto es una locura” en el sentido menos favorable. Los comentarios de usuarios reales en la review de ServeTheHome hablan de ruido de ventilador de hasta 52 dBA cuando el sistema trabaja a fondo, y de que activar el rendimiento máximo de 160W del chip “falla en el apartado de sonido y refrigeración”. Para un equipo pensado para estar encendido en un despacho o al lado de la mesa, ese nivel de ruido es un problema real, no una nota a pie de página.

Sumado a la velocidad de 5 tokens por segundo en modelos densos grandes, la foto completa es esta: 128 GB de memoria unificada te da acceso a modelos que antes solo cabían en hardware de varios miles de euros, pero no te da el rendimiento de ese hardware profesional. Es una solución de compromiso, no un atajo gratis a lo mismo que tienen los centros de datos.

Entonces, ¿merece la pena?

Depende de para qué lo quieras. Si buscas correr modelos MoE bien optimizados para tareas de programación, resumen o automatización sin depender de la nube, un equipo de 128 GB de memoria unificada da un salto real de capacidad por menos de 2.000 €. Si lo que quieres es la latencia de un modelo denso de 70B respondiendo como si fuera un chat en la nube, te vas a llevar una decepción con 5 tokens por segundo.

Montar infraestructura de Inteligencia Artificial local, sea para un proyecto personal o para procesos que no quieres mandar a un proveedor externo, es exactamente el tipo de decisión que conviene dimensionar antes de comprar hardware, no después. Puedo ayudarte si lo necesitas a nivel profesional para tu empresa.

Preguntas frecuentes

¿128 GB de RAM unificada es lo mismo que 128 GB de VRAM de una GPU dedicada?

No exactamente. La memoria unificada la comparten la CPU y la GPU integrada, y su ancho de banda es menor que el de la VRAM dedicada de una tarjeta gráfica profesional, lo que limita la velocidad de inferencia en modelos densos grandes.

¿Qué modelo de Inteligencia Artificial corre mejor en 128 GB de memoria unificada?

Los modelos tipo mixture-of-experts, como GPT-OSS-120B, que solo activan una fracción de sus parámetros por token, dan mucho mejor rendimiento que modelos densos del mismo tamaño total, como Llama 3.3 70B.

¿Cuánto cuesta un equipo con 128 GB de memoria unificada para Inteligencia Artificial local?

El Beelink GTR9 Pro con Ryzen AI Max+ 395, 128 GB de RAM y 2 TB de SSD cuesta alrededor de 1.985 dólares en su configuración estándar, según los listados oficiales del fabricante.

¿Necesito conocimientos técnicos avanzados para montar un servidor de Inteligencia Artificial local?

Herramientas como Ollama o LM Studio simplifican bastante la instalación de modelos, pero entender la diferencia entre cuantización, memoria unificada y tipos de arquitectura (densa frente a mixture-of-experts) ayuda a no comprar hardware que no cumple lo que esperas.

Fuentes

• Beelink GTR9 Pro Review: AMD Ryzen AI Max+ 395 System with 128GB and dual 10GbE (ServeTheHome)
• Beelink’s $1,985 GTR9 Pro packs AMD AI 395 power, dual 10GbE ports, and 128GB RAM (TechRadar)
• Introducing gpt-oss (OpenAI)

Compártelo si te ha resultado útil.

¿Tienes o te planteas montar un equipo así para Inteligencia Artificial local? Cuéntame qué modelos corres.

Y… a ver qué saca la próxima generación de memoria unificada.