¿Vale la pena el NVIDIA DGX Spark? Análisis real después de varias semanas

Lo que ves en la foto es un computador pequeño, pero con la capacidad de ejecutar tu propio modelo de IA en tu casa o empresa. Este es el NVIDIA DGX Spark, un mini PC de escritorio que en realidad es algo más que eso: es un supercomputador personal para inteligencia artificial.

NVIDIA promete algo que suena bastante impresionante: 1 petaflop de rendimiento en IA, 128 GB de memoria unificada y soporte para modelos de hasta 200 mil millones de parámetros. Todo dentro de una caja que puedes poner al lado de tu monitor, sin depender de la nube, sin alquilar GPUs por hora y sin enviar tus datos a servidores externos.

Tuve el equipo prestado durante varias semanas para probarlo a fondo, así que en este artículo te cuento qué es lo que realmente puede hacer, dónde brilla, dónde se queda corto y para quién tiene sentido.

¿Qué es exactamente el DGX Spark?

En marzo de 2025, durante la GTC, NVIDIA presentó el DGX Spark. A simple vista parece un mini PC de escritorio, pero está pensado como una estación local para desarrollar, probar y ejecutar modelos de inteligencia artificial.

No es un equipo para uso común de oficina, videojuegos o navegación diaria (aunque también podría hacerlo). Está diseñado para desarrolladores, investigadores, estudiantes, empresas y equipos técnicos que quieran trabajar con modelos de IA de forma local. Con él puedes:

• Ejecutar agentes y hacer experimentos como crear tus propios RAG (chats que se conectan a una base de datos y responden a partir de esa información).
• Probar modelos open source o modelos fine-tuneados.
• Procesar datos privados de una empresa sin que salgan a la nube ni pasen por APIs de terceros. De hecho, ni siquiera necesitas internet para que el modelo funcione.
• Hacer fine-tuning ligero y preparar tus modelos antes de llevarlos a producción, sin estar pagando por hora en una nube.

El problema que intenta resolver

Hasta ahora, cuando querías trabajar con modelos muy grandes, tenías tres opciones:

1. Usar APIs de empresas como OpenAI, Anthropic o Google, pagando tokens por uso.
2. Alquilar GPUs en la nube y armarte tú mismo las pruebas, instalar todo el software y demás.
3. Armar una máquina propia cara y complicada, con varias tarjetas gráficas. Muy potente, pero bastante difícil de llevar a cabo.

El DGX Spark trata de colocarse en medio de todas estas opciones: quiere ser una especie de laboratorio de IA local, pequeño, potente y con mucha memoria, apoyado en todo el ecosistema de NVIDIA.

Eso sí, hay algo que se suele malentender con este tipo de equipos: no trata de reemplazar la nube de toda tu empresa, ni de competir con hardware especializado de datacenter, ni de ser un PC para simplemente chatear con modelos locales. Puede hacer muchas de esas tareas, pero su objetivo real es darte una máquina compacta para desarrollar aplicaciones de IA usando modelos abiertos, CUDA, TensorRT, contenedores y todo el stack de NVIDIA.

Especificaciones: el chip y la memoria

Lo primero que llama la atención es el chip. Es un superchip NVIDIA GB10 Grace Blackwell, que combina:

• CPU ARM de 20 núcleos.
• GPU con arquitectura Blackwell, con CUDA cores, Tensor Cores de quinta generación y soporte para FP4, NVFP4 y otras optimizaciones pensadas para IA.
• Todo el stack de software de NVIDIA: CUDA, cuDNN, TensorRT, NCCL, contenedores NGC y prácticamente todas sus herramientas para trabajar con modelos de IA.

Pero lo que más impresiona es la memoria: el equipo no viene con 32 ni 64, sino con 128 GB de memoria unificada. Esto significa que la CPU y la GPU acceden a un mismo bloque de memoria, en lugar de tener RAM y VRAM por separado.

Y esta es la clave para poder ejecutar modelos grandes. En una GPU tradicional, aunque tengas mucha potencia, estás limitado por la VRAM disponible. Una RTX 4090 o una RTX 5090 pueden ser rapidísimas, pero su VRAM es de apenas 24 o 32 GB, y ahí simplemente no cabe un modelo de 120 mil millones de parámetros completo.

El DGX Spark, con sus 128 GB, sí puede trabajar con modelos de hasta 200 mil millones de parámetros. Y algo aún más interesante: si conectas dos DGX Spark entre sí, duplicas la capacidad y podrías llegar a cargar modelos de hasta 400 mil millones de parámetros.

El detalle importante: el ancho de banda

Ahora viene la parte que el marketing no te cuenta tan fuerte: que un modelo entre en la máquina no significa que vaya a correr muy rápido.

En un modelo de lenguaje, la generación de texto (los tokens) está limitada por la memoria, no por la potencia de cálculo. Cada vez que el modelo genera un token, tiene que leer sus pesos desde la memoria, así que la velocidad real a la que escribe depende muchísimo del ancho de banda.

¿Cuánto ancho de banda tiene el Spark? 273 GB/s. Suena a mucho... hasta que lo comparas:

¿Qué significa esto en la práctica? Hay benchmarks de la comunidad cargando un modelo open source de ~120B de parámetros en el Spark:

• Procesamiento del prompt (leer tu entrada): muy rápido, alrededor de 1,700 tokens por segundo, gracias a los Tensor Cores del chip.
• Generación de texto (escribir la respuesta): ahí el ancho de banda lo limita, quedando en unos 35 a 40 tokens por segundo.

Sin embargo, hay dos matices importantes:

1. Modelos MoE (Mixture of Experts). Estos modelos no activan todos sus parámetros a la vez, sino solo una parte, así que el costo por ancho de banda no pesa tanto. Con modelos MoE, un Spark puede llegar a unos 100 tokens por segundo, y su gran cantidad de memoria le permite cargarlos sin problema.
2. Concurrencia. Si en lugar de chatear con el modelo le mandas muchas peticiones en paralelo (por ejemplo, un pipeline con cientos de documentos), el rendimiento se dispara: hay reportes de hasta 700 tokens por segundo sirviendo 256 flujos a la vez.

En resumen: el Spark no está pensado para el chat de una sola persona, pero brilla cuando lo pones a trabajar en lotes.

¿Para qué puedes usarlo realmente?

Más allá del marketing, este equipo no es solamente para tener un chatbot local. La idea es más interesante.

Servir modelos open source

Puedes instalar modelos completos con Ollama, llama.cpp, vLLM, o flujos más optimizados como TensorRT-LLM o NVIDIA NIM. El Spark ya viene preparado para que simplemente uses el hardware disponible y te concentres en tu software, no en la configuración.

Con él puedes correr modelos abiertos como Llama, Qwen, Gemma, Mistral o DeepSeek, o dejar que tus asistentes conversen con ellos. Por ejemplo, proyectos muy populares como Hermes u OpenClaw normalmente se usan con suscripciones pagadas, pero aquí podrías instalar un modelo local y tener tu agente consumiendo tu propio modelo, sin pagar ninguna suscripción. También puedes montar tu propio "ChatGPT" privado con interfaces como Open WebUI.

Ejecutar múltiples agentes a la vez (mi caso favorito)

Siendo desarrollador, y gracias a que me prestaron el equipo varias semanas, me di cuenta de algo: con tanta RAM, esta máquina no solo sirve para modelos locales, sino para ejecutar múltiples agentes de todo tipo en paralelo.

Si usas herramientas como Hermes, OpenCode o Cursor, seguro has notado que cuando abres muchos proyectos o delegas muchas tareas, tu máquina empieza a ralentizarse. Eso es por la poca memoria. El Spark no tiene ese problema: puedes descargar tus repositorios dentro del equipo, conectarte por SSH desde tu máquina principal y dejar que el Spark haga todo el trabajo pesado.

Claude Code puede ejecutarse dentro del Spark, igual que OpenCode o Codex. Estas semanas incluso lo probé junto con Kimi ejecutando 20 subagentes a la vez, y a esta máquina ni siquiera le supone un esfuerzo.

Si eres freelance y trabajas en múltiples proyectos en paralelo, quizás no necesitas renovar todo tu setup: simplemente necesitas uno de estos equipos haciendo el trabajo pesado.

IA privada para empresas

Si una empresa quiere un chat que trabaje con sus datos locales —clínicas, datos gubernamentales, financieros o legales—, puede instalar un modelo local en este equipo junto a un chat open source, y no necesita ni internet para funcionar, ya que todo se procesa dentro de la máquina.

Generación de imágenes

También puedes instalar software como ComfyUI con modelos como FLUX o Stable Diffusion. El equipo puede hacerlo, aunque no es instantáneo: genera una imagen en resolución 1K cada ~2.6 segundos aproximadamente. Puede generar imágenes e incluso algunos flujos de video o animación, pero no es su punto más fuerte.

Fine-tuning ligero

Aquí es donde el Spark brilla de verdad. Para hacer fine-tuning normalmente necesitas mucho hardware corriendo mucho tiempo, y la nube cobra por uso:

• Fine-tuning sobre una API comercial más un modelo desplegado funcionando todo el tiempo puede llegar a costarte $10,000 al mes.
• Un LoRA o QLoRA de un modelo de 7B u 8B en una GPU alquilada puede costarte $100 en unas pocas horas. Imagínate el gasto mensual.

Con el Spark puedes ajustar un Llama 3.1 de 8B con LoRA alcanzando picos decentes de miles de tokens por segundo durante el entrenamiento. No es entrenar desde cero, pero estás experimentando y adaptando el modelo a tus datos, y puedes dejar la máquina corriendo por horas sin que te cobre nadie. En una empresa esto sirve para analizar documentos internos, resumir reportes o crear asistentes privados.

¿Para quién tiene sentido?

De forma resumida, el DGX Spark tiene sentido para:

• Desarrolladores que trabajan seriamente con IA local.
• Equipos que necesitan privacidad de datos (con dos Spark, incluso pueden montar un modelo grande consultable por toda la organización).
• Startups que quieren prototipar productos de IA sin quemar presupuesto en la nube.
• Investigadores que quieren probar modelos grandes.
• Universidades y laboratorios que quieren que sus alumnos entrenen modelos propios sin gastar en GPUs alquiladas.

Mi experiencia en la práctica

Lo tuve varias semanas y no hace ni siquiera ruido. Es un equipo muy fácil de usar: le conectas teclado, mouse y monitor, y listo. También puedes conectarte desde tu red local para usar el software que tiene instalado.

Como resumen de especificaciones: superchip NVIDIA GB10 Grace Blackwell, CPU ARM de 20 núcleos, GPU Blackwell con Tensor Cores de quinta generación, 1 petaflop de rendimiento en IA, 128 GB de memoria unificada y 273 GB/s de ancho de banda.

¿Vale la pena? Si tu caso de uso es chatear con un modelo, probablemente no: hay opciones más rápidas y baratas. Pero si desarrollas con IA local, ejecutas agentes en paralelo, procesas datos privados o haces fine-tuning ligero, es una de las formas más simples de tener un laboratorio de IA completo en tu escritorio.

Por cierto, estoy preparando un curso de DGX Spark donde verás paso a paso cómo se utiliza, sus características y casos prácticos. Estén atentos esta semana.

Si tienes alguna duda o quieres cotizar uno de estos equipos, revisa los enlaces en la descripción del video. Y como siempre, puedes reservar asesorías personalizadas en fazt.dev.