Los agentes autónomos de IA ya no se limitan a responder una pregunta. Pueden investigar durante largos periodos, coordinar subagentes, ejecutar herramientas y mantener procesos en segundo plano. Esa autonomía aumenta la presión sobre la memoria, la capacidad de cómputo y la velocidad con la que un sistema procesa contextos extensos.

En un análisis técnico publicado por NVIDIA, la compañía presenta a DGX Spark como una plataforma de escritorio para desarrollar y ejecutar estas cargas localmente. Los resultados muestran cómo cambia el rendimiento al aumentar el número de tareas y al conectar hasta cuatro equipos.

La magnitud del reto: según NVIDIA, un agente autónomo puede trabajar habitualmente con contextos de 30.000 a 120.000 tokens y alcanzar 250.000 tokens en solicitudes complejas. En este escenario, procesar el prompt puede convertirse en el principal cuello de botella.

Rendimiento con contextos de 128.000 tokens

NVIDIA evaluó tres modelos con una entrada de 128.000 tokens y una respuesta de 1.000 tokens, usando una sola tarea. Los datos permiten separar el tiempo dedicado a comprender el contexto del tiempo dedicado a generar la respuesta.

Modelo y motor Latencia total Procesamiento del prompt Generación
Nemotron 3 Super 120B, NVFP4, TensorRT LLM 99 s 2.855 tokens/s 18 tokens/s
Qwen3.5 35B A3B, FP8, vLLM 73 s 3.080 tokens/s 35,75 tokens/s
Qwen3 Coder Next 80B, FP8, vLLM 89 s 2.390 tokens/s 28,95 tokens/s

Más agentes a la vez sin multiplicar la espera

La concurrencia importa cuando un agente principal divide el trabajo entre varios subagentes. Con Qwen3 Coder Next en vLLM, una tarea tardó 35 segundos y cuatro tareas simultáneas tardaron 91 segundos. Es decir, se completó cuatro veces más trabajo en aproximadamente 2,6 veces el tiempo.

  • 1 tarea: 3.261 tokens/s en procesamiento del prompt.
  • 2 tareas: 5.363 tokens/s.
  • 4 tareas: 9.616 tokens/s.

El rendimiento agregado del procesamiento del prompt aumentó casi tres veces. NVIDIA atribuye esta capacidad a la paralelización del Grace Blackwell Superchip y al soporte de motores como TensorRT LLM, vLLM y SGLang.

De uno a cuatro nodos DGX Spark

Cada DGX Spark aporta 128 GB de memoria unificada. Al conectar varios nodos mediante redes de baja latencia con ConnectX-7 y RoCE, la plataforma amplía tanto la memoria disponible como el tipo de carga que puede ejecutar.

  • Un nodo: inferencia local con baja latencia, contextos extensos y ajuste de modelos de hasta 120B parámetros.
  • Dos nodos: equilibrio entre velocidad y capacidad, con inferencia de modelos de hasta 400B parámetros.
  • Tres nodos en anillo: ajuste de modelos más grandes y trabajos pequeños de entrenamiento.
  • Cuatro nodos con switch RoCE de 200 GbE: servidor local de inferencia para modelos de hasta 700B parámetros y cargas intensivas en comunicación.

Cuándo el escalamiento se acerca a ser lineal

Las mejores ganancias aparecen cuando cada GPU puede trabajar de forma independiente y sincronizar resultados al final. En el ajuste de Nanochat, NVIDIA reportó un rendimiento aproximado de 18.400 tokens/s con un nodo, 35.900 con dos y 74.600 con cuatro: cerca de 4 veces el rendimiento inicial.

En Isaac Lab, una carga de aprendizaje por refuerzo pasó de 630 FPS con un nodo a 2.520 FPS con cuatro. En cambio, cuando el modelo debe intercambiar resultados continuamente entre nodos, la comunicación reduce la eficiencia y el escalamiento deja de ser lineal.

Desarrollar localmente y desplegar en la nube

DGX Spark no pretende sustituir toda la infraestructura de producción. La propuesta es desarrollar y validar localmente, y después trasladar la carga a GPUs NVIDIA Blackwell B200 o B300, Hopper o Ampere en la nube.

Para este flujo, NVIDIA destaca Tile IR, cuTile Python y TileGym. Estas herramientas permiten escribir un kernel una vez, probarlo en DGX Spark y desplegarlo en otra arquitectura con cambios mínimos. La configuración final todavía debe adaptarse a las características de cada GPU; NVIDIA anticipa que futuras versiones de cuTile automatizarán parte de ese ajuste.

Qué significa para una empresa

Los datos apuntan a una arquitectura práctica para equipos que necesitan agentes siempre activos, privacidad local o experimentación frecuente:

  • Prototipar agentes y flujos multiagente cerca de los datos.
  • Ejecutar modelos grandes sin depender de una solicitud remota para cada tarea.
  • Aumentar capacidad conectando nodos según el tamaño del modelo.
  • Mover el trabajo validado a infraestructura de nube sin rediseñar todos los kernels.
Cómo interpretar las cifras: son resultados representativos publicados por NVIDIA bajo configuraciones específicas de modelo, cuantización, contexto, lote y red. El rendimiento de una implementación real dependerá de la carga, el software, la topología y la frecuencia con la que los nodos deban comunicarse.

Conclusión

La evolución de los agentes autónomos exige pensar más allá de la velocidad de una respuesta individual. Contexto, concurrencia, memoria y comunicación entre nodos determinan si un sistema puede sostener tareas complejas. DGX Spark muestra una ruta gradual: comenzar con un equipo local, escalar hasta cuatro nodos y trasladar a la nube las cargas que requieren capacidad de centro de datos.

Fuente y atribución
Este artículo es una síntesis editorial en español basada en el análisis técnico “Scaling Autonomous AI Agents and Workloads with NVIDIA DGX Spark”, escrito por Allen Bourgoyne y publicado por NVIDIA el 16 de marzo de 2026.

Consultar el artículo original en NVIDIA →
← Volver al Blog