Sí, podés correr un modelo MoE de 2 billones de parámetros en una workstation sin GPU dedicada: cargás solo los expertos activos en RAM y streameás el resto desde NVMe bajo demanda. Esta guía explica cómo funciona el offloading de expertos, qué SSD y RAM necesitás, cómo la cuantización 4-bit lo hace viable, latencia real con llama.cpp, y los tradeoffs honestos frente a una API.

Cómo ejecutar modelos de 2 billones de parámetros sin GPU

Mixture of Experts (MoE) es la arquitectura que permite que modelos como Kimi K2 (1T parámetros totales, 32B activos) o Qwen3-30B-A3B (30.5B totales, 3.3B activos) paguen solo una fracción del cómputo por token sin sacrificar capacidad. Explicación pedagógica: expertos, router, parámetros totales frente a activos, por qué escala, y los tradeoffs reales de entrenamiento e inferencia que tenés que conocer antes de elegir un MoE para tu SaaS.

Artículos sobre MoE

Cómo ejecutar modelos de 2 billones de parámetros sin GPU

Mixture of Experts (MoE): qué es, cómo funciona y por qué importa en 2026