Sí, podés correr un modelo MoE de 2 billones de parámetros en una workstation sin GPU dedicada: cargás solo los expertos activos en RAM y streameás el resto desde NVMe bajo demanda. Esta guía explica cómo funciona el offloading de expertos, qué SSD y RAM necesitás, cómo la cuantización 4-bit lo hace viable, latencia real con llama.cpp, y los tradeoffs honestos frente a una API.

Cómo ejecutar modelos de 2 billones de parámetros sin GPU

Mixture of Experts (MoE) es la arquitectura que permite que modelos como Kimi K2 (1T parámetros totales, 32B activos) o Qwen3-30B-A3B (30.5B totales, 3.3B activos) paguen solo una fracción del cómputo por token sin sacrificar capacidad. Explicación pedagógica: expertos, router, parámetros totales frente a activos, por qué escala, y los tradeoffs reales de entrenamiento e inferencia que tenés que conocer antes de elegir un MoE para tu SaaS.

Mixture of Experts (MoE): qué es, cómo funciona y por qué importa en 2026

Cuánta RAM necesitás para correr un LLM local en 2026 depende de tres variables: tamaño del modelo, cuantización (Q4_K_M, Q5, Q8, FP16) y longitud de contexto (KV cache). Esta guía cubre la fórmula memoria ≈ params × bytes + KV cache + overhead, configuraciones concretas para 8, 16, 32 y 64 GB, y qué cambia si usás GPU discreta, memoria unificada de Apple Silicon, o almacenamiento como respaldo.

Cuánta RAM necesitas para correr IA local en 2026: la guía honesta para 8, 16, 32 y 64 GB

Explicación para audiencia general de cómo los modelos procesan contextos extremadamente largos: tokenización, atención, recuperación, costo, latencia y degradación de precisión. Tabla verificada de qué modelos ofrecen 1M de contexto en 2026, comparación de precios y guía práctica de cuándo usar un millón de tokens (y cuándo RAG sigue ganando).

Cómo funcionan los modelos con un millón de tokens de contexto (y qué modelos lo entregan en 2026)

Anthropic bajó el precio de Claude Sonnet 5 a USD 2 / 10 por millón de tokens (input/output) hasta el 31 de agosto de 2026. Versus Opus 4.8 eso es hasta 80% menos costo de inferencia según el workload. Para founders SaaS, CFOs y CTOs evalúando Claude o migrando desde GPT-5.6: acá está la tabla de pricing actualizada, el cálculo de unit economics y la checklist operativa para revisar tu COGS esta semana.

Claude Sonnet 5 a $2/$10: el costo de la inferencia cayó hasta 80% — revisá tu COGS esta semana

Claude Opus 5 (claude-opus-5) es el modelo de la tier Opus lanzado por Anthropic el 24 de julio de 2026: 1M tokens de contexto, thinking habilitado por default, $5/MTok input y $25/MTok output (mismo precio que Opus 4.8). Specs, pricing, código con el SDK de Anthropic, comparativa honesta con Fable 5, M3, Kimi K3 y GPT-5.6 Sol, y cuándo tiene sentido migrar.

Claude Opus 5: qué cambia frente a Opus 4.8 y cuándo usarlo (2026)

MiniMax M3 es el modelo frontier open-weight de MiniMax con contexto 1M tokens, multimodalidad nativa (texto, imagen, video, audio) y enfoque en coding & agentic. Specs, pricing, cómo correrlo local vs API, y cuándo conviene sobre Claude Fable 5 o GPT-5.6 Sol.

MiniMax M3: el modelo frontier open-weight con contexto 1M y multimodalidad nativa (2026)

Kimi K3 es el primer modelo open de 2.8T parámetros de Moonshot AI, con ventana de 1M tokens, visión nativa y arquitectura Kimi Delta Attention + Attention Residuals. Comparativa con K2, benchmarks, pricing y cuándo conviene elegirlo sobre Claude Sonnet o GPT-5.6.

Kimi K3 de Moonshot AI: qué cambia frente a K2 y cuándo usarlo (2026)

Gemini 3.6 Flash reduce output tokens un 17% frente a 3.5 Flash con mejor calidad en coding y multimodal. Gemini 3.5 Flash-Lite corre a 350 tokens/s para workloads de alto throughput. Pricing, benchmarks, cuándo elegir cada uno y cuándo conviene seguir con 3.5 Flash o mirar alternativas como Claude Haiku.

Artículos sobre LLM