El auge de los SLMs (small language models) y por qué importan en LATAM

Lo grande no siempre gana

En 2024 todos hablaban de los LLMs gigantes. En 2026, gran parte de las soluciones que entregamos a empresas mexicanas usan modelos pequeños —entre 3 y 30 mil millones de parámetros— que corren en una sola GPU o incluso en CPU.

¿Por qué los SLMs importan tanto en LATAM?

1. Costo: una empresa mexicana mediana no tolera bien una factura mensual de 15,000 USD en API de OpenAI. Un SLM auto-hospedado puede correr por menos de 1,000 USD/mes.
2. Latencia: ejecutar el modelo en un datacenter en CDMX o Querétaro elimina los 200-300ms de viaje a US. Para chatbots y agentes, eso es la diferencia entre "lento" y "fluido".
3. Privacidad y soberanía de datos: muchas empresas reguladas (banca, salud, gobierno) no pueden enviar datos a APIs en el extranjero. SLM auto-hospedado resuelve esto de raíz.
4. Especialización: un SLM fine-tuneado en tu dominio supera a GPT-5 genérico en tareas estrechas. Y el fine-tuning hoy cuesta una fracción de lo que costaba en 2023.

Cuáles SLMs estamos usando

• Llama 4 8B y 30B: el caballo de batalla. Excelente calidad/costo, fácil de fine-tunear.
• Qwen 3: muy fuerte en razonamiento y código, soporte multilingüe sólido.
• Phi-5: de Microsoft. Sorprendentemente bueno para su tamaño, ideal para tareas estructuradas.
• Mistral Small: lo seguimos usando para tools simples y function calling.

Cuándo NO usar un SLM

• Cuando necesitas razonamiento extendido de varios pasos: ahí GPT-5 o Claude siguen ganando claramente.
• Cuando tu volumen es bajo (menos de 100k requests/mes): el costo operativo de tener tu propio modelo no se justifica.
• Cuando no tienes equipo de DevOps/MLOps: hospedar un SLM no es trivial, requiere monitoreo, escalado y mantenimiento.

Si tu empresa cumple los criterios de volumen y privacidad, un SLM bien afinado es probablemente la mejor decisión costo-beneficio que puedes tomar este año.