IA local: gobernanza antes de la compra de hardware
Benedikt Langer
10 min de lecturaCuatro desarrollos en dos semanas demuestran que la IA operada en local va mucho más ...
Las empresas europeas gestionan su infraestructura de IA casi exclusivamente a través de proveedores estadounidenses o chinos. Gemma 4 de Google, un modelo de código abierto que funciona en hardware propio y que en pruebas alcanza niveles comparables con los modelos de vanguardia, cambia los cálculos. La pregunta para los CIO ya no es si la IA local es lo suficientemente potente. La pregunta es cuán rápido pueden impulsar la creación de capacidades propias de IA.
Cuando las organizaciones de TI integran hoy la IA en sus procesos empresariales, lo hacen generalmente mediante APIs. OpenAI, Google, Anthropic, y cada vez más también DeepSeek y Alibaba. La integración es rápida, los resultados son buenos y los costos inicialmente manejables.
Lo que a menudo se pasa por alto en la euforia: cada una de estas integraciones representa una dependencia estratégica. Y las dependencias estratégicas tienen la característica de reforzarse: cuanto más profunda es la integración, más difícil resulta salirse de ella.
Tres escenarios que no son hipotéticos:
Soberanía de precios: OpenAI ha ajustado varias veces sus precios de API en los últimos dos años, en ambas direcciones. Quien haya calculado sus procesos empresariales en función de un precio determinado por token queda expuesto a estos cambios. Con un volumen creciente, los costos pueden aumentar más rápido que los beneficios.
Riesgo geopolítico: Las restricciones a la exportación de tecnología de IA ya son una realidad. EE. UU. ha restringido fuertemente la exportación de chips a China. China regula el acceso a sus modelos de IA para usuarios extranjeros. Europa está en medio, como consumidor, no como productor. ¿Qué sucede si un conflicto comercial limita el acceso a las APIs de IA estadounidenses?
Divergencia regulatoria: La Ley de IA de la UE exige transparencia y documentación de los sistemas de IA. En los servicios en la nube, el control sobre el comportamiento del modelo y los datos de entrenamiento recae en el proveedor, no en el usuario. Esto genera una brecha de cumplimiento (compliance) que se amplía con cada nueva regulación.
«Gemma ofrece un rendimiento sin precedentes por parámetro. Estos modelos no son masivos; son modelos relativamente pequeños, perfectamente adecuados para funcionar en tu propia GPU.»
– Google, Anuncio de Gemma 4 (abril de 2026, traducción libre)
Hasta ahora, la objeción contra la IA local era: demasiado débil, demasiado complicado, demasiado caro. Con Gemma 4, Google desmonta estos tres argumentos:
Para comparar: Qwen 3.5 de Alibaba ofrece valores similares en pruebas, pero requiere 397 mil millones de parámetros. Esto solo es posible en la nube. Gemma 4 de 31B funciona en un ordenador que cabe en cualquier oficina.
Cuatro tamaños de modelo (de 2B a 31B de parámetros) cubren el espectro desde el smartphone hasta la estación de trabajo. Las versiones más pequeñas procesan audio, vídeo e imágenes directamente en el dispositivo final. Los modelos más grandes soportan llamadas a funciones y salidas estructuradas, requisito indispensable para flujos de trabajo automatizados sin intervención humana.
Para los responsables de TI, la cuestión no es una decisión tecnológica, sino un asunto de gobernanza: ¿Qué control sobre su infraestructura de IA desea y puede mantener la empresa?
Exclusivamente en la nube (situación actual en la mayoría): Máxima calidad con mínimo esfuerzo propio. Pero: dependencia máxima, control mínimo sobre costos, flujos de datos y disponibilidad. Adecuado para empresas con bajo volumen de IA y casos de uso no críticos.
Exclusivamente local: Máximo control y soberanía de datos. Pero: requiere infraestructura GPU, competencias en MLOps y aceptar que el límite de calidad está por debajo del nivel de vanguardia. Adecuado para sectores altamente regulados y aplicaciones con datos sensibles.
Híbrido (el término medio racional): Modelos locales para el 70-80% de las inferencias estándar (clasificación, resumen, extracción de datos, tareas rutinarias). Modelos de vanguardia en la nube para el 20-30% restante (análisis complejo, tareas estratégicas, aplicaciones creativas). El enrutamiento según la sensibilidad de los datos y la complejidad de la tarea se convierte en una nueva tarea de arquitectura.
La arquitectura híbrida tiene un desencadenante de inversión: la base local debe construirse ahora. Adquisición de GPU, canalización MLOps, lógica de enrutamiento, control de acceso. Quien espere, profundiza aún más su dependencia de los proveedores en la nube y encarece el cambio posterior.
Los grandes modelos de código abierto provienen de EE. UU. (Meta, Google, Mistral) y China (Alibaba, DeepSeek, Zhipu). Europa apenas produce modelos fundacionales propios con un rendimiento comparable. Esta debilidad estructural no ha sido compensada hasta ahora por iniciativas como Gaia-X o startups europeas de IA.
Lo que Europa sí puede hacer: operar los modelos de código abierto disponibles en su propia infraestructura, manteniendo así al menos la soberanía operativa. Modelos con licencia Apache 2.0 como Gemma 4 permiten exactamente eso, sin depender de la buena voluntad del fabricante.
Para los CIO de empresas en la región DACH, esta es la respuesta pragmática a la cuestión de soberanía: no esperar modelos europeos de vanguardia (que quizás nunca lleguen), sino implementar los mejores modelos abiertos disponibles en infraestructura propia. La licencia lo permite. El hardware está disponible. La calidad es suficiente.
Tres puntos para la próxima reunión estratégica:
Presupuestar GPU: La inferencia local de IA requiere capacidad GPU dedicada. Es un nuevo ítem en el presupuesto de TI, pero con un ROI claro. Una estación de trabajo GPU (3.000-5.000 euros) sustituye costos de API de 500-2.000 euros mensuales. La amortización se sitúa entre tres y doce meses, dependiendo del volumen de uso.
Desarrollar competencias en MLOps: Instalar, actualizar, integrar en sistemas existentes y supervisar modelos locales requiere conocimientos que muchos equipos de TI aún no poseen. El esfuerzo es manejable (comparable con la creación de una nueva infraestructura de bases de datos), pero debe planificarse y presupuestarse.
Definir la arquitectura de enrutamiento: ¿Qué tareas se ejecutan localmente y cuáles mediante APIs en la nube? Los criterios de decisión: sensibilidad de los datos, complejidad de la tarea, requisitos de latencia y costos. Este enrutamiento se convertirá en una nueva competencia clave de la organización de TI, comparable con la decisión de híbrido en la nube hace diez años.
La analogía con la migración a la nube es intencionada: entonces tampoco se trataba de todo o nada, sino de la distribución adecuada. Y también entonces, las empresas que desarrollaron una estrategia temprana tuvieron ventaja, en lugar de reaccionar pasivamente al mercado.
No. La IA en la nube sigue siendo la mejor opción para las tareas más complejas. El argumento es: no todo necesita ir a la nube. Para la mayoría de las cargas de trabajo de IA, los modelos locales ofrecen actualmente calidad suficiente, con mejor control y menores costos. La estrategia inteligente es híbrida, no dogmática.
No. Apache 2.0 es una licencia perpetua: una vez publicado bajo esta licencia, el software permanece permanentemente libre de uso. Google podría publicar versiones futuras bajo otra licencia, pero Gemma 4 ya publicado permanece bajo Apache 2.0. Esta es una diferencia fundamental con los servicios en la nube propietarios, cuyos términos de uso pueden modificarse en cualquier momento.
No es necesario un equipo dedicado de IA para comenzar. Configurar un modelo local mediante frameworks como Ollama o vLLM es factible en un día para administradores de TI experimentados. Para la integración en procesos empresariales y la operación continua, se recomienda asignar la responsabilidad a un equipo existente (infraestructura o plataforma), no como tarea a tiempo completo, sino como ampliación del espectro de funciones.
Europa cuenta con Mistral (Francia) como actor relevante en el ámbito de código abierto, pero su rendimiento en modelos no alcanza al de Google, Meta o Alibaba. La estrategia de la UE apuesta más por la regulación (Ley de IA) que por desarrollar sus propios modelos fundamentales. Para las empresas, esto significa pragmáticamente: operar los mejores modelos abiertos disponibles en infraestructura propia y así garantizar soberanía operativa, sin esperar modelos europeos de vanguardia.
A medio plazo, sí. Si el 70-80% de la inferencia estándar se realiza localmente, el volumen de API con proveedores en la nube disminuirá en consecuencia. Sin embargo, los costos totales de IA deben analizarse de forma diferenciada: a los costos de API reducidos se suman inversiones en hardware, desarrollo de competencias e infraestructura. El punto de equilibrio (break-even) suele situarse entre tres y doce meses, dependiendo del volumen de uso y los gastos previos en IA en la nube.
Fuente imagen principal: Pexels