La presión para adoptar inteligencia artificial ha llegado con fuerza al sector público. Pero mientras las empresas privadas dan por sentadas la conectividad continua, la infraestructura en la nube y el acceso a GPU, muchos organismos gubernamentales operan en condiciones radicalmente distintas. Un estudio de Capgemini revela que el 79 % de los directivos del sector público en todo el mundo desconfía de la seguridad de datos de la IA.
En ese contexto, una alternativa más compacta y especializada empieza a ganar terreno en silencio.
La brecha entre la promesa de la IA y la realidad del sector público
El sector privado da por sentadas condiciones que muchos organismos públicos sencillamente no pueden garantizar: conectividad continua a la nube, infraestructura centralizada y libertad para mover datos entre sistemas. Para una administración que gestiona información sensible de ciudadanos, asumir esas condiciones puede ser peligroso o directamente inviable.
Las consecuencias son concretas. Según una encuesta de Elastic, el 65 % de los líderes del sector público tiene dificultades para usar datos de forma continua, en tiempo real y a escala. A esto se suma la escasez de unidades de procesamiento gráfico (GPU), el hardware especializado necesario para entrenar y ejecutar modelos complejos. Han Xiao, vicepresidente de IA en Elastic, señala que los organismos públicos «no están acostumbrados a gestionar infraestructura de GPU», lo que convierte el acceso a estos recursos en un cuello de botella real.
El resultado es que muchos proyectos de IA pública no logran salir de la fase experimental. La continuidad operativa —que el sistema funcione de forma fiable, con todo tipo de datos y sin interrupciones— sigue siendo, según Xiao, uno de los factores más subestimados en el despliegue de IA.
Modelos pequeños para problemas grandes: por qué los SLM encajan donde los LLM no pueden
Frente a estas limitaciones, los modelos de lenguaje pequeños (SLM, por sus siglas en inglés) ofrecen una alternativa más viable. A diferencia de los grandes modelos de lenguaje (LLM), que pueden utilizar cientos de miles de millones de parámetros, los SLM trabajan con miles de millones. La diferencia es notable: su exigencia computacional cae de forma drástica.
Esta reducción tiene implicaciones prácticas inmediatas. Los SLM pueden alojarse dentro del propio organismo, sin necesidad de enviar información a servidores externos, lo que mantiene los datos sensibles bajo control institucional. En entornos gubernamentales, esa condición no es negociable.
Los resultados también avalan el enfoque. Un estudio empírico encontró que los SLM rindieron igual o mejor que los LLM en tareas específicas. Las previsiones apuntan en la misma dirección: Gartner predice que para 2027 los modelos pequeños y especializados se usarán tres veces más que los LLM.
Más allá del chatbot: la búsqueda inteligente como punto de partida
Cuando se habla de IA en el sector público, la primera imagen que surge suele ser la de un chatbot. Esa visión reduce el potencial real de la tecnología. «Podemos ser mucho más ambiciosos», afirma Xiao.
Las administraciones acumulan cantidades ingentes de datos no estructurados: informes técnicos, actas de reuniones, facturas, imágenes, grabaciones, documentos de contratación. Gran parte de ese material está infrautilizado, no porque carezca de valor, sino porque resulta difícil de consultar y analizar con eficiencia. Los SLM pueden indexar contenido multimedia y multilingüe para ofrecer respuestas contextualizadas y legalmente conformes, interpretar normativa legal o extraer conclusiones de consultas públicas.
La recomendación de Xiao es directa: «No empieces con un chatbot; empieza con la búsqueda.» Gran parte de lo que consideramos inteligencia artificial consiste, en realidad, en encontrar la información correcta.
Transparencia, coste y cumplimiento normativo: las ventajas colaterales
La apuesta por los SLM no solo responde a limitaciones técnicas, sino que genera ventajas que el sector público valora de forma particular.
Los algoritmos de estos modelos pueden documentarse y certificarse como transparentes, un requisito esencial en entornos sometidos a auditorías periódicas. Al trabajar con datos específicos y verificados, los SLM reducen la probabilidad de errores, sesgos y alucinaciones. Xiao lo explica con claridad: los grandes modelos generan texto a partir de su entrenamiento, con una fecha de corte, de modo que cualquier consulta posterior puede producir respuestas inventadas. Forzar al modelo a trabajar desde fuentes verificadas mitiga ese riesgo de raíz.
El menor consumo de recursos se traduce en costes más bajos y en una huella ambiental reducida frente a los LLM. El almacenamiento local de datos facilita, además, el cumplimiento de regulaciones como el RGPD europeo, que impone restricciones estrictas sobre el tratamiento de información personal.
Llevar la IA al dato, no el dato a la IA
El cambio de paradigma que proponen los SLM puede resumirse en una idea: en lugar de enviar los datos a un modelo externo, se despliega el modelo donde los datos ya están. No se trata de aislamiento tecnológico, sino de autonomía estratégica; una autonomía que genera confianza institucional, resiliencia operativa y relevancia real para los ciudadanos.
Para que esa autonomía sea duradera, la monitorización continua del rendimiento y el impacto resulta clave. No basta con implementar un modelo; hay que medir si funciona, si mejora con el tiempo y si responde a las necesidades reales del organismo.
La próxima fase de adopción de IA en el sector público podría depender menos del tamaño del modelo y más de la calidad de la ingeniería operativa que lo sostiene. Los gobiernos que entiendan esa diferencia —y actúen en consecuencia— estarán mejor posicionados para convertir la promesa de la IA en servicios públicos más eficaces, seguros y transparentes.