La inteligencia artificial promete avances extraordinarios: descubrir nuevos fármacos, combatir el cambio climático, proteger la biodiversidad. Pero esa misma tecnología está dejando una huella oculta que empieza a generar alarma. Un solo entrenamiento de un modelo de procesamiento de lenguaje natural puede emitir más de 600.000 libras de dióxido de carbono, casi cinco veces las emisiones de un coche durante toda su vida útil.
A esto se suma otro problema menos visible: los sistemas de IA aprenden de datos generados por humanos y, con ellos, heredan también nuestros sesgos. Mientras la adopción de herramientas generativas se dispara, figuras clave del sector —incluidos algunos de los llamados «padrinos de la IA»— han comenzado a advertir que la velocidad del desarrollo podría estar superando nuestra capacidad de gestionarlo.
El espejo incómodo: cuando la IA aprende nuestros sesgos
Los sistemas de inteligencia artificial no nacen con prejuicios propios. Los adquieren de nosotros. Aprenden a partir de enormes volúmenes de datos de entrenamiento que reflejan decisiones humanas, muchas veces cargadas de discriminación histórica. El resultado es un espejo incómodo: la IA reproduce y amplifica los sesgos que ya existían en la sociedad.
Los ejemplos no son hipotéticos. Hay sistemas de seguimiento de candidatos que discriminan por género. Herramientas de diagnóstico médico que ofrecen resultados menos precisos para poblaciones históricamente desatendidas. Programas policiales predictivos que apuntan de forma desproporcionada a comunidades sistemáticamente marginadas.
El problema no se reduce a un fallo técnico aislado que se pueda corregir con una actualización. El sesgo es un resultado estructural del propio proceso de aprendizaje automático. Si los datos de partida contienen desigualdades, el modelo las absorberá y las devolverá con apariencia de neutralidad matemática. Eso lo hace aún más peligroso de lo que parece.
El coste invisible: energía, agua y la factura ambiental de la IA
Mientras el debate público se centra en las capacidades de la IA, su huella ambiental pasa casi desapercibida. Entrenar un único modelo de procesamiento de lenguaje natural puede emitir más de 600.000 libras de dióxido de carbono. Esa cifra equivale a casi cinco veces las emisiones de un coche durante toda su vida útil.
El consumo de agua es otro dato que rara vez se comunica. Un estudio reveló que el entrenamiento de GPT-3 en centros de datos de Microsoft en Estados Unidos consumió 5,4 millones de litros de agua. Y el gasto continúa después del entrenamiento. Manejar entre 10 y 50 instrucciones a un modelo de IA consume aproximadamente 500 mililitros de agua, el equivalente a una botella estándar.
La factura ambiental de la IA es un riesgo emergente que contrasta con la imagen de tecnología limpia e inmaterial que suele proyectar. Conviene recordarlo cada vez que hablamos de innovación sin fricciones.
La caja negra: opacidad, responsabilidad y el problema de la confianza
Los algoritmos de IA se perciben como cajas negras. Sus mecanismos internos son un misterio incluso para los investigadores que trabajan de cerca con la tecnología. Esta opacidad dificulta entender por qué un modelo llegó a una conclusión concreta o cómo generó una predicción determinada.
La falta de transparencia erosiona la confianza. Y sin confianza, es difícil tomar medidas proactivas contra los riesgos. Kush Varshney, científico investigador de IBM Research, lo resume con claridad: si no tenemos esa confianza en los modelos, no podemos obtener el beneficio de la IA en las empresas.
Se añade el problema de la responsabilidad. Los accidentes con vehículos autónomos y los arrestos injustificados basados en reconocimiento facial plantean una pregunta incómoda: ¿quién responde cuando la IA falla? Los responsables políticos y los organismos reguladores todavía están buscando respuestas.
Desinformación, deepfakes y la amenaza a la verdad
Los actores maliciosos han encontrado en la IA una herramienta poderosa. Clonan voces, generan identidades falsas y envían correos de phishing convincentes con una facilidad que antes no existía. Un caso reciente lo ilustra bien: llamadas automáticas generadas por IA imitaron la voz del presidente Joe Biden para disuadir a votantes en Nuevo Hampshire.
Los deepfakes amplifican la desinformación. Pueden dañar reputaciones, facilitar el acoso y servir para la extorsión. Y no hace falta mala intención para que la IA contribuya al problema. Las alucinaciones —resultados plausibles pero inventados— añaden otra capa de confusión. Van desde inexactitudes menores hasta información completamente fabricada que puede causar daño real. La frontera entre lo verificado y lo inventado se desdibuja cada día más.
Gobernanza y futuro: ¿se puede regular lo que aún no se comprende?
La velocidad del desarrollo ha encendido las alarmas. En marzo de 2023, solo cuatro meses después del lanzamiento de ChatGPT, líderes tecnológicos pidieron una pausa de seis meses en el entrenamiento de sistemas más potentes que GPT-4. Dos meses después, Geoffrey Hinton, uno de los padrinos de la IA, advirtió que la rápida evolución de esta tecnología pronto podría superar a la inteligencia humana.
El riesgo existencial se equipara con la guerra nuclear y las pandemias, aunque se considera menos inmediato. Mientras tanto, los marcos regulatorios intentan ponerse al día. La Ley de IA de la UE y el NIST AI Risk Management Framework buscan establecer responsabilidad y transparencia.
La pregunta sigue abierta: ¿se puede regular lo que aún no se comprende del todo? Lo que está claro es que la gobernanza ya no puede esperar. Las empresas y los gobiernos que actúen antes tendrán una ventaja competitiva, y quizá también una responsabilidad histórica. El desarrollo de la IA no se detendrá, pero su rumbo todavía puede corregirse.