Al abrir el móvil, cualquiera puede toparse hoy con un torrente inagotable de textos e imágenes generados por inteligencia artificial que parecen asombrosamente auténticos. No hace tanto, los primeros chatbots pusieron de moda el término «alucinación» al devolver respuestas plausibles pero falsas con una seguridad pasmosa. Desde entonces, la máxima es clara: confía, pero verifica. El problema llega cuando esa misma desconfianza se traslada a los artículos científicos, porque lo que está en juego deja de ser una anécdota en las redes sociales para convertirse en la credibilidad del propio conocimiento humano.
De las redes sociales al laboratorio: una confianza erosionada
El problema no nace en los laboratorios. Nace en el móvil, en la red social, en ese flujo constante de contenido sintético que muchos usuarios no distinguen del material humano. La cantidad importa, porque normaliza la duda. Si la mitad de lo que ves podría ser falso, dejas de creer en la otra mitad.
El término «alucinación» se popularizó con GPT-3, cuando los chatbots devolvían respuestas plausibles pero inventadas con una seguridad desconcertante. Desde entonces, la máxima frente a la IA es «confía pero verifica». Incluso los modelos avanzados, como Claude o Gemini, siguen sin ser fiables sin supervisión.
Esa desconfianza se vuelve crítica cuando se aplica al registro científico. Ahí la credibilidad no es un detalle: es la base sobre la que se sostiene todo el sistema.
El experimento: fabricar un artículo científico con IA
Benjamin Skuse, doctor en matemáticas aplicadas, quiso comprobar hasta qué punto era fácil generar un artículo científico falso con herramientas de IA. Lo que descubrió le sorprendió a él y a los editores.
En uno de sus experimentos apenas tuvo que intervenir. La IA ejecutó el experimento y redactó el artículo sin apenas retoques. Skuse lo lanzó al proceso editorial y dejó que el sistema hiciera el resto.
El resultado era más o menos plausible y más o menos ciencia. Suficiente para colarse en un proceso de revisión si nadie miraba con lupa. El caso demuestra que las herramientas gratuitas actuales ya pueden producir textos con apariencia académica sin necesidad de conocimientos profundos ni de una inversión económica.
La carrera armamentista de las editoriales científicas
Por ahora, los sistemas de revisión humana y los programas de integridad científica están aguantando. Las editoriales como IEEE combinan ambos mecanismos para frenar los textos falsos generados con herramientas gratuitas.
Sin embargo, los modelos de lenguaje más avanzados han dejado de cometer los errores obvios de las versiones anteriores. Ya no tropiezan con incoherencias fáciles de detectar. Eso cambia el terreno de juego.
Las editoriales se encuentran atrapadas en una carrera armamentista. Por un lado, textos falsos cada vez más plausibles. Por otro, sistemas de detección que intentan seguirles el ritmo. Si la línea se rompe, la integridad del registro científico queda en entredicho. Y con ella, la confianza de toda la comunidad investigadora se desmorona.
Wikipedia, la última línea de defensa del conocimiento humano
Wikipedia se ha sumado a la lucha con WikiProject AI Cleanup, un esfuerzo voluntario para detectar y borrar material generado por IA. La enciclopedia libre no quiere convertirse en un vertedero de contenido sintético.
Los editores voluntarios afrontan el mismo problema que las editoriales comerciales, pero con menos personas y menos herramientas. No tienen presupuestos millonarios ni equipos dedicados. Tienen tiempo, paciencia y un compromiso firme con la calidad.
Wikipedia se define como un repositorio de información generada por humanos, y sus editores quieren mantener esa identidad. La gran incógnita es cuánto tiempo podrán sostener esa defensa ante el volumen creciente de contenido sintético que llega cada día.
Qué está en juego: realidad compartida o incertidumbre
Si el registro científico deja de ser fiable, la comprensión colectiva de lo que es real se deshace en incertidumbre. No es un problema abstracto. Afecta a cómo entendemos la medicina, el clima, la tecnología o la historia.
Ese escenario beneficia a los desinformadores y a quienes prosperan en entornos sin una realidad compartida. La confusión no es un daño colateral: es el objetivo de algunos.
La confianza en las instituciones que curan el conocimiento humano queda dañada de forma directa. Y a largo plazo se plantea un futuro inquietante: que la IA escriba para otras IA y los humanos queden fuera del circuito. La pregunta ya no es si podemos detectar lo falso. Es si seguiremos siendo necesarios para decidir qué es verdad.