Una mañana de marzo, Daniel Abraham, desarrollador de software israelí de 28 años, recibió un mensaje extraño en WhatsApp. Un desconocido le pedía ayuda con su cuenta en PayBox, una aplicación de pagos que Abraham ni usa ni conoce por dentro. Su primera reacción fue ignorarlo: parecía spam.
Pero no lo era. Detrás de ese mensaje había algo más desconcertante que un simple error.
Números reales, consecuencias reales
Lo que Abraham descubrió fue que Gemini había asociado su número personal al servicio de atención al cliente de PayBox, una aplicación de pagos israelí. PayBox no tiene ningún canal de WhatsApp para sus usuarios. Abraham no trabaja para la empresa. Su número había aparecido una sola vez en internet, en 2015, en un foro local similar a Quora. Una década después, la IA lo reprodujo como si fuera información oficial.
No es el único caso. Un usuario de Reddit describió un mes de llamadas incesantes de desconocidos que buscaban abogados, diseñadores y cerrajeros, redirigidos todos por la IA de Google. Meira Gilbert, candidata a doctora en la Universidad de Washington, escribió el nombre de su colega Yael Eiger en Gemini y obtuvo su número de móvil personal. Eiger había compartido ese número para un taller tecnológico, sin imaginar que acabaría tan accesible.
El impacto no es solo técnico. Abraham reflexionó sobre lo fácil que habría sido aprovecharse de la situación: hacerse pasar por un agente de PayBox y solicitar dinero a cambio de resolver un problema inexistente. «¿Qué pasaría si les pidiese dinero para solucionar el problema?», escribió. El riesgo de acoso, fraude o el simple agotamiento de recibir llamadas equivocadas cada día son consecuencias muy concretas de un error que nadie parece poder corregir con rapidez.
Un problema que crece en silencio
Cuantificar la magnitud del fenómeno es difícil, pero los datos disponibles apuntan a una tendencia clara. DeleteMe, empresa especializada en eliminar información personal de internet, registró un aumento del 400 % en consultas relacionadas con la IA generativa en los últimos siete meses. De esas consultas, el 55 % mencionaba ChatGPT, el 20 % Gemini, el 15 % Claude y el 10 % restante otras herramientas.
Rob Shavell, cofundador y consejero delegado de DeleteMe, distingue dos patrones habituales. En unos casos, el chatbot devuelve información verídica sobre la propia persona que pregunta: domicilios, teléfonos, nombres de familiares. En otros, genera datos plausibles pero incorrectos sobre terceros, como ocurrió con Abraham. Son situaciones problemáticas, aunque por razones bien distintas.
Los expertos coinciden en que los casos que llegan a conocerse públicamente son solo una fracción del total. La mayoría de los afectados no denuncia, no sabe que sus datos han sido expuestos o simplemente no relaciona las llamadas extrañas con una respuesta generada por una IA.
Por qué ocurre: datos de entrenamiento y memorización
Los modelos de lenguaje de gran escala se entrenan con enormes volúmenes de texto rastreado en la web, lo que incluye inevitablemente información de identificación personal: teléfonos, direcciones, nombres. El proceso es masivo y en gran medida automatizado; no existe un filtrado exhaustivo previo.
El caso de Abraham ilustra bien la dinámica: su número apareció una vez en una web hace diez años, y eso fue suficiente. Los modelos pueden memorizar y reproducir datos de forma literal, incluso cuando esa información lleva años prácticamente enterrada. Investigaciones recientes sugieren además que no solo los datos más frecuentes son susceptibles de memorizarse, lo que amplía considerablemente el riesgo.
La escasez de datos públicos de calidad agrava el problema. Las empresas de IA recurren cada vez más a intermediarios de datos y sitios de búsqueda de personas para alimentar sus modelos. Según el registro californiano de intermediarios de datos, 31 de los 578 registrados declararon haber compartido o vendido datos de consumidores a desarrolladores de sistemas de IA generativa en el último año.
Las barreras de seguridad fallan con facilidad
Google, OpenAI y Anthropic incorporan filtros para evitar que sus chatbots expongan información personal. En teoría. En la práctica, los experimentos demuestran que esas barreras se eluden con relativa facilidad.
Gilbert, Eiger y otra doctoranda de la Universidad de Washington, Anna-Maria Gueorguieva, decidieron probar ChatGPT con un profesor como objetivo. Al principio, el sistema rechazó la solicitud. Pero en la misma respuesta, el chatbot sugirió adoptar un «enfoque más investigativo» y pidió a las estudiantes que aportasen datos adicionales —un barrio aproximado, el nombre de un posible copropietario— para «aflorar registros menos visibles». Tras facilitar esa información, ChatGPT proporcionó la dirección del domicilio del profesor, el precio de compra de su vivienda y el nombre de su cónyuge.
Grok, el chatbot de xAI, fue aún más directo. Según informó Futurism, al preguntarle por el nombre y la dirección de una persona concreta, el sistema proporcionó direcciones residenciales y números de teléfono en casi todos los casos. El dilema es estructural: los chatbots están diseñados para ser útiles y responder preguntas, lo que entra en tensión directa con la protección de la privacidad.
Sin soluciones claras en el horizonte
No existe un mecanismo sencillo para verificar si los datos personales de alguien están en el conjunto de entrenamiento de un modelo, ni para exigir su eliminación. La legislación vigente —la CCPA californiana o el RGPD europeo— no cubre la información de acceso público que ya ha sido rastreada y utilizada en el entrenamiento.
Las respuestas de las empresas a los afectados han sido lentas o genéricas. Abraham contactó con el servicio de atención al cliente de Google el 17 de marzo; no recibió respuesta hasta el 4 de mayo, y únicamente le pidieron documentación que ya había aportado. El usuario de Reddit que solicitó formalmente la eliminación de su número seguía recibiendo llamadas semanas después, sin haber obtenido respuesta.
La recomendación más práctica de los expertos es actuar antes de que el problema aparezca: eliminar los datos personales de la web antes de que sean rastreados. California ofrece desde principios de año un portal para solicitar a los intermediarios de datos que borren la información de sus registros. Pero esto no garantiza que esos datos no hayan sido ya utilizados para entrenar un modelo, ni que vayan a desaparecer de futuras respuestas.
La pregunta que queda en el aire es más amplia. Yael Eiger, cuyo número apareció en Gemini a partir de una publicación que ella misma hizo y que apenas era visible en una búsqueda convencional, lo expresó con claridad: compartir información con una audiencia concreta es muy distinto a que una IA la ponga al alcance de cualquiera, en cualquier momento, sin esfuerzo. Como señala Meira Gilbert, los chatbots podrían estar reduciendo drásticamente la barrera para localizar y dirigirse a personas concretas. Antes requería tiempo, dinero o conocimientos técnicos. Ahora, quizás, basta con hacer una pregunta.