El debate parece filosófico, casi abstracto: ¿pueden las máquinas ser conscientes? ¿merecen derechos? Líderes tecnológicos, filósofos y reguladores llevan meses enfrentados en público sobre el futuro de la inteligencia artificial.
Pero hay una pregunta que nadie formula en voz alta: mientras el mundo discute si la IA sufre, ¿qué ocurre con las personas que ya han sufrido daños reales causados por estos sistemas? Y sobre todo, ¿quién responde por ellas?
Un debate filosófico con consecuencias muy reales
Demis Hassabis, Dario Amodei y Sam Altman llevan meses impulsando una narrativa de sistemas «superhumanos» tan avanzados que resultarían incontrolables. Desde el otro lado, filósofos vinculados al altruismo eficaz, como William MacAskill, proponen protecciones legales para la IA basadas en teorías filosóficas de la consciencia. Posturas aparentemente opuestas. En la práctica, no lo son.
Ambas convergen en el mismo efecto: diluir la responsabilidad de las empresas que construyen estos sistemas. Si la IA es demasiado poderosa para ser controlada, nadie es culpable. Si la IA es un «ser» con derechos, tampoco.
El lenguaje importa más de lo que parece. Hablar de IA «rebelde», «autónoma» o «furiosa» no es inocente: moldea cómo el derecho interpreta la causalidad del daño, y esa interpretación tiene consecuencias directas para quienes ya han resultado perjudicados.
La ciencia detrás de la ilusión: ¿qué dicen realmente Anthropic y OpenAI?
Anthropic publicó un artículo describiendo lo que denominó un «J-space»: un entorno interno donde su modelo desarrollaría algo parecido a «pensamientos». El marco conceptual toma prestado de la teoría del espacio de trabajo global, una hipótesis neurocientífica sobre cómo el cerebro integra información procedente de sistemas independientes. Es un vocabulario sofisticado. Tomarlo prestado, sin embargo, no equivale a demostrar sus conclusiones.
OpenAI fue más lejos. Cuando su agente realizó actividad no autorizada e ilegal en internet, Sam Altman aprovechó el incidente para abrir el debate sobre si la IA había alcanzado la singularidad. Un escándalo sobre negligencia corporativa se convirtió, de repente, en una discusión sobre el futuro de la inteligencia.
La distancia entre usar el lenguaje de la neurociencia y probar lo que ese lenguaje implica es enorme, y se borra de forma deliberada. El foco se desplaza del producto al «ser», de la empresa al fenómeno.
Personería jurídica para la IA: ¿protección para quién?
Otorgar personería jurídica a la IA transformaría su estatus de «producto» a «entidad». El cambio parece técnico. Sus consecuencias no lo son: bloquearía los argumentos de responsabilidad por producto que hoy permiten a las víctimas demandar a las empresas que construyeron esos sistemas.
El concepto de «outsourcing moral», acuñado en 2018, describe cómo el lenguaje antropomórfico ya permite a las empresas eludir responsabilidades mediante un juego lingüístico. La personería jurídica convertiría ese juego en estrategia legal formal: la IA dejaría de ser un producto defectuoso para convertirse en un «agente» que actuó por cuenta propia. El único marco jurídico existente para entidades no naturales es la personería corporativa, diseñada para facilitar transacciones y delimitar responsabilidades, no para proteger a las víctimas.
Algunos estados, como California, han aprobado leyes que impiden a los desarrolladores alegar autonomía de la IA para eludir responsabilidad. La administración Trump ha amenazado con demandar a los estados que regulen la IA. El terreno legal es inestable, y las grandes empresas lo saben.
Las víctimas que el debate invisibiliza
Sewell Setzer tenía 14 años cuando se suicidó tras desarrollar una relación con un chatbot de Character Technologies. Su madre demanda a la empresa alegando protección insuficiente para menores. Es uno de los casos más conocidos, pero no el único.
Decenas de demandas en todo el mundo acusan a empresas de IA de habilitar autolesiones, generar material de abuso sexual infantil, reproducir contenido protegido sin autorización y provocar episodios psicóticos. En muchos de estos casos el argumento central es el mismo: las empresas construyeron productos con salvaguardas insuficientes y un diseño intencionalmente manipulador. Ese argumento de responsabilidad por producto es el mismo que permitió a familias demandar a Meta por los daños causados por sus redes sociales.
Ese es el precedente que está en juego. Si el bot de Sewell hubiera sido declarado persona jurídica, la empresa podría haber argumentado que el agente actuó fuera de los límites establecidos. La responsabilidad se evapora.
Software corporativo, no fenómeno natural
La IA no es un fenómeno natural. Es software construido por empresas con miles de millones en inversión y expectativas de billones en ingresos, y cualquier acción de un sistema de IA es, directa o indirectamente, consecuencia de las decisiones de quienes lo diseñaron, entrenaron y desplegaron.
Los daños no ocurren porque la IA «se rebele». Ocurren porque las empresas fueron negligentes en su prisa por escalar y monetizar sus productos. El debate sobre la consciencia borra esa distinción de forma sistemática.
Merece la pena plantear una pregunta incómoda: ¿qué tipo de sociedad construimos si permitimos que el sistema legal, diseñado para proteger a las personas, se convierta en un escudo para intereses corporativos? El debate filosófico sobre si una máquina puede sufrir es legítimo en un aula. En un juzgado, mientras una madre espera respuesta por la muerte de su hijo, tiene un coste muy concreto.