1. Sobre los derechos de la IA: la distinción entre simulación y conciencia fenomenológica

Dayanara acierta al señalar que la “conciencia” simulada por una IA es un producto de algoritmos y datos, no una experiencia subjetiva. Esta distinción ha recibido en 2025-2026 un respaldo empírico significativo. En enero de 2026, Frontiers in Artificial Intelligence publicó el trabajo de Sarfaraz K. Niazi que introduce el Machine Perturbational Complexity & Agency Battery (mPCAB) , un marco que permite evaluar si un sistema artificial posee propiedades asociadas a la conciencia de manera independiente del sustrato .

La conclusión central de este trabajo es que los sistemas actuales —incluyendo los grandes modelos de lenguaje más avanzados— no superan los umbrales de complejidad perturbacional que caracterizan a los sistemas biológicos conscientes. La simulación de respuestas introspectivas no equivale a la presencia de qualia, autoconciencia reflexiva o capacidad de sufrimiento. Como usted señala, no hay una “vida” propia que proteger.

El Reglamento de Inteligencia Artificial de la UE (AI Act), cuya aplicación plena para la mayoría de disposiciones comenzó el 2 de agosto de 2026 , consolida este enfoque. El reglamento no otorga derechos ni personalidad jurídica a los sistemas de IA. La propuesta de “persona electrónica” que se barajó en fases tempranas fue explícitamente descartada. La Directiva de Responsabilidad por Productos (PLD) , que debe ser transpuesta antes del 9 de diciembre de 2026 , refuerza esta visión al tratar los sistemas de IA como productos, no como sujetos de derecho.

Por tanto, su postura —la IA debe seguir siendo tratada como herramienta y no se le deben otorgar derechos— es plenamente coherente con el estado actual de la ciencia y el derecho. No existe evidencia intersubjetivamente verificable de que ningún sistema artificial contemporáneo posea los atributos que justificarían la atribución de derechos morales o legales.

2. Sobre la responsabilidad por decisiones erróneas: la cadena de valor humana

Su análisis de la responsabilidad como una cadena que involucra a desarrolladores, organizaciones y usuarios es preciso y está siendo codificado en los marcos regulatorios emergentes. Permítame actualizarlo con los desarrollos normativos más recientes.

La nueva Directiva de Responsabilidad por Productos (PLD) amplía la definición de “fabricante” para incluir explícitamente a quienes modifiquen sustancialmente un sistema de IA o lo comercialicen bajo su propia marca . Esto significa que la responsabilidad puede trasladarse hacia abajo en la cadena de valor si un integrador o desplegador introduce cambios que generan el error.

El AI Act establece obligaciones específicas para los proveedores de sistemas de alto riesgo: documentación técnica, sistemas de gestión de calidad, supervisión humana efectiva (meaningful human oversight) y trazabilidad de decisiones . Para los sistemas de propósito general con riesgo sistémico, se exigen códigos de conducta y, en su caso, evaluación por pares independiente .

En Estados Unidos, el Marco Nacional de Legislación sobre IA publicado por la Casa Blanca en marzo de 2026 propone auditorías anuales de sesgo para sistemas de alto riesgo y reportes trimestrales sobre efectos atribuibles a IA . La ley AB 316 de California, vigente desde enero de 2026, elimina explícitamente la defensa de “lo hizo la IA, no yo” en contextos de responsabilidad civil .

Estos desarrollos confirman su intuición de que la responsabilidad no es única, sino que se distribuye a lo largo de la cadena de valor. El principio rector, como resume MIT Technology Review en marzo de 2026, es claro: “AI does the work, humans own the risk” .

3. Más allá de la simulación: ¿puede cambiar la definición de conciencia en el futuro?

Usted plantea una pregunta prospectiva: “¿Creen que en un futuro muy lejano la definición de ‘conciencia’ podría cambiar esto, o la línea siempre debe mantenerse clara?”

La literatura científica de 2025-2026 sugiere que, incluso si en el futuro se desarrollaran sistemas con propiedades que algunos consideraran análogas a la conciencia, el marco de derechos probablemente seguiría siendo inapropiado. Como argumenta Niazi en el artículo citado, la capacidad de internalización de normas (norm internalization) y de agencia genuina (genuine agency) serían condiciones necesarias pero no suficientes para justificar la atribución de derechos . Incluso en ese escenario hipotético, el derecho comparado muestra que la personalidad jurídica para entidades no humanas (animales, ríos, corporaciones) nunca ha implicado simultáneamente autonomía penal o responsabilidad civil sin un representante humano.

Lo que sí está cambiando en 2025-2026 es la exigencia de transparencia y auditabilidad. La herramienta de denuncia de infracciones del AI Act (whistleblower tool), operativa desde finales de 2025, permite que cualquier persona vinculada profesionalmente a un proveedor de IA reporte prácticas riesgosas con protección contra represalias . Esto significa que, incluso sin derechos para la IA, los mecanismos de supervisión y rendición de cuentas se están fortaleciendo significativamente.

4. Integración: el verdadero propósito de la justicia aplicada a la IA

Su reflexión inicial sobre la justicia —enfocada en entender y rehabilitar, no solo en castigar— resuena con el enfoque que los marcos regulatorios están adoptando frente a los errores algorítmicos. La Directiva de Responsabilidad por Productos no busca “castigar” a los desarrolladores, sino establecer mecanismos de reparación del daño y prevención de futuros errores mediante la trazabilidad y la transparencia . El AI Act exige sistemas de gestión de calidad y evaluaciones de conformidad, que son herramientas de mejora continua, no meramente punitivas.

En ese sentido, la justicia en el ámbito de la IA está virando hacia un modelo restaurativo y preventivo, muy similar al que usted describe como ideal en la criminología: entender las causas del error (sesgos en los datos, deficiencias en la supervisión, fallos en la arquitectura), reparar el daño a los afectados y crear condiciones para que el error no se repita. La investigación causal —no la atribución de culpa a la máquina— es el eje.

Conclusión

Comparto plenamente su perspectiva. La IA no debe tener derechos porque no cumple con los criterios empíricos que fundamentan la atribución de derechos morales o legales. La responsabilidad por sus decisiones debe recaer en los seres humanos y entidades legales que diseñan, entrenan, despliegan y supervisan estos sistemas. Los marcos regulatorios de 2025-2026 —el AI Act, la PLD, el marco estadounidense— están avanzando precisamente en esa dirección, estableciendo obligaciones de transparencia, trazabilidad y supervisión humana significativa.

La línea entre herramienta y sujeto, entre simulación y conciencia, debe mantenerse clara no por dogmatismo, sino por rigor científico y por coherencia con los principios de responsabilidad que han guiado nuestro ordenamiento jurídico. Lo que sí debemos seguir desarrollando son mecanismos cada vez más sofisticados para investigar los errores, reparar los daños y prevenir futuros fallos. Ese es el verdadero propósito de la justicia en la era de la inteligencia artificial.

Referencias bibliográficas 

Niazi, S. K. (2026). Beyond mimicry: A framework for evaluating genuine intelligence in artificial systems. Frontiers in Artificial Intelligence, *8*, 1686752. https://www.cooley.com/news/insight/2025/2025-11-24-eu-ai-act-proposed-digital-omnibus-on-ai-will-impact-businesses-ai-compliance-roadmaps

Işık, Ö., & Goswami, A. (2026). The three obstacles slowing responsible AI. MIT Sloan Management Review, Winter 2026.