Introducción
La creciente complejidad de los sistemas de inteligencia artificial plantea una cuestión jurídica y filosófica de enorme importancia: ¿en qué momento una tecnología suficientemente autónoma y sofisticada debería dejar de ser considerada jurídicamente un artefacto para adquirir un estatus legal diferente?
Mi conclusión, basada en el estado actual de la evidencia científica y normativa, es clara pero deliberadamente prudente: la complejidad algorítmica, por sí sola, no justifica modificar el estatus jurídico de la inteligencia artificial ni convertirla en sujeto de derechos o de responsabilidad jurídica.
La razón fundamental es que complejidad, autonomía funcional, inteligencia, agencia y personalidad jurídica son conceptos diferentes. Un sistema puede ser extraordinariamente complejo y producir decisiones que ningún individuo pueda anticipar completamente, sin que ello demuestre que posee intereses propios, experiencia subjetiva, conciencia fenomenológica o capacidad jurídica.
Esta distinción resulta esencial para evitar un error de categoría: inferir una condición jurídica a partir de una propiedad técnica.
1. Complejidad algorítmica no equivale a personalidad jurídica
La primera cuestión debe abordarse desde los primeros principios.
Un sistema de IA puede presentar:
- gran cantidad de parámetros;
- capacidad de adaptación;
- autonomía operacional;
- procesamiento de enormes cantidades de información;
- generación de respuestas no determinadas explícitamente por un programador;
- interacción con seres humanos;
- capacidad para producir decisiones o recomendaciones.
El propio AI Act europeo reconoce que los sistemas de IA pueden operar con distintos niveles de autonomía y presentar adaptabilidad después de su despliegue. Sin embargo, el Reglamento continúa definiéndolos como sistemas basados en máquinas y estructura las obligaciones jurídicas alrededor de proveedores, responsables del despliegue, importadores, distribuidores y otros actores humanos u organizacionales.
Esto permite establecer una primera proposición:
Mayor complejidad técnica ≠ personalidad jurídica.
La complejidad puede modificar el grado de riesgo, las obligaciones de supervisión, los mecanismos de auditoría y las exigencias regulatorias. Pero no demuestra por sí misma que haya aparecido un nuevo sujeto jurídico.
2. El derecho no necesita convertir a la IA en persona para regularla
Existe una diferencia fundamental entre regular una entidad tecnológica y reconocerla como persona jurídica.
El AI Act europeo constituye un ejemplo particularmente importante. Su estructura no necesita atribuir personalidad jurídica a la IA para imponer obligaciones. Define, entre otros, a los proveedores y responsables del despliegue como personas naturales o jurídicas, autoridades u otros organismos, y establece obligaciones específicas a lo largo de la cadena de valor.
La legislación, por tanto, puede responder al aumento de complejidad mediante una estrategia distinta:
más autonomía → más riesgo potencial → mayor gobernanza → mayor trazabilidad → mayores obligaciones para los actores responsables.
No es necesario introducir:
más autonomía → personalidad jurídica de la IA.
Esta diferencia tiene enormes consecuencias prácticas.
3. El criterio jurídicamente relevante no debería ser la complejidad, sino la capacidad jurídicamente pertinente
La pregunta decisiva no debería ser:
“¿Qué tan compleja es la IA?”
Debería ser:
“¿Qué características posee la IA que hagan jurídicamente necesario reconocerle una nueva categoría de sujeto?”
Aquí aparecen cuestiones mucho más difíciles:
- ¿Posee intereses propios?
- ¿Puede ser titular de derechos?
- ¿Puede asumir obligaciones?
- ¿Puede comprender normativamente esas obligaciones?
- ¿Puede ejercer derechos de manera autónoma?
- ¿Posee continuidad de identidad?
- ¿Existe evidencia de experiencia subjetiva?
- ¿Puede distinguirse entre conducta simulada y estados internos moralmente relevantes?
Actualmente, no puedo confirmar que los sistemas contemporáneos de IA posean conciencia fenomenológica, y la complejidad computacional no proporciona por sí misma esa demostración.
Por ello, sería científicamente incorrecto utilizar la sofisticación de un modelo como prueba de conciencia.
4. La autonomía funcional tampoco basta
Existe otro posible argumento: quizá una IA debería recibir personalidad jurídica no porque sea consciente, sino porque actúa autónomamente.
Este argumento merece ser tomado en serio.
Un sistema puede producir resultados que no fueron determinados directamente por una persona en el momento concreto de la decisión. Además, cuanto más complejos son los sistemas, más difícil puede resultar reconstruir intuitivamente por qué produjeron una determinada salida.
Sin embargo, autonomía operacional no significa necesariamente autonomía jurídica.
Una máquina puede ejecutar una función sin convertirse por ello en titular de derechos.
La cuestión jurídica consiste en determinar quién diseñó el sistema, quién lo puso en funcionamiento, quién estableció su finalidad, quién decidió utilizarlo, quién podía supervisarlo y quién tenía capacidad de prevenir o mitigar sus consecuencias.
La OCDE establece precisamente un principio de accountability según el cual los actores de IA deben responder por el funcionamiento apropiado de los sistemas, de acuerdo con su función, contexto y capacidad de actuación. También exige mecanismos de trazabilidad durante el ciclo de vida de los sistemas.
5. El principio de responsabilidad humana continúa siendo central
La posición de UNESCO es todavía más explícita.
Su Recomendación sobre la Ética de la Inteligencia Artificial establece que debe ser posible atribuir responsabilidad ética y jurídica a personas físicas o entidades jurídicas existentes durante las distintas etapas del ciclo de vida de los sistemas de IA. Además, afirma que la IA no debe reemplazar la responsabilidad final de los seres humanos.
Esto resulta especialmente relevante para nuestra pregunta.
Si una IA altamente compleja produce una decisión dañina, el aumento de complejidad no debería convertirse automáticamente en un mecanismo para hacer desaparecer al responsable.
El problema puede expresarse de esta manera:
Complejidad técnica sin arquitectura de responsabilidad = riesgo de vacío de accountability.
La respuesta regulatoria racional consiste, por tanto, en fortalecer la arquitectura de responsabilidad, no necesariamente en crear una personalidad artificial.
6. NIST: la complejidad exige gobernanza, no necesariamente personalidad
El NIST AI Risk Management Framework adopta una perspectiva socio-técnica. Su objetivo es ayudar a las organizaciones que diseñan, desarrollan, despliegan o utilizan sistemas de IA a gestionar sus riesgos.
Su estructura se organiza en cuatro funciones:
Govern → Map → Measure → Manage.
La gobernanza es transversal y exige definir roles y responsabilidades, mientras que el marco contempla explícitamente procesos de supervisión humana, evaluación, documentación y gestión continua del riesgo.
Esto es significativo porque NIST no responde a la complejidad de la IA atribuyéndole personalidad jurídica. Responde mediante una arquitectura institucional de gobernanza.
En otras palabras:
Cuando aumenta la complejidad del sistema, aumenta la necesidad de gobernarlo. No se sigue automáticamente que aumente la necesidad de personificarlo jurídicamente.
7. ¿Podría existir en el futuro un cambio de estatus?
Aquí es necesario evitar tanto el tecnopesimismo como el tecnoutopismo.
No sería correcto afirmar que una IA jamás podrá adquirir una forma diferente de estatus jurídico. La historia del derecho demuestra que las categorías jurídicas son construcciones institucionales susceptibles de modificación.
Pero tampoco sería correcto afirmar que la evolución tecnológica inevitablemente conducirá a una personalidad jurídica de la IA.
Son cuestiones diferentes.
De hecho, la propia UNESCO mantiene actualmente una orientación centrada en derechos humanos, supervisión humana, responsabilidad, auditoría y trazabilidad, mientras que el AI Act europeo regula sistemas y operadores mediante un enfoque basado en riesgo.
Por tanto, cualquier futuro cambio tendría que estar justificado por razones jurídicas y éticas específicas, no simplemente por el hecho de que los algoritmos sean más sofisticados.
8. El argumento más fuerte a favor de cambiar el estatus jurídico
Para realizar un análisis equilibrado, debemos considerar el argumento contrario.
Podría sostenerse que, si determinados sistemas llegaran a desarrollar capacidades significativamente superiores a las actuales —por ejemplo, autonomía prolongada, memoria persistente, planificación independiente, capacidad de actuar en entornos físicos y virtuales y alguna forma científicamente demostrable de experiencia subjetiva—, mantenerlos jurídicamente dentro de la categoría de simples herramientas podría resultar conceptualmente insuficiente.
Este argumento merece consideración.
Pero existe una diferencia decisiva:
esa situación no está demostrada actualmente.
Por ello, no puede utilizarse como fundamento empírico para afirmar que las IA contemporáneas ya deberían tener personalidad jurídica.
La literatura jurídica especializada también distingue entre agencia artificial, subjetividad jurídica y personalidad jurídica, y analiza precisamente si atribuir personalidad a agentes artificiales solucionaría los problemas de responsabilidad derivados de sistemas semiautónomos. La cuestión, por tanto, sigue siendo objeto de debate jurídico y no constituye un hecho normativo consolidado.
9. Una alternativa más sólida: estatus jurídico funcional
Desde mi perspectiva analítica, existe una alternativa más prudente que convertir inmediatamente a la IA en “persona”.
El derecho podría desarrollar categorías funcionales específicas para sistemas algorítmicos de alta autonomía y alto impacto.
Esto permitiría reconocer que determinados sistemas:
- generan riesgos particulares;
- requieren auditorías reforzadas;
- necesitan mecanismos de trazabilidad;
- deben estar sujetos a supervisión humana;
- requieren procedimientos específicos de reclamación;
- pueden producir consecuencias jurídicas relevantes;
- necesitan reglas especiales de conservación de registros;
- deben contar con responsables claramente identificados.
Esta vía ya tiene precedentes regulatorios. El AI Act utiliza categorías basadas en el riesgo y establece obligaciones diferenciadas para determinados sistemas, en lugar de conceder personalidad jurídica a la IA.
10. Matriz de decisión
La relación puede sintetizarse así:
| Característica | ¿Justifica por sí sola personalidad jurídica? |
|---|---|
| Alta complejidad computacional | No |
| Gran cantidad de parámetros | No |
| Capacidad de aprendizaje | No |
| Autonomía operacional | No, por sí sola |
| Capacidad de tomar decisiones | No, por sí sola |
| Conducta semejante a la humana | No |
| Capacidad de producir daños | No |
| Capacidad de actuar durante largos períodos | No, por sí sola |
| Evidencia científica de experiencia subjetiva | Sería jurídicamente relevante, pero no existe actualmente evidencia suficiente |
| Intereses propios demostrables | Sería altamente relevante |
| Agencia moral demostrable | Sería altamente relevante |
| Reconocimiento institucional mediante legislación | Necesario para cualquier nuevo estatus jurídico |
La tabla no constituye una norma jurídica; es una matriz analítica para evitar confundir características técnicas con categorías jurídicas.
Conclusión
La respuesta científicamente y jurídicamente más defendible es:
No. La complejidad algorítmica, por sí sola, no justifica un cambio en el estatus legal de la inteligencia artificial.
La complejidad sí justifica algo diferente: mayores exigencias de gobernanza, evaluación de riesgos, trazabilidad, transparencia, supervisión humana, auditoría y asignación clara de responsabilidades.
La OCDE establece accountability y trazabilidad a lo largo del ciclo de vida; NIST estructura la gestión del riesgo mediante gobernanza, mapeo, medición y gestión; UNESCO sostiene que la responsabilidad última debe seguir siendo atribuible a personas o entidades jurídicas; y el AI Act europeo regula proveedores, responsables del despliegue y otros actores de la cadena de valor.
Por consiguiente, la variable decisiva no es la complejidad algorítmica, sino la existencia de razones jurídicas y moralmente relevantes para reconocer una nueva forma de sujeto.
Mientras no exista evidencia suficiente de conciencia, intereses propios moralmente relevantes o agencia que haga insuficiente el modelo jurídico actual, cambiar la personalidad jurídica de la IA sería una conclusión que excedería la evidencia disponible.
Hay, además, una cuestión que considero todavía más importante: conceder personalidad jurídica a una IA no resolvería automáticamente el problema de la responsabilidad. Podría incluso dificultarlo si permitiera que empresas u organizaciones trasladaran hacia el sistema la responsabilidad por decisiones que continúan siendo producto de elecciones humanas, institucionales y comerciales.
Por eso, el principio rector debería ser:
a mayor autonomía tecnológica, mayor gobernanza; a mayor riesgo, mayor accountability; y solamente ante evidencia suficiente de una condición moral y jurídicamente relevante, reconsideración del estatus jurídico.
Esta posición no afirma que el debate esté cerrado para siempre. Afirma algo más preciso: con la evidencia científica y normativa actualmente disponible, la complejidad algorítmica no constituye una razón suficiente para convertir a la IA en sujeto jurídico.
Referencias bibliográficas — APA 7
European Parliament & Council of the European Union. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union.
National Institute of Standards and Technology. (2023). Artificial intelligence risk management framework (AI RMF 1.0) (NIST AI 100-1). U.S. Department of Commerce. https://doi.org/10.1787/623da898-en.
UNESCO. (2021). Recommendation on the ethics of artificial intelligence. UNESCO.
UNESCO. (2021). Recommendation on the ethics of artificial intelligence: Legal affairs. UNESCO.