El derecho de los usuarios a conocer las razones detrás de una decisión algorítmica que les afecta negativamente —conocido en la literatura como el right to explanation— ha emergido como uno de los pilares fundamentales de la gobernanza de la inteligencia artificial. Lejos de ser una mera aspiración ética, este derecho se ha positivizado en diversos ordenamientos y se sustenta en principios constitucionales como la transparencia, la no discriminación y el debido proceso. A continuación, se analiza su fundamento normativo, sus límites técnicos y su implementación práctica, con base en la literatura académica indexada y los marcos regulatorios vigentes.

1. Fundamento normativo: del GDPR al AI Act

El reconocimiento más influyente del derecho a la explicación se encuentra en el Reglamento General de Protección de Datos (GDPR) de la Unión Europea. Los artículos 13, 14 y 15 establecen el derecho del interesado a obtener “información significativa sobre la lógica del tratamiento” así como “las consecuencias previstas de dicho tratamiento”. El artículo 22, por su parte, otorga al interesado el derecho a no ser sujeto de una decisión basada únicamente en el tratamiento automatizado que produzca efectos jurídicos o le afecte significativamente, junto con la facultad de obtener intervención humana, expresar su punto de vista y impugnar la decisión (Goodman & Flaxman, 2017; Wachter et al., 2017).

Aunque el GDPR no utiliza explícitamente la expresión “derecho a la explicación”, la doctrina mayoritaria y las directrices del Comité Europeo de Protección de Datos (EDPB) interpretan que estos artículos consagran una garantía de transparencia reforzada (Selbst & Powles, 2017). La lectura conjunta de los artículos 13(2)(f), 14(2)(g) y 15(1)(h) impone al responsable del tratamiento la obligación de proporcionar información significativa sobre la lógica empleada, lo que en sistemas complejos de IA excede la mera descripción abstracta y alcanza la necesidad de explicaciones individualizadas cuando la decisión afecta al interesado.

El Reglamento de IA de la UE (2024) profundiza este enfoque. Para los sistemas de alto riesgo (Anexo III), exige que estén diseñados y desarrollados de manera que su funcionamiento sea suficientemente transparente para que los usuarios puedan interpretar los resultados y utilizarlos adecuadamente (artículo 13). Además, impone la obligación de proporcionar instrucciones de uso claras y significativas, así como la posibilidad de que las personas afectadas reciban una explicación de la decisión cuando esta sea tomada por un sistema de alto riesgo.

2. Dimensiones del derecho: explicabilidad y contestabilidad

La literatura especializada distingue dos dimensiones interrelacionadas. La primera es la explicabilidad técnica (explainability): la capacidad del sistema para generar representaciones comprensibles de sus procesos internos. La segunda es la contestabilidad (contestability): el derecho del afectado no solo a conocer las razones, sino a impugnar la decisión ante un humano con capacidad de revisión (Citron & Pasquale, 2014; Selbst, 2017).

Un marco completo debe asegurar que la explicación sea:

• Individualizada: referida a la decisión concreta, no a una descripción genérica del modelo.
• Comprensible: adaptada al nivel de conocimiento del destinatario.
• Oportuna: proporcionada antes o inmediatamente después de la decisión.
• Accionable: que permita al usuario ejercer su derecho a impugnar o solicitar revisión humana.

3. Desafíos técnicos y límites operativos

A pesar del sólido fundamento normativo, la implementación del derecho a la explicación enfrenta desafíos significativos:

a) Opacidad de los modelos: Los sistemas de aprendizaje profundo (redes neuronales) con cientos de miles de millones de parámetros carecen de una interpretación causal directa. Métodos post-hoc como LIME (Ribeiro et al., 2016), SHAP (Lundberg & Lee, 2017) o mapas de prominencia proporcionan explicaciones aproximadas, pero pueden ser inestables o contradictorias entre sí. La literatura advierte que la falta de estandarización puede generar “explicaciones ilusorias” que no reflejan el verdadero razonamiento del modelo (Rudin, 2019).

b) Tensión con otros derechos: Explicar en detalle el funcionamiento interno de un algoritmo puede revelar secretos comerciales o exponer vulnerabilidades de seguridad. El GDPR (artículo 23) permite restricciones al derecho de acceso cuando sea necesario para proteger derechos ajenos o la seguridad pública, pero estas excepciones no deben vaciar de contenido el derecho a la explicación (Wachter et al., 2017).

c) Sistemas de aprendizaje continuo: En modelos que se actualizan dinámicamente, la explicación correspondiente al momento de la decisión puede volverse obsoleta. Se requieren mecanismos de trazabilidad y registro (logging) que permitan reconstruir el estado del modelo en el momento de la inferencia.

d) Capacidad de interpretación del usuario: No basta con entregar datos técnicos (pesos, gradientes, etc.); la explicación debe ser significativa para una persona sin formación en IA. Esto exige el diseño de interfaces de explicación centradas en el usuario y la disponibilidad de canales de asistencia.

4. Experiencias comparadas y buenas prácticas

En Estados Unidos, no existe un derecho federal equivalente al GDPR, pero sectores como el crédito están regulados por la Equal Credit Opportunity Act (ECOA) y su reglamento de implementación, que exigen proporcionar razones específicas cuando se deniega una solicitud de crédito (Hurley & Adebayo, 2017). La Algorithmic Accountability Act (propuesta en 2019 y 2022) busca imponer evaluaciones de impacto y transparencia para sistemas automatizados que afecten derechos civiles.

En América Latina, el derecho a la explicación ha comenzado a incorporarse en leyes de protección de datos personales inspiradas en el GDPR (Ley 25.326 de Argentina, Ley 29733 de Perú, y la LGPD de Brasil), aunque su desarrollo jurisprudencial es incipiente.

La buena práctica emergente consiste en implementar un sistema de “explicabilidad por diseño”:

• Documentar las decisiones de diseño, los datos de entrenamiento y las limitaciones del modelo (model cards; Mitchell et al., 2019).
• Establecer procedimientos internos de auditoría algorítmica antes del despliegue.
• Diseñar interfaces de usuario que permitan solicitar explicaciones en lenguaje natural y ofrecer vías claras de revisión humana.
• Crear registros inmutables de las decisiones automatizadas para su verificación posterior.

5. Conclusiones

El derecho de los usuarios a saber por qué un algoritmo tomó una decisión que les afecta negativamente constituye, hoy, un derecho positivo en múltiples jurisdicciones, especialmente en la Unión Europea, y se consolida como un estándar global de transparencia algorítmica. Este derecho no es absoluto y debe conciliarse con la protección de secretos empresariales y la viabilidad técnica, pero su núcleo esencial —garantizar que las personas no sean sujeto de decisiones automatizadas opacas e inapelables— resulta irrenunciable en un Estado de derecho.

La efectividad de este derecho depende de tres condiciones: un marco legal que lo exija de manera clara y sancione su incumplimiento, herramientas técnicas que permitan generar explicaciones fieles y comprensibles, y una cultura organizacional que valore la transparencia como requisito de legitimidad. La evolución futura apunta hacia estándares internacionales armonizados que definan qué constituye una “explicación significativa” y cómo debe ser entregada, cerrando así la brecha entre el principio normativo y la realidad operativa de los sistemas de IA.

Referencias

Citron, D. K., & Pasquale, F. (2014). The scored society: Due process for automated predictions. Washington Law Review, *89*(1), 1–33.

Goodman, B., & Flaxman, S. (2017). European Union regulations on algorithmic decision-making and a “right to explanation”. AI Magazine, *38*(3), 50–57. https://doi.org/10.1093/idpl/ipx005