La influencia del sesgo de los datos en la responsabilidad: una cadena causal desde el origen hasta la sanción

El sesgo de los datos constituye hoy, en 2026, uno de los elementos centrales en la determinación de la responsabilidad legal por sistemas de inteligencia artificial. Lejos de ser un mero defecto técnico, el sesgo en los datos de entrenamiento se ha consolidado como un factor de imputación directa de responsabilidad civil, administrativa y, en ciertos casos, penal para desarrolladores y desplegadores. A continuación, se analiza cómo opera esta influencia, con base en los marcos regulatorios y la jurisprudencia del período 2025-2026.

1. La cadena causal: del dato sesgado al daño jurídicamente relevante

El derecho de la IA ha incorporado un principio fundamental: el sesgo no es un accidente, sino un riesgo previsible que debe ser gestionado desde el diseño. La Mobley v. Workday, Inc. (N.D. Cal., certificación condicional concedida el 16 de mayo de 2025) constituye el precedente más significativo [4][7]. El demandante alegó que el sistema de recomendación de Workday, entrenado exclusivamente con datos de empleados históricos de las empresas clientes, produjo un impacto dispar por edad, raza y discapacidad al filtrar candidatos.

El tribunal no solo permitió que la demanda avanzara, sino que concedió la certificación de clase colectiva para las reclamaciones bajo la Age Discrimination in Employment Act (ADEA), aceptando el argumento de que los algoritmos entrenados con datos históricos —que reflejan prácticas de contratación previas— pueden perpetuar y amplificar sesgos estructurales [7]. La decisión establece que el entrenamiento en homogeneidad constituye evidencia suficiente de una "política común" que justifica la acción colectiva.

Desde la ciencia de datos, esta cadena se explica por el fenómeno de feedback loops: cuando un algoritmo se entrena con datos que ya contienen sesgos (por ejemplo, una empresa que históricamente contrató mayoritariamente a hombres jóvenes), el modelo aprende a recomendar perfiles similares, generando un ciclo de auto-reforzamiento que profundiza la discriminación [4].

2. Marcos regulatorios: la obligación de detectar y corregir sesgos

2.1. Unión Europea: de la detección de sesgos a la responsabilidad objetiva

El Reglamento de IA de la UE (2024/1689) establece que los sistemas de alto riesgo deben ser diseñados y desarrollados de manera que sus resultados sean "suficientemente transparentes y explicables", y que se implementen mecanismos de supervisión humana efectiva [1]. En su Joint Opinion 1/2026, el EDPB y el EDPS abordan directamente el sesgo en los datos:

• Amplían la excepción para el procesamiento de categorías especiales de datos (origen étnico, datos biométricos, etc.) cuando sea "estrictamente necesario" para la detección y corrección de sesgos [1].
• Advierten que la propuesta de la Comisión de diluir el estándar de "estrictamente necesario" a "necesario" podría generar riesgos de abuso [1].
• Recomiendan mantener el requisito de documentación pública en el registro de la UE para garantizar la transparencia sobre cómo se gestionaron los sesgos durante el desarrollo [1].

Las sanciones por incumplimiento alcanzan los 35 millones de euros o el 7% del volumen de negocio mundial anual, lo que convierte la gestión de sesgos en una cuestión de alta exposición financiera.

2.2. Estados Unidos: divergencia jurisdiccional y estándares de imputación

El panorama estadounidense muestra tres enfoques distintos que impactan directamente en cómo se imputa responsabilidad por sesgos:

• Illinois HB 3773 (efectiva enero 2026): modifica la Ley de Derechos Humanos para cubrir explícitamente la discriminación mediada por IA. Establece un estándar de impacto dispar: el empleador no puede usar IA que tenga el efecto de discriminar, independientemente de la intencionalidad [3]. El sesgo en los datos de entrenamiento es, por sí mismo, evidencia de violación.
• Colorado Artificial Intelligence Act (SB 24-205) (implementación junio 2026): exige a desarrolladores y desplegadores de sistemas de alto riesgo implementar programas de gestión de riesgos y realizar evaluaciones de impacto anuales que identifiquen específicamente los sesgos en los datos [3]. La omisión de estas evaluaciones genera responsabilidad directa.
• Texas TRAIGA (efectiva enero 2026): adopta un estándar más restrictivo, exigiendo intencionalidad para que exista responsabilidad civil. El sesgo estadístico no es suficiente sin prueba de propósito discriminatorio [5][8]. Sin embargo, establece un safe harbor para quienes documenten cumplimiento con marcos como el NIST AI RMF, incentivando la auditoría proactiva de sesgos [5].

Esta fragmentación genera un imperativo para las empresas: deben diseñar sistemas que cumplan con el estándar más alto (el de Illinois y Colorado), documentando exhaustivamente los procesos de detección y mitigación de sesgos [3].

2.3. América Latina: Perú y Brasil como pioneros en responsabilidad por sesgo

Perú ha implementado el marco más avanzado de la región. El Decreto Supremo N° 115-2025-PCM (Reglamento de la Ley 31814, vigente desde enero 2026) clasifica los sistemas según riesgo y establece:

• Para sistemas de riesgo alto (justicia predictiva, selección de personal, clasificación crediticia): auditoría de impacto en derechos humanos, transparencia total, derecho a explicación, y supervisión humana efectiva [2][6].
• La Ley N° 32314 (abril 2025) introduce agravantes penales específicas para delitos cometidos mediante IA, con aumento de penas de hasta un tercio [6].

En Brasil, la Resolución CNJ N° 615/2025 establece que el "viés discriminatório ilegal ou abusivo" se define por el resultado discriminatorio, no por la intención del programador [9]. El Consejo Nacional de Justicia prohíbe expresamente sistemas que valoren rasgos de personalidad para predecir reincidencia criminal, reconociendo que los datos históricos del sistema penal brasileño contienen sesgos raciales y socioeconómicos estructurales [9].

3. Estrategias de mitigación y prueba de diligencia

La literatura de 2025-2026 coincide en que la documentación proactiva es la principal defensa frente a reclamaciones por sesgo. Los elementos clave incluyen:

1. Auditorías de sesgo pre-despliegue: pruebas estadísticas sobre conjuntos de datos de evaluación que incluyan grupos demográficos protegidos, documentando la metodología y los resultados.
2. Transparencia en el entrenamiento: registro de la procedencia de los datos, su composición demográfica, y los procedimientos de limpieza y balanceo aplicados.
3. Detección de feedback loops: monitoreo continuo post-despliegue para identificar si el sistema está amplificando sesgos a través de ciclos de auto-reforzamiento [4].
4. Adopción de marcos reconocidos: la adhesión a estándares como el NIST AI Risk Management Framework puede constituir defensa afirmativa (safe harbor) en jurisdicciones como Texas [5][8].
5. Contratos con proveedores: asignación contractual de responsabilidades sobre auditorías de sesgo, acceso a datos para verificación de cumplimiento, y notificación de incidentes [3].

4. Desafíos emergentes: sesgo, opacidad y litigios colectivos

El caso Mobley v. Workday ilustra la magnitud potencial de los litigios por sesgo: Workday representó que 1.100 millones de solicitudes de empleo fueron rechazadas utilizando sus herramientas durante el período relevante, lo que podría convertir el colectivo en uno de los más grandes jamás certificados, con "cientos de millones" de miembros [7].

La literatura especializada identifica dos tensiones centrales:

• Transparencia versus propiedad intelectual: la Resolución 615/2025 del CNJ brasileño permite que la auditoría se realice "sin acceso irrestricto al código fuente" para proteger secretos comerciales, lo que ha generado críticas por debilitar la verificabilidad efectiva [9].
• Supervisión humana insuficiente: el automation bias documentado (sesgo de automatización) lleva a que supervisores humanos validen recomendaciones sesgadas sin cuestionarlas, especialmente cuando el sistema ha mostrado alta precisión en tareas anteriores [4]. Esto convierte la "supervisión humana" en una cobertura formal sin contenido sustantivo.

5. Conclusiones

En 2026, el sesgo de los datos ha dejado de ser una preocupación exclusiva de la ética algorítmica para convertirse en un factor determinante de responsabilidad legal. La cadena es clara:

1. Datos sesgados en el entrenamiento → algoritmo discriminatorio → daño a grupos protegidos → responsabilidad del desarrollador/desplegador bajo marcos que exigen impacto dispar (Illinois, Colorado, UE, Perú, Brasil) o, en casos extremos, intencionalidad (Texas).

La influencia del sesgo en la responsabilidad se manifiesta en tres dimensiones:

• Responsabilidad civil: a través de acciones colectivas como Mobley v. Workday, con indemnizaciones potencialmente multimillonarias.
• Responsabilidad administrativa: multas de hasta 35 millones de euros bajo el AI Act, o sanciones de los fiscales generales estatales en EE.UU.
• Responsabilidad penal: agravantes específicas por uso de IA en delitos, como en Perú, con aumento de penas de hasta un 33%.

La mitigación del sesgo no es solo una buena práctica técnica, sino una obligación legal exigible que debe ser documentada, auditable y verificable. Las empresas que no implementen programas de gestión de sesgos desde el diseño enfrentan un riesgo de litigio exponencialmente mayor, en un contexto donde la certificación de clases colectivas se ha vuelto accesible y los reguladores cuentan con herramientas de supervisión cada vez más sofisticadas.

Referencias

European Data Protection Board & European Data Protection Supervisor. (2026). *Joint Opinion 1/2026 on the Proposal to amend the AI Act (Digital Omnibus on AI)*. https://dev.americanbar.org/groups/business_law/resources/business-law-today/2025-july/texas-enters-ai-sandbox-with-traiga-implications-business-trials/ [5]