El sesgo y la discriminación en la IA son fenómenos relacionados pero distintos. El sesgo es la causa técnica; la discriminación, su consecuencia jurídica y social cuando afecta a un grupo protegido por ley. Esta guía clarifica ambos conceptos con casos reales documentados y el marco legal que los regula en España y la UE.

Diferencia entre sesgo y discriminación

Tipos de discriminación algorítmica

• Directa: el algoritmo usa explícitamente una característica protegida.
• Indirecta: el algoritmo usa proxys aparentemente neutros que correlacionan con características protegidas (código postal como proxy de etnia).
• Por asociación: el sistema discrimina por relación con persona protegida (ej. Parentesco).
• Estadística: diferencias sistemáticas en outcomes por grupo, sin intencionalidad documentada.

5 casos reales y consecuencias

SyRI · Países Bajos (2014-2020)

Sistema gubernamental de detección de fraude social. Tribunal nacional lo declaró contrario al artículo 8 del Convenio Europeo de Derechos Humanos. Consecuencia: anulación judicial.

Apple Card · NYDFS investigation (2019)

Mujeres con perfil financiero idéntico al de sus parejas recibían menores límites de crédito. Consecuencia: investigación regulatoria, cambios en proceso, sin sanción formal.

Algoritmo A-Level Reino Unido (2020)

Discriminación indirecta contra estudiantes de centros públicos. Consecuencia: el gobierno británico revirtió el sistema en agosto de 2020.

Reconocimiento facial policial

Tasas de error 30× superiores en mujeres de piel oscura (Buolamwini & Gebru, MIT 2018). Consecuencia: prohibiciones en San Francisco, Boston, Portland; restricciones AI Act en espacios públicos.

Algoritmo gestión sanitaria · Obermeyer et al. (2019)

Subestimación sistemática de necesidades de pacientes negros (200 millones afectados). Consecuencia: revisión metodológica, publicación científica de impacto.

Marco legal aplicable en España y la UE

• AI Act (Reg. UE 2024/1689), art. 10: examen de sesgos obligatorio para alto riesgo.
• RGPD, art. 22: derecho a no ser sometido a decisiones automatizadas significativas.
• Ley Orgánica 3/2018 (LOPDGDD), disposición adicional sexta: derecho a la explicación.
• Ley 15/2022 integral para la igualdad de trato y no discriminación: prohíbe expresamente la discriminación algorítmica.
• Directiva 2000/43/CE: igualdad de trato sin distinción de origen racial o étnico.
• Directiva 2000/78/CE: igualdad de trato en empleo.

Cómo defenderse si crees ser discriminado

1. Solicita al responsable información sobre el sistema (RGPD art. 15).
2. Pide explicación de la decisión (LOPDGDD disposición adicional sexta).
3. Reclama revisión humana (AI Act art. 86).
4. Si no satisfecho, presenta queja a la AEPD o AESIA según el caso.
5. Vía judicial civil (Ley 15/2022) o contencioso-administrativa según el ámbito.

Preguntas frecuentes

En síntesis

Sesgo y discriminación son fenómenos distintos pero conectados. Marco legal completo en España y UE. Caminos concretos para detectar y reclamar. Para el contexto técnico ver la guía pilar de sesgos en IA.

Fuentes: Reglamento (UE) 2024/1689; RGPD; LO 3/2018; Ley 15/2022; Directivas 2000/43/CE y 2000/78/CE; Buolamwini & Gebru, MIT 2018; Obermeyer et al., Science 2019; Tribunal Países Bajos sentencia SyRI.

Autor: Daniel Bellido Pérez · iasostenible.com · 6 mayo 2026