Un sesgo en inteligencia artificial es una desviación sistemática del resultado de un modelo respecto al comportamiento que tendría un sistema justo. No es un error puntual, es un patrón estructural que perjudica a personas o grupos de forma reiterada y predecible. En 2026, con el AI Act exigiendo auditoría de sesgos para sistemas de alto riesgo y casos como COMPAS, Amazon Hiring o el algoritmo Apple Card ya como manuales judiciales, detectar y corregir sesgos dejó de ser tarea opcional del MLOps: es requisito legal.

Esta guía explica qué es un sesgo, los siete tipos documentados, ejemplos reales con sentencias, métodos técnicos de detección, herramientas open source y un protocolo de corrección probado en empresas españolas.

Qué es un sesgo en IA

Un sesgo (en inglés bias) en un modelo de inteligencia artificial es la diferencia sistemática entre las predicciones del modelo y la verdad subyacente, o la diferencia entre el trato que reciben distintos grupos de personas con características relevantes equivalentes.

El concepto técnico tiene dos lecturas:

• Sesgo estadístico: error sistemático del estimador respecto al parámetro real (parte del clásico bias-variance tradeoff).
• Sesgo social o de equidad: tratamiento desigual injustificado entre grupos protegidos. Es la lectura que recoge el AI Act y el RGPD.

Ambos están relacionados pero no son lo mismo. Un modelo con bajo sesgo estadístico puede tener alto sesgo social si los datos históricos reflejan desigualdades estructurales.

Los 7 tipos de sesgos en IA documentados

1. Sesgo histórico

Los datos de entrenamiento reflejan desigualdades pasadas. Ejemplo: un modelo de selección de personal entrenado con 10 años de contrataciones en un sector masculinizado aprende a preferir perfiles masculinos.

2. Sesgo de muestreo (selección)

Los datos no representan a la población destinataria. Ejemplo: un sistema de detección facial entrenado mayoritariamente con rostros de piel clara falla más en rostros oscuros (Buolamwini & Gebru, MIT, 2018).

3. Sesgo de medición

La variable objetivo no mide lo que dice medir. Caso Obermeyer et al. (Science, 2019): un algoritmo de gestión sanitaria usaba «gasto sanitario» como proxy de «necesidad de cuidados», subestimando sistemáticamente las necesidades de pacientes negros.

4. Sesgo algorítmico

Surge del propio diseño del modelo, no de los datos. Funciones de pérdida que premian precisión global pueden penalizar minorías porque el coste de fallar en una clase grande es mayor.

5. Sesgo de confirmación / retroalimentación

El modelo se autoconfirma porque solo recibe feedback de los casos que él aprueba. Ejemplo: un sistema policial predictivo que dirige patrullas a un barrio detectará más delito allí, refuerza el ciclo y penaliza al barrio.

6. Sesgo de evaluación

El benchmark con el que se mide al modelo no es representativo. Ejemplo: un benchmark de NLP en inglés US no detecta fallos del modelo en español de variantes regionales.

7. Sesgo de despliegue

Aparece cuando el modelo se usa fuera del contexto en que fue diseñado. Un clasificador médico entrenado en hospitales de EEUU puede fallar dramáticamente en España por diferente prevalencia de patologías.

5 ejemplos reales documentados

COMPAS · Tribunales de Florida (2016)

Investigación de ProPublica que comparó predicciones del sistema COMPAS sobre reincidencia con datos reales: el modelo sobreestimaba el riesgo en personas negras y subestimaba el de blancos. Northpointe (la empresa propietaria) y ProPublica discreparon en las métricas correctas, abriendo el debate académico sobre fairness definitions.

Amazon hiring tool (2014-2018)

El sistema de cribado interno de CVs entrenado con 10 años de contrataciones masculinizadas penalizaba el término «women’s» (como en «women’s chess club captain»). Amazon lo retiró antes del despliegue y publicó el caso en 2018.

Apple Card · NYDFS investigation (2019)

Goldman Sachs (emisor) ofrecía límites de crédito menores a mujeres con perfil financiero idéntico al de sus maridos. La New York Department of Financial Services investigó y, aunque cerró la investigación sin sanción formal, el caso quedó como referencia sobre opacidad algorítmica en banca.

SyRI · Países Bajos (2014-2020)

Sistema de detección de fraude en ayudas sociales. Un tribunal nacional neerlandés lo declaró contrario al artículo 8 del Convenio Europeo de Derechos Humanos en febrero de 2020. Primer caso en la UE en que un tribunal anula un sistema de IA público.

Algoritmo bonus calificación A-Level Reino Unido (2020)

Tras la suspensión de exámenes por COVID, Ofqual usó un algoritmo para asignar notas. Penalizaba a estudiantes de centros públicos y favorecía a privados. Tras protestas masivas, el gobierno británico revirtió el sistema en agosto de 2020.

Cómo detectar sesgos: métricas técnicas

No existe una sola métrica de equidad: hay al menos seis incompatibles entre sí (Chouldechova, 2017; Kleinberg et al., 2017). Las cuatro más usadas en producción:

1. Demographic parity: la tasa de predicción positiva debe ser igual entre grupos. Útil cuando el objetivo es paridad de oportunidades.
2. Equalized odds: la tasa de verdaderos positivos y de falsos positivos debe ser igual entre grupos. Más estricta que la anterior.
3. Equal opportunity: solo iguala la tasa de verdaderos positivos. Variante simplificada de equalized odds.
4. Calibration: dada una predicción, la probabilidad real debe ser la misma entre grupos. La que usaba COMPAS.

El teorema de imposibilidad de Chouldechova (2017) demuestra que demographic parity, equalized odds y calibration no pueden cumplirse simultáneamente salvo en casos triviales. La elección de métrica es decisión ética, no técnica.

Cómo corregir sesgos: 4 técnicas probadas

Pre-procesamiento (sobre los datos)

Resampling, reponderación o transformaciones que igualen la representación de grupos antes del entrenamiento. Ventaja: independiente del modelo. Desventaja: puede modificar la distribución real.

In-procesamiento (durante el entrenamiento)

Añadir restricciones de equidad a la función de pérdida (ej. adversarial debiasing, restricciones de Lagrange). Más eficaz, requiere acceso al pipeline de entrenamiento.

Post-procesamiento (sobre las salidas)

Ajustar umbrales de decisión por grupo para igualar métricas. Ventaja: se aplica sobre modelos cerrados (caja negra). Desventaja: en algunas jurisdicciones puede considerarse «tratamiento diferenciado por raza/género» prohibido por ley.

Auditoría continua

Ningún ajuste técnico sustituye la auditoría periódica con datos de producción. La distribución cambia con el tiempo (concept drift) y un modelo equitativo en t₀ puede dejar de serlo en t₁.

Herramientas open source para auditoría de sesgos

Las cinco son gratuitas y de código abierto. Para producción empresarial, IBM AIF360 y Microsoft Fairlearn son los estándares de facto.

Marco legal aplicable en España y la UE

La obligación de no discriminar mediante sistemas automatizados está recogida en cuatro normas convergentes:

• AI Act (Reg. UE 2024/1689), art. 10: obligación de gestión de la calidad de los datos para sistemas de alto riesgo, incluyendo examen de posibles sesgos.
• RGPD (Reg. UE 2016/679), art. 22: derecho a no ser objeto de decisiones automatizadas con efectos jurídicos significativos.
• Ley Orgánica 3/2018 (LOPDGDD), disposición adicional sexta: derecho a la explicación.
• Ley 15/2022 integral para la igualdad de trato: prohíbe la discriminación algorítmica en servicios y empleo.

Preguntas frecuentes

En síntesis

Los sesgos en IA son inevitables y, simultáneamente, gestionables. La diferencia entre un sistema de alto riesgo legalmente desplegable y uno susceptible de sanción está en si la organización ha identificado, medido y mitigado activamente sus sesgos. Las herramientas existen, el marco legal exige el control y los casos reales muestran qué cuesta no hacerlo. El ciclo virtuoso es: documentar datos, elegir métrica de equidad alineada con valores, mitigar antes y después del entrenamiento, auditar en producción de forma continua.

Fuentes: Buolamwini & Gebru, Gender Shades (MIT, 2018); Obermeyer et al., Science, 2019; Chouldechova, 2017; Kleinberg et al., 2017; ProPublica COMPAS investigation; AI Fairness 360 (IBM); Fairlearn (Microsoft); Reglamento (UE) 2024/1689; RGPD; LO 3/2018; Ley 15/2022.

Autor: Daniel Bellido Pérez · iasostenible.com · 3 mayo 2026