Un sesgo en inteligencia artificial es una desviación sistemática del comportamiento de un modelo respecto a lo que sería un trato justo. No es un error puntual, es un patrón estructural que perjudica a personas o grupos de forma reiterada y predecible. Este artículo lo explica con ejemplos reales, los siete tipos documentados y cómo detectarlos.

Definición técnica de sesgo en IA

Un sesgo (en inglés bias) en un modelo de IA es la diferencia sistemática entre las predicciones del modelo y el comportamiento ideal o esperado. La definición rigurosa la formula la norma ISO/IEC 22989:2022 sobre conceptos de IA: «diferencia injustificada en el trato entre personas o grupos cuando los aspectos relevantes son equivalentes».

Las dos lecturas: estadística y social

El término «sesgo» tiene dos significados que conviven en literatura técnica:

• Sesgo estadístico: error sistemático del estimador respecto al parámetro real. Forma parte del clásico bias-variance tradeoff.
• Sesgo social o de equidad: trato desigual injustificado entre grupos protegidos. Es la lectura que recoge el AI Act y el RGPD.

Un modelo con bajo sesgo estadístico puede tener alto sesgo social si los datos históricos reflejan desigualdades estructurales.

3 ejemplos reales para entenderlo

Reconocimiento facial · Buolamwini y Gebru (MIT, 2018)

El estudio Gender Shades demostró que sistemas comerciales de reconocimiento facial tenían tasas de error hasta 34 puntos porcentuales superiores en mujeres de piel oscura frente a hombres de piel clara.

Amazon hiring tool (2014-2018)

El sistema interno de cribado de CVs penalizaba palabras asociadas a candidaturas femeninas. Amazon lo retiró antes del despliegue.

Algoritmo gestión sanitaria · Obermeyer et al. (Science, 2019)

Un algoritmo usado en EEUU sobre 200 millones de pacientes subestimaba sistemáticamente las necesidades de pacientes negros porque usaba «gasto sanitario» como proxy de «necesidad de cuidados».

Tipos de sesgo (resumen)

1. Histórico: los datos reflejan desigualdades pasadas.
2. Muestreo: los datos no representan a la población destinataria.
3. Medición: la variable objetivo no mide lo que dice medir.
4. Algorítmico: surge del propio diseño del modelo.
5. Confirmación / retroalimentación: el modelo se autoconfirma.
6. Evaluación: el benchmark de medida no es representativo.
7. Despliegue: el modelo se usa fuera de su contexto de diseño.

Para profundizar en cada tipo, ver nuestra guía pilar de sesgos en IA.

Cómo se detecta un sesgo

Métricas estándar usadas en producción: demographic parity, equalized odds, equal opportunity, calibration. El teorema de imposibilidad de Chouldechova (2017) demuestra que no se pueden cumplir las tres primeras simultáneamente: la elección de métrica es decisión ética, no técnica.

Herramientas open source más usadas: AI Fairness 360 (IBM), Fairlearn (Microsoft), What-If Tool (Google), Aequitas (Universidad de Chicago).

Preguntas frecuentes

En síntesis

Un sesgo en IA es una desviación sistemática que perjudica a personas de forma reiterada. Tiene siete tipos documentados, métricas técnicas para medirlo y herramientas gratuitas para auditarlo. La obligación de gestionarlo está en el AI Act y el RGPD. Para implementación en producción, ver la guía completa.

Fuentes: ISO/IEC 22989:2022; Buolamwini & Gebru, MIT 2018; Obermeyer et al., Science 2019; Chouldechova 2017; AI Fairness 360 (IBM); Fairlearn (Microsoft); Reglamento (UE) 2024/1689.

Autor: Daniel Bellido Pérez · iasostenible.com · 3 mayo 2026