El sesgo algorítmico es la desviación sistemática que surge del propio diseño de un modelo de IA, no de los datos con los que se entrena. Es uno de los siete tipos de sesgo documentados y, posiblemente, el menos comprendido fuera del ámbito técnico. Esta guía explica qué es exactamente, cómo se diferencia del sesgo de datos y cómo se mitiga.

Qué es el sesgo algorítmico

El sesgo algorítmico es la desviación sistemática del comportamiento de un modelo causada por decisiones de diseño del propio algoritmo: función de pérdida, arquitectura, hiperparámetros, métrica de optimización. Aparece incluso con datos perfectamente balanceados.

Se distingue del sesgo de datos en que la causa es interna al modelo, no a su entrada. La norma ISO/IEC 22989:2022 lo identifica como uno de los tipos formales de sesgo en sistemas de IA.

Sesgo algorítmico vs sesgo de datos

3 fuentes de sesgo algorítmico

1. Funciones de pérdida no equitativas

Optimizar accuracy global premia ser preciso en la clase mayoritaria. Si una clase representa el 95 % de los datos, un modelo «tonto» que siempre predice esa clase tiene 95 % de accuracy ignorando el resto.

2. Regularización inadecuada

L1, L2, dropout aplicados sin considerar grupos protegidos pueden eliminar señales relevantes para minorías.

3. Arquitectura mal dimensionada

Un modelo con poca capacidad puede aprender solo el patrón dominante e ignorar matices relevantes para subgrupos. Aparece especialmente en deep learning con poca regularización por grupo.

Cómo se detecta

Tests estándar:

• Métricas de equidad por subgrupo: demographic parity, equalized odds, equal opportunity.
• Curva ROC/PR por grupo protegido.
• Análisis de calibración por grupo.
• Test con datos sintéticos balanceados que aíslen el efecto del modelo.

Herramientas: AI Fairness 360 (IBM), Fairlearn (Microsoft), What-If Tool (Google), Aequitas.

Cómo se mitiga

1. In-procesamiento: añadir restricciones de equidad a la función de pérdida (adversarial debiasing, restricciones de Lagrange).
2. Pre-procesamiento: si los datos son la causa real, balancear o reponderar.
3. Post-procesamiento: ajustar umbrales por grupo (con cautela legal según jurisdicción).
4. Selección de modelo: a veces un modelo más simple, mejor regularizado, equitativo, supera en producción a uno complejo sesgado.

Marco legal aplicable

• AI Act (UE) 2024/1689, art. 10: examen obligatorio de sesgos para sistemas alto riesgo.
• RGPD art. 22: derecho a no ser sometido a decisiones automatizadas con efectos jurídicos.
• Ley Orgánica 3/2018, disposición adicional sexta: derecho a la explicación.
• Ley 15/2022 integral para la igualdad: prohíbe discriminación algorítmica.

Preguntas frecuentes

En síntesis

El sesgo algorítmico nace del diseño del modelo, no solo de sus datos. Tiene tipos identificados, métricas de medición y técnicas de mitigación. Para el contexto completo ver la guía pilar de sesgos en IA.

Fuentes: ISO/IEC 22989:2022; Chouldechova 2017; AI Fairness 360 (IBM); Fairlearn (Microsoft); Reglamento (UE) 2024/1689; LO 3/2018.

Autor: Daniel Bellido Pérez · iasostenible.com · 4 mayo 2026