IA SostenibleDilemas éticos de la IA: casos reales documentados
Enfoque de esta web: Estos casos plantean dilemas de gobernanza y derechos. Si buscas la ética aplicada al estudio (autoría, trampas, declaración del uso) o el sesgo desde un punto de vista práctico, mira estas guías. Ética de usar IA para estudiar · Sesgos en la IA y cómo mitigarlos
Cómo he elegido los casos
Solo incluyo casos con fuente oficial, judicial o de organizaciones reconocidas, y los describo de forma genérica cuando intervienen empresas. Varios son sistemas automatizados de decisión de administraciones públicas y no «inteligencia artificial» en sentido estricto; los incluyo porque plantean el mismo dilema: decidir sobre personas con reglas que ellas no pueden ver ni discutir.
Enfoques que cubre la guía: sesgo y discriminación, privacidad, transparencia y un caso de coste ambiental repartido. Para cada uno distingo lo que está probado de lo que es interpretación. Ningún caso aquí es una acusación; son hechos recogidos por tribunales o autoridades.
Una advertencia de método: una sentencia o una multa prueban lo que el órgano concluyó con los datos de ese caso; no demuestran que todos los sistemas similares sean ilegítimos ni que cualquier uso de IA en la administración sea problemático.
Opacidad y privacidad: la detección de fraude en prestaciones
El 5 de febrero de 2020 el Tribunal de Distrito de La Haya ordenó dejar de usar SyRI, un sistema gubernamental neerlandés que cruzaba datos de la población para detectar fraude en ayudas. El tribunal concluyó que la ley que lo regulaba no cumplía el artículo 8 del Convenio Europeo de Derechos Humanos, sobre la vida privada, y que no daba suficiente información sobre los indicadores de riesgo ni sobre el funcionamiento del modelo.
El dilema: perseguir el fraude es un interés público legítimo, pero un sistema cuyo funcionamiento no puede conocerse no permite defenderse. La relatoría de la ONU sobre pobreza extrema advirtió de que estos sistemas pueden amenazar en particular a las personas más pobres. La lección no es «no usar algoritmos», sino exigir base legal clara, proporcionalidad y explicación.
No he comprobado en la sentencia original si el sistema usaba aprendizaje automático o reglas fijas. Para el análisis ético lo decisivo es que era automatizado, que cruzaba datos de personas concretas y que quienes lo sufrían no podían entender ni rebatir su resultado.
Sesgo: nacionalidad como indicador de riesgo
En 2021 la autoridad neerlandesa de protección de datos multó con 2,75 millones de euros a la administración tributaria por tratar de forma ilícita y discriminatoria la doble nacionalidad de solicitantes de ayudas para guardería, usándola como indicador en un sistema que marcaba solicitudes como arriesgadas. En 2022 impuso otra multa de 3,7 millones por una lista de señales de fraude con más de 270.000 personas afectadas, en la que, según la propia investigación de la administración, se instruyó a los funcionarios para basar parte del riesgo en la nacionalidad.
Estas cifras proceden de un análisis jurídico de un despacho internacional que recoge ambas resoluciones; no he podido abrir las resoluciones de la autoridad. El dilema es el sesgo estructural: un indicador aparentemente neutro puede reproducir discriminación a gran escala.
Además, el informe de esa comisión es un ejemplo de rendición de cuentas posible: un órgano público con poderes de investigación examinó cómo se diseñó, se mantuvo y se defendió el sistema.
Daño por automatización sin control humano
La Comisión Real australiana sobre el sistema «Robodebt» presentó su informe final el 7 de julio de 2023. Ese sistema calculaba deudas de prestaciones de forma automática y la comisión lo calificó como un mecanismo «tosco y cruel, ni justo ni legal», que afectó a más de 500.000 personas y se mantuvo unos cinco años, hasta que un tribunal federal lo declaró ilegal a finales de 2019.
No era una IA compleja, sino promediar ingresos de forma automática, pero ilustra el riesgo central: cuando un sistema genera deudas o sanciones en masa, el error se multiplica y la carga de la prueba recae sobre la persona. Las salvaguardas relevantes son la revisión humana efectiva, la posibilidad real de recurrir y la prueba previa con casos reales.
Transparencia algorítmica en España: el caso BOSCO
BOSCO es la aplicación del Ministerio para la Transición Ecológica con la que las comercializadoras comprueban si alguien cumple los requisitos del bono social eléctrico. La fundación Civio pidió su código fuente en 2018. Tras varias derrotas, el Tribunal Supremo, en sentencia de 11 de septiembre de 2025 (casación 7878/2024), condenó a la Administración a facilitárselo, al considerar que el acceso a la información pública es un derecho constitucional que cobra especial relevancia ante decisiones automatizadas sobre derechos sociales.
A mayo de 2026, según Civio, la Administración aún no había entregado el código. El caso muestra que la transparencia no termina con la sentencia: hace falta que se cumpla.
La sentencia es un precedente relevante, pero no resuelve por sí sola qué debe publicarse en cada caso: la valoración se hace atendiendo a las circunstancias concretas.
El dilema ambiental: quién paga la red eléctrica
Las decisiones sobre dónde y cómo se conectan los centros de datos también son éticas. El Gobierno de España, en la documentación de su proyecto de real decreto, sostiene que si la demanda de los centros crece sin nuevas renovables puede aumentar el uso de gas y subir los costes eléctricos para el conjunto de los consumidores. Es la postura del ministerio, no un hecho medido.
En Irlanda, el regulador eléctrico decidió en diciembre de 2025 exigir a los centros generación o almacenamiento propios y un 80 % de nuevas renovables, en lugar de una moratoria. Ambos casos plantean la misma pregunta: si los beneficios de una infraestructura son privados y sus costes de red se reparten, quién debe asumirlos. Además, el Programa de la ONU para el Medio Ambiente recomienda medir y divulgar el impacto ambiental de la IA.
En el plano europeo, el Reglamento de IA contempla en su artículo 95 códigos de conducta voluntarios que pueden incluir la evaluación del impacto en la sostenibilidad ambiental. Son voluntarios y no sustituyen a la regulación sobre derechos de las personas.
Fuentes consultadas
Última revisión: 2026-10-13. Una cifra o una norma puede haber cambiado desde entonces: abre la fuente antes de citarla. Lo aquí expuesto orienta, pero no es asesoramiento profesional.
Nuestro criterio: citar solo lo que se ha abierto y leído, avisar cuando una cifra descansa en un comunicado o en un resumen ajeno, y corregir la guía cuando aparezca un dato mejor o un error.
- ASIL, resumen de la sentencia SyRI (Tribunal de Distrito de La Haya, 05-02-2020): https://www.asil.org/ILIB/netherlands-district-court-rules-benefits-fraud-detection-tool-violates-human-rights
- Clifford Chance, análisis de las multas de la autoridad neerlandesa de protección de datos: https://cliffordchance.com/insights/resources/blogs/talking-tech/en/articles/2022/04/dutch-government-fraud-scandal-leads-to-record-breaking-gdpr-fin.html
- Gobierno de Australia, informe final de la Royal Commission into the Robodebt Scheme: https://ministers.pmc.gov.au/gallagher/2023/final-report-royal-commission-robodebt-scheme
- Poder Judicial de España, sentencia sobre el código fuente de BOSCO: https://www.poderjudicial.es/cgpj/es/Poder-Judicial/Noticias-Judiciales/El-Tribunal-Supremo-condena-a-la-Administracion-a-facilitar-a-una-Fundacion-Ciudadana-el-codigo-fuente-de-la-aplicacion-informatica-que-acredita-a-los-beneficiarios-del-bono-social-electrico
- Civio, estado del cumplimiento (14-05-2026): https://civio.es/novedades/2026/05/14/ocho-meses-desde-la-sentencia-de-bosco-y-seguimos-sin-tener-acceso-al-codigo/
- MITECO, nota de prensa del real decreto de centros de datos: https://www.miteco.gob.es/content/dam/miteco/es/prensa/20260827_NdP_El_Gobierno_plantea_impulsar_los_centros_de_datos_sostenibles.pdf
- Commission for Regulation of Utilities de Irlanda: https://www.cru.ie/about-us/news/the-cru-publishes-its-decision-on-new-electricity-connection-policy-for-data-centres/
- PNUMA: https://unep.org/news-and-stories/story/ai-has-environmental-problem-heres-what-world-can-do-about
Preguntas frecuentes
¿Un sistema automatizado puede discriminar sin que nadie lo pretenda?
Sí. En el caso neerlandés de las ayudas para guardería, la autoridad de protección de datos consideró discriminatorio usar la doble nacionalidad como indicador de riesgo. Un dato que parece técnico puede actuar como criterio de discriminación.
¿Tengo derecho a saber cómo me evalúa un algoritmo público?
En España el Tribunal Supremo ha afirmado, en el caso BOSCO, que el acceso a la información pública es un derecho constitucional y que cobra especial relevancia en decisiones automatizadas sobre derechos sociales. El alcance concreto depende de cada caso.
¿Qué pueden hacer las organizaciones para evitar estos problemas?
Documentar la base legal, probar el sistema con casos reales, mantener revisión humana efectiva, ofrecer vías de recurso y publicar una explicación comprensible. Son prácticas generales, no un trámite jurídico completo.
Guías relacionadas
- El Reglamento europeo de IA y la eficiencia energética: qué dice y qué no: Qué exige realmente el Reglamento (UE) 2024/1689 sobre energía: documentación, normalización y códigos voluntarios, y qué obligaciones no contiene.
- Greenwashing con IA: cómo detectarlo y evitarlo: Señales de afirmaciones ambientales engañosas sobre IA, preguntas para comprobarlas y buenas prácticas para no caer en el greenwashing en tu organización.
- Política de IA sostenible en una organización: contenido y gobernanza: Qué debe incluir una política de IA sostenible, quién la gobierna y cómo aplicarla en la práctica, con referencias al marco europeo y español.