IA SostenibleEntrenamiento frente a inferencia: dos fases, dos impactos
Qué es entrenar y qué es hacer inferencia
Un modelo de IA no nace sabiendo. En la fase de entrenamiento se le muestran grandes cantidades de datos y se ajustan sus parámetros, una y otra vez, hasta que rinde bien en la tarea. Es un proceso intensivo que ocupa muchos equipos especializados durante un periodo largo.
La inferencia es lo que ocurre después: cuando alguien envía una pregunta, una imagen o un documento, el modelo ya entrenado produce una respuesta. Cada petición es pequeña, pero se multiplica por todos los usuarios y todos los días.
La comparación más útil es la de una fábrica: construir la fábrica es el entrenamiento y cada producto que sale es una inferencia. El coste total depende de ambas cosas.
Por qué sus perfiles de consumo son tan distintos
El entrenamiento es un evento: se concentra en el tiempo, se planifica y se puede localizar en un centro de datos elegido con criterio. Esa concentración permite, al menos en teoría, decidir dónde y cuándo ejecutarlo.
La inferencia, en cambio, es continua y está ligada a la demanda. Se reparte por muchos centros de datos, debe responder rápido y no siempre puede esperar a una hora con electricidad más limpia. Además, crece cuando el servicio se vuelve popular o se integra en más productos.
Por eso las dos fases piden medidas diferentes: en el entrenamiento importa planificar y elegir bien el momento y el lugar; en la inferencia, la eficiencia por petición y evitar usos innecesarios.
¿Cuál pesa más? Depende, y se sabe poco
No existe una respuesta universal. Si un modelo se entrena a un coste muy alto y luego lo usan pocas personas, el entrenamiento domina. Si se entrena una vez y atiende a millones de usuarios durante mucho tiempo, el acumulado de la inferencia puede superarlo.
El problema práctico es que los proveedores rara vez publican el reparto real. La Agencia Internacional de la Energía señala que los servidores acelerados, los típicos de IA, explican casi la mitad del aumento neto del consumo de los centros de datos hasta 2030 en su caso base, pero no desglosa cuánto va a cada fase.
Desconfía de quien afirme con seguridad que «todo el problema está en el entrenamiento» o «todo está en el uso». Ambas frases suelen ser simplificaciones.
Lo que se suele olvidar del entrenamiento
La cifra de un entrenamiento final puede engañar si no se cuenta el trabajo previo. Antes de la versión definitiva suelen hacerse pruebas, ajustes de configuración y ejecuciones que se descartan. Esos intentos consumen recursos y no aparecen en la cifra de la versión publicada.
También hay fases intermedias: preparar y filtrar datos, afinar el modelo para tareas concretas y evaluarlo. Cada una tiene su coste, mayor o menor según el caso.
Una forma honesta de preguntar es: «¿incluye esta cifra los experimentos fallidos, el ajuste posterior y la preparación de datos, o solo el entrenamiento final?». Si no se responde, la cifra es un mínimo, no un total.
Por eso, al evaluar un modelo, conviene pedir el consumo del entrenamiento final y también el total del proyecto.
Lo que se suele olvidar de la inferencia
Una sola respuesta parece insignificante, y justamente ahí está la trampa: el impacto de la inferencia es de escala. Depende de cuántas peticiones se hacen, de lo largas que son y de si el servicio está integrado de forma automática en otros productos que lanzan consultas sin que el usuario lo pida.
También depende del tipo de tarea. Generar imágenes o vídeo, procesar documentos largos o encadenar varios pasos de razonamiento suele requerir más cómputo que responder una pregunta corta, aunque la diferencia exacta varía mucho entre modelos y no conviene darla como cifra.
Por eso la eficiencia de uso, la elección del modelo adecuado a la tarea y evitar consultas redundantes tienen sentido, aunque cada gesto individual sea pequeño.
Qué se puede hacer en cada fase
Quien desarrolla modelos puede reutilizar modelos ya entrenados en lugar de empezar de cero, ajustar uno existente para una tarea concreta, documentar el consumo y planificar la ejecución en lugares y horas con electricidad más limpia. El Reglamento europeo de IA obliga a documentar el consumo energético, conocido o estimado, de los modelos de uso general, y su artículo 95 impulsa códigos de conducta voluntarios sobre eficiencia energética al diseñar, entrenar y usar la IA.
Quien usa la IA puede elegir un modelo proporcionado a la tarea, agrupar peticiones, evitar regenerar sin necesidad y no activar funciones automáticas que no aporten valor. Son medidas modestas, pero coherentes con el carácter repartido de la inferencia.
Cómo preguntar bien cuando oigas una cifra
Ante cualquier afirmación sobre el impacto de «la IA», haz tres preguntas:
- ¿Habla de entrenamiento, de inferencia o de ambos?
- ¿La cifra corresponde a un único modelo y a un periodo concreto?
- ¿Se indica el hardware, la ubicación y la fuente de electricidad?
Si no hay respuestas, la cifra no sirve para comparar. Y si alguien compara el entrenamiento de un modelo con el uso diario de otro sin explicarlo, está mezclando categorías distintas.
La regla de oro es no sumar ni comparar manzanas con peras: dos fases, dos escalas temporales y dos formas de reducir el impacto.
Un ejemplo: comparar el entrenamiento de un modelo enorme con un mes de uso de otro pequeño no dice nada sobre cuál es más sostenible. Para comparar de verdad hay que igualar la tarea, el periodo y el número de usuarios atendidos, y declarar lo que se deja fuera.
Preguntas frecuentes
¿Entrenar un modelo gasta más que usarlo?
Depende del modelo y de cuánto se use. Un entrenamiento intenso puede dominar si el uso es escaso, pero con millones de usuarios la inferencia acumulada puede superarlo. No hay una regla general ni datos públicos suficientes.
¿Qué es afinar un modelo?
Es continuar entrenando un modelo ya existente con datos específicos para una tarea. Suele requerir menos recursos que entrenar desde cero, aunque el coste real depende del tamaño del modelo y de la cantidad de datos.
¿Puedo reducir el impacto de la inferencia como usuario?
En parte. Elegir un modelo proporcionado a la tarea, formular bien la petición para no repetirla y evitar funciones automáticas innecesarias ayuda, aunque el efecto de cada gesto individual es pequeño y difícil de cuantificar.
Guías relacionadas
- Cuánta energía consume la IA: qué se sabe y qué no: Qué dicen las estimaciones sobre el consumo eléctrico de la IA y los centros de datos, dónde hay datos sólidos y dónde solo hay incertidumbre.
- La huella de carbono de la IA: cómo se calcula y por qué difieren las cifras: Cómo se estima la huella de carbono de la IA, qué cuentan los métodos y por qué dos estudios pueden dar resultados muy distintos sobre lo mismo.
- Eficiencia frente a efecto rebote en la IA: Por qué hacer la IA más eficiente no garantiza gastar menos energía: qué es el efecto rebote, cómo detectarlo y qué lo limita en la práctica.