Cómo elegir el tamaño de modelo de IA adecuado para cada tarea

Paso a paso

1. Descompón el trabajo en tipos de tarea
   Lista las tareas que encargas a la IA y sepáralas por dificultad real: clasificar mensajes, extraer campos de un formulario, reformular un texto, resumir, razonar con varios pasos o redactar con criterio. No todo requiere el mismo músculo. Para cada tipo anota la frecuencia, el coste de equivocarse y si hay una persona revisando después. Esta tabla es la base de la decisión, porque un fallo en una clasificación interna no pesa lo mismo que un error en una respuesta a un cliente.
2. Define qué significa «suficientemente bueno»
   Antes de comparar, fija el criterio de aceptación para cada tipo de tarea: porcentaje de aciertos exigido, errores tolerables, formato obligatorio, tono. Sin esta definición acabarás eligiendo el modelo que mejor impresiona, que no es el que mejor sirve. Escríbelo con números propios, por ejemplo «nueve de cada diez etiquetas correctas en la muestra». Incluye también el tiempo de respuesta admisible, porque un modelo menor suele contestar antes y eso mejora la experiencia.
3. Construye un banco de pruebas con casos reales
   Reúne entre treinta y cien ejemplos representativos de cada tipo de tarea, con datos anonimizados y la respuesta correcta anotada por una persona. Incluye casos fáciles, difíciles y ambiguos, porque ahí se separan los modelos. Guarda el banco como activo del equipo: servirá cada vez que cambie un modelo o una versión. Evita usar solo ejemplos inventados por ti mismo, ya que tienden a ser más limpios que la realidad y favorecen a los modelos pequeños de forma engañosa.
4. Compara del más pequeño al más grande
   Empieza por la opción más ligera y sube solo si no alcanza el umbral. Ejecuta el banco con cada opción, registra aciertos, errores típicos, tiempo y coste, y revisa a mano los fallos para entender su causa: a veces el problema es el prompt y no el tamaño. Mejorar la instrucción o añadir dos ejemplos puede hacer que un modelo menor llegue al nivel exigido. Subir de tamaño debe ser la última medida, no la primera reacción ante un resultado flojo.
5. Establece reglas de derivación por niveles
   Define un esquema escalonado: las tareas sencillas van a la opción ligera; si la respuesta no cumple una comprobación automática, o el caso se marca como complejo, se deriva a un modelo mayor o a una persona. Las comprobaciones pueden ser simples: formato válido, campos completos, longitud razonable, palabras prohibidas. Registra cuántas consultas se derivan. Si casi todas suben de nivel, el escalón inicial no sirve y solo añade pasos; si casi ninguna lo hace, quizá puedas bajar más.
6. Reevalúa periódicamente y documenta la decisión
   Los modelos cambian, los proveedores retiran versiones y tus tareas evolucionan. Repite el banco de pruebas cuando haya un cambio relevante y al menos una vez por trimestre. Documenta qué tamaño se usa para cada tarea, por qué, con qué resultados y quién lo aprobó. Esa trazabilidad ayuda también a responder a clientes o auditores que pregunten por criterios de eficiencia, y te evita reabrir discusiones cada vez que alguien proponga cambiar por simple entusiasmo.

Prompt de ejemplo

Adáptalo sustituyendo lo que va entre corchetes:

Actúa como evaluador técnico de modelos. Voy a darte [NÚMERO] casos de la tarea [TIPO DE TAREA] con su respuesta correcta. Para cada caso, genera tu respuesta siguiendo estas instrucciones: [INSTRUCCIONES DE LA TAREA]. Después compara tu respuesta con la correcta y devuelve una tabla con: número de caso, acierto sí o no, tipo de error si lo hubo y si la causa parece ser falta de contexto, ambigüedad del caso o límite de capacidad. Cierra con un resumen de aciertos totales y los tres errores más repetidos. No ajustes las respuestas correctas ni inventes casos nuevos. Casos: [PEGAR CASOS].

Copiar prompt

Qué esperar

Obtendrás una decisión razonada por tipo de tarea, con datos propios, y probablemente descubrirás que una parte importante del trabajo se resuelve con opciones más ligeras. No existe un tamaño universal: el resultado depende de tus tareas, tus criterios y tu tolerancia al error.

Cómo verificar el resultado

• Ejecuta el banco de pruebas dos veces con la misma opción y confirma que los resultados son estables y no dependen del azar.
• Revisa a mano una muestra de aciertos para confirmar que no son coincidencias o respuestas correctas por motivos equivocados.
• Comprueba que el banco incluye casos difíciles y ambiguos, no solo ejemplos limpios.
• Verifica que la regla de derivación detecta de verdad los fallos probando con casos que sabes que el modelo ligero resuelve mal.

Errores comunes

• Elegir siempre el modelo mayor «por si acaso», sin haber probado si uno menor cumple.
• Compararlos con unos pocos ejemplos favorables y concluir que son equivalentes.
• Atribuir un fallo al tamaño cuando el problema era un prompt ambiguo o falta de contexto.
• No volver a probar tras un cambio de versión y mantener durante meses una decisión basada en un modelo que ya no existe.

Riesgos y límites

Un modelo menor puede equivocarse con más frecuencia, y un error en una tarea sensible, como una respuesta médica, legal o financiera, tiene un coste que no compensa el ahorro de cómputo. Esta guía no sustituye la evaluación de riesgos de tu sector ni el asesoramiento de profesionales. Además, el consumo real depende del hardware y la red eléctrica del proveedor, y no siempre un modelo menor gasta menos en total: si falla y obliga a repetir, el balance puede invertirse. Evalúa siempre calidad, repeticiones y coste del error en conjunto, y no afirmes ahorros ambientales que no hayas podido sustentar con datos.

Preguntas frecuentes

Acciones relacionadas

Fuentes oficiales para profundizar

• Agencia Internacional de la Energía
• Agencia Europea de Medio Ambiente
• Ministerio para la Transición Ecológica y el Reto Demográfico
• Datos verificados de esta web, con su fuente y su cautela

Sigue aprendiendo

• Más prompts
• Entrenamiento frente a inferencia: dos fases, dos impactos
• La huella de carbono de la IA: cómo se calcula y por qué difieren las cifras
• Calculadoras de energía y CO2
• Impacto y ley: hechos verificados