Sobreajuste y validación

1 · Qué es

Un modelo sobreajustado aprende no solo la estructura de la población sino también el ruido específico de esta muestra. Ajusta muy bien a los datos con los que se lo construyó y falla con datos nuevos.

Llevado al extremo, un polinomio de grado $n-1$ pasa exactamente por $n$ puntos: $R^2 = 1$ y cero capacidad predictiva.

La curva completa

Veinte casos generados por $y = 1 + 2x - x^2 + \varepsilon$, ajustando polinomios de grado creciente:

Grado	$R^2$ entrenamiento	$R^2$ en datos nuevos	Error en datos nuevos
1	0,685	0,660	1,63
2 (el verdadero)	0,872	0,852	1,07
3	0,880	0,844	1,10
5	0,895	0,807	1,22
8	0,917	0,493	1,99
12	0,948	−173	36,94
19	0,999	−1,9 × 10¹³	12.114.875

2 · Cuándo aparece

Factor	Riesgo
Muchas variables respecto de los casos	alto
Muestra chica	alto
Selección de variables mirando los datos	alto
Modelos flexibles: polinomios, árboles, redes	alto
Pocas variables y $n$ grande	bajo

La regla de los 10 a 20 casos por variable es una defensa de primer orden.

3 · Cómo se detecta

Partiendo los datos: se ajusta con una parte y se evalúa con la otra.

	$n$	$R^2$
Entrenamiento	9.890	0,139
Prueba	4.239	0,173

Que el $R^2$ de prueba sea mayor que el de entrenamiento no es raro: es variabilidad muestral. Lo preocupante es lo inverso, y por un margen grande.

4 · Las estrategias de validación

Método	Cómo	Cuándo
Partición simple	70/30 o 80/20	$n$ grande
Validación cruzada en $k$ partes	rotar cuál es la de prueba	el estándar; $k = 5$ o 10
Leave-one-out	$k = n$	$n$ chico
Conjunto de validación separado	tres partes: entrenar, ajustar, probar	si se comparan muchos modelos
Validación externa	otra muestra, otro lugar, otro momento	la prueba definitiva

La fuga que más se comete: seleccionar antes de partir

Es el error de la lista de más abajo, y conviene verlo con números porque parece inofensivo. Cien casos, doscientas predictoras de ruido puro, donde el $R^2$ verdadero es cero. Se eligen las diez más correlacionadas con $Y$ y se valida con cinco pliegues:

Procedimiento	$R^2$ de validación
Elegir las diez mirando todos los datos, después validar	+0,200
Elegir las diez dentro de cada pliegue	−0,362
La verdad	0,000

5 · Lo que la validación no resuelve

No arregla un mal diseño. Si la muestra está sesgada, el modelo va a predecir bien dentro de ese sesgo y mal en la población real.

No garantiza validez externa. Un modelo validado en Buenos Aires puede fallar en Catamarca: la validación cruzada usa datos del mismo conjunto, con la misma estructura.

No dice nada sobre causalidad. Un modelo puede predecir excelentemente sin que ninguna de sus variables cause nada.

6 · El equilibrio sesgo-varianza

Modelo	Sesgo	Varianza	Problema
Demasiado simple	alto	baja	subajuste
Demasiado complejo	bajo	alta	sobreajuste
Equilibrado	moderado	moderada	—

El error de predicción se descompone en esos dos términos más el ruido irreducible. Elegir un modelo es elegir un punto en ese equilibrio, y por eso “el modelo que mejor ajusta” casi nunca es “el que mejor predice”.

7 · Errores frecuentes

• Evaluar el modelo con los datos de entrenamiento.
• Usar el conjunto de prueba para elegir y después reportarlo como validación.
• Hacer la selección de variables antes de partir los datos. La selección también tiene que estar dentro de la validación cruzada: sobre ruido puro, la diferencia es un $R^2$ de +0,20 contra −0,36.
• Creer que no sobreajustar es sinónimo de buen modelo. El subajuste pasa la validación sin que salte nada.
• Confiar en el $R^2$ como medida de capacidad predictiva.
• Partir datos con estructura —series de tiempo, conglomerados— al azar: hay que respetar la estructura.
• No fijar la semilla.

8 · En el software

# R — partición simple
set.seed(2026)
i <- sample(nrow(d), 0.7 * nrow(d))
ent <- d[i, ]; prue <- d[-i, ]

m <- lm(ingreso ~ horas + edad + mujer, data = ent)
pred <- predict(m, prue)
1 - sum((prue$ingreso - pred)^2) / sum((prue$ingreso - mean(ent$ingreso))^2)

# Validación cruzada
library(caret)
train(ingreso ~ horas + edad + mujer, data = d, method = "lm",
      trControl = trainControl(method = "cv", number = 10))

# Python
from sklearn.model_selection import train_test_split, cross_val_score
X_ent, X_pru, y_ent, y_pru = train_test_split(X, y, test_size=0.3,
                                              random_state=2026)
cross_val_score(modelo, X, y, cv=10, scoring='r2')

@misc{estadistica_ar_sobreajuste_y_validacion,
  author       = {Montivero, Jorge Luis},
  title        = {{Sobreajuste y validación}},
  year         = {2026},
  howpublished = {\url{https://estadistica.ar/conceptos/sobreajuste-y-validacion}},
  note         = {estadistica.ar. Consultado el \today},
  urldate      = {2026-09-27}
}