ANOVA y regresión

Notas · 1

Pensada para 90 a 120 minutos. Es la última clase de contenidos nuevos: dos herramientas que extienden lo de la semana pasada. El ANOVA compara más de dos medias; la regresión pone a prueba la recta de la semana 4.

Notas · 2

Porque con cinco regiones hay 10 pares, y con 10 pruebas al 5 % la probabilidad de al menos un falso positivo, si no hubiera ninguna diferencia, ronda 1 − 0,95¹⁰ = 40 %. Es el problema de las comparaciones múltiples de la semana pasada.

El ANOVA hace una sola prueba para todas las medias juntas. Si rechaza, recién ahí se buscan los pares que difieren, con un método que controla el error.

Notas · 3

Las dos primeras partes y la tercera son el ANOVA; las dos últimas, la regresión. Las dos son casos del mismo modelo lineal, aunque eso queda para un curso siguiente.

Notas · 5

Antes de la prueba, el gráfico: los seis aglomerados de la Patagonia están por debajo del 30 %, y de las otras regiones solo dos, Bahía Blanca y Santa Rosa. Las otras cuatro regiones se superponen bastante.

Gran Catamarca, en el NOA, tiene 39,67 %: cuatro de cada diez asalariados sin aportes.

Notas · 6

H₁ no dice que todas sean distintas, ni cuál lo es: solo que no son todas iguales. Eso es lo que contesta el ANOVA, y por eso después hace falta el post hoc.

La media general es el promedio de los 30 aglomerados, no el de las cinco medias: pesa cada región por su cantidad de aglomerados.

Notas · 7

Se llama análisis de la varianza aunque compara medias: lo hace comparando dos estimaciones de la varianza.

Volver al gráfico: las franjas separadas y los puntos apretados dentro de cada una dan un F grande. Con las mismas medias pero puntos muy dispersos, el F sería chico.

Notas · 9

Las dos sumas salen de la tabla de resúmenes: no hace falta tener los datos. Es lo que permite completar una tabla ANOVA a partir de lo que publica un artículo.

La suma de cuadrados dentro es la misma idea que la varianza combinada de la prueba t: cada grupo aporta su varianza, pesada por sus grados de libertad.

Notas · 10

Los grados de libertad: entre, la cantidad de grupos menos uno (5 − 1 = 4); dentro, la cantidad de datos menos la de grupos (30 − 5 = 25). Suman 29, los del total.

Los cuadrados medios son varianzas: el de dentro estima la varianza común de los grupos; el de entre, también, pero solo si H₀ es cierta. Si las medias difieren, el de entre crece.

El cuadrado medio dentro, 30,84, es una varianza: su raíz, 5,55 puntos, es el desvío típico de un aglomerado alrededor de la media de su región.

Notas · 11

Como la chi-cuadrado, la F es asimétrica, solo toma valores positivos, y la prueba es de cola derecha. Tiene dos grados de libertad: los del numerador y los del denominador.

El p-valor exacto es de 1,2 en un millón. En la tabla F alcanza con ver que 16,10 supera largamente al valor crítico, aun al del 1 %.

Notas · 12

Eta cuadrado es la proporción de la variabilidad total que está entre los grupos. Es la misma idea que el R² de la regresión, que aparece al final de la clase.

Acá es grande: saber la región de un aglomerado dice mucho de su informalidad laboral. Con miles de datos, un F significativo puede venir con un η² de 0,01, y ahí la diferencia importa poco.

Notas · 14

Es la misma lógica de la semana pasada: el ANOVA de Welch es al ANOVA lo que la prueba de Welch es a la t con varianza combinada.

Con grupos chicos, que una prueba de supuestos no rechace no quiere decir que el supuesto se cumpla: puede ser falta de potencia. Por eso conviene mirar los desvíos (2,3 a 7,0) y, ante la duda, usar el método robusto.

La independencia es la más importante y la que ninguna prueba revisa: datos repetidos de las mismas personas, por ejemplo, necesitan otro análisis.

Notas · 15

La mínima diferencia significativa de cada par es q · √(CMD / 2 · (1/nᵢ + 1/nⱼ)), con q = 4,15 de la tabla del rango estudentizado para 5 grupos y 25 grados de libertad. Un ejemplo: Cuyo y Pampeana difieren en 10,88 puntos; la mínima diferencia significativa es 4,15 · √(30,84 / 2 · (1/3 + 1/11)) = 10,61. Como la diferencia la supera, por poco, difieren.

La Patagonia difiere de las otras cuatro, y Cuyo de la Pampeana. El NOA, el NEA y Cuyo no se distinguen entre sí: con estos datos, el norte y Cuyo forman un bloque de informalidad alta.

Tukey controla la probabilidad de al menos un falso positivo en las diez comparaciones juntas: por eso su umbral es más exigente que el de una t suelta. La q sale de la tabla del rango estudentizado.

Notas · 17

Menos: unos 5,4 cm, según la recta de la próxima diapositiva. Los hijos de padres altos son altos, pero en promedio menos extremos que sus padres. Con los padres bajos pasa lo mismo, al revés.

Galton lo llamó «regresión hacia la mediocridad», y de ahí viene el nombre de la técnica. No es una fuerza biológica: pasa siempre que la correlación no es perfecta, y también al revés, de los hijos a los padres.

Notas · 18

Galton midió en pulgadas, y anotó casi todas las alturas de los padres redondeadas a la media pulgada: por eso los puntos forman columnas. Se toma un solo hijo por familia porque los hermanos se parecen entre sí, y dos hermanos no son dos observaciones independientes.

Antes de cualquier cuenta, el gráfico: una nube alargada que sube, sin curvas y con un ancho parecido en todo el recorrido. Una recta parece razonable.

Notas · 19

La pendiente es menor que 1 porque r es menor que 1 y los dos desvíos son parecidos: esa es la regresión a la media. Con sy = sx, la pendiente sería exactamente r.

Las medias de padres e hijos son casi iguales (175,5 y 176,1): la regresión a la media no achica la variabilidad de una generación a la otra. Los hijos de los extremos se acercan al centro, y los de padres del centro se reparten hacia los dos lados.

Notas · 20

La semana 4 la recta describía una nube. Ahora es un modelo para la población: β₀ y β₁ son parámetros, y b₀ y b₁, sus estimadores. Cambian de muestra en muestra, como la media muestral.

ε es todo lo que la altura del padre no explica: la madre, la alimentación, el azar genético. Los supuestos son sobre ε, y se revisan con los residuos, que son sus estimaciones.

Notas · 22

Los grados de libertad son n − 2 porque se estimaron dos parámetros, la ordenada y la pendiente.

Es la misma prueba que la de la correlación: H₀: ρ = 0 da el mismo t y el mismo p. La salida de cualquier software trae esta prueba en la fila de la pendiente.

sₑ sale de los resúmenes: sₑ = sy · √((1 − r²) · (n − 1) / (n − 2)) = 5,85. En la práctica lo da el software, como «error estándar residual».

Notas · 23

Por cada 10 cm más del padre, el hijo mide en promedio entre 4,0 y 6,7 cm más. El intervalo no contiene al 0, que es lo que dijo la prueba, y tampoco al 1: la regresión a la media no es casualidad de la muestra.

El 74 % restante es lo que la recta no explica. Para un padre dado, los hijos se reparten con un desvío de unos 5,8 cm alrededor de la recta.

Notas · 24

Así tiene que verse un gráfico de residuos: una franja horizontal alrededor del cero, sin curvas, sin embudos y sin puntos muy alejados. Los supuestos son razonables.

El gráfico de residuos agranda lo que en la dispersión original es difícil de ver, porque saca la tendencia y deja solo lo que sobra.

Notas · 25

Los mismos resúmenes, la misma correlación, la misma recta y, aunque no está en la tabla, el mismo t para la pendiente. Si solo se mira la salida del software, los cuatro conjuntos son iguales.

Que adivinen cómo son los gráficos antes de verlos. El I es una nube común; los otros, no.

Notas · 26

Los puntos siguen una curva perfecta, y la recta pasa por debajo en el centro y por arriba en los extremos. Los residuos dibujarían una U invertida: el supuesto de linealidad no se cumple.

Un r de 0,82 no garantiza que la relación sea lineal: solo dice que una recta resume bastante bien. Acá una parábola la resumiría sin error.

Notas · 27

Diez puntos sobre una recta exacta y uno muy alejado, que tira de la recta hacia arriba. Sin él, la pendiente sería más chica y r valdría casi 1.

En el conjunto IV es peor: todos los x valen 8 salvo uno, y ese único punto decide toda la recta. Un punto así se llama influyente.

Notas · 28

Siempre, antes de leer los p-valores de una regresión, el gráfico de residuos. Las pruebas de la pendiente suponen que el modelo es razonable; si no lo es, los números no significan lo que parecen.

En el práctico, la regresión del ingreso sobre la edad muestra uno de estos patrones. Que lo encuentren ellos.

Notas · 29

Para el práctico: las tablas F, t y del rango estudentizado, y calculadora. El ejercicio con software usa la EPH. Las semanas que siguen son de evaluación.