Aula 17: Regressão linear simples
Média condicional, mínimos quadrados e diagnóstico
Materiais da aula
Slides
Média condicional, ajuste por mínimos quadrados, interpretação dos coeficientes, \(R^2\), resíduos e incerteza.
Material de apoio
Guia de estudo reproduzível, com derivações passo a passo, códigos executados, resultados, interpretações e exercícios.
Base de dados de apoio
Dados de 1.338 pessoas seguradas, com idade, despesas médicas, tabagismo e outras características. Licença CC0.
Objetivos
- interpretar a regressão como modelo para \(E[Y\mid X=x]\);
- distinguir parâmetro, estimativa, erro e resíduo;
- formular e derivar o estimador de mínimos quadrados;
- interpretar intercepto, inclinação, \(R^2\) e diagnósticos de resíduos;
- usar bootstrap e permutação para estudar a incerteza da inclinação.
Escopo da aula
A solução é obtida pela minimização convencional da soma dos resíduos ao quadrado, usando derivadas. A abordagem por projeções não será retomada, pois já foi estudada em outra disciplina. Máxima verossimilhança e gradiente descendente aparecem apenas como antecipação das próximas aulas.
Estudo de caso
A base Medical Insurance Cost permite transformar a associação entre idade e despesas em uma regra explícita para a média condicional. O tabagismo revela estrutura nos resíduos e ajuda a discutir por que uma reta simples pode ser estatisticamente informativa, mas insuficiente para previsões individuais.
Bibliografia da aula
Bibliografia principal
- James, G.; Witten, D.; Hastie, T.; Tibshirani, R. An Introduction to Statistical Learning, cap. 3.
- Diez, D.; Barr, C.; Çetinkaya-Rundel, M. OpenIntro Statistics, seção sobre regressão linear.
Bibliografia complementar
- Wasserman, L. All of Statistics, seções sobre regressão linear e mínimos quadrados.
- Bruce, P.; Bruce, A.; Gedeck, P. Practical Statistics for Data Scientists, capítulo sobre regressão.