Regressão de Mínimos Quadrados Ordinária

up:: 064 MOC Estatística em Economia

Dados os dados $\{(x_i,y_i){\}}_{i=1}^n$, em que deseja-se descrever o fenômeno $Y$ em função do fenômeno $X$ através de uma relação linear

$$y_i={\beta }_0+{\beta }_1{x}_i$$

a estimação dos parâmetros da reta descreverão a equação

$${\hat{y}}_i={\hat{\beta }}_0+{\hat{\beta }}_1{x}_i+{\hat{u}}_i$$

onde ${\hat{u}}_i$ é o erro em que se incorre ao fazer a regressão¹.

Hipóteses do modelo

• Assume-se que a média dos erros amostrais é $0$, i.e. $\mathbb{E}[{\hat{u}}_i|\{x_i\}]=0$
• Assume-se que a variância dos erros é a mesma para todo $i$, $Var({\hat{u}}_i|\{x_i\})={\sigma }^2$ (i.e. Homoscedasticidade)

A ideia da regressão de mínimos quadrados é de minimizar a soma dos erros quadráticos

$$E({\hat{\beta }}_0,{\hat{\beta }}_1)\equiv \sum _{i=1}^n{\hat{u}}_i^2=\sum _{i=1}^n({\hat{y}}_i-{\hat{\beta }}_0-{\hat{\beta }}_1{x}_i{)}^2$$

Estimadores de MQO

Através das derivadas de $E$ com relação aos ${\hat{\beta }}_i$ sendo $0$, obtemos que

$$\{\begin{array}{l}{\hat{\beta }}_0=\bar{y}-{\hat{\beta }}_1\bar{x}\\ {\hat{\beta }}_1=\frac{\sum _{i=1}^n(x_i-\bar{x})(y_i-\bar{y})}{\sum _{i=1}^n(x_i-\bar{x})(x_i-\bar{x})}\end{array}$$

A forma de ${\hat{\beta }}_1$ é algo do tipo

$${\hat{\beta }}_1=\frac{Cov(X,Y)}{Var(X)}$$

porém calculados para valores (covariância, variância) populacionais.

---

References

• repositorio.enap.gov.br/bitstream/1/4788/1/Livro_Regressão Linear.pdf

Footnotes

1. Seja pela quantidade insuficiente de dados, seja pela relação indevida entre $X$ e $Y$. ↩