Regressão de Mínimos Quadrados Ordinária

up:: 064 MOC Estatística em Economia

Dados os dados $\{(x_i,y_i){\}}_{i=1}^n$, em que deseja-se descrever o fenômeno $Y$ em função do fenômeno $X$ através de uma relação linear

$$y_i={\beta }_0+{\beta }_1{x}_i$$

a estimação dos parâmetros da reta descreverão a equação

$${\hat{y}}_i={\hat{\beta }}_0+{\hat{\beta }}_1{x}_i+{\hat{u}}_i$$

onde ${\hat{u}}_i$ é o erro em que se incorre ao fazer a regressão¹.

Assume-se que a média dos erros amostrais é $0$, i.e. $\mathbb{E}[{\hat{u}}_i|\{x_i\}]=0$, além de que a variância dos erros é a mesma para todo $i$, $Var({\hat{u}}_i|\{x_i\})={\sigma }^2$ (i.e. Homoscedasticidade).

A ideia da regressão de mínimos quadrados é de minimizar a soma dos erros quadráticos

$$E({\hat{\beta }}_0,{\hat{\beta }}_1)\equiv \sum _{i=1}^n{\hat{u}}_i^2=\sum _{i=1}^n({\hat{y}}_i-{\hat{\beta }}_0-{\hat{\beta }}_1{x}_i{)}^2$$

Estimadores de MQO

Através das derivadas de $E$ com relação aos ${\hat{\beta }}_i$ sendo $0$, obtemos que

$$\{\begin{array}{l}{\hat{\beta }}_0=\frac{\sum _{i=1}^n(x_i-\bar{x})(y_i-\bar{y})}{\sum _{i=1}^n(x_i-\bar{x})(x_i-\bar{x})}\\ {\hat{\beta }}_1=\bar{y}-{\hat{\beta }}_0\bar{x}\end{array}$$

---

References

• repositorio.enap.gov.br/bitstream/1/4788/1/Livro_Regressão Linear.pdf

Footnotes

1. Seja pela quantidade insuficiente de dados, seja pela relação indevida entre $X$ e $Y$. ↩