Fixed Effect vs Random Effect

📚Fixed Effect Model vs Random Effect Model 

✅ Fixed Effect  

•개별 관측치의 특성을 나타내는 변수(ai)를 추가한다. 이 변수는 독립변수(xit)와 상관관계가 있음 

• 각 관측치가 가지고 있는 개별적인 특징은 종속변수에 영향을 줄 수 있다. 따라서 이러한 특징들 중에서 time-invariant한 특징을 제거하기 위해서 FE 모델을 사용한다. 

 

•  FE모델에서는 ai를 추정해야 하는 모수(parameter)로 간주되고, 상수항이 패널 개체마다 서로 다르면서 고정되어 있다고 가정한다. 이러한 ai는 위 그림과 같이 차분하거나 기간평균 차분 등을 이용하면 사라지게 된다. 

 

• 대부분의 경우 RE 모델보다 FE 모델이 더 많이 사용된다. 

 

 

 

📌 Two-way fixed effect 

• The least squares dummy variable approach can be extended to include a time-specific effect.

• 특정 시간대의 특징 때문에 관측하지 못하는 효과가 생길 수도 있음  7년치 데이터가 있으면 6년치 더미 변수를 넣음
• 델타t 에는 i가 안 붙음  지역 상관없이 시간에 영향을 받는 것이기 때문 (알파i는 시간에 상관없이 지역에 영향 받음)

• This model is obtained from the preceding one by the inclusion of an additional T − 1 dummy variables. (One of the time effects must be dropped to avoid perfect collinearity—the group effects and time effects both sum to one.)

 

 

 

✅ Random effect 

• The random effects assumption i**s that the individual-specific effects are uncorrelated with the independent variables. 

 

•The αi’s are random variables with the same variance. 
•The value αi is specific for individual i. 
•The α’s of different individuals are independent, have a mean of zero, and their distribution is assumed to be not too far away from normality. 
•The overall mean is captured in β0.

 

•  개별 관측치를 나타내는 변수(ai)를 추가하는데, 이 개별 변수와 독립변수(xit)와 관계가 없음(독립이다).

ai는 추정하는 파라미터가 아니라 또다른 오차항처럼 여긴다.

 

• RE 모델에서 ai는 확률 변수로 가정한다. 

 

• If the random effects assumption holds, the random effects estimator is more efficient than the fixed effects estimator. Furthermore, the random effects model allow to estimate the effects of time-variant variables.

However, if this assumption does not hold, the random effects estimator is not “consistent.” 

 

• The random effects assumption is that the individual-specific effects are uncorrelated with the independent variables. 

• RE 모델은 time-variant 변수의 영향까지 측정할 수 있으나, 가정이 만족하지 않으면 random effect estimator는 일정하지 않게 나타난다. 

→ FE vs RE 를 결정하기 위해서는 Hausman Test를 사용한다. 

 

 

📌 하우스만 검정 

• FE모형과 RE 모형 중에서 어느 모형이 적절한지 선택하기 위해서, 설명변수와 개별효과 교란항 사이에 상관관계가 존재하는지 여부를 분석하는 방법. 

 

• 독립변수와 개별효과(오차항) 사이의 상관관계가 있다면 FE 모델, 상관관계가 없으면 RE 모델을 사용한다. 

 

 

 

---

📚  Reference

•  김원중의 경제학 이야기 - R강좌: 패널분석(이론 및 응용 - 고정효과, 임의효과, 하우스만검정

https://www.youtube.com/watch?v=W06lEpjj_P0