우리가 살고 있는 세상의 모습은 아래와 같다.

참값 β(β₀, β₁ 각각)는 세상에 하나뿐 — 전체를 볼 수 없어 계산 불가. 오차항 u_i도 끝까지 관측되지 않음.

표본집단이 바뀌면 β̂(β̂₀, β̂₁ 각각)도 바뀜 — 표본집단마다 다른 값이 나옴. 잔차 û_i는 데이터로 직접 계산 가능.

목표는 알 수 없는 β₁을 표본으로 구한 β̂₁으로 짐작하는 것. 아래 시뮬레이션의 빨간 실선이 모집단 식, 파란 실선이 표본 식에 해당함.

직관적 예시

전부 다 확인하는 건 불가능하거나 낭비 → 일부(표본)만 보고 전체(모집단)를 추측하는 것이 통계·회귀분석의 출발점.

회귀분석(Regression Analysis)은 변수 간의 관계를 수식으로 나타내고, 그 관계를 이용해 예측·추론하는 통계 방법론입니다. 단순회귀는 독립변수가 딱 하나인 가장 단순한 형태로, 모든 계량경제학의 출발점이 됩니다. 좌변이 결과, 우변이 원인이며 — X가 Y에 미치는 인과적 영향을 파악하는 것이 목적입니다.