모수, 큰 수의 법칙, 그리고 중심극한정리

모수, 큰 수의 법칙, 그리고 중심극한정리에 대하여

TL; DR

• 모수는 모집단의 수가 아님
• 큰 수의 법칙은 분포와는 관계가 없음
• 중심극한정리는 분포 자체를 바꾸는 게 아님

모수 (Parameter)

유독 마케팅에서 ‘모수가 충분하다’ 라거나, ‘모수가 크다’, ‘모수가 적다’ 등으로 모수를 ‘모집단의 수’ 를 줄인 말인 것처럼 쓰는 경우를 보셨을 겁니다. 엄밀히 따지면 이는 틀린 표현입니다. 일단, 통계학에서의 모수는 Parameter 이며 이는 모집단의 평균, 분산, 표준편차 등의 특성치를 일컫는 단어입니다.

그렇다면 모집단은 뭘까요? 모집단(Population)은 우리가 관심을 가지고 있는 집단입니다. 예를 들자면, ‘대한민국 국민의 평균 연령’ 을 알고 싶다고 하면 여기서 모집단은 ‘대한민국 국민’ 이 되고, 우리가 알고 싶어하는 모수는 연령의 평균이니까 ‘모평균’ 인 것이죠.

여기서 또 한 가지 문제가 생깁니다. ‘대한민국 국민’ 은 구체적인 것 같지만 꽤나 추상적인 개념입니다. 지금 이 글을 읽고 있는 순간에도 아기가 태어나고, 누군가는 죽을테니까 정확한 숫자를 파악하는 것은 불가능합니다. 그렇기 때문에 우리는 표본(Sample) 을 추출하여 표본의 통계량으로 모집단의 특성치들을 추정하는 것이죠.

말이 길어졌지만, 모수는 모집단의 수가 아니라 모집단의 특성치라는 것을 기억하시면 통계 용어를 보다 올바르게 쓰실 수 있을 겁니다.

큰 수의 법칙 (Law of Large Numbers)

표본 이야기가 나왔으니 큰 수의 법칙 또는 대수의 법칙은 표본의 크기가 충분히 크다면 그때의 표본 평균은 모평균에 충분히 가까워진다는 것입니다. 큰 수의 법칙(저는 대수의 법칙이라고 배웠는데 옛날 사람인 거더라고요)은 표본 또는 모집단의 분포와는 관련이 없습니다. 만약 ‘정규분포’ 가 생각이 나신다면 아래에 나올 중심극한정리와 헷갈리신 것일 겁니다.

큰 수의 법칙의 예를 들어보면, 6면의 주사위를 던지는 시행을 한다고 생각해보세요. 주사위는 1부터 6까지 눈이 있고, 이상적인 주사위라면 각 눈이 나올 확률은 $1/6$ 으로 동일해야합니다. 그러므로 우리가 주사위를 던졌을 때의 기댓값은 3.5 가 되겠죠. 주사위를 1번 던지는 시행에서는 시행의 평균값이 나온 눈의 값이랑 동일하니 3.5와는 가까울 수도(3, 4) 멀 수도(1, 6) 있습니다. 하지만 실험에서 시행의 횟수(표본의 수가 되겠죠)를 늘려서 표본의 평균을 구하면 3.5에 점점 가까워질 겁니다.

중심극한정리 (Central Limit Theorem)

중심극한정리는 통계학에서 가장 많이 사용되는 개념 중의 하나이면서, 가장 많이 오용되는 개념 중의 하나라고 생각합니다. 얼핏 들으면 꽤나 유용하고, 솔깃한 제안을 해주니까요.

동일한 확률분포를 가진 독립 확률 변수 n개의 평균의 분포는 n이 적당히 크다면 정규분포에 가까워진다는 정리이다.

위의 설명은 한국어 위키피디아에 적힌 중심극한정리 문서의 일부입니다. 한 가지 명시적으로 표시되지 않은 것이 있는데, ‘n개의 평균의 분포’ 이기 때문에 이를 반복해야한다는 것입니다. 즉, 6면 주사위를 20번 던지는 실험은 여러 번을 시행하고, 각 시행에서 나온 평균 점수의 분포를 그렸을 때 그 표본 평균의 분포가 정규분포에 가까워진다는 것입니다.

‘중심극한정리에 의해서 정규분포를 따르니까’ 라고 쓸 수 있는 곳은 표본 평균의 분포를 이용할 때만 가능한 표현인 점을 명심하시면 좋을 것 같습니다.

마치며

큰 수의 법칙과 중심극한정리를 설명할 때 표본의 크기와 시행의 횟수가 커지면 어떻게 바뀌는지까지 보여드리면 훨씬 더 이해가 쉬웠을 것 같지만, 해당 자료를 찾는 것이 크게 어렵지 않을테니 다른 글도 보시면서 보다 확실한 개념을 잡으실 겸 찾아보시는 것을 추천드립니다.

읽어주셔서 감사합니다.

References

• DeepAI: Law of Large Numbers
• DeepAI: Central Limit Theorem
• 위키피디아: 중심극한정리

데이터분석가 채용 공고

현재 제가 일하고 있는 ODK Media Inc. 에서 3년 이상의 경력을 가지고 있는 데이터분석가를 채용 중입니다. 보다 자세한 내용은 아래 채용 공고에서 확인하실 수 있습니다. 궁금하신 점은 제 소셜미디어나 이메일로 여쭤보셔도 됩니다 (빨리 댓글을 달아야 할텐데요…).

• 데이터분석가
• 백엔드 엔지니어

• 2023 5
• 2022 1
• 2020 7
• 2019 24