29가지 통계 개념 - 독립성 가정

여러 통계 검정과 모형에서 사용되는 독립성 가정에 대해 알아보자.

독립성 가정이란 무엇인가?

f-test

독립성 가정은 여러 통계 검정에 기반이 된다.

독립성 가정은 t-검정, ANOVA 검정, 그리고 여러 다른 통계적 검정에 사용된다. 이는 모집단에서 찾을 수 있는 것을 반영하는 결과를 표본에서 얻는데에 필수적이다. 이 가정을 위반한다면 데이터에 있는 아주 작은 종속성이라도 (찾을 수 없을지도 모르는) 굉장히 큰 편향을 낳을 수 있다.

종속성 이란 데이터 사이의 연결을 의미한다. 예를 들어, 수입은 일하는 시간에 의존한다. 독립성 이란 이러한 관계가 없다는 뜻이다. 수입과 아침에 먹은 음식 사이에는 아무런 관계가 없듯이 말이다. 독립성 가정은 데이터들이 그 어떠한 관계도 없다는 것이다(적어도 모형에 고려하지 않은 것들 중에는).

사실 여기에는 두 가지 가정이 있다:

  • 집단 사이의 관측치는 독립적이어야 한다. 즉, 두 집단은 서로 다른 사람들로 구성되어 있다는 뜻이다. 한 사람이 두 집단 모두에 속해있다면 결과를 편향되게 만들 수 있기 때문에 별로 원하는 상황이 아닌 것이다.

  • 각 집단 내의 관측치 들은 독립적이어야 한다. 한 집단 안의 둘 이상의 데이터들이 어떤 형태로든 관계가 있다면, 이 또한 편향된 결과를 낳을 수 있다. 예를 들어, 사람들이 먹은 도넛의 갯수를 매일 아침 9시, 10시, 11시에 기록한다고 하자. 이 경우 사무직 종사자들이 하루 칼로리의 25%를 도넛으로 섭취한다는 결론을 내릴 수도 있다. 하지만 이 경우 사람들이 같이 먹을 도넛들을 가지고 들어오는 경우가 많으므로 조사 시간을 너무 가깝게 잡은 실수를 저질렀다고 볼 수 있다(이는 관측치들을 종속적으로 만든다). 만약 측정 시간을 오전 7시, 정오, 오후 4시로 했다면 측청치들을 독립적으로 만들 수 있을 것이다.

독립성 가정을 위반하면 어떻게 될까?

쉽게 말해서, 독립성 가정을 위반하면 모든 결과물이 틀릴 수도 있는 위험에 빠진다고 할 수 있다.

독립성 가정을 위반하지 않으려면 어떻게 해야할까?

안타깝게도 데이터를 보고, 그 데이터가 독립적인지 아닌지를 판단하는 것은 일반적으로 어렵거나 불가능하다. 독립성 가정을 위반하지 않으려면 수집하는 과정에서부터 독립적인 것을 확인해야한다. 해당 분야의 전문가가 아니라면 이는 어려울 수 있다. 하지만, 그 분야의 이전 연구를 살펴보고 데이터가 수집된 방법을 확인하도록 하라.

출처

Assumption of Independence

2023

영어랑 친해지는 방법

7 minute read

가장 좋은 방법은 당연히 영어 밖에 사용하지 못하는 환경에 강제로 처해지는 것이겠지만 그것이 어려우니…

Back to top ↑

2022

Back to top ↑

2020

사내 스터디에 대한 회고

2 minute read

회사 서비스의 추천 시스템을 개선하기 위해 팀 내에서 (아직까진 두 명이긴 하지만) 지난 두 달 동안 스터디를 진행했습니다. 얼마 전 두 번째 스터디가 끝났고 이에 대한 회고를 해보려고 합니다.

Back to top ↑

2019

GitHub Pages Jekyll Blog 에 MathJax 추가하기

3 minute read

이 글은 MathJax 를 GitHub Pages Jekyll blog 에 추가하는 방법을 다룬다. 이탤릭체로 된 부분은 본문에는 없고 제가 따라하면서 고치거나 추가한 부분이니 참고하세요.

GitHub 블로그에 Jupyter notebook 올리는 방법

4 minute read

여러분의 GitHub 블로그에 Jupyter notebook 을 바꿔서 올릴 수 있도록 도와줄 글입니다. 직접 바꾸는 방법은 1회성 글들을 위해서 추가했고, 변환 과정과 파일 이동, 그리고 여러분의 블로그에 올리는 것까지 한 번에 할 수 있는 자동화 bash 를 만드는 자세한 방법...

Back to top ↑