비모수 통계

3. 비모수 통계의 특징

비모수 통계는 모수 통계에 비해 특정 가정을 덜 요구하며, 순위와 같은 서열 척도 데이터를 다룰 수 있다는 특징이 있다.

모수적 방법은 모집단에 대한 특정 가정(예: 정규 분포)을 전제로 하지만, 비모수적 방법은 이러한 가정에 덜 의존적이다. 따라서 문제에 대해 알려진 바가 적거나, 모수적 방법의 가정이 충족되지 않는 상황에서 유용하게 사용될 수 있다. 예를 들어, 사회 과학이나 심리학의 설문 조사 분석, 생태학 연구처럼 표본 수가 적은 경우에 비모수 통계가 널리 활용된다.^[11]

하지만, 모수 검정의 가정이 충족되는 경우에는 비모수 검정의 통계적 검정력이 상대적으로 낮다. 즉, 같은 수준의 신뢰도를 얻기 위해서는 더 많은 표본이 필요할 수 있다. 예를 들어 정규 분포를 따르는 모집단의 경우, t-검정이 가장 효율적이지만, 윌콕슨 부호 순위 검정을 사용해도 약 5% 정도 더 많은 표본을 사용하면 비슷한 결과를 얻을 수 있다.^[8]

3. 1. 장점

• 모수 통계분석에서 발생할 수 있는 오류를 줄일 수 있다.^[11]
• 질적 척도로 측정된 자료도 분석이 가능하다.^[11]
• 비교적 신속하고 쉽게 통계량을 구할 수 있으며, 결과 해석 및 이해 또한 용이하다.^[11]
• 많은 표본을 추출하기 어려운 경우에 사용하기 적합하다.^[11]
• 순위는 있지만 명확한 수치적 해석이 없는 선호도 평가 등에 사용될 수 있다.
• 측정 수준의 관점에서 서열 데이터를 생성한다.
• 모수적 방법보다 가정을 덜 하기 때문에 적용 가능성이 더 일반적이며, 알려진 바가 적은 상황에 적용될 수 있다.
• 가정을 덜 의존하기 때문에 더 강건하다.
• 모수적 방법의 가정이 충족되는 경우 비모수 검정은 통계적 검정력이 더 적다.
• 서열 척도를 분석할 때 자주 사용된다.
• 모집단의 분포 등, 모수적 방법에 비해 전제를 필요로 하지 않아 폭넓게 적용할 수 있다.
• 사회 과학 및 심리학에서의 설문 조사 분석 등에서 널리 사용된다.
• 모수 검정에 비해 "검정력"이 약하다. 즉, 모수 검정과 동일한 "신뢰도"를 얻으려면 더 많은 표본 수가 필요하다.
• 정규 분포의 경우, 최선은 모수 검정의 t-검정이지만, 비모수 검정의 윌콕슨 부호 순위 검정을 사용해도 필요한 데이터 수는 5% 정도 더 많은 표본이면 충분하다.^[8]
• 생태학 등 소수의 표본밖에 조사할 수 없는 경우에 많이 사용된다.

3. 2. 단점

4. 비모수 통계의 정의

"비모수 통계"라는 용어는 다음 두 가지 의미로 사용된다.

• 특정 확률 분포의 모수적 계열에 속하는 데이터에 의존하지 않는 기술
• 모델의 ''구조''가 고정되어 있다고 가정하지 않는 기술

4. 1. 분포 무관 기술

• 데이터가 주어진 확률 분포의 모수적 계열에서 추출되었다는 가정을 사용하지 않는 방법 (''분포 무관'' 방법)
• 모수에 의존하지 않고 표본에 대한 함수로 정의된 통계량 (예: 관측치의 서수 순위를 기반으로 하는 순서 통계량)

4. 2. 모델 구조 비고정 기술

• 비모수 회귀: 변수 간의 관계 구조는 비모수적으로 처리되지만, 모델 잔차(residual)의 분포에 대해서는 모수적 가정을 할 수 있다.
• 비모수적 계층적 베이즈 모델: 디리클레 과정을 기반으로 하는 모델과 같이 잠재 변수의 수를 데이터에 맞게 필요한 만큼 늘릴 수 있지만, 개별 변수는 여전히 모수적 분포를 따르며 잠재 변수의 증가율을 제어하는 과정조차도 모수적 분포를 따른다.

5. 비모수 모형

'''비모수 모형'''은 모형 구조가 미리 지정되지 않고 데이터로부터 결정된다는 점에서 모수적 모형과 다르다. "비모수적"이라는 용어는 이러한 모형이 매개변수가 완전히 없다는 의미가 아니라, 매개변수의 수와 특성이 유연하고 미리 고정되지 않다는 것을 의미한다.

5. 1. 종류

• 히스토그램은 확률 분포의 간단한 비모수적 추정 방법이다.
• 커널 밀도 추정은 확률 분포를 추정하는 또 다른 방법이다.
• 비모수 회귀 및 반모수 회귀 방법은 커널, 스플라인, 웨이블릿을 기반으로 개발되었다.
• 자료포락분석은 어떠한 분포적 가정도 없이 다변량 분석에 의해 얻어진 효율 계수와 유사한 효율 계수를 제공한다.
• KNN은 보이지 않는 인스턴스를, 그것과 가장 가까운 훈련 집합의 K개의 점을 기반으로 분류한다.
• 서포트 벡터 머신 (가우시안 커널 사용)은 비모수적 대용량 분류기이다.
• 다항 확률 분포를 사용한 적률법.

6. 비모수 통계 방법

모수 통계와 달리, 비모수 통계 방법은 평가되는 변수의 확률 분포에 대한 가정을 하지 않는 통계적 가설 검정을 위한 수학적 절차이다. 비모수 통계 방법은 서열 척도를 분석할 때 자주 사용된다. 예를 들어 레스토랑 인기 순위와 같이 순서는 있지만 구체적인 수치를 제공하지 않는 경우에 활용된다.

비모수적 방법은 모집단의 분포 등, 모수적 방법에 비해 전제를 필요로 하지 않기 때문에 폭넓게 적용할 수 있다. 따라서, 사전에 자세한 정보가 파악되지 않은 데이터나, 사회 과학 및 심리학에서의 설문 조사 분석 등에 널리 사용된다.

비모수 검정은 대응하는 모수 검정(만약 전제 조건이 충족된다면)에 비해 "검정력"이 약하다. 즉, 모수 검정과 동일한 "신뢰도"를 얻으려고 할 경우, 비모수적 방법에서는 더 많은 표본 수를 필요로 한다. 그러나 정규 분포의 경우, 최선은 모수 검정의 t-검정이지만, 비모수 검정의 윌콕슨 부호 순위 검정을 사용해도 필요한 데이터 수는 약 1.05배이며, 5% 정도 더 많은 표본이 필요할 뿐이다.^[8]

생태학 등에서 소수의 표본밖에 조사할 수 없는 경우 등, 비모수적 분석이 많이 사용된다. 다만, 모수적 방법의 대체 수단으로 비모수적 방법을 사용할 경우, 근본적인 귀무 가설이 전혀 다르다는 점에 주의해야 한다. 예를 들어 독립 두 집단의 t-검정의 귀무 가설은 ''μ''₁＝''μ''₂인 반면, 그에 대응하는 만-휘트니 U 검정에서는 ''P(x''_i>''y''_j)=0.5이다.

비모수 통계 방법은 다음과 같다:

6. 1. 중간값을 통한 비모수적 검정법

• 부호검정: 관측치들 간에 같다 혹은 크거나 작다는 주장이 사실인지 아닌지를 검정한다.^[12]
• 윌콕슨 부호순위검정: 크거나 작음을 나타내는 부호뿐만 아니라 관측치 간의 차이의 크기 순위까지를 고려하여 검정한다.^[12]
• 만-휘트니 U 검정
• 크러스컬-월리스 검정: 3개 이상 집단의 중앙값 차이를 검정한다.^[12]

6. 2. 기타 비모수적 검정법

• 유사성 분석
• 앤더슨-달링 검정: 표본이 주어진 분포에서 추출되었는지 검정한다.
• 통계적 부트스트랩 방법: 통계량의 정확도/표본 분포를 추정한다.
• 코크란의 Q: 0/1 결과가 있는 무작위 블록 설계에서 ''k''개 처리의 효과가 동일한지 검정한다.
• 코헨의 카파: 범주형 항목에 대한 평가자 간 일치도를 측정한다.
• 프리드먼 이원 분산 분석(반복 측정) 랭크별: 무작위 블록 설계에서 ''k''개 처리의 효과가 동일한지 검정한다.
• 켄달의 타우: 두 변수 간의 통계적 종속성을 측정한다.
• 켄달의 W: 평가자 간 일치도를 0과 1 사이로 측정한다.
• 콜모고로프-스미르노프 검정: 표본이 주어진 분포에서 추출되었는지, 또는 두 표본이 동일한 분포에서 추출되었는지 검정한다.
• 크루스칼-왈리스 일원 분산 분석 랭크별: 2개 이상의 독립적인 표본이 동일한 분포에서 추출되었는지 검정한다.
• 쿠이퍼 검정: 표본이 주어진 분포에서 추출되었는지 검정하며, 요일과 같은 주기적 변동에 민감하다.
• 로그랭크 검정: 두 개의 오른쪽으로 치우치고 검열된 표본의 생존 분포를 비교한다.
• 만-휘트니 U 검정 또는 윌콕슨 순위 합 검정: 두 표본이 주어진 대립 가설과 비교하여 동일한 분포에서 추출되었는지 검정한다.
• 맥네마 검정: 이분법적 특성과 일치하는 쌍의 피험자가 있는 2 × 2 연관표에서 행 및 열 주변 빈도가 동일한지 검정한다.
• 중앙값 검정: 두 표본이 동일한 중앙값을 가진 분포에서 추출되었는지 검정한다.
• 피트만의 순열 검정: 모든 가능한 레이블 재배열을 검사하여 정확한 ''p'' 값을 생성하는 통계적 유의성 검정이다.
• 순위 곱: 반복된 마이크로어레이 실험에서 차등적으로 발현된 유전자를 감지한다.
• 시겔-터키 검정: 두 그룹 간의 척도 차이를 검정한다.
• 부호 검정: 일치하는 쌍의 표본이 동일한 중앙값을 가진 분포에서 추출되었는지 검정한다.
• 스피어만 순위 상관 계수: 단조 함수를 사용하여 두 변수 간의 통계적 종속성을 측정한다.
• 제곱 순위 검정: 둘 이상의 표본에서 분산의 동일성을 검정한다.
• 터키-덕워스 검정: 순위를 사용하여 두 분포의 동일성을 검정한다.
• 왈드-울포비츠 런 검정: 일련의 요소가 상호 독립적인지/무작위인지 검정한다.
• 윌콕슨 부호 순위 검정: 일치하는 쌍의 표본이 다른 평균 순위를 가진 모집단에서 추출되었는지 검정한다.
• 범용 선형 적합 식별: 데이터, 이상값 및 노이즈 분포 모델과 독립적이며 누락되거나 제거된 데이터 대체를 사용하지 않는 방법.^[4]

7. 비모수 통계의 역사

비모수 통계의 초기 예시로는 중앙값(13세기 또는 그 이전, 에드워드 라이트가 1599년에 추정에 사용)과 존 아버스넛이 출생 시 인간 성비를 분석하는 데 사용한 부호 검정(1710)이 있다.^[5][6]

8. 비모수 통계 소프트웨어

• R 언어 - 각종 비모수 검정을 포함한 통계 분석을 할 수 있는 자유 통계 환경이다.
• js-STAR^[9] - 자유 분산 분석 도구이지만, χ²검정이나 직접 확률 계산, Q 검정 등도 수행할 수 있다.
• Excel NAG 통계 분석 애드인^[10] - Microsoft Excel에 비모수 통계 함수를 추가한다.

참조

_[1] 논문 All of Nonparametric Statistics https://link.springe[...] 2006
_[2] 논문 Preliminary testing: The devil of statistics? 2019
_[3] 서적 Kendall's Advanced Theory of Statistics: Volume 2A—Classical Inference and the Linear Model Edward Arnold (publisher) 1999
_[4] 논문 Universal Linear Fit Identification: A Method Independent of Data, Outliers and Noise Distribution Model and Free of Missing or Removed Data Imputation 2015-11-16
_[5] 서적 Practical Nonparametric Statistics Wiley
_[6] 서적 Applied Nonparametric Statistical Methods Chapman & Hall
_[7] 간행물 JIS Z 8101-1 : 1999 統計 − 用語と記号 − 第1部:確率及び一般統計用語 2.58 分布によらない検定 http://kikakurui.com[...] 日本規格協会
_[8] 서적 ノンパラメトリック法 (統計解析スタンダード) 朝倉書店
_[9] 웹사이트 js-STAR 2012 http://www.kisnet.or[...] 2013-08-09
_[10] 웹사이트 Excel NAG 統計解析アドイン http://www.nag-j.co.[...] 日本ニューメリカルアルゴリズムズグループ株式会社 2013-08-09
_[11] 서적 이훈영교수의 통계학 도서출판 청람
_[12] 서적 이훈영교수의 통계학 도서출판 청람